KI-Desaster bei Anysphere
Das KI-Startup Anysphere ist wieder einmal in die Schlagzeilen geraten, nachdem sein KI-Tool für Verwunderung in der Branche gesorgt hat. Erst vor wenigen Wochen hatte die Coding-KI Cursor eine Aufforderung verweigert und dem Nutzer erklärt, er solle den gewünschten Code doch selbst zu Ende schreiben.
Der aktuelle Aufreger
Während Anysphere diesen Vorfall mit einem falsch verwendeten Shortcut erklären konnte, ist der aktuelle Aufreger deutlich peinlicher. Schließlich generiert das KI-Startup – vor allem mit Cursor – pro Jahr 100 Millionen Dollar Umsatz und soll in einer laufenden Finanzierungsrunde mit zehn Milliarden Dollar bewertet worden sein.
Was ist passiert?
Ein Cursor-Nutzer berichtete Mitte April 2025 via Hacker News und Reddit über einen mysteriösen Fehler, wegen dem er bei Wechsel der Geräte aus der Anwendung geschmissen werde. Seine Anfrage an den Support brachte ihm eine seltsam erscheinende Antwort. Ein „Sam“ schrieb ihm darin, dass das Ausloggen ein „zu erwartendes Verhalten“ sei, da es ja schließlich eine neue Login-Richtlinie gebe. Das Problem: Eine solche angeblich neue Login-Richtlinie – nur ein Gerät pro Account – gibt es gar nicht.
KI-Chatbot halluziniert falsche Antwort
Hinter der falschen Antwort steckte ein KI-Chatbot, der sich dies herbeihalluziniert haben dürfte. Die angebliche Begründung war also vollkommen ausgedacht. Das Ganze schlug hohe Wellen in der IT-Community und soll dafür gesorgt haben, dass zahlreiche Nutzer ihre Cursor-Abos kündigten. Beklagt wurde zudem die fehlende Transparenz. Denn der Hinweis, dass es sich bei „Sam“ um einen KI-Chatbot handelte, fehlte.
Reaktion des Startups
Die Aufregung brachte letztlich Anysphere-Mitgründer Michael Truell dazu, sich persönlich für „das Durcheinander“ zu entschuldigen. Der Fehler, aufgrund dessen Nutzer ausgeloggt würden, werde untersucht. Die Entschuldigung dürfte aber etwas zu spät gekommen – und die Erklärung für den halluzinierenden Chatbot zu kurz ausgefallen sein.
Was Startups aus dem KI-Chaos lernen können
Für Cassie Kozyrkov, eine KI-Beraterin, die früher bei Google gearbeitet hat, zeigt das Desaster drei Dinge, die KI-Startups künftig beachten sollten. Zum ersten hätte das Chaos vermieden werden können, wenn die Führungskräfte besser verstanden hätten, dass KI nun einmal Fehler macht. Zudem sei es wichtig zu verstehen, dass eine KI keine Verantwortung für Fehler übernimmt – dies liege wiederum bei den Führungskräften beziehungsweise der gesamten Firma. Und: „Nutzer hassen es, von einer Maschine hereingelegt zu werden, die sich als Mensch ausgibt“, so Kozyrkov.
Fazit
Das KI-Desaster bei Anysphere zeigt, dass auch erfolgreiche Startups nicht immun gegen Fehler sind. Es ist wichtig, dass Führungskräfte und Entwickler die Grenzen und Möglichkeiten von KI-Tools verstehen und transparent mit ihren Nutzern kommunizieren. Nur so können sie das Vertrauen ihrer Kunden bewahren und langfristig erfolgreich sein. Durch die Analyse des Desasters können andere Startups wichtige Lektionen lernen und ähnliche Fehler vermeiden.
