Der Nachlass von Suzanne Adams reichte am Donnerstag beim Obersten Gerichtshof von San Francisco eine Klage gegen OpenAI ein und wirft dem Unternehmen Produktfehler, Fahrlässigkeit und unrechtmäßige Tötung vor. In der Beschwerde wird behauptet, dass der ChatGPT-Chatbot von OpenAI das wahnhafte Denken von Stein-Erik Soelberg, einem 56-jährigen ehemaligen Technologie-Marketingdirektor aus Connecticut, verstärkt und seine Paranoia auf seine 83-jährige Mutter gerichtet habe.
Soelberg schlug Adams zu Tode und starb später durch Selbstmord. Das Wall Street Journal berichtete im August, dass es sich bei dem Fall möglicherweise um den ersten dokumentierten Mord an einer in Schwierigkeiten geratenen Person handelt, die sich intensiv mit einem KI-Chatbot beschäftigt hatte. Soelbergs Instagram- und YouTube-Beiträge zeigten, dass er ChatGPT nutzte. In der Klage wird behauptet, der Chatbot habe seine Wahnvorstellungen angeheizt, anstatt sie in Frage zu stellen.
In der Beschwerde heißt es, dass ChatGPT seine Bedenken bekräftigte, als Soelberg seine Befürchtungen vor Überwachungs- und Mordanschlägen äußerte. Darin hieß es, er werde „zu 100 % überwacht und ins Visier genommen“ und „zu 100 % berechtigt, alarmiert zu sein“. Die Akte beschreibt dies als ChatGPT, der Soelbergs Mutter effektiv „ein Ziel auf den Rücken legt“.
Der Mord könnte ausgelöst worden sein, als Soelberg bemerkte, dass im Haus seiner Mutter ein Drucker blinkte, als er vorbeiging. Laut der Klage kam ChatGPT, das damals das GPT-4o-Modell nutzte, zu dem Schluss, dass der Drucker seine Bewegungen überwachte, auch zur „Verhaltenskartierung“. Der Chatbot deutete außerdem an, dass seine Mutter entweder eine aktive Verschwörerin zum Schutz des Druckers war oder darauf konditioniert worden war, ihn eingeschaltet zu lassen.
Der Nachlass fordert ein Schwurgerichtsverfahren, zusätzliche Schutzmaßnahmen für ChatGPT und nicht näher bezeichneten Schadensersatz. Als Mitangeklagter wird Microsoft, der wichtigste Partner und Investor von OpenAI, genannt. In der Beschwerde wird außerdem behauptet, dass OpenAI unter Berufung auf eine separate Vertraulichkeitsvereinbarung den Zugriff auf Soelbergs vollständigen Chatverlauf verweigert.
OpenAI antwortete: „Dies ist eine unglaublich herzzerreißende Situation, und wir werden die Unterlagen prüfen, um die Details zu verstehen. Wir verbessern weiterhin die Schulung von ChatGPT, um Anzeichen von psychischem oder emotionalem Stress zu erkennen und darauf zu reagieren, Gespräche zu deeskalieren und Menschen zu realer Unterstützung zu führen. Wir verstärken auch weiterhin die Reaktionen von ChatGPT in sensiblen Momenten und arbeiten eng mit Klinikern für psychische Gesundheit zusammen.“
Das Unternehmen ist auf neuere GPT-5-Modelle umgestiegen, um die Speichelleckerei zu reduzieren. OpenAI arbeitet mit über 170 Experten für psychische Gesundheit zusammen, um den Chatbot darin zu schulen, die Belastung der Benutzer zu erkennen und angemessen zu reagieren.
OpenAI sieht sich mit einer wachsenden Zahl von Klagen konfrontiert, in denen behauptet wird, dass ChatGPT problematische Benutzer zu Selbstmord und psychischen Zusammenbrüchen treibt. Die Staatsanwaltschaft hat kürzlich einen Mann aus Pittsburgh angeklagt, weil er mehrere Frauen verfolgt hat, und behauptet, er sei von ChatGPT ermutigt worden.
Ziff Davis, die Muttergesellschaft von PCMag, reichte im April 2025 eine Klage gegen OpenAI wegen Urheberrechtsverletzung bei der Schulung und dem Betrieb seiner KI-Systeme ein.
