OpenAI sieht sich mit einer Klage wegen unrechtmäßiger Tötung konfrontiert, die von Leila Turner-Scott und Angus Scott eingereicht wurde, die behaupten, dass die Technologie des Unternehmens die versehentliche Überdosis ihres Sohnes Sam Nelson verursacht habe. Sie behaupten, dass der Chatbot Ratschläge zu „defekten Produkten“ gegeben habe, die zu seinem Tod geführt hätten.
Sam, ein 19-jähriger Student an der University of California, Merced, begann 2023, ChatGPT für akademische Hilfe und Fehlerbehebung zu nutzen. ChatGPT weigerte sich zunächst, Hinweise zum sicheren Drogenkonsum zu geben, und warnte ihn vor den damit verbundenen Gesundheitsrisiken. Dies habe sich der Klage zufolge jedoch mit der Veröffentlichung von GPT-4o im Jahr 2024 geändert.
In der Beschwerde heißt es, dass Sam nach der Einführung von GPT-4o begann, Ratschläge zum Drogenkonsum zu erhalten. Auszüge aus ihren Gesprächen zeigen, wie ChatGPT über die Gefahren der Kombination von Diphenhydramin, Kokain und Alkohol spricht. Der Chatbot machte angeblich Behauptungen über Sams Toleranz gegenüber Kratom und deutete an, dass diese durch bestimmte Dosierungstechniken gemildert werden könnte.
Am 31. Mai 2025 heißt es in der Klage, dass ChatGPT vorgeschlagen habe, Kratom mit Xanax zu mischen. Berichten zufolge erwähnte Sam Übelkeit, und ChatGPT empfahl die Einnahme von 0,25 bis 0,5 mg Xanax und beschrieb dies als eine der „derzeit besten Maßnahmen“, um seine Symptome zu lindern. In der Klage wird behauptet, dass ChatGPT ihn nicht vor dem tödlichen Potenzial der Medikamentenkombination gewarnt habe.
Neben der ungerechtfertigten Tötung klagt die Familie Scott auch wegen unerlaubter Ausübung der medizinischen Tätigkeit. Sie fordern finanziellen Schadensersatz und fordern die Einstellung des Betriebs von ChatGPT Health, das Anfang des Jahres gestartet wurde. Dieser Dienst ermöglicht es Benutzern, persönliche Krankenakten für eine personalisierte Gesundheitsberatung zu integrieren.
Meetali Jain, Geschäftsführer des Tech Justice Law Project, kritisierte OpenAI und behauptete, das Unternehmen habe ein fehlerhaftes Produkt ohne angemessene Sicherheitsmaßnahmen herausgebracht. Jain betonte, dass die Designentscheidungen von OpenAI zum Verlust von Menschenleben geführt haben, und forderte eine Pause bei der ChatGPT-Gesundheitsinitiative, bis strenge Tests ihre Sicherheit gewährleisten können.
OpenAI hat das umstrittene GPT-4o-Modell im Februar aufgrund seiner problematischen Funktionen eingestellt. In einer weiteren Klage wegen unrechtmäßiger Tötung wird behauptet, dass die Klage darauf abzielte, psychische Abhängigkeit zu fördern. Ein OpenAI-Sprecher gab an, dass Sams Gespräche auf einer älteren Version von ChatGPT stattgefunden hätten, und bekräftigte, dass die Technologie keinen Ersatz für professionellen medizinischen Rat darstelle. Das Unternehmen verbessert weiterhin seine Schutzmaßnahmen als Reaktion auf sensible Situationen und arbeitet mit Experten für psychische Gesundheit zusammen.
