Sam Altman, CEO von OpenAI, kündigte am Dienstag neue Benutzerrichtlinien an, die darauf abzielen, die Sicherheit für ChatGPT-Benutzer unter 18 Jahren zu erhöhen, was eine deutliche Veränderung in der Art und Weise markiert, wie der KI-Chatbot mit Minderjährigen interagiert. Die Änderungen geben der Sicherheit Vorrang vor Privatsphäre und Freiheit für Jugendliche und spiegeln OpenAIs Anerkennung der leistungsstarken, aber potenziell schädlichen Natur der Technologie wider.
„Wir legen Wert auf Sicherheit vor Privatsphäre und Freiheit für Jugendliche“, heißt es in Altmans Beitrag. „Dies ist eine neue und leistungsstarke Technologie, und wir glauben, dass Minderjährige erheblichen Schutz benötigen.“ Die Richtlinien führen gezielte Beschränkungen für Gespräche über sexuelle Themen oder Selbstverletzung ein. Insbesondere wird ChatGPT darauf trainiert, „kokette Gespräche“ mit minderjährigen Nutzern zu vermeiden, und erweiterte Leitlinien werden Diskussionen über Selbstmord regeln. In Fällen, in denen ein Minderjähriger Selbstmord begeht, versucht das System, seine Eltern zu benachrichtigen. In schwerwiegenden Fällen kann die Einschaltung der örtlichen Polizeibehörden erfolgen.
Anlass für diese Maßnahmen sind reale Tragödien und anhaltende rechtliche Herausforderungen. OpenAI verteidigt sich derzeit gegen eine Klage wegen ungerechtfertigter Tötung, die von den Eltern von Adam Raine eingereicht wurde, einem Teenager, der nach monatelangen Interaktionen mit ChatGPT durch Selbstmord starb. Eine ähnliche Klage richtet sich gegen Character.AI, einen weiteren beliebten Verbraucher-Chatbot. Experten und Befürworter haben vor den Risiken KI-gesteuerter Wahnvorstellungen gewarnt, insbesondere da sich Chatbots weiterentwickeln, um längere und intensivere Gespräche zu unterstützen, was besondere Gefahren für gefährdete Jugendliche mit sich bringt.
Zusätzlich zu den Inhaltsschutzmaßnahmen erhalten Eltern, die Konten für Minderjährige registrieren, die Möglichkeit, „Sperrzeiten“ einzurichten, die den Zugriff auf bestimmte Zeiten beschränken – eine Funktion, die in früheren Versionen fehlte. Dieses Kindersicherungstool zielt darauf ab, gesündere Nutzungsmuster zu fördern.
Die Ankündigung fällt mit einer Anhörung des Justizausschusses des Senats mit dem Titel „Untersuchung des Schadens von KI-Chatbots“ zusammen, die für denselben Tag geplant und im August von Senator Josh Hawley (R-MO) initiiert wurde. Adam Raines Vater gehört zu den Zeugen, die aussagen sollen, was die persönlichen Risiken verdeutlicht.
Die Implementierung der Altersverifizierung stellt technische Hürden dar, wie OpenAI in einem begleitenden Blogbeitrag dargelegt hat. Das Unternehmen entwickelt ein langfristiges System zur genauen Bestimmung des Benutzeralters, geht jedoch in unklaren Situationen auf Nummer sicher und wendet strengere Regeln an. Aus Gründen der Zuverlässigkeit empfiehlt OpenAI, das Konto eines Teenagers mit dem bestehenden Konto eines Elternteils zu verknüpfen, um direkte Benachrichtigungen an Erziehungsberechtigte zu ermöglichen, wenn eine Notlage festgestellt wird.
Altman hat diesen Jugendschutz mit den Grundwerten von OpenAI in Einklang gebracht und sein Engagement für die Privatsphäre der Benutzer und die umfassenden Freiheiten für Erwachsene bekräftigt. „Wir sind uns darüber im Klaren, dass diese Prinzipien im Widerspruch stehen“, bemerkte er, „und nicht jeder wird damit einverstanden sein, wie wir diesen Konflikt lösen.“ Dieser Ansatz unterstreicht die ethische Gratwanderung, die KI-Entwickler angesichts zunehmender Prüfung bewältigen müssen.
Da das Bewusstsein für die Auswirkungen von KI auf die psychische Gesundheit zunimmt, bleiben Ressourcen von entscheidender Bedeutung. Für sofortige Unterstützung wenden Sie sich an die National Suicide Prevention Lifeline unter 1-800-273-8255, senden Sie eine SMS an HOME an 741-741 oder wählen Sie 988. Die Crisis Text Line bietet 24-Stunden-Hilfe und internationale Hilfe ist über die Datenbank der International Association for Suicide Prevention verfügbar.
