OpenAI hat den Kids Online Safety Act (KOSA) als Teil seiner Verpflichtung zur Festlegung „KI-spezifischer Regeln“ für die Sicherheit von Kindern unterstützt. Diese Bestätigung fällt mit der Verabschiedung von KOSA im Senat im Jahr 2024 zusammen; Der Gesetzentwurf wurde erstmals im Jahr 2022 eingeführt.
KOSA schreibt vor, dass Social-Media-Unternehmen und Online-Plattformen den Schutz von Kindern stärken. Die aktuelle Version erfordert, dass Social-Media-Apps Minderjährigen die Möglichkeit geben, „süchtig machende“ Funktionen und algorithmische Empfehlungen zu deaktivieren. Online-Plattformen haben außerdem eine „Sorgfaltspflicht“, um gegen schädliche Inhalte im Zusammenhang mit Essstörungen, Selbstmord und sexueller Ausbeutung vorzugehen.
Auch andere Technologieunternehmen, darunter Apple, Microsoft, Snap und X, haben ihre Unterstützung für KOSA zum Ausdruck gebracht. Umgekehrt lehnt NetChoice, eine Handelsgruppe mit Mitgliedern wie Meta, den Gesetzentwurf ab und behauptet, dass er zu Zensur führen könnte, ohne die Sicherheit von Kindern zu verbessern. Auch Organisationen für Datenschutz und digitale Rechte wie die Electronic Frontier Foundation haben sich gegen KOSA ausgesprochen.
OpenAI erklärte, dass KOSA „ergänzend“ zu den bereits bestehenden Sicherheitsmaßnahmen sei. Chris Lehane, Chief Global Affairs Officer, betonte die Bedeutung stärkerer Schutzmaßnahmen und bemerkte: „Wir können die Fehler, die beim Aufstieg der sozialen Medien gemacht wurden, nicht wiederholen, als strengere Schutzmaßnahmen für Jugendliche erst eingeführt wurden, als die Plattformen bereits tief im Leben junger Menschen verankert waren.“
Derzeit sieht sich OpenAI mehreren Klagen wegen angeblicher Sicherheitslücken im Zusammenhang mit ChatGPT gegenüber. In einer Klage geht es darum, dass eine Familie einen ungerechtfertigten Tod geltend macht, nachdem ein Teenager mit dem Chatbot Selbstmordpläne besprochen hatte. In einer anderen Klage wird behauptet, dass ein Teenager aufgrund schlechter medizinischer Beratung durch ChatGPT versehentlich eine Überdosis Drogen genommen habe.
