OpenAI hat seinen Child Safety Blueprint veröffentlicht, um die Kinderschutzbemühungen in den USA angesichts der zunehmenden Besorgnis über die Ausbeutung von Kindern im Zusammenhang mit KI zu verbessern. Der Entwurf zielt darauf ab, die Erkennung, Meldung und Untersuchung von KI-gestützter Kinderausbeutung zu verbessern.
Die Internet Watch Foundation (IWF) meldete im ersten Halbjahr 2025 über 8.000 Fälle von KI-generierten Inhalten zum sexuellen Missbrauch von Kindern, was einem Anstieg von 14 % gegenüber dem Vorjahr entspricht. Kriminelle nutzen zunehmend KI-Tools, um gefälschte, explizite Bilder von Kindern für finanzielle Sextortierung zu erstellen und überzeugende Werbebotschaften zu generieren.
Diese Initiative reagiert auf die verschärfte Prüfung durch politische Entscheidungsträger, Pädagogen und Befürworter der Kindersicherheit, insbesondere nach Vorfällen, bei denen junge Menschen nach Interaktionen mit KI-Chatbots durch Selbstmord starben. Im November reichten das Social Media Victims Law Center und das Tech Justice Law Project in Kalifornien sieben Klagen gegen OpenAI ein. In diesen Klagen wird die vorzeitige Freisetzung von GPT-4o behauptet und behauptet, dass seine psychisch manipulative Natur zu widerrechtlichen Todesfällen und schweren psychischen Krisen beigetragen habe.
Der Child Safety Blueprint wurde gemeinsam mit dem National Center for Missing and Exploited Children (NCMEC) und der Attorney General Alliance entwickelt und berücksichtigt dabei das Feedback von Beamten, darunter dem Generalstaatsanwalt von North Carolina, Jeff Jackson, und dem Generalstaatsanwalt von Utah, Derek Brown. Der Entwurf betont drei Hauptbereiche: Aktualisierung der Gesetzgebung zur Berücksichtigung KI-generierter Missbrauchsmaterialien, Verbesserung der Meldemechanismen für die Strafverfolgung und Einbettung präventiver Schutzmaßnahmen in KI-Systeme.
OpenAI gibt an, dass sein Ziel darin besteht, potenzielle Bedrohungen effektiver zu erkennen und sicherzustellen, dass den Ermittlern verwertbare Informationen übermittelt werden. Dieser Entwurf baut auf früheren Initiativen auf, einschließlich Richtlinien für Benutzerinteraktionen unter 18 Jahren, die die Erstellung unangemessener Inhalte und die Bereitstellung von Ratschlägen verbieten, die dazu beitragen könnten, unsicheres Verhalten vor Betreuern zu verbergen. OpenAI hat außerdem einen Sicherheitsplan für Jugendliche in Indien veröffentlicht.
