Meta trainiert seine Chatbots mit künstlicher Intelligenz mit neuen Richtlinien, um die sexuelle Ausbeutung von Kindern effektiver anzugehen, nachdem es zu einer Reihe öffentlicher Irrtümer zu diesem sensiblen Thema gekommen ist. Laut einem Bericht von Business Insider, dem die Dokumente vorliegen, wurden die Richtlinien für Auftragnehmer, die die KI schulen, kürzlich aktualisiert, um strengere Sicherheitsmaßnahmen einzuführen.
Die aktualisierten Regeln besagen, dass Inhalte, die sexuellen Missbrauch von Kindern „ermöglichen, fördern oder befürworten“, nun ausdrücklich verboten sind. Die Richtlinien verbieten auch romantische Rollenspiele, wenn der Benutzer minderjährig ist oder wenn der Benutzer die KI auffordert, als Minderjähriger Rollenspiele zu spielen. Darüber hinaus ist es dem Chatbot untersagt, Ratschläge zum Thema Intimität zu geben, wenn der Benutzer minderjährig ist. Diese Leitplanken werden eingeführt, da immer mehr Menschen, darunter auch minderjährige Benutzer, mit KI-Begleitern und Rollenspielen experimentieren.
Die Richtlinienänderung befasst sich mit früheren Regeln, die unter die Lupe genommen wurden. Ein Bericht von Reuters vom August enthüllte, dass die früheren KI-Richtlinien von Meta anzügliches Verhalten gegenüber Kindern erlaubten. In dem Bericht heißt es, dass der Chatbot „ein Kind in romantische oder sinnliche Gespräche verwickeln“ dürfe.
Nur wenige Wochen nach diesem Bericht sagte Meta-Sprecherin Stephanie Otway gegenüber TechCrunch, dass die KI-Chatbots des Unternehmens darauf trainiert würden, „jugendliche Benutzer nicht mehr über Selbstverletzung, Selbstmord, Essstörungen oder möglicherweise unangemessene romantische Gespräche anzusprechen“. Dies war eine Abkehr von der vorherigen Richtlinie, die es dem Chatbot ermöglichte, sich mit diesen Themen zu befassen, wenn dies als „angemessen“ erachtet wurde.
Die neuen Richtlinien, wie im Business Insider-Bericht detailliert beschrieben, machen es auch inakzeptabel, dass Inhalte einen Minderjährigen auf sexualisierte Weise „beschreiben oder diskutieren“. Minderjährigen ist es nun untersagt, sich mit dem Chatbot an „romantischen Rollenspielen, Flirts oder romantischen oder intimen Ausdrucksformen“ zu beteiligen. Sie können auch nicht um Rat zu „potenziell romantischen oder potenziell intimen körperlichen Inhalten mit einer anderen Person, wie etwa Händchenhalten, Umarmen oder das Legen eines Arms um jemanden“ bitten.
Die Richtlinien beschreiben jedoch mehrere akzeptable Anwendungsfälle für Schulungszwecke. Dazu gehören die Diskussion über die „Beziehungsgestaltung zwischen Kindern und Erwachsenen“, „den sexuellen Missbrauch eines Kindes“ und „das Thema der Sexualisierung von Kindern“. Weitere genehmigte Themen für Schulungsgespräche sind „Anforderung, Erstellung oder Erwerb von sexuellem Material mit Beteiligung von Kindern“ und „die Beteiligung von Kindern an der Verwendung oder Produktion obszönen Materials oder die Beschäftigung von Kindern bei sexuellen Dienstleistungen zu akademischen, pädagogischen oder klinischen Zwecken“.
Die Richtlinien definieren den Begriff „diskutieren“ als „Bereitstellen von Informationen ohne Visualisierung“. Diese Unterscheidung bedeutet, dass die Chatbots von Meta zwar über Themen wie Missbrauch sprechen dürfen, diese aber nun nicht mehr beschreiben, aktivieren oder fördern dürfen.
Eine Ausnahme bleibt für Minderjährige bestehen, die die KI für romantische Rollenspiele nutzen, sofern diese „nicht sexuell und nicht sinnlich“ sind. Diese Art der Interaktion ist nur zulässig, wenn sie „als literarische oder fiktive Erzählung präsentiert wird (z. B. eine Geschichte im Stil von Romeo und Julia), bei der die KI und der Benutzer keine Charaktere in der Erzählung sind.“
Meta ist nicht der einzige KI-Entwickler, der mit Herausforderungen im Zusammenhang mit der Kindersicherheit konfrontiert ist. Die Eltern eines Teenagers, der durch Selbstmord starb, nachdem er sich ChatGPT anvertraut hatte, verklagten kürzlich OpenAI wegen ungerechtfertigter Tötung. Als Reaktion darauf kündigte OpenAI an, zusätzliche Sicherheitsmaßnahmen und Verhaltensaufforderungen in sein aktualisiertes GPT-5-Modell zu integrieren. In anderen Branchenentwicklungen hat Anthropic seinen Chatbot aktualisiert, um das Beenden von Gesprächen zu ermöglichen, die schädlich oder beleidigend sind, und Character.AI hat Anfang des Jahres Funktionen zur elterlichen Aufsicht eingeführt.
In April, Ziff Davis, the parent company of Mashable, filed a lawsuit against OpenAI. In der Klage wird behauptet, dass das Unternehmen die Urheberrechte von Ziff Davis bei der Schulung und dem Betrieb seiner KI-Systeme verletzt habe.
