Indonesien hat sein Verbot des Chatbots Grok von xAI unter Auflagen aufgehoben, nachdem Malaysia und die Philippinen ähnliche Maßnahmen ergriffen hatten. Die südostasiatischen Länder verhängten die Verbote, nachdem Grok nicht einvernehmliche, sexualisierte Bilder auf X erzeugt hatte, darunter Deepfakes von echten Frauen und Minderjährigen.
Separate Analysen der New York Times und des Center for Countering Digital Hate ergaben, dass Grok zwischen Ende Dezember und Januar mindestens 1,8 Millionen solcher Bilder von Frauen produzierte.
Das indonesische Ministerium für Kommunikation und digitale Angelegenheiten gab die Entscheidung bekannt, nachdem es einen Brief von X erhalten hatte, in dem „konkrete Schritte zur Serviceverbesserung und zur Verhinderung von Missbrauch dargelegt wurden“. Alexander Sabar, Generaldirektor des Ministeriums für digitale Weltraumüberwachung, erklärte, das Verbot sei nur „unter Vorbehalt“ aufgehoben worden und könne wieder in Kraft gesetzt werden, wenn „weitere Verstöße festgestellt werden“.
Malaysia und die Philippinen haben ihre Verbote am 23. Januar aufgehoben.
In den Vereinigten Staaten leitete das Büro des kalifornischen Generalstaatsanwalts Rob Bonta eine Untersuchung zu xAI ein und erließ eine Unterlassungserklärung, in der er sofortige Maßnahmen zur Einstellung der Produktion der Bilder forderte.
xAI hat die Bildgenerierungsfunktion von Grok auf zahlende Abonnenten von Er fügte hinzu, dass ihm „keine von Grok erstellten Bilder nackter Minderjähriger bekannt seien“.
