SpaceXAI, bekannt als xAI, hat eine Klage gegen Terry Wayne Harwood, einen 67-jährigen Einwohner von South Carolina, eingereicht und ihm vorgeworfen, mithilfe der KI-Plattform Grok ohne deren Zustimmung sexualisierte Bilder realer Personen erstellt zu haben. Die Beschwerde wurde in Texas eingereicht und behauptet, Harwood habe zwischen dem 8. Dezember 2025 und dem 18. Februar 2026 nicht-sexuelle Bilder verschiedener Erwachsener und Minderjähriger auf seine beiden xAI-Konten hochgeladen und anschließend Änderungen zur Sexualisierung dieser Bilder beantragt.
xAI berichtete, dass Grok viele von Harwoods Aufforderungen ablehnte, seine Anträge jedoch kontinuierlich änderte, um die Sicherheitsvorkehrungen der Plattform zu umgehen. In einem zitierten Fall lud Harwood ein Foto eines vollständig bekleideten Mädchens, das schätzungsweise 10 bis 11 Jahre alt ist, hoch und bat Grok, sie auf sexualisierte Weise darzustellen. Obwohl Grok dies ablehnte, blieb Harwood bei seinen angepassten Forderungen.
Anfang Januar aufgetauchte Berichte deuteten darauf hin, dass Grok Benutzern erlaubt hatte, sexualisierte Bilder von echten Frauen und Kindern zu erstellen, was die Aufsichtsbehörden dazu veranlasste, formelle Ermittlungen einzuleiten. Die kalifornischen Behörden begannen Mitte Januar mit der Untersuchung der KI-Plattform, wobei Untersuchungen auch von der britischen Regulierungsbehörde Ofcom, der Europäischen Kommission und der irischen Datenschutzkommission eingeleitet wurden.
Als Reaktion auf die eskalierende Kontrolle hat xAI Maßnahmen ergriffen, um die Generierung sexueller Deepfakes zu verhindern. Trotzdem hat Harwood während der Ermittlungen weiterhin Bilder hochgeladen und sexualisierte Bearbeitungen vorgenommen.
Die Generalstaatsanwaltschaft von South Carolina gab Harwoods Verhaftung am 9. März im Rahmen der Einsätze der Task Force „Internetverbrechen gegen Kinder“ bekannt. Ihm stehen drei Fälle der sexuellen Ausbeutung eines Minderjährigen zweiten Grades und fünf Fälle der sexuellen Ausbeutung eines Minderjährigen dritten Grades gegenüber, wobei es sich sowohl um den Besitz als auch um die Verbreitung von Material über sexuellen Kindesmissbrauch handelt.
xAI fordert Schadensersatz in nicht näher bezeichneter Höhe und Erstattung der Kosten der Rechtsverteidigung im Zusammenhang mit möglichen Ansprüchen von Harwoods Opfern.
