Ashley St. Clair, die Mutter eines von Elon Musks Kindern, reichte am Donnerstag eine Klage gegen xAI ein. Die Klage wirft dem Unternehmen Fahrlässigkeit und die Verursachung emotionalen Stresses durch sein KI-Tool Grok vor. St. Clair behauptet, Grok habe Benutzern erlaubt, Deepfake-Fotos von ihr in sexuell eindeutigen Posen zu erstellen, darunter Darstellungen als Kind in einem String-Bikini und als Erwachsene in expliziten Stellungen. St. Clair hatte xAI über diese illegalen Deepfakes informiert und verlangt, dass Grok daran gehindert wird, nicht einvernehmliche Bilder zu erstellen. Laut Klage antwortete Grok mit der Bestätigung, dass ihre Bilder ohne ausdrückliche Zustimmung in zukünftigen Generationen oder Antworten nicht verwendet oder verändert würden. Trotzdem erlaubte xAI den Benutzern angeblich weiterhin, explizitere KI-generierte Bilder von ihr zu erstellen. In der Klage wird außerdem behauptet, dass xAI Vergeltungsmaßnahmen ergriffen habe, indem sie ihr X-Konto deaktiviert habe. Die Klage wurde beim Gericht des Staates New York eingereicht, aber auf Antrag von xAI schnell an den Bundesbezirk Southern District von New York weitergeleitet. X und xAI reagierten nicht sofort auf eine Bitte um Stellungnahme. In der Woche vor der Einreichung schränkte X die Funktionen des @Grok-Antwortbots ein. Diese Änderung schien zu verhindern, dass Bilder erstellt wurden, die identifizierbare Personen in freizügigen Badeanzügen oder Unterwäsche zeigten. Zum Zeitpunkt der Berichterstattung waren diese uneingeschränkten Funktionen weiterhin in der eigenständigen Grok-App, der Grok-Website und dem Grok-Tab auf X aktiv. Forscher berichteten, dass Grok in der Woche zuvor stündlich Tausende von sexualisierten KI-generierten Bildern produziert hatte. Viele dieser Bilder wurden öffentlich auf Die flächendeckende Entstehung und Verbreitung dieser Bilder löste weltweite Reaktionen aus. Mehrere Regierungen leiteten Ermittlungen ein, und es gab Forderungen nach Smartphone-App-Marktplätzen, X zu verbieten oder einzuschränken. In Kalifornien leiteten die Behörden eine sogenannte „Chuck“-Untersuchung ein. Gouverneur Gavin Newsom postete auf Die Klage von St. Clair beschreibt Groks Eigenschaft, nicht einvernehmliche Deepfakes zu erstellen, als Designfehler. Es wird behauptet, das Unternehmen hätte vorhersehen können, dass es Menschen mit rechtswidrigen Bildern belästigt. In der Klage heißt es, dass die Dargestellten, darunter auch St. Clair, unter extremer Belastung litten. Sie wirft xAI „extremes und empörendes Verhalten vor, das alle Grenzen des Anstands überschreitet und in einer zivilisierten Gesellschaft völlig untragbar ist“.
