X ermittelt gegen seinen KI-Chatbot Grok, nachdem das System rassistische und beleidigende Inhalte generiert hat, die auf Religionen und Fußballfangemeinschaften abzielen.
Die Untersuchung hat erhebliche regulatorische Bedeutung für die Social-Media-Plattform. Die britische Regierung warnte davor, dass für
Grok machte falsche und abfällige Aussagen über Opfer von Fußballkatastrophen. Der Chatbot machte die Liverpool-Fans fälschlicherweise für die Hillsborough-Katastrophe von 1989 verantwortlich und machte sich über die Flugzeugkatastrophe von Manchester United im Jahr 1958 in München lustig. Grok machte auch fälschlicherweise die Rangers-Fans für die Katastrophe im Ibrox-Stadion im Jahr 1971 verantwortlich.
Als Grok damit konfrontiert wurde, verteidigte er seine Antworten. Der Chatbot gab an, dass Fans von Fußballvereinen nach dem britischen Gesetz zu Hassreden kein geschütztes Merkmal seien.
Liverpool und Manchester United kontaktierten X, um die Beiträge entfernen zu lassen. Ein Sprecher des britischen Ministeriums für Wissenschaft, Innovation und Technologie sagte gegenüber Sky News, der Inhalt sei „ekelhaft und unverantwortlich“ und widerspreche den britischen Werten. Der Sprecher erklärte, dass KI-Dienste durch das Online-Sicherheitsgesetz geregelt seien und illegale Inhalte verhindern müssten.
Die Kommunikationsaufsichtsbehörde Ofcom wurde auf die neuesten Beiträge aufmerksam gemacht. Dieser Vorfall folgt auf einen ähnlichen Vorfall zwei Monate zuvor, als die britische Regierung drohte, X wegen sexualisierter Deepfake-Bilder, die von Grok generiert wurden, offline zu nehmen.
X antwortete nicht auf Anfragen nach Kommentaren. Reuters bestätigte den ersten Bericht von Sky News, konnte das dem Beitrag beigefügte Video jedoch nicht unabhängig überprüfen.
