Der Newsfeed von Facebook ist zu einem seltsamen und beunruhigenden Ort geworden. Ausgefallene Bilder, scheinbar von künstlicher Intelligenz produziert, erregen außerordentliche Aufmerksamkeit.
Von hypermuskulösen Kühen bis hin zu Jesus, der als Garnele interpretiert wurde, breiten sich diese bizarren Kreationen über die Plattform aus, gefolgt von einem Refrain aus „Amens” von ahnungslosen Benutzern.
Doch hinter der Welle digitaler Absurditäten verbirgt sich eine dunklere Realität – ein Netzwerk von Seiten, die darauf ausgelegt sind, Benutzer anzulocken werbefinanzierte Klickfarmen.
Die KI-Schleusen öffnen sich
Im Zentrum dieses Phänomens stehen Dutzende Facebook-Seiten, die unermüdlich KI-generierte Bilder produzieren. Auf diesen Seiten werden häufig bizarre Themen wie Beiträge zum Thema Jesus oder Flugbegleiter in ungewöhnlichen Szenarien vorgestellt. Die Beiträge rufen Tausende von Reaktionen hervor, von verwirrten Kommentaren bis hin zu Bot-ähnlichem Lob, während verwirrte Benutzer mit der Frage ringen, ob die Bilder echt sind oder nicht.
Laut einer aktuellen Analyse des Stanford Internet Observatory, diese Bilder haben Hunderte Millionen Engagements hervorgerufen. Aufwändige, von der KI erstellte Porträts von Jesus (manchmal aus Plastikflaschen, manchmal aus Sand geschnitzt) gehören zu den viralsten Bildern. In jüngerer Zeit gewinnt die Krustentierwende für den AI-Jesus an Bedeutung, wobei Garnelen, Krabben und ähnliche Kreaturen im Mittelpunkt stehen. Flugbegleiterinnen, die größtenteils als ostasiatische Frauen dargestellt werden, werden routinemäßig in unwahrscheinlichen Szenarien dargestellt: sie beten mit Jesus, halten Kreuze oder sind im Schlamm durchnässt. Unterdessen werden kleine schwarze Kinder zu viralen Sensationen, wenn sie vermeintlich handgefertigte Meisterwerke wie KI-generierte Tiger aus Reifen zur Schau stellen.
Wer steckt hinter der KI-Flut?
Die Motivation hinter dieser KI-Bilderflut ist unklar. Die überwiegende Mehrheit dieser Beiträge gibt nicht bekannt, dass sie von der KI generiert wurden, obwohl Meta verpflichtet ist, solche Inhalte zu kennzeichnen. Während die Möglichkeit von Betrügereien diskutiert wird, könnte es sich dabei einfach um die Ausnutzung einer Lücke für virale Inhalte durch Benutzer handeln.
Da generative KI-Technologie immer zugänglicher wird, wächst die Sorge, dass diese synthetischen Bilder für Fehlinformationen und Desinformationskampagnen verwendet werden könnten.
Gestohlene Facebook-Seiten und das virale Web
Die Stanford-Studie zeigt, dass viele davon KI-Spam-Seiten werden aus legitimen Profilen umfunktioniert.
Schulen, Kirchen und sogar die Seite einer High-School-Band wurden gekapert und in Drehkreuze für die seltsamen KI-Bilder verwandelt. Versuche der ursprünglichen Eigentümer, ihre Seiten zurückzufordern, wurden Berichten zufolge von Facebook mit Schweigen beantwortet.
Das Spektakel und die Sorge
Während das Spektakel sowohl Belustigung als auch Verwirrung hervorruft, wächst das Unbehagen. Benutzer vermuten, dass diese Seiten zur Identifizierung potenzieller Betrugsziele genutzt werden könnten. Die schiere Menge an aufsehenerregenden KI-Inhalten, gepaart mit leichtgläubigen Nutzern, könnte ein Netzwerk für böswillige Akteure und betrügerische Machenschaften schaffen.
Die bizarre Saga von KI-generierten Garnelen, Jesus-Kunst und schlammigen Flugbegleitern auf Facebook wirft ein scharfes Schlaglicht auf ein aufkommendes Problem. Da die KI-Bilderzeugung immer ausgefeilter wird, verschwimmt die Grenze zwischen harmloser Kuriosität und gefährlicher Manipulation. Dies unterstreicht die Notwendigkeit, dass Social-Media-Plattformen wie Facebook eine proaktivere Haltung bei der Identifizierung und Identifizierung einnehmen Kennzeichnung von KI-generierten Inhalten.
Hervorgehobener Bildnachweis: Liebe Gott und Gott liebt dich/Facebook.