Google hat eine Zivilklage gegen eine in China ansässige Cyberkriminalitätsgruppe namens Outsider Enterprise eingereicht und behauptet, die Gruppe habe ihr Gemini-KI-System für Phishing-Operationen ausgenutzt. In der am 12. Juni 2026 eingereichten Klage wird behauptet, dass das Outsider Enterprise Gemini verwendet habe, um Phishing-Websites zu erstellen und Millionen betrügerischer Textnachrichten an Android-Benutzer zu senden, während es sich als bekannte Marken wie Google, YouTube und den U.S. Postal Service ausgab.
Die Beschwerde beschreibt die Aktivitäten der Gruppe als eine Form von industrialisiertem Phishing-as-a-Service. Berichten zufolge hat Outsider Enterprise im Mai rund 2,5 Millionen Betrugsnachrichten an Android-Benutzer gesendet, was zu etwa 55.000 Spam-Beschwerden gegen den Vorgang führte. Google hat außerdem etwa 9.000 gefälschte Websites und über 1 Million betrügerische URLs identifiziert, die mit der Gruppe in Verbindung stehen.
Laut einem ausführlichen Sicherheitsblog von Google nutzten Mitglieder der Outsider Enterprise Gemini, um maßgeschneiderten Code für Phishing-Landingpages zu generieren. Diese Seiten wurden entwickelt, um legitime Angebote wie Geschenkeinlösungen und Kontobestätigungen nachzuahmen. Die Plattform des Unternehmens bot Hunderte vorgefertigter Vorlagen und Dokumentationen, sodass auch technisch nicht versierte Benutzer groß angelegte Phishing-Kampagnen starten konnten.
Das FBI hat mit Google und Sicherheitsforschern zusammengearbeitet, um mehrere Domains und Storefronts zu beschlagnahmen, die Outsider Enterprise für seine Phishing-Aktivitäten nutzt. Darüber hinaus arbeitet Google mit den großen Mobilfunkanbietern AT&T, T-Mobile und Verizon zusammen, um betrügerischen Datenverkehr zu blockieren, und setzt KI-gesteuerte Erkennungssysteme ein, um schädliche Nachrichten abzufangen, bevor sie Benutzer erreichen.
In der Klage wirft Google dem Outsider Enterprise verschiedene Straftaten vor, darunter Erpressung, Überweisungsbetrug und Markenverletzung. Das Unternehmen verlangt Unterlassung und Schadensersatz mit dem Ziel, die Infrastruktur des Konzerns abzubauen. Google fordert gerichtliche Anordnungen zur Beschlagnahme oder Blockierung wichtiger Infrastrukturen, die zum Hosten und Veröffentlichen betrügerischer Seiten verwendet werden, und zur Einschränkung der Fähigkeit der Gruppe, neue Phishing-Sites zu erstellen.
Bundesbehörden, darunter der U.S. Postal Inspection Service, haben Warnungen vor gängigen Smishing-Taktiken wie gefälschten Paketverfolgungswarnungen und dringenden Finanznachrichten herausgegeben. Sie empfehlen Benutzern, das Anklicken von Links in unerwarteten Texten zu vermeiden und die Weitergabe persönlicher Informationen zu unterlassen. Benutzern wird empfohlen, verdächtige Nachrichten zu melden, indem sie sie an 7726 (SPAM) weiterleiten und Beschwerden bei der FTC einreichen.
Experten stellen fest, dass dieser Fall den möglichen Missbrauch generativer KI zur Erleichterung von groß angelegtem Betrug verdeutlicht. Die Klage stellt einen ersten Test dar, wie das Rechtssystem mit KI-gestützten kriminellen Aktivitäten umgehen wird, und könnte möglicherweise zukünftige Rechtsstreitigkeiten und Vorschriften in Bezug auf automatisierte Betrügereien beeinflussen. Ziel von Google ist es, das Outsider Enterprise daran zu hindern, betrügerische Seiten zu veröffentlichen und die Anzahl bösartiger Nachrichten, die die Geräte der Nutzer erreichen, zu reduzieren.
