Google berichtete, dass sein Flaggschiff-KI-Chatbot Gemini von kommerziell motivierten Akteuren ins Visier genommen wurde, die versuchten, ihn durch wiederholte Aufforderungen zu klonen, einschließlich einer Kampagne mit mehr als 100.000 Suchanfragen.
In einem Bericht vom Donnerstag beschrieb Google die Aktivität als „Destillationsangriffe“ oder „Modellextraktion“, bei der Angreifer das System nach Mustern und Logik durchsuchen, um ihre eigenen KI-Modelle zu replizieren oder zu verbessern.
Das Unternehmen führt die meisten Versuche auf Privatfirmen oder Forscher zurück, die einen Wettbewerbsvorteil anstreben. Ein Sprecher sagte gegenüber NBC News, dass die Angriffe offenbar weltweit erfolgten, weitere Einzelheiten zu den Verdächtigen wurden jedoch nicht bekannt gegeben.
John Hultquist, Chefanalyst der Threat Intelligence Group von Google, warnte, dass die Gemini-Vorfälle ein Vorbote ähnlicher Angriffe auf die maßgeschneiderten KI-Tools kleinerer Unternehmen sein könnten. Er sagte: „Wir werden bei weit mehr Vorfällen der Kanarienvogel im Kohlebergwerk sein“ und lehnte es ab, Verdächtige zu nennen.
Google stuft die Destillation als Diebstahl geistigen Eigentums ein. Das Unternehmen stellte fest, dass Milliarden von Dollar in die Entwicklung großer Sprachmodelle investiert wurden und die internen Algorithmen der Spitzenmodelle als äußerst wertvolle proprietäre Vermögenswerte gelten.
Trotz Erkennungs- und Blockierungsmechanismen bleiben große LLMs anfällig, da sie für jeden im Internet zugänglich sind. OpenAI warf dem chinesischen Konkurrenten DeepSeek zuvor vor, Destillationsangriffe durchzuführen, um seine Modelle zu verbessern.
Viele der Eingabeaufforderungen wurden entwickelt, um die Algorithmen zu extrahieren, die es Zwillingen ermöglichen, Informationen zu „begründen“ und zu verarbeiten. Hultquist fügte hinzu, dass Unternehmen proprietäre Strategien offenlegen, wenn sie benutzerdefinierte LLMs für sensible Daten trainieren. Er illustrierte: „Nehmen wir an, Ihr LLM wurde auf 100 Jahren geheimen Denkens über die Art und Weise, wie Sie handeln, geschult. Theoretisch könnten Sie einen Teil davon herausfiltern.“
Der Bericht unterstreicht die wachsende Besorgnis in der KI-Branche über die Modellextraktion und die Notwendigkeit stärkerer Schutzmaßnahmen gegen Diebstahl geistigen Eigentums.
Google stellte fest, dass die Häufigkeit von Destillationsangriffen in den letzten Monaten stark zugenommen hat, was das Unternehmen dazu veranlasste, die Überwachungs- und Reaktionsfähigkeiten zu verbessern. Das Unternehmen gab an, dass seine Erkennungssysteme anomale Abfragemuster erkennen, Angreifer sich jedoch anpassen, um Sicherheitsmaßnahmen zu umgehen. Google betonte, dass die proprietären Architekturen und Trainingsdaten großer Sprachmodelle einen erheblichen Wettbewerbsvorteil darstellen und dass eine unbefugte Extraktion diesen Vorteil untergräbt. Der Bericht hob auch hervor, dass andere Akteure der Branche ähnlichen Bedrohungen ausgesetzt waren, wobei OpenAI DeepSeek öffentlich beschuldigte, extrahierte Daten zur Verfeinerung seiner eigenen Modelle zu verwenden. Das Threat-Intelligence-Team von Google verfolgt weiterhin die globalen Aktivitäten und berät Partner bei Strategien zur Schadensbegrenzung.
