Die Threat Intelligence Group (GTIG) von Google gab die Entdeckung eines Zero-Day-Exploits bekannt, der vermutlich von künstlicher Intelligenz entwickelt wurde. Dies ist die erste Identifizierung eines solchen Exploits durch das Unternehmen, das für ein „Massenexploit-Ereignis“ gedacht war. GTIG gab an, dass die proaktive Entdeckung potenzielle Angriffe verhindert haben könnte.
Google geht zwar nicht davon aus, dass seine eigenen Gemini-Modelle an der Erstellung des Exploits beteiligt waren, hat aber „hohes Vertrauen“, dass ein KI-Modell eine Rolle bei der Entdeckung und Nutzung der Schwachstelle gespielt hat. Das konkrete Ziel des Exploits wurde nicht bekannt gegeben, aber Google informierte das betroffene, namentlich nicht genannte Unternehmen, das das Problem anschließend behoben hat.
GTIG gab die Identität der Bedrohungsakteure nicht bekannt, erwähnte jedoch, dass mit China und Nordkorea verbundene Gruppen erhebliches Interesse daran gezeigt haben, KI für Cyber-Exploits zu nutzen. Der Bericht betonte, dass Bedrohungsakteure zunehmend KI in verschiedenen Phasen von Cyberangriffen einsetzen, was Alarm über zukünftige Risiken im Zusammenhang mit KI-gesteuerten Angriffen auslöst.
John Hultquist, Chefanalyst von GTIG, beschrieb den Vorfall als „einen Vorgeschmack auf das, was noch kommt“ und „die Spitze des Eisbergs“ und verdeutlichte den sich entwickelnden Einsatz von KI in der Cyberkriminalität. Er stellte fest, dass dieser Fall der erste „greifbare Beweis“ für solche Angriffe sei.
Trotz der Gefahren, die KI in erfahrenen Händen mit sich bringt, betonte Google, dass KI auch ein wirksames Instrument zur Cybersicherheitsverteidigung sein kann. Auch andere Unternehmen setzen KI für Schutzmaßnahmen ein. Beispielsweise kündigte Anthropic letzten Monat das Projekt Glasswing an, das sich auf den Einsatz von KI zur Identifizierung und Behebung „schwerwiegender Schwachstellen“ konzentriert.
