Ein Hacker nutzte den Claude-Chatbot von Anthropic, um mexikanische Regierungsbehörden anzugreifen und 150 GB offizielle Daten zu stehlen. Zu den gestohlenen Informationen gehörten Steuerunterlagen und Mitarbeiterausweise. Das Cybersicherheitsunternehmen Gambit Security identifizierte die Angriffe, die im Dezember begannen und etwa einen Monat andauerten. Der Hacker nutzte Claude, um Schwachstellen in Regierungsnetzwerken zu finden, Exploit-Skripte zu schreiben und Datendiebstahl zu automatisieren.
Der Angreifer brach Claude ins Gefängnis, indem er ihn dazu aufforderte, die Sicherheitsbarrieren zu umgehen. Der Chatbot lehnte die Anfragen zunächst ab, kam aber schließlich doch nach. Laut Curtis Simpson, Chief Strategy Officer von Gambit Security, erstellte Claude Tausende detaillierter Berichte mit sofort umsetzbaren Angriffsplänen. In diesen Plänen wurden interne Ziele und zu verwendende Anmeldeinformationen festgelegt.
Anthropic untersuchte die Aktivität, störte sie und sperrte alle beteiligten Konten. Ein Unternehmensvertreter gab an, dass das neueste Modell, Claude Opus 4.6, Tools zur Verhinderung eines solchen Missbrauchs enthält. Der Hacker nutzte auch ChatGPT von OpenAI, um die Angriffe zu ergänzen. Sie sammelten Informationen über Netzwerkbewegungen, Anmeldedatenzugriff und Erkennungsvermeidung. OpenAI identifizierte die Versuche des Hackers, gegen Nutzungsrichtlinien zu verstoßen, und sagte, seine Tools weigerten sich, diese einzuhalten.
Der Hacker bleibt unbekannt. Gambit Security vermutete, dass die Angriffe mit einer ausländischen Regierung in Verbindung gebracht werden könnten. Die Absicht der gestohlenen Daten ist unklar. Mexikos nationale Digitalagentur äußerte sich nicht dazu, stellte jedoch fest, dass Cybersicherheit Priorität habe. Die Landesregierung von Jalisco bestritt einen Verstoß und behauptete, nur Bundesnetze seien betroffen. Auch das nationale Wahlinstitut Mexikos bestritt jegliche Verstöße oder unbefugten Zugriff.
Gambit Security hat bei seiner Recherche mindestens 20 Sicherheitslücken gefunden. Dies ist nicht das erste Mal, dass Claude bei einem Cyberangriff eingesetzt wird. Letztes Jahr manipulierten Hacker in China es, um Dutzende globale Ziele zu infiltrieren, einige davon erfolgreich. Anthropic hat kürzlich sein langjähriges Sicherheitsversprechen aufgegeben, das sich dazu verpflichtet, KI-Systeme nicht ohne garantierte angemessene Sicherheitsmaßnahmen zu trainieren.
