Microsoft hat diese Woche einen Threat-Intelligence-Bericht veröffentlicht, aus dem hervorgeht, dass Hacker zunehmend künstliche Intelligenz in jede Phase ihrer Operationen integrieren, von Aufklärung und Phishing bis hin zur Malware-Entwicklung und Aktivitäten nach der Kompromittierung.
Das Unternehmen beschrieb KI als „Kraftmultiplikator“, der technische Barrieren abbaut und die Ausführung für Angreifer unterschiedlicher Fähigkeitsniveaus beschleunigt. Die Ergebnisse deuten darauf hin, dass die Einführung von KI die technischen Fähigkeiten verringert, die für die Durchführung groß angelegter Cyberangriffe erforderlich sind.
Die nordkoreanischen Bedrohungsgruppen Jasper Sleet und Coral Sleet nutzen generative KI, um ausgefeilte Scheinbeschäftigungsprogramme gegen westliche Unternehmen voranzutreiben. Laut CyberScoop verwenden Jasper Sleet-Schauspieler KI-Tools, um kulturell angemessene Namenslisten zu erstellen, gefälschte Lebensläufe an bestimmte Stellenausschreibungen anzupassen und professionelle Kommunikation zu gestalten, um eine langfristige Anstellung nach der Einstellung aufrechtzuerhalten.
Microsoft beobachtete, wie Jasper Sleet die KI-Anwendung Faceswap nutzte, um die Gesichter nordkoreanischer IT-Mitarbeiter in gestohlene Ausweisdokumente einzufügen und polierte Porträtfotos für Lebensläufe zu erstellen. Die Gruppe setzte bei virtuellen Interviews auch Technologie zur Stimmveränderung ein, um Akzente zu verschleiern und es den Mitarbeitern zu ermöglichen, sich als westliche Kandidaten auszugeben, berichtete The Guardian.
„Jasper Sleet setzt während des gesamten Angriffsprozesses KI ein, um Arbeitsplätze zu sichern, Arbeitsplätze zu erhalten und Zugriffe in großem Umfang auszunutzen“, erklärte Microsoft.
Coral Sleet nutzte KI-Codierungstools, um Malware-Komponenten zu generieren und zu verfeinern, gefälschte Unternehmenswebsites zu erstellen, Remote-Infrastruktur bereitzustellen und Payloads schnell zu testen. Laut Microsoft hat die Gruppe große Sprachmodelle mit einem Jailbreak versehen, um schädlichen Code zu generieren, der integrierte Sicherheitskontrollen umgeht.
Microsoft hat auf frühe Experimente von Bedrohungsakteuren mit Agenten-KI hingewiesen, bei denen Modelle die iterative Entscheidungsfindung und Aufgabenausführung unterstützen, obwohl dies noch nicht in großem Maßstab beobachtet wurde.
Google berichtete im Februar, dass seine Threat Intelligence Group beobachtet habe, wie Bedrohungsakteure KI nutzten, um Informationen zu sammeln, Phishing-Kampagnen zu erstellen und Malware zu entwickeln. Amazon dokumentierte eine Kampagne, in der ein russischsprachiger Hacker generative KI-Dienste nutzte, um innerhalb von fünf Wochen mehr als 600 FortiGate-Firewalls in 55 Ländern zu durchbrechen, und demonstrierte, wie KI es einem Angreifer mit begrenzten Fähigkeiten ermöglichte, in einem Ausmaß zu operieren, das zuvor ein größeres, leistungsfähigeres Team erforderte.
Microsoft empfahl Unternehmen, KI-gestützte IT-Mitarbeiter-Programme als Insider-Risiken zu behandeln und sich auf die Erkennung abnormaler Nutzung von Anmeldeinformationen, die Absicherung von Identitätssystemen gegen Phishing und die Sicherung von KI-Systemen, die selbst zu Zielen werden könnten, zu konzentrieren.
