Laut einem Bericht von Axios drängt US-Verteidigungsminister Pete Hegseth Anthropic, dem Militär uneingeschränkten Zugang zu seinem künstlichen Intelligenzmodell Claude zu gewähren. Berichten zufolge hat Hegseth Anthropic-CEO Dario Amodei darüber informiert, dass das Unternehmen bis Freitag Zeit hat, dem Pentagon vollen Zugang zu gewähren, andernfalls drohen erhebliche Strafen. Zu den Drohungen gehören die Berufung auf den Defence Production Act, die Kündigung bestehender Verträge und die Einstufung von Anthropic als Lieferkettenrisiko. Eine solche Bezeichnung würde andere Verteidigungsunternehmen dazu zwingen, zu bestätigen, dass sie Claude nicht in ihren Arbeitsabläufen verwenden.
Die Forderung des Pentagons konzentriert sich auf die Abhängigkeit des Militärs von Claude bei seinen sensibelsten Operationen. Ein Verteidigungsbeamter teilte Axios mit, dass das Militär die Technologie von Anthropic sofort benötige, da es sich derzeit um das einzige KI-Modell handele, das für streng geheime Arbeiten eingesetzt werde. Der Beamte bemerkte: „Der einzige Grund, warum wir immer noch mit diesen Leuten reden, ist, dass wir sie brauchen, und zwar jetzt.“ Berichten zufolge wurde Claude bei bestimmten Militäreinsätzen eingesetzt, darunter bei der Razzia gegen Nicolas Maduro in Venezuela. Anthropic hat angeboten, seine Standardnutzungsrichtlinien auf Pentagon-Verträge anzuwenden, hat jedoch bei bestimmten Anwendungen Grenzen gezogen. Das Unternehmen erklärte, es werde nicht zulassen, dass sein Modell zur Massenüberwachung amerikanischer Bürger oder für autonome Waffensysteme, die ohne menschliche Aufsicht operieren, eingesetzt werde.
Am selben Tag, an dem die Nachricht über die Druckkampagne des Pentagon bekannt wurde, kündigte Anthropic eine umfassende Überarbeitung seiner Sicherheitsprotokolle an. Das Unternehmen gab bekannt, dass es seine Responsible Scaling Policy (RSP) ändert und damit die zuvor festgelegten Sicherheitsleitplanken effektiv senkt. Das zentrale Versprechen von Anthropic gegenüber Verbrauchern und Geschäftspartnern bestand jahrelang darin, das Training neuer KI-Modelle einzustellen, wenn bestimmte Sicherheitsmaßstäbe nicht im Voraus gewährleistet werden könnten. Diese frühere Politik stützte sich auf „harte Stolperdrähte“, die darauf abzielten, die Entwicklung sofort zu stoppen, wenn bestimmte Risikoschwellen erreicht wurden.
Die aktualisierte Richtlinie ersetzt diese strengen roten Linien durch einen flexibleren Ansatz. Das neue Framework von Anthropic basiert auf „Risikoberichten“ und „Frontier Safety Roadmaps“ und nicht auf automatischen Entwicklungspausen. In einer Erklärung erklärte Anthropic: „Zweieinhalb Jahre später ist unsere ehrliche Einschätzung, dass sich einige Teile dieser Theorie des Wandels so entwickelt haben, wie wir gehofft hatten, andere jedoch nicht.“ Das Unternehmen argumentiert, dass der Wandel notwendig sei, um in einem sich schnell entwickelnden Markt wettbewerbsfähig zu bleiben.
Jared Kaplan, Chief Science Officer von Anthropic, verteidigte die Entscheidung in einem Interview mit Time. Kaplan erklärte, dass ein einseitiges Anhalten der Entwicklung kontraproduktiv wäre, während die Wettbewerber weiter voranschreiten. „Wir hatten das Gefühl, dass es niemandem wirklich helfen würde, wenn wir mit dem Training von KI-Modellen aufhören würden“, sagte Kaplan. „Angesichts des rasanten Fortschritts der KI hatten wir nicht wirklich das Gefühl, dass es für uns sinnvoll wäre, einseitige Verpflichtungen einzugehen … wenn die Konkurrenz die Nase vorn hat.“
Anthropic nannte ein „Problem des kollektiven Handelns“ als Hauptmotivation für die Änderung der Politik. Das Unternehmen argumentierte, dass sich die allgemeine Sicherheit des Ökosystems verschlechtern könnte, wenn ein Entwickler aus Sicherheitsgründen eine Pause einlegt, während andere ohne starke Abhilfemaßnahmen weitermachen. Im aktualisierten RSP heißt es: „Die Entwickler mit den schwächsten Schutzmaßnahmen würden das Tempo vorgeben, und verantwortungsbewusste Entwickler würden ihre Fähigkeit verlieren, Sicherheitsforschung zu betreiben und den öffentlichen Nutzen voranzutreiben.“ Anthropic wies auch darauf hin, dass das breitere antiregulierende Umfeld der Vereinigten Staaten einen Faktor darstellte, der seine Entscheidung beeinflusste.
Der finanzielle Kontext unterstreicht den Wettbewerbsdruck, dem das Unternehmen ausgesetzt ist. Im Februar sicherte sich Anthropic neue Investitionen in Höhe von 30 Milliarden US-Dollar, wodurch sich sein Gesamtwert auf 380 Milliarden US-Dollar erhöhte. Die neuesten Modelle des Unternehmens, insbesondere hinsichtlich der Codierungsfunktionen, haben großes Lob erhalten. Allerdings geht dieses Wachstum mit einem Wandel im Unternehmensethos einher. Während die früheren Sicherheitsverpflichtungen von Anthropic ein Eckpfeiler der Marke waren, gibt der neue Ansatz der kontinuierlichen Schulung Vorrang vor harten Stopps.
Chris Painter, der Direktor der gemeinnützigen Organisation METR, äußerte eine gemischte Einschätzung der neuen Politik von Anthropic. Painter lobte die verstärkte Betonung der Transparenz, warnte jedoch davor, dass die Flexibilität des neuen RSP zu einem „Froschkocheffekt“ führen könnte. Dieses Phänomen beschreibt ein Szenario, in dem Sicherheitsstandards durch eine Reihe von Rationalisierungen schrittweise ausgehöhlt werden, was schließlich zu einer erheblichen Abweichung von den ursprünglichen Sicherheitszielen führt.
Painter interpretierte den politischen Wandel außerdem als Signal für umfassendere Branchenkämpfe. Er wies darauf hin, dass die Änderungen darauf hindeuten, dass Anthropic „glaubt, dass es bei seinen Sicherheitsplänen in den Triage-Modus wechseln muss, weil die Methoden zur Risikobewertung und -minderung nicht mit dem Tempo der Kapazitäten Schritt halten.“ Painter kam zu dem Schluss, dass diese Entwicklung als Beweis dafür dient, dass die Gesellschaft möglicherweise nicht ausreichend darauf vorbereitet istpotenzielle katastrophale Risiken im Zusammenhang mit fortschrittlicher KI. Weder in der Ankündigung von Anthropic zum RSP noch in der Berichterstattung über die Forderungen des Pentagons wurden die beiden Ereignisse explizit miteinander in Verbindung gebracht, obwohl ihr Zeitpunkt am selben Tag die Aufmerksamkeit auf die Schnittstelle zwischen staatlichem Druck und Unternehmenssicherheitspolitik gelenkt hat.
