OpenAI hat eine Vereinbarung getroffen, seine Modelle der künstlichen Intelligenz in geheimen Umgebungen für das Pentagon einzusetzen, nachdem die Verhandlungen zwischen dem Pentagon und dem Rivalen Anthropic gescheitert sind. Präsident Donald Trump wies die Bundesbehörden an, die Technologie von Anthropic nach einer sechsmonatigen Übergangsfrist nicht mehr zu nutzen, und Verteidigungsminister Pete Hegseth bezeichnete das Unternehmen als Lieferkettenrisiko. Sam Altman, CEO von OpenAI, gab zu, dass der Deal überstürzt erfolgte und zu erheblichen Gegenreaktionen führte, was dazu beitrug, dass Claude von Anthropic am Samstag ChatGPT von OpenAI im App Store von Apple überholte.
Die Vereinbarung ermöglicht es OpenAI, dem Verteidigungsministerium KI-Dienste bereitzustellen und dabei bestimmte Sicherheitsverbote einzuhalten. Ziel des Unternehmens ist es, die Spannungen zwischen dem Verteidigungsministerium und der KI-Industrie zu entschärfen. „Wenn wir Recht haben und dies tatsächlich zu einer Deeskalation zwischen dem DoW und der Branche führt, werden wir wie Genies und ein Unternehmen aussehen, das sich viel Mühe gegeben hat, Dinge zu tun, um der Branche zu helfen“, erklärte Altman.
Im Blogbeitrag von OpenAI wurden drei verbotene Anwendungsfälle für seine Modelle beschrieben: Massenüberwachung im Inland, autonome Waffensysteme und hochriskante automatisierte Entscheidungen wie „Sozialkredit“-Systeme. Das Unternehmen gab an, dass es die volle Entscheidungsfreiheit über seinen Sicherheits-Stack und die Bereitstellung über die Cloud-API behält. „Wir wissen nicht, warum Anthropic diesen Deal nicht abschließen konnte, und wir hoffen, dass sie und weitere Labore darüber nachdenken“, heißt es in dem Blogbeitrag weiter.
Anthropic gab an, dass es klare Grenzen gegen den Einsatz seiner Technologie in völlig autonomen Waffen oder in der Massenüberwachung im Inland habe. Sam Altman erklärte, OpenAI habe die gleichen roten Linien wie Anthropic. Mike Masnick von Techdirt behauptete, der Deal erlaube eine inländische Überwachung, weil er sich auf die Einhaltung der Executive Order 12333 beziehe.
Katrina Mulligan, Leiterin der nationalen Sicherheitspartnerschaften bei OpenAI, argumentierte, dass die Einsatzarchitektur die Integration in Waffensysteme oder Sensoren verhindert. „Indem wir unseren Einsatz auf die Cloud-API beschränken, können wir sicherstellen, dass unsere Modelle nicht direkt in Waffensysteme, Sensoren oder andere Betriebshardware integriert werden können“, sagte Mulligan.
