Anthropic und Forschungspartner AE Studio haben am Mittwoch eine Methode zur Isolierung gefährlichen Wissens innerhalb von KI-Modellen mithilfe diskreter, entfernbarer Module veröffentlicht. Die Technik mit dem Namen Gradient-Routed Auxiliary Modules (GRAM) soll das Management von Dual-Use-Risiken verbessern und gleichzeitig die allgemeine Leistung von KI-Modellen aufrechterhalten.
GRAM fügt der Standardtransformatorarchitektur kleine zusätzliche neuronale Kompartimente hinzu. Jedes Fach ist einer bestimmten Kategorie sensiblen Wissens gewidmet, beispielsweise Virologie, Cybersicherheit oder Kernphysik. Durch das Löschen eines Moduls verhält sich das Modell so, als wäre es nie auf diese bestimmten Daten trainiert worden, während das Aktivieren eines Moduls den Zugriff auf das enthaltene Wissen ermöglicht.
Die Forscher trainierten ein 800-Millionen-Parameter-Modell mithilfe einer Mischung aus Webtext, Code, wissenschaftlichen Arbeiten und vier Dual-Use-Domänen: Virologie, Cybersicherheit, Kernphysik und Fachcode. Dual-Use-Daten machten etwa 0,25 % der Trainingsdaten für jede Domäne aus. Die Ergebnisse zeigten, dass das Entfernen von GRAM-Modulen fast genauso effektiv war wie überhaupt kein Training mit den Daten. Das Modell hielt die allgemeine Leistung nahe der Basislinie aufrecht, die unter Berücksichtigung aller Daten ermittelt wurde.
Dieser Ansatz erwies sich als robust gegenüber kontradiktorischer Feinabstimmung und unterscheidet sich von Post-hoc-Verlernmethoden, die Wissen typischerweise nur unterdrücken, anstatt es zu eliminieren. Die Untersuchung findet in einer schwierigen Zeit für die KI-Governance statt, da die Trump-Regierung aufgrund nationaler Sicherheitsbedenken im Zusammenhang mit potenziellen Schwachstellen vorübergehend Exportkontrollen für die Claude-Modelle von Anthropic verhängt hatte.
Diese Beschränkungen wurden am 30. Juni aufgehoben, nachdem Anthropic mit dem Handelsministerium zusammengearbeitet hatte, um die identifizierten Risiken anzugehen. GRAM bietet möglicherweise einen Mittelweg bei der Politikgestaltung, indem es eine granulare Zugriffskontrolle ermöglicht, anstatt ganze Modelle zu verbieten oder sich ausschließlich auf Verhaltensregeln zu verlassen.
Die Forscher stellten jedoch fest, dass ihre Erkenntnisse vorläufig seien und noch nicht in Produktionsmodelle bei Anthropic umgesetzt wurden. Sie stellten Fragen zur Skalierbarkeit von GRAM auf komplexere Modelle und zu den potenziellen Schwierigkeiten, verschränktes Wissen von allgemeineren Fähigkeiten zu trennen. Diese Forschung wurde von AE Studio geleitet, mit Beiträgen von Cem Anil und Alex Cloud von Anthropic.
