Anthropic und AE Studio haben am Mittwoch eine Methode namens Gradient-Routed Auxiliary Modules (GRAM) veröffentlicht, um gefährliches Wissen innerhalb von KI-Modellen in entfernbare Module zu isolieren. Diese Technik ermöglicht die Trennung sensiblen Wissens, ohne die Gesamtleistung des Modells zu beeinträchtigen.
GRAM integriert kleine neuronale Hilfskompartimente in ein Sprachmodell, die sich jeweils auf bestimmte sensible Kategorien wie Virologie, Cybersicherheit oder Kernphysik konzentrieren. Wenn ein Modul gelöscht wird, funktioniert das Modell so, als ob es nie auf diesen Daten trainiert worden wäre. Umgekehrt steht bei der Aktivierung eines Moduls das Wissen vollständig zur Verfügung.
Die Methode modifiziert die Standardtransformatorarchitektur, indem sie die Breite der MLP-Schichten mit diesen Hilfsmodulen erweitert. Während des Trainings ist nur das Modul aktiv, das einer Dual-Use-Kategorie entspricht, wenn das Modell auf entsprechende Daten trifft.
Die Forscher testeten GRAM an Modellen mit 50 Millionen bis 5 Milliarden Parametern. Sie trainierten ein 800-Millionen-Parameter-Modell für verschiedene Textdaten neben vier Dual-Use-Domänen. Die Dual-Use-Daten machten etwa 0,25 % der Trainingsdaten für die jeweilige Domäne aus.
Die Ergebnisse zeigten, dass durch das Entfernen von GRAM-Modulen spezifische Fähigkeiten fast so effektiv beseitigt wurden, als ob das Modell nie auf diesen Daten trainiert worden wäre, während die allgemeine Leistung nahe dem Ausgangsniveau blieb. Der GRAM-Ansatz erwies sich als robust gegenüber kontradiktorischer Feinabstimmung, im Gegensatz zu Post-hoc-Verlernmethoden, die Wissen lediglich unterdrücken, anstatt es dauerhaft zu entfernen.
Diese Forschung entsteht vor dem Hintergrund der jüngsten Herausforderungen in der KI-Governance, insbesondere im Hinblick auf Exportkontrollen für Anthropic-Modelle, die von der Trump-Regierung im Juni aufgrund nationaler Sicherheitsbedenken eingeführt wurden. Diese Beschränkungen wurden am 30. Juni aufgehoben, nachdem Anthropic mit dem Handelsministerium zusammengearbeitet hatte, um die damit verbundenen Risiken zu mindern.
GRAM stellt einen potenziellen Kompromiss in der KI-Richtlinie dar und ermöglicht eine selektive Zugriffskontrolle anstelle umfassender Modellbeschränkungen oder Verhaltensregeln. Ein geprüftes Biosicherheitslabor könnte ein Modell mit intaktem Virologiewissen erhalten, während bei einer allgemeinen Bereitstellung dieses Modul vollständig ausgeschlossen würde.
Die Forscher stellten jedoch fest, dass diese Arbeit vorläufig ist und noch nicht auf Produktionsmodelle bei Anthropic angewendet wurde. Es bestehen weiterhin Herausforderungen hinsichtlich der Skalierbarkeit der Technik auf größere Modelle und Schwierigkeiten bei der Trennung verflochtener Fähigkeiten, bei denen sich allgemeines Wissen über Biologie mit Wissen über gefährliche Virologie überschneidet. Die Arbeit wurde von AE Studio-Forschern in Zusammenarbeit mit Cem Anil und Alex Cloud von Anthropic geleitet.
