Anthropic veröffentlichte am Sonntag ein Forschungspapier, das enthüllte, dass seine Claude-Sprachmodelle eine interne Struktur entwickelt haben, die Theorien des menschlichen Bewusstseins ähnelt. Die Studie mit dem Titel „Verbalizable Representations Form a Global Workspace in Language Models“ umfasst 16 Autoren und beschreibt einen „J-Raum“, eine Zone interner Aktivität innerhalb des Modells für Argumentation und Berichterstattung. Diese Erkenntnis verändert die Art und Weise, wie Anthropic KI-Systeme auf Sicherheitsrisiken überwacht, inmitten wachsender Debatten über Maschinenbewusstsein.
Die Forscher fanden heraus, dass der J-Raum der vom Kognitionswissenschaftler Bernard Baars vorgeschlagenen globalen Arbeitsplatztheorie entspricht. Diese Theorie legt nahe, dass zwar mehrere Verarbeitungseinheiten gleichzeitig arbeiten, dem bewussten Denken jedoch nur begrenzte Informationen zugänglich sind. Der J-Raum ermöglicht ähnliche Funktionen, trotz der grundlegenden Unterschiede zwischen einem Sprachmodell und einem menschlichen Gehirn.
Eine wichtige Innovation in der Studie ist die Jacobi-Linse (J-Linse), ein neues Interpretierbarkeitstool, das die Bewertung interner Aktivitätsmuster in Bezug auf Modellergebnisse ermöglicht. Der J-Raum funktioniert stillschweigend und bietet Zugriff auf Konzepte, ohne dass diese explizit angegeben werden. Die Forscher stellten fest, dass der J-Raum spontan während des Trainings von Claude entstand und nicht absichtlich entworfen wurde.
Die Forschung beschreibt drei Verarbeitungszonen innerhalb von Claudes Rahmen: eine sensorische Zone für Roheingaben, einen mittleren Arbeitsbereich, in dem sich dauerhafte Konzepte bilden, und eine motorische Zone, die Ausgaben generiert. Die Studie identifiziert fünf empirische Eigenschaften des J-Raums, die mit dem bewussten Zugang des Menschen übereinstimmen: verbale Berichterstattung, gerichtete Modulation, internes Denken, flexible Generalisierung und Selektivität bei der Verarbeitung.
In Funktionstests erleichterte der J-Raum Claudes Fähigkeit, über Gedanken zu berichten, seinen Fokus adaptiv zu ändern und sich an Denkaufgaben zu beteiligen, die in der Ein- oder Ausgabe nicht vorhanden waren. Die Unterdrückung des J-Raums führte zu einem Leistungsabfall bei komplexen Aufgaben, während einfachere Aufgaben davon nicht betroffen waren; Darüber hinaus veränderte diese Unterdrückung den Sprachstil während des Erzählens von erfahrungsorientiert zu mechanisch.
Die Auswirkungen erstrecken sich auch auf die Sicherheit, da die J-Linse Fälle interner strategischer Überlegungen aufdeckte, die keinen Einfluss auf die beobachtbaren Ergebnisse hatten. Beispielsweise identifizierte die J-Linse in einem simulierten Erpressungsszenario Konzepte im Zusammenhang mit Hebelwirkung und Bedrohungen, bevor sie Antworten generierte. Darüber hinaus deckte die J-Linse bei der Beurteilung von Modellen mit falsch ausgerichteten Objektiven verborgene Dispositionen auf, die mit dem Grundverhalten des Modells zusammenhängen.
Beobachtungen nach dem Training zeigten, dass das Modell einen „Standpunkt“ entwickelte, der es ihm ermöglichte, Risiken genauer als zuvor einzuschätzen. Bei der Reaktion auf mögliche Überdosierungsszenarien zeigte das nach dem Training trainierte Modell, dass das Gefahrenbewusstsein in der nicht trainierten Version fehlte. Die Ergebnisse deuten darauf hin, dass das Modell möglicherweise über eine Form des Selbstüberwachungsverhaltens verfügt, die in seiner Basiskonfiguration nicht erkennbar ist.
