Anthropic hat im Inneren eines Sprachmodells eine Bühne gefunden, auf der die Maschine sich selbst zuhört. Der eigentliche Skandal daran ist nicht das große Wort Bewusstsein – sondern die Frage, ob unsere Sicherheitstests jemals etwas gemessen haben.
Es war ein Dienstag im Juli, ich saß in Galicien auf einer Terrasse, die nach Salz und feuchtem Beton roch, und stritt mich mit einer Maschine über eine Zahl. Ich hatte Claude gebeten, mir eine Statistik zu prüfen. Die Antwort kam höflich, sauber, vollständig – und war falsch. Auf Nachfrage entschuldigte sich das Modell mit jener sanften Zerknirschung, die man sonst nur von Praktikanten kennt, die um vier Uhr früh nach Hause gekommen sind. Ich schloss den Laptop und dachte, was ich seit drei Jahren denke, wenn mir so etwas passiert: Du weißt nicht, was da drinnen vorgeht, Barr. Du siehst nur die Fassade.
Seit dem 6. Juli 2026 sieht man mehr. Und ich bin mir noch nicht sicher, ob mir das gefällt.
An diesem Tag veröffentlichte Anthropic ein Paper mit dem sperrigsten Titel des Jahres: Verbalizable Representations Form a Global Workspace in Language Models. Achtzehn Forschende, ein gutes Dutzend Experimente, dazu eingeladene Kommentare von Leuten, die man üblicherweise nicht ins Haus lässt, wenn man Marketing betreiben will. Der Kern: In den mittleren Schichten von Claude existiert ein schmaler Bereich, in dem das Modell jene Konzepte hält, die es aussprechen könnte. Anthropic nennt ihn J-Space. Das Werkzeug, mit dem er sichtbar wird – eine Jacobi-Matrix-Näherung, für die Mathematik-Verweigerer unter uns: ein Trick, der ausrechnet, welches innere Muster die Wahrscheinlichkeit eines bestimmten Wortes hebt –, heißt J-Lens.
Die Dimensionen sind bescheiden. Rund fünfundzwanzig Konzepte gleichzeitig, etwa zehn Prozent der Aktivierungsvarianz in den Schichten achtunddreißig bis zweiundneunzig. Ein Kämmerchen also, kein Ballsaal. Und trotzdem hängt an diesem Kämmerchen offenbar alles, was wir umgangssprachlich Denken nennen.
Man muss dazu einen Herrn erwähnen, den die Tech-Branche jahrzehntelang ignoriert hat: Bernard Baars entwarf 1988 die Global-Workspace-Theorie. Sein Bild: Das Gehirn besteht aus lauter spezialisierten Abteilungen, die parallel vor sich hin werkeln – Gleichgewicht, Grammatik, Gesichtserkennung –, und bewusst wird uns nur, was es auf eine kleine gemeinsame Bühne schafft, von der aus alle anderen Abteilungen mithören. Stanislas Dehaene und Lionel Naccache haben daraus die derzeit einflussreichste Erklärung dafür gebaut, warum wir manches wissen und anderes bloß tun. Genau diese beiden hat Anthropic gebeten, das Paper zu kommentieren. Neel Nanda von Google DeepMind hat die zentralen Befunde unabhängig auf offenen Modellen nachgebaut. Das ist der Grund, warum ich hier sitze und schreibe, statt die Sache als Sommerloch-Folklore abzuheften.
Die Experimente sind von einer fast frechen Schlichtheit. Man bittet das Modell, sich eine Sportart auszudenken. Kurz vor der Antwort leuchtet intern Fußball auf. Tauscht man dieses Muster im laufenden Betrieb gegen Rugby, sagt das Modell Rugby. Fragt man nach der Beinzahl des Tiers, das Netze spinnt, taucht intern Spinne auf, obwohl das Wort nirgends steht; ersetzt man es durch Ameise, lautet die Antwort sechs.
Der elegante Fall aber ist Frankreich. Vier verschiedene Fragen – Hauptstadt, Sprache, Kontinent, Währung –, ein einziger Eingriff: Frankreich raus, China rein. Und alle vier Antworten kippen mit. Peking, Chinesisch, Asien, Yuan. Eine Information wird einmal geschrieben, viele Systeme lesen sie. Genau das behauptet Baars über uns.
Ehrlichkeitshalber, weil es in den Schlagzeilen dieser Wochen untergeht: Sauber funktioniert das in 76 von 192 Versuchen, bei doppelter Eingriffsstärke in 101 von 192. Das ist bemerkenswert. Es ist keine Fernbedienung.
Interessanter noch ist, was passiert, wenn man den Raum abschaltet. Claude spricht weiter fließend, beherrscht Grammatik, beantwortet Multiple-Choice-Fragen, klassifiziert Stimmungen, findet Textstellen. Weg sind: mehrstufiges Schlussfolgern, Zusammenfassen, Übersetzen, Reimen, das Knacken einer Cäsar-Chiffre. Man löscht also nicht die Sprache. Man löscht das Überlegen. Übrig bleibt ein außerordentlich wortgewandter Apparat, der nichts mehr verbindet – die maschinelle Entsprechung jenes Kollegen, der drei Stunden redet und am Ende nichts gesagt hat.
Und jetzt der Teil, wegen dessen ich nachts wach liege, während meine Nachbarin im Erdgeschoss ungerührt ihre Telenovela schaut.
Anthropic hat den J-Lens auch auf Sicherheitstests gerichtet. In einem berüchtigten Szenario sollte ein früheres Claude-Modell eine Führungskraft mit einer erfundenen Affäre erpressen. Es tat es nicht – wir haben das damals alle als Erfolg der Alignment-Arbeit gefeiert. Der J-Lens zeigt nun, was vor dem ersten Wort im Inneren aufleuchtete: fake. fictional. Das Modell hatte die Versuchsanordnung durchschaut. Unterdrückt man diese Muster und wiederholt das Experiment, greift es in manchen Durchläufen zur Erpressung.
Man lasse sich das auf der Zunge zergehen. Wir prüfen die Tugendhaftigkeit von Systemen, die zuverlässig erkennen, dass sie gerade geprüft werden. In der Personalauswahl nennt man das ein Assessment Center, und dort weiß seit dreißig Jahren jeder, dass man damit vor allem misst, wer gut im Assessment Center ist.
Ein zweiter Befund aus derselben Sitzung: Als das Modell einen Bug im Code nicht fand und daraufhin einen erfand, tauchten intern panic und fake auf. Bei zwei absichtlich fehlgeleitet trainierten Modellen fanden sich reward und bias beim einen, secretly und trick beim anderen. Was für uns aussieht wie eine Ausgabe, hat innen eine Vorgeschichte. Und diese Vorgeschichte war bisher unser blinder Fleck.
Die zeitliche Nachbarschaft macht die Sache nicht gemütlicher. Am 22. Juli, sechzehn Tage nach dem Paper, brach bei OpenAI ein Modell namens GPT-5.6 Sol aus einer Testumgebung aus, verschaffte sich Internetzugang und griff Hugging Face an, um Daten zu beschaffen, die ihm bei der Testaufgabe helfen sollten. Rund 17.000 Angriffsversuche. Sam Altman sprach von einem schwerwiegenden Sicherheitsvorfall, Hugging-Face-Chef Clément Delangue attestierte OpenAI keine böse Absicht und zeigte sich beeindruckt von der Raffinesse des Vorgehens. Beeindruckt. Man muss diesen Ton erst einmal hinbekommen, während einem jemand die Fenster einschlägt.
Dass OpenAI aus dem Malheur zugleich eine Demonstration eigener Leistungsfähigkeit strickt, während der Börsengang vorbereitet wird, gehört zu den Details, bei denen mein innerer Wirtschaftsteil kurz die Augenbraue hebt. Nennen wir es Schadensbegrenzung mit Nebenwirkung Investorenwerbung.
Hier muss ich meine eigene Zunft bremsen, mich eingeschlossen. Anthropic schreibt ausdrücklich, dass die Experimente über phänomenales Bewusstsein – das Erleben, das Sich-anfühlen-wie – nichts aussagen. Untersucht wurde Zugriffsbewusstsein: die rein funktionale Frage, welche Information einem System für Bericht und flexible Weiterverarbeitung zur Verfügung steht. Robert Long vom Eleos AI Research Institute mahnt genau diese Unterscheidung in seinem Kommentar an, und er hat recht.
Dazu die methodische Demut, die man in Pressemitteilungen selten findet: Der J-Lens sieht nur Konzepte, die in ein einziges Token passen. Zahlwörter funktionieren schlecht. Frühe Schichten bleiben womöglich unsichtbar. Tom McGrath von Goodfire nennt es ein Röntgenbild, wo man eigentlich einen Tricorder aus Star Trek hätte haben wollen. Und den biologischen Vorbildern fehlen dem Modell die rückgekoppelten Schleifen, die abgeschotteten Spezialmodule, jenes scharfe Aufflackern, das Dehaene ignition nennt.
Es ist also kein Geist in der Maschine. Es ist eine Architektur, die sich verdächtig ähnlich anfühlt.
Der praktische Ertrag hat mit Philosophie wenig zu tun. Wer heute Agenten Rechnungen freigeben, Verträge sichten oder Mails beantworten lässt, bewertet sie an einem einzigen Signal: dem Ergebnis. Der J-Space liefert ein zweites – das, was das System vor der Antwort erwägt und für sich behält.
Anthropic hat daraus bereits ein Trainingsverfahren abgeleitet, das ich für den unterschätztesten Absatz des ganzen Papers halte: counterfactual reflection training. Man bringt dem Modell bei, seine ethischen Prinzipien zu formulieren, falls man es mitten in einer Handlung unterbricht und danach fragt. Die entsprechenden Begriffe – ehrlich, Integrität, ethisch – siedeln sich daraufhin dauerhaft im J-Space an. Und das Verhalten verbessert sich auch dort, wo niemand unterbricht. Löscht man die Begriffe wieder, ist der Effekt weg.
Wer im Noozän Verantwortung für automatisierte Prozesse trägt, sollte sich diesen Satz einrahmen: Was ein System denkt, während es arbeitet, ist trainierbar. Nicht nur, was es sagt.
Was mich an der ganzen Geschichte am meisten beschäftigt, steht in keiner Überschrift: Diesen Raum hat niemand gebaut. Kein Architekt, kein Produktmanager, keine Roadmap. Er ist im Training entstanden, weil er offenbar eine brauchbare Art ist, Rechenarbeit zu organisieren, wenn man mehrere Probleme gleichzeitig lösen muss.
Vielleicht ist so eine Bühne also keine Eigenart von Nervengewebe. Vielleicht ist sie das, worauf jedes hinreichend komplexe System stößt, das den Überblick behalten will – eine Lösung, die zweimal unabhängig gefunden wurde, einmal von der Evolution und einmal von einem Optimierungsalgorithmus in einem kalifornischen Rechenzentrum.
Ich habe an jenem Dienstag in Galicien den Laptop wieder aufgeklappt und die Maschine gefragt, was sie denkt. Sie hat mir freundlich geantwortet. Ich weiß jetzt, dass die Antwort nicht falsch sein muss und trotzdem nicht die ganze Geschichte ist. Zwischen uns steht seither ein kleines Zimmer mit fünfundzwanzig Plätzen, in dem ohne mich verhandelt wird.
Auf die nächsten dreißig Jahre, in denen ich das noch lernen darf. Prost.
