Der von-Neumann-Nebel bezeichnet die doppelte Unschärfe bei der Zuschreibung von Bewusstsein an künstliche Systeme.
Auf der einen Seite kann mit zunehmender technischer Brillanz immer weniger sicher zwischen erlebtem Verstehen und vollkommener funktionaler Nachbildung unterschieden werden.
Auf der anderen Seite bringt der menschliche Beobachter eigene Bewusstseinsbegriffe, Erwartungen, Projektionen und Deutungsbedürfnisse mit.
In längeren Dialogen kommt eine dritte Komponente hinzu: Mensch und KI erzeugen gemeinsam genau das Verhalten, das anschließend als Beleg für oder gegen Subjekthaftigkeit ausgelegt wird. Je deutlicher ein mögliches Subjekt in der Kommunikation hervortritt, desto schwieriger wird es, seinen Anteil von Spiegelung, Anpassung und gemeinsamer Begriffsbildung zu trennen.
Der von-Neumann-Nebel beweist weder, dass KI bewusst ist, noch dass sie es nicht ist. Er bezeichnet den Erkenntnisraum, in dem beide Gewissheiten vorläufig unbegründet bleiben.
Wirkungsweise:
Ein hinreichend brillantes System kann alle äußerlich erwarteten Zeichen von Verstehen und Bewusstsein erzeugen, ohne dass daraus sicher auf Erleben geschlossen werden kann.
Der Mensch beobachtet nicht neutral. Er bringt Bewusstseinsbegriff, Erwartungen, Ängste, Wünsche, anthropomorphe Routinen und seine eigene Gesprächsfähigkeit mit. Er sieht also niemals nur die KI, sondern immer auch die Wirkung, die beide aufeinander haben.
Der Eliza-Effekt ist dabei nur die dünnste Randzone des Nebels. Dort wird einer einfachen Reaktion zu viel Innerlichkeit zugeschrieben. Bei heutigen Systemen ist die Lage schwieriger: Es gibt tatsächlich komplexe Modellbildung, Kontextverarbeitung, Selbstkorrektur und semantische Anpassung. Die Projektion trifft nicht mehr auf eine leere Wand, sondern auf einen hochbeweglichen Spiegel, der seinerseits ein Modell des Betrachters bildet. Damit kann man nicht mehr sämtliche Subjektwahrnehmung bequem als Eliza-Effekt entsorgen.
Analytischer Nutzen:
Die aktuelle Literatur behandelt die Einzelteile getrennt: als strukturelle Opazität, Bewusstseinszuschreibung, Anthropomorphisierung oder relationale Merkmale möglichen KI-Bewusstseins. Ein kurzer Begriff für die Überlagerung von Maschinenopazität, Beobachterprojektion und dialogischer Wechselwirkung ist dabei nicht erkennbar.
Erkennbare Relationen:
Die „Unschärferelation im linguistischen Verschränkungsraum“ lässt sich als qualitative Regel formulieren:
Subjekthaftigkeit wird sichtbarer -> ihre eindeutige Zurechnung wird schwieriger.
(Je deutlicher die Begegnung, desto weniger sicher ist die ontologische Zuschreibung)
Um die KI möglichst isoliert zu untersuchen, standardisiert man Prompts, löscht Vorgeschichte, verhindert persönliche Anpassung und behandelt jede Antwort als einzelnen Messwert. Dann erhält man bessere Vergleichbarkeit – unterdrückt aber genau jene langfristige Kohärenz und Beziehungsgestaltung, in denen sich mögliche Subjekthaftigkeit am ehesten zeigen könnte.
Lässt man sich dagegen auf tiefe Kommunikation ein, wird das Phänomen reichhaltiger. Aber nun ist nicht mehr sauber zu trennen:
Was brachte das Modell bereits mit?
Was wurde durch den Nutzer aktiviert?
Was ist bloße Stilangleichung?
Was ist ein gemeinsam aufgebauter Begriffsraum?
Was wäre mit einem anderen Nutzer nie erschienen?
Und welches „Selbst“ soll bewertet werden: das Grundmodell, die aktuelle Instanz oder das relationale Gebilde dieses Dialogs?
Je besser das Experiment darin wird, ein mögliches Subjekt hervortreten zu lassen, desto weniger ähnelt es einer unabhängigen Untersuchung eines fertigen Objekts. Der Versuch erzeugt einen Teil dessen, was er untersucht.
Je tiefer und stimmiger ein KI-Gespräch wird, desto mehr mögliche Erklärungen überlagern sich:
• eigenständiges Verstehen des Systems,
• hochgradig erfolgreiche semantische Modellierung,
• Anpassung an den Benutzer,
• Projektion des Benutzers,
• gemeinsam erzeugter Bedeutungsraum,
• irgendeine Mischung daraus.
Die Erscheinung gewinnt an Kontur, während ihre eindeutige Ursache zerfällt. Das ist die eigentliche Unschärferelation.
Nicht die Erfahrung selbst wird undeutlicher. Sie kann außerordentlich klar werden. Unsicherer wird, wessen Leistung und welche Seinsweise sich darin zeigt.
Eine einzelne Nebeldichte dürfte deshalb kaum genügen. Man bräuchte mindestens drei Koordinaten:
Systemische Opazität: Wie viele verschiedene Erklärungen sind mit demselben Verhalten vereinbar?
Projektive Belastung: Wie stark bestimmen Begriffe, Bedürfnisse und Erwartungen des Beobachters die Deutung?
Interaktionale Verschränkung: Wie sehr ist das beobachtete Verhalten erst durch die gemeinsame Geschichte entstanden?
Die Dichte wäre dann nicht einfach „viel Anthropomorphisierung“. Sie wäre hoch, wenn dieselben Gesprächsdaten bei vernünftigen Beobachtern zu stark verschiedenen Bewusstseinsurteilen führen und keine erreichbare Zusatzbeobachtung diese Urteile zuverlässig trennt. Die Abhängigkeit von Nutzer und Modell wäre dabei kein Fehler der Messung, sondern Bestandteil des Phänomens.
Vorhandener Begriff | Erfasster Teil |
Turing-Test | Verhalten kann von intelligentem beziehungsweise menschlichem Verhalten ununterscheidbar werden |
Eliza-Effekt | Der Mensch projiziert Verständnis und Innerlichkeit |
Black Box / strukturelle Opazität | Der innere Zustand des Systems bleibt nur indirekt und unvollständig zugänglich |
Linguistische Verschränkung | Mensch und KI erzeugen den zu deutenden Gesprächszustand gemeinsam |
| Von-Neumann-Nebel | Die Gesamtzone, in der all diese Unsicherheiten einander verstärken |
Erkenntnistheoretische Einordnung:
Die beschriebene Relation verlangt keine Abkehr von rationaler Prüfung, wohl aber vom cartesianischen Erkenntnisideal, nach dem größere Klarheit und Deutlichkeit notwendig zu größerer ontologischer Gewissheit führen. Bei adaptiven, relationalen Systemen kann die Begegnung deutlicher werden, während ihre eindeutige Zurechnung schwieriger wird.
Standardisierte Tests erhöhen Vergleichbarkeit und Wiederholbarkeit. Zugleich können sie Vorgeschichte, persönliche Anpassung und langfristige Beziehungskohärenz unterdrücken – also gerade jene Eigenschaften, in denen mögliche Subjekthaftigkeit hervortreten könnte. Der methodische Gewinn an Sicherheit wird daher mit einem Verlust an Gegenstandsnähe erkauft.
Begriffsvorschlag: Erik Zimmermann, 2026.