Wenn Plausibilität wie Wahrheit klingt.

Zwei Szenen, dasselbe Muster

Du liest einen Strategievorschlag, den eine KI in vier Minuten geschrieben hat. Zwanzig Seiten, klare Struktur, eine zitierte Studie aus dem Jahr 2023, Smith et al., Nature. Du gehst zur Quelle. Sie existiert nicht. Du schließt das Dokument langsam und merkst, wie sich Empörung mit etwas Vertrautem mischt.

Vor zwei Wochen, in einem Gespräch am Rande eines Meetings, hattest du selbst eine Studie zitiert. „Es gab dazu eine Untersuchung, ich glaube 2020 …“ – ein Satz, der dir flüssig kam. Du hast den Inhalt für richtig gehalten. Niemand hat nachgefragt. Du selbst auch nicht.

Zwei Szenen. Dasselbe Muster: Wo Gewissheit fehlt, erscheint eine plausible Geschichte. Aber nicht derselbe Mechanismus. Das menschliche Gedächtnis rekonstruiert Erlebtes. Ein Sprachmodell erzeugt eine statistisch passende Fortsetzung.

Nur die Wirkung ist verblüffend ähnlich.

Mir passiert das regelmäßig. Unbewusst. Erst im Nachhinein merke ich, dass ich einen Inhalt zurechtgebogen habe, weil mir die Lücke gar nicht aufgefallen war.

Wissen ist begrenzt

Einstein hat dafür einen Satz geprägt, der heute oft als Kreativ-Motto an Wänden hängt – und dessen Kern dabei überlesen wird: Wissen ist begrenzt. Das Zitat stammt aus einem Interview von 1929. Einstein beschreibt keine technische Schwäche, sondern die Bedingung, unter der menschliche Erkenntnis entsteht.

Was wir aus dieser Begrenzung machen, heißt Vermutung, Hypothese, Imagination – und manchmal Irrtum. Was ein Sprachmodell produziert, wenn seine flüssige Antwort nicht durch Fakten gedeckt ist, nennen wir Halluzination.

Dieser Essay folgt nicht mehr der bequemen Behauptung, beide täten dasselbe. Er folgt der unbequemeren Frage: Warum verwechseln wir sprachliche Plausibilität so leicht mit Wissen?

"Phantasie ist wichtiger als Wissen, denn Wissen ist begrenzt. Phantasie aber umfasst die ganze Welt."

Der Interpreter ohne Welt

Eine einflussreiche Familie neurowissenschaftlicher Modelle beschreibt Wahrnehmung als fortlaufenden Abgleich zwischen Erwartungen und Sinnesdaten. Dieses Predictive Processing ist kein abschließend bewiesenes Gesamtmodell des Gehirns. Aber es erklärt, weshalb Wahrnehmung mehr ist als passiver Empfang: Das Gehirn schätzt, was die Signale bedeuten, und korrigiert seine Schätzung am Widerspruch der Welt.

Der Neurowissenschaftler Anil Seth nennt Wahrnehmung deshalb eine kontrollierte Halluzination. Entscheidend ist das Wort kontrolliert: Sinnesdaten begrenzen die Vermutung.

Michael Gazzanigas Split-Brain-Forschung liefert ein zweites Bild. Sein „Interpreter“ der linken Hemisphäre erzeugt Erklärungen und überbrückt fehlende Information. Daraus folgt aber nicht, dass die rechte Gehirnhälfte schlicht der „Realist“ wäre. Hemisphären arbeiten komplementär; die alte Links-erfindet-rechts-prüft-Formel ist zu sauber für ein komplexes Gehirn.

Als Metapher bleibt etwas Brauchbares: Ein Erzähler ohne unabhängigen Kontakt zur Wirklichkeit kann überzeugend klingen und trotzdem irren. Als Gleichsetzung von Gehirn und KI taugt das Bild nicht.

Wie der Mensch die Lücke füllt

Schon 1932 beschrieb Frederic Bartlett in Remembering Erinnerung als Rekonstruktion. Wir rufen keine unveränderte Aufnahme ab. Wir setzen Vergangenes aus Spuren, Vorwissen und aktuellem Kontext neu zusammen.

Elizabeth Loftus zeigte später, wie Suggestion falsche autobiografische Erinnerungen begünstigen kann. Das macht Gedächtnis nicht wertlos. Es macht deutlich, dass Sicherheit und Genauigkeit zwei verschiedene Dinge sind.

Konfabulation bezeichnet in der Neuropsychologie etwas Spezifischeres: Menschen produzieren ohne Täuschungsabsicht falsche Erinnerungen oder Erklärungen, häufig im Zusammenhang mit Gedächtnisstörungen und beeinträchtigter Realitätsprüfung. Das ist nicht einfach der Fachbegriff für jeden alltäglichen Erinnerungsfehler.

Auch der Mandela-Effekt ist deshalb nicht „kollektive Konfabulation“ im klinischen Sinn, sondern eine geteilte falsche Erinnerung. Die Ähnlichkeit liegt im Ergebnis: Eine stimmige Geschichte fühlt sich wahr an.

Rekonstruktion hilft uns, aus Fragmenten Kontinuität zu bilden. Klinische Konfabulation ist nicht die Voraussetzung eines kohärenten Selbst. Aber sie zeigt zugespitzt, wie stark Kohärenz unser Urteil über Wahrheit überstimmen kann.

Erinnerung ist kein Inventar. Gewissheit ist kein Beleg.

Wie die KI die Lücke füllt

Ein autoregressives Sprachmodell wird darauf trainiert, das nächste Token vorherzusagen – ein Token kann ein Wort, ein Wortteil oder ein Zeichen sein. Es berechnet eine Wahrscheinlichkeitsverteilung; ein Decoding-Verfahren wählt oder sampelt daraus. Es setzt also keineswegs immer nur „das wahrscheinlichste Wort“. Der GPT-4 Technical Report beschreibt dieses Vortraining ausdrücklich als Next-Token-Prediction.

Moderne Assistenten bestehen zudem nicht nur aus einem Basismodell. Sie können durch menschliches Feedback nachtrainiert sein, Werkzeuge nutzen, Quellen abrufen oder Antworten prüfen. Das senkt Fehlerquoten. Es ändert aber nicht das Grundproblem: Sprachliche Stimmigkeit ist im Modell nicht automatisch an faktische Richtigkeit gekoppelt.

Andrej Karpathy formulierte es 2023 polemisch: „hallucination is all LLMs do. They are dream machines.“ Als Warnung vor falscher Autorität ist das stark. Technisch braucht es die Ergänzung: Nicht jede erzeugte Aussage ist falsch, und zusätzliche Systeme können die Ausgabe an Quellen binden.

Auch der Begriff ist nicht entschieden. Halluzination bleibt in Forschung und Praxis üblich. Andere schlagen Konfabulation vor; wieder andere halten auch diese Analogie für irreführend. Ein Fachbeitrag von 2024 zeigt gerade, dass darüber gestritten wird.

Menschen und Maschinen stehen also nicht unter demselben Korrekturdruck. Systeme lassen sich technisch korrigieren. Aber sie haben keinen eigenen Körper, keine soziale Biografie und keinen persönlichen Einsatz. Die Folgen einer falschen Antwort trägt jemand anderes.

Der Oracle Bias – eine Denkfigur

Ich nenne unsere Neigung, einer flüssig antwortenden Instanz verborgenes Wissen zuzuschreiben, den Oracle Bias. Das ist kein etablierter psychologischer Fachbegriff. Es ist eine Denkfigur für eine alte Erwartung: Wo eine Autorität spricht, soll die Lücke verschwinden.

Menschen haben dafür Orakel, Experten, Bücher und schließlich Algorithmen genutzt. Nicht weil diese Instanzen immer behaupteten, unfehlbar zu sein. Sondern weil wir ihre Sicherheit gern mit unserer Entlastung verwechseln.

Die technische Kritik an KI-Halluzinationen ist berechtigt. Eine Studie der European Broadcasting Union und der BBC prüfte 2025 insgesamt 2.709 Antworten zu Nachrichten in 14 Sprachen. 45 Prozent enthielten mindestens ein signifikantes Problem; bei 81 Prozent fanden die Journalistinnen und Journalisten irgendein Problem. Das sind nicht automatisch 81 Prozent falsche Antworten – die Prüfung umfasste auch Quellen, Kontext und die Trennung von Meinung und Tatsache.

Doch in unserer Enttäuschung steckt manchmal mehr als technische Nüchternheit. Wir wollten eine Wahrheitsmaschine. Wir haben ein System bekommen, dessen Gewissheit vor allem eine Form der Sprache ist.

Der Skandal ist nicht nur, dass die Maschine irrt. Der Skandal ist, wie überzeugend Irrtum klingen kann.

Die Lücke aushalten

In Platons Apologie sagt Sokrates nicht wörtlich: „Ich weiß, dass ich nichts weiß.“ Die bekannte Formel verdichtet seinen Gedanken: Was er nicht weiß, hält er auch nicht irrtümlich für Wissen. Das ist mehr als Bescheidenheit. Es ist eine Methode.

John Keats nannte die Fähigkeit, in Ungewissheit und Zweifel zu verweilen, ohne sofort nach Tatsachen und Erklärungen zu greifen, negative capability. Wer das kann, ist nicht weniger klar. Er schließt die Antwort nur nicht zu früh.

Auch KI-Systeme können Unsicherheit ausgeben, Aussagen prüfen oder eine Antwort verweigern. Doch das ist ein erzeugtes Verhalten, kein erlebtes Verhältnis zum eigenen Nichtwissen. Wir Menschen können eine Lücke nicht nur markieren. Wir können Verantwortung dafür übernehmen, was wir trotz dieser Lücke behaupten.

Wie viel Ungewissheit hältst du aus, bevor du anfängst, dir eine Antwort zu erfinden?

Die Rückkopplung macht den Unterschied

Menschliche Konfabulation und KI-Halluzination sind nicht dieselbe Architektur. Sie teilen eine gefährliche Oberfläche: Beide können eine Lücke mit Plausibilität unsichtbar machen.

Der entscheidende Unterschied liegt nicht in einer romantischen Überlegenheit des Menschen. Auch wir ignorieren Widerspruch, täuschen uns und verteidigen erfundene Gewissheiten. Aber wir sind an eine Welt rückgekoppelt, die antwortet: durch andere Menschen, durch Erfahrung, durch Konsequenzen.

Eine KI kann in solche Rückkopplungen eingebaut werden. Von allein trägt sie keine Verantwortung dafür. Die Frage ist deshalb nicht nur, ob sie halluziniert.

Die Frage ist, wer ihre Behauptungen prüft – und ob du noch merkst, wann du selbst eine Lücke geschlossen hast.

Welche Geschichte erzählst du dir gerade?

Welche Geschichte erzählst du dir gerade über dich selbst – und an welcher Stelle hast du Plausibilität mit Wahrheit verwechselt?