Wissen ist begrenzt. Die KI weiß das nicht.

Zwei Szenen, dieselbe Mechanik

Du liest einen Strategievorschlag, den eine KI in vier Minuten geschrieben hat. Zwanzig Seiten, klare Struktur, eine zitierte Studie aus dem Jahr 2023, Smith et al., Nature. Du gehst zur Quelle. Sie existiert nicht. Du schließt das Dokument langsam und merkst, wie sich Empörung mit etwas Vertrautem mischt.

Vor zwei Wochen, in einem Gespräch am Rande eines Meetings, hattest du selbst eine Studie zitiert. „Es gab dazu eine Untersuchung, ich glaube 2020 …” – ein Satz, der dir flüssig kam. Du hast den Inhalt fest geglaubt. Niemand hat nachgefragt. Du selbst auch nicht.

Zwei Szenen. Dieselbe Mechanik. Eine Lücke, mit dem geschlossen, was plausibel klingt.

Nur die Bewertung ist ungleich verteilt.

Mir passiert das regelmäßig. Unbewusst. Erst im Nachhinein merke ich, dass ich gerade einen Inhalt zurechtgebogen habe, weil mir die Lücke gar nicht aufgefallen war.

Wissen ist begrenzt

Einstein hat dafür einen Satz geprägt, der heute oft als Kreativ-Motto an Wänden hängt – und dessen eigentlicher Kern dabei überlesen wird. Wissen ist begrenzt. Das ist keine Schwäche, die Einstein bedauert. Das ist die Bedingung, unter der überhaupt gedacht wird – egal von wem.

Was wir Menschen aus dieser Lücke gemacht haben, heißt Wissenschaft, Vermutung, Imagination. Was eine KI aus derselben Lücke macht, nennen wir Halluzination. Plötzlich soll die Lücke nicht mehr existieren.

Dieser Essay folgt der Frage, ob beide nicht eigentlich dasselbe tun – und warum nur einem davon der Realismus fehlt, der den Unterschied macht.

"Phantasie ist wichtiger als Wissen, denn Wissen ist begrenzt. Phantasie aber umfasst die ganze Welt."

Die linke Gehirnhälfte allein zuhaus

Beginnen wir bei dem System, das aus dieser Lücke etwas gemacht hat: dem menschlichen Gehirn. Lange galt es als Empfänger – Sinnesreize kommen herein, ein Bild der Welt entsteht. In den letzten zwanzig Jahren – getragen von Forschern wie Karl Friston und Andy Clark – hat sich dieses Bild umgedreht. Das Gehirn ist keine Kamera, es ist eine Vorhersagemaschine. Es entwirft fortlaufend Hypothesen darüber, was als Nächstes kommt, und gleicht diese Vermutungen mit den Sinnesdaten ab. Was wir „Wahrnehmung” nennen, ist immer schon das Ergebnis dieses Abgleichs.

Der Neurowissenschaftler Anil Seth nennt das die kontrollierte Halluzination. Wir sehen die Welt nicht, wie sie ist. Wir sehen sie so, wie unser Gehirn sie vorhersagt – und bemerken den Unterschied nur, wenn die Daten zu stark widersprechen, um die Vermutung zu halten.

Schon Michael Gazzaniga hatte in seinen Split-Brain-Studien einen Mechanismus dafür beschrieben. In der linken Hemisphäre arbeitet ein Modul, das er den Interpreter nennt: ein Sinnstifter, der jede Information zu einer kohärenten Geschichte verschweißt, auch wenn ihm Teile fehlen. Die rechte Hemisphäre dagegen ist der Realist – sie prüft, gleicht ab, widerspricht. Die linke erfindet. Die rechte erdet.

Hier liegt das Bild, das diesen Essay tragen wird. Eine KI ist eine linke Gehirnhälfte ohne Realist daneben. Brillanter Erzähler. Kein Lektor.

Was du gerade liest, ist nicht „da draußen”. Es ist die Vermutung deines Gehirns über das, was dort sein könnte.

Wie der Mensch die Lücke füllt

Was für die Wahrnehmung gilt, gilt auch für das Gedächtnis. Schon 1932 zeigte Frederic Bartlett in seinem Buch Remembering, dass Erinnerung kein Abruf eines Originals ist, sondern ein Neuaufbau aus Fragmenten. Wir erinnern uns nicht an das, was war. Wir bauen es uns jedes Mal neu zusammen – aus Resten, Erwartungen und der Geschichte, die wir gerade gut gebrauchen können.

Elizabeth Loftus hat das Jahrzehnte später in Experimenten gezeigt, die bis heute zitiert werden. Mit gezielten Suggestionen konnte sie Versuchspersonen Erinnerungen einpflanzen, die nie stattgefunden hatten – und die sie dennoch detailreich, emotional und überzeugt vortrugen. Das Gedächtnis ist nicht nur lückenhaft. Es ist plastisch.

In der Neuropsychologie nennt man das, was geschieht, wenn diese Lücken unbewusst gefüllt werden, Konfabulation. Patientinnen mit Korsakow-Syndrom oder bestimmten frontalen Schädigungen erfinden ganze Episoden, an die sie selbst fest glauben. Es ist keine Lüge. Es ist die kohärenteste Antwort, die das System auf eine Lücke geben kann.

Auch im Alltag erleben wir das. Der Mandela-Effekt – Millionen Menschen erinnern sich an Filmzitate, Markenlogos oder historische Ereignisse so klar, wie sie nie stattgefunden haben – ist nichts anderes als kollektive Konfabulation. Wir teilen die Lücke. Wir teilen die Vermutung.

Das hat eine unbequeme Konsequenz. Konfabulation ist kein Defekt des Denkens. Sie ist die Bedingung, unter der wir ein kohärentes Selbst überhaupt erleben. Wir sind die Geschichte, die wir über uns erzählen – und diese Geschichte wird jeden Tag neu zusammengesetzt.

Wahrnehmung ist nie direkt. Erinnerung ist nie Abruf. Identität ist nie Inventar.

Wie die KI die Lücke füllt

Eine KI führt kein Inventar. Sie hat keine Erinnerung im menschlichen Sinn, keinen Körper, der ihr Rückmeldung gibt, keinen Schmerz, der sie zwingt, etwas neu zu bewerten. Sie hat Wahrscheinlichkeiten. Ein Sprachmodell wie GPT, Claude oder Gemini arbeitet nach einem einzigen Prinzip: Next-Token-Prediction. Es berechnet, welches Wort, gemessen an riesigen Mengen Trainingsdaten, mit der höchsten Wahrscheinlichkeit als Nächstes folgen sollte. Dann setzt es dieses Wort. Und das nächste. Und so weiter.

Andrej Karpathy hat das 2023 auf eine Formel gebracht, die nüchterner ist als die meisten Marketing-Texte zum Thema: „hallucination is all LLMs do. They are dream machines.” Halluzinieren ist nicht der Fehler eines Sprachmodells. Es ist alles, was es tut. Wir lenken seine Träume nur durch unsere Prompts.

Darum wirft die Wissenschaft den Begriff Halluzination mittlerweile zurück. Eine Halluzination braucht Sinneswahrnehmung. Eine KI hat keine Sinne. Was sie tut, wenn ihr Wissen fehlt, ist nicht Halluzination – es ist Konfabulation. Sie füllt eine Lücke mit dem statistisch nächstbesten Wort, ohne zu wissen, dass eine Lücke da war.

Beim Menschen erden Körper, soziale Reaktion und schlicht das Risiko, blamiert oder gefährdet zu werden, die Vermutung. Eine KI kennt keinen Korrekturdruck. Sie kennt nur den Druck, irgendetwas zu sagen.

Es ist nicht der Maschine peinlich, dass sie konfabuliert. Es ist uns peinlich, weil wir bei ihr sehen, was wir bei uns verbergen.

Der Oracle Bias als psychologisches Phänomen

Hier liegt die Asymmetrie, die der Hook angekündigt hat. Wir verzeihen einander die unscharfe Erinnerung. Wir verzeihen uns selbst die schnelle Vermutung. Bei einer KI machen dieselben Lücken aus uns Empörte. Warum?

Eine mögliche Antwort führt nicht in die Informatik, sondern in die Religionsgeschichte. Menschen haben sich seit Jahrtausenden Orakel gebaut – Stätten, Personen, Bücher, Algorithmen – an denen das eigene Nichtwissen aufgehoben werden konnte. Was wir an einem Orakel suchen, ist nicht in erster Linie Information. Es ist die Entlastung von einer Lücke, die wir selbst nicht aushalten. Delphi war ein Orakel. Auguren waren Orakel. Heilige Schriften waren Orakel. „Die Wissenschaft sagt …” ist ein Orakel-Satz in modernerer Verkleidung. Die KI ist nur das jüngste Glied in einer langen Reihe.

Was alle Orakel gemeinsam haben: ihre Autorität lebt davon, dass sie keine Lücken haben dürfen. Sobald sie irren, sind sie nicht ein Stück weniger zuverlässig – sie sind aus der Position gefallen. Genau das geschieht gerade mit den Sprachmodellen. Eine Studie der European Broadcasting Union mit der BBC aus 2025 hat 2.709 Antworten von ChatGPT, Copilot, Gemini und Perplexity zu Nachrichteninhalten in 14 Sprachen geprüft. Ergebnis: 45 Prozent der Antworten enthielten mindestens einen schwerwiegenden Fehler, 81 Prozent zumindest einen kleineren. Und trotzdem erwarten wir, dass die nächste Antwort stimmt.

Die Empörung über KI-Halluzinationen ist im Kern keine technische Kritik. Sie ist eine theologische Trauer. Wir haben uns ein Orakel gebaut und sind enttäuscht, dass es keines geworden ist.

Wir wollten eine Wahrheitsmaschine. Wir haben einen Spiegel bekommen.

Die Lücke aushalten

Was zeigt der Spiegel? Vielleicht etwas, das wir an uns selbst verlernt haben.

In der antiken Philosophie war das Eingeständnis der Lücke kein Defekt, sondern eine Tugend. Sokrates’ Satz „Ich weiß, dass ich nichts weiß” ist keine Bescheidenheits-Floskel. Er ist ein Werkzeug. Er hält den Denkenden in Bewegung, weil er die Antwort nicht zu früh schließt.

Zweitausend Jahre später hat der englische Dichter John Keats dafür einen Ausdruck gefunden, der heute in Psychotherapie und Pädagogik genauso präsent ist wie damals in der Lyrik: negative capability – die Fähigkeit, in Ungewissheit, Mysterium und Zweifel zu verweilen, ohne reizbar nach Tatsachen und Erklärungen zu greifen. Wer das kann, ist nicht weniger klar. Er ist nur weniger getrieben.

Hier kippt die Asymmetrie zwischen Mensch und Maschine endgültig. Was wir bei uns selbst über Jahrtausende als Reife verstanden haben – mit Lücken leben können, sie aushalten, sie nicht reflexhaft schließen – behandeln wir bei einer KI als Bug. Die KI muss alles wissen, sofort, in vollständigen Sätzen, mit Quellenangabe.

Die wirkliche Differenz zwischen Mensch und Maschine ist deshalb nicht, ob beide halluzinieren. Sie ist, dass nur einer von beiden seine Halluzination bemerken, hinterfragen und stehen lassen kann. Das setzt etwas voraus, was eine KI nicht hat: ein Verhältnis zur eigenen Lücke.

Vielleicht ist das der eigentliche Kern. Wenn wir an einer KI das verlangen, was wir uns selbst nicht mehr zumuten – mit Nichtwissen zu leben –, dann sagt der Vorwurf weniger über die Maschine als über uns.

Wie viel Ungewissheit hältst du aus, bevor du anfängst, dir eine Antwort zu erfinden?

Die Architektur jedes denkenden Systems

Die KI ist nicht bloß eine Maschine, die irrt. Sie ist die ehrlichste Darstellung dessen, wie Denken funktioniert, wenn man den Schleier wegnimmt. Sie konfabuliert ohne den Realismus, den uns Körper, Schmerz und Sterblichkeit aufzwingen.

Beim Menschen wurde aus der begrenzten Wissensbasis Imagination, Hypothese, Fortschritt – weil die Lücke immer an etwas rückgekoppelt war. An ein Du. An einen Widerspruch. An eine Wirklichkeit, die zurückschlägt.

Wissen ist begrenzt, sagt Einstein. Das ist nicht der Defekt der Technologie. Das ist die Architektur jedes denkenden Systems. Die Frage ist nicht, ob eine KI halluziniert.

Die Frage ist, ob du noch merkst, wann du es selbst tust.

Welche Geschichte erzählst du dir gerade?

Welche Geschichte erzählst du dir gerade über dich selbst – und an welcher Stelle hast du die Lücke unbemerkt geschlossen?