Nicht einfach nur klüger

Ein großes Wort mit zu vielen Bedeutungen

Superintelligenz klingt wie eine eindeutige Steigerung: intelligent, intelligenter, superintelligent. Doch die Fragen, die sich unter diesem Wort sammeln, liegen auf verschiedenen Ebenen. Mehr Wissen und bessere Problemlösung betreffen Leistung; schnelles Lernen betrifft Anpassungsfähigkeit; Bewusstsein betrifft mögliches Erleben; eigene Ziele, Selbstständigkeit und Weltzugang betreffen Handlungsfähigkeit und Macht. Wer all das in ein einziges Wort legt, hat die politische Debatte schon begonnen, bevor der Begriff geklärt ist.

Für diese Serie verwende ich deshalb einen engen Arbeitsbegriff. Er sagt nichts darüber voraus, wann eine Superintelligenz entstehen könnte oder was sie wollen würde. Er fragt zunächst nur, welche Art von Überlegenheit das Wort bezeichnen soll.

Eine Bestleistung ist noch keine allgemeine Intelligenz

Ein Schachprogramm, das jeden Menschen schlägt, könnte trotzdem keinen Mietvertrag verstehen. Seine Überlegenheit wäre tief, aber schmal: außergewöhnlich gut in einer abgegrenzten Klasse von Aufgaben.

François Chollet verschärft diesen Einwand in On the Measure of Intelligence. Er unterscheidet die gezeigte Fertigkeit in einer Aufgabe von der Effizienz, mit der ein System unter begrenztem Vorwissen neue Fertigkeiten erwirbt. Viel Training, umfangreiche Daten und eingebaute Annahmen können hohe Aufgabenleistung ermöglichen, ohne dass der Endwert zeigt, wie gut das System auf eine tatsächlich neue Situation überträgt.

Eine Prüfung misst also zuerst, was auf ihrem Bogen steht. Sie erfasst nicht automatisch Anpassungsfähigkeit, Lernökonomie oder die Breite möglicher Aufgaben. Ein Rekord kann deshalb übermenschlich sein und trotzdem wenig über allgemeine Intelligenz aussagen.

Der Einwand reicht noch weiter: Auch „allgemeine Intelligenz“ ist keine fest vermessene Naturgröße, sondern bündelt unterschiedliche Fähigkeiten unter einem abstrakten Vergleich. Für diesen Essay ist ASI deshalb kein entdeckter Grenzwert, sondern ein offengelegter Arbeitsbegriff, dessen Maßstab benannt werden muss.

Breite und Tiefe

Ein 2024 bei der ICML veröffentlichter Forschungsrahmen von Google DeepMind trennt die Tiefe einer Leistung von ihrer Breite. Tiefe bezeichnet dort das Leistungsniveau innerhalb eines Bereichs, Breite die Allgemeinheit über unterschiedliche Aufgaben hinweg. Der Rahmen ist ein Vorschlag zur Operationalisierung, keine allgemein anerkannte Intelligenztheorie.

Damit wird die übliche Abkürzungsreihe etwas klarer:

Doch selbst dann bleibt der Vergleichsmaßstab offen. Good blickte auf den klügsten einzelnen Menschen; ein DeepMind-Bericht von 2026 beschreibt ASI intuitiv als kognitiv leistungsfähiger als große menschliche Organisationen. Ein einzelner Forscher, ein Expertenteam und eine weltweit koordinierte Organisation sind jedoch drei verschiedene Messlatten. Eine Definition, die diese Wahl verschweigt, wirkt genauer, als sie ist.

Zwischen Können und Dürfen

Aus kognitiver Leistung folgt keine Handlungsbefugnis. Ein System könnte außergewöhnliche Antworten geben, ohne eigene langfristige Ziele zu verfolgen. Es könnte Ziele über Zeit verfolgen und dennoch für jeden Schritt eine Freigabe benötigen; umgekehrt könnte ein schwächeres System weitreichend handeln, wenn Menschen ihm genügend Rechte einräumen.

Werkzeuge, Konten, Kommunikationskanäle oder Robotik kommen durch Schnittstellen, Ressourcen und Zugriffsrechte hinzu. Diese Verbindung entsteht in Architektur und Bereitstellung, nicht aus Intelligenz allein.

Bewusstsein und Moral liegen noch einmal auf einer anderen Ebene. Eine Definition über beobachtbare Leistung beweist weder subjektives Erleben noch Mitgefühl; sie schließt beides auch nicht aus. Sie enthält darüber schlicht keine Aussage.

Bestnote und Vollmacht sind nicht dasselbe Dokument.

Der Entwicklungsweg bleibt offen

Der DeepMind-Bericht von 2026 diskutiert vier mögliche Wege von AGI zu ASI: weitere Skalierung, grundlegend neue KI-Ansätze, rekursive Verbesserung und große Kollektive koordinierter Systeme. In diesem Rahmen könnte Superintelligenz als Leistung eines einzelnen Systems oder eines Verbunds entstehen. Die Autoren benennen zugleich mögliche Engpässe und erhebliche Unsicherheiten; statt eines einzigen Sprungs halten sie auch eine Folge gesellschaftlicher Transformationen für denkbar. Das populäre Bild eines Geistes, der eines Morgens plötzlich „erwacht“, ist dafür keine Voraussetzung.

Der International AI Safety Report 2026 beschreibt, dass die Fähigkeiten heutiger KI-Systeme mit allgemeinem Verwendungszweck weiter zunehmen, trennt dokumentierte Gegenwartsbefunde aber von unsicheren Risiken künftiger Systeme. Er behandelt die heutigen Systeme als general-purpose AI, nicht als Nachweis einer bestehenden ASI. Für diesen Essay bleibt Superintelligenz daher ein Arbeitsbegriff für eine mögliche Leistungsrelation, keine Diagnose der Gegenwart.

Wenn niemand mehr nachrechnen kann

Zurück in den Prüfungsraum. Die für diesen Essay entscheidende Verschiebung beginnt nicht bei einer magischen Intelligenzzahl, sondern bei der Frage, welche Art von Prüfung noch möglich ist.

Solange du eine Lösung zwar nicht selbst erzeugen, nach ihrer Vorlage aber vollständig prüfen kannst, bleibt das Gefälle begrenzt. Ein Taschenrechner findet schneller zum Ergebnis; du kannst nachrechnen.

Schwieriger wird es, wenn du nicht jeden Schritt verstehst, das Ergebnis jedoch experimentell testen, durch unabhängige Fachleute bewerten oder mit methodisch und institutionell unabhängigen Systemen vergleichen kannst. Die Prüfung wird indirekter, verschwindet aber nicht.

Erst im stärksten Fall kannst du weder die Begründung hinreichend nachvollziehen noch das Ergebnis mit verfügbaren Verfahren rechtzeitig prüfen. Vertrauen kann dann durch frühere Erfolge, institutionelle Prüfungen oder andere indirekte Signale vernünftig begründet sein. Für das aktuelle Urteil besitzt du trotzdem keinen unabhängigen Maßstab.

Für diese Beziehung verwende ich den PlasticSurf-Arbeitsbegriff Urteilsgefälle. Er bezeichnet keine Eigenschaft der Maschine, sondern eine Lage zwischen ihr und uns: Frühere überprüfbare Erfolge oder andere belastbare Indizien können Vertrauen in die überlegene Urteilskraft eines Systems begründen, während sein neues Urteil nicht mehr hinreichend unabhängig geprüft werden kann.

An diesem Punkt wird jedoch auch das Wort „überlegen“ unsicher. Wenn niemand die neue Antwort prüfen kann, weiß niemand, ob sie in diesem Fall tatsächlich besser ist. Frühere Erfolge verändern die Wahrscheinlichkeit, sie beweisen die aktuelle Güte nicht. Das System könnte sich irren, seine Grenzen überschreiten oder lediglich überzeugender klingen.

Schon heutige Sprachmodelle erinnern in wesentlich kleinerem Maßstab daran, dass sprachliche Plausibilität kein Wissen garantiert – ein Unterschied, den ich im Essay Wenn Plausibilität wie Wahrheit klingt genauer untersuche. Das macht heutige Modelle nicht zu Vorstufen einer ASI. Es zeigt nur, weshalb überzeugende Form und überprüfbare Richtigkeit getrennte Größen bleiben.

Die Philosophen Cheng-hung Tsai und Hsiu-lin Ku untersuchen einen verwandten Konflikt über epistemische Deferenz und praktische Urteilskraft. Selbst wenn die Empfehlung einer Superintelligenz wahrscheinlich besser wäre, hätte die menschliche Fähigkeit, Gründe abzuwägen und praktische Urteile zu bilden, einen eigenen Wert. Die Autoren schlagen deshalb kein blindes Folgen vor, sondern epistemic heed: die Ausgabe einer überlegenen Instanz ernst nehmen und die eigene Vernunft so weit wie möglich weiter ausüben. Das ist eine philosophische Antwort auf den Zielkonflikt, noch kein technisches Verfahren, mit dem sich ein unprüfbares Urteil verifizieren ließe.

Ein Urteilsgefälle wäre zudem weder allumfassend noch unveränderlich. Es könnte nur einzelne Bereiche betreffen und durch Experimente, unabhängige Institutionen oder voneinander hinreichend unabhängige Systeme verkleinert werden. Wo solche Verfahren tragen, bleibt der Mensch Prüfer. Wo sie enden und an ihre Stelle nur noch begründetes Vertrauen tritt, beginnt der Prüferwechsel.

Die Definition endet vor der Machtfrage

Der Begriff Superintelligenz verleiht einem System weder Bewusstsein noch Absichten, Zugriffsrechte oder politische Autorität. Diese Fragen beginnen außerhalb der Definition und werden die nächsten Teile der Serie beschäftigen. Teil 1 isoliert eine andere Verschiebung: Formelle Entscheidungsgewalt kann beim Menschen bleiben, während seine Fähigkeit schwindet, die Gründe für eine Entscheidung selbst zu prüfen.

Das wäre nicht automatisch das Ende menschlicher Freiheit. Einer Instanz zu vertrauen, die wiederholt bessere Urteile geliefert hat, kann vernünftig und durch nachvollziehbare Gründe gestützt sein. Doch Gründe für dieses Vertrauen sind noch keine unabhängige Prüfung des nächsten Urteils. Wo diese Prüfung fehlt, garantiert das formelle letzte Wort allein keine gehaltvolle Kontrolle.

Auf dem Tisch liegt noch derselbe rote Stift. Die Kommission darf die Antwort ablehnen. Sie weiß nur nicht mehr sicher, ob sie damit einen Fehler korrigiert – oder einen begeht.

Was bleibt von menschlicher Kontrolle, wenn das letzte Wort bei uns liegt, der Maßstab für das Urteil aber nicht mehr?