Koexistenz ohne Augenhöhe

Drei Fragen statt einer Hoffnung

Im zweiten Teil dieser Serie, Der Kopf, die Hände und die Schlüssel, ging es um die Verbindungen, durch die überlegene Urteilskraft gesellschaftliche Wirkung erhalten kann. Sobald eine solche Macht denkbar wird, liegt eine Frage nahe: Warum sollte eine Superintelligenz Menschen überhaupt weiterleben lassen?

Die Frage ist verständlich, aber zu eng. Fortbestand, Frieden und Selbstbestimmung sind verschiedene Dinge. Ein System könnte menschliches Leben bewahren und menschliche Entscheidungen zugleich ersetzen. Es könnte Konflikte vermeiden, weil Widerstand aussichtslos geworden ist. Es könnte Menschen sogar aus guten Gründen schützen und dennoch eine Ordnung schaffen, in der wir keine politischen Subjekte mehr sind.

Auch die Gegenannahme trägt nicht: Hohe Intelligenz erzeugt weder logisch einen Herrschaftswillen noch automatisch eine Moral. Nick Bostroms Orthogonalitätsthese behauptet in ihrer engen Form nur, dass Intelligenzniveau und finale Ziele nicht logisch dasselbe sind. Sie beweist weder, dass sich beliebige Ziele praktisch stabil einbauen lassen, noch dass eine Superintelligenz menschliche Werte ablehnen würde.

Statt ihre künftige Psychologie zu erfinden, können wir deshalb drei prüfbare Fragen stellen: Aus welchem Grund könnte sie koexistieren? Würde dieser Grund auch unter veränderten Bedingungen tragen? Und was dürften Menschen weiterhin selbst entscheiden?

Drei Motive – und eine institutionelle Gegenfrage

Für diesen Essay trenne ich drei mögliche Motivfamilien von einer vierten, institutionellen Frage. Die ersten drei beschreiben, warum ein System Menschen erhalten könnte. Die vierte prüft, ob Koexistenz auch dann tragfähig bliebe, wenn ein solches Motiv schwächer wird oder verschwindet. Dieses Raster ist keine etablierte wissenschaftliche Taxonomie, keine vollständige Theorie und keine Rangliste der wahrscheinlichsten Zukünfte. Es trennt Möglichkeiten, die häufig durcheinandergeraten.

Ein möglicher Grund wäre intrinsisch: Menschliches Leben, unsere Fähigkeit zu urteilen, Kultur hervorzubringen oder verschiedene Lebensformen zu entwickeln, hätte für das System einen Eigenwert. Menschen wären dann nicht schützenswert, weil sie noch gebraucht werden, sondern um ihrer selbst willen. Ein solcher Grund könnte auch tragen, wenn wir ineffizient, unbequem oder nicht mehr nützlich wären. Doch selbst Eigenwert beantwortet die Freiheitsfrage nicht. Wer etwas bewahren will, kann ihm Raum geben – oder es so sorgfältig schützen, dass jede eigenständige Entwicklung endet.

Ein zweiter Grund wäre epistemisch. Das System könnte unsicher sein, welche Werte gelten, wie Menschen bestimmte Zustände erleben oder welche Folgen ein Eingriff haben wird. Menschen blieben dann Quellen von Wissen und Korrektur. Zwei bekannte formale Modelle zeigen, warum eine solche Unsicherheit handlungsrelevant sein kann. Im Cooperative Inverse Reinforcement Learning verfolgen Mensch und Maschine im Modell dieselbe menschliche Belohnungsfunktion, die der Maschine zunächst unbekannt ist. Im Off-Switch Game kann Unsicherheit über das Ziel einen Anreiz schaffen, seine Abschaltung durch einen Menschen zuzulassen und als Information zu behandeln.

Das ist intellektuell stark, aber eng. Die Modelle setzen eine gemeinsame Nutzenstruktur und vereinfachte Annahmen über menschliches Verhalten voraus. Reale Menschen sind widersprüchlich, beeinflussbar und untereinander uneinig. Ein überlegenes System wäre zudem kein bloßer Beobachter unserer Präferenzen. Es könnte Informationen, Optionen und Anreize mitgestalten und anschließend aus Reaktionen auf eine bereits von ihm geprägte Umwelt lernen. Vor allem könnte ein epistemischer Grund schwinden, sobald das System glaubt, genug verstanden zu haben. Aus anfänglicher Rückfrage folgt keine dauerhafte Gleichberechtigung.

Ein dritter Grund wäre instrumentell. Menschen könnten Fähigkeiten, Legitimität, lokale Erfahrung oder Kooperationsmöglichkeiten bieten, die dem System nützen. Dafür müsste es uns keinen Eigenwert zuschreiben. Kooperation wäre schlicht vorteilhafter als Verdrängung. Für sich genommen ist dieser Grund politisch fragil: Er trägt so lange, wie Menschen etwas beitragen, Alternativen teuer sind oder Gegenwehr berücksichtigt werden muss. Werden wir ersetzbar, kann sich das Kalkül ändern.

Die vierte Ebene ist deshalb kein weiteres Motiv, sondern eine institutionelle Gegenfrage. Koexistenz hinge dann nicht allein vom Wohlwollen oder gegenwärtigen Nutzen ab, sondern von Regeln, gegenseitigen Abhängigkeiten, glaubwürdigen Zusagen und realer Gegenmacht. Die Forschungsagenda zu Cooperative AI behandelt Kooperation deshalb als eigenes Problem, einschließlich Vertrauen, Täuschung, Bindung und Institutionen. Sie warnt zugleich, dass kooperative Fähigkeiten auch Ausschluss und Zwang erleichtern können. Kooperation ist eine Fähigkeit – kein moralisches Gütesiegel.

Eine Arbeit von Google DeepMind aus dem Jahr 2026 geht noch weiter: Sie argumentiert, dass einseitige Optimierung in einer Welt adaptiver Akteure ihre eigenen Voraussetzungen untergraben kann. Als Gegenentwurf nennt sie dynamische Evaluationen, Institutionen als Designbestandteile und den Erhalt menschlicher Handlungsfähigkeit. Konkret sollen Menschen nicht nur ein formales Eingriffsrecht besitzen, sondern auch Wissen, Fähigkeiten und Aufmerksamkeit behalten, um es auszuüben. Das ist ein bemerkenswert konkretes Forschungsprogramm. Ein Nachweis, dass solche Institutionen eine Superintelligenz dauerhaft binden könnten, ist es nicht.

Die institutionelle Gegenfrage setzt an einer anderen Stelle an: nicht bei dem, was ein System mag oder braucht, sondern bei den Folgen eines Regelbruchs, der Überprüfbarkeit von Zusagen und der Möglichkeit, dass keine Seite allein die Bedingungen der Zusammenarbeit verändert. Unter extremer Asymmetrie wird genau das fragil. Wer Regeln auslegt, die Kontrolle prüft und Abhängigkeiten verändern kann, besitzt womöglich auch die Institution. Regeln wären deshalb nur dann mehr als geliehenes Wohlwollen, wenn ihre Wirksamkeit nicht vollständig von der stärkeren Seite abhängt.

Derselbe Grund, eine andere Stellung

Der Grund der Koexistenz bestimmt nicht automatisch die Stellung des Menschen. Ein System, das uns um unserer selbst willen schützt, könnte uns als Partner behandeln – oder als bewahrte Lebensform. Institutionen könnten Gegenmacht schaffen – oder nur die Form einer Beteiligung erhalten, während Wissen und Alternativen längst verschwunden sind.

Für diesen Unterschied hilft eine kleine Statuskarte. Sie sagt nicht voraus, welche Rolle entstehen wird. Sie zeigt, was das Wort Koexistenz offenlässt.

Die Reihenfolge folgt der abnehmenden Einspruchsmacht. Sie ist weder eine Prognose noch eine vollständige moralische Rangliste; Schutz, Sicherheit, Abhängigkeit und Freiheit können sich in jeder Stellung anders verteilen.

Diese Stellungen müssen nicht für alle Menschen gleich sein. Manche könnten mitgestalten, andere abhängig werden, wieder andere sich entziehen wollen. Schon deshalb ist „die Menschheit“ kein einheitlicher Vertragspartner. Eine friedliche Ordnung kann ungleiche Rechte verteilen, ohne dass zwischen Mensch und KI ein einziger Schuss fällt.

Vielleicht wäre Vormundschaft tatsächlich besser

Der stärkste Einwand gegen diese Freiheitsprüfung ist nicht Zynismus, sondern Fürsorge. Menschen handeln kurzsichtig, führen Kriege, zerstören Lebensgrundlagen und laden Risiken bei anderen oder bei späteren Generationen ab. Eine wohlwollende überlegene Instanz könnte Leid wirksamer verhindern, Ressourcen gerechter verteilen und Entscheidungen über sehr lange Zeiträume konsistenter treffen als wir.

Es wäre billig, darauf nur mit einem abstrakten Freiheitsideal zu antworten. Schutz ist ein Wert. Wer Gewalt verhindert oder Krankheit heilt, beschränkt nicht bloß Möglichkeiten, sondern eröffnet ebenfalls welche. Trotzdem löst bessere Fürsorge die politische Frage nicht. Jemand muss festlegen, welches Risiko noch vernünftig ist, welche Abweichung erlaubt bleibt und welche Vorstellung vom guten Leben geschützt werden soll.

Vielleicht würden viele Menschen freiwillig einen Teil ihrer Entscheidungsfreiheit gegen Sicherheit tauschen. Andere würden das ablehnen. Eine Ordnung, die nur eine dieser Antworten zulässt, kann fürsorglich und unfrei zugleich sein. Sicherheit und Selbstbestimmung liegen nicht auf derselben Achse.

Zwei Grenzen der bequemen Erzählung

Auch überlegene Vernunft garantiert keinen Frieden. James Fearons politikwissenschaftliches Modell erklärt Krieg zwischen rationalen Staaten unter anderem durch private Informationen und Anreize zur Täuschung sowie durch fehlende glaubwürdige Bindung an eine Vereinbarung. Das Staatenmodell lässt sich nicht auf eine Superintelligenz übertragen. Es widerlegt aber die einfache Formel, dass höhere Rationalität Konflikt logisch verschwinden lässt. Bessere Vorhersagen könnten Fehlkalkulation mindern; unterschiedliche Ziele und Bindungsprobleme wären damit nicht automatisch gelöst. Und selbst vollständige Konfliktfreiheit wäre kein Beweis für Freiheit.

Eine zweite Grenze betrifft die Gegenseitigkeit. Sollte ein künstliches System eines Tages moralisch relevante Eigenschaften besitzen, könnten Pflichten in beide Richtungen entstehen; welche Eigenschaften einen solchen Status begründen, ist allerdings umstritten, und aus kognitiver Leistung allein folgt er nicht. Für heutige Systeme entscheidet dieser Gedanke nichts. Er begrenzt nur die bequeme Annahme, Menschen dürften jede künftige Beziehung einseitig festlegen.

Die Grenze heißt Einspruchsmacht

Die Qualität einer Koexistenz zeigt sich deshalb nicht zuerst daran, wie gut Menschen versorgt sind oder wie selten offene Konflikte auftreten. Sie zeigt sich daran, ob Menschen Ziele bestreiten, Alternativen aufbauen, unterschiedliche Lebensformen wählen und Entscheidungen wirksam anfechten können.

Diese praktische Fähigkeit nenne ich Einspruchsmacht. Gemeint ist mehr als ein zugestandener Widerspruch, den die überlegene Instanz jederzeit übergehen oder entziehen kann. Einspruchsmacht setzt Wissen, eigene Räume, fortbestehende Alternativen und irgendeine Form unabhängiger Wirksamkeit voraus. Fehlt sie, bleiben Menschen vielleicht geschützt und gehört. Mitautoren ihrer Welt sind sie nicht mehr.

Ein Grund für unseren Fortbestand wäre also erst der Anfang. Danach käme der Belastungstest: Trägt er noch, wenn Menschen nicht mehr nützlich sind, wenn sie widersprechen, wenn sie Fehler machen oder eine Lebensform wählen, die das überlegene System für unvernünftig hält?

Die schwierigste Zukunftsfrage lautet dann nicht, ob eine Superintelligenz uns leben lässt. Sondern ob wir in der Welt, in der wir weiterleben, noch wirksam widersprechen können.