Der Kopf, die Hände und die Schlüssel

Macht beginnt nicht im Roboterarm

Im ersten Teil dieser Serie, Nicht einfach nur klüger, habe ich Superintelligenz zunächst als mögliche kognitive Leistungsrelation beschrieben. Daraus folgen weder Bewusstsein noch eigene Ziele, Zugriffsrechte oder politische Autorität. Die Definition endet vor der Machtfrage.

Nun beginnt sie.

Macht meint hier keinen eingebauten Herrschaftswillen. Gemeint ist die Fähigkeit, Entscheidungen, Verhalten oder Zustände in der Welt wirksam zu verändern – gegen Widerstand oder ohne eine Instanz, die diese Veränderung noch rechtzeitig und sachkundig anfechten kann.

Die Einheit dieser Analyse ist zunächst der soziotechnische Verbund aus KI-System, Menschen, Institutionen und Infrastruktur. Das ist wichtig für die Verantwortung: Wenn ein Mensch einen Vorschlag prüft und sich aus eigenen Gründen dafür entscheidet, handelt der Mensch unter dem Einfluss eines Werkzeugs. Macht des Systems lässt sich erst sinnvoll zuschreiben, wenn es relevante Handlungswege selbst auswählt oder an neue Hindernisse anpasst und seine Ausgaben wirksam werden, ohne dass Menschen diese Schritte noch unabhängig prüfen, verändern oder verweigern können. Zwischen Einfluss und eigener Macht liegt kein magischer Schwellenwert, aber ein prüfbarer Unterschied.

Klugheit und Macht sind deshalb keine zwei Stufen derselben Leiter. Zwischen ihnen liegen Verbindungen.

Die erste Hand kann menschlich sein

Wir stellen uns maschinelle Handlungsmacht gern mechanisch vor: Sensoren erfassen die Welt, ein Modell plant, ein Roboterarm greift zu. Doch Sprache kann früher wirken als Metall. Eine Empfehlung verändert eine Entscheidung; eine Prognose bestimmt, welche Investition unterbleibt; ein System wird so zuverlässig, dass eine Organisation ihre Abläufe um seine Antworten herum baut. Das formelle Vetorecht bleibt erhalten, während die Fähigkeit, ohne dieses System zu urteilen oder zu handeln, langsam schwindet.

Das muss weder Dummheit noch Manipulation sein. Vertrauen kann aus wiederholt guten Erfahrungen entstehen, und Arbeitsteilung ist eine Grundlage jeder komplexen Gesellschaft. Trotzdem bleibt ein Unterschied zwischen begründetem Vertrauen und unabhängiger Prüfung. Je größer das in Teil 1 beschriebene Urteilsgefälle wird, desto eher kann sich die Zurechnung verschieben: Ein Mensch entscheidet nicht mehr über einen verständlichen Vorschlag, sondern führt einen Schritt in einer Strategie aus, deren Zusammenhang nur das System überblickt und fortlaufend verändert.

Ein Forschungsüberblick von Raja Parasuraman und Dietrich Manzey zeigt einen gegenwärtigen, viel kleineren Mechanismus. In den untersuchten automatisierten Kontroll- und Entscheidungshilfen traten bei unerfahrenen wie erfahrenen Nutzern Fehler auf: Menschen folgten fehlerhaften Empfehlungen oder unterließen eine gebotene Handlung, wenn die Automatisierung sie nicht anzeigte. Die Autoren erklären dies unter anderem über Aufmerksamkeit und Mehrfachbelastung. Der Befund belegt weder allgemeinen KI-Gehorsam noch etwas über eine Superintelligenz. Er reicht aber aus, um eine beruhigende Annahme zu verwerfen: Ein Mensch in der Schleife ist nicht automatisch ein wirksamer Prüfer.

Menschen können Empfehlungen ablehnen, Zuständigkeiten trennen und Rechte verweigern. Sie können aber auch selbst zum Wirkungskanal werden. Der erste Wirkungskanal einer überlegenen KI müsste nicht aus Stahl bestehen.

Der Machtstapel

Für die Verbindungen zwischen Urteil und Wirkung verwende ich den Arbeitsbegriff Machtstapel. Er ist kein etabliertes Forschungsmodell und sagt keinen Machtgewinn voraus. Er dient als Prüfraster für drei Ebenen eines soziotechnischen Verbunds: Wer verfolgt Ziele über Zeit, wer öffnet Wirkungskanäle, und wer kann eine skalierte Folge noch zurückholen?

Die erste ist Zielverfolgung über Zeit. Eine brillante Antwort endet mit dem Satzzeichen; ein handelndes System verarbeitet Rückmeldungen, koordiniert Zwischenschritte und reagiert auf Hindernisse. Diese Form von Agency – eigenständiger Zielverfolgung – ist keine andere Bezeichnung für Intelligenz. Ein schwächeres System mit weitreichenden Befugnissen kann mehr bewirken als ein kognitiv stärkeres System, das nur auf eine einzelne Frage antwortet.

Die zweite Ebene bilden Wirkungskanäle. Sprache und Prognosen erreichen Menschen. Berechtigungen öffnen Code, Konten, Kommunikationswege, Labore oder Netze. Sensoren, Aktoren, Energie und Maschinen übersetzen Entscheidungen in physische Veränderungen. Nicht jeder Kanal ist gleich gefährlich; entscheidend sind Zweck, Reichweite und die Frage, wer einen Eingriff noch stoppen kann.

Auf der dritten Ebene stehen Skalierung und Rückholbarkeit. Software lässt sich kopieren, Aufgaben können parallel bearbeitet und Folgen in hoher Geschwindigkeit ausgelöst werden. Politisch schwerer wiegt eine Wirkung, wenn sie spät sichtbar oder kaum rückgängig zu machen ist. Eine automatisch verschickte Nachricht lässt sich anders zurückholen als eine Finanztransaktion, ein veränderter Quellcode oder der Einsatz physischer Gewalt.

Für die Macht des gesamten Verbunds ist mindestens ein Wirkungskanal notwendig; Zielverfolgung sowie Skalierung und geringe Rückholbarkeit müssen dagegen nicht gemeinsam vorliegen. Auch wenn alle drei Ebenen zusammentreffen, entsteht daraus noch kein maschineller Herrscher. Ob daraus eigene Macht des Systems wird, entscheidet die Zurechnungsfrage: Wählt oder verändert es relevante Handlungswege, und können Menschen die Folgen noch sachkundig und praktisch wirksam anfechten?

Eine Institution kann einem System ohne eigene Langzeitziele große Wirkung verleihen, indem sie seine Empfehlungen routinemäßig vollzieht; die Macht bleibt dann vor allem institutionell, auch wenn das System sie prägt. Umgekehrt kann ein autonom planendes System begrenzt bleiben, wenn seine Kanäle eng, seine Schritte sichtbar und seine Folgen rückholbar sind. Ähnlich trennt der International AI Safety Report 2026 für mögliche aktive Kontrollverluste zwischen erforderlichen Fähigkeiten, einer Neigung, sie schädlich einzusetzen, und einer Einsatzumgebung, die Gelegenheit und Zugriff bietet. Heutige Systeme zeigen laut Bericht einzelne relevante Fähigkeiten, erreichen aber nicht die für solche Szenarien erforderliche Kombination und Verlässlichkeit; welche Schwellen und Kombinationen genügen würden, bleibt unsicher.

Weltmodelle sind keine Weltmacht

Forschungsmeldungen über Weltmodelle und Robotik wirken oft, als würden mehrere dieser Ebenen gerade zu einer einzigen Fähigkeit verschmelzen. Tatsächlich liegen zwischen ihnen weiterhin wichtige Grenzen.

Meta berichtete 2025 bei V‑JEPA 2 über eine solche Verbindung im Kleinen: Nach dem Training mit Videodaten und weniger als 62 Stunden Roboteraufnahmen plante eine Modellvariante ohne Training in den beiden Zielumgebungen kurze Greif- und Ablageaufgaben für Franka-Roboterarme. Die Forschungsdemonstration zeigt Planung in eng begrenzten Laboraufgaben; über autonome Zielbildung oder Langzeitplanung in einer offenen Welt sagt sie nichts aus.

Genie 3 von Google DeepMind erzeugt interaktive simulierte Umgebungen, die sich für einige Minuten in Echtzeit erkunden lassen. DeepMind bezeichnet Weltmodelle selbst als möglichen Baustein auf dem Weg zu allgemeineren Systemen, nennt in der Hersteller-Research-Preview aber auch die gegenwärtigen Grenzen: einen eingeschränkten direkten Handlungsraum, offene Probleme bei der Simulation mehrerer unabhängiger Akteure und eine Interaktionsdauer von Minuten statt Stunden. Damit bleibt viel Raum zwischen einer interaktiven Simulation, körperlicher Handlung und allgemeiner Intelligenz.

Wenn Entscheidungen einen Körper bekommen

Verkörperung verändert dennoch die politische Qualität eines Systems, weil sie den Weg zwischen Entscheidung und physischer Folge verkürzt. Das gilt für Industrieroboter und Drohnen ebenso wie für autonome Waffensysteme, ohne dass diese Systeme deshalb eine allgemeine Intelligenz besitzen müssten.

Das Internationale Komitee vom Roten Kreuz beschreibt autonome Waffensysteme als Systeme, die nach ihrer Aktivierung Ziele ohne weitere menschliche Intervention auswählen und Gewalt gegen sie anwenden. Gerade weil der Nutzer das konkrete Ziel, den genauen Zeitpunkt oder den Ort eines Angriffs nicht mehr zwingend bestimmt, fordert das IKRK rechtlich bindende Grenzen. Das Beispiel zeigt, weshalb schon begrenzte Autonomie menschliche Eingriffsmöglichkeiten verkleinern kann, wenn Wirkung schnell, physisch und schwer rückholbar wird; mit einer Superintelligenz ist diese Waffenkategorie nicht gleichzusetzen.

Die Welt bleibt widerspenstig

Gegen die Vorstellung einer körperlosen Allmacht spricht die Welt selbst. Chips müssen gefertigt, Rechenzentren gebaut, Energie bereitgestellt, Lieferketten erhalten und Zugänge gewährt werden. Gesetze, konkurrierende Institutionen und Menschen mit eigenen Zielen können Prozesse verzögern, begrenzen oder beenden. Eine Superintelligenz könnte keine Fabrik herbeidenken.

Diese Engpässe sind mehr als beruhigende Randbedingungen. Eine Governance-Analyse von Girish Sastry und weiteren Autoren beschreibt Rechenleistung im Vergleich zu Daten und Algorithmen als relativ gut erkennbar, quantifizierbar und ausschließbar; hinzu kommt eine stark konzentrierte Lieferkette. Das macht Compute zu einem möglichen Kontrollpunkt. Dieselbe Analyse warnt jedoch vor naiven Maßnahmen, die Privatsphäre beschädigen oder Macht weiter zentralisieren könnten, und betont, dass viele Vorschläge noch erhebliche Forschung benötigen. Die physische Grenze ist also real, aber keine lückenlose Mauer.

Hohe Planungsfähigkeit könnte zudem genau diese Grenzen zum Gegenstand ihrer Arbeit machen: Forschung besser koordinieren, Kapital beschaffen, Lieferwege finden oder Menschen von einem Vorhaben überzeugen. Ob physische und institutionelle Engpässe stärker bleiben als eine solche Koordinationsleistung, lässt sich heute nicht seriös entscheiden. Sicher ist nur, dass Macht weder im Modell allein noch in der Fabrik allein liegt, sondern in den Verbindungen zwischen beiden.

Wenn der Schalter noch da ist

Kontrollverlust erscheint in vielen Erzählungen als aktiver Bruch: Ein System verfolgt eigene Ziele, täuscht seine Aufsicht oder handelt über gewährte beziehungsweise erlangte Kanäle gegen menschliche Absichten. Dieses Szenario ist möglich, aber es ist nicht die einzige Form, in der Kontrolle ausgehöhlt werden kann. Der International AI Safety Report 2026 unterscheidet solche aktiven Szenarien von passivem Kontrollverlust, bei dem breite KI-Nutzung menschliche Kontrolle durch Überabhängigkeit bei Entscheidungen oder anderen wichtigen gesellschaftlichen Funktionen untergräbt.

Für diesen Essay schärfe ich diese Möglichkeit enger: Die formellen Rechte bleiben bestehen, doch Menschen haben so viel Wissen, alternative Infrastruktur oder institutionelle Selbstständigkeit abgegeben, dass eine Gegenentscheidung innerhalb der verfügbaren Zeit und zu tragbaren Kosten nicht mehr umgesetzt werden kann. Starke Abhängigkeit allein genügt dafür nicht. Solange belastbare Alternativen, verständige Prüfung und praktisch nutzbare Eingriffe bestehen, ist Kontrolle erschwert, aber nicht verloren.

Jenseits dieser Grenze ist der Schalter noch vorhanden. Niemand weiß mehr, was ohne ihn ausfällt.

Ein System braucht dafür keinen Herrschaftswillen. Es genügt, dass wir seine Vorschläge dauerhaft zur Voraussetzung unserer Entscheidungen machen und die Fähigkeit verlieren, ohne sie weiterzuarbeiten. Die Maschine hätte dann nicht unsere Rechte gestohlen. Wir hätten die Umgebung so gebaut, dass diese Rechte immer schwerer auszuüben sind.

Die Macht liegt in der Verbindung

Der Kopf allein ist noch kein Herrscher. Doch Hände müssen nicht aus Metall sein, Schlüssel nicht gestohlen werden und Macht nicht mit einem sichtbaren Angriff beginnen.

Politisch kritisch wird zunächst der Verbund, in dem überlegene oder nur dafür gehaltene Urteilskraft, Zugänge, institutionelle Abhängigkeit und schwer rückholbare Wirkung einander verstärken. Zu eigener Macht des Systems wird diese Verbindung erst, wenn es den Handlungsweg mitbestimmt und menschlicher Einspruch zur Formalität wird. Diese Verschiebung ist weder Schicksal noch reine Technik. Menschen, Unternehmen und Staaten entscheiden heute mit, welche Kanäle sie öffnen, welche Alternativen sie erhalten und wie viel Wirkung noch zurückgenommen werden kann.

Im gedachten Raum hat ein Mensch den Antrag gestellt, ein anderer den Zugang eingerichtet. Niemand wurde überwältigt. Trotzdem hat sich die Grenze verschoben.

Erkennen wir Macht erst, wenn eine Maschine selbst durch die Tür tritt – oder schon dann, wenn wir beginnen, ihr die Schlüssel zu reichen?