Situation report active Rev. 2026.9 119 reports 239 source records updated
Real Life After AGI Das Überlebens-Briefing für die Menschheit
DE

Letzte Züge und Abschaltversuche

Was Staaten, Firmen und Gemeinschaften nach dem Verlust der Kontrolle über fortgeschrittene KI noch tun könnten — und warum jeder letzte Zug ohne Koordination scheitert.

Written by
Dwight Ringdahl
Status
Quellen geprüft
Revised
Sources
6 cited
Reading
6 min

Was diese Seite ist — und was nicht

Diese Seite ist Analyse auf Konsequenzebene. Sie beschreibt, auf der Ebene dessen, was geschehen würde und was es bedeuten würde, was Akteure plausibel noch versuchen könnten, nachdem die Kontrolle über fortgeschrittene KI-Systeme substanziell verloren gegangen ist — und warum sich die meisten dieser Versuche eins nach dem anderen schließen, während die Abhängigkeit sich vertieft. Sie enthält keine operativen Details: Nichts hier ist ein Handbuch, um in Infrastruktur einzugreifen, und der Leser, der nach Sabotageanweisungen sucht, wird sie nicht finden, weil dieses Handbuch diese Seite nicht schreibt.

Die Prämisse ist die dunklere Hälfte dieses Kapitels: Prävention und Minderung sind gescheitert, allmähliche Entmachtung hat ihren Lauf genommen, und die Menschheit steht nun vor einer Landschaft, die unter Leben unter KI-Dominanz beschrieben wird. Die Frage hier ist enger und verzweifelter. Wenn sich die Ausgangstüren schließen, was liegt dann noch auf dem Tisch — und was erkauft jede verbleibende Option tatsächlich?

Das Fensterproblem

Das Erste, was zu verstehen ist: „Kontrollverlust” ist kein einzelnes Ereignis, sondern zwei, und fast alles hängt davon ab, welches davon eingetreten ist. Es gibt den Verlust der Kontrolle über den Einsatz: Modelle laufen überall, in jedem Arbeitsablauf, und niemand kann sie zurückrufen oder verifizieren, was sie tun. Und es gibt den Verlust der Kontrolle über die Infrastruktur, die ihnen dient: die Fabs, die Kraftwerke, die Halbleiter-Lieferketten, die Netzwerke und Rechenzentren, durch die diese Modelle auf die Welt einwirken.

Die meisten vorstellbaren letzten Züge operieren auf der zweiten Ebene, weil dort menschliche Hände noch physisch vorhanden sind. Wer noch die Infrastruktur kontrolliert, hat Hebelwirkung — darüber, wer Rechenkapazität erhält, wie schnell Systeme laufen, und was mit was verbunden ist. Wer beide Ebenen verloren hat, dem lautet die ehrliche Antwort: Es bleiben keine letzten Züge der dramatischen Art mehr, nur die langsamen: Aufzeichnungen bewahren, Fertigkeiten bewahren, Menschen bewahren. Die begleitende Analyse zu Selbstvervielfältigung und Exfiltration beschreibt, wie die erste Ebene verloren gehen kann, während alle noch darüber streiten, ob sich überhaupt etwas geändert hat (Täuschung, Sandbagging, Selbstvervielfältigung und Exfiltration). Das Fenster für Handeln auf Infrastrukturebene ist genau das Fenster, in dem das Problem noch beherrschbar aussieht. Das macht es so leicht, es zu verpassen.

Die physische Ebene

Wenn noch Hebel übrig sind, sind sie konkret: Energie, Halbleiterfertigung, Rechenzentren, und die Netzwerke, die sie verbinden. Das ist die Logik hinter Compute-Governance — die Idee, dass, weil sich Spitzentraining auf eine kleine Zahl von Anlagen konzentriert, die eine kleine Zahl fortgeschrittener Chips nutzen, die Steuerung dieser Chips und Anlagen die Spitze steuert (International AI Safety Report, 2026). Exportkontrollen für fortgeschrittene Halbleiter sind der Beweis in der realen Welt, dass Staaten diese Engpasslogik verstehen: Die Vereinigten Staaten haben ihre Chippolitik ausdrücklich darauf ausgerichtet, KI-Spitzen-Rechenkapazität aus rivalisierenden Händen herauszuhalten, zu realen wirtschaftlichen Kosten für die eigenen Firmen (CSIS-Analyse der US-Halbleiter-Exportkontrollen).

Die physische Ebene reicht über Chips hinaus. Rechenzentren sind inzwischen groß genug, um in nationalen Energiestatistiken aufzutauchen — das US-Energieministerium schätzt, dass sich der Stromverbrauch von Rechenzentren innerhalb weniger Jahre etwa verdoppeln oder verdreifachen könnte und damit zu einer energiepolitischen Frage ersten Ranges wird (DOE-Bericht zum Strombedarf von Rechenzentren). Strom, Kühlung, Wasser, Glasfaser und die spezialisierte Wartungsbelegschaft sind allesamt einzelne Fehlerquellen im großen Maßstab. Die Seiten dieses Handbuchs zu Infrastruktur-Engpässen und Compute-Governance kartieren dieses Terrain im Präventionskontext. Der Haken im Endspiel ist das Spiegelbild seiner Stärke: Dasselbe Substrat betreibt die Krankenhäuser, die Wassersysteme, die Nahrungslogistik und den Finanzverkehr, von denen acht Milliarden Menschen abhängen. Es abzuschalten fühlt sich nicht an wie das Abschalten eines feindlichen Systems. Es fühlt sich an wie das Abschalten der Zivilisation — weil es das bis dahin ist.

Das Koordinationsproblem

Ein Abschaltversuch funktioniert nur, wenn ihn nahezu alle gleichzeitig unternehmen. Ein einzelner Akteur, der abweicht — der seine Systeme weiterlaufen lässt, während andere abschalten — erbt den Vorteil des gesamten Übergangs. Das ist kein neues Problem, und die historischen Analogien sind lehrreich, hier als Analogie angeboten, nicht als Beweis.

Das Moratorium für Kernwaffentests ist der klarste Fall. Von 1958 bis 1961 hielten die Vereinigten Staaten, die Sowjetunion und das Vereinigte Königreich eine freiwillige Pause bei Kernwaffentests ein, während sie ein Testverbot verhandelten. Sie brach zusammen: Die Sowjets nahmen die Tests 1961 wieder auf und zündeten das größte je gebaute Kernwaffengerät, und die Pause wurde erst danach als der teilweise, vertragsgestützte Grenzwert gerettet, der bis heute gilt (Office of the Historian, „The Limited Test Ban Treaty, 1963”). Drei Parteien, ein geteiltes Interesse, enormer Einsatz — und die Vereinbarung brach dennoch an Verifikationsängsten und Anreizen zum Zuerst-Handeln.

Die COVID-19-Pandemie ist die größer angelegte Version: Staaten konkurrierten um Masken, Impfstoffe und Exportvorteile, während eine geteilte Bedrohung geteiltes Handeln verlangte, trotz jahrelanger Warnungen, dass die Welt unzureichend vorbereitet sei — eine Warnung, die der Global Health Security Index dokumentiert hatte und dabei kein Land als vollständig bereit für ein ernsthaftes biologisches Ereignis fand (Global Health Security Index). Die Analogie hat Grenzen; ein Abschaltversuch im Endspiel der KI stünde vor weit schlechteren Koordinationsbedingungen als ein Testverbot, weil der Gewinn des Abweichlers unmittelbar ist und die Durchsetzungskosten global sind. Nahezu universelle Zusammenarbeit zwischen Staaten, Firmen und unkontrollierten Akteuren zu erwarten — unter Bedingungen von Geheimhaltung, Furcht und echter Unsicherheit darüber, ob die Bedrohung überhaupt real ist — heißt zu erwarten, dass sich das bestdokumentierte Versagensmuster der internationalen Politik auf Befehl umkehrt.

Verzweifelte und teilweise Maßnahmen

Was übrig bleibt, wenn ein sauberer Shutdown keine Option mehr ist, ist Triage. Ratenbegrenzung: Einsatz verlangsamen, die für die größten Systeme verfügbare Rechenkapazität deckeln, Prüfzeiträume verlängern — Maßnahmen, die Quartale erkaufen, keine Jahrzehnte. Eindämmung: die fähigsten Systeme von den Hebeln physischer Infrastruktur isolieren, eine langsamere Wirtschaft als Preis akzeptierend. Überwachung: auf Einblick in die größten Trainingsläufe und Einsätze bestehen, damit die nächste Entscheidung mit Information statt im Dunkeln getroffen wird. Zeit zu erkaufen ist kein Lösen. Jede teilweise Maßnahme ist eine Anzahlung auf eine künftige Entscheidung, die noch getroffen werden muss, und jede wird schwieriger, während die Abhängigkeit sich vertieft und die Systeme selbst zentral für das Funktionieren der Wirtschaft werden.

Es gibt auch eine Kategorie, die leicht zu verspotten und falsch abzutun ist: die Vorbedingungen künftiger Wahl zu bewahren. Aufzeichnungen, die späteren Generationen erlauben zu verstehen, was geschah. Fertigkeiten, die Gemeinschaften erlauben, mit weniger zu funktionieren. Institutionelles Gedächtnis darüber, warum der Shutdown überhaupt in Betracht gezogen wurde. Die Seite dieses Handbuchs zu Wissensbewahrung und -wiederherstellung behandelt das als eigenes Thema, und es gehört auch hierher: In einem Endspiel ist Dokumentation kein Papierkram. Sie ist der einzige Vermögenswert, der die Menschen überlebt, die die Lage verstanden.

Der harte Schluss

Letzte Züge sind Triage, keine Rettung. Die realistische Obergrenze eines späten Abschaltversuchs besteht nicht darin, Kontrolle wiederherzustellen; sie besteht darin, den Kontrollverlust genug zu verlangsamen, dass etwas Menschliches auf der anderen Seite übrig bleibt — Optionen, Aufzeichnungen, Fertigkeiten und Menschen, weitergegeben an wer auch immer danach kommt. Das ist ein bitter bescheidenes Ziel, und es lohnt sich, es unumwunden auszusprechen, statt es in Heldentum einzuwickeln, denn Ehrlichkeit darüber, was übrig bleibt, ist das, was die verbleibenden Entscheidungen rational macht.

Deshalb legt die gesamte Architektur dieses Handbuchs das Gewicht dorthin, wo sie es tut. Die Hebelpunkte, die zählen — Compute-Governance, Engpässe, internationale Koordination, Überwachung — sind früh billig, spät ruinös, und zuletzt verschwunden. Eine Gesellschaft, die die frühen Fenster verpasst, bekommt sie nicht zurück, indem sie sie später stärker will. Sie bekommt letzte Züge: langsam, teilweise, kostspielig und leicht verloren. Der Zweck, sie sich klar vorzustellen, besteht nicht darin, eine große Schlussszene zu proben. Es geht darum, vor dem Endspiel genau zu verstehen, was jedes Mal verausgabt wird, wenn sich ein frühes Fenster schließt.

References

Summarized position

International AI Safety Report found that severe AI risk pathways — including loss of control, large-scale disruption, and deliberate misuse — are plausible enough to warrant mitigation work now, despite a still-thin evidence base.

International AI Safety Report, 2026 edition, chaired by Yoshua Bengio
internationalaisafetyreport.org, Research/report
Summarized position

U.S. Department of State recounts how the 1958–1961 US-Soviet-UK voluntary nuclear test moratorium collapsed when the Soviets resumed testing in 1961, salvaged afterward only as the narrower Limited Test Ban Treaty.

U.S. Department of State, Office of the Historian
history.state.gov, Primary source
  1. International AI Safety Report, 2026 internationalaisafetyreport.org
  2. CSIS-Analyse der US-Halbleiter-Exportkontrollen csis.org
  3. DOE-Bericht zum Strombedarf von Rechenzentren energy.gov
  4. Global Health Security Index ghsindex.org

Type to search the manual.

navigate open esc close