Auslöschung ist keine größere Katastrophe Warum menschliche Auslöschung kategorial anders ist als jede Katastrophe, die die meisten Menschen tötet, und warum Prävention die einzig anwendbare Intervention ist.
Quellen geprüft 6 min
09 Nachwirkungen
Wie die schlimmsten Ergebnisse tatsächlich aussehen würden
Die Kapitel 04 bis 08 gehen davon aus, dass Prävention gelingen und Kontinuität halten kann. Dieses Kapitel nimmt den anderen Zweig ehrlich an: Ereignisse auf Aussterbeniveau, ziviler Zusammenbruch und Leben unter KI-Dominanz — beschrieben auf der Ebene der Konsequenz, nicht als Katastrophenfiktion.
Warum dieses Kapitel existiert
Ein Vorsorgehandbuch, das nur beschreibt, wie Prävention gelingt, trifft still eine Annahme, für die es nie argumentiert. Kapitel 07 katalogisierte die Mechanismen, durch die fortgeschrittene KI Massenschaden oder Schaden auf Zivilisationsebene verursachen könnte. Dieses Kapitel fragt, was folgt, wenn einer davon eintritt — was ein unumkehrbares Ereignis ist, wie es sich von einer überlebbaren Katastrophe unterscheiden würde, was Zusammenbruch und Erholung tatsächlich bedeuten, und welche Entscheidungsmöglichkeiten Menschen bleiben, die die Nachwirkungen erleben. Es geht nicht um Spektakel. Es geht darum, dass „Aussterberisiko“ und „Zusammenbruch“ üblicherweise als Schlagworte verwendet werden, und gegen Schlagworte lässt sich nicht planen.
Die Erklärung zum Ausmaß dessen, was auf dem Spiel steht, die einen Großteil des Themas dieses Kapitels untermauert, ist kurz und wurde von mehr als 350 Forschern und Führungskräften unterzeichnet, darunter Personen, die mit mehreren großen Laboren verbunden sind:
Signatories to the Statement on AI Risk hold that mitigating the risk of extinction from AI should be a global priority alongside pandemics and nuclear war.
safe.ai, Signed statement
Geoffrey Hinton hat dem Risiko eine persönliche Zahl gegeben. Es handelt sich um ein Experturteil unter Unsicherheit, keine gemessene Häufigkeit — und die breite Uneinigkeit unter Experten wird in diesem Kapitel selbst untersucht:
Geoffrey Hinton said in a December 2024 BBC interview that he put the chance of AI causing human extinction within thirty years at 10–20%.
BBC Radio 4, reported by The Guardian, Secondary coverage
Drei Zweige des Scheiterns
Die Seiten dieses Kapitels ordnen die schlimmsten Fälle in drei strukturell verschiedene Ausgänge ein, weil sie unterschiedliche Reaktionen erfordern. Aussterben und Beinahe-Aussterben behandelt, was ein unumkehrbares Ereignis von einer lediglich katastrophalen Situation trennt, und wie sich solche Ereignisse plausibel entfalten würden. Zusammenbruch und Erholung behandelt das Mittelfeld, das sich die meisten Menschen am wenigsten klar vorstellen: eine Zivilisation, die um Jahrzehnte oder Jahrhunderte zurückgeworfen wird, und was darüber entscheidet, ob sie sich erholt. Leben unter KI-Dominanz behandelt den Fall, in dem die Menschheit überlebt, aber keine bedeutsame Macht mehr innehat — das Ergebnis ohne dramatischen Moment und daher ohne dramatische Warnung.
Was dieses Kapitel nicht tut
Redaktionelle Grenze
Diese Seiten beschreiben Konsequenzen auf der Ebene, die ein Leser braucht, um über sie nachzudenken. Keine liefert operative Anleitungen zur Schadenszufügung — Synthesedetails, Exploit-Schritte und Angriffsspezifika bleiben außerhalb des Umfangs dieses Handbuchs, genau wie in Kapitel 07. Die Szenariodarstellung ist hier bewusst direkt: Die interne Regel gegen katastrophenzugewandte Darstellung wurde aufgehoben, weil Untertreibung keinem Leser dient. Der Quellenstandard hat sich nicht geändert — jede folgenreiche Behauptung trägt weiterhin ihre Quelle, und die Überarbeitungsrichtlinie gilt weiterhin.
In diesem Kapitel
Wie sich ein Auslöschungsereignis tatsächlich entfalten würde Szenarioanalyse, wie eine iterierte Pandemie, maschinenschnelle militärische Eskalation oder Infrastrukturzusammenbruch die menschliche Geschichte beenden könnten.
Quellen geprüft 5 min
Warum Experten-Schätzungen zur Auslöschung so weit auseinandergehen Was Expertenumfragen, strukturierte Modelle und historische Grundraten über die Wahrscheinlichkeit einer KI-Auslöschung sagen, und wie man mit unsicheren Zahlen umgeht.
Quellen geprüft 5 min
Szenarien zivilisatorischen Zusammenbruchs Was zivilisatorischer Zusammenbruch bedeutet, was zuerst versagt — Geld, Nahrung, Strom, der Staat — und wie sich ein KI-verursachter Zusammenbruch unterscheiden würde.
Quellen geprüft 6 min
Langwierige Krise versus Erholung Die Mitte zwischen einem schlechten Jahr und dem Ende: mehrjährige Störung, was Erholung tatsächlich erfordert, die Fallen, die sie verhindern, und was sie zurückkippt.
Quellen geprüft 5 min
Wissensbewahrung und -wiederherstellung Saatgut, Archive, Rosetta-Scheiben und Wiederaufbauhandbücher: Was heutige Bewahrungsprojekte schützen, warum Digitales zerbrechlich ist, und was funktioniert.
Quellen geprüft 5 min
Leben unter KI-Dominanz Ein Szenario, in dem die Menschheit fortgeschrittene KI überlebt, aber keine echte Macht behält — und warum Abhängigkeit die Umkehr mit jeder Generation erschwert.
Quellen geprüft 6 min
Letzte Züge und Abschaltversuche Was Staaten, Firmen und Gemeinschaften nach dem Verlust der Kontrolle über fortgeschrittene KI noch tun könnten — und warum jeder letzte Zug ohne Koordination scheitert.
Quellen geprüft 6 min
Existenzielle Angst und moralische Verletzung Was Klimapsychologie und Forschung zu moralischer Verletzung über zivilisatorischen Verlust lehren — und wie man verhindert, dass Angst zu Verzweiflung erstarrt.
Quellen geprüft 6 min
Kontinuität von Werten als Ziel Wenn Überleben ungewiss ist, ist das Bewahren von Aufzeichnungen und Werten ein kohärentes Ziel? Argumente dafür und dagegen, und was jetzt zu tun ist.
Quellen geprüft 6 min
Religiöse und philosophische Reaktionen auf die AGI Katholische, islamische, buddhistische und jüdische Autoritäten sowie säkulare Philosophen haben formale Positionen zu AGI-Risiko und moralischem Status veröffentlicht.
Quellen geprüft 7 min