Das Szenario, das dieses Handbuch ernst nehmen muss
Jede Seite dieser Säule argumentiert über ein sich rasant bewegendes Feld, und die Seiten Prognosen und Dashboard behandeln anhaltend raschen Fortschritt als Arbeitsannahme. Diese Seite ist das Gegengewicht: Was, wenn AGI nicht fristgerecht eintrifft? Ein seriöses Handbuch plant für die Verteilung möglicher Ergebnisse, nicht für die wahrscheinlichste Schlagzeile, und diese Verteilung schließt einen Stillstand ein. Dies ist Szenarioanalyse zu einem historisch dokumentierten Phänomen, keine Behauptung, dass der Fortschritt gestoppt hat.
Wie die letzten beiden Winter tatsächlich aussahen
Das Feld war schon zweimal hier.
Der erste Winter (etwa 1974–1980) folgte auf einen direkten institutionellen Todesstoß. Sir James Lighthills Bericht Artificial Intelligence: A General Survey von 1973, in Auftrag gegeben vom britischen Science Research Council, kam zu dem Schluss, dass die großen Versprechen der KI-Forschung — maschinelle Übersetzung, Robotik, allgemeine Problemlösung — bei Weitem nicht den projizierten Umfang erreicht hatten, und empfahl, die Finanzierung auf engere Arbeit umzulenken. Innerhalb weniger Jahre zogen sich die großen staatlichen Geldgeber auf beiden Seiten des Atlantiks zurück, und die Graduiertenprogramme schrumpften drastisch.
Der zweite Winter (etwa 1987–1993) forderte ein anderes Opfer: Expertensysteme. Diese regelbasierten kommerziellen Produkte hatten in den 1980er-Jahren enorme Unternehmens- und Regierungsinvestitionen absorbiert und brachen dann an ihrer eigenen Brüchigkeit zusammen — Systeme, die nicht lernen konnten, keine Ausnahmen behandeln konnten und teuer in der Wartung waren. Der Markteinbruch riss die Finanzierung für das gesamte symbolische KI-Paradigma mit sich. Die Geschichte der föderalen Computerforschung der National Academies, Funding a Revolution (1999), dokumentiert, wie der Rückzug der DARPA und das Verschwinden der Lisp-Maschinen-Hersteller das Scheitern eines Teilgebiets in eine disziplinweite Dürre verwandelten (National Academies Press). Die ausführlicheren erzählenden Geschichten sind Creviers AI: The Tumultuous History of the Search for Artificial Intelligence (1993) und Nilssons The Quest for Artificial Intelligence (2009) — beide lesenswert wegen des Musters, nicht nur der Fakten.
Das Muster: Jeder Winter war kein technischer Sackgassen, sondern ein Zusammenbruch von Glaubwürdigkeit und Finanzierung. Die Wissenschaft bewegte sich im Verborgenen weiter; das Geld, das Talent und die öffentliche Geduld taten es nicht. Der Winter endete, als eine kostengünstige Demonstration — Schach, dann ImageNet — das Feld fast über Nacht wieder investierbar machte.
Das Argument für eine falsche Morgendämmerung
Die stärkste Version der Stillstandsthese hat drei Beine.
Daten- und algorithmische Grenzen. Epochs Analyse von menschlich erzeugtem Text schätzte, dass der Bestand an hochwertigen öffentlichen Trainingsdaten bei damals aktuellen Trends innerhalb von etwa einem Jahrzehnt erschöpft sein würde (Villalobos et al., 2022), was eine Abhängigkeit von synthetischen Daten und anderen Notlösungen erzwingt, deren langfristiger Wert wirklich ungewiss ist. Getrennt davon hat das Feld wiederholt Benchmark-Sättigung mit allgemeiner Kompetenz verwechselt — eine Warnung, die die Seiten emergente Fähigkeiten und Turing-Test dieses Handbuchs ausführlich entwickeln. Benchmarks können sättigen, während die Zuverlässigkeit in der realen Welt — das, wofür Volkswirtschaften tatsächlich bezahlen — deutlich hinterherhinkt.
Zerklüftetheit könnte die Decke sein, nicht der Boden. Der beständige Befund, dass Modelle in manchen Dimensionen übermenschlich und in benachbarten unerklärlich schwach sind, hat eine pessimistische Lesart: dass das Skalieren eines Nächste-Token-Prädiktors Breite kauft, ohne die Art robusten, kompositionellen Denkens zu kaufen, die die Optimisten der Skalierungsgesetze projizieren. Chollets Argument, dass zeitgenössische Benchmarks Intelligenz überzeichnen, weil sie Auswendiglernen zulassen, statt Kompetenzerwerb unter Neuartigkeit zu verlangen, ist die kanonische Formulierung dieser Skepsis (Chollet, 2019).
Der Überhang schneidet in beide Richtungen. Selbst wenn die Gewinne real sind, sind sie vielleicht schon abgeschöpft: Das Argument des „Fähigkeitsüberhangs“ impliziert, dass heutige Modelle unter ihrem Training bleiben, weil Produkte, Bewertungen und Organisationen nicht nachgezogen haben. Wenn dem so ist, liefert weiteres Skalieren abnehmende sichtbare Erträge — was Märkte als Plateau lesen, ganz gleich, was die zugrunde liegende Ursache ist. Es gibt sogar ein dokumentiertes Phänomen, das gegen Skalierung läuft: inverse Skalierung, bei der größere Modelle bei manchen Aufgaben schlechter abschneiden, etwa bei bestimmten Arten wahrheitsgemäßen oder sensiblen Denkens (McKenzie et al., 2023).
Das Argument gegen einen Winter
Winter-Befürworter müssen erklären, warum sich dieser Zyklus auf die letzten beiden reimt, und die Unterschiede sind groß.
Das Geld ist diesmal real. Frühere Winter folgten auf Hype ohne Umsatz. Der aktuelle Zyklus hat Einsatzumsätze in Höhe von zig Milliarden Dollar jährlich und private Investitionen in generative KI, die weiterhin Rekorde brechen — der Stanford AI Index 2025 berichtet von 33,9 Milliarden Dollar privater Investitionen in generative KI allein im Jahr 2024, ein starker Anstieg gegenüber dem Vorjahr. Finanzierung dieser Größenordnung verdunstet nicht, weil Benchmarks enttäuschen; sie verdunstet, wenn Bilanzen brechen.
Die Hardware-Basis ist enorm. Frühere Winter konnten das Feld aushungern, indem sie ein paar Förderungen strichen. Heute reitet das Feld auf einem kapitalintensiven Ausbau von Halbleitern, Cloud und Energie, dessen Investoren jahrzehntelange Renditen erwarten. Das ist ein Boden unter anhaltendem Fortschritt — und, düsterer betrachtet, eine Interessengruppe, die weiterdrängen wird, selbst wenn Umsicht zum Anhalten rät.
Weitverbreitete Integration schafft ihre eigene Nachfrage. Hunderte Millionen Menschen und ein großer Anteil der Unternehmen hängen inzwischen für gewöhnliche Arbeit von KI-Systemen ab. Nutzen geht, anders als Neuheit, nicht aus der Mode. Die Beweislast liegt bei der Winterthese: Sie muss nicht nur zeigen, dass sich der Fortschritt verlangsamt, sondern dass er sich lange genug ausreichend verlangsamt, um einen Finanzierungszusammenbruch gegen eine installierte Basis dieser Größe zu wiederholen.
Was ein Winter bedeuten würde
Angenommen, der Stillstand tritt ein. Was folgt, ist wirklich zweischneidig.
Talentzerstreuung. Ein Winter treibt Frontier-Forscher zu Hedgefonds, Biotechnologie und was auch immer das nächste heiße Feld ist. Das ist in gewisser Weise schlecht für die Sicherheit — Ausrichtungsexpertise, die dünn gesät und auf eine Handvoll Labore konzentriert ist, zerstreut sich — und möglicherweise gut in anderer Hinsicht: Arbeit an gefährlichen Fähigkeiten verlangsamt sich, während manche derselben klugen Köpfe an engeren, besser prüfbaren Problemen arbeiten. Der Nettoeffekt ist im Voraus nicht bekannt, aber die Zerstreuung von Ausrichtungstalent ist ein realer Kosten, den Winter-Optimisten tendenziell übergehen.
Hardware-Überhang. Pausierter Software-Fortschritt schmilzt die Chips nicht ein. Eine Welt, die morgen aufhören würde, Frontier-Modelle zu trainieren, würde weiterhin einen enormen Bestand an eingesetzter Fähigkeit halten, viel davon mit zu geringem Anreiz, Sicherheitspersonal zu erhalten. Der Winter dünnt die Verteidigung rund um bestehende Systeme aus; er dünnt nicht die Systeme selbst.
Das Fehlinterpretationsrisiko. Das ist der schlimmste Teil. Ein echtes mehrjähriges Plateau würde politisch als „die Gefahr ist vorüber“ gedeutet — eine Schlussfolgerung, die aktiv falsch wäre. Pausierter Fortschritt ist nicht widerlegter Fortschritt. Die zugrunde liegenden Treiber (Rechenleistung, algorithmische Effizienz, kommerzieller Anreiz) würden im Hintergrund weiter kumulieren, und der Neustart, wenn er käme, wäre wahrscheinlich schneller und weniger überwacht als der vorherige Anlauf. Die Behandlung von Nutzen und Opportunitätskosten in diesem Handbuch schneidet in dieselbe Richtung: Selbst ein stockender Übergang hat reale Gewinne, und eine Welt, die zu früh den Sieg erklärt, verliert sowohl die Gewinne als auch die Wachsamkeit.
Das Fehlinterpretationsrisiko verdient Betonung: Der gefährlichste Winter ist derjenige, der die Öffentlichkeit davon überzeugt, dass die Gefahr vorbei ist. Historische Winter endeten in Neustarts. Nichts an einem Stillstand garantiert, dass die Sicherheitsarbeit bis zum nächsten Tauwetter überlebt.
Für die Verteilung planen, nicht für die Schlagzeile
Die ehrliche Haltung für ein Handbuch ist dieselbe, mit der diese Seite eröffnet hat: die Analyse nicht auf anhaltend exponentiellen Fortschritt wetten, und auch nicht auf einen Stillstand. Sich darauf vorbereiten, dass Fähigkeit fristgerecht eintrifft, verspätet eintrifft, ungleichmäßig eintrifft, und inmitten der institutionellen Fehlschläge eintrifft, die anderswo auf dieser Website behandelt werden — weil dieselben Vorbereitungen (robuste Institutionen, bewahrtes Wissen, verteilte Reaktionsfähigkeit) diejenigen sind, die sich über die gesamte Verteilung hinweg auszahlen. Ein Winter würde das Timing ändern. Er würde nicht ändern, wie eine gut vorbereitete Gesellschaft aussieht.