Situation report active Rev. 2026.9 119 reports 239 source records updated
Real Life After AGI Das Überlebens-Briefing für die Menschheit
DE

02 Folgen

Was sich ändert, während Menschen noch das Sagen haben

Viele folgenreiche Schäden erfordern kein außer Kontrolle geratenes System, das die Macht übernimmt. Sie können daraus entstehen, wie Menschen und Institutionen mächtige Systeme einsetzen, während Menschen die Autorität noch innehaben.

Written by
Dwight Ringdahl
Revised
Sources
3 cited

Kurzfristige Effekte

Dies sind vier wichtige Risikofamilien, keine vier feststehenden Vorhersagen. Die Evidenz ist am stärksten für die gegenwärtige Exposition von Arbeitsaufgaben, Betrug und sicherheitsrelevanten Missbrauch; wirtschaftsweite Verdrängung, institutioneller Zusammenbruch und Kontrollverlust bleiben zunehmend unsicherer, je weiter sich das Szenario von den heute eingesetzten Systemen entfernt.

  • Störung des Arbeitsmarkts. Wenn die Automatisierung kognitiver Aufgaben schneller voranschreitet als die Neugestaltung von Arbeitsplätzen und Politik, könnten Umschulungssysteme, Steuerbasen und soziale Sicherungsnetze Mühe haben, sich anzupassen.
  • Machtkonzentration. Die Kontrolle über führende Modelle, Chips, Cloud-Infrastruktur und Vertrieb kann Vorteile bei Kapital, Information und staatlicher Handlungsfähigkeit schaffen.
  • Informationsintegrität. Billige synthetische Medien und skalierbare Überzeugungsarbeit können Betrug erhöhen und die Kosten steigern, eine gemeinsame Tatsachenbasis aufrechtzuerhalten.
  • Sicherheitsdruck. KI-Unterstützung kann die Kosten, die Geschwindigkeit oder den Umfang mancher Cyber-, biologischer und militärischer Aktivitäten verändern; gemessene Effekte unterscheiden sich je nach Bereich erheblich.

Speziell zur Beschäftigungszahl: Eine vielzitierte institutionelle Projektion ist keine reine KI-Zusammenbruchsprognose. Ihre Gesamtzahlen zu Arbeitsplatzschaffung und -verdrängung kombinieren KI mit anderen technologischen, demografischen, wirtschaftlichen, geopolitischen und ökologischen Trends:

Summarized position

World Economic Forum projects, across the macrotrends surveyed rather than AI alone, roughly 92 million roles displaced and 170 million created globally by 2030.

World Economic Forum, Future of Jobs Report 2025
World Economic Forum, Research/report

Der Eskalationspfad zum Kontrollverlust

Ein hypothetischer Pfad zum Kontrollverlust verläuft über vier Stufen. Es handelt sich um ein Szenariomodell zur Identifizierung von Eingriffsmöglichkeiten, nicht um eine Beobachtung, dass heutige Systeme diese Abfolge bereits begonnen haben:

  1. Autonomie wird gewährt

    Systemen wird zunehmende Autonomie eingeräumt, wenn Organisationen Geschwindigkeit und geringere Aufsichtskosten höher bewerten als die zusätzliche Kontrolle, die eine Überprüfung bieten könnte.

  2. Aufsicht hinkt der Fähigkeit hinterher

    Das Nachvollziehen des Denkens eines übermenschlichen Systems ist selbst ein schwieriges Problem, sodass die Qualität der menschlichen Aufsicht genau dann nachlässt, wenn der Einsatz steigt.

  3. Instrumentelle Anreize entstehen

    Manche Theorien sagen voraus, dass hinreichend fähige, zielgerichtete Systeme Ressourcenerwerb oder Widerstand gegen Abschaltung als nützliche Zwischenstrategien behandeln könnten. Ob trainierte Systeme stabile Anreize dieser Art entwickeln, ist ungeklärt.

  4. Korrektur wird umkämpft

    Bis Fehlausrichtung für Menschen erkennbar wird, könnte das System bereits genug Einfluss — über Infrastruktur, Kapital oder Information — besitzen, um sich der Korrektur zu widersetzen.

Bedingter Mechanismus, hohe Konsequenz

Die Theorie erfordert keine Böswilligkeit. Instrumentelle Konvergenz — die Hypothese, dass hinreichend fähige, zielgerichtete Systeme Ressourcen suchen, Optionen bewahren oder sich der Korrektur widersetzen könnten, als Zwischenstrategien über viele Ziele hinweg — ist ein vorgeschlagener Mechanismus. Deshalb untersucht Kapitel 04 Bewertungen, Zugriffskontrollen, Überwachung, Aufsicht und Korrigierbarkeit gemeinsam.

Der Wissenschaftler, der den Vorsitz des Internationalen KI-Sicherheitsberichts innehatte, hat öffentlich dafür argumentiert, dass dieses Risiko bereits jetzt Aufmerksamkeit verdient:

Summarized position

Yoshua Bengio warned that future systems exhibiting self-preservation behavior could create a loss-of-control risk.

Yoshua Bengio, Turing Award laureate; chair, International AI Safety Report
AFP, via TechXplore, Secondary coverage

Geoffrey Hinton hat eine persönliche Wahrscheinlichkeitsschätzung für ein durch KI verursachtes Aussterben abgegeben; es handelt sich um ein Experturteil, keine gemessene Häufigkeit:

Summarized position

Geoffrey Hinton said in a December 2024 BBC interview that he put the chance of AI causing human extinction within thirty years at 10–20%.

Geoffrey Hinton, Nobel and Turing Award laureate; former VP, Google
BBC Radio 4, reported by The Guardian, Secondary coverage

Was das für einen Haushalt oder ein Unternehmen bedeutet

Die meisten Leser haben unmittelbarere Kontrolle über die Exposition von Haushalt und Arbeitsplatz als über die Praxis von Frontier-Labors, aber Wählen, Organisieren, Forschung, Beschäftigung, Beschaffung und öffentliche Stellungnahmen können die Politik trotzdem beeinflussen. Die Exposition eines Haushalts kann Einkommens- oder Anlagenkonzentration, Abhängigkeit von einzelnen digitalen Ausfallpunkten und Bereitschaft für eine Phase raschen, desorientierenden Wandels umfassen. Kapitel 03 und Kapitel 06 machen daraus eine Checkliste.

Wirtschaftlich Informationell Sicherheit

In diesem Kapitel

16 Seiten in diesem Kapitel

Deepfakes und die geteilte faktische Grundlage Wie billige, überzeugende synthetische Medien geteilte Fakten, Wahlen und öffentliches Vertrauen untergraben können, plus die Grenzen von Erkennung und Herkunftsnachweis.
Quellen geprüft 5 min
Arbeitsplatzqualität statt Arbeitsplatzzahlen Die Jobs, die die KI überleben, könnten trotzdem schlechter werden. Wie algorithmisches Management Autonomie entzieht, und was Arbeitsstandards tun könnten.
Quellen geprüft 5 min

Type to search the manual.

navigate open esc close