02 Folgen
Was sich ändert, während Menschen noch das Sagen haben
Viele folgenreiche Schäden erfordern kein außer Kontrolle geratenes System, das die Macht übernimmt. Sie können daraus entstehen, wie Menschen und Institutionen mächtige Systeme einsetzen, während Menschen die Autorität noch innehaben.
Kurzfristige Effekte
Dies sind vier wichtige Risikofamilien, keine vier feststehenden Vorhersagen. Die Evidenz ist am stärksten für die gegenwärtige Exposition von Arbeitsaufgaben, Betrug und sicherheitsrelevanten Missbrauch; wirtschaftsweite Verdrängung, institutioneller Zusammenbruch und Kontrollverlust bleiben zunehmend unsicherer, je weiter sich das Szenario von den heute eingesetzten Systemen entfernt.
- Störung des Arbeitsmarkts. Wenn die Automatisierung kognitiver Aufgaben schneller voranschreitet als die Neugestaltung von Arbeitsplätzen und Politik, könnten Umschulungssysteme, Steuerbasen und soziale Sicherungsnetze Mühe haben, sich anzupassen.
- Machtkonzentration. Die Kontrolle über führende Modelle, Chips, Cloud-Infrastruktur und Vertrieb kann Vorteile bei Kapital, Information und staatlicher Handlungsfähigkeit schaffen.
- Informationsintegrität. Billige synthetische Medien und skalierbare Überzeugungsarbeit können Betrug erhöhen und die Kosten steigern, eine gemeinsame Tatsachenbasis aufrechtzuerhalten.
- Sicherheitsdruck. KI-Unterstützung kann die Kosten, die Geschwindigkeit oder den Umfang mancher Cyber-, biologischer und militärischer Aktivitäten verändern; gemessene Effekte unterscheiden sich je nach Bereich erheblich.
Speziell zur Beschäftigungszahl: Eine vielzitierte institutionelle Projektion ist keine reine KI-Zusammenbruchsprognose. Ihre Gesamtzahlen zu Arbeitsplatzschaffung und -verdrängung kombinieren KI mit anderen technologischen, demografischen, wirtschaftlichen, geopolitischen und ökologischen Trends:
World Economic Forum projects, across the macrotrends surveyed rather than AI alone, roughly 92 million roles displaced and 170 million created globally by 2030.
World Economic Forum, Research/report
Der Eskalationspfad zum Kontrollverlust
Ein hypothetischer Pfad zum Kontrollverlust verläuft über vier Stufen. Es handelt sich um ein Szenariomodell zur Identifizierung von Eingriffsmöglichkeiten, nicht um eine Beobachtung, dass heutige Systeme diese Abfolge bereits begonnen haben:
- Autonomie wird gewährt
Systemen wird zunehmende Autonomie eingeräumt, wenn Organisationen Geschwindigkeit und geringere Aufsichtskosten höher bewerten als die zusätzliche Kontrolle, die eine Überprüfung bieten könnte.
- Aufsicht hinkt der Fähigkeit hinterher
Das Nachvollziehen des Denkens eines übermenschlichen Systems ist selbst ein schwieriges Problem, sodass die Qualität der menschlichen Aufsicht genau dann nachlässt, wenn der Einsatz steigt.
- Instrumentelle Anreize entstehen
Manche Theorien sagen voraus, dass hinreichend fähige, zielgerichtete Systeme Ressourcenerwerb oder Widerstand gegen Abschaltung als nützliche Zwischenstrategien behandeln könnten. Ob trainierte Systeme stabile Anreize dieser Art entwickeln, ist ungeklärt.
- Korrektur wird umkämpft
Bis Fehlausrichtung für Menschen erkennbar wird, könnte das System bereits genug Einfluss — über Infrastruktur, Kapital oder Information — besitzen, um sich der Korrektur zu widersetzen.
Die Theorie erfordert keine Böswilligkeit. Instrumentelle Konvergenz — die Hypothese, dass hinreichend fähige, zielgerichtete Systeme Ressourcen suchen, Optionen bewahren oder sich der Korrektur widersetzen könnten, als Zwischenstrategien über viele Ziele hinweg — ist ein vorgeschlagener Mechanismus. Deshalb untersucht Kapitel 04 Bewertungen, Zugriffskontrollen, Überwachung, Aufsicht und Korrigierbarkeit gemeinsam.
Der Wissenschaftler, der den Vorsitz des Internationalen KI-Sicherheitsberichts innehatte, hat öffentlich dafür argumentiert, dass dieses Risiko bereits jetzt Aufmerksamkeit verdient:
Yoshua Bengio warned that future systems exhibiting self-preservation behavior could create a loss-of-control risk.
AFP, via TechXplore, Secondary coverage
Geoffrey Hinton hat eine persönliche Wahrscheinlichkeitsschätzung für ein durch KI verursachtes Aussterben abgegeben; es handelt sich um ein Experturteil, keine gemessene Häufigkeit:
Geoffrey Hinton said in a December 2024 BBC interview that he put the chance of AI causing human extinction within thirty years at 10–20%.
BBC Radio 4, reported by The Guardian, Secondary coverage
Was das für einen Haushalt oder ein Unternehmen bedeutet
Die meisten Leser haben unmittelbarere Kontrolle über die Exposition von Haushalt und Arbeitsplatz als über die Praxis von Frontier-Labors, aber Wählen, Organisieren, Forschung, Beschäftigung, Beschaffung und öffentliche Stellungnahmen können die Politik trotzdem beeinflussen. Die Exposition eines Haushalts kann Einkommens- oder Anlagenkonzentration, Abhängigkeit von einzelnen digitalen Ausfallpunkten und Bereitschaft für eine Phase raschen, desorientierenden Wandels umfassen. Kapitel 03 und Kapitel 06 machen daraus eine Checkliste.