Situation report active Rev. 2026.9 119 reports 239 source records updated
Real Life After AGI Das Überlebens-Briefing für die Menschheit
DE

AGI, schwache KI und Superintelligenz: die Fähigkeitsleiter

Was schwache KI, breit fähige Systeme, AGI und Superintelligenz unterscheidet — und warum kein Test die Grenzen festlegt, nach DeepMinds Breite-Tiefe-Rahmenwerk.

Written by
Dwight Ringdahl
Status
Quellen geprüft
Revised
Sources
3 cited
Reading
5 min

Die Etiketten sind nützlich, aber keine Naturgesetze

Enge künstliche Intelligenz, künstliche allgemeine Intelligenz und künstliche Superintelligenz versteht man am besten als Regionen auf mehreren Fähigkeitsdimensionen — nicht als drei präzise markierte Kästchen. Forscher und Institutionen verwenden unterschiedliche Definitionen, und es gibt keine wissenschaftliche Autorität, die zertifizieren könnte, dass ein System „zur AGI geworden ist“. Ein sorgfältiger Leser sollte daher fragen, was jemand mit dem Begriff meint und welche Belege die Einordnung stützen.

Enge künstliche Intelligenz (ANI, engl. artificial narrow intelligence) bezeichnet traditionell ein System, das für eine begrenzte Aufgabe oder Domäne optimiert ist: eine Schach-Engine, einen Betrugserkenner, eine Spracherkennung oder einen Protein-Struktur-Prädiktor. Ein solches System kann jeden Menschen in seiner Zielaufgabe übertreffen und dabei überall sonst nutzlos bleiben. Aber jedes eingesetzte Modell „eng“ zu nennen, ist zunehmend irreführend. Allgemeine Sprach- und multimodale Modelle können schreiben, programmieren, Bilder analysieren, Werkzeuge nutzen und sich anhand von Anweisungen an viele Aufgaben anpassen. Sie sind in einem Sinne breit, aber dennoch unzuverlässig, abhängig von technischem Gerüst und uneinheitlich über Domänen hinweg. „KI für allgemeine Zwecke“ oder „breit fähiges Modell“ ist oft eine informativere Beschreibung, als diese Systeme in das alte eng/allgemein-Binär zu zwingen.

Künstliche allgemeine Intelligenz (AGI) bezeichnet üblicherweise eine Maschine mit breiter Kompetenz, die sich auf unbekannte Aufgaben überträgt. Über diesen Kern hinaus gehen die Definitionen auseinander. Manche verlangen eine Leistung, die einem typischen Menschen bei den meisten kognitiven Arbeiten vergleichbar ist; manche verlangen die Fähigkeit, effizient zu lernen; manche betonen wirtschaftlich wertvolle Arbeit; und manche fügen Autonomie in der physischen oder digitalen Welt hinzu. Forscher von Google DeepMind schlugen vor, AGI sowohl durch Breite — wie viele Aufgaben sie erledigen kann — als auch durch Tiefe — wie gut sie diese erledigt — zu beschreiben, während Autonomie als separate Einsatzeigenschaft behandelt wird (DeepMind, Levels of AGI). Dieses Rahmenwerk vermeidet die Annahme, dass eine einzelne Benchmark eine magische Schwelle schafft.

Künstliche Superintelligenz (ASI) ist ein hypothetisches System, das die besten Menschen in nahezu allen kognitiv wertvollen Domänen wesentlich übertrifft. Dies ist keine beobachtete Technologiekategorie. Es ist ein Szenario, das genutzt wird, um über Systeme nachzudenken, die menschliche Institutionen in Wissenschaft, Strategie, Ingenieurwesen, Überzeugungsarbeit und vielleicht in der KI-Forschung selbst übertreffen könnten. Ob ein solches System möglich ist, wie schnell es der AGI folgen könnte und ob sich Intelligenz über alle Domänen hinweg in einem einzigen System vereinen lässt, sind weiterhin umstrittene Fragen.

Fähigkeit hat mehr als eine Achse

Eine nützliche Bewertung unterscheidet mindestens fünf Eigenschaften:

  • Breite: die Vielfalt der Aufgaben und Umgebungen, in denen das System kompetent ist.
  • Leistung: ob es einem Anfänger, einem typischen Arbeiter, einem Experten oder dem besten Menschen entspricht.
  • Zuverlässigkeit: wie oft es erfolgreich ist, auch unter ungewöhnlichen oder feindseligen Bedingungen.
  • Lernen und Transfer: wie leicht es eine wirklich neue Aufgabe bewältigt, ohne aufgabenspezifisches Neutraining.
  • Autonomie: wie lange und wie sicher es planen, handeln, Werkzeuge nutzen, sich von Fehlern erholen und ein Ziel mit begrenzter Aufsicht verfolgen kann.

Diese Achsen können sich dramatisch voneinander lösen. Ein Modell mag Fragen zu Hunderten von Themen beantworten und dabei elementare Fehler machen. Ein anderes mag in einem wissenschaftlichen Arbeitsablauf außergewöhnlich zuverlässig sein, aber nicht generalisieren können. Ein Konversationsmodell mag breit informiert erscheinen, während ein auf demselben Modell aufgebauter Agent scheitert, weil er den Kontext verliert, ein Werkzeug falsch einsetzt oder nicht erkennt, dass sein Plan schiefläuft. Die Definition eines KI-Systems der OECD unterscheidet ähnlich zwischen erzeugten Ergebnissen und dem Einfluss auf Umgebungen einerseits und unterschiedlichen Graden von Autonomie und Anpassungsfähigkeit nach dem Einsatz andererseits (OECD-KI-Grundsätze).

Das ist wichtig, weil geschliffene Sprache nicht dasselbe ist wie robuste Handlungsfähigkeit. Menschenähnliche Konversation fördert Anthropomorphisierung, während Benchmark-Werte die Abhängigkeit von sorgfältig strukturierten Prompts, sauberen Daten und automatisierter Bewertung verbergen können. Umgekehrt muss ein System nicht wie eine Person sprechen, um folgenreiche Fähigkeiten zu besitzen. Ein wissenschaftliches Modell, ein Handelsagent oder ein Cyber-Werkzeug kann wichtig sein wegen dessen, was es tun kann, nicht weil es einem menschlichen Geist ähnelt.

Warum keine einzelne Benchmark AGI beweist

Benchmarks messen Verhalten unter festgelegten Bedingungen. Sie offenbaren nicht direkt Verständnis, Bewusstsein, Absichten oder Leistung in jeder ungetesteten Situation. Werte können steigen wegen echter Generalisierung, Exposition gegenüber ähnlichen Trainingsbeispielen, besserer Prompt-Gestaltung, Werkzeugzugriff oder technischer Konstruktion rund um das Modell. Eine Benchmark kann auch sättigen: Sobald führende Systeme sich ihrer Obergrenze nähern, werden kleine Unterschiede schwer zu interpretieren.

Dieselbe Warnung gilt für wirtschaftliche Definitionen. „Kann die meisten Jobs automatisieren“ klingt konkret, aber Jobs sind Bündel aus technischen Aufgaben, sozialer Verhandlung, Rechenschaftspflicht, körperlicher Tätigkeit, lokalem Wissen und Verantwortung für Fehler. Erfolg bei in sich geschlossenen Aufgaben belegt nicht, dass ein System einen Arbeiter in einer unübersichtlichen Organisation ersetzen kann. METR erklärt ausdrücklich, dass sein Zeithorizont für Aufgabenerledigung sich auf Software, maschinelles Lernen und Cybersicherheit konzentriert und nicht als allgemeines Maß für Arbeitsplatzautomatisierung gelesen werden sollte (METR-Methodik).

AGI sollte daher als eine Behauptung behandelt werden, die ein Belegprofil erfordert. Welche Domänen wurden getestet? Wie neuartig waren die Aufgaben? Welche Werkzeuge und menschliche Hilfe waren erlaubt? Wurde die Leistung unabhängig repliziert? Wie hoch war die Erfolgsquote? Blieb das System verlässlich, wenn Ziele mehrdeutig waren oder sich die Umgebung änderte? Ohne diese Details ist eine AGI-Ankündigung Markenbildung, Prognose oder persönliches Urteil — kein Messergebnis.

Warum die Unterscheidung die Politik verändert

Unterschiedliche Fähigkeitsprofile erzeugen unterschiedliche Risiken. Heutige Systeme verursachen bereits dokumentierte Schäden durch Betrug, Diskriminierung, Verletzung der Privatsphäre, unsicheren Rat, Arbeitsplatzstörung und synthetische Medien. Diese Probleme erfordern keine AGI und sollten nicht bis zu einer zukünftigen Schwelle aufgeschoben werden. Breit autonome Systeme könnten weitere Risiken hinzufügen, indem sie Cyberoperationen durchführen, gefährliche Forschung beschleunigen oder kritische Prozesse in einem Ausmaß steuern, das menschliche Kontrolle übersteigt. Hypothetische Superintelligenz wirft noch ungewissere Fragen auf, ob menschliche Institutionen ein ihnen strategisch überlegenes System beaufsichtigen könnten.

Die Kategorien prägen auch angemessene Schutzmaßnahmen. Ein enger medizinischer Klassifikator braucht vielleicht klinische Validierung, Überwachung und ein Widerspruchsverfahren. Ein Allzweckmodell braucht vielleicht Fähigkeitsbewertungen, Missbrauchserkennung, Vorfallmeldung und Kontrollen rund um gefährliche Werkzeuge. Ein hochautonomes System, das kritische Infrastruktur betreibt, würde stärkere Absicherung, Eindämmung und Anforderungen an menschliche Autorisierung rechtfertigen. „KI“ als eine undifferenzierte Kategorie zu verwenden, verschleiert diese Unterschiede.

Eine bessere Art, Behauptungen über AGI zu lesen

Wenn jemand sagt, AGI sei schon da — oder unmöglich —, übersetze die Behauptung in beobachtbare Fragen. Ist das System breit kompetent oder nur breit in der Schnittstelle? Überträgt es sich auf neue Arbeit? Wie zuverlässig ist es? Kann es lange, reale Projekte abschließen? Braucht es fortlaufende menschliche Korrektur? Lernt es nach dem Einsatz? Sind die Belege öffentlich und unabhängig reproduzierbar?

Die ehrliche Schlussfolgerung im Jahr 2026 lautet nicht, dass alle eingesetzte KI einfach eng ist, noch dass breite Sprachmodelle eine allgemein anerkannte AGI-Linie überschritten haben. Heutige Systeme verbinden auffällige Breite mit ernsthafter Brüchigkeit. AGI bleibt ein umstrittenes Konzept, und ASI bleibt hypothetisch. Die nützlichste „Fähigkeitsleiter“ ist daher eine mehrdimensionale Karte mit datierten Belegen — keine dreistufige Treppe, auf der sich ein Unternehmen zum Sieger erklären kann.

References

  1. DeepMind, Levels of AGI deepmind.google
  2. OECD-KI-Grundsätze oecd.ai
  3. METR-Methodik metr.org

Type to search the manual.

navigate open esc close