Beginne mit der Art der gemachten Behauptung
„KI kann das“, „AGI wird bald kommen“ und „dieses System könnte eine Katastrophe verursachen“ sind nicht dieselbe Behauptung. Sie brauchen unterschiedliche Evidenz. Eine polierte Demonstration mag belegen, dass ein Modell unter günstigen Bedingungen einmal erfolgreich war. Sie belegt keine Zuverlässigkeit, keinen wirtschaftlichen Wert und keinen sicheren autonomen Betrieb. Eine Prognose drückt ein Urteil über die Zukunft aus. Sie ist keine Messung einer gegenwärtigen Fähigkeit.
Das ist wichtig, weil AGI keinen universell akzeptierten Test hat. Definitionen betonen unterschiedliche Kombinationen aus Breite, Leistung, Autonomie, Lernfähigkeit, physischer Kompetenz und wirtschaftlicher Wirkung. Statt zu fragen, ob eine Schlagzeile AGI beweist, sollten Leser fragen, was gemessen wurde, unter welchen Bedingungen, und wie weit die Schlussfolgerung über die Evidenz hinausreicht.
Die untenstehende Leiter ist keine starre Rangfolge, in der jedes Element einer Stufe alles darunter aussticht. Eine reproduzierbare Laborbewertung kann stärkere Evidenz für einen engen Mechanismus sein als verrauschte Einsatzdaten. Ihr Zweck ist es, die inferenziellen Schritte offenzulegen, die werbliche und alarmistische Behauptungen oft verbergen.
Stufe eins: Anekdote und kuratierte Demonstration
Anekdoten offenbaren Möglichkeiten und Fehlermodi. Eine Bildschirmaufnahme eines Agenten, der eine Anwendung baut, zeigt, dass mindestens ein Durchlauf das gezeigte Ergebnis erbrachte, vorausgesetzt die Demonstration ist authentisch. Eine überraschende Halluzination zeigt, dass ein Fehlschlag auftreten kann. Keine der beiden sagt uns, wie oft das Verhalten auftritt.
Man sollte fragen, ob der Präsentator den besten Durchlauf ausgewählt, Pausen oder Fehlschläge herausgeschnitten, versteckte menschliche Assistenz genutzt oder eine vertraute Aufgabe gewählt hat. Man sollte nach dem vollständigen Prompt, den Werkzeugen, der Modellversion, den Sampling-Einstellungen, der Anzahl der Versuche und den Fehlerfällen suchen. Ohne sie sollte man das Ergebnis als untersuchenswerten Hinweis behandeln — nicht als Rate.
Demonstrationen bleiben nützlich. Neue Fähigkeiten erscheinen oft in unordentlicher Form, bevor eine formale Messung existiert. Der Fehler besteht darin, „kann passieren“ in „passiert üblicherweise“ zu verwandeln, und dann in „wird die Wirtschaft transformieren“.
Stufe zwei: Benchmark oder kontrollierte Bewertung
Eine Bewertung definiert Aufgaben, Bedingungen und eine Bewertungsregel. Sie kann Systeme systematischer vergleichen als eine Anekdote. Starke Bewertungen nutzen zurückgehaltene Aufgaben, verhindern Kontamination, berichten Unsicherheit, dokumentieren Gerüst und menschliche Assistenz und testen relevante Fehlermodi. Unabhängige Replikation erhöht das Vertrauen.
Benchmark-Werte können dennoch irreführen. Trainingsdaten könnten ähnliche Fragen enthalten. Teams könnten auf einen öffentlichen Test hin optimieren. Multiple-Choice-Wissen begründet keine Kompetenz an einem unbekannten Arbeitsplatz. Durchschnittswerte verbergen katastrophale Ausreißerfehler. Ein System, das in 90 Prozent der Fälle erfolgreich ist, mag in einem 30-Schritte-Arbeitsablauf unbrauchbar sein, weil sich Fehler summieren.
Der Internationale KI-Sicherheitsbericht 2026 verwendet den Begriff „Bewertungslücke“ für das Problem, dass Ergebnisse kontrollierter Vor-Einsatz-Tests reale Leistung nicht zuverlässig vorhersagen. Er beschreibt aktuelle Fähigkeitsprofile auch als „zerklüftet“: Die Leistung variiert erheblich über Aufgaben und Kontexte hinweg, und Systeme können bei scheinbar einfacher Arbeit scheitern, trotz Erfolg bei schwierigen Bewertungen. Dies sind Befunde über die Grenzen der Messung, kein Beweis, dass jeder Benchmark nutzlos ist. Ein glaubwürdiger Artikel sollte sowohl den Wert als auch das berichten, was der Test auslässt.
Stufe drei: adversariale, kausale und Uplift-Studien
Risikobehauptungen brauchen mehr als einen Standard-Benchmark. Red Teams suchen nach Wegen, verbotenes oder gefährliches Verhalten hervorzurufen. Kausale Experimente ändern ein Merkmal und testen, ob sich Ergebnisse ändern. Uplift-Studien vergleichen, was Menschen mit KI erreichen können, gegen eine bedeutsame Ausgangsbasis, etwa das Internet allein.
Diese Studien beantworten unterschiedliche Fragen. Ein Red-Team-Befund zeigt Zugänglichkeit unter dem getesteten Angriff, nicht bevölkerungsweite Häufigkeit. Eine Fähigkeitsbewertung mag zeigen, dass ein Modell einen schädlichen Plan erzeugen kann, ohne zu zeigen, dass ein realer Akteur ihn ausführen kann. Eine Uplift-Studie mag für Missbrauch relevanter sein, aber ihre Teilnehmer, Zeitlimit, Ausgangsbasis, Ergebnismaß und Schutzmaßnahmen bestimmen, was sie bedeutet.
Kleine Stichproben erzeugen breite Unsicherheit. Experten-Teilnehmer könnten den Uplift für Anfänger unterschätzen, aber ausgefeilte Angreifer besser repräsentieren. Proxy-Aufgaben vermeiden es, echten Schaden zu erzeugen, könnten aber reale Engpässe auslassen. Ergebnisse veralten schnell, während sich Modelle und Kontrollen ändern. Gute Berichterstattung benennt diese Grenzen, statt sie zu „KI ermöglicht“ oder „KI erhöht das Risiko nicht“ zu verdichten.
Stufe vier: Feld- und Einsatzevidenz
Reale Daten können Adoption, Produktivität, Vorfälle, Missbrauch und organisatorische Anpassung offenlegen. Randomisierte Feldexperimente und sorgfältig gestaltete Quasi-Experimente können kausale Effekte schätzen. Vorfalldatenbanken und Beschwerdedaten können wiederkehrenden Schaden zeigen. Audits können Ungleichheiten aufdecken, die das Labor eines Entwicklers nicht getestet hat.
Einsatzevidenz hat auch blinde Flecken. Unternehmen beobachten mehr, als sie offenlegen. Nutzer entscheiden, ob und wie sie ein Werkzeug übernehmen, was einfache Vergleiche verzerrt. Gemeldete Vorfälle sind nicht dasselbe wie alle Vorfälle. Ein Produktivitätsgewinn im Kundendienst überträgt sich nicht automatisch auf Forschung, Management, Medizin oder Robotik.
Leser sollten nach der Population, dem Setting, der Vergleichsgruppe, dem Zeitraum, dem Ergebnis und Interessenkonflikten suchen. „Arbeiter erledigten mehr Aufgaben“ unterscheidet sich von „das Unternehmen schuf mehr Wert“, und beides unterscheidet sich von „die Beschäftigung sank“. Gegenwärtige Arbeitsevidenz über generative KI sollte nicht als Evidenz über hypothetische AGI umetikettiert werden.
Stufe fünf: Trendextrapolation und Prognose
Prognosen kombinieren Messungen mit Annahmen. Rechenleistungstrends, algorithmischer Fortschritt, Investitionen, Benchmark-Leistung und Agentenzuverlässigkeit können eine Prognose informieren, aber keines legt allein ein AGI-Datum fest. Beschränkungen könnten sich lockern, binden oder verschieben. Definitionen könnten sich verändern.
METRs Zeithorizont-Forschung schätzt die Bearbeitungszeit eines menschlichen Experten für Aufgaben, bei denen ein getesteter Agent mit einer angegebenen Zuverlässigkeit — üblicherweise 50 oder 80 Prozent — vorhergesagt erfolgreich ist. Ihre aktuelle Testreihe besteht vorwiegend aus in sich geschlossenen, gut spezifizierten Software-Engineering-, Machine-Learning- und Cybersicherheitsaufgaben mit klaren Bewertungsregeln. Das Maß ist nützliche Evidenz über eine definierte Agentenkonfiguration und Aufgabenverteilung. Es ist nicht die Zeit, die die KI autonom läuft, kein Maß aller wirtschaftlich wertvollen Arbeit und keine Uhr, die zur AGI herunterzählt. METR warnt außerdem, dass Messungen über 16 Stunden mit ihrer aktuellen Testreihe unzuverlässig sind.
Man sollte eine Prognose anhand ihrer operationalen Definition, ihres Datums, ihrer Wahrscheinlichkeit, ihres Modells, ihrer Basisrate und ihrer Erfolgsbilanz bewerten. Eine kalibrierte Prognose sagt im Wesentlichen: „Ergebnisse, denen 30 Prozent zugewiesen werden, sollten etwa 30 Prozent der Zeit eintreten.“ Ein selbstsicheres Datum ohne Auflösungskriterien lässt sich nicht bewerten. Expertenumfragen erfassen informierte Überzeugungen, verwandeln aber Meinungsverschiedenheit nicht in experimentelle Evidenz.
Szenarien dienen einem anderen Zweck. Sie erkunden bedingte Pfade: Wenn Fähigkeiten, Zugang, Autonomie und institutionelle Reaktion bestimmte Werte annehmen, was folgt dann? Ein Szenario kann Verwundbarkeiten offenlegen, ohne die wahrscheinlichste Zukunft zu sein. Man sollte es entsprechend kennzeichnen.
Stufe sechs: Mechanismus und theoretisches Argument
Manche schweren AGI-Risiken lassen sich ohne die relevanten Systeme nicht direkt demonstrieren — und sollten nicht allein geschaffen werden, um einen Beweis zu erhalten. Forscher schlagen stattdessen Mechanismen wie Belohnungs-Hacking, instrumentelles Ressourcenstreben, Wettbewerbsrennen oder schrittweise Delegation von Autorität vor. Formale Modelle können klären, ob eine Schlussfolgerung aus Annahmen folgt.
Die zentrale Frage ist nicht, ob das Argument eindrücklich klingt. Es ist, welche Prämissen empirische Unterstützung haben. Hat das System ein anhaltendes Ziel? Kann es über den erforderlichen Horizont hinweg planen? Hat es Zugang zu Werkzeugen, Geld, Infrastruktur oder Kopien seiner selbst? Wird die Überwachung versagen? Können Institutionen reagieren? Jedes Glied kann die Wahrscheinlichkeit der gesamten Kette verändern.
Das Fehlen direkter Katastrophendaten ist keine Evidenz für Nullrisiko. Ebenso wenig begründet ein logisch möglicher Pfad eine hohe Wahrscheinlichkeit. Entscheidungen unter Unsicherheit sollten Konsequenz, Reversibilität, Vorwarnzeit sowie Kosten und Wirksamkeit von Schutzmaßnahmen berücksichtigen. Das ist ein Risikomanagement-Urteil, keine Entdeckung, dass Theorie zu Beobachtung geworden ist.
Nutze eine Evidenzkarte für folgenreiche Behauptungen
Für jede bedeutsame Aussage sollten sechs Felder erfasst werden:
- Behauptung: die konkret behauptete, eng gefasste Aussage.
- Status: beobachtetes Ergebnis, Schlussfolgerung, Prognose, Szenario oder Empfehlung.
- Quelle: Primärstudie, offizielle Daten, Synthese, Unternehmensbericht, Medien oder Meinung.
- Umfang: Modell, Version, Aufgabe, Population, Rechtsraum und Datum.
- Unsicherheit: Stichprobengröße, Konfidenzintervall, Replikation, fehlende Daten und plausible Alternativen.
- Aktualisierungsauslöser: Evidenz, die die Behauptung stärken, schwächen oder zurückziehen würde.
NISTs freiwilliges Generative-AI-Profil ist eine branchenübergreifende Ergänzung zum AI Risk Management Framework, kein AGI-Test oder Zertifikat. Es ordnet vorgeschlagene Maßnahmen den Funktionen Govern, Map, Measure und Manage des Rahmenwerks zu und behandelt Risikomanagement als fortlaufende Lebenszyklusaktivität. Die umfassendere NIST-AI-RMF-Messleitlinie fordert dokumentierte Tests, Unsicherheitsmaße, einsatzrelevante Messung, Überwachung und unabhängige Überprüfung, wo dies internen Bias reduzieren kann. Die genaue Vorlage ist weniger wichtig, als die Beweiskette prüfbar zu machen.
Vertrauen an Evidenz anpassen
Verlässliche AGI-Berichterstattung erfordert keine falsche Neutralität. Manche Fakten sind gut etabliert: Modelle verbessern sich bei vielen Bewertungen, reale Schäden treten bereits auf, Fähigkeiten bleiben uneinheitlich, und Institutionen haben unvollständige Einsicht. Andere Aussagen — AGI-Daten, diskontinuierlicher Take-off, digitales Bewusstsein, stabile Ausrichtung, Aussterbewahrscheinlichkeiten — bleiben tief umstritten.
Die disziplinierte Antwort ist Präzision. Man sagt „die Studie fand“ beim Beschreiben ihres Ergebnisses, „die Autoren schließen“ beim Darüberhinausgehen, „Prognostiker weisen zu“ beim Berichten einer Überzeugung, und „dieses Szenario nimmt an“ beim Erkunden eines Pfads. Dann verlinkt man die Quelle nah an der Behauptung.
Diese Sprache mag sich weniger dramatisch anfühlen als ein Countdown oder eine Erklärung. Sie ist nützlicher. Die Menschheit wird bessere Entscheidungen über fortgeschrittene KI treffen, indem sie weiß, was die Evidenz stützt, wo sie endet, und was die Einschätzung ändern würde.