Wer ist wer bei AGI: Labore, Sicherheitsorganisationen und Forscher

Warum eine Personalkarte wichtig ist, und warum sie schnell veraltet

Namen und Titel ersetzen nicht das Verständnis dessen, was ein Labor tatsächlich tut — siehe wie sich die Frontier-KI-Labore unterscheiden dafür —, aber sie sind trotzdem wichtig, weil Entscheidungen über Fähigkeitsschwellen, Einsatz-Freigabetore und wie viel externe Prüfung ein Labor toleriert, von konkreten Personen getroffen werden, die ersetzt, befördert oder überstimmt werden können. Diese Seite ist eine Liste: wer derzeit die Frontier-Labore leitet, welche unabhängigen Organisationen die externe Prüfung übernehmen, und welche namentlich genannten Forscher und öffentlichen Intellektuellen die Debatte am lautesten prägen. Jeder Eintrag ist datiert und belegt, sodass ein wiederkehrender Leser erkennen kann, was sich geändert hat.

Frontier-Labore: wer sie leitet, und wohin sie sagen, dass sich die Frontier bewegt

Labor	Aktuelle Führung	Positionierung
OpenAI	Sam Altman, CEO und Mitgründer; Jakub Pachocki, Chefwissenschaftler	Brachte GPT-6 „Astra“ im September 2026 heraus. Tage später veröffentlichte Pachocki einen Essay, in dem er argumentierte, kein Labor — einschließlich OpenAI — habe Ausrichtung gut genug gelöst, um ein Skalieren mit voller Geschwindigkeit zu rechtfertigen. Altman hat gesagt, OpenAI werde 2026 keinen Börsengang verfolgen, unter Verweis auf Sicherheitsbedenken.
Anthropic	Dario Amodei, CEO und Mitgründer; Jared Kaplan, Mitgründer und Chief Scientific Officer	Positioniert sich als das sicherheitsfokussierte Frontier-Labor. Amodeis Essay vom September 2026 rief zu einer bewussten Verlangsamung der Fähigkeitsgewinne branchenweit auf und schlug unabhängige Bewerter innerhalb der Labore sowie schließlich internationale Grenzen für rekursive Selbstverbesserung vor.
Google DeepMind	Demis Hassabis, Chairman von DeepMind und Chefwissenschaftler von Alphabet (wechselte im August 2026 von der CEO-Position); Koray Kavukcuoglu, SVP, der DeepMind im Tagesgeschäft leitet und an Sundar Pichai berichtet	Durchlief im August 2026 eine große Führungsumstrukturierung, Tage nachdem der langjährige Chefwissenschaftler Jeff Dean nach 27 Jahren ausschied, um ein unabhängiges Unternehmen zu gründen, in das Google nun investiert.
Meta AI (Meta Superintelligence Labs)	Alexandr Wang, Chief AI Officer, Co-Leiter von MSL; Shengjia Zhao, Chefwissenschaftler von MSL	Wang kam im Juni 2025 über eine Vereinbarung zwischen Meta und Scale AI im Wert von etwa 14 Milliarden Dollar hinzu. Eine parallele Einheit „Applied AI Engineering“, hinzugefügt im März 2026, verwässerte seine alleinige Autorität. Der frühere Chief AI Scientist Yann LeCun schied im November 2025 aus, um ein rivalisierendes „Weltmodelle“-Startup zu gründen — siehe das skeptische Argument gegen AGI in naher Zukunft für sein technisches Argument.
xAI	Elon Musk, Gründer und Chairman; Michael Nicolls, Präsident (seit April 2026)	Explizit positioniert, um zu Anthropics Claude aufzuschließen. Dan Hendrycks, Direktor des Center for AI Safety, fungiert als Sicherheitsberater von xAI für ein symbolisches Gehalt von 1 Dollar, um den Interessenkonflikt zu managen. Die Unternehmensstruktur ist im Fluss — siehe die Vorbehalte unten.
Microsoft AI	Mustafa Suleyman, EVP und CEO von Microsoft AI (Mitgründer von DeepMind und Inflection AI), berichtet an Satya Nadella	Brachte auf der Build 2026 sieben hauseigene „MAI“-Modelle heraus, nachdem Microsofts OpenAI-Vertrag geändert wurde, um unabhängige Frontier-Forschung zu erlauben. Suleyman hat etwa 18 Monate bis zu menschenähnlicher Leistung bei den meisten Bürotätigkeiten vorhergesagt.
Safe Superintelligence Inc. (SSI)	Ilya Sutskever, CEO (übernahm, nachdem Mitgründer Daniel Gross 2025 zu Meta wechselte); Daniel Levy, Präsident	In einer Runde vom März 2025 mit 30 Milliarden Dollar bewertet; explizit auf ein einziges Produkt fokussiert, im Aufbau hin zu sicherer Superintelligenz ohne kurzfristiges kommerzielles Produkt.
Thinking Machines Lab	Mira Murati, Mitgründerin und CEO (ehemalige CTO von OpenAI)	Gegründet im Februar 2025; sammelte die zu diesem Zeitpunkt größte Seed-Runde der Geschichte ein (2 Milliarden Dollar bei einer Bewertung von 12 Milliarden Dollar, Juli 2025). Brachte eine Feinabstimmungs-API („Tinker“) und Echtzeit-„Interaktionsmodelle“ heraus; Berichten zufolge in Gesprächen, die die Bewertung Richtung 50 Milliarden Dollar treiben.

Drei Punkte gehören zusammen, weil sie fast gleichzeitig eintrafen und sich wie ein einzelner Moment lesen statt wie drei unzusammenhängende Geschichten. Am 6. September 2026 veröffentlichte OpenAIs eigener Chefwissenschaftler einen Essay, in dem er argumentierte, kein Frontier-Labor habe Ausrichtung gut genug gelöst, um sein aktuelles Tempo zu rechtfertigen — ein bemerkenswertes Eingeständnis aus dem Inneren des Unternehmens, das das neueste Frontier-Modell herausbringt. Tage später sagte Sam Altman, OpenAI werde 2026 nicht an die Börse gehen, unter Verweis auf Sicherheitsbedenken als einen Grund, und Anthropics Dario Amodei veröffentlichte seinen eigenen Essay, der die Branche aufrief, Fähigkeitsgewinne bewusst zu verlangsamen. Innerhalb von etwa einer Stunde befürwortete xAIs Elon Musk öffentlich Amodeis Essay; am nächsten Tag bezeichnete Präsident Trump die Verlangsamungsforderungen der Branche als übertrieben und rahmte anhaltende US-KI-Führerschaft als die höhere Priorität. All dies ist innerhalb derselben Woche datiert, in der diese Seite in Druck ging — siehe den Abschnitt mit Vorbehalten unten, bevor du irgendetwas davon als entschiedenen Branchenkonsens statt als lebendigen, umstrittenen Moment behandelst.

Die Führung von Google DeepMind änderte Anfang August 2026 ihre Form: Hassabis wechselte von der CEO-Position in eine Chairman-und-Chefwissenschaftler-Rolle, die DeepMind und Alphabet umfasst, während Kavukcuoglu das Tagesgeschäft übernahm. Diese Umstrukturierung geschah innerhalb weniger Tage nach dem Ausscheiden von Jeff Dean nach 27 Jahren bei Google, um ein unabhängiges Forschungsunternehmen zu gründen, das Google selbst nun unterstützt — eine ungewöhnliche Vereinbarung, die es zu beobachten lohnt, statt sie als abgeschlossen zu behandeln.

Metas KI-Bemühungen wurden innerhalb weniger als eines Jahres zweimal umgestaltet: zuerst durch Wangs Ankunft über den Scale-AI-Deal, dann durch eine Umstrukturierung im März 2026, die eine zweite Engineering-Einheit hinzufügte, die außerhalb seiner Befehlskette berichtet. Das Bild von xAI wird durch eine ungeklärte Frage der Unternehmensstruktur weiter verkompliziert — siehe die Vorbehalte unten — obendrauf zu Hendrycks’ Doppelrolle, das Labor zu beraten, das er auch mit im Zaum halten helfen soll. Für die veröffentlichten Richtlinien, von denen diese acht Organisationen sagen, dass sie ihre eigene Risikobereitschaft regeln, siehe Sicherheitsrahmenwerke der Frontier-KI-Labore im Vergleich — erklärte Richtlinie und organisatorische Stabilität sind zwei verschiedene Dinge; ein Rahmenwerk übersteht den Abgang eines CEO nur, wenn es dafür gebaut wurde.

Unabhängige KI-Sicherheitsforschungsorganisationen

Frontier-Labore schreiben ihre eigenen Sicherheitsrahmenwerke. Die untenstehenden Organisationen betreiben selbst keine Frontier-Modelle; ihre Aufgabe ist es, von außerhalb dieser Struktur zu bewerten, zu prüfen oder sich einzusetzen — mit echter Variation darin, wie unabhängig „außerhalb“ tatsächlich ist.

Organisation	Was sie tut
MIRI (Machine Intelligence Research Institute)	Gegründet 2000, die älteste KI-Sicherheitsorganisation. Nate Soares ist Präsident; Malo Bourgon ist CEO; Eliezer Yudkowsky ist Gründer, Senior Research Fellow und Vorstandsvorsitzender. Verlagerte sich hin zu öffentlicher Kommunikation und politischer Interessenvertretung, am sichtbarsten durch Yudkowsky und Soares’ Buch von 2025, das argumentiert, das Standardergebnis des Baus übermenschlicher KI sei Kontrollverlust.
Redwood Research	Buck Shlegeris, CEO. Pionier von „KI-Kontroll“-Protokollen — den Einsatz so gestalten, dass ein fehlausgerichtetes Modell keine Katastrophe verursachen kann, selbst wenn es fehlausgerichtet ist — und Mit-Demonstrator empirischen „Alignment-Fakings“ in großen Sprachmodellen. Quelle: 80,000-Hours-Interview.
METR (Model Evaluation and Threat Research)	Beth Barnes, Gründerin und CEO; Chris Painter, Präsident; Hjalmar Wijk, Chefwissenschaftler. Führt Vor-Einsatz-Bewertungen autonomer Fähigkeit von Frontier-Modellen durch und veröffentlicht die breit zitierte „Zeithorizont“-Fähigkeitskennzahl — siehe AGI-Zeitplanprognosen für die eigenen dokumentierten Grenzen der Kennzahl. Quelle: metr.org/about.
UK AI Security Institute	Im Februar 2025 von „AI Safety Institute“ umbenannt, wobei der Fokus hin zu Cyberangriff-, Cyberkriminalitäts- und Betrugsrisiko statt breiterer KI-Sicherheit und -Ethik verschoben wurde. Adam Beaumont, ein ehemaliger Chief-AI-Officer des GCHQ, ist Interimsdirektor; Jade Leung ist CTO und dient auch als KI-Beraterin des britischen Premierministers.
US Center for AI Standards and Innovation (CAISI)	Ehemals das „US AI Safety Institute“, von der Trump-Regierung im Juni 2025 umbenannt, um „safety“ aus dem Titel zu streichen und sich hin zu Tests der nationalen Sicherheit und kommerzieller KI-Bewertung neu auszurichten. Paul Christiano diente hier kurz als Head of Safety, bevor er im August 2026 zurücktrat — siehe unten. Quelle: nist.gov/caisi.
Apollo Research	Marius Hobbhahn, CEO und Mitgründer; Chris Akin, COO; Charlotte Stix, Chief Governance Officer. Spezialisiert auf das Aufdecken von Intrigieren (Scheming) und täuschender Ausrichtung — veröffentlichte gemeinsam mit OpenAI den ersten Beleg für kontextbezogenes Intrigieren in Frontier-Modellen und half später bei der Entwicklung einer Technik „deliberativer Ausrichtung“, die gemessenes Intrigieren um etwa das 30-Fache reduzierte. Quelle: apolloresearch.ai/about.
GovAI (Centre for the Governance of AI)	Ben Garfinkel, Direktor seit 2021, als es unter Gründungsdirektor Allan Dafoe zu einer unabhängigen gemeinnützigen Organisation wurde. Forschung und eine bekannte Stipendien-Pipeline, die darauf abzielt, Regierung und Industrie beim Umgang mit fortgeschrittener KI zu helfen. Quelle: governance.ai/about-us.
Center for AI Safety (CAIS)	Dan Hendrycks, Executive Director und Gründer (auch xAIs mit 1 Dollar bezahlter Sicherheitsberater). Verfasste die einflussreiche Ein-Satz-Erklärung vom Mai 2023, wonach die Minderung des KI-Aussterberisikos neben Pandemien und Atomkrieg globale Priorität haben sollte.
LawZero	Gegründet im Juni 2025 von Yoshua Bengio, inkubiert bei Mila. Baut absichtlich „nicht-agentische“ KI — eine „Scientist AI“-Architektur ohne verborgene Agenda — als sicherheitsstandardmäßige Alternative zu agentischen Frontier-Modellen. Quelle: Wikipedia.

Die folgenreichste Tatsache in dieser Tabelle ist nicht die Missionserklärung einer einzelnen Organisation — es ist, wie sehr staatliche „Sicherheits“-Institute in den letzten achtzehn Monaten umbenannt und neu positioniert wurden. Das britische Institut strich im Februar 2025 „safety“ aus seinem Namen zugunsten von Cyberkriminalität und Betrug; das US-Institut tat im Juni 2025 dasselbe, unter einer anderen Regierung, aus anderen angegebenen Gründen. Keine der Änderungen war kosmetisch — beide kamen mit einer erklärten Verschiebung dessen, was das Institut bewertet. Das lässt genuin unabhängige Bewertungsarbeit in einer kleineren Gruppe gemeinnütziger Organisationen konzentriert — METR, Apollo Research, Redwood Research, GovAI —, deren Finanzierung und Zugang in der Praxis weiterhin davon abhängen, dass die Labore sich zur Kooperation entscheiden.

Paul Christianos vergangenes Jahr veranschaulicht, wie dünn die Linie zwischen „staatlichem Bewerter“ und „Branchen-Insider“ werden kann: vom Leiten des unabhängigen Alignment Research Center über eine Teilzeit-Sicherheitsrolle innerhalb von CAISI, zurück zu ARC als Executive Director im August 2026, und Wochen später hin zum eigenen gemeinnützigen Vorstands-Sicherheits- und Schutzausschuss von OpenAI. Nichts davon ist an sich unangemessen, aber es bedeutet, dass eine kleine Zahl anerkannter Personen häufig zwischen den Organisationen rotiert, die ein Labor prüfen sollen, und der eigenen Governance des Labors.

Namentlich genannte Forscher und öffentliche Intellektuelle

Über die obigen Organisationen hinaus prägt eine Handvoll Einzelpersonen die AGI-Risiko-Diskussion größtenteils aus eigener Autorität — durch öffentliche Aussagen, technische Arbeit, oder beides.

Forscher	Aktuelle Rolle	Bekannt für
Yoshua Bengio	Ordentlicher Professor, Université de Montréal; Gründer und wissenschaftlicher Berater, Mila; Co-Präsident und wissenschaftlicher Direktor, LawZero	Leitet den Internationalen KI-Sicherheitsbericht (Ausgabe 2026 beschreibt sich beschleunigende Fähigkeit neben wachsendem Risiko). Gründete LawZero als nicht-agentische Alternative zur Architektur der Frontier-Labore.
Stuart Russell	Professor, UC Berkeley (Smith-Zadeh-Lehrstuhl, EECS)	Leitet das Center for Human-Compatible AI (CHAI), dessen Mission „nachweislich nützliche“ KI durch inverses verstärkendes Lernen und verwandte technische Ansätze ist. Im Februar 2025 in die National Academy of Engineering gewählt.
Paul Christiano	Executive Director, Alignment Research Center (ARC)	White-Box-mechanistische Interpretierbarkeitstechniken zur Erkennung von Fehlausrichtung. Rotierte innerhalb desselben Jahres durch eine staatliche Sicherheitsrolle und in den eigenen Aufsichtsausschuss des OpenAI-Vorstands — siehe oben.
Geoffrey Hinton	Keine formale institutionelle Sicherheitsrolle	Nobelpreisträger für Physik 2024 (mit John Hopfield) für grundlegende KI-Arbeit; die prominenteste öffentliche Stimme des „Paten der KI“ zum existenziellen Risiko. Verglich unregulierte KI-Entwicklung 2026 auf einer Konferenz in Genf mit einem Auto ohne Lenkrad.
Eliezer Yudkowsky	Gründer, Senior Research Fellow und Vorstandsvorsitzender, MIRI	Mitautor, mit Nate Soares, des Buchs von 2025, das argumentiert, das Standardergebnis des Baus übermenschlicher KI sei Kontrollverlust mit existenziellen Folgen.
Dan Hendrycks	Executive Director und Gründer, Center for AI Safety; Sicherheitsberater von xAI	Verfasste die Ein-Satz-Erklärung zum Aussterberisiko von 2023 (oben). Seine Doppelrolle — eine unabhängige gemeinnützige Sicherheitsorganisation zu leiten, während er ein Frontier-Labor berät — ist selbst eine Tatsache, die es wert ist, beim Lesen seiner öffentlichen Aussagen über beides abzuwägen.

Zwei Dinge sind an dieser Liste bemerkenswert. Erstens neigt sie zu Personen mit einer institutionellen Basis speziell in der KI-Sicherheit — eine bewusste Umfangsentscheidung; das separate Argument von Forschern, die bezweifeln, dass kurzfristige AGI überhaupt plausibel ist (Yann LeCun, Andrew Ng, Gary Marcus und andere), erhält eine eigene dedizierte Behandlung, statt hier eingefügt zu werden. Zweitens erscheinen mehrere Namen von oben auch in den weiter oben stehenden Tabellen, in einer anderen Funktion: Bengio leitet LawZero, Yudkowsky führt den Vorstand von MIRI, Hendrycks gründete CAIS und berät xAI. Die Überschneidung ist real — dieselbe Handvoll Personen trägt mehrere Hüte über die Organisationen hinweg, die die Labore prüfen sollen, und die Labore selbst.

Was sich noch bewegt, während dies in Druck geht

Vier konkrete Fakten oben sind datierte Momentaufnahmen von Situationen, die sich zum Zeitpunkt der Veröffentlichung aktiv veränderten, hier ausdrücklich markiert statt als abgeschlossen dargestellt:

• Google DeepMinds Umstrukturierung vom August 2026. Hassabis’ Wechsel zu Chairman/Chefwissenschaftler und Kavukcuoglus Beförderung geschahen innerhalb der sechs Wochen vor dem Veröffentlichungsdatum dieser Seite. Titel und Berichtslinien auf dieser Ebene können sich wieder schnell verschieben; überprüfe die aktuelle Führung direkt, bevor du dich auf diese Zeile verlässt.
• Der Amodei/Altman/Pachocki/Musk/Trump-Moment vom 6.–13. September 2026. Die Führung dreier Labore argumentierte auf unterschiedliche Weise, dass die Branche sich verlangsamen müsse oder Ausrichtung nicht gelöst habe, xAIs Musk stimmte öffentlich zu, und Präsident Trump wies die Sorge am folgenden Tag zurück. Es liest sich wie ein echter Wendepunkt, ist aber auch das jüngste, am wenigsten abgeschlossene Material hier — behandle genauen Wortlaut und vollständige Implikationen als vorläufig, bis mehr Medien unabhängig darüber berichtet haben.
• Die Vorsitzposition des UK AI Security Institute. Adam Beaumonts Interimsleitung ist einigermaßen gut dokumentiert; ob eine separate Vorsitzrolle (zuvor von Ian Hogarth bekleidet) aktuell existiert, und wer sie innehat, konnte für 2026 in den Quellen hinter dieser Seite nicht unabhängig bestätigt werden. Bestätige dies direkt beim Institut, bevor du einen bestimmten Vorsitzenden zitierst.
• Die Unternehmensstruktur von xAI. xAI wurde in Berichten von 2026 als in SpaceX eingegliedert beschrieben, im Vorfeld eines geplanten SpaceX-Börsengangs, wobei Berichte die kombinierte Einheit informell als „SpaceXAI“ bezeichnen. Dies ist eine sich schnell bewegende Frage der Unternehmensstruktur statt einer feststehenden Tatsache; bestätige die aktuelle rechtliche und organisatorische Beziehung zwischen xAI und SpaceX, bevor du sie als fest behandelst.

Wie man diese Seite nutzt

Behandle diese Liste als Ausgangspunkt, um herauszufinden, wer eine bestimmte Entscheidung tatsächlich trifft, nicht als Urteil über die Vertrauenswürdigkeit eines Labors oder Forschers. Titel ändern sich, Unternehmen strukturieren sich um, und dieselbe Person kann innerhalb derselben achtzehn Monate eine staatliche Rolle, eine gemeinnützige Rolle und eine Beratungsrolle in der Industrie innehaben — Paul Christianos Weg durch CAISI, ARC und den eigenen Vorstandsausschuss von OpenAI ist ein Beispiel oben, und es wird nicht das letzte sein. Wozu sich diese Labore tatsächlich verpflichten, sobald ein Modell eine Fähigkeitsschwelle überschreitet, siehe Sicherheitsrahmenwerke der Frontier-KI-Labore im Vergleich. Wie schnell sich die zugrunde liegende Fähigkeit selbst bewegt — und warum Prognostiker sich darüber so stark uneinig sind — siehe AGI-Zeitplanprognosen: was Labore und Umfragen sagen. Und für das Vokabular, das diese ganze Liste voraussetzt, beginne mit wie sich die Frontier-KI-Labore unterscheiden.