Situation report active Rev. 2026.9 119 reports 239 source records updated
Real Life After AGI 人類存続のためのブリーフィング
JA

AGI業界の人物録:研究所、安全性団体、研究者

フロンティア研究所、独立系安全性団体、AGI論争を形作る研究者たちの、出典付きで日付を明示した名簿。変動中の事実には注記を付す。

Written by
Dwight Ringdahl
Status
出典確認済み
Revised
Sources
18 cited
Reading
1 min

なぜ人事の見取り図が重要であり、なぜすぐに古くなるのか

名前や肩書きは、ある研究所が実際に何をしているかを理解することの代わりにはならない——それについてはフロンティアAI研究所はどう違うのかを参照してほしい——それでもなお名前や肩書きが重要なのは、能力閾値、展開のゲート、そしてある研究所がどれだけ外部の精査を許容するかについての決定が、交代させられたり、昇進させられたり、覆されたりしうる特定の人物によって下されるからである。本ページは名簿である。現在誰がフロンティア研究所を率いているか、どの独立組織が外部からの検証を行っているか、そしてどの実名の研究者や知識人が最も声高に議論を形作っているか、である。どの項目にも日付と出典を付し、再訪する読者が何が変わったかを分かるようにしている。

範囲と出典についての注記

以下の役職と肩書きはすべて、実名の報道または各組織自身の公開資料と照合済みであり、2026年9月13日時点のものである。この階層では企業のリーダーシップは急速に入れ替わる——以下の項目のうち3件は、直前の6週間だけで生じた変化を記述している。末尾の節では、本ページを読んでいる時点で古くなっている可能性が最も高い具体的な事実に注記を付している。どの行も、確定した説明ではなく日付付きのスナップショットとして扱ってほしい。

フロンティア研究所:誰が率い、フロンティアはどこへ向かうと語っているか

研究所 現在の経営陣 立ち位置
OpenAI サム・アルトマン(CEO兼共同創業者)、ヤクブ・パチョツキ(チーフサイエンティスト) 2026年9月にGPT-6「Astra」を発表。その数日後、パチョツキ氏は、OpenAIを含むどの研究所も、全速力でのスケーリングを正当化できるほどにはアラインメントを解決していないと論じるエッセイを発表した。アルトマン氏は、安全性への懸念を理由に、OpenAIは2026年にはIPOを行わないと述べている。
Anthropic ダリオ・アモデイ(CEO兼共同創業者)、ジャレド・カプラン(共同創業者兼チーフサイエンティフィックオフィサー) 安全性に重点を置くフロンティア研究所として自らを位置づける。アモデイ氏の2026年9月のエッセイは、業界全体で意図的に能力向上のペースを落とすことを求め、各研究所内に独立した評価者を置くこと、そして再帰的自己改善への国際的な制限を最終的に設けることを提案した。
Google DeepMind デミス・ハサビス(DeepMind会長兼Alphabetチーフサイエンティスト、2026年8月にCEOから異動)、コライ・カヴクチュオール(DeepMindの日常運営を担うSVP、サンダー・ピチャイ氏の直属) 2026年8月に大規模な経営陣の刷新を経験。これは、長年チーフサイエンティストを務めたジェフ・ディーン氏が27年間の在籍を経て退任し、Google自身が現在出資している独立企業を設立したわずか数日後のことだった。
Meta AI(Meta Superintelligence Labs) アレクサンドル・ワン(チーフAIオフィサー、MSLを共同で率いる)、シェンジャ・ジャオ(MSLチーフサイエンティスト) ワン氏は2025年6月、Metaとスケール AIとのおよそ140億ドル規模の取り決めを通じて参加した。2026年3月に並行して追加された「Applied AI Engineering」部門により、彼の単独の権限は希薄化した。前チーフAIサイエンティストのヤン・ルカン氏は2025年11月に退社し、競合する「世界モデル」スタートアップを設立した——彼の技術的な主張については近い将来のAGIに対する懐疑論を参照。
xAI イーロン・マスク(創業者兼会長)、マイケル・ニコルズ(社長、2026年4月から) Anthropicの Claudeに追いつくことを明確な狙いとして位置づけている。Center for AI Safetyのディレクターであるダン・ヘンドリックス氏が、利益相反を管理するため、象徴的な年俸1ドルでxAIの安全性顧問を務めている。企業構造は流動的である——後述の留保事項を参照。
Microsoft AI ムスタファ・スレイマン(Microsoft AIのEVP兼CEO、DeepMindとInflection AIの共同創業者)、サティア・ナデラ氏の直属 Microsoftの OpenAI契約が独立したフロンティア研究を認める形に改定された後、Build 2026で自社製の「MAI」モデル7種を発表。スレイマン氏は、ほとんどのホワイトカラーの専門職タスクにおいて人間レベルの性能に達するまで、およそ18か月と予測している。
Safe Superintelligence Inc.(SSI) イリヤ・サツケヴァー(CEO、共同創業者ダニエル・グロス氏が2025年にMetaへ去った後に就任)、ダニエル・レヴィ(社長) 2025年3月のラウンドで300億ドルの評価額。単一製品への集中を明確にし、近い将来の商用製品を持たないまま、安全な超知能に向けた構築を進めている。
Thinking Machines Lab ミラ・ムラティ(共同創業者兼CEO、元OpenAI CTO) 2025年2月創業。当時としては史上最大のシード資金調達を達成(2025年7月、評価額120億ドルで20億ドル)。ファインチューニングAPI「Tinker」とリアルタイムの「インタラクションモデル」を発表しており、評価額を500億ドルに引き上げる交渉が進んでいるとも報じられている。

3つの出来事は、ほぼ同時に起きたため、無関係な3つの話としてではなく、一つの瞬間として読むべきものとしてまとめて扱う。2026年9月6日、OpenAI自身のチーフサイエンティストが、フロンティア研究所のどこも、現在のペースを正当化できるほどにはアラインメントを解決していないと論じるエッセイを発表した——最新のフロンティアモデルを送り出している企業の内部からの、驚くべき告白である。その数日後、サム・アルトマン氏はOpenAIが2026年に上場しないと述べ、その理由として安全性への懸念を挙げ、Anthropicのダリオ・アモデイ氏も、業界全体で意図的に能力向上を減速させるよう求める、自らのエッセイを発表した。その約1時間後、xAIのイーロン・マスク氏は公にアモデイ氏のエッセイを支持し、翌日にはトランプ大統領が、業界の減速要求を誇張だとして退け、米国のAIにおけるリーダーシップを維持することの方がより高い優先事項だと位置づけた。これらはすべて、本ページが印刷に回されたのと同じ週内の出来事である——これらのいずれかを、確定した業界のコンセンサスとして扱う前に、下記の留保事項の節を参照してほしい。まだ動いている、係争中の瞬間なのだから。

Google DeepMindの経営体制は2026年8月初旬に形を変えた。ハサビス氏はCEOの座を離れ、DeepMindとAlphabetにまたがる会長兼チーフサイエンティストの役割へと移り、カヴクチュオール氏が日常業務を引き継いだ。この刷新は、ジェフ・ディーン氏がGoogleでの27年間の在籍を経て退任し、Google自身が現在出資している独立系の研究会社を立ち上げたわずか数日後に起きた——これは、決着済みとして扱うのではなく、注視すべき異例の取り決めである。

MetaのAIへの取り組みは、1年足らずのうちに2度組み替えられている。最初はスケールAIとの取引を通じたワン氏の参加によって、次に2026年3月の組織再編によって、彼の指揮系統の外で報告を行う第2のエンジニアリング部門が加わったことによってである。xAIの姿はさらに、未解決の企業構造をめぐる問題によって複雑になっている——後述の留保事項を参照——それに加えて、ヘンドリックス氏は、自らが牽制する役割も担っているはずの研究所に助言するという二重の立場も抱えている。これら8つの組織が、自らのリスクテイクを律していると公言している公表済みの方針については、フロンティアAI研究所の安全性枠組みの比較を参照してほしい——公言された方針と組織の安定性は別のものである。ある枠組みがCEOの退任を乗り越えて存続するのは、それがそのように作られていた場合に限られる。

独立系AI安全性研究組織

フロンティア研究所は、自ら安全性の枠組みを書く。以下の組織は、フロンティアモデルそのものを運営しているわけではなく、その構造の外側から評価、監査、あるいは提言を行うことを役割としている——ただし、その「外側」が実際にどれだけ独立しているかには、本当のばらつきがある。

組織 活動内容
MIRI(Machine Intelligence Research Institute) 2000年設立、最も歴史のあるAI安全性団体。ネイト・ソアレス氏が代表(President)、マロ・ブルゴン氏がCEO、エリエゼル・ユドコウスキー氏が創設者・上級研究員・理事会議長を務める。ユドコウスキー氏とソアレス氏による、超人的AIを構築することのデフォルトの帰結は制御の喪失であると論じる2025年の著書を通じて最も顕著に見られるように、社会への発信と政策提言へと重心を移してきた。
Redwood Research バック・シュレゲリス氏がCEO。ミスアラインされたモデルであってもそれが破局を引き起こせないように展開を設計する「AI制御」プロトコルの先駆者であり、大規模言語モデルにおける「アラインメントの偽装」を実証する共同研究も発表した。出典:80,000 Hoursインタビュー
METR(Model Evaluation and Threat Research) ベス・バーンズ氏が創設者兼CEO、クリス・ペインター氏が代表(President)、ヒャルマル・ウェイク氏がチーフサイエンティスト。フロンティアモデルの展開前における自律能力評価を実施し、広く引用される「タイムホライズン」能力指標を公表している——この指標自身の文書化された限界についてはAGI到来時期の予測を参照。出典:metr.org/about
英国AIセキュリティ研究所 2025年2月に「AI Safety Institute」から改称し、より広範なAI安全性・倫理よりも、サイバー攻撃、サイバー犯罪、詐欺リスクへと重点を移した。元GCHQチーフAIオフィサーのアダム・ボーモント氏が暫定所長を務め、ジェイド・レウン氏がCTOを務めるとともに英国首相のAI顧問も兼任している。
米国AI標準・イノベーションセンター(CAISI) 旧「US AI Safety Institute」であり、2025年6月にトランプ政権によって改称され、名称から「safety」の語が外され、国家安全保障に関する試験と商用AI評価へと軸足を移した。ポール・クリスティアーノ氏は一時期ここで安全性責任者を務めたが、2026年8月に辞任した——後述を参照。出典:nist.gov/caisi
Apollo Research マリウス・ホブハーン氏が創設者兼CEO、クリス・エイキン氏がCOO、シャーロット・スティックス氏がチーフガバナンスオフィサー。策略と欺瞞的アラインメントの検知を専門とし、OpenAIとともに、フロンティアモデルにおける文脈内での策略の最初の証拠を発表した。その後、測定された策略の発生をおよそ30分の1に減らした「熟慮的アラインメント」技術の開発にも協力した。出典:apolloresearch.ai/about
GovAI(Centre for the Governance of AI) ベン・ガーフィンケル氏が2021年から所長を務める。同年、創設所長アラン・ダフォー氏のもとで独立した非営利団体となった。政府と産業界が先端的なAIを乗りこなすのを助けることを目指した研究と、よく知られたフェローシップの輩出経路を運営している。出典:governance.ai/about-us
Center for AI Safety(CAIS) ダン・ヘンドリックス氏が創設者兼エグゼクティブディレクター(xAIの年俸1ドルの安全性顧問も兼務)。AIによる絶滅リスクの緩和は、パンデミックや核戦争と並ぶ世界的な優先事項であるべきだとする、2023年5月の影響力の大きな一文声明を執筆した。
LawZero 2025年6月、ヨシュア・ベンジオ氏によって設立され、Milaでインキュベートされている。隠れた目的を持たない「サイエンティストAI」アーキテクチャという、意図的に「非エージェント型」のAIを構築し、エージェント型のフロンティアモデルに代わる、デフォルトで安全な代替策を目指している。出典:Wikipedia

この表の中で最も重大な事実は、どこか一つの組織の使命表明ではなく、政府の「安全性」機関が過去18か月でどれほど改称され、位置づけを変えられてきたかということである。英国の機関は2025年2月、サイバー犯罪と詐欺を理由に名称から「safety」を外した。米国の機関も2025年6月、異なる政権のもとで、異なる公式理由により同じことをした。どちらの変更も表面的なものではなく、いずれも、その機関が何を評価するのかについての明示的な転換を伴っていた。その結果、真に独立した評価作業は、METR、Apollo Research、Redwood Research、GovAIといった、より小規模な非営利団体の一群に集中することになっている。それらの資金とアクセスは、実務上、依然として各研究所が協力を選ぶかどうかに左右される。

ポール・クリスティアーノ氏のこの1年は、「政府側の評価者」と「業界の内部関係者」の境界線がいかに薄くなりうるかを物語っている。独立系のAlignment Research Centerを運営する立場から、CAISI内での非常勤の安全性職へ、そして2026年8月にはARCへエグゼクティブディレクターとして復帰し、その数週間後にはOpenAI自身の非営利理事会のSafety and Security Committeeに加わっている。これらのいずれも、それ自体としては不適切ではないが、少数の資格を持つ人々が、ある研究所を検証するはずの組織と、その研究所自身のガバナンスとの間を、頻繁に行き来していることを意味する。

実名の研究者と知識人

上記の組織を超えて、一握りの個人が、主に自らの権威によって——公の発言、技術的な研究、あるいはその両方を通じて——AGIリスクをめぐる議論を形作っている。

研究者 現在の役職 知られていること
ヨシュア・ベンジオ モントリオール大学教授、Mila創設者兼科学顧問、LawZero共同代表兼科学ディレクター 国際AI安全性報告書の議長を務める(2026年版は、リスクの増大とともに能力が加速していると記述している)。フロンティア研究所のアーキテクチャに代わる非エージェント型の代替策として、LawZeroを設立した。
スチュアート・ラッセル UCバークレー教授(EECS、スミス・ザデ冠教授) 逆強化学習などの技術的アプローチを通じて「証明可能に有益な」AIを目指すCenter for Human-Compatible AI(CHAI)を率いる。2025年2月に全米工学アカデミー会員に選出された。
ポール・クリスティアーノ Alignment Research Center(ARC)エグゼクティブディレクター ミスアラインメントを検知するための、ホワイトボックス型の機構的解釈可能性技術。同じ1年のうちに、政府の安全性職を経て、OpenAI自身の理事会監督委員会へと渡り歩いた——前述を参照。
ジェフリー・ヒントン 正式な組織的安全性の役職なし 2024年ノーベル物理学賞受賞者(ジョン・ホップフィールド氏と共同、AIの基礎的研究に対して)。実存的リスクについて発言する「AIのゴッドファーザー」として最も著名な存在。2026年のジュネーブでの会議で、規制のないAI開発をハンドルのない車にたとえた。
エリエゼル・ユドコウスキー MIRI創設者、上級研究員、理事会議長 ネイト・ソアレス氏との共著で、超人的AIを構築することのデフォルトの帰結は、実存的な帰結を伴う制御の喪失であると論じる2025年の著書。
ダン・ヘンドリックス Center for AI Safety創設者兼エグゼクティブディレクター、xAI安全性顧問 前述の、2023年の一文からなる絶滅リスク声明を執筆。独立系の安全性非営利団体を運営しながら、フロンティア研究所に助言するという彼の二重の役割は、そのどちらについての彼の公の発言を読む際にも、考慮に値する事実そのものである。

このリストについては、2つのことに注目する価値がある。第一に、このリストは意図的な範囲設定として、特にAI安全性に組織的な拠点を持つ人々に偏っている。近い将来のAGIがそもそもありうるのかを疑う研究者たち(ヤン・ルカン、アンドリュー・ン、ゲアリー・マーカスなど)による別個の議論は、ここに組み込むのではなく、専用の扱いを別途受けている。第二に、上記の名前のいくつかは、より上にある表にも、異なる立場で登場している。ベンジオ氏はLawZeroを運営し、ユドコウスキー氏はMIRIの理事会議長を務め、ヘンドリックス氏はCAISを創設しxAIに助言している。この重複は本物である。ごく一握りの人々が、研究所を検証するはずの組織と、研究所自身の両方にまたがって、複数の役割を担っているのだ。

本ページを印刷に回す時点で、なお動いていること

上記のうち4つの具体的な事実は、発表時点で活発に変化していた状況の、日付付きのスナップショットであり、確定したものとしてではなく、ここで明示的に注記しておく。

  • Google DeepMindの2026年8月の刷新。 ハサビス氏の会長兼チーフサイエンティストへの異動と、カヴクチュオール氏の昇進は、本ページの発表日より前の6週間以内に起きた。この階層での肩書きと報告系統は再び急速に変わりうる。この行に依拠する前に、現在の経営陣を直接確認してほしい。
  • 2026年9月6日から13日にかけての、アモデイ/アルトマン/パチョツキ/マスク/トランプの一連の動き。 3つの研究所の経営陣が、それぞれ異なる形で業界は減速すべきだ、あるいはアラインメントを解決できていないと論じ、xAIのマスク氏が公にそれに同調し、翌日にはトランプ大統領がその懸念を退けた。これは本物の転換点のように読めるが、同時に本ページの中で最も新しく、最も確定していない題材でもある。より多くの報道機関が独立に取材するまでは、正確な文言と全体的な含意を暫定的なものとして扱ってほしい。
  • 英国AIセキュリティ研究所の所長ポスト。 アダム・ボーモント氏の暫定所長職はかなりよく文書化されているが、(以前はイアン・ホガース氏が務めていた)別建ての所長職が現在も存在するのか、そして誰がそれを務めているのかは、本ページの取材の範囲では2026年について独立に再確認できなかった。特定の所長名を引用する前に、同研究所に直接確認してほしい。
  • xAIの企業構造。 xAIは2026年の報道の中で、計画中のSpaceXのIPOに先立ちSpaceXに組み込まれたと説明されており、統合された事業体を非公式に「SpaceXAI」と呼ぶ報道もある。これは確定した事実というより、急速に動いている企業構造上の問題である。これを固定されたものとして扱う前に、xAIとSpaceXの現在の法的・組織的な関係を確認してほしい。

本ページの使い方

この名簿は、ある研究所や研究者の信頼性についての審判としてではなく、ある決定を実際に下しているのが誰なのかを突き止めるための出発点として扱ってほしい。肩書きは変わり、企業は再編され、同一人物が同じ18か月のうちに、政府の役職、非営利団体の役職、そして業界の顧問役を兼ねることもある——ポール・クリスティアーノ氏がCAISI、ARC、OpenAI自身の理事会委員会をたどった道のりは、上記で挙げた一例にすぎず、最後の例でもないだろう。あるモデルが能力閾値を超えたとき、これらの研究所が実際に何をすると約束しているのかについては、フロンティアAI研究所の安全性枠組みの比較を参照してほしい。その根底にある能力自体がどれほど速く動いているのか——そしてなぜ予測者たちの意見がこれほど鋭く対立するのか——については、AGI到来時期の予測:研究所と調査が語ることを参照してほしい。そしてこの名簿全体が前提としている語彙については、フロンティアAI研究所はどう違うのかから始めてほしい。

References

Summarized position

Dario Amodei called in a September 2026 essay for deliberately slowing frontier AI capability gains, proposing independent evaluators inside labs and eventual international limits on recursive self-improvement.

Dario Amodei, CEO and co-founder, Anthropic
The Washington Post, Secondary coverage
Summarized position

Jakub Pachocki published an essay days after OpenAI shipped GPT-6 "Astra" arguing no AI lab, including OpenAI, has solved alignment well enough to justify scaling at full speed.

Jakub Pachocki, Chief Scientist, OpenAI
The Spokesman-Review, Secondary coverage
Summarized position

Sam Altman said OpenAI will not pursue an IPO in 2026, citing safety concerns as a reason.

Sam Altman, CEO and co-founder, OpenAI
Quartz, Secondary coverage
Summarized position

Axios reported that Demis Hassabis moved from CEO of Google DeepMind to Chairman of DeepMind and Chief Scientist of Alphabet in an August 2026 reorganization, with Koray Kavukcuoglu promoted to SVP running DeepMind day-to-day under Sundar Pichai.

Axios, Reporting on Google DeepMind's August 2026 leadership reorganization
Axios, Secondary coverage
Summarized position

CNBC reported that Jeff Dean left Google after 27 years to found an independent company, Discovery Loop, which Google is now investing in.

CNBC, Reporting on Jeff Dean's departure from Google
CNBC, Secondary coverage
Summarized position

Bloomberg documented an 'identity crisis' at xAI following its folding into SpaceX after a February 2026 acquisition, ahead of a planned SpaceX IPO.

Bloomberg, Reporting on xAI's corporate restructuring into SpaceX
Bloomberg, Secondary coverage
Summarized position

Eliezer Yudkowsky and Nate Soares co-authored the 2025 book arguing the default outcome of building superhuman AI is loss of control with existential consequences.

Eliezer Yudkowsky and Nate Soares, Founder/board chair and President, MIRI
Wikipedia, Secondary coverage
Summarized position

Paul Christiano returned to the Alignment Research Center as executive director in August 2026 after briefly serving as Head of Safety at the U.S. Center for AI Standards and Innovation, and later joined OpenAI's nonprofit-board Safety and Security Committee on September 9, 2026.

Paul Christiano, Executive Director, Alignment Research Center
LessWrong ("Returning to ARC"), Primary source
Summarized position

Geoffrey Hinton compared unregulated AI development to a fast car with no steering wheel at the 2026 Digital World Conference in Geneva, and called for immediate global regulation of superintelligent systems.

Geoffrey Hinton, 2024 Nobel Physics laureate; former VP, Google
avantgardenews.com, Secondary coverage
Summarized position

Wikipedia describes Adam Beaumont, a former GCHQ chief AI officer, as interim director of the UK AI Security Institute (rebranded from the AI Safety Institute in February 2025), with Jade Leung as CTO and the UK Prime Minister's AI adviser.

Wikipedia, Encyclopedia entry, "AI Security Institute"
Wikipedia, Secondary coverage
Summarized position

Elon Musk publicly endorsed Amodei's call to pace frontier AI development within about an hour of the essay going up, quote-posting it in agreement.

Elon Musk, Founder and chairman, xAI
X (formerly Twitter), Primary source
Summarized position

Donald Trump downplayed the AI labs' slowdown calls the following day, framing the concerns as exaggerated and emphasizing that maintaining U.S. AI leadership over rivals should take priority.

Donald Trump, President of the United States
Al Jazeera, Secondary coverage
  1. 80,000 Hoursインタビュー 80000hours.org
  2. metr.org/about metr.org
  3. nist.gov/caisi nist.gov
  4. apolloresearch.ai/about apolloresearch.ai
  5. governance.ai/about-us governance.ai
  6. Wikipedia en.wikipedia.org

Type to search the manual.

navigate open esc close