Siapa yang berperan dalam AGI: laboratorium, organisasi keamanan, dan peneliti

Mengapa peta personel itu penting, dan mengapa ia cepat kedaluwarsa

Nama dan jabatan bukanlah pengganti pemahaman tentang apa yang sesungguhnya dilakukan sebuah laboratorium—lihat bagaimana laboratorium AI terdepan berbeda untuk itu—tetapi keduanya tetap penting, karena keputusan tentang ambang batas kemampuan, gerbang penerapan, dan seberapa banyak pengawasan dari luar yang ditoleransi sebuah laboratorium dibuat oleh orang-orang tertentu yang dapat diganti, dipromosikan, atau ditolak. Halaman ini adalah sebuah daftar: siapa yang saat ini menjalankan laboratorium terdepan, organisasi independen mana yang melakukan pemeriksaan dari luar, dan peneliti bernama serta intelektual publik mana yang paling keras membentuk perdebatan ini. Setiap entri bertanggal dan bersumber sehingga pembaca yang kembali dapat mengetahui apa yang telah berubah.

Laboratorium terdepan: siapa yang menjalankannya, dan ke mana menurut mereka arah terdepan menuju

Laboratorium	Kepemimpinan saat ini	Positioning
OpenAI	Sam Altman, CEO dan salah satu pendiri; Jakub Pachocki, Chief Scientist	Merilis GPT-6 “Astra” pada September 2026. Beberapa hari kemudian, Pachocki mempublikasikan sebuah esai yang berargumen tidak ada laboratorium—termasuk OpenAI—yang telah memecahkan penyelarasan cukup baik untuk membenarkan penskalaan dengan kecepatan penuh. Altman telah mengatakan OpenAI tidak akan mengejar IPO pada 2026, dengan alasan kekhawatiran keamanan.
Anthropic	Dario Amodei, CEO dan salah satu pendiri; Jared Kaplan, salah satu pendiri dan Chief Scientific Officer	Memosisikan dirinya sebagai laboratorium terdepan yang berfokus pada keamanan. Esai Amodei September 2026 menyerukan perlambatan keuntungan kemampuan secara sengaja di seluruh industri, mengusulkan evaluator independen di dalam laboratorium dan batasan internasional akhirnya pada penyempurnaan diri rekursif.
Google DeepMind	Demis Hassabis, Chairman DeepMind dan Chief Scientist Alphabet (pindah dari CEO pada Agustus 2026); Koray Kavukcuoglu, SVP yang menjalankan DeepMind sehari-hari, melapor kepada Sundar Pichai	Mengalami perombakan kepemimpinan besar pada Agustus 2026, beberapa hari setelah chief scientist lama Jeff Dean pergi setelah 27 tahun untuk mendirikan sebuah perusahaan independen yang kini diinvestasikan Google.
Meta AI (Meta Superintelligence Labs)	Alexandr Wang, Chief AI Officer, memimpin bersama MSL; Shengjia Zhao, Chief Scientist MSL	Wang bergabung melalui kesepakatan Meta/Scale AI senilai kira-kira $14 miliar pada Juni 2025. Sebuah unit “Applied AI Engineering” paralel yang ditambahkan pada Maret 2026 mengencerkan otoritas tunggalnya. Mantan Chief AI Scientist Yann LeCun pergi pada November 2025 untuk mendirikan sebuah startup “model dunia” saingan—lihat argumen skeptis terhadap AGI jangka pendek untuk argumen teknisnya.
xAI	Elon Musk, pendiri dan chairman; Michael Nicolls, President (sejak April 2026)	Diposisikan secara eksplisit untuk mengejar ketertinggalan dari Claude milik Anthropic. Dan Hendrycks, direktur Center for AI Safety, menjabat sebagai penasihat keamanan xAI dengan gaji simbolis $1 untuk mengelola konflik kepentingan. Struktur korporat sedang berubah-ubah—lihat peringatan di bawah.
Microsoft AI	Mustafa Suleyman, EVP dan CEO Microsoft AI (salah satu pendiri DeepMind dan Inflection AI), melapor kepada Satya Nadella	Merilis tujuh model “MAI” internal pada Build 2026 setelah kontrak OpenAI milik Microsoft diamandemen untuk mengizinkan riset terdepan independen. Suleyman telah memprediksi kira-kira 18 bulan lagi menuju kinerja setingkat manusia pada sebagian besar tugas profesional kerah putih.
Safe Superintelligence Inc. (SSI)	Ilya Sutskever, CEO (mengambil alih setelah salah satu pendiri Daniel Gross pindah ke Meta pada 2025); Daniel Levy, President	Dinilai $30 miliar dalam sebuah putaran Maret 2025; secara eksplisit berfokus produk tunggal, membangun menuju superkecerdasan yang aman tanpa produk komersial jangka pendek.
Thinking Machines Lab	Mira Murati, salah satu pendiri dan CEO (mantan CTO OpenAI)	Didirikan Februari 2025; meraih putaran pendanaan awal terbesar dalam sejarah pada saat itu ($2 miliar dengan valuasi $12 miliar, Juli 2025). Merilis sebuah API penyetelan halus (“Tinker”) dan “model interaksi” waktu-nyata; dilaporkan sedang dalam pembicaraan yang mendorong valuasinya menuju $50 miliar.

Tiga hal ini berkaitan erat karena terjadi hampir bersamaan dan terbaca sebagai satu momen tunggal alih-alih tiga kisah yang tidak berhubungan. Pada 6 September 2026, chief scientist OpenAI sendiri mempublikasikan sebuah esai yang berargumen bahwa tidak ada laboratorium terdepan yang telah memecahkan penyelarasan cukup baik untuk membenarkan kecepatannya saat ini—sebuah pengakuan yang mencolok dari dalam perusahaan yang merilis model terdepan terbaru. Beberapa hari kemudian, Sam Altman mengatakan OpenAI tidak akan go public pada 2026, dengan alasan kekhawatiran keamanan, dan Dario Amodei dari Anthropic mempublikasikan esainya sendiri yang menyerukan industri untuk secara sengaja memperlambat keuntungan kemampuan. Dalam kira-kira satu jam, Elon Musk dari xAI secara publik mendukung esai Amodei; keesokan harinya, Presiden Trump menolak seruan perlambatan industri itu sebagai berlebihan, membingkai kepemimpinan AI AS yang berkelanjutan sebagai prioritas yang lebih tinggi. Semua ini bertanggal dalam minggu yang sama dengan saat halaman ini naik cetak—lihat bagian peringatan di bawah sebelum memperlakukan salah satunya sebagai konsensus industri yang tuntas alih-alih sebuah momen yang hidup dan diperdebatkan.

Kepemimpinan Google DeepMind berubah bentuk pada awal Agustus 2026: Hassabis pindah dari kursi CEO ke peran chairman-sekaligus-chief-scientist yang mencakup DeepMind dan Alphabet, sementara Kavukcuoglu mengambil alih operasi sehari-hari. Perombakan itu terjadi dalam hitungan hari setelah kepergian Jeff Dean setelah 27 tahun di Google untuk memulai sebuah perusahaan riset independen yang kini didukung Google sendiri—sebuah pengaturan yang tidak biasa yang layak diperhatikan alih-alih diperlakukan sebagai tuntas.

Upaya AI Meta telah dibentuk ulang dua kali dalam kurang dari setahun: pertama oleh kedatangan Wang melalui kesepakatan Scale AI, lalu oleh sebuah restrukturisasi Maret 2026 yang menambahkan unit rekayasa kedua yang melapor di luar rantainya. Gambaran xAI diperumit lebih jauh oleh sebuah pertanyaan struktur korporat yang belum terselesaikan—lihat peringatan di bawah—di atas peran ganda Hendrycks yang menasihati laboratorium yang juga seharusnya ia bantu awasi. Untuk kebijakan yang dipublikasikan yang menurut kedelapan organisasi ini mengatur pengambilan risiko mereka sendiri, lihat kerangka keamanan laboratorium AI terdepan, dibandingkan—kebijakan yang dinyatakan dan stabilitas organisasional adalah dua hal yang berbeda; sebuah kerangka kerja bertahan dari kepergian seorang CEO hanya jika ia dibangun untuk itu.

Organisasi riset keamanan AI independen

Laboratorium terdepan menulis kerangka keamanan mereka sendiri. Organisasi di bawah ini tidak menjalankan model terdepan mereka sendiri; pekerjaan mereka adalah mengevaluasi, mengaudit, atau mengadvokasi dari luar struktur itu—dengan variasi nyata dalam seberapa independen “luar” itu sesungguhnya.

Organisasi	Apa yang dilakukannya
MIRI (Machine Intelligence Research Institute)	Didirikan 2000, organisasi keamanan AI tertua. Nate Soares adalah President; Malo Bourgon adalah CEO; Eliezer Yudkowsky adalah Founder, Senior Research Fellow, dan ketua dewan. Bergeser menuju komunikasi publik dan advokasi kebijakan, paling terlihat melalui buku 2025 milik Yudkowsky dan Soares yang berargumen hasil default dari membangun AI superhuman adalah hilangnya kendali.
Redwood Research	Buck Shlegeris, CEO. Merintis protokol “kendali AI”—merancang penerapan sehingga sebuah model yang tidak selaras tidak dapat menyebabkan bencana bahkan jika ia tidak selaras—dan bersama-sama mendemonstrasikan secara empiris “pemalsuan penyelarasan” (alignment faking) dalam model bahasa besar. Sumber: wawancara 80,000 Hours.
METR (Model Evaluation and Threat Research)	Beth Barnes, Founder dan CEO; Chris Painter, President; Hjalmar Wijk, Chief Scientist. Menjalankan evaluasi kemampuan otonom pra-penerapan pada model terdepan dan mempublikasikan metrik kemampuan “horizon waktu” yang banyak dikutip—lihat prakiraan linimasa AGI untuk batasan yang terdokumentasi dari metrik itu sendiri. Sumber: metr.org/about.
UK AI Security Institute	Diganti nama dari “AI Safety Institute” pada Februari 2025, mengalihkan fokus menuju risiko serangan siber, kejahatan siber, dan penipuan alih-alih keamanan dan etika AI yang lebih luas. Adam Beaumont, mantan chief AI officer GCHQ, adalah direktur sementara; Jade Leung adalah CTO dan juga menjabat sebagai penasihat AI Perdana Menteri Inggris.
US Center for AI Standards and Innovation (CAISI)	Sebelumnya “US AI Safety Institute,” diganti nama oleh pemerintahan Trump pada Juni 2025 untuk menghilangkan “safety” dari namanya dan mengarahkan ulang menuju pengujian keamanan nasional dan evaluasi AI komersial. Paul Christiano sempat menjabat sebagai Head of Safety di sini sebelum mengundurkan diri pada Agustus 2026—lihat di bawah. Sumber: nist.gov/caisi.
Apollo Research	Marius Hobbhahn, CEO dan salah satu pendiri; Chris Akin, COO; Charlotte Stix, Chief Governance Officer. Berspesialisasi dalam mendeteksi kelicikan (scheming) dan penyelarasan menipu—mempublikasikan, bersama OpenAI, bukti pertama kelicikan dalam-konteks pada model terdepan, dan kemudian membantu mengembangkan sebuah teknik “penyelarasan deliberatif” yang mengurangi kelicikan terukur kira-kira 30 kali lipat. Sumber: apolloresearch.ai/about.
GovAI (Centre for the Governance of AI)	Ben Garfinkel, Director sejak 2021, ketika organisasi ini menjadi sebuah nirlaba independen di bawah direktur pendiri Allan Dafoe. Riset dan sebuah jalur pipa fellowship yang terkenal ditujukan untuk membantu pemerintah dan industri menavigasi AI canggih. Sumber: governance.ai/about-us.
Center for AI Safety (CAIS)	Dan Hendrycks, Executive Director dan Founder (juga penasihat keamanan xAI berbayar-$1). Menulis pernyataan satu-kalimat Mei 2023 yang berpengaruh yang menyatakan bahwa memitigasi risiko kepunahan AI seharusnya menjadi prioritas global bersama pandemi dan perang nuklir.
LawZero	Didirikan Juni 2025 oleh Yoshua Bengio, diinkubasi di Mila. Membangun AI yang secara sengaja “non-agentik”—sebuah arsitektur “Scientist AI” tanpa agenda tersembunyi—sebagai alternatif aman-secara-bawaan untuk model terdepan yang agentik. Sumber: Wikipedia.

Fakta paling konsekuensial dalam tabel ini bukanlah pernyataan misi organisasi mana pun—melainkan seberapa banyak institut “keamanan” pemerintah telah diganti nama dan diposisikan ulang dalam delapan belas bulan terakhir. Institut Inggris menghilangkan “safety” dari namanya pada Februari 2025 demi kejahatan siber dan penipuan; institut AS melakukan hal yang sama pada Juni 2025, di bawah pemerintahan yang berbeda, dengan alasan yang dinyatakan berbeda. Tidak satu pun perubahan itu kosmetik—keduanya disertai sebuah pergeseran yang dinyatakan dalam apa yang dievaluasi institut itu. Itu meninggalkan pekerjaan evaluasi yang benar-benar independen terkonsentrasi pada sekumpulan nirlaba yang lebih kecil—METR, Apollo Research, Redwood Research, GovAI—yang pendanaan dan aksesnya tetap bergantung, dalam praktiknya, pada kesediaan laboratorium untuk bekerja sama.

Setahun terakhir Paul Christiano mengilustrasikan betapa tipisnya garis antara “evaluator pemerintah” dan “orang dalam industri”: dari menjalankan Alignment Research Center yang independen, ke peran keamanan paruh-waktu di dalam CAISI, kembali ke ARC sebagai executive director pada Agustus 2026, dan ke Safety and Security Committee dewan nirlaba OpenAI sendiri beberapa minggu kemudian. Tidak satu pun dari itu yang tidak pantas pada permukaannya, tetapi itu berarti sejumlah kecil orang bergelar sering berotasi di antara organisasi yang dimaksudkan untuk mengawasi sebuah laboratorium dan tata kelola laboratorium itu sendiri.

Peneliti bernama dan intelektual publik

Di luar organisasi-organisasi di atas, segelintir individu membentuk percakapan risiko-AGI sebagian besar berdasarkan otoritas mereka sendiri—melalui pernyataan publik, pekerjaan teknis, atau keduanya.

Peneliti	Peran saat ini	Dikenal karena
Yoshua Bengio	Full Professor, Université de Montréal; Founder dan Scientific Advisor, Mila; Co-President dan Scientific Director, LawZero	Memimpin International AI Safety Report (edisi 2026 menggambarkan kemampuan yang berakselerasi berdampingan dengan risiko yang tumbuh). Mendirikan LawZero sebagai alternatif non-agentik untuk arsitektur laboratorium terdepan.
Stuart Russell	Profesor, UC Berkeley (Smith-Zadeh Chair, EECS)	Memimpin Center for Human-Compatible AI (CHAI), yang misinya adalah AI yang “terbukti bermanfaat” melalui pembelajaran penguatan terbalik dan pendekatan teknis terkait. Terpilih ke National Academy of Engineering pada Februari 2025.
Paul Christiano	Executive Director, Alignment Research Center (ARC)	Teknik interpretabilitas mekanistik kotak-putih untuk mendeteksi ketidakselarasan. Berotasi melalui sebuah peran keamanan pemerintah dan ke komite pengawasan dewan OpenAI sendiri dalam tahun yang sama—lihat di atas.
Geoffrey Hinton	Tidak ada peran keamanan institusional formal	Peraih Nobel Fisika 2024 (bersama John Hopfield) untuk pekerjaan AI fondasional; suara publik “bapak AI” yang paling menonjol tentang risiko eksistensial. Membandingkan pengembangan AI yang tidak diatur dengan sebuah mobil tanpa setir pada sebuah konferensi 2026 di Jenewa.
Eliezer Yudkowsky	Founder, Senior Research Fellow, dan ketua dewan, MIRI	Salah satu penulis, bersama Nate Soares, buku 2025 yang berargumen hasil default dari membangun AI superhuman adalah hilangnya kendali dengan konsekuensi eksistensial.
Dan Hendrycks	Executive Director dan Founder, Center for AI Safety; penasihat keamanan xAI	Menulis pernyataan risiko-kepunahan satu-kalimat 2023 (di atas). Peran gandanya—menjalankan sebuah nirlaba keamanan independen sambil menasihati sebuah laboratorium terdepan—itu sendiri adalah sebuah fakta yang layak dipertimbangkan saat membaca pernyataan publiknya tentang keduanya.

Dua hal layak diperhatikan tentang daftar ini. Pertama, daftar ini condong ke orang-orang dengan basis institusional dalam keamanan AI secara khusus—sebuah pilihan cakupan yang disengaja; kasus terpisah yang dibuat oleh para peneliti yang meragukan AGI jangka pendek sama sekali masuk akal (Yann LeCun, Andrew Ng, Gary Marcus, dan lainnya) mendapatkan pembahasan khususnya sendiri alih-alih dimasukkan di sini. Kedua, beberapa nama di atas juga muncul dalam tabel-tabel yang lebih tinggi, dalam kapasitas yang berbeda: Bengio menjalankan LawZero, Yudkowsky memimpin dewan MIRI, Hendrycks mendirikan CAIS dan menasihati xAI. Tumpang tindih itu nyata—segelintir orang yang sama memakai berbagai topi di antara organisasi yang dimaksudkan untuk mengawasi laboratorium dan laboratorium itu sendiri.

Apa yang masih berubah saat halaman ini naik cetak

Empat fakta spesifik di atas adalah potret bertanggal dari situasi yang secara aktif berubah pada saat publikasi, ditandai di sini secara eksplisit alih-alih disajikan sebagai tuntas:

• Perombakan Google DeepMind Agustus 2026. Kepindahan Hassabis ke Chairman/Chief Scientist dan promosi Kavukcuoglu terjadi dalam enam minggu sebelum tanggal publikasi halaman ini. Jabatan dan garis pelaporan pada ketinggian ini dapat berubah lagi dengan cepat; verifikasi kepemimpinan saat ini secara langsung sebelum mengandalkan baris ini.
• Momen Amodei/Altman/Pachocki/Musk/Trump pada 6–13 September 2026. Kepemimpinan tiga laboratorium berargumen dengan cara yang berbeda-beda bahwa industri perlu melambat atau belum memecahkan penyelarasan, Musk dari xAI secara publik setuju, dan Presiden Trump menolak kekhawatiran itu keesokan harinya. Ini terbaca sebagai sebuah titik balik yang genuin, tetapi ini juga materi paling terkini dan paling belum tuntas di sini—perlakukan susunan kata yang tepat dan implikasi penuhnya sebagai sementara hingga lebih banyak media meliputnya secara independen.
• Posisi ketua UK AI Security Institute. Jabatan direktur sementara Adam Beaumont cukup terdokumentasi dengan baik; apakah sebuah peran ketua terpisah (sebelumnya dipegang oleh Ian Hogarth) saat ini ada, dan siapa yang memegangnya, tidak dapat dikonfirmasi ulang secara independen untuk 2026 dalam sumber di balik halaman ini. Konfirmasikan langsung dengan institut itu sebelum mengutip seorang ketua tertentu.
• Struktur korporat xAI. xAI telah digambarkan dalam pemberitaan 2026 sebagai dilipat ke dalam SpaceX menjelang sebuah IPO SpaceX yang direncanakan, dengan liputan menyebut entitas gabungan itu secara informal sebagai “SpaceXAI.” Ini adalah sebuah pertanyaan struktur korporat yang bergerak cepat alih-alih sebuah fakta yang tuntas; konfirmasikan hubungan hukum dan organisasional saat ini antara xAI dan SpaceX sebelum memperlakukannya sebagai tetap.

Cara menggunakan halaman ini

Perlakukan daftar ini sebagai titik awal untuk mencari tahu siapa yang sesungguhnya membuat sebuah keputusan tertentu, bukan sebagai sebuah putusan tentang kepercayaan sebuah laboratorium atau peneliti mana pun. Jabatan berubah, perusahaan direstrukturisasi, dan orang yang sama dapat memegang sebuah peran pemerintah, sebuah peran nirlaba, dan sebuah peran penasihat industri dalam delapan belas bulan yang sama—jalur Paul Christiano melalui CAISI, ARC, dan komite dewan OpenAI sendiri adalah satu contoh di atas, dan itu bukan yang terakhir. Untuk apa yang sesungguhnya dikomitmenkan laboratorium-laboratorium ini untuk dilakukan begitu sebuah model melewati ambang batas kemampuan, lihat kerangka keamanan laboratorium AI terdepan, dibandingkan. Untuk seberapa cepat kemampuan yang mendasarinya itu sendiri bergerak—dan mengapa para peramal begitu tajam tidak sepakat tentangnya—lihat prakiraan linimasa AGI: apa kata laboratorium dan survei. Dan untuk kosakata yang diasumsikan oleh seluruh daftar ini, mulailah dengan bagaimana laboratorium AI terdepan berbeda.