07 Mekanisme
Mekanisme di balik hasil terburuk
Bab 02 membahas mekanisme hilangnya kendali secara umum. Bab ini adalah daftar jalur spesifik dan bernama yang benar-benar dipelajari para peneliti — karena intervensi yang mencegah satu jalur belum tentu mencegah jalur lainnya.
Mengapa ini bukan satu skenario
«AI bisa membunuh semua orang» memampatkan beberapa mode kegagalan yang secara struktural berbeda menjadi satu gambaran tunggal. Pemampatan itu berguna untuk judul berita dan tidak berguna untuk pencegahan, karena intervensi teknis dan kebijakan yang mengatasi satu mekanisme mungkin tidak banyak berpengaruh pada mekanisme lain — kontrol pada satu pelatihan besar, misalnya, tidak dengan sendirinya mencegah penyalahgunaan model yang sudah diterapkan. Lebih dari 350 peneliti dan eksekutif, termasuk orang-orang yang berafiliasi dengan beberapa laboratorium besar, menandatangani pernyataan satu kalimat pada tahun 2023 yang mendesak pembuat kebijakan untuk memperlakukan risiko kepunahan sebagai prioritas global. Pernyataan itu mencatat posisi yang dipegang oleh para penanda tangan terkemuka; ia tidak mengukur probabilitas bahaya:
Signatories to the Statement on AI Risk hold that mitigating the risk of extinction from AI should be a global priority alongside pandemics and nuclear war.
safe.ai, Signed statement
Tiga keluarga besar
Laporan Keselamatan AI Internasional 2026 menggunakan tiga keluarga besar. Penyalahgunaan berbahaya adalah manusia yang secara sengaja mengarahkan kemampuan AI menuju bahaya massal — pandemi rekayasa, serangan infrastruktur, atau senjata otonom. Malfungsi mencakup kegagalan keandalan dan skenario hilangnya kendali prospektif di mana sistem beroperasi di luar kendali siapa pun. Risiko sistemik muncul melalui penerapan yang meluas dan interaksi institusional, termasuk konsentrasi, disrupsi tenaga kerja, dan hilangnya kekuatan manusia secara bertahap. Kategori-kategori ini dapat tumpang tindih, dan kekuatan bukti berbeda antar mekanisme. Ketua laporan tersebut secara publik menekankan hilangnya kendali:
Yoshua Bengio warned that future systems exhibiting self-preservation behavior could create a loss-of-control risk.
AFP, via TechXplore, Secondary coverage
Geoffrey Hinton juga telah memberikan perkiraan probabilitas pribadi. Ini adalah penilaian ahli di bawah ketidakpastian, bukan frekuensi yang terukur:
Geoffrey Hinton said in a December 2024 BBC interview that he put the chance of AI causing human extinction within thirty years at 10–20%.
BBC Radio 4, reported by The Guardian, Secondary coverage
Apa yang tidak dilakukan bab ini
Setiap halaman membedakan bukti terdokumentasi dari perkiraan dan teori sambil menyebutkan mitigasi yang diajukan para peneliti. Tidak ada satu pun yang menjelaskan rincian sintesis, eksploit, atau serangan — informasi tersebut tidak akan membuat pembaca lebih aman, dan mempublikasikannya bukan yang dibutuhkan oleh persiapan yang terinformasi. Lihat standar sumber untuk mengetahui bagaimana klaim yang konsekuensial diklasifikasikan dan ditinjau.