Bantuan, otomatisasi, dan penyempurnaan rekursif adalah klaim yang berbeda
Sistem AI sudah membantu pekerjaan perangkat lunak dan pembelajaran mesin. Sistem ini menghasilkan kode, mencari literatur, menganalisis eksperimen, mengusulkan pengujian, dan membantu proses debug. Mengotomatisasi sebagian riset AI dapat memperpendek siklus pengembangan. Tidak satu pun dari itu, dengan sendirinya, membuktikan penyempurnaan diri rekursif (recursive self-improvement): sebuah gelung di mana sistem AI secara substansial menyempurnakan proses yang menciptakan penerusnya, penerus-penerus itu menyempurnakannya lebih jauh, dan pertumbuhan kemampuan berakselerasi melampaui kendali manusia.
Analisis yang jernih memisahkan tiga tingkatan:
- Bantuan riset: orang menggunakan alat AI sambil tetap memegang rencana, penilaian, dan pekerjaan integrasi.
- Otomatisasi alur kerja: sebuah agen menyelesaikan tugas riset atau rekayasa yang terbatas dengan intervensi minim.
- Otomatisasi litbang AI dari ujung ke ujung: sistem melakukan sebagian besar pekerjaan yang diperlukan untuk menghasilkan kemajuan algoritmik penting dan mengintegrasikannya ke dalam sistem yang lebih baik.
Hanya tingkat ketiga yang menciptakan argumen gelung umpan balik terkuat, dan bahkan pada tingkat itu pun perangkat keras, eksperimen, organisasi, dan keputusan penerapan dapat membatasi kecepatannya.
Kemampuan pengkodean yang teramati
Pengkodean adalah salah satu domain terkuat saat ini. Agen publik dapat memperbaiki masalah repositori tertentu dan menghasilkan program yang berfungsi. Namun tolok ukur seringkali menyediakan masalah yang bersih, pengujian, alat, dan titik akhir yang dapat dinilai secara otomatis. Pengembangan yang matang melibatkan konteks yang tidak terdokumentasi, koordinasi, penilaian produk, keamanan, dan pemeliharaan.
Studi acak METR terhadap 16 pengembang sumber terbuka berpengalaman yang menyelesaikan 246 tugas di repositori yang mereka kenal dengan baik menemukan bahwa alat AI awal 2025 justru meningkatkan waktu penyelesaian sebesar 19 persen, meskipun para pengembang meyakini bahwa alat-alat itu membuat mereka lebih cepat (studi produktivitas pengembang METR). Ini adalah hasil yang sempit dan sudah agak lama—bukan bukti bahwa alat yang lebih baru atau pengembang lain lebih lambat. Hasil ini menunjukkan mengapa keuntungan tolok ukur tidak dapat langsung dikonversi menjadi akselerasi ekonomi.
METR memulai studi lanjutan yang lebih besar dan mengubah desainnya pada 2026 seiring berkembangnya alat dan penggunaan (pembaruan uplift METR). Produktivitas nyata bergantung pada beban tinjauan, pemilihan tugas, keakraban pengembang, antarmuka agen, dan kesalahan yang lolos pengujian.
Bukti dari tolok ukur riset AI
RE-Bench menempatkan agen dan pakar manusia dalam tujuh lingkungan rekayasa riset pembelajaran mesin yang terbuka. Dalam studi aslinya, agen terbaik mencetak skor sekitar empat kali lebih tinggi daripada manusia dengan anggaran waktu dua jam. Manusia meningkat lebih banyak dengan waktu tambahan, sedikit mengungguli agen pada delapan jam, dan mencapai sekitar dua kali skor agen selama 32 jam (makalah RE-Bench).
Hasil itu menunjukkan eksperimentasi horizon-pendek yang kuat: agen dapat menghasilkan dan menguji banyak solusi kandidat dengan cepat dan terkadang menghasilkan pekerjaan optimisasi yang sangat baik. Hasil itu juga menunjukkan keterbatasan: agen bisa terjebak, gagal menyesuaikan ulang arah, atau memperoleh lebih sedikit manfaat dari anggaran waktu yang lebih panjang. Tujuh tugas tidak dapat mewakili keseluruhan distribusi riset, dan pengambilan sampel berulang tidaklah sama dengan satu ilmuwan yang gigih bekerja terus-menerus.
Evaluasi lain mencakup bagian-bagian lain dari alur kerja. PaperBench milik OpenAI meminta agen untuk mereplikasi hasil dari 20 makalah ICML berdasarkan deskripsinya dan menjalankan eksperimen (PaperBench). MLE-bench mengevaluasi rekayasa pembelajaran mesin melalui kompetisi bergaya Kaggle (MLE-bench). Tolok ukur ini mengukur keterampilan yang berarti tetapi tidak membuktikan pembentukan teori orisinal, penyusunan agenda, manajemen laboratorium, tinjauan sejawat, atau penerapan yang aman.
Apa yang dilaporkan para pengembang
Laboratorium terdepan kini memperlakukan otomatisasi litbang sebagai ambang batas risiko. Laporan Risiko Anthropic Februari 2026 menyatakan bahwa Claude Opus 4.6 tidak berada pada atau sangat mendekati otomatisasi penuh atas aktivitas yang dibutuhkan untuk litbang di domain-domain kunci, sambil memperingatkan bahwa otomatisasi parsial pun tetap dapat mempercepat kemajuan (Laporan Risiko Anthropic). Ini adalah penilaian mandiri dari sebuah pengembang, dengan bagian yang disunting dan potensi konflik kepentingan.
Anthropic merevisi lagi ambang batas litbang otomatisnya dalam Kebijakan Penskalaan Bertanggung Jawab (Responsible Scaling Policy) versi 3.4 pada Juli 2026, menggambarkan bahwa objek yang sedang diukur belum tuntas ditetapkan (arsip RSP Anthropic). Ambang batas perusahaan dapat memandu tindakan internal, tetapi tidak boleh diperlakukan sebagai konsensus ilmiah.
Pada Agustus 2026, para peneliti Anthropic melaporkan eksperimen di mana agen riset otomatis menemukan mitigasi untuk kegagalan penyelarasan (alignment) tertentu (laporan peneliti otomatis Anthropic). Itu adalah bukti yang menggembirakan bahwa riset yang dipercepat AI dapat memperkuat keamanan. Ini juga merupakan riset pihak pertama pada tugas yang dikonstruksi, bukan bukti ilmu penyelarasan otomatis yang komprehensif.
Argumen gelung umpan balik
Gelung sederhana memiliki empat langkah: menerapkan AI untuk meriset AI; memperoleh penyempurnaan algoritmik atau rekayasa; melatih atau mengonfigurasi sistem yang lebih baik; menggunakan sistem itu untuk menghasilkan penyempurnaan lebih lanjut. Akselerasi bergantung pada hasil perkalian dari beberapa faktor, bukan sekadar keberadaan gelung itu sendiri.
Cakupan riset: Berapa banyak dari pekerjaan yang relevan yang dapat dilakukan agen? Bantuan pengkodean memiliki nilai, tetapi manusia mungkin tetap menjadi penghambat dalam pemilihan masalah, evaluasi, perangkat keras, data, manajemen, dan keamanan.
Ukuran penyempurnaan: Sebagian besar eksperimen gagal atau memberikan keuntungan kecil. Sebuah agen harus menghasilkan inovasi yang secara material menyempurnakan sistem berikutnya, bukan hanya mengoptimalkan tolok ukur.
Waktu siklus: Pelatihan, fabrikasi chip, pembangunan pusat data, evaluasi, dan penerapan dapat memakan waktu jauh lebih lama daripada menulis kode. Riset yang lebih baik tidak dapat secara instan memproduksi daya komputasi.
Investasi ulang: Organisasi harus memilih untuk menerapkan keuntungan pada kemampuan lebih lanjut. Mereka mungkin justru mengalokasikannya pada biaya, keandalan, produk, atau keamanan.
Imbal hasil yang menurun: Penemuan mungkin menjadi lebih sulit seiring habisnya penyempurnaan yang mudah. Sebuah gelung dapat terus berjalan tanpa berakselerasi secara eksplosif.
Verifikasi: Riset yang tidak andal menciptakan biaya tinjauan dan replikasi. Jika sistem dapat memanipulasi evaluasi, keluaran yang lebih cepat justru dapat memperlambat kemajuan yang dapat dipercaya.
Penyempurnaan rekursif karena itu adalah skenario bersyarat. Ini bukan ekstrapolasi langsung dari laju penghasilan kode.
Perangkat lunak dapat bergerak lebih cepat daripada perangkat keras
Efisiensi algoritmik, resep pelatihan, kurasi data, metode inferensi, kompilator, dan perancah agen dapat disempurnakan dalam batas perangkat keras yang ada. Keuntungan “perangkat lunak” ini dapat menyebar dengan cepat dan meningkatkan kemampuan per chip. AI dapat membantu menelusuri ruang-ruang ini, menciptakan saluran umpan balik positif yang genuin.
Namun model terdepan tetap bergantung pada energi, chip, jaringan, memori, fasilitas, dan rantai pasokan. Sebuah sistem tidak dapat secara rekursif menyunting jalan keluarnya dari setiap kendala fisik. Ia mungkin menyempurnakan cara sumber daya digunakan atau membantu merancang perangkat keras, sementara fabrikasi dan konstruksi tetap memiliki waktu tunggu yang nyata.
Jalur tercepat karena itu mungkin adalah ledakan penyempurnaan perangkat lunak dan proses yang kemudian diikuti oleh batasan fisik atau organisasional—bukan eksponensial yang mulus selamanya. Lintasan lain tetap mungkin terjadi; bukti yang tersedia belum dapat memilih satu dengan yakin.
Mengapa gelung ini bisa meningkatkan risiko
Siklus kemampuan yang cepat dapat melampaui laju evaluasi, regulasi, dan pembelajaran institusional. Jika agen riset internal memiliki akses ke bobot model, infrastruktur pelatihan, penerapan kode, dan evaluasi sensitif, sebuah kesalahan atau penyalahgunaan berbahaya memiliki jangkauan yang lebih luas. Tekanan kompetitif dapat mendorong pengembang untuk menggunakan otomatisasi sebelum pemantauan menjadi matang.
Gelung ini juga dapat memusatkan kekuasaan. Organisasi dengan daya komputasi dan sistem riset otomatis mungkin melaju lebih jauh ke depan, menarik lebih banyak modal dan talenta. Sebaliknya, algoritma yang efisien mungkin menyebar dan mengurangi pemusatan. Efek-efek yang berlawanan ini harus dimodelkan, bukan diasumsikan begitu saja.
Mengapa gelung ini bisa meningkatkan keamanan
AI dapat mencari kerentanan, menghasilkan pengujian, menganalisis insiden, menyempurnakan alat interpretabilitas, dan mengotomatisasi verifikasi rutin. Riset keamanan dapat memperoleh manfaat dari skala dan iterasi yang sama. Pertanyaan tata kelola yang krusial adalah apakah kapasitas keamanan tumbuh sebelum dan berdampingan dengan kemampuan—bukan apakah bantuan riset AI secara inheren berbahaya.
Kendali yang tersedia mencakup lingkungan riset yang disandboxing, kumpulan evaluasi yang dilindungi, akses hak istimewa terendah, pemantauan independen, integrasi bertahap, eksperimen yang dapat direproduksi, dan persetujuan manusia sebelum perubahan mencapai pelatihan atau penerapan. Agen riset seharusnya tidak dapat mengubah evaluatornya sendiri, kredensialnya, atau sistem produksi.
Organisasi dapat mengukur akselerasi kemampuan sekaligus keamanan: jam kerja peneliti yang dihemat, penemuan yang tervalidasi, eksperimen gagal yang tertangkap, beban tinjauan, tingkat insiden, dan waktu yang dibutuhkan untuk reproduksi independen.
Bukti yang akan mengubah penilaian ini
Bukti yang lebih kuat untuk gelung umpan balik yang cepat akan mencakup agen yang menghasilkan kemajuan algoritmik yang baru dan penting di berbagai domain; replikasi independen; keberhasilan yang bertahan lama pada proyek panjang; berkurangnya waktu siklus dari ujung ke ujung; dan sistem-sistem berturut-turut yang secara terukur menyempurnakan agen riset tanpa pertumbuhan setara dalam pekerjaan manusia.
Bukti yang menentang akselerasi eksplosif dalam jangka pendek akan mencakup ketergantungan yang persisten pada penyusunan agenda manusia, imbal hasil yang menurun dengan cepat, biaya verifikasi yang tinggi, ketidakmampuan menjalankan proyek panjang, serta hambatan keras pada daya komputasi atau eksperimen.
Kesimpulan praktis
Riset AI yang dipercepat AI sudah nyata pada tingkat bantuan dan otomatisasi terbatas yang terpilih. Tolok ukur menunjukkan rekayasa riset horizon-pendek yang luar biasa, sementara studi produktivitas dunia nyata dan anggaran waktu yang lebih panjang mengungkap kesenjangan penting. Tidak ada bukti publik per 13 September 2026 yang menunjukkan litbang AI otonom dari ujung ke ujung atau gelung penyempurnaan rekursif yang tak terkendali.
Respons yang tepat bukanlah penolakan maupun keniscayaan. Lacak setiap hambatan, uji sistem riset yang diterapkan, lindungi alat dan evaluatornya, dan buat asumsi tentang cakupan, ukuran penyempurnaan, waktu siklus, dan investasi ulang menjadi eksplisit.