Gunakan istilah yang presisi terlebih dahulu
“AI sumber terbuka” seringkali mendeskripsikan perilisan yang sangat berbeda. Seorang pengembang mungkin mempublikasikan bobot model sambil menahan data pelatihan, kode pelatihan, metode pemrosesan-data, detail evaluasi, atau hak luas untuk memodifikasi dan mendistribusikan ulang. Definisi perangkat lunak sumber-terbuka tidak dapat secara otomatis dipetakan ke sebuah model terlatih dengan provenans data yang buram.
Halaman ini karenanya menggunakan bobot terbuka ketika parameter numerik yang dibutuhkan untuk menjalankan dan memodifikasi sebuah model tersedia secara luas. Sebuah perilisan dapat memiliki bobot terbuka di bawah sebuah lisensi yang restriktif, atau menyediakan kode terbuka tanpa bobot. Dokumentasi dan reproduktifitas adalah dimensi yang terpisah.
Terminologi itu penting karena manfaat dan risiko bergantung pada apa yang dirilis. Peneliti tidak dapat mereproduksi pelatihan dari bobot semata, tetapi bobot masih dapat memungkinkan inferensi lokal, penyetelan-halus, dan analisis internal yang dicegah sebuah API.
Argumen untuk akses yang lebih luas
Bobot terbuka mengurangi ketergantungan pada sekumpulan kecil penyedia yang di-hosting. Pengembang dapat menjalankan model pada infrastruktur mereka sendiri, melindungi prompt yang sensitif dari sebuah layanan pihak-ketiga, mengadaptasi sistem ke bahasa dan domain lokal, dan tetap beroperasi jika seorang vendor mengubah harga atau kebijakan. Kompetisi dapat menurunkan biaya dan menyebarkan kapasitas teknis.
Peneliti dapat memeriksa aktivasi, menguji penyuntingan model, mereproduksi evaluasi, dan menyelidiki bias atau keamanan tanpa menunggu persetujuan penyedia. Masyarakat sipil dan universitas dapat mengawasi sebuah model yang pengembangnya tidak akan memberikan akses API istimewa. Penerapan lokal dapat mendukung privasi dan penggunaan yang dibatasi-konektivitas.
Keterbukaan juga dapat melestarikan pengetahuan. Sebuah layanan tertutup mungkin menghilang; sebuah perilisan bobot dapat diarsipkan dan dipelajari. Komunitas dapat membangun fitur aksesibilitas dan bahasa yang tidak menguntungkan bagi sebuah vendor besar.
Manfaat-manfaat ini tidak otomatis. Menjalankan sebuah model besar masih membutuhkan perangkat keras dan keahlian. “Demokratisasi” mungkin berarti akses bagi perusahaan yang berdana-baik alih-alih orang biasa. Seorang penyedia bobot-terbuka mungkin diuntungkan secara komersial dari kontribusi ekosistem, permintaan cloud, atau penetapan standar. Insentif-insentif itu harus diungkapkan tanpa mengabaikan manfaat publiknya.
Argumen untuk akses yang terkontrol
Begitu bobot dicerminkan secara luas, bobot itu tidak dapat ditarik-kembali secara andal. Pengguna dapat menghapus pelatihan penolakan, menyetel-halus untuk penyalahgunaan, menyembunyikan aktivitas dari sebuah monitor sentral, dan menerapkan banyak salinan. Ini terdemonstrasi, bukan hipotetis: peneliti membatalkan pelatihan keamanan Llama 2-Chat 70B dengan biaya di bawah $200 pada satu GPU menggunakan sebuah teknik penyetelan-halus yang ringan (Lermen dkk., 2023). Seorang penyedia yang di-hosting dapat membatasi-laju, memantau pola, menambal perilaku, dan mengakhiri akun; operasi lokal menghilangkan sebagian besar kontrol itu.
Risiko marjinal bergantung pada apa yang ditambahkan model itu di luar alat yang sudah ada, API tertutup, pengetahuan ahli, dan model terbuka sebelumnya. Jika sebuah kemampuan sudah tersedia secara murah di tempat lain, membatasi bobot mungkin hanya menambah sedikit keamanan. Jika bobot itu memungkinkan eksploitasi siber, bantuan biologis, penipuan, atau operasi otonom yang secara substansial lebih efektif, perilisan yang tidak dapat dibalik dapat sangat penting.
Pertanyaan yang relevan bukanlah apakah informasi dapat pernah disalahgunakan, melainkan apakah perilisan ini mengubah kemampuan, skala, biaya, atribusi, atau akses bagi aktor-aktor yang cenderung menyebabkan kerugian.
Apa yang disimpulkan tinjauan bukti AS
National Telecommunications and Information Administration meninjau 332 komentar publik dan bukti yang tersedia pada 2024. Lembaga itu menyimpulkan bahwa bukti pada saat itu tidak cukup untuk mendukung sebuah pembatasan kategoris yang segera terhadap ketersediaan bobot model yang paling luas, sambil merekomendasikan pemantauan aktif dan kapasitas pemerintah untuk merespons jika risiko berubah (NTIA, Juli 2024).
Kesimpulan itu bertanggal dan bersyarat. Kesimpulan itu tidak membuktikan bahwa perilisan terdepan di masa depan aman atau bahwa pembatasan tidak akan pernah dapat dibenarkan. NTIA adalah sebuah lembaga pemerintah yang menyeimbangkan inovasi, kompetisi, dan keamanan; banyak pengajuan berasal dari perusahaan dan pendukung yang berkepentingan. Laporannya adalah sebuah sintesis kebijakan yang kuat, bukan sebuah eksperimen yang mendemonstrasikan efek sosial bersih.
Pendekatan Uni Eropa yang terdiferensiasi
AI Act UE menyediakan beberapa pengecualian bagi model tujuan-umum gratis dan sumber-terbuka yang memenuhi syarat dari kewajiban dokumentasi tertentu, tetapi bukan sebuah pengecualian menyeluruh. Penyedia model tujuan-umum dengan risiko sistemik tetap tunduk pada kewajiban tambahan. Apakah sebuah perilisan memenuhi syarat bergantung pada kriteria hukum, termasuk akses dan pengungkapan—bukan bahasa pemasaran (panduan GPAI Komisi Eropa, 2025).
Ini mengilustrasikan tata kelola yang bertingkat-kemampuan: mendorong keterbukaan di mana risiko marjinal dapat dikelola sambil mempertahankan kewajiban untuk model risiko-sistemik. Penegakan masih menghadapi kesulitan mengevaluasi kemampuan sebelum publikasi yang tidak dapat dibalik.
Alternatif untuk pilihan biner
Akses dapat bertahap. Seorang pengembang mungkin memulai dengan evaluasi internal dan independen, kemudian menawarkan akses riset terkontrol, sebuah layanan yang di-hosting, bobot ke institusi yang telah diverifikasi di bawah kondisi keamanan, dan akhirnya perilisan publik jika bukti mendukungnya. Penundaan dapat memungkinkan pembela menambal kerentanan dan regulator bersiap.
Akses terstruktur dapat mempertahankan sebagian manfaat riset sambil membatasi proliferasi, tetapi ini menciptakan penjaga-gerbang yang mungkin mengeksklusi kritikus atau pesaing. Kriteria seleksi, aturan konflik, banding, hak publikasi, dan pengawasan itu perlu. Sebuah program “peneliti tepercaya” yang dikontrol semata-mata oleh pengembang model bukanlah transparansi independen.
Opsi lain mencakup merilis model yang lebih kecil atau distilasi, mempublikasikan kode dan evaluasi terperinci tanpa bobot terdepan, menyediakan enklave yang aman untuk analisis, atau menggunakan lisensi yang melarang beberapa perilaku. Lisensi memengaruhi pengguna yang taat-hukum tetapi merupakan penghalang teknis yang lemah terhadap aktor jahat.
Bagaimana membuat keputusan perilisan
Sebuah penilaian perilisan yang serius harus membandingkan:
- kemampuan berbahaya terhadap alternatif terbuka dan tertutup yang sudah ada;
- komputasi dan keahlian yang dibutuhkan untuk menghapus pengaman atau menyetel-halus;
- manfaat yang secara unik membutuhkan bobot alih-alih akses API;
- keamanan bobot yang belum dirilis dan risiko pencurian;
- kemampuan memantau penyalahgunaan setelah perilisan;
- kelompok yang terdampak, termasuk peneliti di luar negara-negara kaya;
- keterbalikan dan opsi akses-bertahap;
- dokumentasi model, hak lisensi, dan provenans data.
Evaluasi harus mencakup bantuan siber, kimia, dan biologis, persuasi, replikasi otonom, privasi, dan diskriminasi atau penipuan biasa jika relevan. Sebuah ambang batas tolok ukur tidaklah memadai jika ia gagal merepresentasikan alur kerja nyata.
Keamanan melalui ketidakjelasan bukanlah satu-satunya isu
Kritikus sistem tertutup mencatat bahwa menahan bobot dapat menyembunyikan kerentanan dan memusatkan kepercayaan. Kritikus keterbukaan mencatat bahwa mempublikasikan sebuah kemampuan yang relevan-senjata tidak setara dengan mengungkapkan sebuah bug perangkat lunak secara bertanggung jawab. Kedua observasi itu dapat benar.
Pengungkapan yang bertanggung jawab biasanya memberi para pembela terdampak waktu untuk bertindak. Untuk beberapa model, pengawasan luas mungkin menghasilkan lebih banyak pertahanan daripada kerugian; untuk yang lain, akses yang meluas mungkin menciptakan sebuah bahaya yang tidak dapat dibalik sebelum mitigasi ada. Bukti tentang risiko marjinal dan kesiapan respons harus menentukan urutannya.
AGI mengubah taruhannya tetapi tidak mengubah kebutuhan akan bukti
Tidak ada model terbuka yang telah dibuktikan sebagai AGI di bawah sebuah pengujian yang disepakati. Klaim tentang merilis bobot AGI adalah analisis skenario. Jika sebuah model dapat secara otonom melakukan riset tingkat-tinggi, mengeksploitasi sistem, memperoleh sumber daya, atau memperbaiki penerusnya, menyalinnya dapat secara tajam mengurangi pengungkungan. Sebaliknya, menempatkan kemampuan itu di bawah kontrol korporat atau negara yang eksklusif dapat menciptakan risiko konsentrasi dan penyalahgunaan yang mendalam.
Inilah mengapa slogan gagal. “Terbuka selalu lebih aman” mengabaikan ketidakterbalikan; “tertutup selalu lebih aman” mengabaikan konsentrasi, pencurian, dan kurangnya pengawasan. Kebijakan masa depan harus mendefinisikan kondisi kemampuan dan akses, bukan mengatur sebuah kategori merek.
Sebuah posisi yang seimbang
Untuk model berisiko-lebih-rendah saat ini, keterbukaan dapat memberikan manfaat kompetisi, riset, ketahanan, privasi, dan inklusi yang substansial. Untuk model yang semakin mampu, perilisan bertahap dan evaluasi berbasis-bukti menjadi lebih penting. Pembatasan harus mendemonstrasikan sebuah risiko marjinal yang spesifik, menawarkan proses hukum yang layak, dan ditinjau kembali; keputusan perilisan harus mendemonstrasikan mengapa akses yang tidak dapat dibalik itu dibenarkan.
Perdebatan ini bukanlah sebuah pilihan antara kebebasan dan keamanan. Ini adalah sebuah masalah desain yang melibatkan kemampuan, akses, konsentrasi, akuntabilitas, dan keterbalikan. Terminologi yang presisi dan bukti yang transparan membuat masalah itu dapat dikelola.