Infrastruktur adalah sebuah peta tata-kelola, bukan sebuah daftar target
AI terdepan bergantung pada chip canggih, peralatan manufaktur-semikonduktor, pusat data besar, layanan cloud, listrik, jaringan, dan personel terlatih. Konsentrasi itu memberi pemerintah, operator, pelanggan, dan pengembang cara-cara yang sah untuk memberlakukan persyaratan keamanan. Itu tidak membenarkan pelanggaran-masuk, sabotase, kekerasan, atau interferensi dengan daya dan komunikasi. Serangan fisik akan membahayakan pekerja dan komunitas, mengganggu layanan yang tidak terkait, menghancurkan bukti, dan kemungkinan mengurangi kemampuan masyarakat untuk mengelola sebuah insiden.
Pertanyaan yang berguna bersifat institusional: pelaku berwenang mana yang dapat membatasi sebuah aktivitas berisiko, di bawah aturan apa, dengan bukti apa, dan bagaimana keputusan itu dapat dibalik dengan aman? Jawabannya berubah di seluruh siklus hidup AI.
Empat permukaan kontrol yang seharusnya tidak dicampuradukkan
Kontrol pelatihan mengatur penciptaan atau peningkatan besar sebuah model. Sebuah proses pelatihan terdepan mungkin menggunakan sebuah klaster besar yang dapat diidentifikasi secara geografis selama berminggu-minggu atau berbulan-bulan. Ukuran-ukuran yang relevan mencakup uji-tuntas pelanggan, standar keamanan, akuntansi komputasi, evaluasi pra-penerapan, dan kondisi kontraktual atau regulasi pada proses yang sangat besar. Kontrol pelatihan bertindak sebelum sebuah model ada dalam bentuk final; menghentikan sebuah proses tidak menarik-kembali bobot sebelumnya.
Kontrol bobot-model melindungi berkas parameter yang telah dipelajari. Bobot dapat disalin, dicuri, disempurnakan, dan dijalankan di tempat lain. Keamanan mungkin mencakup akses yang didukung-perangkat-keras, pemisahan tugas, enkripsi, pemantauan, prosedur risiko-orang-dalam, dan respons insiden. Setelah bobot yang mampu dirilis secara luas, pencabutan sentral mungkin mustahil. Rilis terbuka dapat mendukung riset dan kompetisi, jadi pembatasan harus didasarkan pada risiko yang terdemonstrasi dan dipasangkan dengan akses independen jika memungkinkan.
Kontrol penerapan mengatur sebuah model atau aplikasi yang di-hosting. Sebuah operator dapat mencabut kredensial, menonaktifkan sebuah alat, me-rollback sebuah versi model, membatasi laju atau geografi, menempatkan seorang pengguna dalam sebuah tingkatan asuransi-lebih-tinggi, dan memantau penyalahgunaan. Kontrol-kontrol ini relatif presisi dan dapat dibalik. Mereka gagal, meskipun begitu, jika salinan hilir, output yang di-cache, atau bobot yang di-hosting secara independen tetap tersedia.
Kontrol inferensi mengatur komputasi yang digunakan ketika sebuah sistem menghasilkan output atau mengambil tindakan. Inferensi dapat terjadi dalam sebuah cloud sentral, sebuah lingkungan perusahaan, sebuah ponsel, atau sebuah klaster terdistribusi. Sebuah penyedia dapat membatasi inferensi yang di-hosting-nya sendiri tetapi tidak dapat secara otomatis menghentikan salinan lokal. Komputasi waktu-inferensi, izin alat, akses data, dan volume tindakan mungkin lebih penting daripada biaya pelatihan asli untuk sebuah risiko yang diterapkan.
Menyebut keempatnya sebuah “titik-cekik komputasi” menyembunyikan perbedaan-perbedaan ini. Sebuah intervensi yang sah harus menamai permukaan yang relevan dan efek yang diharapkan.
Kontrol operasional di dalam sebuah organisasi
Organisasi membutuhkan lebih dari sekadar sebuah “tombol-mati” yang dramatis. Mereka membutuhkan sebuah prosedur keadaan-aman yang terlatih. Menghentikan sebuah sistem secara mendadak dapat merusak data, mengganggu proses klinis atau industrial, mengandaskan pengguna, atau memicu default yang tidak aman. Responsnya yang benar mungkin adalah pencabutan hak istimewa, pengurangan lalu-lintas, isolasi, rollback, atau transfer ke kontrol manual alih-alih mematikan segalanya.
Sebuah rencana produksi harus mencakup:
- Inventaris: identifikasi setiap model, versi, alat, kredensial, kumpulan data, vendor, dan dependensi hilir.
- Wewenang: namai orang-orang yang dapat membatasi layanan dan definisikan kapan mereka boleh bertindak tanpa menunggu persetujuan normal.
- Hak-istimewa-paling-sedikit: beri sistem hanya data dan tindakan yang dibutuhkan untuk tugasnya; gunakan kredensial berbatas-waktu jika memungkinkan.
- Pemantauan: catat log versi model, prompt atau ringkasan-peristiwa yang aman, panggilan alat, persetujuan, output, dan perubahan konfigurasi sambil menghormati privasi.
- Penahanan: dukung isolasi cepat dari jaringan, alat, pergerakan uang, penerapan kode, atau kontrol fisik.
- Rollback: pertahankan sebuah versi yang diketahui-baik, format data yang kompatibel, dan proses pemulihan yang teruji.
- Cadangan manusia: lestarikan staf terlatih, instruksi, akses, dan kapasitas untuk menyediakan sebuah layanan esensial yang terdegradasi.
- Latihan: jalankan latihan tabletop dan teknis, catat kegagalan, dan koreksi.
Kerangka Manajemen Risiko AI NIST menyerukan tata kelola siklus-hidup, akuntabilitas, pemantauan berkelanjutan, proses kontingensi untuk kegagalan pihak-ketiga, dan dekomisioning yang aman (Inti AI RMF NIST). Itu adalah panduan sukarela, bukan sebuah sertifikasi bahwa sebuah organisasi tertentu telah mengimplementasikan praktik-praktik ini.
Pencabutan hak istimewa seringkali adalah rem tercepat
Sebuah sistem AI menjadi lebih konsekuensial ketika terhubung ke email, kode produksi, akun keuangan, alat laboratorium, sistem identitas, atau teknologi operasional. Mencabut hak istimewa itu dapat mengurangi kerugian sambil melestarikan model untuk investigasi. Akses harus disegmentasi sehingga satu keputusan dapat menonaktifkan sebuah kapabilitas berisiko tanpa meruntuhkan layanan yang tidak terkait.
Kredensial tidak boleh disematkan secara permanen dalam prompt atau berkas model. Operator harus menggunakan identitas-layanan yang berlingkup, kedaluwarsa singkat, gerbang persetujuan untuk tindakan berdampak-tinggi, dan kontrol independen yang tidak dapat dimodifikasi model. Akses break-glass membutuhkan pencatatan dan tinjauannya sendiri. Sebuah sistem seharusnya tidak dapat memberi dirinya sendiri izin yang lebih luas.
Untuk sebuah vendor eksternal, kontrak harus menjamin penangguhan yang tepat waktu, pelestarian bukti, ekspor data, dan dukungan untuk migrasi. Jika tidak, pelanggan mungkin menemukan selama sebuah insiden bahwa mereka tidak dapat memeriksa log atau membalikkan sebuah pembaruan otomatis.
Cadangan manusia adalah infrastruktur
Layanan esensial membutuhkan sebuah mode terdegradasi yang dapat dijalankan. Itu tidak berarti setiap proses dapat kembali secara instan ke kertas. Itu berarti operator memutuskan di muka fungsi mana yang harus berlanjut, pada kapasitas minimum apa, dengan staf dan komunikasi apa. Daya, air, kesehatan, keuangan, transportasi, dan tunjangan publik memiliki batasan keamanan yang berbeda.
Sebuah prosedur manual yang belum dilatih seorang karyawan pun bukan sebuah cadangan. Organisasi harus melatih staf, mempertahankan antarmuka non-AI yang diperlukan, menguji pemulihan dari cadangan offline, dan mengukur berapa lama mode terdegradasi dapat beroperasi. Vendor dan lembaga publik harus mengoordinasikan dependensi: rencana sebuah rumah sakit mungkin gagal jika penyedia identitasnya, layanan cloud-nya, dan jaringan apoteknya semua mengasumsikan yang lain tetap online.
Cybersecurity and Infrastructure Security Agency merekomendasikan perencanaan respons-insiden, pemahaman aset, segmentasi, dan praktik pemulihan untuk infrastruktur kritis (Tujuan Kinerja Keamanan-Siber CISA). Respons spesifik-AI menjadi milik di dalam, bukan di luar, program keamanan dan keamanan-siber yang mapan.
Daya-tekan pemerintah dan pelanggan
Pemerintah dapat melampirkan kondisi pada pengadaan, lisensi, hibah, akses ke sumber daya publik, dan layanan kritis yang diatur. Penyedia cloud dan pusat-data dapat melakukan uji-tuntas yang konsisten dengan hukum. Utilitas dan otoritas lokal dapat menerapkan aturan keandalan, lingkungan, penggunaan-lahan, dan perencanaan-darurat biasa tanpa mengubah kebijakan infrastruktur menjadi sebuah larangan-proksi atas semua AI.
Pelanggan memiliki daya-tekan melalui kontrak. Sebelum pembelian, wajibkan dokumentasi sistem, hasil evaluasi yang relevan dengan kasus-penggunaan, notifikasi keamanan, kontrol versi, hak audit, kerja sama insiden, portabilitas data, dan sebuah rencana keluar. Seorang pelanggan harus tahu apakah vendor boleh mengganti sebuah model baru secara diam-diam dan apakah layanan itu tetap tersedia selama rollback.
Langkah-langkah ini membutuhkan proses-hukum. Sebuah pembatasan harus memiliki dasar hukum yang terdefinisi, standar bukti, pembuat-keputusan yang bertanggung jawab, durasi, dan jalur tinjauan. Wewenang darurat mungkin diperlukan, tetapi kontrol rahasia tak terbatas mengundang penyalahgunaan.
Konsentrasi menciptakan daya-tekan dan kerapuhan
Rantai pasokan chip dan cloud yang terkonsentrasi dapat membuat pengawasan praktis, tetapi mereka juga menciptakan titik-kegagalan-tunggal, kekuatan pasar, dan kerentanan geopolitik. Desentralisasi dapat memperbaiki ketahanan dan kompetisi sambil membuat penarikan-kembali dan pengaman yang konsisten lebih sulit. Baik konsentrasi maupun keterbukaan tidak secara inheren aman.
Kebijakan harus membedakan kelangkaan yang mencerminkan rekayasa nyata dari kelangkaan yang diciptakan oleh kontrak eksklusif atau penguncian. Interoperabilitas, perencanaan multi-cloud, format insiden bersama, dan log portabel dapat mengurangi ketergantungan tanpa berpura-pura bahwa setiap beban-kerja dapat berpindah secara instan.
Kesimpulan praktis
Masyarakat mempertahankan daya-tekan yang bermakna atas AI melalui hukum, pengadaan, wewenang korporat, kontrol akses teknis, dan desain layanan yang tangguh. Tindakan yang benar jarang sebuah penutupan teatrikal. Itu adalah sebuah intervensi yang spesifik dan berwenang pada pelatihan, bobot, penerapan, atau inferensi—dikombinasikan dengan penahanan, pelestarian bukti, rollback, dan kontinuitas.
Infrastruktur menjadi protektif ketika orang tahu siapa yang boleh bertindak dan telah melatih apa yang terjadi selanjutnya. Kontrol yang sah paling kuat ketika itu cukup presisi untuk mengurangi risiko tanpa menciptakan sebuah darurat kedua.