Altyapı bir hedef listesi değil, bir yönetişim haritasıdır
Öncü yapay zekâ, ileri çiplere, yarı iletken üretim ekipmanına, büyük veri merkezlerine, bulut hizmetlerine, elektriğe, ağ oluşturmaya ve eğitimli personele bağımlıdır. Bu yoğunlaşma, hükümetlere, operatörlere, müşterilere ve geliştiricilere güvenlik gereksinimlerini dayatmanın yasal yollarını verir. Bu, izinsiz girişi, sabotajı, şiddeti veya güç ve iletişime müdahaleyi haklı çıkarmıyor. Fiziksel saldırılar işçileri ve toplulukları tehlikeye atar, ilgisiz hizmetleri kesintiye uğratır, kanıtı yok eder ve muhtemelen toplumun bir olayı yönetme yeteneğini azaltır.
Yararlı soru kurumsaldır: hangi yetkili aktör riskli bir faaliyeti hangi kural altında, hangi kanıtla sınırlayabilir, ve karar nasıl güvenli bir şekilde geri döndürülebilir? Cevap yapay zekâ yaşam döngüsü boyunca değişir.
Karıştırılmaması gereken dört kontrol yüzeyi
Eğitim kontrolleri, bir modelin oluşturulmasını veya büyük iyileştirilmesini yönetir. Öncü bir eğitim koşusu, haftalarca veya aylarca büyük, coğrafi olarak tanımlanabilir bir küme kullanabilir. İlgili önlemler müşteri durum tespitini, güvenlik standartlarını, hesaplama muhasebesini, dağıtım öncesi değerlendirmeleri ve olağanüstü büyük koşullar üzerindeki sözleşmesel veya düzenleyici koşulları içerir. Eğitim kontrolleri, bir model nihai biçiminde var olmadan önce hareket eder; bir koşuyu durdurmak daha önceki ağırlıkları geri çağırmaz.
Model ağırlığı kontrolleri, öğrenilmiş parametre dosyalarını korur. Ağırlıklar kopyalanabilir, çalınabilir, ince ayar yapılabilir ve başka yerde çalıştırılabilir. Güvenlik, donanım destekli erişimi, görev ayrımını, şifrelemeyi, izlemeyi, içeriden risk prosedürlerini ve olay tepkisini içerebilir. Yetenekli ağırlıklar geniş çapta serbest bırakıldığında, merkezi iptal imkânsız olabilir. Açık serbest bırakma araştırmayı ve rekabeti destekleyebilir, bu yüzden kısıtlamalar gösterilmiş riske dayanmalı ve mümkün olduğunda bağımsız erişimle eşleştirilmeli.
Dağıtım kontrolleri, barındırılan bir modeli veya uygulamayı yönetir. Bir operatör kimlik bilgilerini iptal edebilir, bir aracı devre dışı bırakabilir, bir model sürümünü geri alabilir, hızı veya coğrafyayı sınırlayabilir, bir kullanıcıyı daha yüksek güvenceli bir katmana yerleştirebilir ve suistimali izleyebilir. Bu kontroller nispeten kesin ve geri döndürülebilir. Ancak, alt akış kopyaları, önbelleğe alınmış çıktılar veya bağımsız olarak barındırılan ağırlıklar mevcut kalırsa başarısız olurlar.
Çıkarım kontrolleri, bir sistem çıktı ürettiğinde veya eylemler aldığında kullanılan hesaplamayı yönetir. Çıkarım merkezi bir bulutta, kurumsal bir ortamda, bir telefonda veya dağıtılmış bir kümede gerçekleşebilir. Bir sağlayıcı kendi barındırılan çıkarımını kısıtlayabilir ama yerel kopyaları otomatik olarak durduramaz. Çıkarım zamanı hesaplama, araç izinleri, veri erişimi ve eylem hacmi, dağıtılmış bir risk için orijinal eğitim maliyetinden daha önemli olabilir.
Dördünü de bir “hesaplama darboğazı” olarak adlandırmak bu farkları gizler. Yasal bir müdahale, ilgili yüzeyi ve beklenen etkiyi belirtmeli.
Bir kuruluş içindeki operasyonel kontrol
Kuruluşların dramatik bir “kapatma düğmesinden” daha fazlasına ihtiyacı var. Pratik bir güvenli durum prosedürüne ihtiyaçları var. Bir sistemi aniden sonlandırmak veriyi bozabilir, klinik veya endüstriyel süreçleri kesintiye uğratabilir, kullanıcıları mahsur bırakabilir veya güvensiz varsayılanları tetikleyebilir. Doğru tepki, her şeyi kapatmak yerine ayrıcalık iptali, trafik azaltma, izolasyon, geri alma veya manuel kontrole aktarım olabilir.
Bir üretim planı şunları içermeli:
- Envanter: her modeli, sürümü, aracı, kimlik bilgisini, veri kümesini, satıcıyı ve alt akış bağımlılığını belirleyin.
- Yetki: hizmeti kısıtlayabilecek insanları adlandırın ve normal onayı beklemeden ne zaman harekete geçebileceklerini tanımlayın.
- En az ayrıcalık: sisteme yalnızca görevi için gereken veriyi ve eylemleri verin; mümkün olduğunda süreli kimlik bilgileri kullanın.
- İzleme: gizliliğe saygı gösterirken model sürümlerini, istemleri veya güvenli olay özetlerini, araç çağrılarını, onayları, çıktıları ve yapılandırma değişikliklerini kaydedin.
- Kontrol altına alma: ağlardan, araçlardan, para hareketinden, kod dağıtımından veya fiziksel kontrollerden hızlı izolasyonu destekleyin.
- Geri alma: bilinen iyi bir sürümü, uyumlu bir veri formatını ve test edilmiş bir onarım sürecini koruyun.
- İnsan yedeği: eğitimli personeli, talimatları, erişimi ve düşürülmüş bir temel hizmet sağlama kapasitesini koruyun.
- Tatbikat: masa üstü ve teknik tatbikatlar yapın, başarısızlıkları kaydedin ve düzeltin.
NIST’in Yapay Zekâ Risk Yönetimi Çerçevesi, yaşam döngüsü yönetişimi, hesap verebilirlik, sürekli izleme, üçüncü taraf başarısızlıkları için acil durum süreçleri ve güvenli hizmetten çekme çağrısında bulunuyor (NIST AI RMF Çekirdeği). Bu gönüllü bir rehberliktir, belirli bir kuruluşun bu uygulamaları hayata geçirdiğinin bir sertifikası değil.
Ayrıcalık iptali genellikle en hızlı frendir
Bir yapay zekâ sistemi, e-postaya, üretim koduna, finansal hesaplara, laboratuvar araçlarına, kimlik sistemlerine veya operasyonel teknolojiye bağlandığında daha sonuçlu hâle gelir. Bu ayrıcalıkları iptal etmek, modeli araştırma için korurken zararı azaltabilir. Erişim, bir kararın ilgisiz hizmetleri çökertmeden riskli bir yeteneği devre dışı bırakabilmesi için bölümlere ayrılmalı.
Kimlik bilgileri kalıcı olarak istemlere veya model dosyalarına gömülmemeli. Operatörler kapsam belirlenmiş hizmet kimlikleri, kısa süre sonu, yüksek etkili eylemler için onay kapıları ve modelin değiştiremeyeceği bağımsız kontroller kullanmalı. Acil durum erişiminin kendi günlüklemesi ve incelemesi olmalı. Bir sistem kendisine daha geniş izinler veremez olmalı.
Harici bir satıcı için, sözleşmeler zamanında askıya almayı, kanıt korumasını, veri ihracını ve geçiş desteğini garanti etmeli. Aksi takdirde müşteri bir olay sırasında günlükleri inceleyemediğini veya otomatik bir güncellemeyi geri alamayacağını keşfedebilir.
İnsan yedeği altyapıdır
Temel hizmetlerin işlevsel bir düşürülmüş moda ihtiyacı var. Bu, her sürecin anında kâğıda dönebileceği anlamına gelmiyor. Operatörlerin hangi işlevlerin, hangi minimum kapasitede, hangi personel ve iletişimle devam etmesi gerektiğine önceden karar vermesi anlamına geliyor. Güç, su, sağlık, finans, ulaşım ve kamu yardımlarının farklı güvenlik kısıtlamaları var.
Hiçbir çalışanın uygulamadığı manuel bir prosedür bir yedek değildir. Kuruluşlar personeli eğitmeli, gerekli yapay zekâ olmayan arayüzleri korumalı, çevrimdışı yedeklerden onarımı test etmeli ve düşürülmüş modun ne kadar süre çalışabileceğini ölçmeli. Satıcılar ve kamu kurumları bağımlılıkları koordine etmeli: bir hastanenin planı, kimlik sağlayıcısı, bulut hizmeti ve eczane ağı diğerlerinin çevrimiçi kaldığını varsayarsa başarısız olabilir.
Siber Güvenlik ve Altyapı Güvenliği Ajansı, kritik altyapı için olay tepki planlaması, varlık anlayışı, segmentasyon ve kurtarma uygulamaları öneriyor (CISA Siber Güvenlik Performans Hedefleri). Yapay zekâya özgü tepki, yerleşik güvenlik ve siber güvenlik programlarının dışında değil, içinde yer alır.
Hükümet ve müşteri kaldıracı
Hükümetler satın almaya, lisanslara, hibelere, kamu kaynaklarına erişime ve düzenlenmiş kritik hizmetlere koşullar ekleyebilir. Bulut ve veri merkezi sağlayıcıları hukukla tutarlı durum tespiti yürütebilir. Kamu hizmetleri ve yerel otoriteler, altyapı politikasını tüm yapay zekâya karşı bir vekil yasağa dönüştürmeden sıradan güvenilirlik, çevre, arazi kullanımı ve acil durum planlaması kurallarını uygulayabilir.
Müşterilerin sözleşmeler yoluyla kaldıracı var. Satın almadan önce, sistem belgelemesi, kullanım durumuyla ilgili değerlendirme sonuçları, güvenlik bildirimi, sürüm kontrolü, denetim hakları, olay işbirliği, veri taşınabilirliği ve bir çıkış planı gerektirin. Bir müşteri, satıcının yeni bir modeli sessizce değiştirip değiştiremeyeceğini ve geri alma sırasında hizmetin mevcut kalıp kalmadığını bilmeli.
Bu önlemlerin usul güvencesine ihtiyacı var. Bir kısıtlamanın tanımlanmış bir yasal dayanağı, kanıt standardı, hesap verebilir bir karar vericisi, süresi ve inceleme yolu olmalı. Acil durum yetkisi gerekli olabilir, ama süresiz gizli kontrol suistimale davetiye çıkarır.
Yoğunlaşma kaldıraç ve kırılganlık yaratır
Yoğunlaşmış çip ve bulut tedarik zincirleri denetimi pratik hâle getirebilir, ama aynı zamanda tek başarısızlık noktaları, pazar gücü ve jeopolitik savunmasızlık yaratır. Merkezsizleştirme, geri çağırmayı ve tutarlı güvenceleri zorlaştırırken dayanıklılığı ve rekabeti iyileştirebilir. Ne yoğunlaşma ne de açıklık doğası gereği güvenlidir.
Politika, gerçek mühendisliği yansıtan kıtlığı münhasır sözleşmeler veya kilitlenme tarafından yaratılan kıtlıktan ayırt etmeli. Birlikte çalışabilirlik, çoklu bulut planlaması, ortak olay formatları ve taşınabilir günlükler, her iş yükünün anında taşınabileceğini varsaymadan bağımlılığı azaltabilir.
Pratik sonuç
Toplum, hukuk, satın alma, kurumsal yetki, teknik erişim kontrolü ve dayanıklı hizmet tasarımı yoluyla yapay zekâ üzerinde anlamlı kaldıracı korur. Doğru eylem nadiren teatral bir kapatmadır. Eğitimde, ağırlıklarda, dağıtımda veya çıkarımda — kontrol altına alma, kanıt koruması, geri alma ve süreklilikle birleştirilmiş — spesifik, yetkili bir müdahaledir.
Altyapı, insanlar kimin harekete geçebileceğini bildiğinde ve sırada ne olacağını prova ettiğinde koruyucu hâle gelir. Yasal kontrol, ikinci bir acil durum yaratmadan riski azaltacak kadar kesin olduğunda en güçlüdür.