Acil sorun karar desteği, robot bir fırlatma düğmesi değil
Kamuoyu tartışması genellikle bağımsız olarak nükleer silah fırlatmaya karar veren bir yapay zekâyı hayal ediyor. Daha yakın ve daha geniş endişe, yapay zekânın istihbarat, uyarı, iletişim, lojistik, siber savunma, hedefleme ve nükleer bir liderin bilgisini ve zamanını şekillendiren konvansiyonel askeri operasyonlara girmesidir.
Bir öneri sisteminin önemli olması için fırlatma yetkisine ihtiyacı yoktur. Uyarıları sıralayabilir, düşman niyetini tahmin edebilir, hedefleri belirleyebilir veya kuvvetlerin saldırı altında olup olmadığı konusunda tavsiye verebilir. Liderler kısa bir kriz sırasında opak çıktıları otoriter olarak ele alırsa, bir model hatası veya manipüle edilmiş bir girdi geri döndürülemez bir insan kararını etkileyebilir.
Gerçek nükleer komuta-ve-kontrol entegrasyonu hakkındaki kanıt gizlilikle sınırlıdır. Bu makale bu nedenle kamuoyu taahhütlerini, gözlemlenen genel askeri benimsemeyi ve makul tırmanma mekanizmalarını ayırt eder. Herhangi bir devletin nükleer fırlatmayı yapay zekâya devrettiğini iddia etmez.
Mevcut kamu doktrini ne diyor
Amerika Birleşik Devletleri, 2022 tarihli Nükleer Duruş Değerlendirmesinde, nükleer silahları başlatma veya sonlandırma başkanlık kararlarını bilgilendirmek ve yürütmek için kritik eylemlerde bir insanın “döngüde” kalacağını belirtti. Savunma Bakanlığı bu taahhüdü 2023’te kamuoyu önünde tekrarladı (DoD açıklamaları).
Bu ifade, kararı bilgilendirmede kritik eylemleri kapsadığı için yalnızca nihai fırlatma yetkilendirmesini korumaktan daha güçlüdür. Yine de tek bir devletin kamuoyu taahhüdüdür ve uygulamaya bağlıdır. “İnsan döngüde” ifadesi, insanın ne kadar zamana, bağımsız kanıta, uzmanlığa veya pratik özgürlüğe sahip olduğunu göstermez.
SIPRI, 2025’te nükleer silaha sahip devletlerin ancak yarısından biraz fazlasının nükleer-kullanım kararları üzerinde insan kontrolünü sürdürme niyetini açıkça belirttiğini bildirdi (SIPRI tırmanma çalışması). Bir kamuoyu açıklamasının yokluğu otomatik fırlatmayı kanıtlamaz; bir şeffaflık ve norm boşluğunu gösterir.
ABD-öncülüğündeki Yapay Zekâ ve Özerkliğin Sorumlu Askeri Kullanımına İlişkin Siyasi Bildiri bağlayıcı değildir. İyi tanımlanmış kullanımlar, yaşam döngüsü testi, yüksek-sonuçlu uygulamalar için kıdemli gözetim ve beklenmedik davranış gösteren sistemleri devre dışı bırakma mekanizmaları çağrısı yapıyor (Siyasi Bildiri metni). Genel bir askeri-yapay-zekâ çerçevesidir, özel bir nükleer anlaşma değil.
Nükleer karar zinciri
Nükleer komuta, kontrol ve iletişim — genellikle NC3 olarak kısaltılır — olası saldırıyı algılamayı, uyarıyı değerlendirmeyi, liderler ve kuvvetlerle iletişim kurmayı, emirleri doğrulamayı ve kuvvet kontrolünü sürdürmeyi içerir. Yapay zekâ farklı noktalarda kullanılabilir, her birinin farklı sonuçları vardır.
Sensör işleme, radar, uydular, akustik sistemler ve diğer akışlar genelinde nesneleri tespit etmeye ve sınıflandırmaya yardımcı olabilir. Aşırı yüklenmeyi azaltırken sıra dışı koşullar altında yanlış pozitifler üretebilir.
Karar desteği, istihbaratı birleştirebilir, seçenekler üretebilir veya olası düşman eylemlerini tahmin edebilir. Girdiler eksik ve düşman kasıtlı olarak aldatıcı olsa bile çıktısı kesin görünebilir.
İletişim ve siber savunma, sızmayı tespit edebilir veya ağları yeniden yönlendirebilir. Özerk bir savunma ayrıca meşru mesajları engelleyebilir veya yanlış bir göstergeye tepki verebilir.
Konvansiyonel hedefleme ve özerklik, NC3’e ait olmadan nükleer kuvvetleri veya iletişimlerini tehdit edebilir. Bir düşman, konvansiyonel bir yapay-zekâ-destekli operasyonu nükleer kuvvetleri silahsızlandırmaya hazırlık olarak yorumlayabilir.
Fırlatma yürütmesi, nihai yetkilendirme ve iletim yoludur. Burada özel, olumlu insan yetkilendirmesini korumak gereklidir ama yukarı akış risklerini çözmez.
Otomasyon önyargısı ve sıkıştırılmış zaman
Otomasyon önyargısı, otomatik bir öneriyi kabul etme veya eksikliğini fark etmeme eğilimidir. Bir krizde rütbe, arayüz tasarımı, eğitim ve zaman baskısı etkiyi büyütebilir. Sistem gizli veriyi bağımsız kontrol için çok hızlı toplarsa, nominal bir insan incelemecinin anlamlı bir alternatifi olmayabilir.
Yapay zekâ ayrıca algılanan bir hız yarışı yaratabilir. Liderler bir düşmanın mobil sistemleri bulabileceğine veya daha hızlı karar verebileceğine inanırlarsa, önceden yetki verebilir, yetkiyi dağıtabilir veya uyarı-üzerine-fırlatma duruşlarını benimseyebilirler. SIPRI’nin analizi, nükleer-olmayan askeri yapay zekânın bir savaş başlığına asla dokunmasa bile karar zaman çizelgelerini sıkıştırabileceğini ve yanlış hesaplamayı artırabileceğini vurguluyor.
Hız ayrıca yardımcı olabilir. Daha iyi filtreleme yanlış alarmları azaltabilir ve liderlere daha net bilgi verebilir. Sonuç, sistemlerin belirsizliği gösterip göstermediğine, çelişen kanıtı koruyup korumadığına ve hızlı eylemi optimize etmek yerine müzakereyi destekleyip desteklemediğine bağlıdır.
Veri ve düşmanlar bunu sıradan bir uygulamadan farklı kılıyor
Nükleer krizler nadirdir, bu yüzden tam kararı için eğitim verisi seyrektir. Simülasyonlar ve tarihsel tatbikatlar her düşmanı veya teknik başarısızlığı yakalayamaz. Savaş sırasındaki koşullar barış zamanı verisinden keskin bir şekilde farklı olabilir.
Düşmanlar aktif olarak aldatır. Sensörleri sahte olarak taklit edebilir, veriyi zehirleyebilir, yazılımı ele geçirebilir, iletişimi manipüle edebilir veya şüphe yaratmak için öngörülemez davranabilirler. Sıradan gürültü üzerinde test edilen bir model, stratejik bir rakibe karşı başarısız olabilir. Tedarik-zinciri ele geçirmesi, gizlilik geniş dış incelemeyi engellediğinde özellikle sonuçludur.
Üretken sistemler halüsinasyon görebilirken, istatistiksel sınıflandırıcılar eğitim dağılımlarının dışında aşırı güvenli olabilir. Hiçbir başarısızlık, insan analistlerin kusurlu olması nedeniyle kabul edilebilir değildir. Karşılaştırma, yeni başarısızlık modları ve ortak bağımlılıklar dahil olmak üzere tam insan-makine süreçleri arasında olmalıdır.
Kriz-istikrarı yolları
Yanlış uyarı: Yapay zekâ bir olayı yanlış sınıflandırır ve bir saldırının devam ettiğine dair güveni büyütür.
Karışma (entanglement): Çift kullanımlı sensörlere veya iletişimlere yönelik konvansiyonel bir saldırı, nükleer kontrole yönelik bir saldırı sanılır.
Karşı-güç baskısı: İyileştirilmiş izleme, misilleme kuvvetlerinin hayatta kalabilirliğini tehdit ediyor gibi görünür ve daha erken kullanımı teşvik eder.
Siber belirsizlik: Hiçbir taraf bir başarısızlığın saldırı mı, kaza mı, yoksa model arızası mı olduğunu bilmiyor.
Etkileşim: Otomatik sistemler, liderlerin niyeti netleştirebileceğinden daha hızlı birbirine tepki veriyor.
Bunlar makul yollardır, nükleer savaşın kaçınılmaz olduğunun tahminleri değil. Kurumsal prosedür, kuvvet duruşu, iletişimler ve silah-kontrolü önlemleri her zinciri kesebilir.
Anlamlı insan kontrolü
İnsan kontrolü, onaylayana tıklayan bir kişiden fazlasını gerektirir. Liderlerin; bağımsız kanallara, anlaşılabilir kanıta, belirsizliğe, muhalif analize ve öneriyi sorgulamak için yeterli zamana ihtiyacı vardır. Hiçbir tek yapay zekâ çıktısı kesin bir saldırı göstergesi olmamalıdır.
Sistemler, birleştirilmiş tek bir cevap sunmak yerine ham ve alternatif yorumları korumalıdır. Operatörlerin bilinen başarısızlık modları hakkında eğitime ve yapay zekânın yanlış olduğu tatbikatlara ihtiyacı vardır. Süreci yavaşlatma yetkisi, kurumsal baskıya karşı korunmalıdır.
Nihai nükleer-kullanım kararı ve her kritik doğrulama adımı, olumlu bir insan eylemi gerektirmelidir. Sistemler, iletişim kaybını izin olarak yorumlamak yerine kontrolü koruyan bir duruma başarısız olmalıdır.
Teknik ve prosedürel güvenlik önlemleri
- kritik sistemleri izole edin ve ticari ağlara bağımlılığı en aza indirin;
- korelasyonlu başarısızlığı azaltmak için çeşitli sensörler, yazılım, modeller ve yapay-zekâ-olmayan kontroller kullanın;
- kritik karar yollarında çevrimiçi öz-değişikliği yasaklayın;
- güncellemeleri yapılandırma kontrolü ve bağımsız test yoluyla doğrulayın;
- daha sonraki inceleme için önerileri, girdileri, insan geçersiz kılmalarını ve belirsizliği kaydedin;
- sahtekarlığı, veri zehirlenmesini, siber ele geçirmeyi ve dağılım kaymasını kırmızı-takım testine tabi tutun;
- yapay-zekâ-olmayan yedek süreçleri koruyun ve prova edin;
- geri döndürülemez eylemler için iki-kişilik veya çoklu-yetkili kontroller gerektirin;
- danışma sistemlerini fırlatma doğrulamasından ve yürütmesinden ayırın.
Hedef yalnızca yüksek ortalama doğruluk değildir. Makul bir hatanın geri döndürülemez hâle gelmesini önlemektir.
Uluslararası risk azaltma
Devletler; yapay zekânın hiçbir zaman nükleer kullanımı yetkilendirmesine izin vermeyeceklerini kamuoyu önünde taahhüt edebilir, “insan kontrolü”nün ne anlama geldiğini netleştirebilir ve operasyonel sırları ifşa etmeden güvenlik doktrini hakkında bilgi alışverişi yapabilir. Kriz sıcak hatları, şüpheli yapay zekâ ve siber olayları kapsamalıdır. Tatbikatların bildirimi ve teknik açıklama için kanallar yanlış yorumlamayı azaltabilir.
SIPRI, yapay-zekâ-nükleer bağlantısını henüz hiçbir özel yönetişim çerçevesinin kapsamadığını belirtiyor ve daha net kırmızı çizgiler ve daha kesin insan-kontrolü standartları öneriyor (SIPRI yönetişim çalışması). Mevcut silah-kontrolü, askeri-yapay-zekâ ve güven-inşası forumları, her yapay zekâ tanımı üzerinde fikir birliğini beklemeden bu çalışmaya başlayabilir.
Doğrulama zordur, ama beyan edilen politika hâlâ normları şekillendiriyor ve karşılaştırmaya izin veriyor. Güvenli karar desteği, olay taksonomileri ve insan faktörleri üzerine paylaşılan araştırma pratik kazanımlar üretebilir.
Pratik sonuç
13 Eylül 2026 itibarıyla, kamu kanıtı özerk nükleer fırlatma yetkisini kurmuyor. Ciddi mevcut soru, askeri ve karar sistemlerinin başka yerlerindeki yapay zekânın uyarıyı, güveni, hızı ve savunmasızlık algılarını nasıl değiştirebileceğidir.
Nihai bir insan kararını korumak gerekli ama yetersizdir. Kriz istikrarı; zaman, bağımsız kanıt, anlamlı muhalefet, siber dayanıklılık, test edilmiş yedek, fırlatma yürütmesinden sıkı ayrım ve uluslararası iletişim gerektirir. Nükleer komutada, bir sistem insanların düşünmesine yardımcı olmalı — onlara bunu yapacak zamanları olmadığını hissettirmemelidir.