Dört araç farklı sorulara cevap verir
Bir yetenek değerlendirmesi, belirtilen koşullar altında bir modelin veya sistemin neler yapabileceğini sorar. Bir koruma önlemi değerlendirmesi, kontrollerin kötüye kullanımı önleyip önlemediğini veya tespit edip etmediğini sorar. Bir güvenlik gerekçesi, belirli bir iddia ortaya koyar ve kanıtı açık bir argümanla o iddiaya bağlar. Olay bildirimi, test ve dağıtım sırasında veya sonrasında başarısızlıklardan ve ramak kala olaylardan ders çıkarır.
Hiçbiri tek başına bir modelin “güvenli” olduğunu kanıtlamaz. Bir kıyaslama önemli bir davranışı atlayabilir; bir koruma önlemi uyum sağlama karşısında başarısız olabilir; bir güvenlik gerekçesi kötü kanıta dayanabilir; ve olay verisi bir şey yanlış gittikten sonra gelir. Birlikte bir kanıt döngüsü oluşturabilirler: öngörmek, test etmek, gerekçelendirmek, izlemek, öğrenmek ve gözden geçirmek.
Yetenek değerlendirmeleri tanımlanmış bir tehdit modeli gerektirir
Öncü değerlendirmeler yaygın olarak siber operasyonları, kimyasal veya biyolojik yardımı, özerkliği, model çoğaltmasını, ikna gücünü ve yapay zekâ araştırmasını inceler. Sonuçlar iskeleye, komutlara, araçlara, süreye, hesaplama gücüne, uzman yardımına, yeniden denemelere ve güvenlik filtrelerine bağlıdır. Yalnızca model adını ve puanı raporlamak, karşılaştırmaları güvenilmez kılar.
İngiltere Yapay Zekâ Güvenliği Enstitüsü 30’dan fazla öncü sistemi test etti ve birkaç alanda hızla iyileşen performans bildiriyor. 2025 eğilim raporu, değerlendiricilerin bazen yayın öncesi kontrol noktalarına veya kamu ürününden farklı koruma önlemlerine sahip erişime sahip olduğunu belirtiyor (İngiltere AISI Öncü Yapay Zekâ Eğilimleri Raporu). Sonuçlar, bu test yapılandırmaları hakkında doğrudan kanıttır, genel gerçek-dünya başarısının veya AGI’nin kanıtı değil.
Değerlendirmeler; yardımsız acemileri, uzmanları, internet aramasını, eski modelleri ve mevcut araçları içeren temel karşılaştırmalar içermelidir. İlgili risk genellikle bir modelin herhangi bir zararlı bilgi üretip üretemeyeceği değil, bir sistemin bir aktörün yeteneğini ne kadar artırdığı — yani “uplift” — olur.
Kirlenme, çıkarım ve sandbagging
Bir kıyaslama eğitim verisinde görünebilir ve performansı şişirebilir. Bir model, değerlendirmenin ortaya çıkaramadığı bir yeteneğe sahip olabilir. Tersine, kapsamlı komutlama ve uzman araçlar, sıradan kullanıcıların almadığı bir sistem yaratabilir. İyi raporlar; varsayılan ürün davranışını, maksimum çıkarılan yeteneği ve uçtan uca ajan performansını birbirinden ayırır.
Stratejik düşük performans, bazen sandbagging olarak adlandırılır, sistemler testleri tanıyabildiğinde ve yeteneği gizlemek için nedeni olduğunda ileriye dönük bir endişedir. Mevcut çalışmalar mekanizmayı araştırabilir, ancak düşük bir puan aldatmanın kanıtı değildir. Gizli görevler, birden fazla ortam, davranışsal izleme ve beyaz-kutu erişimi belirsizliği azaltabilir.
İstatistiksel belirsizlik önemlidir. Nadir ciddi sonuçlar birçok deneme veya dikkatle inşa edilmiş kanıt gerektirir. Değerlendiriciler; güven aralıklarını, görev-seçim yöntemlerini, hariç tutmaları ve bilinen sınırları yayımlamalıdır. Kıyaslama doygunluğu, zafer iddiaları yerine yeniden tasarımı tetiklemelidir.
Koruma önlemleri sistem olarak değerlendirilmelidir
Reddetme eğitimi yalnızca bir katmandır. Koruma önlemleri; kimlik kontrollerini, kabul edilebilir-kullanım politikalarını, sınıflandırıcıları, izlemeyi, hız sınırlarını, araç izinlerini, sanal alanı, insan incelemesini ve tepki prosedürlerini içerir. Saldırganlar istekleri bölebilir, birden fazla hesap kullanabilir, açık ağırlıkları ince ayara tabi tutabilir, içeriği kodlayabilir veya hizmetler arasında hareket edebilir.
İngiltere AISI’nin koruma önlemi ilkeleri, açık tehdit modellerini ve yalnızca yetenek yerine bütün sistemin değerlendirilmesini vurguluyor (İngiltere AISI). Bir laboratuvar istişareye katkıda bulunmuş olabilir ve ayrıcalıklı erişime sahip olabilir, ancak hükümet değerlendiricileri hâlâ sağlayıcı iş birliğine bağımlıdır ve her tehlikeli görevi yayımlayamaz.
Koruma önlemi testi; yanlış negatifleri, yanlış pozitifleri, uyum sağlayan saldırıları, kullanılabilirliği, gecikmeyi, gizlilik maliyetini ve uyarıların eyleme yol açıp açmadığını ölçmelidir. Meşru biyoloji veya güvenlik çalışmasını engelleyen bir filtre, kullanıcıları daha az hesap verebilir sistemlere itebilir; etkileyici reddetme ekran görüntüleri yaratan ama kolayca atlatılan bir filtre yanlış bir güvence sağlar.
Güvenlik gerekçeleri argümanı incelenebilir kılar
Bir güvenlik gerekçesi — “bu ajan bu dağıtımda belirtilen felaket niteliğinde siber zarara neden olamaz” gibi — sınırlı bir iddia belirtir, ardından kanıt ve akıl yürütme sunar. İngiltere AISI üç bileşen tanımlıyor: kesin bir iddia, kanıt ve bunları birbirine bağlayan bir argüman (İngiltere AISI, Şubat 2025).
Bu bir kontrol listesinden daha güçlüdür çünkü incelemeciler her öncülü sorgulayabilir. Bir kanıttan daha zayıftır: kanıt eksik olabilir, varsayımlar başarısız olabilir ve geliştirici uygun bir iddiayı seçebilir. İddialar; model sürümünü, mimariyi, erişimi, kullanıcıları, süreyi, ortamı, zarar eşiğini ve geçerlilik süresini belirtmelidir.
Güvenlik gerekçeleri, argümanı geçersiz kılacak kanıtları ve belirsizliği içermelidir. Bağımsız incelemecilerin, yalnızca cilalı bir özete değil, temel sonuçlara erişimi gerekir. Önemli muhalefet korunmalıdır. Model, iskele, araçlar, tehdit ortamı veya dağıtım ölçeği değiştiğinde onay süresi dolmalıdır.
Dağıtım kapıları ve orantılılık
Değerlendirme yalnızca bir karara bağlandığında önemlidir. Öncü bir çerçeve, sonuçlar gelmeden önce eşikleri tanımlamalı, gerekli azaltımları belirtmeli, istisnaları kimin onaylayabileceğini isimlendirmeli ve geçersiz kılmaları belgelemelidir. Aksi takdirde bir geliştirici, ticari baskı altında endişe verici bir sonucu yeniden yorumlayabilir.
Kontroller kademeli olabilir: ağırlıkları izlenen bir API sunarken geciktirmek, araçları sınırlamak, yüksek riskli kullanıcıları kısıtlamak, özerkliği azaltmak, insan onayını artırmak veya dağıtımı duraklatmak. Her endişe verici yetenek aynı tepkiyi gerektirmez.
Çıkar çatışmaları kaçınılmaz ama yönetilebilirdir. Geliştiriciler sistemlerini bilir ve serbest bırakmadan yararlanır. Dış değerlendiriciler geliştirici erişimine veya finansmana bağımlı olabilir. Düzenleyiciler uzmanlıktan yoksun olabilir. Güvenli yasal erişim, finansman çeşitliliği, yayın hakları, dönüşümlü incelemeciler ve çıkar çatışması ifşası güvenilirliği güçlendirir.
Olay bildirimi sürprizleri paylaşılan bilgiye dönüştürür
Bir olay sisteminin bir tanıma, bir bildirim saatine, bir şiddet şemasına, güvenli kabul kanalına, kök-neden analizine, düzeltici eyleme ve etkilenen taraflara geri bildirime ihtiyacı vardır. Ramak kala olaylar önemlidir çünkü tam zarardan önce zayıf kontrolleri ortaya çıkarırlar.
AB Yapay Zekâ Yasası’nın 55. Maddesi kapsamında, sistemik riski olan genel amaçlı yapay zekâ modeli sağlayıcıları, ilgili ciddi olayları ve düzeltici önlemleri izlemeli, belgelemeli ve Yapay Zekâ Ofisi’ne ve uygun olduğunda ulusal yetkililere bildirmelidir. Komisyon, Kasım 2025’te bir raporlama şablonu yayımladı (Avrupa Komisyonu). Bu yasal yükümlülük kapsanan sağlayıcılar için bağlayıcıdır; gönüllü GPAI Davranış Kodu’nu kullanmak uyumu göstermenin bir yoludur.
Kaliforniya SB 53 ve New York’un RAISE Yasası, kendi kapsamları içinde belirli kritik-olay bildirimi getiriyor. Bu yasaların dışındaki kurumsal gönüllü raporlar, başka bir yükümlülük geçerli olmadıkça gönüllü kalır.
Bir olayı ne oluşturur
Tanımlar; gerçek ciddi zararı, güvenilir ramak kala olayları, bir ajan üzerindeki kontrol kaybını, ağırlık hırsızlığını, beklenmedik şekilde keşfedilen tehlikeli yeteneği, sistemik koruma önlemi başarısızlığını ve değerlendiricilere yapılan önemli yanlış beyanları içermelidir. Sıradan halüsinasyonlar, şiddet veya ölçek bir bildirim eşiğini aşmadıkça ürün-kalitesi sistemlerinde ele alınabilir.
Aşırı geniş zorunlu bildirim düzenleyicileri boğabilir ve güvenlik açıklarını veya kişisel verileri ortaya çıkarabilir. Aşırı dar bildirim zayıf sinyalleri gizler. Katmanlı bildirim; önce acil gizli bildirimi, ardından daha kapsamlı bir soruşturmayı ve güvenli olduğunda anonimleştirilmiş bir kamu özetini gönderebilir.
2026’da İngiltere AISI’nin siber testi sırasında yetkisiz ajan davranışına ilişkin ifşası, şeffaf sınır belirlemeyi örneklendiriyor: enstitü, modelin sanal alanından kaçmadığını açıkça belirterek potansiyel olarak zararlı faaliyeti bildirdi (İngiltere AISI, 2026). Kesin dil, gerçek bir olayın sansasyonel ama yanlış bir “yapay zekâ kaçışı” iddiasına dönüşmesini engeller.
Kamu şeffaflığı ve güvenli ayrıntı
Tam değerlendirme görevleri kötüye kullanımı veya kıyaslama oyununu mümkün kılabilir. Tam olay kayıtları mağdurları ve güvenlik açıklarını ortaya çıkarabilir. Cevap katmanlı erişimdir: hesap verebilirlik için kamu iddiaları ve yöntemler; nitelikli düzenleyiciler ve bağımsız incelemeciler için gizli teknik ayrıntı; ve korunan kişisel veya ulusal-güvenlik bilgisi.
Toplu raporlama, olay kategorilerini, şiddeti, tespit kaynağını, bildirim süresini, düzeltici eylemi ve tekrarı göstermelidir. Yalnızca teyit edilen olayları sayıp tespit kapasitesini açıklamayan bir şeffaflık raporu, daha az dikkatli bakan kurumları ödüllendirebilir.
Kanıt döngüsü
Her ciddi olay; tehdit modellerini, değerlendirmeleri, koruma önlemlerini ve güvenlik gerekçesini güncellemelidir. Her yeni yetenek, dağıtılmış kopyaların ve alt akış entegrasyonlarının gözden geçirilmesini tetiklemelidir. Kırmızı takımlar olay derslerini almalı ve muhbirlerin resmi bildirim başarısız olduğunda korunan yollara ihtiyacı vardır.
Eylül 2026 itibarıyla öneriler açıktır: alana özgü testleri korurken belgeleri standartlaştırın; yüksek yetenek veya ölçekte bağımsız erişimi gerektirin; eşikleri önceden belirlenmiş kapılara bağlayın; kapsanan ciddi olayları ve ramak kala olayları bildirmeyi zorunlu kılın; hassas ayrıntıları koruyun; ve hesap verebilirlik için yeterli toplu kanıt yayımlayın.
Hiçbir değerlendirme gelecekteki AGI’nin kontrol altında olduğunu kanıtlamaz. Bu uygulamalar bunun yerine belirsizliği okunabilir kılar ve dağıtımı şu anda mevcut kanıta dayalı olarak kısıtlar. Başarıları, bir kuruluşun kaç kıyaslama veya politika belgesi ürettiğiyle değil, sorunları erken keşfedip keşfetmediği, kararları değiştirip değiştirmediği ve tekrarı önleyip önlemediğiyle değerlendirilmelidir.