İddianın türünden başlayın
“Yapay zekâ bunu yapabilir,” “AGI yakında gelecek” ve “bu sistem felakete neden olabilir” aynı iddia değildir. Farklı kanıtlara ihtiyaç duyarlar. Cilalı bir gösteri, bir modelin elverişli koşullar altında bir kez başarılı olduğunu kanıtlayabilir. Güvenilirliği, ekonomik değeri veya güvenli özerk çalışmayı kanıtlamaz. Bir tahmin, gelecek hakkında bir yargı ifade eder. Mevcut bir yeteneğin ölçümü değildir.
Bu önemlidir çünkü AGI’nin evrensel olarak kabul edilmiş bir testi yoktur. Tanımlar, genişlik, performans, özerklik, öğrenme, fiziksel yetkinlik ve ekonomik etkinin farklı kombinasyonlarını vurgular. Okuyucuların bir manşetin AGI’yi kanıtlayıp kanıtlamadığını sormak yerine, neyin, hangi koşullar altında ölçüldüğünü ve sonucun kanıtın ne kadar ötesine gittiğini sorması gerekir.
Aşağıdaki merdiven, bir düzeydeki her öğenin altındaki her şeyi geçersiz kıldığı katı bir sıralama değildir. Tekrarlanabilir bir laboratuvar değerlendirmesi, dar bir mekanizma için gürültülü dağıtım verisinden daha güçlü bir kanıt olabilir. Amacı, tanıtım amaçlı ve alarmist iddiaların sık sık gizlediği çıkarımsal adımları ortaya çıkarmaktır.
Birinci seviye: fıkra ve seçilmiş gösteri
Fıkralar olasılıkları ve başarısızlık modlarını ortaya çıkarır. Bir uygulama inşa eden bir ajanın ekran kaydı, gösterinin gerçek olduğu varsayılırsa, en azından bir koşunun görüntülenen sonucu ürettiğini gösterir. Şaşırtıcı bir halüsinasyon, bir başarısızlığın meydana gelebileceğini gösterir. Hiçbiri bize davranışın ne sıklıkla ortaya çıktığını söylemez.
Sunucunun en iyi koşuyu seçip seçmediğini, duraklamaları veya başarısızlıkları düzenleyip düzenlemediğini, gizli insan yardımı kullanıp kullanmadığını veya tanıdık bir görev seçip seçmediğini sorun. Tam istemi, araçları, model sürümünü, örnekleme ayarlarını, deneme sayısını ve başarısızlık vakalarını arayın. Bunlar olmadan, sonucu bir oran değil, araştırılmaya değer bir ipucu olarak ele alın.
Gösteriler yararlı olmaya devam ediyor. Yeni yetenekler genellikle resmi ölçüm var olmadan önce dağınık biçimde ortaya çıkar. Hata, “olabilir”i “genellikle olur”a, sonra “ekonomiyi dönüştürecek”e dönüştürmektir.
İkinci seviye: gösterge testi veya kontrollü değerlendirme
Bir değerlendirme, görevleri, koşulları ve bir puanlama kuralını tanımlar. Sistemleri bir fıkradan daha sistematik olarak karşılaştırabilir. Güçlü değerlendirmeler ayrılmış görevler kullanır, kirlenmeyi önler, belirsizliği bildirir, iskelet ve insan yardımını belgeler ve ilgili başarısızlık modlarını test eder. Bağımsız tekrarlama güveni artırır.
Gösterge testi puanları yine de yanıltıcı olabilir. Eğitim verisi benzer sorular içerebilir. Ekipler kamuya açık bir teste göre optimize edebilir. Çoktan seçmeli bilgi, tanıdık olmayan bir iş yerindeki beceriyi kanıtlamaz. Ortalamalar felaketli kuyruk başarısızlıklarını gizler. Yüzde 90 oranında başarılı olan bir sistem, hatalar birikirse 30 adımlık bir iş akışında kullanılamaz olabilir.
Uluslararası Yapay Zekâ Güvenliği Raporu 2026, kontrollü dağıtım öncesi testlerin sonuçlarının gerçek dünya performansını güvenilir bir şekilde öngörmemesi sorunu için “değerlendirme boşluğu” terimini kullanıyor. Mevcut yetenek profillerini de “düzensiz” olarak tanımlıyor: performans görevler ve bağlamlar arasında önemli ölçüde değişiyor ve sistemler zor değerlendirmelerde başarılı olurken görünüşte basit işlerde başarısız olabiliyor. Bunlar ölçümün sınırları hakkında bulgulardır, her gösterge testinin işe yaramaz olduğunun kanıtı değildir. Güvenilir bir makale hem puanı hem de testin neyi dışarıda bıraktığını bildirmelidir.
Üçüncü seviye: düşmanca, nedensel ve yükseltme çalışmaları
Risk iddiaları standart bir gösterge testinden daha fazlasına ihtiyaç duyar. Kırmızı takımlar yasak veya tehlikeli davranışı ortaya çıkarmanın yollarını arar. Nedensel deneyler bir özelliği değiştirir ve sonuçların değişip değişmediğini test eder. Yükseltme çalışmaları, insanların yapay zekâ ile başarabildiklerini, yalnızca internetle karşılaştırıldığında olduğu gibi anlamlı bir temel çizgiyle karşılaştırır.
Bu çalışmalar farklı sorulara yanıt verir. Bir kırmızı takım bulgusu, test edilen saldırı altında erişilebilirliği gösterir, nüfus çapında görülme sıklığını değil. Bir yetenek değerlendirmesi, gerçek bir aktörün onu yürütebileceğini göstermeden bir modelin zararlı bir plan üretebileceğini gösterebilir. Bir yükseltme çalışması kötüye kullanımla daha ilgili olabilir, ancak katılımcıları, zaman sınırı, temel çizgisi, sonuç ölçüsü ve koruyucu önlemleri neyi ifade ettiğini belirler.
Küçük örnekler geniş belirsizlik üretir. Uzman katılımcılar acemi yükseltmesini eksik değerlendirebilir ama gelişmiş saldırganları daha iyi temsil edebilir. Vekil görevler gerçek zarar yaratmaktan kaçınır ama gerçek dünya darboğazlarını atlayabilir. Modeller ve kontroller değiştikçe sonuçlar hızla eskir. İyi raporlama bu sınırları “yapay zekâ mümkün kılıyor” veya “yapay zekâ riski artırmıyor” gibi sıkıştırmalar yerine adlandırır.
Dördüncü seviye: saha ve dağıtım kanıtı
Gerçek dünya verisi, benimsemeyi, verimliliği, olayları, kötüye kullanımı ve kurumsal uyumu ortaya çıkarabilir. Randomize saha deneyleri ve dikkatlice tasarlanmış yarı deneyler nedensel etkileri tahmin edebilir. Olay veritabanları ve şikâyet verileri tekrarlayan zararı gösterebilir. Denetimler, bir geliştiricinin laboratuvarının test etmediği eşitsizlikleri tespit edebilir.
Dağıtım kanıtının kör noktaları da vardır. Şirketler açıkladıklarından daha fazlasını gözlemler. Kullanıcılar bir aracı benimseyip benimsemeyeceklerini ve nasıl benimseyeceklerini seçer, bu da basit karşılaştırmaları önyargılı hale getirir. Bildirilen olaylar tüm olaylarla aynı değildir. Müşteri desteğindeki bir verimlilik kazanımı, otomatik olarak araştırmaya, yönetime, tıbba veya robotiğe genelleşmez.
Okuyucular nüfusa, ortama, karşılaştırma grubuna, zaman dilimine, sonuca ve çıkar çatışmalarına bakmalıdır. “Çalışanlar daha fazla görev tamamladı”, “işletme daha fazla değer yarattı”dan farklıdır ve her ikisi de “istihdam düştü”den farklıdır. Üretken yapay zekâ hakkındaki mevcut işgücü kanıtı, varsayımsal AGI hakkında kanıt olarak yeniden etiketlenmemelidir.
Beşinci seviye: eğilim ekstrapolasyonu ve tahmin
Tahminler ölçümleri varsayımlarla birleştirir. Hesaplama eğilimleri, algoritmik ilerleme, yatırım, gösterge testi performansı ve ajan güvenilirliği bir tahmini bilgilendirebilir, ancak hiçbiri tek başına bir AGI tarihini belirlemez. Kısıtlamalar gevşeyebilir, bağlayabilir veya kayabilir. Tanımlar değişebilir.
METR’nin zaman ufku araştırması, test edilen bir ajanın belirtilen bir güvenilirlikle — genellikle yüzde 50 veya 80 — başarılı olması öngörülen görevlerin insan uzmanı tamamlama süresini tahmin ediyor. Mevcut takımı öncelikle kendi kendine yeterli, iyi belirlenmiş yazılım mühendisliği, makine öğrenmesi ve siber güvenlik görevlerinden oluşuyor, net puanlama kurallarıyla. Ölçüm, tanımlanmış bir ajan kurulumu ve görev dağılımı hakkında yararlı bir kanıttır. Yapay zekânın özerk olarak çalıştığı süre, tüm ekonomik açıdan değerli işin bir ölçüsü veya AGI’ye geri sayan bir sayaç değildir. METR ayrıca mevcut görev takımıyla 16 saatin üzerindeki ölçümlerin güvenilmez olduğuna dikkat çekiyor.
Bir tahmini işlemsel tanımına, tarihine, olasılığına, modeline, temel oranına ve geçmiş performansına göre değerlendirin. Kalibre edilmiş bir tahmin, etkin bir şekilde şunu söyler: “yüzde 30 atanan sonuçlar yaklaşık yüzde 30 oranında gerçekleşmelidir.” Çözüm kriterleri olmayan güvenli bir tarih puanlanamaz. Uzman anketleri bilgilendirilmiş inançları yakalar ama anlaşmazlığı deneysel kanıta dönüştürmez.
Senaryolar başka bir amaca hizmet eder. Koşullu yolları keşfederler: yetenekler, erişim, özerklik ve kurumsal tepki belirtilen değerleri alırsa, ne olur? Bir senaryo, en olası gelecek olmadan güvenlik açıklarını ortaya çıkarabilir. Buna göre etiketleyin.
Altıncı seviye: mekanizma ve teorik argüman
Bazı ciddi AGI riskleri, ilgili sistemler olmadan doğrudan gösterilemez — ve yalnızca kanıt elde etmek için yaratılmamalıdır. Araştırmacılar bunun yerine ödül hackleme, araçsal kaynak arama, rekabetçi yarışlar veya kademeli yetki devri gibi mekanizmalar öneriyor. Biçimsel modeller, bir sonucun varsayımlardan gelip gelmediğini netleştirebilir.
Merkezi soru, argümanın canlı görünüp görünmediği değildir. Hangi öncüllerin ampirik desteği olduğudur. Sistemin kalıcı bir hedefi var mı? Gerekli ufuk boyunca plan yapabilir mi? Araçlara, paraya, altyapıya veya kendi kopyalarına erişimi var mı? İzleme başarısız olacak mı? Kurumlar tepki verebilir mi? Her bağlantı, tüm zincirin olasılığını değiştirebilir.
Doğrudan felaket verisinin yokluğu, sıfır risk kanıtı değildir. Mantıksal olarak mümkün bir yol da büyük bir olasılık kanıtlamaz. Belirsizlik altındaki kararlar, sonucu, geri döndürülebilirliği, uyarı süresini ve koruyucu önlemlerin maliyetini ve etkinliğini dikkate almalıdır. Bu, teorinin gözleme dönüştüğü bir keşif değil, bir risk yönetimi yargısıdır.
Sonuçlu iddialar için bir kanıt kartı kullanın
Herhangi bir önemli ifade için altı alanı kaydedin:
- İddia: gerçekte iddia edilen dar önerme.
- Durum: gözlemlenen sonuç, çıkarım, tahmin, senaryo veya öneri.
- Kaynak: birincil çalışma, resmi veri, sentez, şirket raporu, medya veya görüş.
- Kapsam: model, sürüm, görev, nüfus, yargı yetkisi ve tarih.
- Belirsizlik: örneklem büyüklüğü, güven aralığı, tekrarlama, eksik veri ve makul alternatifler.
- Güncelleme tetikleyicisi: iddiayı güçlendirecek, zayıflatacak veya emekli edecek kanıt.
NIST’in gönüllü Üretken Yapay Zekâ Profili, Yapay Zekâ Risk Yönetimi Çerçevesi’nin sektörler arası bir eşlikçisidir, bir AGI testi veya sertifikası değildir. Önerilen eylemleri çerçevenin Yönet, Haritala, Ölç ve Yönet işlevleri altında düzenler ve risk yönetimini bir yaşam döngüsü etkinliği olarak ele alır. Daha geniş NIST AI RMF ölçüm kılavuzu, belgelenmiş test, belirsizlik ölçümleri, dağıtımla ilgili ölçüm, izleme ve dahili önyargıyı azaltabileceği durumlarda bağımsız inceleme çağrısında bulunuyor. Kesin şablon, kanıt zincirini denetlenebilir kılmaktan daha az önemlidir.
Güveni kanıtla eşleştirin
Güvenilir AGI haberciliği, sahte tarafsızlık gerektirmez. Bazı gerçekler iyi kurulmuştur: modeller birçok değerlendirmede iyileşiyor, gerçek zararlar zaten meydana geliyor, yetenekler düzensiz kalıyor ve kurumların eksik görünürlüğü var. Diğer önermeler — AGI tarihleri, süreksiz kalkış, dijital bilinç, kararlı hizalama, yok olma olasılıkları — derinden tartışmalı kalmaya devam ediyor.
Disiplinli yanıt kesinliktir. Bir sonucu tanımlarken “çalışma buldu”, ondan öteye geçerken “yazarlar çıkarıyor”, bir inancı bildirirken “tahminciler atfediyor” ve bir yolu keşfederken “bu senaryo varsayıyor” deyin. Ardından kaynağı iddiaya yakın bağlayın.
Bu dil, bir geri sayım veya bir bildirimden daha az dramatik hissettirebilir. Daha yararlıdır. İnsanlık, kanıtın neyi desteklediğini, nerede durduğunu ve değerlendirmeyi neyin değiştireceğini bilerek gelişmiş yapay zekâ hakkında daha iyi kararlar alacaktır.