Situation report active Rev. 2026.10 119 reports 239 source records updated
Real Life After AGI İnsanlığın hayatta kalma brifingi
TR

Yapay zekâ laboratuvarları içinde muhbir korumaları

Muhbir hakları, bildirim kanalları ve misilleme karşıtı kuralların laboratuvar çalışanlarının güvenlik başarısızlıklarını erken açığa çıkarmasına nasıl yardım ettiği.

Written by
Dwight Ringdahl
Status
Kaynakları doğrulandı
Revised
Sources
4 cited
Reading
5 min

İçeridekiler kanıtı kamuoyundan önce görür

Çalışanlar ve yükleniciler tehlikeli değerlendirme sonuçlarıyla, güvenlik başarısızlıklarıyla, yanıltıcı kamuoyu açıklamalarıyla, yasa dışı veri uygulamalarıyla veya endişeler çözülmeden önce dağıtım yapma baskısıyla karşılaşabilir. Düzenleyiciler ve müşteriler çoğu zaman yalnızca özenle hazırlanmış raporları görür. Korunan iç ve dış bildirim, keşif ile düzeltme arasındaki süreyi kısaltabilir.

Bu varsayımsal bir endişe değildir. 2024’te, OpenAI ve Google DeepMind’ın mevcut ve eski çalışanları, iç kanallar başarısız olduktan sonra güvenlik endişelerini dile getiren personele misilleme yapmamaları için yapay zekâ şirketlerine kamuoyu önünde çağrıda bulundu — bu talep, alanın en çok atıf alan güvenlik araştırmacılarından üçü olan Yoshua Bengio, Geoffrey Hinton ve Stuart Russell tarafından desteklendi (OpenAI ve Google DeepMind’ın mevcut ve eski çalışanları, 2024). Talebin isimle, kamuoyu önünde yapılmak zorunda kalması, mevcut iç kanalların yeterli görülmediğinin kanıtıdır.

Muhbirlik, denetimlerin veya yetkin yönetimin yerine geçmez. Çalışanlar yanılabilir, bağlamdan yoksun olabilir veya karışık nedenlerle hareket edebilir. İyi bir sistem, ne şirketin ne de şikâyetçinin haklı olduğunu varsaymadan iyi niyetli bildirimi korur ve kanıtı bağımsız olarak soruşturur.

Hukuki temel parçalıdır

Her güvenlik endişesini kapsayan tek bir ABD federal “yapay zekâ muhbiri yasası” yoktur. Mevcut korumalar; işverene, sektöre, sözleşmeye, yetki alanına ve neyin bildirildiğine bağlıdır. Yasalar; menkul kıymet dolandırıcılığı, hükümet sözleşmeleri, ayrımcılık, iş yeri güvenliği veya belirli ihlallerle ilgili açıklamaları koruyabilir, ancak bir modelin felaket niteliğindeki yeteneğine ilişkin bir endişe düzgün oturmayabilir.

Gizlilik sözleşmeleri (NDA’lar) her korunan hakkı hukuken ortadan kaldıramaz, ancak çalışanlar sınırı bilmeyebilir ve pahalı anlaşmazlıklarla karşılaşabilir. Ticari sır, gizlilik ve ulusal güvenlik kuralları, bir düzenleyiciye korunan bir kanal olması gerekirken bile kamuya açıklamayı kısıtlayabilir. Bu sayfa genel bilgidir, hukuki tavsiye değildir.

Kaliforniya yapay-zekâya özgü koruma yarattı

Kaliforniya’nın Öncü Yapay Zekâda Şeffaflık Yasası, SB 53, 2026’da yürürlüğe girdi. Kendi tanımları çerçevesinde, kapsanan çalışanlar ihlalleri veya felaket riskinden kaynaklanan halk sağlığı veya güvenliği için belirli ve önemli bir tehlikeyi bildirebilir. Kaliforniya Başsavcılığı bir bildirim kanalı işletiyor ve kapsamı açıklıyor (Kaliforniya Adalet Bakanlığı, 2026).

SB 53 ayrıca kapsanan büyük öncü geliştiricilerin öncü yapay zekâ çerçeveleri yayımlamasını ve izlemesini ve belirli kritik güvenlik olaylarını bildirmesini gerektiriyor. Anlamlı bir eyalet mekanizmasıdır, ama evrensel bir koruma değildir: geliştirici, çalışan, model ve felaket riski tanımları kapsamı belirler. Okuyucular gerçek bir dava için yürürlükteki metne ve nitelikli bir avukata başvurmalıdır.

New York’un Aralık 2025’te imzalanan RAISE Yasası da benzer şekilde New York yetki alanı içinde öncü-model güvenlik ve raporlama gereksinimleri yarattı (New York Valisi). Eyalet rejimleri birleşebilir, çelişebilir veya davalarla karşılaşabilir; güncel durum kontrol edilmelidir.

Avrupa Birliği bir bildirim kanalı ekledi

AB Yapay Zekâ Yasası yaptırım çerçevesi, yapay zekâ sistemi veya genel amaçlı model sağlayıcılarıyla mesleki olarak bağlantılı kişilerin şüpheli ihlalleri bildirmesi için güvenli bir muhbir aracı içeriyor. Yapay Zekâ Ofisi ve ulusal yetkililer yaptırım sorumluluğunu paylaşıyor (Avrupa Komisyonu, Ağustos 2026).

Bu araç, her etik anlaşmazlığı veya spekülatif riski değil, yürürlükteki AB hukukunun ihlallerini ilgilendiriyor. AB muhbir korumaları ve ulusal uygulama, çözüm yollarını da etkiliyor. Bir kanal yalnızca kullanıcılar yetki alanını, gizliliği, kanıt işlemeyi ve misillemeye karşı korumayı anladığında etkilidir.

Etkili iç bildirimin gerektirdiği şey

Bir çalışanın birkaç yolu olmalıdır: bir yönetici, bağımsız bir güvenlik veya uyum işlevi, bir yönetim kurulu komitesi ve yetkili bir dış düzenleyici. Tartışmalı bir yayını onaylayan aynı yönetici zincirinden bildirim yapmak bir çıkar çatışması yaratır. Güvenlik liderlerinin yönetim kuruluna erişimi ve ticari misillemeye karşı korunması gerekir.

Politikalar; işten çıkarmayı, düşürmeyi, kaybedilen hisseleri, istenmeyen görevlendirmeleri, tehditleri, kara listeye almayı, göçmenlik baskısını ve stratejik davaları geniş şekilde yasaklanmış misilleme olarak tanımlamalıdır. Yükleniciler, geçici çalışanlar, kırmızı-takım satıcıları ve araştırmacılar sıklıkla kapsam gerektirir çünkü çalışanlarla aynı kanıtı görebilirler.

Onay son tarihleri, koruma yükümlülükleri, bağımsız triyaj ve yazılı sonuçlar bir kanalı denetlenebilir kılar. Anonim bildirim yardımcı olur, ancak anonimlik teknik meta veri veya bir olaya erişimi olan az sayıda kişi yoluyla başarısız olabilir. Kurumlar erişimi en aza indirmeli ve sınırları dürüstçe açıklamalıdır.

Hisse senedi ve tazminat muhalefeti susturabilir

Öncü-laboratuvar tazminatı değerli, hak edilmemiş hisse senedi içerebilir. İstifadan sonra bunu kaybetmek, doğrudan bir tehdit olmadan bile konuşmayı mali açıdan yıkıcı hâle getirebilir. Ayrılık sözleşmeleri, karalama yasağı, gizlilik veya ifşa etmeme baskısı ekleyebilir.

Adil bir sistem, zaten kazanılmış tazminatı korumalı, sözleşmeleri imzalamadan önce zaman ve bağımsız tavsiye sağlamalı, korunan bildirim haklarını açıkça belirtmeli ve yasal güvenlik endişeleri hakkında sessizliğe ekonomik değer koşulan sözleşme şartlarını yasaklamalıdır. Bu korumalar, ilgisiz sırların ifşasını yetkilendirmeden zorlamayı azaltır.

Kanıt işleme ve sorumlu yükseltme

Potansiyel muhbirler, gizli veriyi kopyalamadan önce yetkili kanalları kullanmalı ve hukuki tavsiye almalıdır. Kullanıcı kayıtlarının, model ağırlıklarının, kişisel bilgilerin veya gizli materyalin toplu olarak kaldırılması yeni zararlar ve hukuki riskler yaratabilir. Amaç, ilgisiz ifşayı en aza indirirken gerekli kanıtı korumaktır.

Kurumlar; kurcalamaya karşı dayanıklı günlükleri, değerlendirme kayıtlarını, dağıtım kararlarını, muhalif analizleri ve olay zaman çizelgelerini korumalıdır. Saklama, bir endişenin bir kişinin sözünün diğerine karşı olmasını önler. Düzenleyicilerin kamuya açıklanamayan kanıtı incelemeye yetenekli güvenli tesislere ve teknik personele ihtiyacı vardır.

Kamuya açıklama bazen haklı olabilir, ancak her durumda ilk güvenli seçenek değildir. Olgun bir sistem, çalışanlar sessizlik ile dünyaya hassas materyal yayınlamak arasında seçim yapmaya zorlanmadan önce güvenilir bağımsız kanallar sunar.

Kötü niyetli veya düşük kaliteli raporlardan kaçınmak

İyi niyetli bildirim için koruma, uydurma kanıt veya taciz kabul etmeyi gerektirmez. Triyaj; belirginliği, doğrulamayı, erişimi ve aciliyeti değerlendirebilir. Bilerek yapılan yanlış raporlar yaptırıma tabi kalabilir, ancak anlaşmazlık veya doğrulanmamış bir endişe kötü niyet olarak ele alınmamalıdır.

Geri bildirim döngüleri önemlidir. Çalışanlar raporların açıklama olmadan kaybolduğunu görürse, kanalı kullanmayı bırakırlar. Toplu şeffaflık — endişe sayısı, kategoriler, soruşturma süresi, doğrulama ve düzeltici eylem — kimlikleri korurken işlevi gösterebilir.

Gönüllü sözlerin neden yetersiz kaldığı

Şirket politikaları yasal gereksinimleri aşabilir ve hızla uyum sağlayabilir. Ayrıca değişebilir, yüklenicileri hariç tutabilir veya çelişen teşviklere sahip kişiler tarafından uygulanabilir. Yasal haklar dış bir taban, çözüm yolları ve celp yetkisi sağlar. En güçlü mimari; iç kültürü, yönetim kurulu sorumluluğunu, düzenleyici kanallarını ve uygulanabilir misilleme-karşıtı kuralları birleştirir.

Laboratuvarlar kendi güvenlik kültürlerini tarif etmede menfaat sahibi taraflardır. Ayrılan çalışanlar da kısmi görüşlere sahip menfaat sahibi taraflardır. Bağımsız soruşturmalar belgeleri ve davranışı değerlendirmelidir. Bir ayrılma örüntüsü bir uyarı sinyalidir, belirli bir iddianın kanıtı değil.

Model bir politika gündemi

Hükümetler; bir yasa ihlal edilmeden önce bile tanımlanmış ciddi yapay zekâ risklerine ilişkin iyi niyetli açıklamaları koruyabilir; çalışanları ve yüklenicileri kapsayabilir; düzenleyicilere ve yasama organlarına erişimi koruyabilir; gizlilik, geçici çözüm, işe iade, tazminat ve ücret geri kazanımı sağlayabilir; ve bilerek yapılan misillemeyi cezalandırabilir. Kurallar güvenlik ve gizlilik hukukuyla koordine olmalıdır.

Düzenleyiciler net kabul kriterleri yayımlamalı, hassas kanıtı korumalı, teknik uzmanlar istihdam etmeli ve anonimleştirilmiş sonuçları raporlamalıdır. Yönetim kurulları, önemli güvenlik endişelerinin yüksek riskli dağıtımdan önce bağımsız direktörlere ulaştığını onaylamalıdır.

Sonuç

Muhbir koruması, öncü modelleri eğitmek veya denetlemekle karşılaştırıldığında görece düşük maliyetlidir, ama otomatik değildir. Kaliforniya, New York ve AB artık kendi yetki alanları içinde somut yapay-zekâ-ile-ilgili mekanizmalar sağlıyor; başka yerlerdeki kapsam parçalı kalmaya devam ediyor. Başarının ölçütü bir politika sayfası değildir. Ölçüt, insanların belirli kanıtları ortaya koyabilip koyamadığı, bağımsız bir soruşturmacıya ulaşabilip ulaşamadığı, geçimlerini ve yasal haklarını koruyabilip koruyamadığı ve zarar ölçek kazanmadan düzeltmeyi tetikleyip tetikleyemedikleridir.

References

Summarized position

Current and former OpenAI and Google DeepMind employees calls on AI companies not to retaliate against employees who publicly raise safety concerns after other channels fail.

Current and former OpenAI and Google DeepMind employees, "A Right to Warn about Advanced Artificial Intelligence," endorsed by Yoshua Bengio, Geoffrey Hinton, and Stuart Russell
righttowarn.ai, Signed statement
  1. Kaliforniya Adalet Bakanlığı, 2026 oag.ca.gov
  2. New York Valisi governor.ny.gov
  3. Avrupa Komisyonu, Ağustos 2026 digital-strategy.ec.europa.eu

Type to search the manual.

↑↓ navigate ↵ open esc close