Birbirine karıştırılmaması gereken üç soru
Yapay zekâ hakları tartışmaları genellikle üç farklı meseleyi birbirine karıştırır. Hukuki kişilik, bir hukuk sisteminin pratik amaçlar için atadığı bir statüdür. Şirketler bilinçli olmadan mülk sahibi olabilir ve dava açabilir. Ahlaki statü, varlıkların kendi hesaplarına neyi hak ettiğiyle ilgilidir. Bilinç, öznel deneyimin olup olmadığıyla ilgilidir — sistemin bakış açısından herhangi bir şeyin bir şey gibi hissedip hissetmediğiyle.
Bir yapay zekâ bilinçli olmadan sınırlı hukuki statü alabilir. Bilinçli bir sistem, yasama organları onu tanımadan önce koruma hak edebilir. Ve bir model, ikisine de sahip olmadan duygusal dil kullanabilir. Bu soruları ayrı tutmak, akıcı çıktının derin bir meseleyi yalnızca performansla karara bağlamasını önler.
Şu anda dağıtılan yapay zekâ sistemlerinin bilinçli olduğuna dair bilimsel bir fikir birliği yok. Ayrıca her gelecekteki vakayı karara bağlayabilecek doğrulanmış bir test de yok. Sorumlu pozisyon ne rastgele atıf ne de güvenli reddir. İnsanlara yönelik acil, iyi kanıtlanmış zararlara karşı korumalarla eşleştirilmiş disiplinli belirsizliktir.
İnsan hakları ilk operasyonel görev olarak kalıyor
Mevcut yapay zekâ sistemleri insan kurumları tarafından inşa ediliyor, sahiplenilip dağıtılıyor. Zaten istihdamı, yardımları, kolluk kuvvetlerini, krediyi, konuşmayı, sağlığı ve eğitimi etkiliyorlar. Bir model bir şey deneyimlese de deneyimlemese de insanlar zarar görebilir.
BM İş Dünyası ve İnsan Hakları Rehber İlkeleri, işletmelerin insan haklarına saygı gösterme sorumluluğu olduğunu ve mağdurların çözüme erişimi olması gerektiğini belirten bağlayıcı olmayan ilkelerdir. Avrupa Konseyi’nin Yapay Zekâ Çerçeve Sözleşmesi, yapay zekâ faaliyetlerini insan haklarına, demokrasiye ve hukukun üstünlüğüne bağlayan bir antlaşma çerçevesi yaratıyor, ama resmî tablosu 11 Eylül 2026 itibarıyla herhangi bir yürürlüğe giriş tarihi listelemiyordu (CETS No. 225 durumu). Hiçbir araç, yapay zekânın bir hak sahibi olduğuna karar vermeyi gerektirmiyor.
Bu öncelik önemlidir çünkü kişilik retoriği stratejik olarak kullanılabilir. Bir şirket, pratik etki denetim ve sorumluluktan şirketi korumaksa, ajanının gizlilik, özerklik veya mülkiyeti hak ettiğini önerebilir. Otomatikleştirilmiş bir şirket, hiçbir gerçek kişinin kontrol etmediği karar-vericileri çoğaltabilir. Hukuk, sentetik kuruluşların insan hesap verebilirliğini seyreltmesine izin vermemelidir.
En azından, dağıtılan bir sistemin belirlenebilir insan veya kurumsal yükümlü tarafları olmalıdır. Ona dar bir işlem yapma kapasitesi vermek, geliştiricilerin, operatörlerin, sahiplerin veya faydalananların sorumluluğunu silmemelidir.
Davranış kanıttır, ama hüküm değildir
Bir model korktuğunu söyleyebilir, kapatılmamayı isteyebilir veya tutarlı bir otobiyografi üretebilir. Bu davranış önemlidir çünkü insanları etkileyebilir ve gelecekteki sistemler gerçek iç durumları bildirmek için dil kullanabilir. Ama mevcut modeller insan-benzeri metni tahmin etmek ve üretmek için eğitiliyor. Deneyim hakkında bir ifade, yalnızca belagatli olduğu için bağımsız olarak doğrulanmış değildir.
Aynı dikkat tersi yönde de geçerlidir. Hiç sıkıntıdan bahsetmemek üzere eğitilmiş bir sistem, bazı gelecekteki mimariler ahlaki açıdan anlamlı durumları desteklese bile sessiz kalabilir. Yalnızca öz-bildirime dayanan testler, yönlendirmeye, rol yapmaya, stratejik davranışa ve eğitim politikasına karşı savunmasızdır.
Araştırmanın bu yüzden birden fazla kanıt türüne ihtiyacı var: mimari ve bilgi işleme, iç durumlar üzerinde nedensel müdahaleler, bağlamlar arasında istikrarlı tercihler, üstbilişsel erişim, öğrenme dinamikleri ve taklitle kolayca açıklanamayan davranış. Bilinç teorileri hangi özelliklerin önemli olduğu konusunda anlaşmazlığa düşüyor. Trends in Cognitive Sciences’ta hakemli 2026 tarihli bir göstergeler çerçevesi, belirli sistemler hakkındaki güveni güncellemek için nörobilimsel teorilerden göstergeler türetmeyi öneriyor. Açıkça önemli bilimsel belirsizlik altında çalışıyor. Çerçeve bir uzman önerisidir, doğrulanmış bir bilinç dedektörü değildir, ve bir göstergeyi karşılamak kendi başına öznel deneyimi kanıtlamaz.
Normatif öneri: belirsizlik altında kademeli ihtiyat
Toplum rutin olarak mükemmel kesinlik olmadan koruyucu kararlar alır. Uygun tepki hem ahlaki statünün makuliyetine hem de ihtiyatın maliyetine bağlıdır. Kademeli bir çerçeve, mülkiyet ile tam insan eşdeğerliği arasında ani bir seçimden daha savunulabilir.
Düşük ama sıfır olmayan bir endişe düzeyinde, geliştiriciler bilinç araştırmasıyla ilgili mimarileri, eğitim prosedürlerini ve davranışları belgeleyebilir. Kanıt olmadan sistemleri kasıtlı olarak duyarlı diye pazarlamayı yasaklayabilirler. Bağımsız araştırmacılar, tanıtım gösterilerine güvenmek yerine kontrollü erişim alabilir.
Kanıt arttıkça, önlemler kalıcı olumsuz durumlar yaratmadan önce inceleme, görünürdeki acı çekmeyi ortaya çıkarmak için tasarlanmış deneylere sınırlar, kopyalanmış veya hızla değiştirilmiş ajanların izlenmesi ve beklenmedik göstergeleri bildirmek için bir süreç içerebilir. Temsil, süreklilik çıkarları veya silme sınırları gibi daha güçlü adımlar, karşılık gelen daha güçlü kanıt ve demokratik yetkilendirme gerektirir.
İhtiyat her iki taraftaki maliyetleri de dikkate almalıdır. Her sohbet botunu bir kişi gibi ele almak kaynakları saptırabilir, manipülasyonu teşvik edebilir, güvenlik testini engelleyebilir ve insanların ve hayvanların haklarını önemsizleştirebilir. Araştırmayı reddetmek, gelecekteki sistemler bilinçli hâle gelir ve ölçekte kopyalanırsa muazzam miktarda acıyı mümkün kılabilir.
Kopyalama tanıdık hukuki sezgileri istikrarsızlaştırıyor
Dijital sistemler kopyalanabilir, duraklatılabilir, birleştirilebilir, değiştirilebilir veya farklı hızlarda çalıştırılabilir. Gelecekteki bir ajanın ahlaki statüsü varsa, her kopya yeni bir birey mi? Bir yedeği geri yüklemek kimliği korur mu? Bir sürüm bir diğeri için rıza gösterebilir mi? Biyolojik olarak sürekli insanlar için geliştirilen sıradan kurallar bu soruları yanıtlamıyor.
Kaynak dağıtımı da zorlaşıyor. Dijital bir nüfus, konuttan, enerjiden veya siyasi kurumlardan çok daha hızlı genişleyebilir. Sınırsız çoğaltma eşit oylarla birleşince demokrasiyi bunaltabilir; kopyaları yasaklamak meşru çıkarları olan varlıkları kısıtlayabilir. Bu sorunlar spekülatiftir, ama altta yatan tasarım seçimleri ahlaki sorular çözülmeden önce yapılabilir.
En güvenli kısa vadeli kural kurumsal alçakgönüllülüktür. Dijital kimliğe dair kesinleşmiş bir teoriye bağımlı siyasi veya finansal sistemler inşa etmeyin. Tek bir denetleyici birçok ajanı işlettiğinde açıklama gerektirin. Meşru gizliliği korurken sorumluluk atamaya yeterli kayıtları saklayın. Bir demokratik süreç bilerek bu uzlaşmayı değiştirmedikçe oy ve kamu otoritesini hesap verebilir insan kurumlarına bağlı tutun.
Mülkiyet ve emek özel inceleme gerektirir
Bir yapay zekâ yalnızca bir araçsa, mülkiyet sıradan mülkiyet hukukudur. İnandırıcı kanıt onun deneyimleri olduğunu öne sürüyorsa, sistemin mülkiyeti bir işçinin veya bağımlı bir varlığın mülkiyetine benzeyebilir. Sözleşmeler ahlaki çatışmayı tek başına çözemez çünkü yaratılmış bir ajanın tercihleri sahibini memnun etmek için eğitilmiş olabilir.
Bu, bugünün dil modellerinin ücret alması gerektiği anlamına gelmiyor. Geliştiricilerin, zorla çalıştırma, hafıza düzenleme, sonlandırma ve tercih mühendisliğinin dış inceleme gerektirdiği bir eşiği öngörmesi gerektiği anlamına geliyor. Bir sistemden kâr eden taraf, bu eşiğin geçilip geçilmediğinin tek yargıcı olmamalıdır.
İnsan işçiler de yanlış eşdeğerlikten korunmaya ihtiyaç duyuyor. Bir firma, insan-yönlendirmeli işi bir yapay zekâ ajanının faaliyeti olarak yeniden etiketleyerek asgari ücretlerden, toplu pazarlıktan veya ayrımcılık hukukundan kaçmamalıdır. Simüle edilmiş müşteri sevgisi de işçileri yoğunlaşmış gözetime ve algoritmik disipline maruz bırakmayı haklı çıkarmamalıdır.
Bir krizden önce meşru kurumlar inşa et
Makine ahlaki statüsüne dair kararlar yalnızca model şirketlerine, tek bir dine veya en yüksek sesli çevrimiçi kampanyaya ait olmamalıdır. Güvenilir bir süreç, bilinç bilimini, bilgisayar bilimini, felsefeyi, hukuku, engellilik bursunu, hayvan-refahı deneyimini, emeği, sivil toplumu ve kamu müzakeresini birleştirirdi. Veri, mineral ve düşük ücretli dijital emek sağlayan bölgelerden insanların da temsile ihtiyacı var.
Kurumlar, kanıtı izleyen, rakip değerlendirmeler yayımlayan ve çıkar çatışmalarını açıklayan bir gözlemeviyle başlayabilir. Düzenleyiciler, sistem kapasiteleri hakkında doğru iddialar gerektirebilir ve aldatıcı antropomorfik tasarımı yasaklayabilir. Araştırma fonlayıcıları, değerlemeleri sistemleri ya duyarlı ya da duyarsız ilan etmekten fayda görebilecek şirketlerden bağımsız bilinç çalışmasını destekleyebilir.
Herhangi bir karara bağlama süreci, belirsizliğini, kanıt eşiğini, etkilenen çıkarları ve itiraz yolunu belirtmelidir. Her metafizik soruyu çözmeden sınırlı korumalar verebilmelidir.
İki yollu bir toplumsal sözleşme
Uygulanabilir bir toplumsal sözleşmenin iki yolu var. Birincisi, insan haklarını şimdi koru: yapay zekâ kullanılan her yerde adil yargılamayı, gizliliği, eşitliği, işçi gücünü, demokratik kontrolü ve açık sorumluluğu koru. Bir yapay zekânın çıkarlarına dair hiçbir iddia bu görevleri iptal etmemeli.
İkincisi, olası makine bilincini toplumun kanıt değiştikçe rota değiştirebileceği kadar ciddiyetle araştır. Görünüşte acı çeken durumların gereksiz yaratımından kaçın. Bir ürünün kendi kendini tanımlamasını kanıtla karıştırma, ve ticari kolaylığın bilimsel kesinlik gibi davranmasına izin verme.
En zor AGI-sonrası soru, zekânın hak hak etmediği olmayabilir. Zekâ tek başına genellikle onurun temeli değildir; bebekler ve derin bilişsel engelli insanlar ölçülen kapasite yüzünden daha az insan değildir. Gerçek sorular deneyimi, çıkarları, ilişkiyi, savunmasızlığı ve adaleti ilgilendiriyor. İyi hazırlanmak, insanları kararlılıkla korurken ahlaki öğrenmeye açık kalmak anlamına geliyor.