“Gerçek mi sahte mi?” genellikle yanlış ilk sorudur
Gerçek bir fotoğraf yanlış bir başlık taşıyabilir. Yapay zekâ tarafından üretilen bir diyagram gerçek bir bilimsel sonucu açıklayabilir. Gerçek bir kayıt, anlamını tersine çevirmek için kırpılabilir. Uydurulmuş bir ses gerçekleri tekrarlayabilir. Medya okuryazarlığı en az üç soruyu ayırarak başlar: Bu dosya nereden geldi? Ona ne oldu? Desteklediği iddia kanıttan mı geliyor?
Hiçbir dedektör veya kimlik bilgisi üçünü de cevaplamıyor. İçerik kökeni, köken ve düzenleme hakkında kanıt sağlayabilir. Tespit, bilinen bir üretim sürecinin dahil olup olmadığını tahmin edebilir. Gazetecilik ve doğrulama altta yatan iddiayı değerlendirir. Herhangi bir tek katmanı bir gerçek makinesi olarak ele almak yeni savunmasızlıklar yaratır.
C2PA İçerik Kimlik Bilgileri neler içeriyor
İçerik Kökeni ve Özgünlüğü Koalisyonu, dijital medyaya kriptografik olarak imzalanmış iddialar eklemek için açık bir teknik standart yayınlıyor. Bir manifesto, imzalayan aracı veya cihazı, düzenleme eylemlerini, bir varlığı oluşturmak için kullanılan bileşenleri ve uygulayıcı tarafından seçilen diğer bilgileri belirleyebilir. Kriptografik hash’ler, kimlik bilgisini içeriğe bağlar, böylece yetkisiz değişiklikler tespit edilebilir.
Bu, soruyu “Sentetik görünüyor mu?“dan “Hangi imzalayan bu dosya hakkında hangi iddiaları yaptı, ve imzalanan kayıt bozulmadan kaldı mı?“ya değiştirir. İçerik Özgünlüğü Girişimi, kimlik bilgilerini bir hüküm yerine bir besin etiketi olarak tanımlıyor (CAI genel bakışı).
Bir doğrulayıcı yine de imzalayana ve sertifika zincirine güvenip güvenmeyeceğine karar vermeli. Geçerli bir imza, bir özel anahtarın sahibinin iddiaları imzaladığını gösterir; cihazın tehlikeye atılmadığını, operatörün dürüst olduğunu veya tasvir edilen olayın kendiliğinden olduğunu kanıtlamaz.
Köken gerçeği kanıtlamaz
C2PA açıklayıcısı açıktır: köken, köken ve geçmiş hakkında yargıları destekleyebilir, ama tek başına içeriğin doğru, kesin veya olgusal olup olmadığını belirleyemez. Ayrıca kökenin eksik olabileceğini ve meta verinin kaldırılabileceğini söylüyor (C2PA açıklayıcısı).
Bu birkaç pratik sınırlama yaratıyor:
- düzenlenmiş bir sahne gerçek bir kamera tarafından yakalanabilir;
- dürüst bir düzenlemenin uyumlu kökeni olmayabilir;
- kötü niyetli veya tehlikeye atılmış bir imzalayan yanıltıcı iddialarda bulunabilir;
- ekran görüntüleri ve platform işlemesi meta veriyi temizleyebilir;
- eski veya düşük maliyetli bir cihaz hiçbir zaman kimlik bilgisi oluşturmayabilir;
- kalıcı filigran veya parmak izi bağlantıları başarısız olabilir veya yanlış eşleşmeler yaratabilir;
- kimlik bilgisi gazetecileri, aktivistleri veya suistimal kurbanlarını tehlikeye atabilir.
Kimlik bilgilerinin yokluğu bu nedenle uydurmanın kanıtı değil, bilinmeyen kökendir. Varlığı, anlamı imzalayana, iddialara ve bağlama bağlı olan tek bir olumlu sinyaldir.
Kalıcı kimlik bilgileri ve ödünleşimleri
C2PA, kriptografik hash’ler gibi “sert bağlamaları” ve meta veri temizlendikten sonra bir kimlik bilgisini yeniden keşfetmeye yardımcı olabilecek filigranlar veya parmak izleri gibi “yumuşak bağlamaları” destekliyor. Kalıcılık sebatı iyileştiriyor ama kaldırmayı imkânsız kılmıyor. Kırpma, sıkıştırma, yeniden kaydetme, düşmanca düzenleme veya desteklenmeyen platformlar bağlantıyı kırabilir.
Bulut tabanlı kimlik bilgileri, kullanılabilirlik, yönetişim ve gizlilik soruları getiriyor. Güven listeleri, doğrulayıcıların hangi sertifika otoritelerini tanıdığını belirler. Tehlikeye atılmış anahtarların iptal edilmesi ve tehlikeye atılmadan önce ve sonra imzalanan içeriği ayırt etmenin bir yoluna ihtiyacı var. Uygulayıcılar saklama, arama, düzeltme ve itirazı belgelemeli.
Kimlik yaratmanın tehlike yarattığı yerde köken isteğe bağlı veya gizliliği koruyan olmalı. Standart, doğası gereği bir yaratıcının kişisel kimliğini gerektirmiyor. Ürünler aksini önermekten kaçınmalı.
Filigranlar ve etiketler
Bir filigran, içeriğe bir sinyal gömer. Görünür veya gizli olabilir ve bir üretici veya sentetik köken belirleyebilir. Sağlam filigranlar bazı sıradan dönüşümlerden sağ çıkabilir, ama kararlı aktörler, özellikle açık bir üretim ardışık düzenini kontrol ettiklerinde, onları kaldırabilir veya kaçınabilir.
Etiketler kullanıcıların bağlamı anlamasına yardımcı olabilir, yine de ifadeleri ve görünümü önemlidir. “Yapay zekâ tarafından üretildi” hafifçe düzenlenmiş bir fotoğraf için çok geniş ve sentetik anlatımla eşleştirilmiş gerçek bir görüntü için çok dar olabilir. Etiketler ayrıca insanları etiketlenmemiş gerçek kanıtı reddetmeye teşvik eden bir “yalancının temettüsü” yaratabilir.
NIST’in sentetik içerik raporu köken, filigranlama, etiketleme ve tespiti inceliyor ve sağlamlık ve zarar azaltma hakkındaki belirsizlikleri tanımlıyor (NIST AI 100-4). Politikalar gerçek platform ardışık düzeninde test gerektirmeli ve yanlış pozitif, yanlış negatif ve kaldırma sonuçlarını yayınlamalı.
Tespit sıralama, hüküm değil
Dedektörler, metnin, sesin, görüntünün veya videonun bilinen üreticilerden çıktılara benzeyip benzemediğini çıkarım yapar. Eğitimli bir analiste yardımcı olabilir, incelemeye öncelik verebilir veya bir model ailesini belirleyebilir. Sıkıştırmadan, çeviriden, düzenlemeden veya yeni bir üreticinin serbest bırakılmasından sonra başarısız olabilirler. Bir düşman, kamuya açık bir dedektörü araştırabilir ve uyum sağlayabilir.
Yanlış suçlama ciddi bir zarardır. Bir öğrenci, işçi, gazeteci veya sığınma arayan kişi, bir dedektör bir olasılık döndürdüğü için bir fırsatı kaybetmemeli. Yüksek riskli kararların doğrulayıcı kanıta, sınırlamaların bir açıklamasına, insan incelemesine ve bir itiraza ihtiyacı var. Kurumlar, bulguların tekrarlanabilmesi için orijinal dosyayı ve araç sürümünü korumalı.
Tespit ve köken birbirini tamamlayabilir. Geçerli bir kimlik bilgisi bilinen bir iş akışı oluşturabilir; bir dedektör açıklanamayan bir tutarsızlığı işaretleyebilir; kaynak haberciliği bunu çözebilir. Anlaşma güveni artırır ama yine de temsil edilen iddiayı kanıtlamaz.
Pratik bir doğrulama iş akışı
Önemli bir öğe ortaya çıktığında:
- Paylaşmadan önce duraklayın. Aciliyet ve duygusal yoğunluk, yanlışlığın kanıtı değil, kontrol etme nedenleridir.
- Mevcut en erken kaynağı bulun. Ekran görüntüleri ve yeniden gönderiler bağlamı kaldırır.
- Varsa kimlik bilgilerini inceleyin. İmzalayanı, oluşturma aracını, düzenlemeleri, doğrulama durumunu ve eksik geçmişi belirleyin.
- İddiayı ayrı olarak kontrol edin. Medya gerçekten başlığın söylediğini gösteriyor mu?
- Bağımsız doğrulama arayın. Bir gönderiyi tekrarlayan birçok site yerine farklı tanıklar veya kayıtlar arayın.
- Zamanı ve yeri kontrol edin. Ters görüntü arama, dönüm noktaları, hava durumu, gölgeler ve yayın geçmişi geri dönüştürülmüş medyayı ortaya çıkarabilir.
- Kimliği kanal dışı doğrulayın. Acil para veya güvenlik talepleri için bilinen bir numara veya şahsen bir kanal kullanın.
- Kanıtı koruyun. Bildirmeden önce orijinal URL’yi, dosyayı, zaman damgasını ve mesajları kaydedin.
Rutin düşük riskli içerik için, her öğenin adli bir soruşturma gerektirmesi gerekmiyor. Çaba, yanlış olmanın sonucuyla eşleşmeli.
Alaycılığı öğretmeden medya okuryazarlığını öğretmek
Amaç kalibre edilmiş güvendir. “Çevrimiçi hiçbir şeye inanma,” insanları tanıdık hisseden herkese karşı savunmasız bırakır. Daha iyi öğretim, bilginin nasıl üretildiğini açıklar: birincil kanıt, editoryal inceleme, düzeltme, uzmanlık, çıkar çatışmaları ve belirsizlik.
UNESCO’nun medya ve bilgi okuryazarlığı kaynakları, üretken yapay zekâ dahil, bilgiyle ve dijital sistemlerle eleştirel etkileşimi vurguluyor (UNESCO MIL). Çoğulcu bir müfredat, farklı siyasi ve kültürel perspektiflerden örnekler kullanmalı, yanlış bilgiyi anlaşmazlıktan ayırt etmeli ve öğrencilerin güvenilir kurumlara kanıtla itiraz etmesine izin vermeli.
Egzersizler, bir orijinal belgeyi bir yorumla karşılaştırabilir, gerçek bir kimlik bilgisini inceleyebilir, geri dönüştürülmüş bir görüntüyü izleyebilir ve bir dedektörün hatalarını değerlendirebilir. Öğrencilere yeni kanıt geldiğinde bir sonucu gözden geçirmeyi öğretin.
Yayıncıların ve platformların yapması gerekenler
Güvenli olduğunda kaynakta kökeni yakalayın, düzenleme boyunca koruyun ve erişilebilir bir şekilde gösterin. Orijinal dosyaları ve düzeltme geçmişini koruyun. Bir kimlik bilgisinin ne kurduğunu ve ne kurmadığını açıklayın. Tüm kimlik bilgisiz içeriği otomatik olarak düşürmeyin.
Platformlar birlikte çalışabilir meta veriyi korumalı, işlemenin onu ne zaman kaldırdığını ifşa etmeli, iptali desteklemeli ve araştırmacılara etkinliği incelemek için gizliliği koruyan erişim sunmalı. Haber odalarının ve kamu kurumlarının tehlikeye atılmış hesaplar veya imzalama anahtarları için kimliği doğrulanmış kanallara ve olay planlarına ihtiyacı var.
Model geliştiricileri üretilen medyaya köken uygulayabilir, ama kötü niyetli aktörler bunu yapmayan araçlar kullanabilir. Benimseme, işbirliği yapan katılımcılar arasındaki belirsizliği azaltır; düşmanca sentetik içeriği ortadan kaldırmaz.
Pratik sonuç
İçerik kökeni, bir dosyanın beyan edilen kökenini ve geçmişini belirlemek için değerli bir altyapıdır. Gerçeği kanıtlayamaz, tam geçmişi garanti edemez ve temizlenebilir. Tespit soruşturmayı destekleyebilir ama doğrulanmamış yüksek riskli yargılar için çok kırılgandır. Medya okuryazarlığı, her iki teknolojinin de eksik olduğu muhakemeyi sağlar.
En güçlü yaklaşım, imzalanmış geçmişi, dikkatli tespiti, bağımsız doğrulamayı, kimliği doğrulanmış kanalları, şeffaf düzeltmeleri ve itirazı birleştirir. Sonuç, kamuoyundan muhakemeyi dışarıya devretmesini isteyen yeni bir rozet değil, daha fazla kanıt ve daha iyi kalibre edilmiş güven olmalıdır.