Önce kesin terimler kullanın
“Açık kaynak yapay zekâ” genellikle çok farklı yayınları tanımlar. Bir geliştirici, eğitim verilerini, eğitim kodunu, veri işleme yöntemlerini, değerlendirme ayrıntılarını veya değiştirme ve yeniden dağıtma için geniş hakları saklarken model ağırlıklarını yayımlayabilir. Açık kaynak yazılım tanımları, opak veri kökenine sahip eğitilmiş bir modele otomatik olarak uygulanamaz.
Bu sayfa bu nedenle, bir modeli çalıştırmak ve değiştirmek için gereken sayısal parametrelerin geniş çapta erişilebilir olduğu durumlarda açık ağırlıklar terimini kullanıyor. Bir yayının kısıtlayıcı bir lisans altında açık ağırlıkları olabilir veya ağırlıklar olmadan açık kod sağlayabilir. Belgeleme ve tekrarlanabilirlik ayrı boyutlardır.
Terminoloji önemlidir çünkü fayda ve riskler neyin yayımlandığına bağlıdır. Araştırmacılar yalnızca ağırlıklardan eğitimi yeniden üretemez, ancak ağırlıklar yine de bir API’nin engellediği yerel çıkarımı, ince ayarı ve dahili analizi mümkün kılabilir.
Daha geniş erişimin lehine argüman
Açık ağırlıklar, az sayıda barındırılan sağlayıcıya bağımlılığı azaltır. Geliştiriciler modelleri kendi altyapılarında çalıştırabilir, hassas istemleri üçüncü taraf bir hizmetten koruyabilir, sistemleri yerel dillere ve alanlara uyarlayabilir ve bir satıcı fiyat veya politika değiştirirse çalışmaya devam edebilir. Rekabet maliyeti düşürebilir ve teknik kapasiteyi yayabilir.
Araştırmacılar; sağlayıcı onayını beklemeden aktivasyonları inceleyebilir, model düzenlemesini test edebilir, değerlendirmeleri tekrarlayabilir ve önyargı veya güvenliği araştırabilir. Sivil toplum ve üniversiteler, geliştiricisinin ayrıcalıklı API erişimi vermeyeceği bir modeli inceleyebilir. Yerel dağıtım, gizliliği ve bağlantı kısıtlı kullanımları destekleyebilir.
Açıklık ayrıca bilgiyi koruyabilir. Kapalı bir hizmet ortadan kalkabilir; bir ağırlık yayını arşivlenip incelenebilir. Topluluklar, büyük bir satıcı için kârlı olmayan erişilebilirlik ve dil özellikleri oluşturabilir.
Bu faydalar otomatik değildir. Büyük bir modeli çalıştırmak hâlâ donanım ve uzmanlık gerektirir. “Demokratikleşme”, sıradan insanlar yerine iyi finanse edilmiş şirketler için erişim anlamına gelebilir. Açık-ağırlıklı bir sağlayıcı, ekosistem katkılarından, bulut talebinden veya standart belirlemeden ticari olarak yararlanabilir. Bu teşvikler, kamu yararını göz ardı etmeden açıklanmalıdır.
Kontrollü erişimin lehine argüman
Ağırlıklar geniş çapta yansıtıldıktan sonra güvenilir bir şekilde geri çağrılamaz. Kullanıcılar reddetme eğitimini kaldırabilir, kötüye kullanım için ince ayar yapabilir, faaliyeti merkezi bir izleyiciden gizleyebilir ve birçok kopya dağıtabilir. Bu varsayımsal değil, gösterilmiş bir durumdur: araştırmacılar, hafif bir ince-ayar tekniği kullanarak tek bir GPU’da 200 dolardan az bir maliyetle Llama 2-Chat 70B’nin güvenlik eğitimini geri aldılar (Lermen ve ark., 2023). Barındırılan bir sağlayıcı hız sınırlaması yapabilir, örüntüleri izleyebilir, davranışı yamalayabilir ve hesapları sonlandırabilir; yerel çalıştırma bu kontrolün çoğunu ortadan kaldırır.
Marjinal risk, modelin mevcut araçların, kapalı API’lerin, uzman bilgisinin ve önceki açık modellerin ötesinde ne eklediğine bağlıdır. Bir yetenek başka bir yerde zaten ucuza mevcutsa, ağırlıkları kısıtlamak güvenliğe az şey katabilir. Ağırlıklar önemli ölçüde daha etkili siber istismarı, biyolojik yardımı, dolandırıcılığı veya özerk operasyonu mümkün kılıyorsa, geri döndürülemez yayın büyük ölçüde önemli olabilir.
İlgili soru, bilginin asla kötüye kullanılıp kullanılamayacağı değil, bu yayının zarar vermesi muhtemel aktörler için yeteneği, ölçeği, maliyeti, atfedilebilirliği veya erişimi değiştirip değiştirmediğidir.
ABD kanıt incelemesinin sonucu
Ulusal Telekomünikasyon ve Bilgi İdaresi, 2024’te 332 kamu yorumunu ve mevcut kanıtı inceledi. O tarihte kanıtların, model ağırlıklarının en geniş çapta erişilebilirliğine ilişkin acil kategorik bir kısıtlamayı desteklemeye yetersiz olduğu sonucuna vardı, ancak riskler değişirse aktif izleme ve hükümet kapasitesi tavsiye etti (NTIA, Temmuz 2024).
Bu sonuç tarihlidir ve koşulludur. Gelecekteki öncü yayınların güvenli olduğunu veya kısıtlamaların asla haklı çıkarılamayacağını kanıtlamaz. NTIA, yenilik, rekabet ve güvenliği dengeleyen bir hükümet kurumudur; birçok başvuru menfaatli şirketlerden ve savunuculardan geldi. Raporu güçlü bir politika sentezidir, net sosyal etkiyi gösteren bir deney değil.
Avrupa Birliği’nin farklılaştırılmış yaklaşımı
AB Yapay Zekâ Yasası, uygun ücretsiz ve açık kaynaklı genel amaçlı modeller için belirli belgeleme yükümlülüklerinden bazı muafiyetler sağlıyor, ancak genel bir muafiyet değil. Sistemik riski olan genel amaçlı model sağlayıcıları hâlâ ek yükümlülüklere tabidir. Bir yayının uygun olup olmadığı, pazarlama dilinden değil, erişim ve ifşa dahil yasal kriterlere bağlıdır (Avrupa Komisyonu GPAI rehberi, 2025).
Bu, yetenek-katmanlı yönetişimi gösteriyor: marjinal riskler yönetilebilir olduğunda açıklığı teşvik ederken sistemik-risk modelleri için yükümlülükleri koruyor. Yaptırım hâlâ geri döndürülemez yayından önce yeteneği değerlendirme zorluğuyla karşı karşıya.
İkili bir seçime alternatifler
Erişim aşamalandırılabilir. Bir geliştirici, iç ve bağımsız değerlendirmelerle başlayabilir, ardından kontrollü araştırma erişimi, barındırılan bir hizmet, güvenlik koşulları altında güvenilir kurumlara ağırlıklar ve son olarak kanıt destekliyorsa kamuya açık yayın sunabilir. Gecikmeler, savunmacıların güvenlik açıklarını yamalayıp düzenleyicilerin hazırlanmasına izin verebilir.
Yapılandırılmış erişim, yayılmayı sınırlarken bir miktar araştırma faydasını koruyabilir, ancak eleştirmenleri veya rakipleri dışlayabilecek kapı bekçileri yaratır. Seçim kriterleri, çıkar çatışması kuralları, itiraz, yayın hakları ve gözetim gereklidir. Yalnızca model geliştiricisi tarafından kontrol edilen bir “güvenilir araştırmacı” programı bağımsız şeffaflık değildir.
Diğer seçenekler; daha küçük veya damıtılmış modeller yayımlamayı, öncü ağırlıklar olmadan kod ve ayrıntılı değerlendirmeler yayımlamayı, analiz için güvenli kapalı alanlar sağlamayı veya bazı davranışları yasaklayan lisanslar kullanmayı içerir. Lisanslar yasal kullanıcıları etkiler ama kötü niyetli aktörlere karşı zayıf teknik engellerdir.
Bir yayın kararı nasıl verilir
Ciddi bir yayın değerlendirmesi şunları karşılaştırmalıdır:
- mevcut açık ve kapalı alternatiflere karşı tehlikeli yetenekler;
- güvenlik önlemlerini kaldırmak veya ince ayar yapmak için gereken hesaplama ve uzmanlık;
- yalnızca ağırlıklar gerektiren, API erişimi gerektirmeyen faydalar;
- yayımlanmamış ağırlıkların güvenliği ve çalınma riski;
- yayından sonra kötüye kullanımı izleme yeteneği;
- zengin olmayan devletlerdeki araştırmacılar dahil etkilenen gruplar;
- geri döndürülebilirlik ve aşamalı-erişim seçenekleri;
- model belgeleri, lisans hakları ve veri kökeni.
Değerlendirmeler; siber, kimyasal ve biyolojik yardım, ikna, otonom çoğaltma, gizlilik ve ilgili olduğunda sıradan ayrımcılık veya dolandırıcılığı kapsamalıdır. Bir kıyaslama eşiği, gerçek iş akışlarını temsil etmiyorsa yeterli değildir.
Güvenlik yalnızca gizlilik yoluyla değildir
Kapalı sistemlerin eleştirmenleri, ağırlıkları saklamanın güvenlik açıklarını gizleyebileceğini ve güveni yoğunlaştırabileceğini belirtiyor. Açıklığın eleştirmenleri, silahla ilgili bir yeteneği yayımlamanın bir yazılım hatasını sorumlu bir şekilde ifşa etmekle eşdeğer olmadığını belirtiyor. Her iki gözlem de doğru olabilir.
Sorumlu ifşa genellikle etkilenen savunmacılara hareket etmek için zaman verir. Bazı modeller için, geniş inceleme zarardan daha fazla savunma üretebilir; diğerleri için, yaygın erişim önlemler mevcut olmadan geri döndürülemez bir tehlike yaratabilir. Marjinal risk ve tepki hazırlığı hakkındaki kanıt sırayı belirlemelidir.
AGI riskleri değiştirir ama kanıt ihtiyacını değiştirmez
Kabul edilmiş bir test altında hiçbir açık model AGI olarak belirlenmedi. AGI ağırlıklarını yayımlama hakkındaki iddialar senaryo analizidir. Bir model özerk olarak üst düzey araştırma yapabilseydi, sistemlere sızabilseydi, kaynak edinebilseydi veya haleflerini geliştirebilseydi, onu kopyalamak sınırlamayı keskin bir şekilde azaltabilirdi. Tersine, bu yeteneği münhasır kurumsal veya devlet kontrolü altına yerleştirmek derin yoğunlaşma ve kötüye kullanım riskleri yaratabilirdi.
Sloganların başarısız olmasının nedeni budur. “Açık her zaman daha güvenlidir” geri döndürülemezliği görmezden gelir; “kapalı her zaman daha güvenlidir” yoğunlaşmayı, hırsızlığı ve inceleme eksikliğini görmezden gelir. Gelecekteki politika, bir marka kategorisini değil, yetenek ve erişim koşullarını tanımlamalıdır.
Dengeli bir konum
Mevcut daha düşük riskli modeller için açıklık; önemli rekabet, araştırma, dayanıklılık, gizlilik ve kapsayıcılık faydaları sunabilir. Giderek daha yetenekli modeller için aşamalı yayın ve kanıta dayalı değerlendirme daha önemli hâle gelir. Kısıtlamalar belirli bir marjinal riski göstermeli, usul güvencesi sunmalı ve yeniden gözden geçirilmelidir; yayın kararları geri döndürülemez erişimin neden haklı olduğunu göstermelidir.
Tartışma özgürlük ile güvenlik arasında bir seçim değildir. Yetenek, erişim, yoğunlaşma, hesap verebilirlik ve geri döndürülebilirliği içeren bir tasarım sorunudur. Kesin terminoloji ve şeffaf kanıt bu sorunu yönetilebilir kılar.