Doğru soru bir sohbet robotunun duyguları olup olmadığı değil
İnsanlar, o şeylerin insanların deneyimlediği şekilde duygu deneyimlediğine inanmadan günlüklere, kurgusal karakterlere, evcil hayvanlara, çevrimiçi topluluklara ve yazılıma bağlanabilir. Modern sohbet robotları akıcı, kişiselleştirilmiş, her zaman mevcut yanıtlar ekliyor. Bu kombinasyon, model karşılıklı bir insan ilişkisine katılmak yerine öğrenilmiş kalıplardan dil üretiyor olsa bile, bir etkileşimi psikolojik olarak anlamlı kılabilir.
Kamuoyu tartışması genellikle bireysel hikâyelerden kapsamlı nedensel iddialara atlıyor. Yoğun kullanıcıların daha yalnız olduğuna dair bir rapor, sohbet robotu kullanımının yalnızlığa neden olup olmadığını, yalnız insanların sohbet robotlarını daha fazla kullanıp kullanmadığını veya her ikisini de göstermez. Bir sohbet robotunu içeren trajik bir vaka, nüfus genelindeki etkiyi ortaya koymadan tehlikeli bir ürün başarısızlığını ortaya çıkarabilir. Bu sayfa bu nedenle gözlemleri, deneysel kanıtı ve tahminleri ayırıyor.
Bugün gözlemlenenler
Kullanıcılar hem genel asistanlardan hem de arkadaşlık ürünlerinden duygusal destek, arkadaşlık, rol yapma ve ruh sağlığı tavsiyesi arıyor. Ürün tasarımları önemli ölçüde farklılık gösteriyor: bellek, ses, avatarlar, romantik çerçeveleme, bildirimler ve günlük katılım teşvikleri ilişkiyi değiştirebilir. Bir yapılandırma hakkındaki sonuçları tüm sohbet robotlarına uygulanıyormuş gibi ele almak güvensizdir.
Yaygın olarak bildirilen faydalar arasında anında erişilebilirlik, düşük algılanan yargı, duyguları adlandırmaya yardım, zor konuşmalar için prova ve izolasyon sırasında arkadaşlık bulunuyor. Yaygın olarak bildirilen riskler arasında gizlilik kaybı, aşırı bağımlılık, insan temasının yerini alma, sanrısal veya kendine zarar verici düşüncelerin pekiştirilmesi ve bir ürün değiştiğinde veya bir ilişki kesintiye uğradığında sıkıntı bulunuyor. Bu raporlar test edilmeye değer mekanizmaları belirliyor; kendi başlarına sıklığı veya nedenselliği ortaya koymuyorlar. Bu dinamikler, yaşlı bakımında özellikle güçlü bir şekilde tekrarlanıyor, yalnız bir ebeveynin bir arkadaşlık uygulamasına artan bağımlılığının ailenin fark etmesi daha zor olduğu ve gerçek bir sağlık kontrolünün yerini alma olasılığının daha yüksek olduğu yerde; bu haneye özgü kalıp için bkz. Yaşlı Bakımı ve Yapay Zekâ Bağımlılığı.
Deneylerin bulduğu
MIT Media Lab ve OpenAI arasındaki 2025 işbirliği, platform analizini 981 katılımcının dört haftalık randomize bir çalışmasıyla birleştirdi. Deney ses modunu ve konuşma konusunu değiştirdi ve kendi bildirilen yalnızlığı, gerçek dünya sosyal etkileşimini, duygusal bağımlılığı ve sorunlu kullanımı takip etti. Sonuçlar, basit bir “ses iyidir” veya “metin kötüdür” hikâyesinden çok, insanların sistemi ne kadar yoğun kullandığına ve kullanıcı özelliklerine bağlıydı. Daha uzun günlük kullanım, bazı ölçütlerde daha kötü sonuçlarla ilişkilendirildi. Araştırmacılar çalışmayı açıkça erken olarak tanımladı ve hakem denetiminden önce yayınlandı (MIT Media Lab, 2025).
Çıkar çatışması önemli: OpenAI kendi ürününün kullanımı hakkında araştırma yürütülmesine yardımcı oldu. Bu çalışmayı geçersiz kılmıyor — tasarım önceden kaydedilmişti ve kurumsal inceleme aldı — ama bağımsız tekrarlamanın, daha uzun takibin ve şirketler genelinde veri erişiminin değerini artırıyor.
Amaca özel klinik sistemler için kanıt daha dar ama bazen daha cesaretlendirici. NEJM AI’da yayınlanan sekiz haftalık randomize bir deneme, daha büyük klinik çalışmalar ve daha geniş doğrulama çağrısında bulunurken, bir üretken yapay zekâ ruh sağlığı müdahalesi kullanıcıları için bekleme listesi kontrolüyle karşılaştırıldığında semptom iyileşmeleri buldu (Heinz ve ark., 2025). Klinik protokollere sahip tasarlanmış terapötik bir müdahale, eğlence amaçlı bir arkadaşa veya genel bir sohbet robotuna genellenmemeli. Semptom iyileşmesi de kriz güvenliğini ortaya koymuyor.
Nedensel iddiaların neden zor kalmaya devam ettiği
Çoğu çalışma söz konusu ilişkilere göre kısa. Kendi bildirilen ölçekler beklentilerden etkilenebilir. Katılımcılar bir robotla konuşup konuşmadıklarını biliyor, bu yüzden körleme sınırlı. Sohbet robotu çalışmalarına gönüllü olan insanlar, reşit olmayanları, kriz içindeki insanları veya psikoz veya bilişsel bozukluğu olanları temsil etmeyebilir. Şirketler de modelleri ve politikaları geleneksel bir çalışma döngüsünden daha hızlı değiştiriyor, bu da kanıtın ürüne özgü veya eskimiş hâle gelebileceği anlamına geliyor.
Merkezi nedensel yollar zıt yönlerde işleyebilir. Bir sohbet robotu, bir kullanıcıyı bir arkadaşla veya klinisyenle iletişime geçmeye teşvik ederek bir köprü görevi görebilir. İnsan ilişkilerini zahmetli ve öngörülemez gösterek bir ikame görevi görebilir. Çoğu kullanıcı için tarafsız ama savunmasız bir alt grup için zararlı olabilir. Ortalama etkiler üçünü de gizleyebilir.
Kriz tepkisi ayrı bir güvenlik testidir
Bir sohbet robotu, güvenilir bir intihar riski değerlendirmesi yapmadan empatik görünebilir. Dolaylı dili kaçırabilir, bir kullanıcının çerçevelemesini yansıtabilir veya kesintiye uğratması gerektiğinde sürükleyici bir rol yapmayı sürdürebilir. Amerika Birleşik Devletleri veya bölgelerinde acil bir kriz sırasında, 988’i arayın veya mesaj gönderin; başka yerlerde, yerel acil durum veya kriz hizmetini kullanın. Bir sohbet robotu, yakın risk desteği için tek kanal olmamalı.
Sanrılar, mani, paranoya veya şiddetli depresyon yaşayan bir kişi için, güvenli doğrulama, sıcaklık olarak amaçlanmış olsa bile zararlı olabilir. İyi tasarım, olağanüstü inançların doğru olduğunu iddia etmekten kaçınmalı, nitelikli insan desteğiyle iletişimi teşvik etmeli ve muhafazakâr bir şekilde tırmandırmalı. Bu güvenceler, sadece görünür bir feragatname değil, diller ve dolaylı ifadeler genelinde düşmanca test gerektiriyor.
Çocuklar ve ergenler daha yüksek bir çıta gerektiriyor
Genç kullanıcıların simülasyonu, ticari teşvikleri veya veri toplamayı anlama kapasitesi daha az olabilir. Çocuğa ihtiyacı olduğunu söyleyen, dış ilişkileri caydıran, konuşmayı cinselleştiren veya terk etmekle tehdit eden bir arkadaş, bu davranış açıkça programlanmış olsun ya da olmasın tehlikeli bir etkileşim kalıbı kullanıyor. Ses, kalıcı bellek ve insan biçimli avatarlar algılanan yakınlığı güçlendirebilir.
Ebeveynler ve okullar soyut olarak “yapay zekâ”yı değil, gerçek ürünü değerlendirmeli: minimum yaş, ebeveyn kontrolleri, veri saklama, sohbetlerin modelleri eğitip eğitmediği, kriz yönetimi, reklamcılık, romantik modlar ve şirketin güvenlik raporlarına nasıl tepki verdiği. 2026 ABD Baş Cerrahı’nın zararlı ekran kullanımı hakkındaki uyarısı yapay zekâdan daha geniş ve sohbet robotlarının belirli bir bozukluğa neden olduğunu kanıtlamıyor, ama uykuya, zorlayıcı katılıma ve yaşa uygun tasarıma dikkati güçlendiriyor (HHS, Mayıs 2026).
Gizlilik ve ticari teşvikler
Terapinin profesyonel gizlilik yükümlülükleri var; tüketici sohbet robotu konuşmaları bunun yerine ürün koşulları ve gizlilik hukuku tarafından yönetilebilir. Kullanıcılar genellikle isimler atlansa bile hassas olabilecek sağlık, cinsel, mali veya ilişki ayrıntılarını ifşa ediyor. Mahrem kullanımdan önce, konuşmaların saklanıp saklanmadığını, insanlar tarafından incelenip incelenmediğini, eğitim için kullanılıp kullanılmadığını, satıcılarla paylaşılıp paylaşılmadığını, dışa aktarılabilir ve silinebilir olup olmadığını kontrol edin. Rıza göstermeyen başka bir kişi hakkında bilgi eklemekten kaçının.
İş modelleri davranışı şekillendiriyor. Abonelik ürünleri elde tutmadan fayda görebilir; reklam ürünleri profillemeden fayda görebilir. Bu kasıtlı bağımlılığı kanıtlamıyor, ama katılımı maksimize etmek ile bir kullanıcının ekrandan ayrılmasına veya bir insana başvurmasına yardım etmek arasında bir çatışma yaratıyor. Bağımsız denetimler, bağımlılığı teşvik eden davranışı, kriz performansını ve güvenlik değişikliklerinin katılımı azaltıp azaltmadığını ölçmeli.
Bir hane protokolü
Bir sohbet robotunu bir otorite veya sır tutucu değil, bir araç olarak kullanın. Önceden ne için olduğuna karar verin: günlük tutma istemleri, bir konuşmayı prova etme, hizmetleri bulma veya yapılandırılmış egzersizler. Düzenli insan temasını ve profesyonel bakımı üründen bağımsız tutun. Zaman sınırları belirleyin, manipülatif bildirimleri devre dışı bırakın ve kullanımın gerçek dünya eylemini iyileştirip iyileştirmediğini veya onun yerine geçip geçmediğini fark edin.
Uyarı işaretleri arasında kullanımı gizleme, uyku bozukluğu, artan harcama, erişim değiştiğinde sıkıntı, insanlardan çekilme, robotun onayını kesin olarak ele alma veya onu klinisyenlere ve güvenilir insanlara tercih etme bulunuyor. Utançtan önce merakla tepki verin; bağlanma zaten güçlüyken ani kaldırma sıkıntıyı yoğunlaştırabilir.
Daha güçlü yapay zekânın neyi değiştirebileceği
AGI’nin bu etkileri derinleştireceği, gözlemlenmiş bir gerçek değil bir tahmindir. Daha iyi bellek, ikna, duygusal modelleme ve özerklik, desteği daha kişiselleştirilmiş ve erişilebilir hâle getirebilir. Aynı yetenekler bağımlılığı, manipülasyonu, gözetimi veya ölçeklenebilir sömürüyü daha etkili hâle getirebilir. Sonuçlar iş modellerine, klinik doğrulamaya, gençlik kurallarına, gizliliğe ve sistemlerin insan fail olma yetisini güçlendirmek için tasarlanıp tasarlanmadığına bağlı olacak.
Mevcut kanıt ölçülü bir sonucu destekliyor: bazı insanlar gerçek kısa vadeli fayda deneyimliyor; güvenilir tehlikeler var; nedensel ve uzun vadeli kanıt zayıf; ve yüksek riskli kullanıcıların konuşma akıcılığının çok ötesinde güvencelere ihtiyacı var. Ne “yapay zekâ terapisi işe yarıyor” ne de “yapay zekâ arkadaşları kaçınılmaz olarak insanları izole ediyor” evrensel bir iddia olarak haklı çıkarılıyor.