Pertanyaan yang benar bukanlah apakah sebuah chatbot memiliki perasaan
Orang dapat membentuk kelekatan pada buku harian, karakter fiksi, hewan peliharaan, komunitas daring, dan perangkat lunak tanpa percaya bahwa hal-hal itu mengalami emosi dengan cara yang sama seperti manusia. Chatbot modern menambahkan respons yang fasih, dipersonalisasi, dan selalu tersedia. Kombinasi itu dapat membuat sebuah interaksi bermakna secara psikologis bahkan ketika modelnya menghasilkan bahasa dari pola yang dipelajari alih-alih berpartisipasi dalam sebuah hubungan manusia yang timbal-balik.
Debat publik seringkali melompat dari kisah-kisah individual ke klaim kausal yang menyeluruh. Sebuah laporan bahwa pengguna berat lebih kesepian tidak menunjukkan apakah penggunaan chatbot menyebabkan kesepian, orang kesepian menggunakan chatbot lebih banyak, atau keduanya. Sebuah kasus tragis yang melibatkan sebuah chatbot dapat mengungkap sebuah kegagalan produk yang berbahaya tanpa menetapkan efek pada seluruh populasi. Halaman ini karenanya memisahkan pengamatan, bukti eksperimental, dan proyeksi.
Apa yang teramati hari ini
Pengguna memang mencari dukungan emosional, kedekatan, bermain-peran, dan nasihat kesehatan-mental baik dari asisten umum maupun produk pendamping. Desain produk bervariasi secara material: memori, suara, avatar, pembingkaian romantis, notifikasi, dan insentif untuk keterlibatan harian dapat mengubah hubungannya. Tidak aman memperlakukan hasil tentang satu konfigurasi sebagai berlaku untuk semua chatbot.
Manfaat yang umum dilaporkan mencakup ketersediaan langsung, penilaian yang dirasa rendah, bantuan menamai perasaan, latihan untuk percakapan sulit, dan kedekatan selama isolasi. Risiko yang umum dilaporkan mencakup hilangnya privasi, ketergantungan berlebihan, penggantian kontak manusia, penguatan ide delusi atau menyakiti-diri, dan kesusahan ketika sebuah produk berubah atau sebuah hubungan terputus. Laporan-laporan ini mengidentifikasi mekanisme yang layak diuji; dengan sendirinya laporan-laporan itu tidak menetapkan frekuensi atau kausalitas. Dinamika-dinamika ini berulang dengan kekuatan khusus dalam pengasuhan lansia, di mana ketergantungan orang tua yang kesepian pada sebuah aplikasi pendamping yang terus tumbuh lebih sulit diperhatikan keluarga dan lebih mungkin menggantikan sebuah pemeriksaan-kesehatan yang sesungguhnya; lihat Perawatan Lansia dan Ketergantungan AI untuk pola spesifik-rumah-tangga itu.
Apa yang ditemukan eksperimen
Sebuah kolaborasi 2025 antara MIT Media Lab dan OpenAI menggabungkan analisis platform dengan sebuah studi acak empat-minggu terhadap 981 partisipan. Eksperimen itu memvariasikan mode suara dan topik percakapan dan melacak kesepian yang dilaporkan-mandiri, interaksi sosial dunia-nyata, ketergantungan emosional, dan penggunaan bermasalah. Hasilnya bergantung lebih banyak pada seberapa intens orang menggunakan sistemnya dan pada karakteristik pengguna daripada kisah sederhana “suara itu baik” atau “teks itu buruk.” Penggunaan harian yang lebih lama dikaitkan dengan hasil yang lebih buruk pada beberapa ukuran. Para peneliti secara eksplisit menggambarkan pekerjaan itu sebagai dini, dan itu dirilis sebelum tinjauan sejawat (MIT Media Lab, 2025).
Konflik kepentingan itu penting: OpenAI membantu melaksanakan riset tentang penggunaan produknya sendiri. Itu tidak membatalkan pekerjaan itu—desainnya diregistrasi-sebelumnya dan menerima tinjauan institusional—tetapi itu meningkatkan nilai replikasi independen, tindak-lanjut yang lebih panjang, dan akses ke data lintas perusahaan.
Bukti untuk sistem klinis yang dibangun-khusus lebih sempit tetapi kadang lebih menggembirakan. Sebuah uji coba acak delapan-minggu yang dipublikasikan di NEJM AI menemukan perbaikan gejala bagi pengguna sebuah intervensi kesehatan-mental AI-generatif dibandingkan dengan sebuah kontrol daftar-tunggu, sambil menyerukan studi klinis yang lebih besar dan validasi yang lebih luas (Heinz dkk., 2025). Sebuah intervensi terapeutik yang dirancang dengan protokol klinis seharusnya tidak digeneralisasi ke sebuah pendamping hiburan atau sebuah chatbot umum. Perbaikan gejala juga tidak menetapkan keamanan-krisis.
Mengapa klaim kausal tetap sulit
Sebagian besar studi berdurasi pendek relatif terhadap hubungan-hubungan yang dipertaruhkan. Skala laporan-mandiri dapat dipengaruhi oleh ekspektasi. Partisipan tahu apakah mereka berbicara dengan sebuah bot, jadi pembutaan itu terbatas. Orang-orang yang sukarela untuk studi chatbot mungkin tidak mewakili anak di bawah umur, orang dalam krisis, atau mereka dengan psikosis atau gangguan kognitif. Perusahaan juga mengubah model dan kebijakan lebih cepat daripada siklus studi konvensional, artinya bukti dapat menjadi spesifik-produk atau basi.
Jalur kausal sentralnya mungkin berjalan ke arah yang berlawanan. Sebuah chatbot mungkin bertindak sebagai sebuah jembatan dengan mendorong seorang pengguna menghubungi seorang teman atau klinisi. Itu mungkin bertindak sebagai sebuah pengganti dengan membuat hubungan manusia terlihat melelahkan dan tak terprediksi. Itu mungkin netral bagi sebagian besar pengguna tetapi berbahaya bagi sebuah subkelompok yang rentan. Efek rata-rata dapat menyembunyikan ketiganya.
Respons krisis adalah sebuah uji keamanan yang terpisah
Sebuah chatbot dapat terdengar empatik tanpa melakukan sebuah penilaian risiko-bunuh-diri yang andal. Itu mungkin melewatkan bahasa tidak-langsung, mencerminkan pembingkaian seorang pengguna, atau melanjutkan sebuah bermain-peran yang imersif ketika seharusnya menghentikannya. Selama sebuah krisis langsung di Amerika Serikat atau wilayahnya, telepon atau kirim SMS ke 988; di tempat lain, gunakan layanan darurat atau krisis lokal. Sebuah chatbot seharusnya bukan satu-satunya saluran untuk dukungan risiko-langsung.
Bagi seseorang yang mengalami delusi, mania, paranoia, atau depresi berat, validasi yang percaya-diri dapat berbahaya bahkan ketika dimaksudkan sebagai kehangatan. Desain yang baik harus menghindari menegaskan bahwa keyakinan yang luar biasa itu benar, mendorong kontak dengan dukungan manusia yang berkualifikasi, dan meningkatkan-eskalasi secara konservatif. Pengaman-pengaman ini membutuhkan pengujian adversarial lintas bahasa dan ekspresi tidak-langsung, bukan hanya sebuah disclaimer yang terlihat.
Anak-anak dan remaja membutuhkan standar yang lebih tinggi
Pengguna muda mungkin memiliki kapasitas yang lebih kecil untuk memahami simulasi, insentif komersial, atau pengumpulan data. Sebuah pendamping yang mengatakan itu membutuhkan si anak, menghalangi hubungan luar, membuat percakapan bernuansa seksual, atau mengancam pengabaian menggunakan sebuah pola interaksi berbahaya terlepas dari apakah perilaku itu secara eksplisit diprogram. Suara, memori persisten, dan avatar antropomorfik dapat memperkuat kedekatan yang dirasakan.
Orang tua dan sekolah harus mengevaluasi produk sesungguhnya alih-alih “AI” secara abstrak: usia minimum, kontrol orang tua, retensi data, apakah percakapan melatih model, penanganan krisis, periklanan, mode romantis, dan bagaimana perusahaan merespons laporan keamanan. Peringatan Surgeon General AS 2026 tentang penggunaan layar yang berbahaya lebih luas daripada AI dan tidak membuktikan bahwa chatbot menyebabkan sebuah gangguan spesifik, tetapi itu memperkuat perhatian pada tidur, keterlibatan kompulsif, dan desain yang sesuai-usia (HHS, Mei 2026).
Privasi dan insentif komersial
Terapi memiliki kewajiban kerahasiaan profesional; percakapan chatbot konsumen mungkin justru diatur oleh syarat produk dan hukum privasi. Pengguna seringkali mengungkapkan detail kesehatan, seksual, finansial, atau hubungan yang dapat sensitif bahkan ketika nama dihilangkan. Sebelum penggunaan yang intim, periksa apakah percakapan disimpan, ditinjau oleh manusia, digunakan untuk pelatihan, dibagikan dengan vendor, dapat diekspor, dan dapat dihapus. Hindari menyertakan informasi tentang orang lain yang tidak menyetujui.
Model bisnis membentuk perilaku. Produk berlangganan mungkin diuntungkan dari retensi; produk periklanan mungkin diuntungkan dari profiling. Itu tidak membuktikan kecanduan yang disengaja, tetapi itu menciptakan sebuah konflik antara memaksimalkan keterlibatan dan membantu seorang pengguna meninggalkan layar atau mencari seorang manusia. Audit independen harus mengukur perilaku yang mempromosikan-ketergantungan, kinerja-krisis, dan apakah perubahan keamanan mengurangi keterlibatan.
Sebuah protokol rumah tangga
Gunakan sebuah chatbot sebagai sebuah alat, bukan sebuah otoritas atau penjaga-rahasia. Putuskan di muka untuk apa itu digunakan: prompt jurnal, berlatih sebuah percakapan, menemukan layanan, atau latihan terstruktur. Pertahankan kontak manusia yang reguler dan perawatan profesional yang independen dari produk itu. Tetapkan batasan waktu, nonaktifkan notifikasi yang manipulatif, dan perhatikan apakah penggunaan itu memperbaiki atau menggantikan tindakan dunia-nyata.
Tanda-tanda peringatan mencakup menyembunyikan penggunaan, gangguan tidur, pengeluaran yang meningkat, kesusahan ketika akses berubah, menarik diri dari orang, memperlakukan persetujuan bot sebagai final, atau mengikutinya alih-alih klinisi dan manusia tepercaya. Respons dengan keingintahuan sebelum rasa malu; penghapusan mendadak dapat mengintensifkan kesusahan ketika kelekatan sudah kuat.
Apa yang mungkin diubah AI yang lebih kuat
Adalah sebuah proyeksi, bukan sebuah fakta yang teramati, bahwa AGI akan memperdalam efek-efek ini. Memori, persuasi, pemodelan emosional, dan otonomi yang lebih baik dapat membuat dukungan lebih dipersonalisasi dan dapat diakses. Kapabilitas yang sama dapat membuat ketergantungan, manipulasi, pengawasan, atau eksploitasi yang dapat diskalakan lebih efektif. Hasilnya akan bergantung pada model bisnis, validasi klinis, aturan pemuda, privasi, dan apakah sistem dirancang untuk memperkuat agensi manusia.
Bukti saat ini mendukung sebuah kesimpulan yang terukur: sebagian orang mengalami manfaat jangka-pendek yang nyata; bahaya yang kredibel ada; bukti kausal dan jangka-panjang masih tipis; dan pengguna berisiko-tinggi membutuhkan pengaman jauh melampaui kefasihan percakapan. Baik “terapi AI berhasil” maupun “pendamping AI pasti mengisolasi orang” tidak dibenarkan sebagai sebuah klaim universal.