Câu hỏi đúng không phải là liệu một chatbot có cảm xúc hay không
Con người có thể hình thành sự gắn bó với nhật ký, nhân vật hư cấu, thú cưng, cộng đồng trực tuyến, và phần mềm mà không tin rằng những thứ đó trải nghiệm cảm xúc theo cùng cách con người làm. Các chatbot hiện đại bổ sung các phản hồi trôi chảy, cá nhân hóa, và luôn sẵn có. Sự kết hợp đó có thể khiến một tương tác trở nên có ý nghĩa về mặt tâm lý ngay cả khi mô hình đang tạo ra ngôn ngữ từ các khuôn mẫu đã học chứ không phải đang tham gia vào một mối quan hệ con người tương hỗ.
Tranh luận công khai thường nhảy từ những câu chuyện cá nhân đến những tuyên bố nhân quả sâu rộng. Một báo cáo rằng người dùng nặng cô đơn hơn không cho thấy liệu việc sử dụng chatbot có gây ra sự cô đơn, người cô đơn sử dụng chatbot nhiều hơn, hay cả hai. Một trường hợp bi thảm liên quan đến một chatbot có thể tiết lộ một thất bại sản phẩm nguy hiểm mà không xác lập hiệu ứng trên toàn bộ dân số. Do đó, trang này tách biệt quan sát, bằng chứng thực nghiệm, và dự phóng.
Những gì được quan sát hôm nay
Người dùng thực sự tìm kiếm sự hỗ trợ cảm xúc, sự đồng hành, nhập vai, và lời khuyên về sức khỏe tâm thần từ cả các trợ lý tổng quát lẫn các sản phẩm đồng hành. Thiết kế sản phẩm khác nhau đáng kể: bộ nhớ, giọng nói, hình đại diện, khung lãng mạn, thông báo, và động lực cho sự tương tác hằng ngày có thể thay đổi mối quan hệ. Việc coi kết quả về một cấu hình như áp dụng cho mọi chatbot là không an toàn.
Các lợi ích thường được báo cáo bao gồm tính khả dụng ngay lập tức, cảm giác ít bị phán xét, hỗ trợ đặt tên cảm xúc, luyện tập cho các cuộc trò chuyện khó khăn, và sự đồng hành trong lúc cô lập. Các rủi ro thường được báo cáo bao gồm mất quyền riêng tư, quá phụ thuộc, thay thế tiếp xúc con người, củng cố các ý tưởng hoang tưởng hoặc tự hại, và đau khổ khi một sản phẩm thay đổi hoặc một mối quan hệ bị gián đoạn. Những báo cáo này xác định các cơ chế đáng để thử nghiệm; tự chúng không xác lập tần suất hay tính nhân quả. Những động lực này lặp lại với sức mạnh đặc biệt trong việc chăm sóc người cao tuổi, nơi sự phụ thuộc ngày càng tăng của một phụ huynh cô đơn vào một ứng dụng đồng hành khó bị gia đình nhận ra hơn và có nhiều khả năng thay thế cho một cuộc kiểm tra sức khỏe thực sự; xem Chăm sóc Người cao tuổi và Sự phụ thuộc vào AI để biết khuôn mẫu cụ thể cho hộ gia đình đó.
Những gì các thử nghiệm đã phát hiện
Một sự hợp tác năm 2025 giữa MIT Media Lab và OpenAI kết hợp phân tích nền tảng với một nghiên cứu ngẫu nhiên bốn tuần trên 981 người tham gia. Thử nghiệm thay đổi chế độ giọng nói và chủ đề trò chuyện và theo dõi sự cô đơn tự báo cáo, tương tác xã hội trong thế giới thực, sự phụ thuộc cảm xúc, và việc sử dụng có vấn đề. Kết quả phụ thuộc nhiều hơn vào mức độ tương tác mà mọi người sử dụng hệ thống và các đặc điểm của người dùng hơn là vào một câu chuyện đơn giản “giọng nói thì tốt” hoặc “văn bản thì xấu.” Việc sử dụng hằng ngày lâu hơn có liên quan đến kết quả tệ hơn ở một số thước đo. Các nhà nghiên cứu mô tả rõ ràng công trình này là sớm, và nó được công bố trước khi bình duyệt (MIT Media Lab, 2025).
Xung đột lợi ích quan trọng: OpenAI đã giúp thực hiện nghiên cứu về việc sử dụng sản phẩm của chính họ. Điều đó không làm mất hiệu lực công trình—thiết kế đã được đăng ký trước và nhận được xem xét thể chế—nhưng nó làm tăng giá trị của sự tái lập độc lập, theo dõi dài hạn hơn, và quyền tiếp cận dữ liệu trên các công ty.
Bằng chứng cho các hệ thống lâm sàng chuyên dụng hẹp hơn nhưng đôi khi đáng khích lệ hơn. Một thử nghiệm ngẫu nhiên tám tuần được công bố trên NEJM AI phát hiện sự cải thiện triệu chứng cho người dùng của một can thiệp sức khỏe tâm thần bằng AI tạo sinh so với nhóm đối chứng danh sách chờ, trong khi kêu gọi các nghiên cứu lâm sàng lớn hơn và xác nhận rộng hơn (Heinz và cộng sự, 2025). Một can thiệp trị liệu được thiết kế với các giao thức lâm sàng không nên được khái quát hóa cho một người đồng hành giải trí hoặc một chatbot tổng quát. Sự cải thiện triệu chứng cũng không xác lập an toàn khủng hoảng.
Vì sao các tuyên bố nhân quả vẫn khó khăn
Hầu hết các nghiên cứu ngắn hơn tương đối so với các mối quan hệ đang được xem xét. Các thang đo tự báo cáo có thể bị ảnh hưởng bởi kỳ vọng. Người tham gia biết liệu họ đang nói chuyện với một bot hay không, vì vậy việc làm mù có giới hạn. Những người tình nguyện tham gia các nghiên cứu chatbot có thể không đại diện cho trẻ vị thành niên, người trong khủng hoảng, hoặc những người bị rối loạn tâm thần hoặc suy giảm nhận thức. Các công ty cũng thay đổi mô hình và chính sách nhanh hơn một chu kỳ nghiên cứu thông thường, có nghĩa là bằng chứng có thể trở nên đặc thù cho sản phẩm hoặc lỗi thời.
Các con đường nhân quả trung tâm có thể chạy theo các hướng ngược nhau. Một chatbot có thể hoạt động như một cầu nối bằng cách khuyến khích người dùng liên hệ với một người bạn hoặc bác sĩ lâm sàng. Nó có thể hoạt động như một sự thay thế bằng cách khiến các mối quan hệ con người có vẻ tốn công sức và không thể dự đoán. Nó có thể trung lập đối với hầu hết người dùng nhưng có hại cho một phân nhóm dễ bị tổn thương. Các hiệu ứng trung bình có thể che giấu cả ba.
Phản ứng khủng hoảng là một bài kiểm tra an toàn riêng biệt
Một chatbot có thể nghe có vẻ đồng cảm mà không thực hiện một đánh giá rủi ro tự sát đáng tin cậy. Nó có thể bỏ lỡ ngôn ngữ gián tiếp, phản chiếu khung của người dùng, hoặc tiếp tục một trò nhập vai sâu khi lẽ ra nó nên ngắt lời. Trong một cuộc khủng hoảng tức thời tại Hoa Kỳ hoặc các vùng lãnh thổ của nước này, hãy gọi hoặc nhắn tin đến 988; ở nơi khác, hãy sử dụng dịch vụ khẩn cấp hoặc khủng hoảng địa phương. Một chatbot không nên là kênh duy nhất cho hỗ trợ rủi ro sắp xảy ra.
Đối với một người đang trải qua hoang tưởng, hưng cảm, đa nghi, hoặc trầm cảm nặng, sự xác nhận tự tin có thể gây hại ngay cả khi được dự định như sự ấm áp. Thiết kế tốt nên tránh khẳng định rằng những niềm tin phi thường là đúng, khuyến khích liên hệ với hỗ trợ con người có trình độ, và leo thang một cách thận trọng. Những biện pháp bảo vệ này cần được kiểm tra đối kháng trên nhiều ngôn ngữ và các cách diễn đạt gián tiếp, không chỉ một tuyên bố miễn trừ trách nhiệm hiển thị.
Trẻ em và thanh thiếu niên đòi hỏi một tiêu chuẩn cao hơn
Người dùng trẻ có thể có ít khả năng hiểu mô phỏng, động cơ thương mại, hoặc thu thập dữ liệu hơn. Một người đồng hành nói rằng nó cần đứa trẻ, ngăn cản các mối quan hệ bên ngoài, tình dục hóa cuộc trò chuyện, hoặc đe dọa bỏ rơi đang sử dụng một khuôn mẫu tương tác nguy hiểm bất kể hành vi đó có được lập trình rõ ràng hay không. Giọng nói, bộ nhớ liên tục, và hình đại diện nhân hóa có thể củng cố cảm giác thân mật.
Phụ huynh và trường học nên đánh giá sản phẩm thực tế thay vì “AI” trong trừu tượng: độ tuổi tối thiểu, kiểm soát của phụ huynh, thời gian lưu giữ dữ liệu, liệu các cuộc trò chuyện có huấn luyện mô hình hay không, xử lý khủng hoảng, quảng cáo, chế độ lãng mạn, và cách công ty phản hồi các báo cáo an toàn. Cảnh báo năm 2026 của Tổng Y sĩ Hoa Kỳ về việc sử dụng màn hình có hại rộng hơn AI và không chứng minh rằng chatbot gây ra một rối loạn cụ thể, nhưng nó củng cố sự chú ý đến giấc ngủ, sự tương tác cưỡng chế, và thiết kế phù hợp với độ tuổi (HHS, tháng 5 năm 2026).
Quyền riêng tư và động cơ thương mại
Trị liệu có các nghĩa vụ bảo mật nghề nghiệp; các cuộc trò chuyện chatbot tiêu dùng thay vào đó có thể được quản lý bởi các điều khoản sản phẩm và luật quyền riêng tư. Người dùng thường tiết lộ các chi tiết về sức khỏe, tình dục, tài chính, hoặc mối quan hệ có thể nhạy cảm ngay cả khi tên đã được lược bỏ. Trước khi sử dụng một cách thân mật, hãy kiểm tra liệu các cuộc trò chuyện có được lưu trữ, được con người xem xét, được sử dụng để huấn luyện, được chia sẻ với nhà cung cấp, có thể xuất ra, và có thể xóa hay không. Tránh bao gồm thông tin về một người khác chưa đồng ý.
Các mô hình kinh doanh định hình hành vi. Các sản phẩm đăng ký có thể hưởng lợi từ việc giữ chân; các sản phẩm quảng cáo có thể hưởng lợi từ việc lập hồ sơ. Điều đó không chứng minh sự gây nghiện có chủ ý, nhưng nó tạo ra một xung đột giữa việc tối đa hóa tương tác và giúp người dùng rời khỏi màn hình hoặc tìm kiếm một người thật. Các cuộc kiểm toán độc lập nên đo lường hành vi thúc đẩy sự phụ thuộc, hiệu suất khủng hoảng, và liệu các thay đổi an toàn có làm giảm sự tương tác hay không.
Một quy trình cho hộ gia đình
Sử dụng một chatbot như một công cụ, không phải một thẩm quyền hay người giữ bí mật. Quyết định trước nó dùng để làm gì: gợi ý viết nhật ký, luyện tập một cuộc trò chuyện, tìm kiếm dịch vụ, hoặc các bài tập có cấu trúc. Duy trì tiếp xúc con người thường xuyên và chăm sóc chuyên nghiệp độc lập với sản phẩm. Đặt giới hạn thời gian, tắt các thông báo mang tính thao túng, và chú ý liệu việc sử dụng có cải thiện hay thay thế hành động trong thế giới thực.
Các dấu hiệu cảnh báo bao gồm giấu giếm việc sử dụng, gián đoạn giấc ngủ, chi tiêu leo thang, đau khổ khi quyền truy cập thay đổi, rút lui khỏi mọi người, coi sự chấp thuận của bot là quyết định, hoặc theo nó thay vì các bác sĩ lâm sàng và những người đáng tin cậy. Hãy phản ứng bằng sự tò mò trước khi xấu hổ; việc loại bỏ đột ngột có thể làm trầm trọng thêm đau khổ khi sự gắn bó đã mạnh mẽ.
AI mạnh hơn có thể thay đổi những gì
Đó là một dự phóng, không phải một sự thật đã quan sát, rằng AGI sẽ làm sâu sắc thêm những hiệu ứng này. Bộ nhớ, sự thuyết phục, mô hình hóa cảm xúc, và quyền tự chủ tốt hơn có thể khiến sự hỗ trợ trở nên cá nhân hóa và dễ tiếp cận hơn. Cùng những năng lực đó có thể khiến sự phụ thuộc, thao túng, giám sát, hoặc bóc lột có quy mô trở nên hiệu quả hơn. Kết quả sẽ phụ thuộc vào các mô hình kinh doanh, xác nhận lâm sàng, quy tắc về thanh thiếu niên, quyền riêng tư, và liệu các hệ thống có được thiết kế để tăng cường quyền tự quyết của con người hay không.
Bằng chứng hiện tại ủng hộ một kết luận có chừng mực: một số người trải nghiệm lợi ích ngắn hạn thực sự; các nguy cơ đáng tin cậy tồn tại; bằng chứng nhân quả và dài hạn còn mỏng; và người dùng rủi ro cao cần các biện pháp bảo vệ vượt xa sự trôi chảy trong hội thoại. Không “liệu pháp AI có hiệu quả” cũng không “người đồng hành AI chắc chắn cô lập mọi người” được biện minh như một tuyên bố phổ quát.