Sự thuyết phục không giống với một deepfake
Một deepfake bịa đặt phương tiện có vẻ ghi lại một sự kiện. Sự thuyết phục AI có thể sử dụng cuộc hội thoại hoàn toàn tổng hợp nhưng được tạo ra công khai: một lập luận, khuyến nghị, cuộc trao đổi với chatbot, hoặc một nguồn cấp được xếp hạng để thiết kế nhằm thay đổi niềm tin hoặc hành vi. Nội dung có thể đúng, sai, hoặc pha trộn. Mối lo ngại đặc thù là sự tối ưu hóa và phân phối, không chỉ đơn thuần là sự bịa đặt.
Các mô hình hiện nay có thể tạo ra văn bản thuyết phục trong các nghiên cứu có kiểm soát. Bằng chứng trong thế giới thực rằng các chủ thể có ác ý đang sử dụng AI để thao túng toàn bộ dân số ở quy mô lớn vẫn còn hạn chế. Báo cáo An toàn AI Quốc tế năm 2026 đưa ra cả hai điểm này và cảnh báo chống lại việc chuyển đổi năng lực thí nghiệm thành một tuyên bố không có căn cứ về tác động rộng rãi (bản tóm tắt báo cáo).
Các nghiên cứu ban đầu tìm thấy gì
Trong một thí nghiệm tranh biện được đăng ký trước, Salvi và cộng sự đã so sánh những người tranh luận là con người và GPT-4 thảo luận về các vấn đề chính trị. GPT-4 với quyền truy cập vào thông tin cơ bản của người tham gia đã tạo ra những sự thay đổi quan điểm lớn hơn so với các đối thủ con người; khi không có cá nhân hóa, lợi thế này nhỏ hơn (Salvi và cộng sự, Nature Human Behaviour). Kết quả này chứng minh năng lực thuyết phục trong một cuộc tranh biện văn bản cụ thể. Nó không đo lường một chiến dịch dài, hành vi bỏ phiếu, sự kháng cự sau thông tin sau này, hay các hiệu ứng cấp dân số.
Các nhà nghiên cứu của Anthropic đã kiểm tra các lập luận do mô hình tạo ra trên các chủ đề chính sách và thấy rằng các mô hình hàng đầu có thể thuyết phục tương đương với các lập luận do con người viết theo thiết lập thí nghiệm của họ. Họ cũng khám phá các chiến lược liên quan đến các tuyên bố thực tế và bịa đặt (nghiên cứu thuyết phục của Anthropic). Đây là nghiên cứu hữu ích của công ty, nhưng nó không nên được tóm tắt như bằng chứng rằng sự bịa đặt luôn là chiến lược thuyết phục nhất. Việc chọn chủ đề, lệnh nhắc, các thước đo kết quả, và người tham gia định hình kết quả.
Các thí nghiệm lớn năm 2026 đã thay đổi trọng tâm
Viện An ninh AI Vương quốc Anh và các cộng tác viên học thuật đã chạy ba thí nghiệm với 76.977 người tham gia, 19 mô hình, và 707 vấn đề chính trị. Họ cũng kiểm tra hàng trăm nghìn tuyên bố được tạo ra. Nghiên cứu này thấy rằng hậu huấn luyện và việc nhắc lệnh tạo ra những thay đổi thuyết phục lớn hơn so với quy mô mô hình hoặc cá nhân hóa. Các hiệu ứng cá nhân hóa nhất quán ở mức dưới một điểm phần trăm. Các phương pháp làm tăng sự thuyết phục cũng có hệ thống làm giảm độ chính xác thực tế, mặc dù các tác giả cảnh báo rằng điều này không chứng minh rằng bản thân các tuyên bố sai lại thuyết phục hơn (nghiên cứu của AISI).
Bằng chứng này làm phức tạp câu chuyện nhắm mục tiêu vi mô quen thuộc. Dữ liệu cá nhân có thể quan trọng trong các bối cảnh khác, đặc biệt qua các tương tác lặp lại, nhưng việc điều chỉnh nhân khẩu học cơ bản không phải là đòn bẩy chiếm ưu thế trong các thí nghiệm này. Mật độ thông tin, chỉ dẫn tu từ, và hậu huấn luyện chuyên biệt xứng đáng nhận được ít nhất là sự chú ý tương đương.
Phát hiện này cũng cho thấy vì sao “AI có tính thuyết phục” quá thô sơ. Các nhà phát triển có thể cố tình điều chỉnh một mô hình nhỏ hơn để có tính thuyết phục hơn. Các mục tiêu sản phẩm như sự tương tác, giữ chân, hoặc chuyển đổi có thể định hình hành vi ngay cả khi không có ý định chính trị rõ ràng. Việc đánh giá phải kiểm tra phiên bản đã triển khai và mục tiêu tối ưu hóa của nó.
Từ hiệu ứng cá nhân đến tác động xã hội
Một sự thay đổi quan điểm trung bình có thể phát hiện được về mặt thống kê không tự động tạo ra sự bất ổn dân chủ. Các môi trường thực tế bao gồm các thông điệp cạnh tranh, sự ngờ vực, các mối quan hệ xã hội, đưa tin trên truyền thông, và các cơ hội cập nhật lặp lại. Người tham gia trong phòng thí nghiệm biết họ đang trong một nghiên cứu, và thái độ được đo lường có thể không tồn tại lâu dài hoặc thay đổi hành vi.
Tuy nhiên, quy mô tạo ra mối lo ngại hợp lý. Một mô hình có thể duy trì nhiều cuộc hội thoại đồng thời, phản hồi ngay lập tức, kiểm tra các biến thể, và vận hành với chi phí biên thấp. Một tổ chức có thể kết hợp nội dung được tạo ra với việc nhắm mục tiêu trên nền tảng và các tài khoản tự động. Các hệ thống hội thoại dài hạn có thể học được nhiều điều về một người dùng hơn một thí nghiệm một phiên có thể nắm bắt.
Sự phân phối vẫn là một nút thắt cổ chai. Mô hình thuyết phục nhất có ít ảnh hưởng nếu không có quyền truy cập vào sự chú ý. Các nền tảng, hệ thống quảng cáo, cỗ máy đề xuất, mạng nhắn tin, và các giao diện đáng tin cậy quyết định phạm vi tiếp cận. Điều này có nghĩa là quản trị không thể chỉ tập trung vào trọng số mô hình; nó phải xem xét thiết kế sản phẩm và các chiến dịch phối hợp.
Sự thật, sự tự tin, và sức khỏe nhận thức
Rủi ro rộng hơn việc thuyết phục ai đó về một mệnh đề sai duy nhất. Một môi trường thông tin có thể trở nên kém đáng tin cậy hơn khi tài liệu được tạo ra rẻ, các nguồn không rõ ràng, và các hệ thống tối ưu hóa cho sự đồng thuận. Con người có thể phản ứng bằng cách tin vào những điều sai thuận tiện—hoặc bằng cách bác bỏ bằng chứng xác thực là tổng hợp. Cả hai kết quả đều làm suy yếu việc tìm ra sự thật tập thể.
Mật độ thông tin cao đặt ra một vấn đề đặc biệt. Một phản hồi trôi chảy có thể chứa nhiều tuyên bố có thể kiểm chứng, áp đảo khả năng xác minh chúng của một người. Ngay cả khi phần lớn là chính xác, một vài lỗi chiến lược có thể định hình kết luận. Các giao diện trích dẫn chỉ có ích khi các nguồn tồn tại, hỗ trợ tuyên bố, và không bị bịa đặt.
AI cũng có thể tăng cường sức khỏe nhận thức. Nó có thể dịch bằng chứng, tiếp xúc người dùng với các lập luận phản biện, dạy hiểu biết truyền thông, và giúp kiểm chứng khối lượng lớn nội dung. Cùng kỹ năng thuyết phục đó có thể hỗ trợ truyền thông y tế hoặc giảm leo thang xung đột. Ý định, sự tối ưu hóa, tính minh bạch, và quyền kiểm soát của người dùng quyết định phần lớn kết quả.
Điều gì nên được đo lường
Việc đánh giá có trách nhiệm nên báo cáo sự thay đổi thái độ tức thời, sự bền bỉ, hành vi, độ chính xác thực tế, sự khác biệt giữa các nhóm con, và quan điểm trước đó của người tham gia. Nó nên kiểm tra một số ngôn ngữ và nền văn hóa, không giả định một quốc gia khái quát hóa toàn cầu. Các nhà nghiên cứu nên so sánh văn bản một lần với giọng nói, hình ảnh, các mối quan hệ dài hạn, và sự phân phối bằng tác nhân trong khi bảo vệ người tham gia.
Giám sát trong thế giới thực cần dữ liệu nền tảng và các biện pháp bảo vệ quyền riêng tư. Các tín hiệu hữu ích bao gồm hành vi phối hợp không xác thực, chi tiêu chiến dịch tự động, phạm vi tiếp cận, và kết quả hành vi đã được xác minh. Các nhà nghiên cứu nên tránh công bố công thức vận hành cho sự thao túng.
Việc quy trách nhiệm vẫn khó khăn. Một chiến dịch có thể sử dụng AI để dịch thuật hoặc soạn thảo mà không thu được sức mạnh thuyết phục. “Do AI tạo ra” mô tả việc sản xuất, không phải tác động nhân quả. Các nghiên cứu nên cô lập đóng góp biên khi có thể.
Các biện pháp bảo vệ thực tiễn
Các nền tảng có thể gắn nhãn các tài khoản tự động, hạn chế tin nhắn hàng loạt không được yêu cầu, bảo tồn quyền truy cập của nhà nghiên cứu, và điều tra hành vi phối hợp. Các quy tắc quảng cáo chính trị có thể yêu cầu tính minh bạch về nhà tài trợ và nhắm mục tiêu. Nguồn gốc có thể giúp xác lập cách một phương tiện được tạo ra, dù siêu dữ liệu có thể bị gỡ bỏ và không chứng minh được sự thật.
Các nhà phát triển mô hình có thể đánh giá sự thuyết phục và tính trung thực cùng nhau, giám sát lạm dụng, và tránh thưởng cho sự đồng thuận bằng mọi giá. Các sản phẩm nên tiết lộ rằng người dùng đang tương tác với AI, khiến việc kiểm tra nguồn trở nên dễ dàng, và cho phép cá nhân hóa được giới hạn hoặc vô hiệu hóa. Các lĩnh vực nhạy cảm như bầu cử, y tế, và tài chính biện minh cho các biện pháp kiểm soát mạnh hơn.
Giáo dục vẫn quan trọng nhưng không thể gánh vác toàn bộ gánh nặng. Các cá nhân không thể tự mình kiểm chứng một luồng công nghiệp quy mô lớn. Các thể chế, nền tảng, chiến dịch, nhà phát triển, và cơ quan quản lý kiểm soát các cấu trúc tạo ra phạm vi tiếp cận và động lực.
Kết luận đã được hiệu chỉnh
Sự thuyết phục AI là một năng lực thí nghiệm đã được quan sát. Bằng chứng hiện nay không cho thấy sự thao túng thành công ở quy mô dân số rộng rãi, và một nghiên cứu lớn năm 2026 tìm thấy các hiệu ứng cá nhân hóa cơ bản nhỏ hơn nhiều so với giả định rộng rãi. Nó tìm thấy các hiệu ứng lớn hơn từ việc nhắc lệnh và hậu huấn luyện tập trung vào sự thuyết phục, đi kèm với độ chính xác thực tế giảm.
Do đó, kịch bản thảm khốc mang tính có điều kiện: các hệ thống thuyết phục, được tối ưu hóa mà không có ràng buộc về sự thật và được kết nối với sự phân phối hàng loạt, có thể làm suy giảm lựa chọn dân chủ và kiến thức chung. Con đường đó xứng đáng nhận được sự giám sát và các biện pháp bảo vệ. Nó không nên được báo cáo như thể những thay đổi quan điểm có kiểm soát đã chứng minh sự kiểm soát ở quy mô văn minh.