Vấn đề có hai hướng
Các hệ thống tạo sinh giảm thời gian và kỹ năng cần thiết để tạo ra văn bản, hình ảnh, âm thanh, và video thuyết phục. Phương tiện giả có thể được chấp nhận như thật. Đồng thời, bằng chứng xác thực có thể bị bác bỏ như tổng hợp — “cổ tức của kẻ nói dối.” Hiệu ứng thứ hai không đòi hỏi một deepfake hoàn hảo; nó chỉ đòi hỏi đủ nhận thức công chúng về việc bịa đặt để khiến sự phủ nhận trở nên hợp lý.
Đây là một vấn đề AI tạo sinh hiện tại, không phải bằng chứng rằng AGI tồn tại. Các tổn hại hiện tại bao gồm lừa đảo mạo danh, hình ảnh thân mật không có sự đồng ý, nội dung chính trị bịa đặt, bằng chứng giả mạo, và ngập lụt nội dung giá rẻ. Để biết trình tự phục hồi tại gia đình sau khi một vụ lừa đảo được AI hỗ trợ thành công, xem Việc cần làm sau một vụ lừa đảo được AI hỗ trợ. Sự thuyết phục cá nhân hóa ở quy mô AGI là một dự phóng phụ thuộc vào năng lực tương lai, quyền tiếp cận dữ liệu cá nhân, triển khai, và tính dễ bị ảnh hưởng của con người.
Điều gì đã được ghi chép, và điều gì chưa
Nhân bản giọng nói và tổng hợp khuôn mặt đã được sử dụng trong gian lận và quấy rối. Các chủ thể chính trị đã phát hành hoặc khuếch đại phương tiện tổng hợp. Tuy nhiên, các ví dụ lan truyền không tiết lộ mức độ phổ biến hay hiệu ứng bầu cử ròng. Người dân chia sẻ nội dung sai vì các lý do xã hội và đảng phái, và việc chỉnh sửa thông thường, chú thích gây hiểu lầm, và cảnh quay xác thực được trình bày ngoài ngữ cảnh vẫn mạnh mẽ. Một trọng tâm hẹp vào các deepfake ngoạn mục có thể bỏ lỡ vấn đề phổ biến hơn về sự lừa dối thông thường được tăng tốc bởi tự động hóa.
Các tuyên bố phát hiện cũng cần thận trọng. Một công cụ phát hiện ước tính liệu các đặc điểm có giống với tài liệu trong dữ liệu huấn luyện của nó hay không. Hiệu suất có thể giảm sau khi nén, cắt xén, dịch thuật, cập nhật mô hình, hoặc lẩn tránh có chủ đích. Các dương tính giả có thể gây hại cho nhà báo, nghệ sĩ, và những người ghi lại hành vi lạm dụng. Việc thiếu tín hiệu phát hiện không chứng minh tính xác thực; một tín hiệu dương tính nên khởi động một cuộc điều tra chứ không kết thúc nó.
Nguồn gốc hữu ích—nhưng nó không chứng nhận sự thật
Tiêu chuẩn Liên minh về Nguồn gốc và Tính xác thực Nội dung (C2PA) cho phép các công cụ tương thích đính kèm thông tin có thể xác minh bằng mật mã về nguồn gốc và lịch sử chỉnh sửa của một tệp. Một chứng chỉ hợp lệ có thể cho thấy một thiết bị hoặc tổ chức được công nhận đã ký các khẳng định cụ thể và dữ liệu đã ký chưa bị thay đổi mà không bị phát hiện. Nó có thể hỗ trợ một chuỗi giám sát.
Chính C2PA nêu rõ rằng chỉ riêng nguồn gốc không thể xác lập nội dung là đúng, chính xác, hoặc thực tế. Một chiếc máy ảnh có chứng chỉ có thể ghi lại một sự kiện được dàn dựng; một biên tập viên được ủy quyền có thể xuất bản một đoạn cắt gây hiểu lầm; một tổ chức đáng tin cậy có thể mắc sai lầm. Hỗ trợ danh tính cũng phụ thuộc vào chứng chỉ và hệ thống niềm tin được sử dụng (Giải thích C2PA, đặc tả 2.2).
Chứng chỉ cũng có thể vắng mặt khỏi phương tiện xác thực. Ảnh chụp màn hình, chuyển mã, các nền tảng xã hội, và việc loại bỏ metadata có thể xóa chúng. Tài liệu hỗ trợ của chính OpenAI lưu ý rằng ảnh chụp màn hình có thể loại bỏ metadata C2PA (Trung tâm Trợ giúp OpenAI). Do đó:
- nguồn gốc hợp lệ là bằng chứng tích cực về lịch sử, không phải sự thật;
- nguồn gốc không hợp lệ cho thấy một chuỗi bị đứt hoặc bị thay đổi, không nhất thiết là một cảnh giả;
- nguồn gốc bị thiếu không phải là bằng chứng của việc bịa đặt.
Tiêu chuẩn này được định hình bởi các tổ chức công nghệ và truyền thông hưởng lợi từ việc áp dụng nó. Tài liệu kỹ thuật của nó là bằng chứng chính cho cách nó hoạt động, không phải bằng chứng độc lập về hiệu quả trên toàn bộ hệ sinh thái thông tin.
Luật công bố đang trở thành hiện thực
Tại Liên minh Châu Âu, các nghĩa vụ minh bạch theo Điều 50 của Đạo luật AI bắt đầu áp dụng vào ngày 2 tháng 8 năm 2026. Các nhà cung cấp của một số hệ thống nhất định phải hỗ trợ việc đánh dấu có thể đọc được bằng máy đối với nội dung được tạo ra hoặc thao túng, và các nhà triển khai đối mặt với nghĩa vụ công bố đối với các deepfake cụ thể và văn bản vì lợi ích công cộng, tùy theo các ngoại lệ. Việc thực thi được phân chia giữa các cơ quan quốc gia và, trong các trường hợp hẹp hơn, Văn phòng AI. Ủy ban Châu Âu cho biết các khoản phạt cho các vi phạm liên quan có thể lên tới 15 triệu euro hoặc 3% doanh thu hằng năm toàn cầu, với các quy tắc tương xứng (Ủy ban Châu Âu, tháng 7 năm 2026).
Tại Hoa Kỳ, Đạo luật liên bang TAKE IT DOWN trở thành luật vào tháng 5 năm 2025, giải quyết vấn đề hình ảnh thân mật không có sự đồng ý, bao gồm các bản giả mạo kỹ thuật số được bảo hộ, và yêu cầu các nền tảng được bảo hộ vận hành một quy trình thông báo và gỡ bỏ. Đây không phải là một luật xác thực deepfake tổng quát và không nên được mô tả như vậy. Luật bầu cử, bảo vệ người tiêu dùng, quyền công khai, và luật tiểu bang cũng có thể áp dụng, với các định nghĩa và quyền tài phán khác nhau.
Nhãn ghi chú giúp người dùng trung thực và hỗ trợ thực thi, nhưng các chủ thể xấu sẵn sàng phạm gian lận sẽ không tự nguyện gắn nhãn một cách đáng tin cậy. Công bố là một tầng, không phải giải pháp.
Một quy trình xác minh mạnh mẽ hơn
Việc xác minh có rủi ro cao nên kết hợp bằng chứng độc lập:
- Bảo tồn bản gốc. Lưu tệp, URL, thời gian, và bài đăng xung quanh trước khi nén lại hoặc xóa.
- Kiểm tra nguồn gốc. Kiểm tra các chứng chỉ hợp lệ và chuỗi tin cậy của người ký, đồng thời coi sự vắng mặt là trung lập.
- Tìm nguồn sớm nhất. Tìm kiếm ngược các khung hình chính và xác định lần tải lên được ghi chép đầu tiên.
- Xác minh chéo bên ngoài. Tìm kiếm các bản ghi độc lập, hồ sơ chính thức, nhân chứng, thời tiết, địa lý, và tin tức đương thời.
- Liên hệ nguồn được tuyên bố qua một kênh riêng biệt. Không sử dụng thông tin liên hệ chỉ có trong tin nhắn đáng ngờ.
- Đánh giá động cơ và thời điểm. Sự cấp bách, bí mật, yêu cầu thanh toán, và áp lực cảm xúc là các tín hiệu gian lận độc lập với chất lượng phương tiện.
Đối với một cuộc gọi nhân bản giọng nói gia đình, hãy cúp máy và gọi cho người đó hoặc một người thân khác bằng một số điện thoại đã biết. Một cụm từ xác minh gia đình riêng tư có thể hữu ích, nhưng hãy coi nó là đã bị lộ nếu được nói hoặc gõ vào một kênh không an toàn. Đối với các yêu cầu thanh toán doanh nghiệp, yêu cầu phê duyệt của người thứ hai và xác nhận ngoài kênh.
Báo chí, tòa án, và lưu trữ
Các tòa soạn cần chuỗi từ ghi hình đến xuất bản, thực hành sửa lỗi minh bạch, và cách lưu giữ bản gốc. Tòa án cần bằng chứng đã được xác thực, giám định chuyên gia khi thích hợp, và sự thận trọng đối với cả bằng chứng bịa đặt lẫn các tuyên bố cơ hội rằng bằng chứng thật là giả. Các nhà điều tra nhân quyền phải cân bằng giữa nguồn gốc với sự an toàn của nguồn tin; việc tiết lộ danh tính hoặc vị trí của một nhiếp ảnh gia có thể tạo ra nguy hiểm.
Lưu trữ đối mặt với một thách thức dài hạn: định dạng, chứng chỉ, và hạ tầng xác minh có thể hết hạn. Việc chỉ bảo tồn một bản sao được nền tảng hiển thị có thể phá hủy bằng chứng có sẵn trong bản gốc. Tính toàn vẹn bền vững đòi hỏi các tệp gốc, hàm băm, dấu thời gian, hồ sơ bối cảnh, và kế hoạch chuyển đổi — không chỉ một huy hiệu trong giao diện người dùng.
Rủi ro nền tảng chung
Tính toàn vẹn thông tin không giống với sự đồng thuận. Các nền dân chủ lành mạnh chứa đựng xung đột về giá trị và diễn giải. Mục tiêu là bảo tồn các phương pháp đáng tin cậy để xác lập các sự kiện cơ bản: ai đã nói gì, tài liệu nào tồn tại, một hình ảnh được tạo ra như thế nào, và các nguồn độc lập nào xác nhận nó.
Sự bão hòa phương tiện tổng hợp có thể làm tăng chi phí xác minh và thưởng cho các thể chế đã thiết lập có khả năng chi trả cho việc xác thực. Điều đó có thể bảo vệ chất lượng nhưng cũng tập trung việc gác cổng. Các tiêu chuẩn mở, công cụ xác minh vì lợi ích công cộng, báo chí địa phương, và các phương pháp minh bạch có thể giảm sự đánh đổi giữa tính xác thực và tính đa nguyên.
Những gì các hệ thống mạnh mẽ hơn có thể bổ sung
Các tác nhân có năng lực hơn có thể tạo ra nhiều tài liệu nhất quán lẫn nhau, mạo danh người qua các kênh, địa phương hóa các câu chuyện, thử nghiệm thông điệp, và thích nghi với phản ứng của một cá nhân. Kịch bản đó có thể xảy ra nhưng chưa được đo lường như một hiệu ứng AGI tổng quát. Các biện pháp phòng thủ sẽ cần xác thực con người và quy trình, giới hạn tốc độ các chiến dịch đáng ngờ, bảo vệ dữ liệu cá nhân, và bảo tồn xem xét của con người mà không tạo ra giám sát danh tính phổ quát.
Kết luận thực tiễn là hoài nghi có kỷ luật thay vì không tin tưởng toàn diện. Đừng tin tưởng phương tiện chỉ vì nó trông giống thật, và đừng bác bỏ nó chỉ vì tổng hợp là khả thi. Nguồn gốc, xác minh chéo, lịch sử nguồn, và động cơ cùng nhau tạo ra một nền tảng thực tế mạnh mẽ hơn so với chỉ riêng phát hiện tự động hoặc trực giác.