“Thật hay giả?” thường là câu hỏi đầu tiên sai
Một bức ảnh chân thực có thể mang một chú thích sai. Một biểu đồ do AI tạo ra có thể giải thích một kết quả khoa học đúng. Một bản ghi âm xác thực có thể bị cắt để đảo ngược ý nghĩa của nó. Một giọng nói bịa đặt có thể lặp lại các sự thật. Hiểu biết truyền thông bắt đầu bằng cách tách biệt ít nhất ba câu hỏi: Tệp này đến từ đâu? Điều gì đã xảy ra với nó? Tuyên bố mà nó hỗ trợ có bắt nguồn từ bằng chứng hay không?
Không công cụ phát hiện hay chứng chỉ nào trả lời cả ba. Nguồn gốc nội dung có thể cung cấp bằng chứng về nguồn gốc và chỉnh sửa. Phát hiện có thể ước tính liệu một quy trình tạo đã biết có liên quan hay không. Báo chí và xác minh chéo đánh giá tuyên bố cơ bản. Việc coi bất kỳ một tầng nào là một cỗ máy sự thật tạo ra các lỗ hổng mới.
Chứng chỉ Nội dung C2PA chứa những gì
Liên minh về Nguồn gốc và Tính xác thực Nội dung công bố một tiêu chuẩn kỹ thuật mở để đính kèm các khẳng định được ký bằng mật mã vào phương tiện kỹ thuật số. Một bản kê khai có thể xác định công cụ hoặc thiết bị ký, các hành động chỉnh sửa, các thành phần được sử dụng để tạo ra một tài sản, và thông tin khác do người triển khai chọn. Các hàm băm mật mã ràng buộc chứng chỉ với nội dung để các thay đổi trái phép có thể được phát hiện.
Điều này thay đổi câu hỏi từ “Nó có trông giống tổng hợp không?” thành “Người ký nào đã đưa ra tuyên bố nào về tệp này, và hồ sơ đã ký có còn nguyên vẹn không?” Sáng kiến Tính xác thực Nội dung mô tả chứng chỉ như một nhãn dinh dưỡng chứ không phải một phán quyết (tổng quan CAI).
Người xác minh vẫn phải quyết định liệu họ có tin tưởng người ký và chuỗi chứng chỉ hay không. Một chữ ký hợp lệ cho thấy người nắm giữ một khóa riêng đã ký các khẳng định; nó không chứng minh rằng thiết bị không bị xâm phạm, người vận hành trung thực, hoặc sự kiện được mô tả là tự phát.
Nguồn gốc không chứng minh sự thật
Tài liệu giải thích C2PA nói rõ ràng: nguồn gốc có thể hỗ trợ các phán đoán về nguồn gốc và lịch sử, nhưng tự nó không thể xác định liệu nội dung có đúng, chính xác, hoặc thực tế hay không. Nó cũng nói rằng nguồn gốc có thể không đầy đủ và metadata có thể bị loại bỏ (giải thích C2PA).
Điều đó tạo ra một số hạn chế thực tiễn:
- một cảnh được dàn dựng có thể được ghi lại bởi một máy ảnh xác thực;
- một chỉnh sửa trung thực có thể thiếu nguồn gốc tương thích;
- một người ký độc hại hoặc bị xâm phạm có thể đưa ra các khẳng định gây hiểu lầm;
- ảnh chụp màn hình và xử lý nền tảng có thể loại bỏ metadata;
- một thiết bị cũ hoặc giá rẻ có thể không bao giờ tạo ra chứng chỉ;
- các liên kết watermark hoặc dấu vân tay bền vững có thể thất bại hoặc tạo ra các kết quả khớp sai;
- thông tin danh tính có thể gây nguy hiểm cho nhà báo, nhà hoạt động, hoặc người sống sót sau lạm dụng.
Do đó, sự vắng mặt của chứng chỉ là nguồn gốc không xác định, không phải bằng chứng của việc bịa đặt. Sự hiện diện là một tín hiệu tích cực mà ý nghĩa của nó phụ thuộc vào người ký, các khẳng định, và bối cảnh.
Chứng chỉ bền vững và các sự đánh đổi của chúng
C2PA hỗ trợ “ràng buộc cứng,” chẳng hạn như hàm băm mật mã, và “ràng buộc mềm,” chẳng hạn như watermark hoặc dấu vân tay có thể giúp khôi phục một chứng chỉ sau khi metadata bị loại bỏ. Tính bền vững cải thiện sự tồn tại nhưng không khiến việc loại bỏ trở nên bất khả thi. Việc cắt xén, nén, ghi lại, chỉnh sửa đối kháng, hoặc các nền tảng không được hỗ trợ có thể phá vỡ kết nối.
Chứng chỉ được lưu trữ trên đám mây đặt ra các câu hỏi về tính khả dụng, quản trị, và quyền riêng tư. Danh sách tin cậy xác định cơ quan cấp chứng chỉ nào mà người xác minh công nhận. Các khóa bị xâm phạm cần thu hồi và một cách để phân biệt nội dung được ký trước và sau khi bị xâm phạm. Người triển khai nên ghi chép việc lưu giữ, tra cứu, sửa chữa, và kháng nghị.
Nguồn gốc nên là tùy chọn hoặc bảo vệ quyền riêng tư nơi danh tính tạo ra nguy hiểm. Tiêu chuẩn này về bản chất không yêu cầu danh tính cá nhân của người tạo. Các sản phẩm nên tránh gợi ý điều ngược lại.
Watermark và nhãn
Một watermark nhúng một tín hiệu vào nội dung. Nó có thể hiển thị hoặc ẩn và có thể xác định một trình tạo hoặc nguồn gốc tổng hợp. Các watermark mạnh mẽ có thể sống sót qua một số phép biến đổi thông thường, nhưng các chủ thể quyết tâm có thể loại bỏ hoặc lẩn tránh chúng, đặc biệt khi họ kiểm soát một quy trình tạo mở.
Nhãn có thể giúp người dùng hiểu bối cảnh, nhưng ngôn từ và cách hiển thị của chúng quan trọng. “Do AI tạo ra” có thể quá rộng đối với một bức ảnh được chỉnh sửa nhẹ và quá hẹp đối với một hình ảnh chân thực kết hợp với lời tường thuật tổng hợp. Nhãn cũng có thể tạo ra một “cổ tức của kẻ nói dối,” khuyến khích mọi người bác bỏ bằng chứng xác thực không có nhãn.
Báo cáo nội dung tổng hợp của NIST xem xét nguồn gốc, watermarking, ghi nhãn, và phát hiện, và mô tả sự bất định về tính mạnh mẽ và giảm thiểu tổn hại (NIST AI 100-4). Các chính sách nên yêu cầu thử nghiệm trong quy trình nền tảng thực tế và công bố kết quả dương tính giả, âm tính giả, và loại bỏ.
Phát hiện là phân loại, không phải xét xử
Các công cụ phát hiện suy luận liệu văn bản, âm thanh, hình ảnh, hoặc video có giống với đầu ra từ các trình tạo đã biết hay không. Chúng có thể hỗ trợ một nhà phân tích được đào tạo, ưu tiên xem xét, hoặc xác định một họ mô hình. Chúng có thể thất bại sau khi nén, dịch thuật, chỉnh sửa, hoặc việc phát hành một trình tạo mới. Một đối thủ có thể thăm dò một công cụ phát hiện công khai và thích nghi.
Cáo buộc sai là một tổn hại nghiêm trọng. Một học sinh, người lao động, nhà báo, hoặc người xin tị nạn không nên mất đi một cơ hội vì một công cụ phát hiện trả về một xác suất. Các quyết định rủi ro cao cần bằng chứng xác minh chéo, một lời giải thích về các hạn chế, xem xét của con người, và một kháng nghị. Các thể chế nên bảo tồn tệp gốc và phiên bản công cụ để các phát hiện có thể được tái lập.
Phát hiện và nguồn gốc có thể bổ trợ cho nhau. Một chứng chỉ hợp lệ có thể xác lập một quy trình đã biết; một công cụ phát hiện có thể gắn cờ một sự không nhất quán không giải thích được; báo cáo nguồn có thể giải quyết nó. Sự đồng thuận làm tăng niềm tin nhưng vẫn không chứng minh tuyên bố được đại diện.
Một quy trình xác minh thực tiễn
Khi một mục hậu quả xuất hiện:
- Dừng lại trước khi chia sẻ. Sự cấp bách và cường độ cảm xúc là lý do để kiểm tra, không phải bằng chứng của sự sai lệch.
- Tìm nguồn sớm nhất có sẵn. Ảnh chụp màn hình và đăng lại loại bỏ bối cảnh.
- Kiểm tra chứng chỉ nếu có. Xác định người ký, công cụ tạo, các chỉnh sửa, trạng thái xác thực, và lịch sử bị thiếu.
- Kiểm tra tuyên bố riêng biệt. Phương tiện có thực sự cho thấy những gì chú thích nói hay không?
- Tìm kiếm xác minh chéo độc lập. Tìm các nhân chứng hoặc hồ sơ khác nhau, không phải nhiều trang web lặp lại một bài đăng.
- Kiểm tra thời gian và địa điểm. Tìm kiếm hình ảnh ngược, các mốc, thời tiết, bóng đổ, và lịch sử xuất bản có thể tiết lộ phương tiện tái sử dụng.
- Xác minh danh tính ngoài kênh. Đối với các yêu cầu khẩn cấp về tiền hoặc an toàn, hãy sử dụng một số điện thoại đã biết hoặc kênh trực tiếp.
- Bảo tồn bằng chứng. Lưu URL gốc, tệp, dấu thời gian, và tin nhắn trước khi báo cáo.
Đối với nội dung rủi ro thấp thông thường, không phải mọi mục đều cần một cuộc điều tra pháp y. Nỗ lực nên tương xứng với hậu quả của việc sai lầm.
Dạy hiểu biết truyền thông mà không dạy sự hoài nghi
Mục tiêu là niềm tin có cân nhắc. “Đừng tin bất cứ điều gì trên mạng” khiến mọi người dễ bị tổn thương trước bất cứ ai có vẻ quen thuộc. Việc giảng dạy tốt hơn giải thích cách kiến thức được sản xuất: bằng chứng chính, xem xét biên tập, sửa chữa, chuyên môn, xung đột, và sự bất định.
Các tài nguyên hiểu biết truyền thông và thông tin của UNESCO nhấn mạnh sự tham gia phê phán với thông tin và các hệ thống kỹ thuật số, bao gồm AI tạo sinh (UNESCO MIL). Một chương trình giảng dạy đa nguyên nên sử dụng các ví dụ từ các góc nhìn chính trị và văn hóa khác nhau, phân biệt thông tin sai với sự bất đồng, và cho phép học sinh thách thức các thể chế đáng tin cậy bằng bằng chứng.
Các bài tập có thể so sánh một tài liệu gốc với bình luận, kiểm tra một chứng chỉ thực, truy nguyên một hình ảnh tái sử dụng, và đánh giá các sai sót của một công cụ phát hiện. Hãy dạy học sinh sửa đổi một kết luận khi có bằng chứng mới.
Nhà xuất bản và nền tảng nên làm gì
Nắm bắt nguồn gốc tại nguồn khi an toàn, bảo tồn nó qua chỉnh sửa, và hiển thị nó theo cách có thể tiếp cận. Giữ các tệp gốc và lịch sử sửa chữa. Giải thích những gì một chứng chỉ xác lập và không xác lập. Không hạ cấp tự động mọi nội dung không có chứng chỉ.
Các nền tảng nên bảo tồn metadata có thể tương tác, công bố khi xử lý loại bỏ nó, hỗ trợ thu hồi, và cung cấp cho các nhà nghiên cứu quyền truy cập bảo vệ quyền riêng tư để nghiên cứu hiệu quả. Các tòa soạn và cơ quan công quyền cần các kênh được xác thực và kế hoạch sự cố cho các tài khoản hoặc khóa ký bị xâm phạm.
Các nhà phát triển mô hình có thể áp dụng nguồn gốc cho phương tiện được tạo ra, nhưng các chủ thể độc hại có thể sử dụng các công cụ không làm vậy. Việc áp dụng giảm sự mơ hồ giữa những người tham gia hợp tác; nó không loại bỏ nội dung tổng hợp đối kháng.
Kết luận thực tiễn
Nguồn gốc nội dung là hạ tầng có giá trị để xác lập nguồn gốc và lịch sử đã khai báo của một tệp. Nó không thể chứng minh sự thật, không thể đảm bảo lịch sử đầy đủ, và có thể bị loại bỏ. Phát hiện có thể hỗ trợ điều tra nhưng quá mong manh cho các phán đoán rủi ro cao không được xác minh chéo. Hiểu biết truyền thông cung cấp lý luận mà cả hai công nghệ đều thiếu.
Cách tiếp cận mạnh nhất kết hợp lịch sử đã ký, phát hiện cẩn thận, xác minh chéo độc lập, các kênh được xác thực, sửa chữa minh bạch, và kháng nghị. Kết quả nên là nhiều bằng chứng hơn và niềm tin được cân nhắc tốt hơn—không phải một huy hiệu mới yêu cầu công chúng ủy thác phán đoán.