“حقيقي أم زائف؟” عادة السؤال الأول الخاطئ
يمكن لصورة فوتوغرافية حقيقية أن تحمل عنوانًا زائفًا. ويمكن لرسم بياني مُولَّد بالذكاء الاصطناعي أن يشرح نتيجة علمية حقيقية. ويمكن لتسجيل أصيل أن يُقصّ ليعكس معناه. ويمكن لصوت مُلفَّق أن يكرر حقائق. ويبدأ محو الأمية الإعلامية بفصل ثلاثة أسئلة على الأقل: من أين جاء هذا الملف؟ وماذا حدث له؟ وهل الادعاء الذي يدعمه ينبع فعليًا من الدليل؟
ولا يُجيب أي كاشف أو بيانة اعتماد عن الأسئلة الثلاثة كلها. فإثبات المنشأ يمكن أن يوفّر دليلًا عن الأصل والتحرير. ويمكن للكشف تقدير ما إذا كانت عملية توليد معروفة قد تدخّلت. وتُقيِّم الصحافة والتحقق الخارجي الادعاء الكامن. ومعاملة أي طبقة واحدة كآلة حقيقة تخلق ثغرات جديدة.
ما الذي تحتويه بيانات اعتماد المحتوى بموجب C2PA
ينشر ائتلاف إثبات منشأ المحتوى وأصالته (C2PA) معيارًا تقنيًا مفتوحًا لإرفاق تأكيدات موقَّعة تشفيريًا بالوسائط الرقمية. ويمكن لبيان أن يُحدِّد أداة أو جهاز التوقيع، وإجراءات التحرير، والمكوّنات المستخدَمة لإنشاء أصل، ومعلومات أخرى يختارها المُنفِّذ. وتربط قيم التجزئة التشفيرية بيانة الاعتماد بالمحتوى بحيث يمكن كشف التغييرات غير المُصرَّح بها.
ويُغيِّر هذا السؤال من “هل يبدو اصطناعيًا؟” إلى “من الموقِّع وماذا أكَّد بشأن هذا الملف، وهل بقي السجل الموقَّع سليمًا؟”. وتصف مبادرة أصالة المحتوى بيانات الاعتماد بأنها بطاقة معلومات غذائية لا حكمًا نهائيًا (نظرة عامة من CAI).
ويبقى على المُتحقِّق أن يقرر ما إذا كان يثق بالموقِّع وسلسلة الشهادات. فتوقيع صالح يُظهر أن حامل مفتاح خاص وقّع التأكيدات؛ لكنه لا يُثبت أن الجهاز لم يكن مُخترَقًا، أو أن المُشغِّل كان أمينًا، أو أن الحدث المُصوَّر كان عفويًا.
إثبات المنشأ لا يُثبت الحقيقة
يوضّح شرح C2PA صراحة: يمكن لإثبات المنشأ دعم أحكام بشأن الأصل والتاريخ، لكنه لا يستطيع وحده تحديد ما إذا كان محتوى ما صحيحًا، أو دقيقًا، أو واقعيًا. ويذكر أيضًا أن إثبات المنشأ قد يكون غير مكتمل وأن البيانات الوصفية يمكن إزالتها (شرح C2PA).
وهذا يخلق عدة قيود عملية:
- يمكن لمشهد مُدبَّر أن تلتقطه كاميرا أصيلة؛
- قد يفتقر تحرير أمين إلى إثبات منشأ متوافق؛
- يمكن لموقِّع خبيث أو مُخترَق أن يُقدِّم تأكيدات مُضلِّلة؛
- يمكن للقطات الشاشة ومعالجة المنصات إزالة البيانات الوصفية؛
- قد لا يُنشئ جهاز قديم أو منخفض التكلفة بيانات اعتماد على الإطلاق؛
- يمكن لروابط العلامة المائية أو البصمة الدائمة أن تفشل أو تخلق تطابقات كاذبة؛
- يمكن لمعلومات الهوية أن تُعرِّض صحفيين، أو ناشطين، أو ناجين من إساءة للخطر.
لذا فإن غياب بيانات الاعتماد منشأ مجهول، لا دليل على التلفيق. أما وجودها فإشارة إيجابية واحدة يعتمد معناها على الموقِّع، والتأكيدات، والسياق.
بيانات الاعتماد الدائمة ومفاضلاتها
يدعم C2PA “روابط صلبة”، كقيم التجزئة التشفيرية، و“روابط ليّنة”، كالعلامات المائية أو البصمات التي يمكن أن تساعد في إعادة اكتشاف بيانة اعتماد بعد إزالة البيانات الوصفية. وتُحسِّن الديمومة الاستمرارية لكنها لا تجعل الإزالة مستحيلة. فيمكن للقص، أو الضغط، أو إعادة التسجيل، أو التحرير العدائي، أو المنصات غير المدعومة أن تكسر الرابط.
وتُثير بيانات الاعتماد المُستضافة سحابيًا أسئلة توفر، وحوكمة، وخصوصية. وتُحدِّد قوائم الثقة أي جهات إصدار الشهادات يعترف بها المُتحقِّقون. وتحتاج المفاتيح المُخترَقة إلى إلغاء وطريقة للتمييز بين المحتوى الموقَّع قبل الاختراق وبعده. وينبغي للمُنفِّذين توثيق الاحتفاظ، والبحث، والتصحيح، والاستئناف.
وينبغي أن يكون إثبات المنشأ اختياريًا أو حافظًا للخصوصية حيث تخلق الهوية خطرًا. ولا يشترط المعيار جوهريًا الهوية الشخصية للمُنشئ. وينبغي للمنتجات تجنّب الإيحاء بغير ذلك.
العلامات المائية والوسوم
تُضمِّن علامة مائية إشارة داخل المحتوى. وقد تكون مرئية أو مخفية وقد تُحدِّد مُولِّدًا أو منشأً اصطناعيًا. ويمكن للعلامات المائية القوية أن تصمد أمام بعض التحويلات العادية، لكن الجهات الفاعلة المصمِّمة يمكنها إزالتها أو التهرب منها، خصوصًا عندما تتحكم بخط أنابيب توليد مفتوح.
ويمكن للوسوم أن تساعد المستخدمين على فهم السياق، لكن صياغتها وعرضها مهمان. فوسم “مُولَّد بالذكاء الاصطناعي” قد يكون واسعًا جدًا لصورة حُرِّرت بشكل طفيف وضيقًا جدًا لصورة حقيقية مقترنة بسرد صوتي اصطناعي. ويمكن للوسوم أيضًا أن تخلق “عائد الكاذب”، مُشجِّعة الناس على رفض دليل حقيقي غير موسوم.
وتستعرض ورقة NIST عن المحتوى الاصطناعي إثبات المنشأ، والعلامة المائية، والوسم، والكشف، وتصف أوجه عدم اليقين بشأن المتانة وتقليل الضرر (NIST AI 100-4). وينبغي أن تشترط السياسات اختبارًا في خط أنابيب المنصة الفعلي ونشر نتائج الإيجابيات الكاذبة، والسلبيات الكاذبة، والإزالة.
الكشف فرز، لا حكم نهائي
تستنتج الكاشفات ما إذا كان نص، أو صوت، أو صورة، أو فيديو يشبه مخرجات مُولِّدات معروفة. ويمكنها مساعدة محلل مُدرَّب، أو ترتيب أولويات المراجعة، أو تحديد عائلة نموذج واحدة. وقد تفشل بعد الضغط، أو الترجمة، أو التحرير، أو إصدار مُولِّد جديد. ويمكن لخصم سبر كاشف عام والتكيّف معه.
والاتهام الكاذب ضرر خطير. وينبغي ألا يخسر طالب، أو عامل، أو صحفي، أو طالب لجوء فرصة لأن كاشفًا أعاد احتمالًا. وتحتاج القرارات عالية المخاطر إلى دليل تحقق خارجي، وشرح للقيود، ومراجعة بشرية، واستئناف. وينبغي للمؤسسات حفظ الملف الأصلي وإصدار الأداة كي يمكن إعادة إنتاج النتائج.
ويمكن للكشف وإثبات المنشأ أن يُكمِّل أحدهما الآخر. فقد تُثبت بيانة اعتماد صالحة سير عمل معروف؛ وقد يُشير كاشف إلى تناقض غير مُفسَّر؛ وقد يحله تقرير مصدر. ويرفع الاتفاق الثقة لكنه لا يُثبت الادعاء المُمثَّل رغم ذلك.
سير عمل تحقق عملي
عندما يظهر عنصر ذو عواقب:
- توقف قبل المشاركة. الإلحاح والشدة العاطفية أسباب للتحقق، لا دليل على الزيف.
- اعثر على أقدم مصدر متاح. فلقطات الشاشة وإعادة النشر تُزيل السياق.
- افحص بيانات الاعتماد إن وُجدت. حدِّد الموقِّع، وأداة الإنشاء، والتحريرات، وحالة التحقق، والتاريخ المفقود.
- تحقق من الادعاء بشكل منفصل. هل يُظهر الوسيط فعليًا ما يقوله العنوان؟
- اطلب تحققًا خارجيًا مستقلًا. ابحث عن شهود أو سجلات مختلفة، لا مواقع كثيرة تكرر منشورًا واحدًا.
- تحقق من الزمان والمكان. فالبحث العكسي عن الصور، والمعالم، والطقس، والظلال، وتاريخ النشر قد يكشف وسائط مُعاد تدويرها.
- تحقق من الهوية عبر قناة منفصلة. بالنسبة لطلبات المال أو السلامة العاجلة، استخدم رقمًا معروفًا أو قناة شخصية.
- احفظ الأدلة. احفظ الرابط الأصلي، والملف، والطابع الزمني، والرسائل قبل الإبلاغ.
وبالنسبة للمحتوى الروتيني منخفض المخاطر، لا يحتاج كل عنصر إلى تحقيق جنائي. وينبغي أن يتناسب الجهد مع عاقبة الخطأ.
تعليم محو الأمية الإعلامية دون تعليم السخرية
الهدف ثقة مُعايَرة. فعبارة “لا تُصدِّق شيئًا على الإنترنت” تترك الناس عُرضة لمن يبدو مألوفًا. ويشرح تعليم أفضل كيف تُنتَج المعرفة: الدليل الأولي، والمراجعة التحريرية، والتصحيح، والخبرة، وتضارب المصالح، وعدم اليقين.
وتُشدِّد موارد محو الأمية الإعلامية والمعلوماتية لليونسكو على التفاعل النقدي مع المعلومات والأنظمة الرقمية، بما في ذلك الذكاء الاصطناعي التوليدي (محو الأمية الإعلامية والمعلوماتية لليونسكو). وينبغي لمنهج تعددي استخدام أمثلة من منظورات سياسية وثقافية مختلفة، والتمييز بين المعلومات المضلِّلة والاختلاف في الرأي، والسماح للطلاب بتحدي المؤسسات الموثوقة بالدليل.
ويمكن للتمارين مقارنة مستند أصلي بتعليق عليه، وفحص بيانة اعتماد حقيقية، وتتبع صورة مُعاد تدويرها، وتقييم أخطاء كاشف. علِّم الطلاب مراجعة استنتاج عند وصول دليل جديد.
ما ينبغي للناشرين والمنصات فعله
التقط إثبات المنشأ عند المصدر عندما يكون ذلك آمنًا، واحفظه عبر التحرير، واعرضه بطريقة يمكن الوصول إليها. احتفظ بالملفات الأصلية وسجل التصحيحات. اشرح ما تُثبته بيانة اعتماد وما لا تُثبته. لا تُخفِّض تلقائيًا تصنيف كل محتوى بلا بيانات اعتماد.
وينبغي للمنصات الحفاظ على بيانات وصفية قابلة للتشغيل البيني، والإفصاح عن متى تُزيلها المعالجة، ودعم الإلغاء، وتوفير وصول يحفظ الخصوصية للباحثين لدراسة الفاعلية. وتحتاج غرف الأخبار والوكالات العامة إلى قنوات موثَّقة وخطط حوادث لحسابات أو مفاتيح توقيع مُخترَقة.
ويمكن لمطوّري النماذج تطبيق إثبات المنشأ على الوسائط المُولَّدة، لكن الجهات الفاعلة الخبيثة قد تستخدم أدوات لا تفعل ذلك. ويُقلِّل التبني الغموض بين المشاركين المتعاونين؛ لكنه لا يُزيل المحتوى الاصطناعي العدائي.
الخلاصة العملية
إثبات منشأ المحتوى بنية تحتية قيّمة لإثبات الأصل والتاريخ المُعلَنين لملف. ولا يستطيع إثبات الحقيقة، ولا ضمان تاريخ كامل، ويمكن إزالته. ويمكن للكشف دعم التحقيق لكنه هش جدًا لأحكام عالية المخاطر غير مُحقَّق منها خارجيًا. ويوفّر محو الأمية الإعلامية المنطق الذي تفتقر إليه كلتا التقنيتين.
ويجمع النهج الأقوى بين تاريخ موقَّع، وكشف حذر، وتحقق خارجي مستقل، وقنوات موثَّقة، وتصحيحات شفافة، واستئناف. وينبغي أن تكون النتيجة مزيدًا من الأدلة وثقة أفضل معايرة — لا شارة جديدة تطلب من الجمهور تفويض حكمه.