المشكلة ذات اتجاهين
تُقلِّل الأنظمة التوليدية الوقت والمهارة اللازمين لإنشاء نص، وصور، وصوت، وفيديو مقنعة. وقد تُقبَل الوسائط الزائفة كحقيقية. وفي الوقت نفسه، قد يُرفَض الدليل الحقيقي بوصفه اصطناعيًا — وهو ما يُسمى “عائد الكاذب”. ولا يتطلب هذا الأثر الثاني تزييفًا عميقًا كاملًا؛ بل يكفيه وعي عام كافٍ بإمكانية التلفيق ليجعل الإنكار قابلًا للتصديق.
وهذه مشكلة حالية خاصة بالذكاء الاصطناعي التوليدي، لا دليل على وجود الذكاء العام الاصطناعي. وتشمل الأضرار الحالية عمليات احتيال بانتحال الهوية، وصورًا حميمة دون موافقة، ومحتوى سياسيًا مُلفَّقًا، وأدلة مزوَّرة، وفيضًا رخيصًا من المحتوى. ولمعرفة تسلسل تعافي الأسرة بعد نجاح عملية احتيال بانتحال الهوية، راجع ماذا تفعل بعد التعرض لاحتيال بمساعدة الذكاء الاصطناعي. أما الإقناع الفردي على مستوى الذكاء العام الاصطناعي فهو إسقاط يعتمد على قدرة مستقبلية، والوصول إلى بيانات شخصية، والنشر الفعلي، والقابلية البشرية للتأثر.
ما هو موثَّق، وما ليس كذلك
استُخدم استنساخ الصوت وتوليف الوجه في الاحتيال والتحرش. وأصدرت جهات فاعلة سياسية وسائط اصطناعية أو ضخّمتها. ومع ذلك، لا تكشف الأمثلة الفيروسية عن مدى الانتشار أو الأثر الانتخابي الصافي. فالناس يشاركون المحتوى الزائف لأسباب اجتماعية وحزبية، ويظل التحرير التقليدي، والعناوين المُضلِّلة، واللقطات الحقيقية المُقدَّمة خارج سياقها قوية التأثير. ويمكن لتركيز ضيق على التزييف العميق المثير أن يُغفل المشكلة الأكثر شيوعًا: الخداع العادي المُسرَّع بالأتمتة.
وتحتاج ادعاءات الكشف أيضًا إلى الحذر. فالكاشف يُقدِّر ما إذا كانت السمات تشبه مادة في بيانات تدريبه. ويمكن للأداء أن يتراجع بعد الضغط، أو القص، أو الترجمة، أو تحديثات النموذج، أو التهرب المتعمَّد. ويمكن للإيجابيات الكاذبة أن تضر بالصحفيين، والفنانين، والأشخاص الذين يوثّقون الانتهاكات. وغياب إشارة الكاشف ليس دليلًا على الأصالة؛ وينبغي لإشارة إيجابية أن تبدأ تحقيقًا لا أن تُنهيه.
إثبات المنشأ مفيد — لكنه لا يُصادِق على الحقيقة
يتيح معيار ائتلاف إثبات منشأ المحتوى وأصالته (C2PA) للأدوات المتوافقة إرفاق معلومات قابلة للتحقق تشفيريًا عن أصل ملف وتاريخ تحريره. ويمكن لشهادة صالحة أن تُظهر أن جهازًا أو منظمة معترفًا بها وقّعا تأكيدات معيّنة وأن البيانات الموقَّعة لم تُعدَّل دون ملاحظة. ويمكنها أن تدعم سلسلة حفظ.
ويذكر معيار C2PA نفسه أن إثبات المنشأ وحده لا يمكنه إثبات أن محتوى ما صحيح، أو دقيق، أو واقعي. فيمكن لكاميرا موثَّقة أن تُسجِّل حدثًا مُدبَّرًا؛ ويمكن لمُحرِّر مُصرَّح له أن ينشر قصًّا مُضلِّلًا؛ ويمكن لمنظمة موثوقة أن ترتكب خطأ. ويعتمد دعم الهوية أيضًا على الشهادة ونظام الثقة المستخدَمين (شرح C2PA، المواصفة 2.2).
ويمكن أن تكون الشهادات غائبة أيضًا عن وسائط حقيقية. فلقطات الشاشة، وإعادة الترميز، والمنصات الاجتماعية، وإزالة البيانات الوصفية يمكن أن تُزيلها. وتذكر وثائق مساعدة OpenAI نفسها أن لقطات الشاشة يمكن أن تُزيل بيانات C2PA الوصفية (مركز مساعدة OpenAI). ولذلك:
- إثبات منشأ صالح دليل إيجابي على التاريخ، لا على الحقيقة؛
- إثبات منشأ غير صالح يُظهر سلسلة مكسورة أو مُعدَّلة، لا مشهدًا زائفًا بالضرورة؛
- غياب إثبات المنشأ ليس دليلًا على التلفيق.
والمعيار تُشكِّله شركات تقنية وإعلامية تستفيد من تبنّيه. ووثائقه التقنية دليل أولي على كيفية عمله، لا دليل مستقل على فاعليته عبر النظام المعلوماتي بأكمله.
قانون الإفصاح يصبح حقيقة واقعة
في الاتحاد الأوروبي، بدأ تطبيق واجبات الشفافية بموجب المادة 50 من قانون الذكاء الاصطناعي في 2 أغسطس 2026. ويجب على مزوّدي أنظمة معينة دعم وسم قابل للقراءة الآلية للمحتوى المُولَّد أو المُعدَّل، ويواجه المُشغِّلون واجبات إفصاح بشأن تزييف عميق محدَّد ونصوص ذات مصلحة عامة، مع مراعاة استثناءات. وتنقسم مسؤولية الإنفاذ بين السلطات الوطنية، وفي ظروف أضيق، مكتب الذكاء الاصطناعي. وتقول المفوضية الأوروبية إن الغرامات على المخالفات ذات الصلة يمكن أن تبلغ 15 مليون يورو أو 3% من إجمالي الإيرادات السنوية العالمية، مع قواعد تناسبية (المفوضية الأوروبية، يوليو 2026).
وفي الولايات المتحدة، أصبح قانون TAKE IT DOWN الفيدرالي نافذًا في مايو 2025، يعالج الصور الحميمة دون موافقة، بما في ذلك التزوير الرقمي المشمول، ويُلزم المنصات المشمولة بتشغيل إجراء إشعار وإزالة. وهو ليس قانونًا عامًا لأصالة التزييف العميق وينبغي ألا يُوصَف كذلك. وقد تنطبق أيضًا قوانين انتخابية، وقوانين حماية المستهلك، وحقوق النشر الشخصي، وقوانين الولايات، بتعريفات وولايات قضائية مختلفة.
وتساعد الوسوم المستخدمين الصادقين وتدعم الإنفاذ، لكن الجهات الفاعلة الخبيثة المستعدة لارتكاب الاحتيال لن تُسمِّي نفسها بموثوقية. والإفصاح طبقة واحدة، لا الحل الكامل.
سير عمل تحقق أقوى
ينبغي أن يجمع التحقق العالي المخاطر أدلة مستقلة:
- احفظ النسخة الأصلية. احفظ الملف، والرابط، والوقت، والمنشور المحيط قبل إعادة الضغط أو الحذف.
- تحقق من إثبات المنشأ. افحص الشهادات الصالحة وسلسلة ثقة الموقِّع، مع معاملة الغياب بحياد.
- اعثر على أقدم مصدر. أجرِ بحثًا عكسيًا للقطات الرئيسية وحدِّد أول رفع موثَّق.
- تحقق خارجيًا. ابحث عن تسجيلات مستقلة، وسجلات رسمية، وشهود، وطقس، وجغرافيا، وتقارير معاصرة.
- تواصل مع المصدر المزعوم عبر قناة منفصلة. لا تستخدم معلومات اتصال واردة فقط في الرسالة المشبوهة.
- قيِّم الدافع والتوقيت. الإلحاح، والسرية، ومطالب الدفع، والضغط العاطفي إشارات احتيال مستقلة عن جودة الوسيط.
بالنسبة لمكالمة استنساخ صوت عائلي، أغلق الخط واتصل بالشخص أو بقريب آخر باستخدام رقم معروف. ويمكن لعبارة تحقق عائلية خاصة أن تساعد، لكن عاملها كمُخترَقة إذا نُطقت أو كُتبت في قناة مكشوفة. وبالنسبة لطلبات الدفع للشركات، اشترط موافقة شخص ثانٍ وتأكيدًا عبر قناة منفصلة.
الصحافة، والمحاكم، والأرشيفات
تحتاج غرف الأخبار إلى سلاسل من الالتقاط إلى النشر، وممارسات تصحيح شفافة، وطريقة للاحتفاظ بالنُّسخ الأصلية. وتحتاج المحاكم إلى أدلة موثَّقة، وفحص خبراء عند الاقتضاء، وحذر تجاه المعروضات المُلفَّقة وتجاه الادعاءات الانتهازية بأن الدليل الحقيقي زائف على حد سواء. ويجب على محققي حقوق الإنسان موازنة إثبات المنشأ مع سلامة المصادر؛ فالكشف عن هوية مصوّر أو موقعه قد يخلق خطرًا.
وتواجه الأرشيفات تحديًا طويل الأمد: فالصيغ، والشهادات، والبنية التحتية للتحقق يمكن أن تنتهي صلاحيتها. وقد يُدمِّر الاحتفاظ بنسخة مُعالجَة عبر منصة فقط دليلًا متاحًا في الأصل. وتتطلب السلامة الدائمة ملفات أصلية، وقيم تجزئة، وطوابع زمنية، وسجلات سياقية، وخطط ترحيل — لا مجرد شارة في واجهة مستخدم.
مخاطر الأرضية المشتركة
النزاهة المعلوماتية ليست مرادفة للاتفاق. فالديمقراطيات السليمة تحتوي على خلاف بشأن القيم والتفسيرات. والهدف هو الحفاظ على طرائق موثوقة لإثبات الوقائع الأساسية: من قال ماذا، وأي مستند كان موجودًا، وكيف أُنتجت صورة، وأي مصادر مستقلة تؤكدها.
وقد يزيد تشبّع الوسائط الاصطناعية تكاليف التحقق ويكافئ المؤسسات الراسخة القادرة على تحمّل تكلفة التوثيق. ويمكن لذلك أن يحمي الجودة لكنه يُركِّز أيضًا حراسة البوابة. ويمكن للمعايير المفتوحة، وأدوات التحقق ذات المصلحة العامة، والصحافة المحلية، والطرائق الشفافة أن تُقلِّل المفاضلة بين الأصالة والتعددية.
ما الذي قد تضيفه أنظمة أقوى
قد تُولِّد عوامل أكثر قدرة العديد من المصنوعات المتسقة فيما بينها، وتنتحل شخصيات عبر قنوات متعددة، وتُوطِّن السرديات، وتختبر الرسائل، وتتكيّف مع ردود فعل فرد بعينه. وهذا السيناريو معقول لكنه لم يُقَس بعد كأثر عام للذكاء العام الاصطناعي. وستحتاج وسائل الدفاع إلى توثيق الأشخاص والعمليات، والحد من سرعة الحملات المشبوهة، وحماية البيانات الشخصية، والحفاظ على المراجعة البشرية دون خلق مراقبة هوية شاملة.
والخلاصة العملية هي شك منضبط لا عدم تصديق شامل. لا تثق بوسيط لمجرد أنه يبدو حقيقيًا، ولا ترفضه لمجرد إمكانية التوليف. فإثبات المنشأ، والتحقق الخارجي، وتاريخ المصدر، والحوافز تخلق معًا أرضية واقعية أقوى من الكشف الآلي أو الحدس وحدهما.