تقديرات مخاطر الذكاء الاصطناعي وخلاف الخبراء

النسبة المئوية حكم، لا قياس

عندما يقول باحث إن هناك احتمالًا بنسبة 10 بالمئة أن يتسبب الذكاء الاصطناعي المتقدم في انقراض البشر، فالرقم ليس تواترًا مقيسًا عبر تواريخ متكررة. إنه احتمال ذاتي يُلخِّص معتقدات حول القدرة، والنشر، والمؤسسات، والصراع، وخطوات كثيرة غير مؤكَّدة. وقد يستخدم خبير آخر “الخطر الوجودي” ليشمل إضعاف السلطة البشرية الدائم، بينما يُبلِّغ عنوان صحفي عن الانقراض فقط.

يمكن لتقديرات كهذه أن تُوجِّه القرارات، خصوصًا عندما تكون العواقب هائلة، لكن ينبغي ألا تُقدَّم كثوابت علمية راسخة. والمتحدث، والتاريخ، والسؤال الدقيق، والأفق الزمني، وتعريف النتيجة، والأدلة، وعدم اليقين كلها مهمة. وتقدير عالِم مشهور الشخصي يظل تقديرًا شخصيًا.

حدِّد النتيجة قبل مقارنة الأرقام

تُمزَج أربع نتائج على الأقل عادةً:

• الضرر الشديد: خسائر بشرية كبيرة، أو خسارة اقتصادية، أو انتهاكات حقوق؛
• الكارثة العالمية: ضرر يمسّ جزءًا كبيرًا من البشرية أو نسبة محدَّدة من الوفيات؛
• انقراض البشر: لا يبقى سكان بشريون؛
• الكارثة الوجودية: الانقراض أو التدمير غير القابل للتراجع لإمكانات البشرية طويلة الأمد، ما قد يشمل أحيانًا إضعاف السلطة الشديد الدائم.

قد تسأل التوقعات ما إذا كان الذكاء الاصطناعي يُسبِّب النتيجة، أو يُساهم فيها ضرورةً، أو يظهر فقط في مكان ما ضمن السلسلة. وقد تغطي عشر سنوات، أو عام 2100، أو كل الزمن المستقبلي. ولا يمكن مقارنة تقدير 1% على مدى عشر سنوات مباشرة بتقدير 5% على مدى قرن.

كما تتفاوت تعريفات التكنولوجيا: الذكاء الاصطناعي عام الغرض الحالي، أو “الذكاء الآلي رفيع المستوى”، أو الذكاء العام الاصطناعي، أو الذكاء الخارق، أو أي ذكاء اصطناعي مستقبلي. حافظ دائمًا على الصياغة الأصلية.

ما الذي وجده استطلاع الباحثين الكبير

دعا استطلاع الخبراء لعام 2023 بشأن تقدّم الذكاء الاصطناعي مؤلفين من منابر رائدة في الذكاء الاصطناعي وحصل على ردود من 2,778 باحثًا. ووجد تحليله المنشور خلافًا واسعًا حول الجداول الزمنية والآثار. وتوقّع معظم المُجيبين أن تكون النتائج الجيدة من ذكاء اصطناعي فائق البشرية أكثر احتمالًا من السيئة، مع أن كثيرين منحوا احتمالًا غير تافه لنتائج سيئة للغاية. ووجدت الورقة أيضًا أن الردود تغيّرت مع صياغة السؤال (Grace وآخرون، «آلاف مؤلفي الذكاء الاصطناعي عن مستقبل الذكاء الاصطناعي»).

وهذا لا يدعم “خبراء الذكاء الاصطناعي متفقون على أن الانقراض مرجّح”. إنه يدعم ادعاءً أضيق: اعتبر جزء كبير من الباحثين المستطلَعين النتائج الشديدة معقولة بما يكفي لمنحها احتمالًا ذا معنى، إلى جانب تفاؤل وتشتت واسع. وللاطلاع الأعمق على سبب اختلاف الردود الخاصة بالانقراض تحديدًا في هذا الاستطلاع وغيره اختلافًا واسعًا، راجع لماذا تختلف تقديرات الخبراء عن الانقراض اختلافًا واسعًا.

وتشمل حدود الاستطلاع عدم الرد، والخبرة المتفاوتة في تحليل المخاطر، والتعريفات غير المستقرة، وصعوبة ترجمة القلق الحدسي إلى احتمالات مُعايَرة. والنشر في مؤتمر ذكاء اصطناعي رفيع لا يُثبت سوى خبرة تقنية، لا مهارة توقّع بشأن الجغرافيا السياسية أو التغيير الاجتماعي على مدى قرن. كما تُخفي الإجابات الوسيطة الاستقطاب والارتباطات بين المُجيبين.

بطولات التوقع تكشف خلافًا آخر

جمعت بطولة الإقناع بشأن الخطر الوجودي 80 خبيرًا موضوعيًا و89 مُتنبِّئًا فائقًا لديهم سجلات في التنبؤ قصير المدى. وقدّر المشاركون مخاطر الذكاء الاصطناعي، والنووية، والبيولوجية، وأخرى بموجب تعريفات مشتركة، وتبادلوا الحجج، وحدّثوا تقديراتهم (بطولة معهد بحوث التوقع).

ووجد التحليل المُراجَع من الأقران الناتج فروقًا كبيرة بين الخبراء المتخصصين والمُتنبِّئين الفائقين، خصوصًا للذكاء الاصطناعي (Karger وآخرون، International Journal of Forecasting). وهذا دليل قيّم ضد توافق زائف. ولا يُثبت أن المجموعة الأدنى أو الأعلى على صواب.

وأظهر المُتنبِّئون الفائقون معايرة على أسئلة كثيرة قابلة للحل وقصيرة الأفق. ولا يمكن تسجيل أسئلة الانقراض على مستوى القرن ضمن مسيرة المشاركين المهنية، والاحتمالات النادرة دون واحد بالمئة صعبة التحقق بشكل خاص. وقد يفهم الخبراء المتخصصون الآليات بشكل أفضل لكنهم قد يُختاَرون للمجال بسبب القلق وقد يفتقرون إلى معايرة التوقع. وتحمل المجموعتان نقاط قوة وتحيّزات مختلفة.

لماذا يختلف الخبراء

افتراضات القدرة: هل ستُنتج الطرق الحالية استقلالية قوية، واكتشافًا علميًا، وتخطيطًا استراتيجيًا، أم ستظل الموثوقية والتجسيد صعبة؟

افتراضات الجدول الزمني: يتراكم الخطر بشكل مختلف إذا وصلت القدرة التحويلية خلال خمس سنوات مقابل خمسين. فالمؤسسات لديها وقت أكثر للتكيّف تحت تقدّم أبطأ، لكن جهات فاعلة أكثر قد تكتسب وصولًا.

افتراضات المواءمة: يختلف الباحثون حول ما إذا كانت الأنظمة المتقدمة ستُطوِّر أهدافًا مستمرة، وما إذا كان التدريب الحالي سيضبطها، ومقدار الأدلة السلفية المُلاحَظة التي ينبغي أن تُحرِّك التوقعات.

افتراضات القوة والنشر: نموذج قادر دون أدوات أو سلطة مختلف عن عميل منشور على نطاق واسع يتحكم بالمال، أو الشيفرة، أو المختبرات، أو البنية التحتية.

افتراضات الحوكمة: قد تُهيمن المنافسة، والصراع العسكري، والملكية المُركَّزة، والتنظيم، والتنسيق الدولي على عدم اليقين التقني.

التعريفات الأخلاقية: قد يُعدّ فقدان السيطرة البشرية الدائم ضررًا وجوديًا لمُتنبِّئ ولا يُعدّ كذلك لآخر.

الرقم العنواني يضغط هذا النموذج بأكمله. والتقرير الجيد يُعيد فك ضغطه.

المعايرة صعبة لكنها ليست اختيارية

المُتنبِّئ المُعايَر الذي يمنح 20% لأحداث كثيرة ينبغي أن يكون على صواب في نحو خُمسها. ولا يمكن قياس المعايرة إلا عبر مجموعة أسئلة قابلة للمقارنة ومحلولة. ولا نستطيع معايرة توقّع انقراض بحلول 2100 مباشرة اليوم.

يستطيع المُتنبِّئون مع ذلك تحسين الانضباط بتفكيك المسار إلى أسئلة أقرب وقابلة للملاحظة: استقلالية النموذج، وأتمتة البحث، وإخفاقات الضمانات، وحجم النشر، ومعدلات الحوادث، وتبني الحوكمة. ويمكن لتلك التوقعات أن تُحَلَّ أسرع وتكشف أي الافتراضات كانت خاطئة.

استخدم المعدلات الأساسية بحذر. فالبشرية ليس لديها عيّنة تاريخية لتحولات الذكاء العام الاصطناعي. وتُقدِّم التشبيهات بالأسلحة النووية، والأوبئة، والأمن السيبراني، والحوادث الصناعية، وتبني البرمجيات دليلًا جزئيًا، لا فئة مرجعية مباشرة. وتخاطر النماذج الآلية أيضًا بمُركَّب احتمالات تخمينية عبر خطوات مترابطة.

التركيب العلمي لا يُحدِّد احتمالًا واحدًا

يفصل التقرير الدولي لسلامة الذكاء الاصطناعي 2026، المكتوب عبر عملية خبراء دولية، بين إساءة الاستخدام الخبيثة الموثَّقة وإخفاقات الموثوقية من جهة، وسيناريوهات فقدان السيطرة الافتراضية من جهة أخرى. ويذكر أن الأنظمة الحالية تفتقر إلى القدرات اللازمة لفقدان السيطرة، وأن القدرات ذات الصلة تتحسّن، وأن الخبراء يختلفون اختلافًا كبيرًا حول الاحتمالية والشدّة (التقرير الدولي لسلامة الذكاء الاصطناعي 2026).

وهذا ليس “احتمالًا بتوافق آراء”. إنه توافق آراء على أن الأدلة تحتوي مخاطر جدّية وعدم يقين كبير. ويمكن للتقييم العلمي تحديد الآليات، والملاحظات، والفجوات، والضمانات دون التظاهر بمعرفة احتمال واحد للكارثة.

كيفية تقديم تقدير عام

ينبغي أن يبدو الإدخال المسؤول كالتالي:

في [تاريخ]، منح [شخص أو مجموعة] [احتمال أو نطاق] لـ[نتيجة دقيقة] بحلول [وقت]، بموجب [تعريف تكنولوجيا]، استنادًا إلى [أسباب رئيسية]. وهذا [حكم شخصي، أو تجميع استطلاع، أو توقّع منظَّم]، لا تواتر مُلاحَظ.

أدرِج التوزيع حيثما أمكن. أبلِغ عن معدل الاستجابة واختيار العيّنة للاستطلاعات. ميّز بين المتوسط والوسيط، وبين الاحتمال المشروط وغير المشروط. حافظ على المراجعات بحيث يمكن تقييم التوقعات بدلًا من الكتابة فوقها بهدوء.

لا تُوسِّط بين أسئلة غير متوافقة. فدمج تقدير “إضعاف السلطة الدائم” من استطلاع مع تقدير “سكان دون 1,000” من بطولة يخلق رقمًا بلا معنى متماسك.

اتخاذ القرار في ظل الخلاف

لا تتطلب السياسة يقينًا. فيمكن للمخاطر منخفضة الاحتمال وعالية العواقب أن تُبرِّر البحث، والمراقبة، والمرونة، والضمانات القابلة للتراجع عندما تحمل تلك التدابير فوائد عبر السيناريوهات. وتهم تكلفة التدخّل وآثاره الجانبية أيضًا. فقد يرفع احتراس يُرسِّخ احتكارًا، أو يُقمِع علمًا مشروعًا، أو يزيد عدم الاستقرار الجيوسياسي مخاطر أخرى.

وتشمل التدابير المتينة تقييمات مستقلة، وإبلاغًا عن الحوادث، وأمن النماذج، والاستجابة للطوارئ، والدفاع البيولوجي، والأمن السيبراني، والسيطرة البشرية على الاستخدام النووي، والمساءلة الواضحة. وتظل مفيدة عبر نطاق احتمالي واسع.

واختلاف تحمّل المخاطر أسئلة سياسية مشروعة. ويستطيع الخبراء إثراء الأدلة لكنهم لا يستطيعون وحدهم تحديد كيف يوازن المجتمع بين الابتكار، والحرية، والتوزيع، والأمن، والضرر المستقبلي غير المؤكَّد.

التحديث بدلًا من الدفاع عن قبيلة

ينبغي أن تتغيّر التوقعات عندما تتغيّر الأدلة. وتشمل التحديثات ذات الصلة استقلالية مهام طويلة مستدامة، وتقدّم بحثي مُولَّد بالذكاء الاصطناعي ومُتحقَّق منه، وإخفاقات ضمانات واقعية، وإشرافًا ناجحًا، وقوانين كبرى، أو هضابًا مستمرة في القدرة. وينبغي لمُتنبِّئ أن يُحدِّد ما الذي سيُحرِّك التقدير للأعلى أو الأسفل.

يُحسِّن التنوّع الفكري التقييم. أشرِك متشككين تقنيين، وباحثي سلامة، وعلماء اجتماع، ومُتنبِّئين، وخبراء مجال، ومجتمعات متأثرة، وصانعي سياسات. وينبغي تخطيط الخلاف حسب الافتراضات، لا اختزاله إلى “متفائلين” و“متشائمين”.

الخلاصة العملية

تُظهر تقديرات الخبراء أن مخاطر الذكاء الاصطناعي الكارثية يأخذها كثير من الأشخاص المؤهَّلين على محمل الجد ويشكّك فيها آخرون. ولا تُثبت احتمالًا مقيسًا أو رأيًا علميًا موحَّدًا. وتكشف الاستطلاعات معتقدات؛ وتفرض البطولات انضباط توقّع؛ وتشرح النظرية المسارات؛ وتختبر التقييمات المكونات؛ ويُوفِّر النشر أدلة واقعية.

الموقف العام الأكثر صدقًا هو عدم يقين منظَّم: حدِّد النتيجة، واعرض النطاق، واكشف الافتراضات، وتتبّع المعايرة حيثما أمكن، واختر ضمانات تبقى ذات قيمة عبر عدة مستقبلات معقولة.