لماذا تتباين تقديرات الخبراء لخطر الانقراض

ما هذه الصفحة، وما لا تكونه

تتناول هذه الصفحة الأدلة الكامنة خلف الأرقام، لا الأرقام نفسها. لا شك أنك رأيت العناوين: يقول باحث جاد إن احتمال انقراض البشرية بسبب الذكاء الاصطناعي يقارب 20%، ويقول آخر إنه صفر فعليًا، ويستشهد كلاهما بخبرة. تشرح هذه الصفحة من أين تأتي هذه التقديرات، ولماذا تتوزّع عبر رتبتين من الحجم، والأهم من ذلك ما الذي ينبغي أن يفعله قارئ حذر بكمية لا يستطيع أحد قياسها.

نتائج الاستطلاعات والنماذج المناقَشة هنا منشورات مُلاحَظة. أما تفسير معنى اختلافها فهو تحليل. للحجة المصاحبة القائلة إن هذه الأرقام تصف نوعًا مختلفًا نوعيًا من النتائج، انظر الانقراض مقابل أحداث الخسائر الجماعية؛ أما المعالجة الأوسع لهذه التقديرات في هذا الدليل فتوجد في تقديرات الخطر واختلاف الخبراء.

ما تقوله الاستطلاعات فعليًا

سأل أكبر استطلاع ذي صلة آلاف باحثي التعلّم الآلي — مؤلفين في مؤتمرات الذكاء الاصطناعي الكبرى — عن احتمالاتهم للأثر طويل المدى للذكاء الاصطناعي المتقدم. وجدت موجة 2023 تقديرًا متوسطًا نحو 5% لانقراض البشرية أو فقدان قدرة دائم ومماثل في شدته ناجم عن تطورات الذكاء الاصطناعي المستقبلية، بمتوسط حسابي قريب من 16% ونطاق ربيعي يمتد تقريبًا من 0% إلى 19% (Grace وآخرون، 2024). اقرأ ذلك التوزيع، لا المتوسط فقط: متوسط حسابي أربعة أضعاف المتوسط الوسيط يعني ذيلًا أيمن طويلًا، مع أقلية كبيرة من الخبراء فوق 20% وبعضهم قرب 50%، بينما تقف أقلية كبيرة أخرى عند الصفر تقريبًا.

توثّق الورقة نفسها أن الرقم يتحرك مع الصياغة. حين حدد السؤال الانقراض الناجم عن عجز البشر عن السيطرة على الذكاء الاصطناعي المتقدم، تضاعف المتوسط إلى نحو 10%. وحين سألت موجة عام 2022 عن الانقراض بسبب الذكاء الاصطناعي عمومًا، كان المتوسط 5%؛ وتُظهر جولات استطلاع AI Impacts السابقة الحساسية نفسها للصياغة (استطلاع الخبراء لعام 2022 حول تقدّم الذكاء الاصطناعي). كمية تتغيّر بمعامل اثنين حين تُعاد صياغة السؤال تخبرك بشيء عن عدم يقين المستجيبين — وبصراحة، عن ضبابية المفهوم الذي يُقاس. لا شيء من هذا يجعل الاستطلاعات عديمة الفائدة. إنه يجعلها مادة خامًا، لا أحكامًا نهائية.

التقديرات القائمة على النماذج مقابل الأحكام الحدسية

لا تسأل مجموعة ثانية من التقديرات حدس أحد؛ بل تبني حجة صريحة وتخصّص احتمالات لكل خطوة. أدق مثال هو تحليل جوزيف كارلسميث المنظَّم لما إذا كان الذكاء الاصطناعي الساعي للسلطة يشكّل خطرًا وجوديًا، والذي يفكّك الادعاء إلى ستة مقترنات — ستصبح الأنظمة أكثر قدرة بكثير، وستسعى للسلطة، وسيفشل البشر في تصحيح ذلك، وهكذا — ويدافع عن احتمال لكل منها. وتصل خلاصته إلى نحو 10% لكارثة يسببها الذكاء الاصطناعي في هذا القرن، مع هوامش خطأ واسعة يحرص على عرضها (Carlsmith، 2022). يصل فلاسفة يعملون في التقليد نفسه إلى أرقام مختلفة بمنازعة مقترنات فردية: يجادل توبي أورد، في الهاوية (2020)، بخطر وجودي إجمالي من الذكاء الاصطناعي غير المُوائَم يبلغ نحو واحد من كل ستة في هذا القرن، مدفوعًا بقراءة أكثر تشاؤمًا لمشكلة المواءمة.

تتشارك هذه النماذج فضيلة تفتقر إليها الاستطلاعات: كل خطوة مرئية وقابلة للنزاع. وتتشارك رذيلتين. كل خطوة قابلة للنزاع أيضًا، ولهذا يعكس قراء معقولون إشارة مقترنات فردية؛ والاحتمالات المرفَقة بكل خطوة تظل، في النهاية، أحكامًا. الحكم الحدسي المصحوب برسم بياني يظل حكمًا حدسيًا. الاختلاف بين نموذج منظَّم بنسبة 10% وحدس بنسبة 0.1% ليس تعارضًا في القياس. إنه تعارض حول أي فئات مرجعية وأي أنماط فشل تستحق الوزن.

لماذا تسحب الفئات المرجعية في اتجاهات مختلفة

يقبع تشبيه تحت كل تقدير، وتتعارض التشبيهات فعليًا:

• الانقراض البيولوجي. تنقرض الأنواع باستمرار؛ والمعدل الأساسي نحو نوع إلى خمسة أنواع سنويًا في العقود الأخيرة. لكن تلك أنواع ذات جماعات صغيرة ونطاقات ضيقة. أقرب نظير بشري، اختناق ثورة توبا الفائقة، مثار جدل ويسبق الحضارة كليًا. يسحب هذا المعدل الأساسي نحو “الانقراض نتيجة طبيعية” بينما لا يخبرك بشيء تقريبًا عن فصيلة تقنية عالمية.
• الحوادث النووية الوشيكة. تُظهر أزمة الصواريخ الكوبية، وحادثة ستانيسلاف بيتروف عام 1983، وذعر الصاروخ النرويجي عام 1995 أنظمة تحت أقصى توتر تنتج إخفاقات وشيكة ثم لا تفشل. يقرأ المتفائلون سلسلة طويلة من أحداث أنقذها الحظ؛ ويقرأ المتشائمون السلسلة نفسها دليلًا على أن الحظ ينفد.
• حوادث التقنية. تفشل الطائرات والمفاعلات والمركبات الفضائية بمعدلات قابلة للقياس ثم تصبح أكثر أمانًا عبر إعادة تصميم متعلَّمة بصعوبة. يستقرئ المتفائلون إعادة التصميم؛ ويلاحظ المتشائمون أن الطيران لم يكن مضطرًا للنجاح مرة واحدة فقط.

كل تشبيه صادق. وكل منها يُرمِّز افتراضًا مسبقًا، لا حقيقة. تتباين التقديرات لأن الافتراضات المسبقة تتباين، وتتباين الافتراضات المسبقة لأنه لا يوجد دليل مباشر — لا تجربة واحدة مكتملة — لضبط أي منها.

ما الذي يخبرك به الاختلاف نفسه

هذه هي النقطة التحليلية التي تفوتها معظم التغطيات: التباين هو الاكتشاف. لو كان احتمال الانقراض سهل التقدير، لما أنتج آلاف الخبراء المطّلعين تقديرات تتراوح من قرب الصفر إلى قرب احتمال الرمية بالعملة. التشتت دليل على حالة المعرفة، بالطريقة نفسها التي تكون بها نماذج الطقس شديدة التباين دليلًا على أن العاصفة غير قابلة للتنبؤ حقًا، لا على أن التوقع المتوسط لا بد أن يكون صحيحًا. متوسطة الخبراء إلى رقم وسطي مرتّب — لنقل 5% — يخلق شعورًا بالدقة دون أن يرث أيًا من المعلومة. التقرير الدولي لسلامة الذكاء الاصطناعي لعام 2026، أشمل محاولة توليف حتى الآن، صريح في أن أدلة الخطر الشديد ضئيلة ومتنازَع عليها ومتركّزة في حفنة من المختبرات (التقرير الدولي لسلامة الذكاء الاصطناعي 2026).

وثمة حقيقة أخرى يُرمِّزها التوزيع: الاختلاف ليس عشوائيًا. في الاستطلاعات، يُخصِّص الباحثون الذين يتوقعون تقدمًا أسرع في القدرات احتمالات أعلى للخطر الكارثي، ويُخصِّص باحثو المختبرات المتقدمة احتمالات أقل من الأكاديميين المستقلين. بعض ذلك دليل على من يرى ماذا. وبعضه حافز. ينبغي للقراء أن يتمسّكوا بالتفسيرين معًا.

كيف تُستخدم هذه الأرقام فعليًا

الخلاصة العملية ليست أن الأرقام عديمة الفائدة؛ بل أنها يجب أن تُستخدم بالأداة الصحيحة. تفشل محاسبة القيمة المتوقعة — ضرب احتمال دقيق في عائد وترتيب النتائج — هنا، لأن المُدخَل حكم بعرض رتبتين من الحجم، والأخطاء الصغيرة في المُدخَل تهيمن بصمت على المُخرَج. يعمل صنع القرار في ظل عدم يقين عميق بطريقة مختلفة: تسأل أي الإجراءات تظل تستحق اتخاذها عبر النطاق المعقول بأكمله، وتفضّل الإجراءات القوية على المُثلى.

عند تطبيق ذلك على خطر انقراض الذكاء الاصطناعي، يوضّح هذا المنطق الأمر. يبدو عمل الوقاية — تقييمات القدرات، وضمانات النشر، وحوكمة الحوسبة — يستحق العناء عند 20%، وعند 5%، وعند 1%، لأن تكلفة العمل متواضعة والنتيجة التي يحمي منها مختلفة نوعيًا عن أي شيء يُقدَّر في السياسة العادية. أما الرفض فلا يبدو مدافَعًا عنه إلا قرب الصفر. لذا فإن الاستطلاعات، رغم ضبابيتها، تؤدي عملًا حقيقيًا: تخبرك بأن القرب من الصفر موقف مثار للجدل، لا إجماع. لمعرفة كيف تدفع توقعات الجداول الزمنية الكامنة هذا الاختلاف، انظر توقعات الجداول الزمنية. لست بحاجة إلى معرفة احتمال نشوب الحريق لتبرير شراء طفاية الحريق. أنت بحاجة إلى معرفة أن أشخاصًا جادين، ينظرون إلى الأدلة نفسها، ما زالوا يشمّون رائحة الدخان.