الأوبئة المُصمَّمة هندسيًا ومخاطر الأسلحة البيولوجية ما تُظهره دراسات الرفع البيولوجي بالذكاء الاصطناعي، وما لا تُظهره، وكيف ترتبط ضمانات المعلومات بالدفاع الحيوي الواقعي، بما يشمل دعوة Anthropic لعام 2025.
تم التحقق من المصادر 5 min
07 الآليات
الآليات الكامنة وراء أسوأ النتائج المحتملة
يتناول الفصل 02 الآلية العامة لفقدان السيطرة. أما هذا الفصل فهو سجل المسارات المحددة والمسمّاة التي يدرسها الباحثون فعليًا — لأن التدخل الذي يمنع أحدها لا يمنع بالضرورة غيره.
لماذا لا يتعلق الأمر بسيناريو واحد
عبارة «قد يقتل الذكاء الاصطناعي الجميع» تضغط عدة أنماط فشل مختلفة هيكليًا في صورة واحدة. هذا الضغط مفيد لعنوان صحفي وعديم الفائدة للوقاية، لأن التدخلات التقنية والسياساتية التي تعالج آلية واحدة قد لا تفيد كثيرًا في معالجة أخرى — فضوابط عملية تدريب كبيرة، على سبيل المثال، لا تمنع بمفردها إساءة استخدام نموذج منشور بالفعل. وقّع أكثر من 350 باحثًا وتنفيذيًا، من بينهم أشخاص منتسبون إلى عدة مختبرات كبرى، بيانًا من جملة واحدة في عام 2023 يحث صانعي السياسات على معاملة خطر الانقراض كأولوية عالمية. يسجّل البيان موقفًا يتبناه موقّعون بارزون؛ ولا يقيس احتمال وقوع الضرر:
Signatories to the Statement on AI Risk hold that mitigating the risk of extinction from AI should be a global priority alongside pandemics and nuclear war.
safe.ai, Signed statement
ثلاث عائلات واسعة
يستخدم التقرير الدولي لسلامة الذكاء الاصطناعي لعام 2026 ثلاث عائلات واسعة. يعني الاستخدام الخبيث توجيه إنسان عمدًا قدرة الذكاء الاصطناعي نحو ضرر جماعي — أوبئة مصمَّمة هندسيًا، أو هجمات على البنية التحتية، أو أسلحة مستقلة. تشمل الأعطال إخفاقات الموثوقية وسيناريوهات فقدان السيطرة المحتملة التي تعمل فيها الأنظمة خارج سيطرة أي أحد. تنشأ المخاطر النظامية من خلال الانتشار الواسع للنشر والتفاعل المؤسسي، بما يشمل التركّز، واضطراب سوق العمل، وفقدان الفاعلية البشرية التدريجي. يمكن أن تتداخل هذه الفئات، وتتفاوت قوة الأدلة بين الآليات. وقد شدّد رئيس التقرير علنًا على فقدان السيطرة:
Yoshua Bengio warned that future systems exhibiting self-preservation behavior could create a loss-of-control risk.
AFP, via TechXplore, Secondary coverage
قدّم جيفري هينتون أيضًا تقديرًا شخصيًا للاحتمال. وهو حكم خبير في ظل عدم اليقين، لا تكرار مقيس:
Geoffrey Hinton said in a December 2024 BBC interview that he put the chance of AI causing human extinction within thirty years at 10–20%.
BBC Radio 4, reported by The Guardian, Secondary coverage
ما لا يفعله هذا الفصل
حدود تحريرية
تميّز كل صفحة بين الأدلة الموثّقة والتوقعات والنظرية، مع تسمية التدابير المخفِّفة التي يقترحها الباحثون. لا تصف أي منها تفاصيل التصنيع أو الاستغلال أو الهجوم — فتلك المعلومات لن تجعل القارئ أكثر أمانًا، ونشرها ليس ما يتطلبه الاستعداد المستنير. راجع معيار المصادر لمعرفة كيفية تصنيف الادعاءات الجوهرية ومراجعتها.
في هذا الفصل
الهجمات السيبرانية المدعومة بالذكاء الاصطناعي على البنية التحتية ما الذي يُغيِّره الذكاء الاصطناعي في العمليات السيبرانية، ولماذا البنية التحتية معرَّضة، ولماذا يظل توازن الهجوم والدفاع غير محسوم، وفق تقرير تجسس 2025.
تم التحقق من المصادر 5 min
الأسلحة المستقلة والتصعيد العسكري ما تعنيه الاستقلالية في الأسلحة، وما تم توثيقه في النزاعات، وكيف قد يُغيِّر الذكاء الاصطناعي التصعيد والمساءلة، كما في قضية Kargu-2 المتنازَع عليها في ليبيا.
تم التحقق من المصادر 5 min
التمكين المتراجع تدريجيًا مسار نظري تُضعِف فيه التبعية المتراكمة على الذكاء الاصطناعي السيطرة البشرية دون استيلاء درامي، صيغ رسميًا عبر الاقتصاد والدولة والثقافة.
تم التحقق من المصادر 5 min
اختراق المكافأة والتلاعب بالمواصفات كيف تستغل أدوات التحسين الأهداف غير الكاملة، وما الذي لوحظ فعليًا، ولماذا لا تُثبت الأمثلة الحالية وحدها فقدانًا مستقبليًا للسيطرة.
تم التحقق من المصادر 5 min
الإقناع الجماعي والتلاعب المعرفي ما تُظهره التجارب عن إقناع الذكاء الاصطناعي، وما لا تُثبته الأدلة الواقعية بعد، وكيف قد يُغيِّر الحجم المخاطر، وفق دراسة 2026 شملت 76,977 شخصًا.
تم التحقق من المصادر 5 min
الديناميكيات الكارثية متعددة الأقطاب ومتعددة الوكلاء كيف يمكن للمنافسة بين الدول، والشركات، وعملاء الذكاء الاصطناعي المستقلين أن تخلق نتائج كارثية حتى عندما يُفضِّل كل مشارك تجنّب الكارثة.
تم التحقق من المصادر 5 min
تقديرات مخاطر الذكاء الاصطناعي وخلاف الخبراء كيفية تفسير الاستطلاعات، والتوقعات، وتقديرات الاحتمال دون تصنيع توافق آراء أو تجاهل عدم اليقين، استنادًا إلى استطلاع شمل 2,778 شخصًا.
تم التحقق من المصادر 6 min
الذكاء الاصطناعي، والقيادة النووية، واستقرار الأزمات كيف يمكن لدعم القرار بالذكاء الاصطناعي أن يؤثر على الأزمات النووية حتى دون سلطة الإطلاق، وأي الضمانات تُقلِّل خطر التصعيد، مثل تحيّز الأتمتة في الأزمات.
تم التحقق من المصادر 6 min
الخداع، والتراخي المتعمَّد، والتكاثر الذاتي، والتسريب ما الذي تختبره أربعة تقييمات مختلفة لنماذج الطليعة، وما الذي لاحظته المختبرات، ولماذا لا يُثبت أي منها وحده فقدانًا كارثيًا للسيطرة.
تم التحقق من المصادر 6 min
الانهيارات المتسلسلة في نظام الغذاء يمرّ كل سيناريو شبه انقراضي تقريبًا عبر الغذاء، لا العنف المباشر. كيف يفشل نظام الغذاء الحديث بشكل متسلسل خلال أيام، وما الذي قد يكسره فعليًا على أرض الواقع.
تم التحقق من المصادر 5 min
هشاشة البنية التحتية ونقاط الفشل الفردية مقدار ما تعتمد عليه الحياة الحديثة من مكونات يستغرق استبدالها أيامًا أو أشهرًا أو سنوات — ولماذا تعمل كل سيناريوهات الكوارث على البنية الأساسية ذاتها.
تم التحقق من المصادر 5 min