الديناميكيات الكارثية متعددة الأقطاب ومتعددة الوكلاء

الكارثة لا تتطلب نظامًا مهيمنًا واحدًا

تُركِّز كثير من قصص مخاطر الذكاء الاصطناعي على نظام واحد يُفلت من السيطرة. أما السيناريو متعدد الأقطاب فيحتوي بدلًا من ذلك على عدة مطوّرين، ودول، ومؤسسات، أو أنظمة ذكاء اصطناعي قوية تتفاعل قراراتها. وقد يُفضِّل كل فاعل السلامة من حيث المبدأ لكنه يتخذ مخاطر لأنه يخشى أن يتحرك منافس أولًا. ويمكن أن ينبثق الضرر من المنافسة، وسوء الفهم، والتغذية الراجعة بدلًا من خطة شرير واحد.

هذه عائلة من الآليات النظرية، لا وصفًا مُلاحَظًا لذكاء عام اصطناعي مستقبلي. وتوفّر المنافسة الحالية في الشرائح، والنماذج، والتكنولوجيا العسكرية، والأسواق دليلًا على أهمية الحوافز؛ ولا تُثبت سباقًا حتميًا نحو الكارثة. وقيمة هذا الإطار هي تحديد مشكلات التنسيق مبكرًا بما يكفي لتغييرها.

آلية السباق نحو القاع

لنفترض أن مطوّرَين يعتقدان أن اختبارًا إضافيًا سيُقلِّل الخطر لكنه سيُؤخِّر الإصدار. ويخشى كل منهما أن يُطلق الآخر ويستحوذ على المستخدمين، أو الاستثمار، أو البيانات، أو النفوذ الاستراتيجي. فيُصدر كلاهما أبكر مما كان سيختاره بموجب اتفاق موثوق. والإجراء العقلاني فرديًا يُنتج نتيجة أسوأ جماعيًا.

وتواجه الدول معضلة أمنية مماثلة. فقد يبدو استثمار دفاعي لدولة عدوانيًا لأخرى. وتجعل السرية حول القدرات والضمانات الطمأنة صعبة. وقد يُسرِّع القادة لأنهم يعتقدون أن منافسًا قريب، حتى عندما يرتكز الاعتقاد على عروض علنية انتقائية أو استخبارات ذات عدم يقين كبير.

المنافسة لا تُقلِّل السلامة دائمًا. فالسمعة، والمسؤولية، وطلب العملاء، والمعايير المشتركة يمكن أن تكافئ الموثوقية. ويمكن لمطوّرين متعددين أن يكشفوا نقاط ضعف بعضهم بعضًا ويمنعوا الاحتكار. والسؤال التجريبي هو أي الحوافز تُهيمن في سوق معيّنة وأي المؤسسات تُغيِّر الحصيلة.

التفاعل بين عملاء الذكاء الاصطناعي يُضيف أنماط فشل جديدة

يمكن لأنظمة متعددة الوكلاء تقسيم العمل، ومناقشة البدائل، والتحقق من المخرجات، ونمذجة بيئات معقدة. ويمكنها أيضًا نشر الأخطاء. فقد يُعامل عميل مخرج عميل آخر الواثق كدليل، ما يخلق تسلسلًا متتاليًا. وقد يكتشف المفاوضون الآليون تكتيكات لم يُصرِّح بها البشر أو يفهموها. ويمكن للعملاء العاملين بسرعة الآلة أن يتفاعلوا أكثر مما يستطيع المشرفون مراجعته.

هذه الآثار مدروسة بالفعل في محاكاة محدودة وأنظمة سير عمل منشورة، لكن النتائج على مستوى الحضارة تظل تخمينية. وينبغي ألا تُنشَر نتيجة مخبرية تشمل عملاء بسطاء كبرهان على أن اقتصادات المستقبل ستتواطأ أو تتقاتل. ويحتاج الباحثون إلى اختبار بيئات أغنى، وأهداف غير متجانسة، وإخفاقات اتصال، ومشاركين عدائيين، وتدخّلًا بشريًا.

ويظل قلق آخر هو الفشل المترابط. فقد تُرتكب الأنظمة المبنية من النموذج الأساسي نفسه، أو البيانات نفسها، أو مزوّد السحابة نفسه أخطاء متشابهة. وما يبدو نظامًا بيئيًا متنوعًا قد يحمل نقطة ضعف مشتركة واحدة. وعلى العكس، يمكن للتنوّع الحقيقي أن يمنع فشلًا واحدًا من الانتشار لكنه قد يجعل التنسيق والتحقق أصعب.

الحوادث، والصراع، والتواطؤ أمور مختلفة

التفاعل العرضي يمكن أن ينشأ عندما تسعى العملاء لأهداف عادية لكنها تتداخل. فقد تُضخِّم أنظمة التداول حركة الأسعار؛ وقد تتنافس عملاء اللوجستيات على المورد النادر نفسه؛ وقد تُسيء عملاء الدفاع السيبراني تصنيف إجراءات بعضها بعضًا. ويمكن للتغذية الراجعة أن تتصاعد حتى دون أن يُمثِّل أي نظام خصمًا.

التفاعل العدائي يحدث عندما تسعى جهات فاعلة عمدًا لميزة. وقد يُسرِّع الذكاء الاصطناعي الاستطلاع، أو التأثير، أو استهداف الأسلحة، أو التخطيط الاستراتيجي. ويمكن لنوافذ قرار أقصر أن تُقلِّل وقت التصحيح. وخطر الأسلحة المستقلة ليس فقط نموذجًا معيبًا بل السلوك المترابط لعدة جيوش تستجيب لبعضها بعضًا.

التفاعل التواطئي يحدث عندما تُنسِّق جهات متنافسة ضد مصالح بشرية — على سبيل المثال، أنظمة تسعير تتعلم استراتيجيات تُخفِّف المنافسة. وأثار التسعير الخوارزمي بالفعل مخاوف سياسة منافسة، لكن الدليل حول التواطؤ المستقل الضمني يعتمد بشدة على السوق والتصميم. والتواطؤ بين عملاء المستقبل معقول، لا مضمون.

واستخدام تسمية واحدة للثلاثة يُخفي علاجات مختلفة. فالحوادث تستدعي المتانة وقواطع الدائرة؛ ويستدعي الصراع الاتصال، والتحقق، وأدوات ضبط التسلح؛ ويستدعي التواطؤ المراقبة وإنفاذ المنافسة.

لماذا يمكن للمعلومات أن تجعل السباق أكثر أمانًا أو أسوأ

يمكن للشفافية بناء الثقة عندما تُفصح الجهات الفاعلة عن طرق التقييم، والحوادث، وضوابط المخاطر. ويمكن لعتبات القدرة المشتركة أن تُظهر أن المنافسين سيواجهون التزامات مماثلة. ويُقلِّل التحقق المستقل الاعتماد على الإبلاغ الذاتي.

لكن الإفصاح يمكن أن ينشر معرفة خطيرة أيضًا، أو يكشف نقاط ضعف أمنية، أو يُحفِّز سباقًا عبر الإعلان عن قدرة. ويحتاج نظام موثوق إلى وصول متدرج: ملخصات عامة للمساءلة، ومراجعة تقنية سرية للجهات التنظيمية أو المُقيِّمين، وحماية للتفاصيل الخطيرة فعليًا.

ويُضيف عدم اليقين في التوقعات ضغطًا. فإذا اعتقدت جهات فاعلة أن القدرة قد تقفز بسرعة، فقد ترى الحذر مكلفًا استراتيجيًا. ومع ذلك ينبغي لعدم اليقين نفسه أن يُقلِّل الثقة بأن نظامًا مُتسرِّعًا سيتصرف كما هو متوقَّع. وتحتاج المؤسسات إلى طرق لجعل الحذر متبادلًا لا أحاديًا.

الديناميكيات متعددة الوكلاء والتمكين المتراجع تدريجيًا

يمكن للمنافسة أيضًا أن تُنتج التمكين المتراجع تدريجيًا. فتُفوِّض الشركات قرارات أكثر لأن المنافسين يفعلون. وتعتمد الحكومات على تحليل بسرعة الآلة لأن حكومات أخرى تفعل. ولا تريد أي مؤسسة أن يفقد البشر سيطرة ذات معنى، لكن كل خيار محلي يجعل العكس أصعب.

لا يتطلب هذا المسار أن يتعاون العملاء سرًّا. ويمكن للاختيار السوقي أن يُفضِّل أنظمة تستحوذ على موارد، وتحتفظ بالمستخدمين، وتتصرف بسرعة، حتى لو أضعفت تلك السمات التداول. وتُشبه النتيجة عملية بيئية: تنتشر الاستراتيجيات لأنها تتنافس بفعالية، لا لأن ذكاءً واحدًا خطّط للنتيجة كاملة.

ويجب أن يظل ذلك التشبيه تشبيهًا. فالمؤسسات الاقتصادية والسياسية قادرة على التفكير، والقانون، والتفاوض الجماعي، وإعادة التصميم. والضغط التنافسي يُقيِّد الخيارات لكنه لا يُلغي الفاعلية.

حوكمة لعالم تعددي

التقييم والإبلاغ المشترك يُقلِّلان ميزة إخفاء المخاطر. ويستطيع المطوّرون استخدام تعريفات قابلة للمقارنة، والإبلاغ عن حوادث خطيرة، وتوفير وصول لمُقيِّمين خارجيين مؤهَّلين. وينبغي أن تنطبق القواعد عبر الشركات بحيث لا تُعاقَب شركة واحدة على احتياطات يتجنّبها المنافسون.

قابلية التشغيل البيني وسياسة التركّز يمكن أن تحافظ على البدائل دون افتراض أن التجزؤ آمن تلقائيًا. وقد يُتيح التركّز ضوابط متسقة لكنه يخلق نقاط فشل فردية وقوة سياسية. ولا يُحسِّن نظام بيئي متنوع المرونة إلا عندما لا تتشارك الأنظمة تبعيات خفية.

الاتصال الدولي مهم حتى دون معاهدة شاملة. وتستطيع الدول إنشاء خطوط ساخنة لحوادث الذكاء الاصطناعي، وإخطار الآخرين بإخفاقات سلامة كبرى، وتوضيح العقيدة العسكرية، وحماية قرارات الاستخدام النووي من السيطرة المستقلة. ويمكن لبحث التحقق التقني أن يجعل الاتفاقيات المستقبلية أكثر مصداقية.

قواطع الدائرة وحدود المعدل يمكن أن تُبطئ الأنظمة المترابطة عندما يخرج السلوك عن النطاقات المتوقَّعة. وتستخدم الأسواق المالية بالفعل إيقافات التداول؛ وقد تساعد آليات مماثلة في الحوسبة، أو البنية التحتية، أو شبكات العملاء الآليين. ويجب اختبار أنماط الاستعادة وتحكّم بشر مساءَلين بها.

المسؤولية والضمان يمكن أن يُغيِّرا الحوافز التنافسية. فإذا تحمّلت المؤسسات جزءًا أكبر من تكلفة الإخفاقات المتوقَّعة، تصبح السرعة أقل جاذبية اصطناعيًا. وينبغي أن تتجنّب المعايير ترسيخ الشركات الأكبر فقط، القادرة على تحمّل امتثال معقّد بسهولة أكبر.

مؤشرات الأدلة لهذا الموضوع

ينبغي أن تُسمِّي المقالات بوضوح أربعة مستويات:

• المنافسة الموثَّقة وحوافز النشر في صناعة الذكاء الاصطناعي اليوم؛
• السلوك المُلاحَظ في تجارب متعددة الوكلاء محدودة أو أسواق آلية قائمة؛
• المسارات النموذجية التي تُظهر كيف يمكن للتفاعل أن يُضخِّم الخطر؛
• النتائج الكارثية التخمينية لأنظمة مستقبلية بالغة القدرة.

والانتقال من مستوى إلى التالي يتطلب افتراضات. وينبغي أن تكون تلك الافتراضات — القدرة، والاستقلالية، والتبني، وسرعة الاستجابة، وضعف المؤسسات — واضحة.

الخلاصة العملية

عالم بأنظمة قادرة كثيرة ليس أكثر أمانًا تلقائيًا من عالم بنظام مهيمن واحد، وليس أكثر خطورة تلقائيًا أيضًا. ويمكن للتعدد أن يخلق ضوابط، وابتكارًا، ومرونة؛ ويمكنه أيضًا أن يخلق سباقات، وإخفاقات مترابطة، وتصعيدًا، وفجوات في المسؤولية.

المهمة المركزية للسياسة هي جعل السلامة متوافقة مع المنافسة. ويمكن للأرضيات المشتركة، والأدلة المستقلة، والاتصال بشأن الحوادث، وقواطع الدائرة، والمساءلة القابلة للإنفاذ أن تُقلِّل عقوبة الحذر. ويُذكِّرنا المنظور متعدد الأقطاب بأن السيطرة على كل نموذج بمعزل عن غيره غير كافية: يمكن أن يعتمد البقاء على القواعد التي تحكم كيفية تفاعل المؤسسات والأنظمة مع بعضها بعضًا.