يمكن للسلطة الرسمية أن تنجو بعد زوال السيطرة العملية
يمكن لبرلمان أن يظل منتخَبًا بينما يعتمد على أنظمة لا يستطيع المشرّعون تقييمها. ويمكن لوزير أن يظل مسؤولًا قانونيًا بينما يتلقى توصيات لا يستطيع أي موظف مدني إعادة إنتاجها. ويمكن لمواطن أن يحتفظ بحق رسمي في الاستئناف بينما يواجه قرارًا آليًا بياناته ونموذجه وعقد مورّده ومنطقه غير قابلة للوصول. لا شيء في هذه الصورة يتطلب انقلابًا أو حاكمًا آليًا واعيًا. تصبح السلطة مراسمية لأن القدرة العملية على الاختيار المغاير قد تآكلت.
هذا خطر حوكمي قبل أن يكون خطر ذكاء عام اصطناعي. تستخدم الحكومات بالفعل خوارزميات في الإعانات، والضرائب، والشرطة، والهجرة، والتعليم، والرعاية الصحية، والإدارة العامة. يمكن لأنظمة أكثر قدرة أن تحسّن الاتساق، وتترجم الخدمات، وتكشف الاحتيال، وتلخّص الأدلة، وتجعل الخبرة متاحة لوكالات صغيرة. ويمكنها أيضًا أن تعمّق الاعتماد وتجعل الطعن في القرارات العامة أصعب.
توفّر الصكوك الدولية القائمة مفردات بداية، لكن قوتها القانونية تختلف. صُمِّمت الاتفاقية الإطارية لمجلس أوروبا بشأن الذكاء الاصطناعي لتكون معاهدة ملزِمة للأطراف، وتُركِّز على حقوق الإنسان والديمقراطية وسيادة القانون. لم تُدرِج صفحة حالتها الرسمية أي تاريخ لدخولها حيّز التنفيذ حتى 11 سبتمبر 2026، لذا لا ينبغي وصف التوقيع عليها بأنه يعني أن دولة ما ملزَمة قانونيًا بالفعل (حالة CETS رقم 225). أما توصية اليونسكو بشأن أخلاقيات الذكاء الاصطناعي فهي توصية غير ملزِمة تتناول الإشراف والشفافية والمساءلة والآثار البيئية والاجتماعية. لا يحل أي من الصكّين حوكمة ما بعد الذكاء العام الاصطناعي. لكن كليهما يُظهران أن القدرة والكفاءة ليستا القيمتين العامتين الوحيدتين المعرَّضتين للخطر.
الفاعلية تعني القدرة على تغيير النتيجة
كثيرًا ما تُعامَل “الرقابة البشرية” بصفتها مخططًا وظيفيًا: ضع شخصًا في مكان ما بعد النموذج ويصبح القرار بشريًا. أما الرقابة الحقيقية فهي مجموعة من القدرات.
يحتاج المُراجِع إلى وقت ومعلومات كافيين لفهم الحالة. ويحتاج إلى تدريب للتعرف على حدود النموذج. ويحتاج إلى سلطة قانونية وتنظيمية لرفض التوصية. ويجب ألا يؤدي اتخاذ قرار مختلف إلى عقاب لمجرد ابتعاده عن درجة آلية. ويجب أن تحتفظ المؤسسة بسجلات تدعم التدقيق والاستئناف.
حين تغيب تلك الشروط، تصبح النقرة البشرية طقسًا. يمكن للأتمتة العالية أن تجعل المراجعة أسوأ حتى: فمع رؤية الناس عددًا أقل من الحالات غير المعتادة وممارستهم حكمًا مستقلًا أقل، تتراجع خبرتهم. وحين يفشل النظام أخيرًا خارج توزيعه المعتاد، قد يكون المُشرِف الاسمي الأقل استعدادًا للتدخل.
الاختبار العملي مضاد للواقع: هل يستطيع شخص مؤهَّل الوصول إلى قرار مختلف، وشرح السبب، وجعل ذلك القرار قائمًا؟
أربع تبعيات يمكن أن تُفرِغ الحكومة من مضمونها
التبعية للمورّد
قد تفتقر وكالة عامة إلى الموظفين، أو الحوسبة، أو حقوق البيانات، أو شروط العقد اللازمة للعمل دون مورّد بعينه. قد يبدو التبديل ممكنًا في وثائق الشراء لكنه سيتطلب إعادة تدريب الأنظمة، وترحيل البيانات، وإعادة كتابة سير العمل، وقبول انقطاع طويل في الخدمة. وهذا يمنح موردًا خاصًا نفوذًا حتى دون سلطة سياسية صريحة.
ولذلك ينبغي أن تتناول العقود قابلية النقل، وإمكانية الوصول للتدقيق، والإفصاح عن الحوادث، والمقاولين من الباطن، والاحتفاظ بالبيانات، والأمن، واستمرارية الخدمة، والمساعدة عند الخروج، قبل أن يصبح النظام أساسيًا. يمكن أن يكون العرض الأولي الأرخص مكلفًا إذا كان يشتري تبعية دائمة.
التبعية المعرفية
يمكن لمؤسسة أن تفقد القدرة على معرفة ما إذا كانت النتيجة جيدة. إذا أدّى الذكاء الاصطناعي معظم التحليل والصياغة والمحاكاة والتحقق، فقد تحتفظ المنظمة البشرية بسلطة التوقيع النهائي بينما تفقد نماذجها المستقلة للعالم.
التكرار الاحتياطي ضروري. تحتاج الوكالات إلى خبرة داخلية، وتحليلات منافِسة للأسئلة عالية العواقب، وسجلات لعدم اليقين، وقنوات محمية للاعتراض. وينبغي أداء بعض الوظائف دوريًا دون النظام الرئيسي، لا لأن العمل اليدوي أفضل دائمًا، بل لأن الخطة الاحتياطية غير المُختبَرة ليست خطة احتياطية.
التبعية للبنية التحتية
تعتمد الخدمات المتقدمة على الكهرباء، والشبكات، وأنظمة الهوية، والبنية التحتية السحابية، والنماذج التمهيدية. يمكن لانقطاع أو نزاع تجاري أن ينتشر عبر وظائف عامة عديدة في آن واحد. ويمكن لتركيز عدة وكالات على نموذج واحد أو سحابة واحدة أن يخلق فشلًا مترابطًا مخفيًا خلف عقود منفصلة.
ينبغي أن تحدد خرائط التبعية الموردين المشتركين ونقاط الفشل الوحيدة عبر الحكومة بأكملها، لا داخل إدارة واحدة فقط. وينبغي أن تختبر تمارين التعافي التشغيل المتدهور، واستعادة البيانات، والترتيب اليدوي للأولويات، والتواصل العام.
التبعية للشرعية
يقبل الناس القرارات الصعبة جزئيًا لأنهم يفهمون من يملك السلطة، وأي القواعد تنطبق، وكيف يطعنون في الأخطاء. يمكن لنظام دقيق إحصائيًا لكنه غامض أن يقوّض الشرعية مع ذلك إذا اختبره المواطنون بصفته تعسفيًا.
الشرح وحده غير كافٍ. فقد يبدو الشرح المُولَّد معقولًا دون الكشف عن الأساس الفعلي لنتيجة ما. تتطلب قابلية الطعن الحقيقية الأدلة ذات الصلة، والقاعدة المنطبقة، والمؤسسة المسؤولة، والعلاج المتاح. وتتطلب أيضًا مكتبًا بشريًا قادرًا على تغيير القرار، لا مجرد شرح سبب إنتاج النظام له.
تحتاج الديمقراطية إلى قدرة تقنية عامة
تحتاج الهيئات التشريعية، والمحاكم، والجهات المنظِّمة، والمدقّقون، والنقابات، والمجتمع المدني إلى خبرة في التقييم، والأمن، والمشتريات، وحوكمة البيانات، وأدلة النماذج. ويمكن للكوادر المهنية، والمختبرات المستقلة، والمفتشين العامين، وهيئات المعايير، والإجراءات التخاصمية أن توفّر ذلك العمق.
يوفّر إطار NIST لإدارة مخاطر الذكاء الاصطناعي بنية طوعية للحوكمة، والرسم، والقياس، وإدارة مخاطر الذكاء الاصطناعي. قيمته إجرائية: يجب على المنظمات تحديد السياق والأشخاص المتأثرين بدلًا من معاملة دقة الاختبار المعياري بصفتها تقييم المخاطر بأكمله. وستحتاج مؤسسة ما بعد الذكاء العام الاصطناعي إلى نسخ أقوى وقابلة للإنفاذ من تلك العادات، مقترنة بتفويض ديمقراطي.
الانتخابات ضرورية لكنها غير كافية
يمكن للذكاء الاصطناعي التحويلي أن يؤثر في الديمقراطية عبر الإقناع، والوسائط الاصطناعية، والمراقبة، وتحليل السياسات، وعمليات الحملات، والسيطرة على البنية التحتية المعلوماتية. التركيز فقط على الصور المزيفة يُغفِل القضية الأوسع: من يختار أهداف الأنظمة التي تتوسط الانتباه السياسي، وأي بيانات تُستخدَم لتحسين النفوذ؟
يمكن أن يساعد الإفصاح، لكن وسم محتوى بأنه “مولَّد بالذكاء الاصطناعي” لا يُثبت ما إذا كان صادقًا أو تلاعبيًا. ويمكن أن يُظهر تتبّع المصدر أجزاءً من تاريخ ملف دون إثبات ادعاءاته. تحتاج المرونة السياسية أيضًا إلى حماية الخصوصية، والصحافة المستقلة، وشفافية الحملات، ومساءلة المنصات، وإدارة انتخابية آمنة، ومواطنين قادرين على التحقق من المعلومات المهمة عبر قنوات موثوقة.
يستحق الاستخدام الحكومي ضبطًا خاصًا. يمكن لدولة تملك أنظمة تنبؤ وإقناع قوية أن تُخصِّص التواصل العام بشكل مفيد — أو أن تجعل تحديد المعارضة أسهل وتشكيل السلوك أيسر. تصبح الحظورات القانونية، ومذكرات التفتيش، والتقليل، وسجلات التدقيق، والرقابة المستقلة أكثر أهمية مع تزايد القدرة التحليلية، لا أقل.
الحفاظ على مصادر تعددية للسلطة
لا ينبغي لأي شركة واحدة أن تكون المصدر الوحيد للتحليل العام، والهوية، والاتصالات، والبنية التحتية الإدارية. ولا ينبغي لأي حكومة مركزية أن تكون المؤسسة الوحيدة القادرة على استخدام قدرة متقدمة. ولا ينبغي لأي نظام تصنيف شامل أن يحدد الوصول إلى العمل، والائتمان، والإعانات، والتعبير، والتنقل.
تخلق التعددية احتكاكًا، والاحتكاك أحيانًا واقٍ. يمكن للأنظمة الفيدرالية، والحكومات المحلية، والمحاكم، والجهات المنظِّمة المستقلة، والجامعات، والنقابات، والجمعيات المهنية، والمجتمعات التقنية المفتوحة، والمجتمع المدني أن تكشف إخفاقات كان نظام مركزي واحد سيقمعها أو يفوّتها. وتمنح المؤسسات المتنافسة الناس أيضًا مكانًا للاستئناف والتنظيم.
التعددية ليست الشيء نفسه كالانتشار غير المضبوط. يمكن للقدرات عالية الخطورة أن تتطلب قيودًا على الوصول بينما يظل صنع القرار متنوعًا مؤسسيًا. مشكلة التصميم هي تجنّب كل من الاحتكار الخاص والمركزية الحكومية الكاملة.
قرارات ينبغي أن تظل قابلة للجدل السياسي
يمكن للذكاء الاصطناعي أن يُثري القرارات العامة دون أن يحدد الهدف العام. أسئلة مثل كيفية توزيع الدخل، وأي المخاطر مقبولة، وأي الحقوق لها الأولوية، وما إذا كان ينبغي استخدام القوة، وماذا ينبغي أن يتعلم الأطفال، وكم من المراقبة مسموح به، ليست مشكلات تحسين لها دوال هدف محايدة. إنها خيارات سياسية بين قيم وأشخاص.
يمكن لتفويض التنفيذ أيضًا أن يُعيد تشكيل الهدف. فنظام إعانات مُحسَّن لتقليل وقت المعالجة قد يُثبِّط المتقدمين ذوي الحالات المعقدة. ونظام شرطي مُحسَّن للحوادث المتوقَّعة قد يضخّم أنماط الإنفاذ التاريخي. ونظام صحي مُحسَّن للتكلفة المقاسة قد يُقلِّل من قيمة نتائج يصعب تسجيلها. تتطلب الرقابة الديمقراطية مراجعة ما يكافئه النظام فعليًا، لا مجرد الموافقة على غرضه المُعلَن.
اقتراح معياري: ضمان فاعلية أدنى
في الاستخدامات العامة ذات العواقب، ينبغي أن يستطيع الناس تحديد:
- أن نظام ذكاء اصطناعي أثّر ماديًا في القرار؛
- المؤسسة والمسؤول المسؤولَين قانونيًا؛
- القاعدة الحاكمة والأدلة المستخدَمة؛
- القيود المهمة، وعدم اليقين، ومصدر البيانات؛
- استئنافًا بشريًا في الوقت المناسب بسلطة تغيير النتيجة؛
- مسارًا يمكن الوصول إليه نحو محكمة، أو جهة تنظيمية، أو أمين مظالم، أو هيئة منتخَبة؛
- مسارًا غير رقمي لمن لا يستطيعون استخدام النظام بأمان.
لن تُزيل هذه الضمانات الأخطاء أو الخلاف السياسي. لكنها تحافظ على الفرق بين الإدارة والهيمنة: يظل الشخص المتأثر مشارِكًا في نظام من الأسباب والعلاجات، لا مجرد موضوع يُصنَّف.
السؤال الدستوري لما بعد الذكاء العام الاصطناعي
القضية الأعمق ليست ما إذا كان الذكاء الاصطناعي يحصل على لقب حكومي رسمي. بل ما إذا كان البشر ومؤسساتهم يحتفظون بالكفاءة والاستقلالية والنفوذ لمراجعة الأنظمة ذات العواقب. فإذا كان إزالة نموذج واحد سيوقف الرعاية الصحية والتمويل والاتصالات والحكومة في آن واحد، فإن السيادة القانونية تقدّم عزاءً عمليًا ضئيلًا.
تعتمد إذن نجاة الديمقراطية بعد الذكاء الاصطناعي التحويلي على قدرة تُبنى قبل أن يكتمل الاعتماد: خبرة عامة، وبنية تحتية قابلة للتشغيل البيني، وحقوق قابلة للإنفاذ، ومؤسسات تعددية، وأدلة مستقلة، واستئنافات ذات معنى، وطرق مُختبَرة للعمل حين تكون التوصيات الآلية غير متاحة أو مرفوضة. ليست هذه تدابير معادية للتكنولوجيا. إنها الآلية التي تتيح لمجتمع استخدام تقنية قوية دون التنازل عن القدرة على اختيار أغراضه الخاصة.