البنية التحتية خريطة حوكمة، لا قائمة أهداف
يعتمد الذكاء الاصطناعي الطليعي على رقائق متقدمة، ومعدات تصنيع أشباه موصلات، ومراكز بيانات كبرى، وخدمات سحابية، وكهرباء، وشبكات، وموظفين مُدرَّبين. ويمنح ذلك التركّز الحكومات، والمشغّلين، والعملاء، والمطورين وسائل قانونية لفرض متطلبات سلامة. وهو لا يُبرِّر التعدي، أو التخريب، أو العنف، أو التدخل في الطاقة والاتصالات. فالهجمات المادية ستُعرِّض العمال والمجتمعات للخطر، وتُعطِّل خدمات غير ذات صلة، وتُدمِّر أدلة، ومن المرجح أن تُقلِّل قدرة المجتمع على إدارة حادث ما.
والسؤال المفيد مؤسسي: أي جهة فاعلة مُصرَّح لها تستطيع تقييد نشاط خطر، بموجب أي قاعدة، وبأي دليل، وكيف يمكن عكس القرار بأمان؟ والجواب يتغير عبر دورة حياة الذكاء الاصطناعي.
أربعة أسطح تحكم ينبغي ألا تُخلط
ضوابط التدريب تحكم إنشاء نموذج أو تحسينه الجوهري. وقد تستخدم دورة تدريب طليعية مجموعة كبيرة قابلة للتحديد جغرافيًا لأسابيع أو أشهر. وتشمل التدابير ذات الصلة العناية الواجبة تجاه العميل، ومعايير الأمن، ومحاسبة الحوسبة، والتقييمات السابقة للنشر، والشروط التعاقدية أو التنظيمية على دورات استثنائية الحجم. وتعمل ضوابط التدريب قبل وجود نموذج في شكله النهائي؛ وإيقاف دورة لا يستعيد أوزانًا سابقة.
ضوابط أوزان النموذج تحمي ملفات المعاملات المُتعلَّمة. ويمكن نسخ الأوزان، وسرقتها، وضبطها الدقيق، وتشغيلها في مكان آخر. وقد يشمل الأمن الوصول المدعوم بالعتاد، وفصل المهام، والتشفير، والمراقبة، وإجراءات مخاطر داخلية، والاستجابة للحوادث. وبمجرد نشر أوزان قادرة على نطاق واسع، قد يستحيل الإلغاء المركزي. ويمكن للنشر المفتوح دعم البحث والمنافسة، لذا ينبغي أن تستند القيود إلى مخاطر مُثبَتة وأن تقترن بوصول مستقل حيثما أمكن.
ضوابط النشر تحكم نموذجًا أو تطبيقًا مُستضافًا. ويستطيع المشغّل إلغاء أوراق الاعتماد، وتعطيل أداة، والتراجع عن إصدار نموذج، وتحديد المعدل أو النطاق الجغرافي، ووضع مستخدم في مستوى ضمان أعلى، ومراقبة إساءة الاستخدام. وهذه الضوابط دقيقة وقابلة للعكس نسبيًا. لكنها تفشل إذا ظلت النُّسخ اللاحقة، أو المخرجات المخزَّنة مؤقتًا، أو الأوزان المُستضافة بشكل مستقل متاحة.
ضوابط الاستدلال تحكم الحوسبة المستخدَمة عندما يُنتج نظام مخرجات أو يتخذ إجراءات. وقد يحدث الاستدلال في حوسبة سحابية مركزية، أو بيئة مؤسسية، أو هاتف، أو مجموعة موزَّعة. ويستطيع مزوّد تقييد استدلاله المُستضاف الخاص لكنه لا يستطيع إيقاف النُّسخ المحلية تلقائيًا. وقد تكون الحوسبة وقت الاستدلال، وصلاحيات الأدوات، والوصول إلى البيانات، وحجم الإجراءات أكثر أهمية من تكلفة التدريب الأصلية بالنسبة لمخاطر نظام منشور.
وتسمية الأربعة جميعًا “اختناق حوسبة” واحد يُخفي هذه الفروق. وينبغي لتدخل قانوني أن يُسمِّي السطح ذا الصلة والأثر المتوقَّع.
التحكم التشغيلي داخل منظمة
تحتاج المنظمات إلى أكثر من “مفتاح إيقاف” مسرحي. فهي تحتاج إلى إجراء حالة آمنة مُتدرَّب عليه. فإنهاء نظام فجأة قد يُفسد بيانات، أو يُقاطع عمليات سريرية أو صناعية، أو يُعلِّق مستخدمين، أو يُفعِّل إعدادات افتراضية غير آمنة. وقد تكون الاستجابة الصحيحة إلغاء صلاحيات، أو تقليل حركة المرور، أو العزل، أو التراجع، أو النقل إلى تحكم يدوي بدلًا من إيقاف كل شيء.
وينبغي أن تشمل خطة الإنتاج:
- الجرد: حدِّد كل نموذج، وإصدار، وأداة، وورقة اعتماد، ومجموعة بيانات، ومورّد، وتبعية لاحقة.
- السلطة: سمِّ الأشخاص القادرين على تقييد الخدمة وحدِّد متى يجوز لهم التصرف دون انتظار الموافقة العادية.
- أقل قدر من الصلاحيات: امنح النظام فقط البيانات والإجراءات اللازمة لمهمته؛ واستخدم أوراق اعتماد محدودة الوقت حيثما أمكن.
- المراقبة: سجِّل إصدارات النموذج، والمُوجِّهات أو ملخصات الأحداث الآمنة، واستدعاءات الأدوات، والموافقات، والمخرجات، وتغييرات الإعداد، مع احترام الخصوصية.
- الاحتواء: ادعم العزل السريع عن الشبكات، والأدوات، وحركة الأموال، ونشر الشيفرة، أو الضوابط المادية.
- التراجع: حافظ على إصدار معروف الصلاحية، وصيغة بيانات متوافقة، وعملية استعادة مُختبَرة.
- البديل البشري: حافظ على موظفين مُدرَّبين، وتعليمات، ووصول، وقدرة على تقديم خدمة أساسية بمستوى مُخفَّض.
- التمرين: أجرِ تدريبات مكتبية وتقنية، وسجِّل الإخفاقات، وصحِّحها.
ويدعو إطار إدارة مخاطر الذكاء الاصطناعي التابع لـNIST إلى حوكمة دورة الحياة، والمساءلة، والمراقبة المستمرة، وعمليات الطوارئ لإخفاقات الأطراف الثالثة، والسحب الآمن للخدمة (جوهر إطار NIST لإدارة مخاطر الذكاء الاصطناعي). وهو إرشاد طوعي، لا شهادة على أن منظمة معيّنة قد طبَّقت هذه الممارسات.
إلغاء الصلاحيات غالبًا أسرع مكبح
يصبح نظام الذكاء الاصطناعي أكثر خطورة عندما يتصل بالبريد الإلكتروني، وشيفرة الإنتاج، والحسابات المالية، وأدوات المختبر، وأنظمة الهوية، أو التقنية التشغيلية. ويمكن لإلغاء تلك الصلاحيات أن يُقلِّل الضرر بينما يحافظ على النموذج للتحقيق. وينبغي تجزئة الوصول بحيث يستطيع قرار واحد تعطيل قدرة خطرة دون إسقاط خدمات غير ذات صلة.
ويجب ألا تُضمَّن أوراق الاعتماد بشكل دائم في المُوجِّهات أو ملفات النموذج. وينبغي للمشغّلين استخدام هويات خدمة محدودة النطاق، وانتهاء صلاحية قصير، وبوابات موافقة للإجراءات عالية الأثر، وضوابط مستقلة لا يستطيع النموذج تعديلها. ويحتاج الوصول الطارئ (“كسر الزجاج”) إلى تسجيل ومراجعة خاصين به. وينبغي ألا يستطيع نظام منح نفسه صلاحيات أوسع.
وبالنسبة لمورّد خارجي، ينبغي أن تضمن العقود تعليقًا في وقته، وحفظ الأدلة، وتصدير البيانات، ودعم الانتقال. وإلا فقد يكتشف العميل أثناء حادث أنه لا يستطيع فحص السجلات أو التراجع عن تحديث آلي.
البديل البشري بنية تحتية
تحتاج الخدمات الأساسية إلى وضع مُخفَّض عملي. وهذا لا يعني أن كل عملية تستطيع العودة فورًا إلى الورق. بل يعني أن المشغّلين يقررون مسبقًا أي الوظائف يجب أن تستمر، وبأي حد أدنى من القدرة، وبأي عدد موظفين واتصالات. وللطاقة، والماء، والصحة، والتمويل، والنقل، والمزايا العامة قيود سلامة مختلفة.
وإجراء يدوي لم يتدرب عليه أي موظف ليس بديلًا. وينبغي للمنظمات تدريب الموظفين، والاحتفاظ بواجهات ضرورية بلا ذكاء اصطناعي، واختبار الاستعادة من نسخ احتياطية غير متصلة، وقياس المدة التي يمكن للوضع المُخفَّض العمل خلالها. وينبغي للمورّدين والوكالات العامة تنسيق التبعيات: فقد تفشل خطة مستشفى إذا افترض مزوّد هويته، وخدمته السحابية، وشبكة الصيدليات لديه أن الآخرين سيبقون جميعًا متصلين.
وتوصي وكالة الأمن السيبراني وأمن البنية التحتية (CISA) بالتخطيط للاستجابة للحوادث، وفهم الأصول، والتجزئة، وممارسات الاستعادة للبنية التحتية الحرجة (أهداف أداء الأمن السيبراني لـCISA). والاستجابة الخاصة بالذكاء الاصطناعي تنتمي داخل برامج السلامة والأمن السيبراني الراسخة، لا خارجها.
نفوذ الحكومة والعملاء
يمكن للحكومات ربط شروط بالمشتريات، والتراخيص، والمنح، والوصول إلى الموارد العامة، والخدمات الحرجة المنظَّمة. ويمكن لمزوّدي الحوسبة السحابية ومراكز البيانات إجراء عناية واجبة تتفق مع القانون. ويمكن للمرافق والسلطات المحلية تطبيق قواعد الموثوقية، والبيئة، واستخدام الأرض، والتخطيط للطوارئ العادية دون تحويل سياسة البنية التحتية إلى حظر مُقنَّع على كل الذكاء الاصطناعي.
ويملك العملاء نفوذًا عبر العقود. وقبل الشراء، اشترط توثيق النظام، ونتائج تقييم ذات صلة بحالة الاستخدام، وإخطار الأمن، والتحكم بالإصدارات، وحقوق التدقيق، والتعاون بشأن الحوادث، وقابلية نقل البيانات، وخطة خروج. وينبغي أن يعرف العميل ما إذا كان المورّد يستطيع استبدال نموذج جديد بصمت وما إذا كانت الخدمة تظل متاحة أثناء التراجع.
وتحتاج هذه التدابير إلى إجراءات قانونية واجبة. وينبغي أن يكون لأي قيد أساس قانوني محدَّد، ومعيار أدلة، وصانع قرار خاضع للمساءلة، ومدة، ومسار مراجعة. وقد تكون سلطة الطوارئ ضرورية، لكن السيطرة السرية غير المحدودة زمنيًا تدعو إلى إساءة الاستخدام.
التركّز يخلق نفوذًا وهشاشة معًا
يمكن لسلاسل إمداد الرقائق والحوسبة السحابية المُركَّزة أن تجعل الإشراف عمليًا، لكنها تخلق أيضًا نقاط فشل واحدة، وقوة سوقية، وضعفًا جيوسياسيًا. ويمكن للامركزية أن تُحسِّن المرونة والمنافسة بينما تُصعِّب الاستدعاء وضمانات متسقة. ولا التركّز ولا الانفتاح آمن بطبيعته.
وينبغي أن تُميِّز السياسة بين الندرة التي تعكس هندسة حقيقية والندرة الناتجة عن عقود حصرية أو حبس لدى مورّد واحد. ويمكن لقابلية التشغيل البيني، والتخطيط متعدد الحوسبة السحابية، وصيغ الحوادث المشتركة، والسجلات القابلة للنقل أن تُقلِّل التبعية دون التظاهر بأن كل حِمل عمل يمكن نقله فورًا.
الخلاصة العملية
يحتفظ المجتمع بنفوذ ذي معنى على الذكاء الاصطناعي عبر القانون، والمشتريات، والسلطة المؤسسية، والتحكم التقني بالوصول، وتصميم خدمات مرنة. ونادرًا ما يكون الفعل الصحيح إيقافًا استعراضيًا. بل هو تدخل محدَّد ومُصرَّح به في التدريب، أو الأوزان، أو النشر، أو الاستدلال — مقترنًا بالاحتواء، وحفظ الأدلة، والتراجع، والاستمرارية.
وتصبح البنية التحتية حامية عندما يعرف الناس من يجوز له التصرف وقد تدربوا على ما يحدث تاليًا. والسيطرة القانونية أقوى ما تكون عندما تكون دقيقة بما يكفي لتقليل المخاطر دون خلق طارئ ثانٍ.