قابلية التفسير: قراءة ما يفعله النموذج داخليًا ما الذي يفعله بحث قابلية التفسير فعليًا، ولماذا وصفه الرئيس التنفيذي لشركة Anthropic بالعاجل، ومدى قرب المجال من النجاح في قراءة عقل نموذج.
تم التحقق من المصادر 5 min
04 مخارج الطوارئ
مخارج الطوارئ الموجودة فعليًا
تحدد الضوابط التقنية والمؤسسية ما إذا كانت السيناريوهات الخطيرة في الفصل 02 ستصبح أكثر احتمالًا أو أقل؛ ولا يمكن للاستعداد الأسري أن يحل محلها.
روافع السلامة التقنية
- بحث قابلية التفسير. فحص تمثيلات النماذج وحساباتها الداخلية كأحد المكمّلات لتقييمات السلوك، وضوابط الوصول، ومراقبة النشر.
- الإشراف القابل للتوسّع. تقنيات — كالمناظرة، ونمذجة المكافأة التكرارية، والتعميم من الضعيف إلى القوي — يُقصد بها مساعدة مشرفين أقل قدرة على الإشراف على أنظمة أكثر قدرة.
- بحث القابلية للتصحيح. دراسة كيف يمكن للأنظمة أن تظل متقبّلة للتصحيح والتعديل والإيقاف المشروعَين؛ ولم يُثبَت بعد أي حل متين عبر النطاقات المختلفة.
- حوكمة الحوسبة. ضوابط تصدير خاصة بكل ولاية قضائية، ومراقبة للبنية التحتية، وعتبات تُستخدم كمؤشرات غير كاملة على القدرة — لا كتعريف للذكاء العام الاصطناعي أو للسلامة.
دافع الرئيس التنفيذي لشركة Anthropic عن الأولى من هذه النقاط في مقالته لعام 2025 حول الموضوع:
Dario Amodei argues that researchers still lack a precise account of why models choose particular outputs.
The Urgency of Interpretability, Primary source
الروافع المؤسسية
مشكلة التنسيق
يهم التنسيق الدولي لأن الضوابط الأحادية الجانب يمكن أن تغيّر حوافز السلامة والموقع التنافسي معًا. لم يعد المشهد السياساتي طوعيًا بالكامل: يفرض قانون الذكاء الاصطناعي للاتحاد الأوروبي واجبات ملزمة على مزوّدي الخدمة المشمولين بنطاقه، في حين تظل أطر سلامة المختبرات والتزامات القمم طوعية إلى حد كبير. لا توجد حاليًا أي معاهدة عالمية ملزمة للحد من تسلّح النماذج المتقدمة.
كانت نقطة الانطلاق الدولية المبكرة الإعلانَ غير الملزم الذي أقرّته 28 دولة والاتحاد الأوروبي في أول قمة عالمية لسلامة الذكاء الاصطناعي:
28 nations and the European Union commits signatories to AI that is designed, developed, deployed and used safely and responsibly.
GOV.UK, Signed statement
- تقييم سابق للنشر يتناسب مع المخاطر للقدرات الخطيرة قبل الإصدار غير المقيّد.
- الإبلاغ عن الحوادث بما يتيح للجهات التنظيمية والمطوّرين التعلّم من الإخفاقات الجسيمة والحالات التي كادت أن تقع.
- قواعد مسؤولية تراعي عناصر السيطرة والمعرفة والسببية والقدرة على منع الضرر.
ماذا يمكن لتقني بمفرده أن يفعل
يمكن للقراء التأثير في السياسات بصفتهم ناخبين وعمالًا وباحثين وعملاء ومستثمرين وأعضاءً في منظمات مدنية. تشمل الخيارات العملية: المساهمة في بحث قابلية التفسير والمواءمة أو تمويله؛ ودفع ممارسات السلامة داخل مؤسستك إن كنت تنشر أنظمة ذكاء اصطناعي في الإنتاج؛ ودعم البنية التحتية للإبلاغ والتقييم المذكورة أعلاه بدلًا من معاملتها كعبء تنظيمي؛ والتحقق من مصدر الادعاءات المُقنِعة والأدلة الداعمة لها بدلًا من افتراض التلاعب الآلي أو الإجماع الحقيقي.
بحث سياسات مؤسسي
في هذا الفصل
الإشراف القابل للتوسع: مراقبة أنظمة أكثر قدرة الأساليب التقنية التي يختبرها الباحثون لتمكين المشرفين البشر من مراقبة أنظمة ذكاء اصطناعي أقدر منهم، كما اختُبرت عبر مناظرة الذكاء الاصطناعي.
تم التحقق من المصادر 5 min
حوكمة الحوسبة: الشرائح ومراكز البيانات والعتبات كيف يمكن لضوابط تصدير الشرائح، وإبلاغ مراكز البيانات، وعتبات الحوسبة أن تحكم تطوير الذكاء الاصطناعي المتقدم، بما في ذلك حدودها وتحديات إنفاذها.
تم التحقق من المصادر 5 min
المعاهدات والقمم الدولية: أين تقف الحوكمة سرد واضح لإعلان بلتشلي، وقمم سلامة الذكاء الاصطناعي اللاحقة، ومدى ما بلغته الحوكمة الدولية للذكاء الاصطناعي في طريقها نحو معاهدة مُصادَق عليها.
تم التحقق من المصادر 5 min
القابلية للتصحيح: أنظمة تقبل التصحيح لماذا فكرة "فقط ضع زر إيقاف" أصعب مما تبدو، وما الذي يحاول بحث القابلية للتصحيح حلّه — بما في ذلك سبب احتمال مقاومة عميل ذكاء اصطناعي للإيقاف.
تم التحقق من المصادر 5 min
حماية المُبلِّغين داخل مختبرات الذكاء الاصطناعي كيف يمكن لحقوق المُبلِّغين، وقنوات الإبلاغ، وقواعد مكافحة الانتقام أن تساعد موظفي مختبرات الذكاء الاصطناعي على كشف إخفاقات السلامة قبل أن تصبح أضرارًا علنية.
تم التحقق من المصادر 5 min
جدل الذكاء الاصطناعي مفتوح المصدر: أداة سلامة أم خطر سلامة فحص أقوى حجج السلامة والبحث والمنافسة وإساءة الاستخدام مع وضد إتاحة أوزان النماذج القوية علنًا، بما في ذلك كسر حماية بتكلفة 200 دولار.
تم التحقق من المصادر 5 min
قانون الذكاء الاصطناعي وإنفاذه في 2026 ما هي قواعد الذكاء الاصطناعي المُلزِمة اعتبارًا من سبتمبر 2026 في الاتحاد الأوروبي والولايات المتحدة والأطر الدولية، وما الذي يظل طوعيًا وأين يُطبَّق الإنفاذ فعليًا.
تم التحقق من المصادر 6 min
تقييمات الطليعة، وحالات السلامة، والإبلاغ عن الحوادث كيف يمكن لاختبارات القدرة، وتقييمات الضمانات، والحجج المنظَّمة للسلامة، وأنظمة الحوادث أن تُحوِّل وعود الذكاء الاصطناعي المتقدم إلى أدلة قابلة للتدقيق.
تم التحقق من المصادر 6 min
مقارنة أطر السلامة لدى مختبرات الذكاء الاصطناعي الطليعية مقارنة أطر السلامة لدى ستة مختبرات ذكاء اصطناعي طليعية: العتبات، والضمانات، وما يحدث عند تجاوزها، مُقارَنة بتدقيقات مستقلة لممارساتها الفعلية على أرض الواقع.
تم التحقق من المصادر 11 min
تنظيم الذكاء الاصطناعي، دولة بدولة: أين تقف القواعد فعليًا لقطة من سبتمبر 2026 دولة بدولة: تأخير قانون الذكاء الاصطناعي الأوروبي، وتشرذم الولايات الأمريكية، وموقف بريطانيا بلا تشريع، وقواعد الوسم الصينية، وغيرها.
تم التحقق من المصادر 7 min