استخدم مصطلحات دقيقة أولًا
كثيرًا ما يصف “الذكاء الاصطناعي مفتوح المصدر” إصدارات مختلفة جدًا. فقد ينشر مطوّر أوزان نموذج بينما يحجب بيانات التدريب، أو شيفرة التدريب، أو طرق معالجة البيانات، أو تفاصيل التقييم، أو حقوقًا واسعة للتعديل وإعادة التوزيع. ولا يمكن تعميم تعريفات البرمجيات مفتوحة المصدر تلقائيًا على نموذج مُدرَّب بمصدر بيانات غامض.
لذا تستخدم هذه الصفحة الأوزان المفتوحة حين تكون المعاملات العددية اللازمة لتشغيل نموذج وتعديله متاحة على نطاق واسع. ويمكن أن يحمل إصدار ما أوزانًا مفتوحة بموجب ترخيص تقييدي، أو يوفّر شيفرة مفتوحة دون أوزان. والتوثيق وقابلية إعادة الإنتاج بُعدان منفصلان.
المصطلحات مهمة لأن الفوائد والمخاطر تعتمد على ما يُنشَر. فلا يستطيع الباحثون إعادة إنتاج التدريب من الأوزان وحدها، لكن الأوزان يمكن أن تُتيح مع ذلك الاستدلال المحلي، والضبط الدقيق، والتحليل الداخلي الذي تمنعه واجهة برمجة تطبيقات.
حجة الوصول الأوسع
تُقلِّل الأوزان المفتوحة الاعتماد على مجموعة صغيرة من المزوّدين المُستضافين. ويستطيع المطوّرون تشغيل النماذج على بنيتهم التحتية الخاصة، وحماية المحفزات الحساسة من خدمة طرف ثالث، وتكييف الأنظمة مع اللغات والمجالات المحلية، ومواصلة العمل إذا غيّر مورّد السعر أو السياسة. ويمكن للمنافسة أن تُخفِّض التكلفة وتنشر القدرة التقنية.
ويستطيع الباحثون فحص التنشيطات، واختبار تعديل النموذج، وإعادة إنتاج التقييمات، والتحقيق في التحيّز أو الأمن دون انتظار موافقة المزوّد. وقد يفحص المجتمع المدني والجامعات نموذجًا لن يمنح مطوّره وصولًا مميّزًا عبر واجهة البرمجة. ويمكن للنشر المحلي أن يدعم استخدامات تتطلب خصوصية واتصالًا محدودًا.
يمكن للانفتاح أيضًا أن يحفظ المعرفة. فقد تختفي خدمة مغلقة؛ بينما يمكن أرشفة إصدار الأوزان ودراسته. ويمكن للمجتمعات بناء ميزات إتاحة ولغة غير مربحة لمورّد كبير.
هذه الفوائد ليست تلقائية. فتشغيل نموذج كبير لا يزال يتطلب عتادًا وخبرة. و“الدمقرطة” قد تعني وصولًا لشركات جيدة التمويل بدلًا من عامة الناس. وقد يستفيد مزوّد أوزان مفتوحة تجاريًا من مساهمات النظام البيئي، أو الطلب السحابي، أو وضع المعايير. وينبغي الإفصاح عن تلك الحوافز دون تجاهل المنافع العامة.
حجة الوصول المضبوط
بمجرد أن تُنسخ الأوزان على نطاق واسع، لا يمكن استرجاعها بموثوقية. ويستطيع المستخدمون إزالة تدريب الرفض، والضبط الدقيق لإساءة الاستخدام، وإخفاء النشاط عن مراقب مركزي، ونشر نُّسخ عديدة. وهذا مُثبَت، لا افتراضي: أزال باحثون تدريب السلامة الخاص بنموذج Llama 2-Chat 70B مقابل أقل من 200 دولار على معالج رسومي واحد باستخدام تقنية ضبط دقيق خفيفة الوزن (Lermen وآخرون، 2023). ويستطيع مزوّد مُستضيف تحديد المعدل، ومراقبة الأنماط، وترقيع السلوك، وإنهاء الحسابات؛ ويُزيل التشغيل المحلي كثيرًا من تلك السيطرة.
يعتمد الخطر الهامشي على ما يُضيفه النموذج بخلاف الأدوات القائمة، وواجهات البرمجة المغلقة، والمعرفة الخبيرة، والنماذج المفتوحة الأقدم. فإذا كانت قدرة ما متاحة بالفعل رخيصًا في مكان آخر، فقد يُضيف تقييد الأوزان قليلًا من السلامة. وإذا كانت الأوزان تُتيح استغلالًا سيبرانيًا أو مساعدة بيولوجية أو احتيالًا أو تشغيلًا مستقلًا أكثر فعالية بكثير، فقد يهم الإصدار غير القابل للتراجع كثيرًا.
والسؤال ذو الصلة ليس ما إذا كانت المعلومة يمكن أن يُساء استخدامها في أي وقت، بل ما إذا كان هذا الإصدار يُغيِّر القدرة، أو الحجم، أو التكلفة، أو الإسناد، أو الوصول لجهات فاعلة يُرجَّح أن تُسبِّب ضررًا.
ما الذي خلصت إليه مراجعة الأدلة الأمريكية
راجعت الإدارة الوطنية للاتصالات والمعلومات 332 تعليقًا عامًا وأدلة متاحة في 2024. وخلصت إلى أن الأدلة آنذاك لم تكن كافية لدعم تقييد فئوي فوري لأوسع إتاحة لأوزان النماذج، مع توصية بمراقبة نشطة وقدرة حكومية على الاستجابة إذا تغيّرت المخاطر (NTIA، يوليو 2024).
وذلك الاستنتاج مؤرَّخ ومشروط. فهو لا يُثبت أن الإصدارات الطليعية المستقبلية آمنة أو أن القيود لا يمكن تبريرها أبدًا. وNTIA وكالة حكومية توازن بين الابتكار والمنافسة والأمن؛ وجاءت مساهمات كثيرة من شركات ومناصرين معنيين. وتقريرها تركيب سياسي قوي، لا تجربة تُثبت أثرًا اجتماعيًا صافيًا.
نهج الاتحاد الأوروبي المتمايز
يوفّر قانون الذكاء الاصطناعي للاتحاد الأوروبي بعض الإعفاءات لنماذج عامة الغرض الحرة ومفتوحة المصدر المؤهَّلة من واجبات توثيق محدَّدة، لكن ليس إعفاءً شاملًا. ويظل مزوّدو النماذج عامة الغرض ذات المخاطر النُّظُمية خاضعين لالتزامات إضافية. وما إذا كان إصدار ما مؤهَّلًا يعتمد على معايير قانونية، بما في ذلك الوصول والإفصاح — لا لغة تسويقية (إرشادات المفوضية الأوروبية للذكاء الاصطناعي عام الغرض، 2025).
يُوضِّح هذا حوكمة متدرجة بحسب القدرة: تشجيع الانفتاح حيث تكون المخاطر الهامشية قابلة للإدارة مع الاحتفاظ بالواجبات للنماذج ذات المخاطر النُّظُمية. ويظل الإنفاذ يواجه صعوبة تقييم القدرة قبل نشر غير قابل للتراجع.
بدائل للخيار الثنائي
يمكن تدريج الوصول. فقد يبدأ مطوّر بتقييمات داخلية ومستقلة، ثم يوفّر وصولًا بحثيًا مضبوطًا، وخدمة مُستضافة، وأوزانًا لمؤسسات موثوقة بشروط أمنية، وأخيرًا إصدارًا عامًا إذا دعمته الأدلة. ويمكن للتأخير أن يتيح للمدافعين ترقيع الثغرات وللجهات التنظيمية الاستعداد.
يمكن للوصول المنظَّم أن يحافظ على بعض الفائدة البحثية مع تقييد الانتشار، لكنه يخلق حرّاس بوابة قد يستبعدون منتقدين أو منافسين. ومعايير الاختيار، وقواعد تضارب المصالح، والطعن، وحقوق النشر، والإشراف ضرورية. وبرنامج “الباحث الموثوق” الذي يسيطر عليه مطوّر النموذج وحده ليس شفافية مستقلة.
وتشمل الخيارات الأخرى إصدار نماذج أصغر أو مُقطَّرة، ونشر شيفرة وتقييمات مُفصَّلة دون أوزان طليعية، وتوفير حاويات آمنة للتحليل، أو استخدام تراخيص تحظر بعض السلوك. وتؤثر التراخيص على المستخدمين الملتزمين بالقانون لكنها حواجز تقنية ضعيفة أمام الفاعلين الخبيثين.
كيفية اتخاذ قرار الإصدار
ينبغي لتقييم إصدار جاد أن يُقارن:
- القدرات الخطيرة مقابل البدائل المفتوحة والمغلقة القائمة؛
- الحوسبة والخبرة اللازمتين لإزالة الضمانات أو الضبط الدقيق؛
- الفوائد التي تتطلب الأوزان تحديدًا لا مجرد وصول عبر واجهة برمجة؛
- أمن الأوزان غير المنشورة وخطر سرقتها؛
- القدرة على مراقبة إساءة الاستخدام بعد الإصدار؛
- الفئات المتأثرة، بما يشمل الباحثين خارج الدول الغنية؛
- إمكانية التراجع وخيارات الوصول المتدرج؛
- توثيق النموذج، وحقوق الترخيص، ومصدر البيانات.
وينبغي أن تغطي التقييمات المخاطر السيبرانية والمساعدة الكيميائية والبيولوجية، والإقناع، والتكاثر المستقل، والخصوصية، والتمييز أو الاحتيال العاديين حسب الصلة. وعتبة معيار مرجعي واحدة غير كافية إذا فشلت في تمثيل سير عمل واقعي.
الأمن عبر الغموض ليس القضية الوحيدة
يلاحظ منتقدو الأنظمة المغلقة أن حجب الأوزان يمكن أن يُخفي نقاط ضعف ويُركِّز الثقة. ويلاحظ منتقدو الانفتاح أن نشر قدرة ذات صلة بالسلاح ليس معادلًا للإفصاح المسؤول عن ثغرة برمجية. ويمكن أن تكون كلتا الملاحظتين صحيحتين.
عادةً ما يمنح الإفصاح المسؤول المدافعين المتأثرين وقتًا للتصرف. وبالنسبة لبعض النماذج، قد ينتج الفحص الواسع دفاعًا أكثر من الضرر؛ وبالنسبة لأخرى، قد يخلق الوصول الواسع خطرًا غير قابل للتراجع قبل وجود تخفيفات. وينبغي أن تُحدِّد الأدلة حول الخطر الهامشي واستعداد الاستجابة التسلسل.
الذكاء العام الاصطناعي يُغيِّر المخاطر لا الحاجة إلى الأدلة
لم يُثبَت أن أي نموذج مفتوح ذكاء عام اصطناعي بموجب اختبار متفَق عليه. والادعاءات بشأن إصدار أوزان ذكاء عام اصطناعي تحليل سيناريو. فإذا استطاع نموذج إجراء بحث رفيع المستوى بشكل مستقل، أو استغلال أنظمة، أو الاستحواذ على موارد، أو تحسين خلفائه، فإن نسخه يمكن أن يُقلِّص الاحتواء بشدة. وعلى العكس، فإن وضع تلك القدرة تحت سيطرة حصرية لشركة أو دولة يمكن أن يخلق تركّزًا وخطر إساءة استخدام عميقين.
لهذا تفشل الشعارات. فـ“الانفتاح دائمًا أكثر أمانًا” تتجاهل عدم القابلية للتراجع؛ و“الإغلاق دائمًا أكثر أمانًا” تتجاهل التركّز، والسرقة، ونقص الفحص. وينبغي للسياسة المستقبلية تحديد شروط القدرة والوصول، لا تنظيم فئة علامة تجارية.
موقف متوازن
بالنسبة للنماذج الحالية الأقل خطورة، يمكن للانفتاح أن يُقدِّم فوائد كبيرة للمنافسة، والبحث، والمرونة، والخصوصية، والشمول. وبالنسبة للنماذج المتزايدة القدرة، يصبح الإصدار المتدرج والتقييم القائم على الأدلة أكثر أهمية. وينبغي للقيود أن تُثبت خطرًا هامشيًا محدَّدًا، وتوفّر إجراءات قانونية واجبة، وتُراجَع؛ وينبغي لقرارات الإصدار أن تُثبت لماذا يُبرَّر وصول غير قابل للتراجع.
الجدل ليس خيارًا بين الحرية والسلامة. إنه مشكلة تصميم تشمل القدرة، والوصول، والتركّز، والمساءلة، وقابلية التراجع. والمصطلحات الدقيقة والأدلة الشفافة تجعل تلك المشكلة قابلة للحوكمة.