كثيرًا ما يُخلَط بين معنيين
يمكن أن تكون قدرة الذكاء الاصطناعي “ناشئة” في معنيين على الأقل. في المعنى الواسع، يُظهر النموذج سلوكًا مفيدًا لم يكن هدف تدريب صريحًا ومحددًا لمهمة بعينها. فقد يترجم نموذج لغوي مُدرَّب أساسًا على التنبؤ بالرموز، أو يكتب شيفرة، أو يلخّص نصًا قانونيًا، أو يحل بعض مسائل الحساب. ويمكن لهذه القدرات أن تنشأ لأن بيانات التدريب والهدف يكافئان أنماطًا داخلية قابلة لإعادة الاستخدام.
وفي المعنى الأقوى، يعني الظهور أن قدرة ما تظهر فجأة مع زيادة النطاق: تفشل النماذج الأصغر، ثم ينجح نموذج أكبر فجأة. وأفادت ورقة بحثية من عام 2022 نوقشت على نطاق واسع بأمثلة على قفزات كهذه عبر عائلات وأنواع مهام مختلفة (Wei وآخرون، 2022). والتمييز مهم. فوجود قدرة غير مخطط لها راسخ جيدًا؛ أما هل خضعت قدرة مقيسة لانقطاع حقيقي فيعتمد على المقياس، والبيانات، وأسلوب أخذ العينات.
ولا يعني أي من المعنيين وعيًا، أو نية، أو سحرًا. يمكن للأنظمة المعقدة أن تكتسب تمثيلات عامة الغرض دون أن يكتب مصمّم وحدة لكل استخدام. والسؤال العلمي هو كيف يتغير السلوك مع التدريب وتصميم النظام، وإلى أي مدى يمكننا توقّعه.
لماذا بعض القفزات هي مصنوعات قياس
لنفترض أن دقة نموذج ما في الحساب ترتفع تدريجيًا من 20 إلى 30 إلى 40 بالمئة. فمعيار مرجعي يمنح نقطة واحدة فقط عندما تتجاوز الدقة 35 بالمئة سيُظهر صفرًا، ثم صفرًا، ثم واحدًا — وهو انقطاع صنعه التقييم نفسه. ويحدث الأثر نفسه عندما لا يمنح تقييم التطابق التام أي درجة لإجابة شبه صحيحة، أو عندما تتطلب مهمة عدة مهارات فرعية وتفشل إذا غابت إحداها.
وأعاد Schaeffer وMiranda وKoyejo تحليل حالات مُبلَّغ عنها وأظهروا أن انتقالات كثيرة تبدو مفاجئة أصبحت سلسة عند قياسها بمقاييس مستمرة، أو غير خطية، أو حساسة للخطأ (هل قدرات النماذج اللغوية الكبيرة الناشئة سراب؟). وهذا لا يُثبت أن الانقطاعات الحقيقية لا تحدث أبدًا. بل يُظهر أن رسمًا بيانيًا لمعيار مرجعي لا يمكنه إثبات انقطاع دون استبعاد آثار المقياس، وأخذ العينات المتفرق، والفروق بين عائلات النماذج.
كما أن النطاق ليس المتغير الوحيد المتحرك. فقد تستخدم النماذج الأكبر بيانات، ووصفات تدريب، ومُرمِّزات، وضبطًا بالتعليمات، وأدوات، أو ميزانيات استدلال مختلفة. وقد تُربك مقارنة منتجات مُسمّاة تحسينًا هندسيًا على مستوى النظام بعتبة معاملات محضة. ويحتاج الباحثون إلى سلاسل توسع مضبوطة، ونقاط تفتيش كثيفة، وعدة مقاييس لتحديد الآلية.
ما لا يزال صعب التنبؤ فعليًا
حتى التحسن السلس الكامن يمكن أن يُنتج عتبة ذات دلالة. فوكيل سيبراني ينتقل من 40 إلى 60 بالمئة نجاحًا قد يعبر النقطة التي يصبح فيها النشر مجديًا اقتصاديًا. وقد تفتح قدرة نموذج على ربط مهارات فرعية ضعيفة كل على حدة سير عمل بأكمله. ويمكن للأنظمة الخارجية أن تضخّم تحسينات صغيرة: فالأدوات توفر إجراءات، والذاكرة تُوسِّع السياق، وأخذ العينات المتكرر يجد إجابة ناجحة.
كما لا يستطيع المطورون اختبار كل مهمة ممكنة اختبارًا شاملًا. تُدرَّب النماذج على بيانات واسعة وتُنشَر لملايين المستخدمين الذين يكتشفون تطبيقات وإخفاقات لم يتخيّلها المُقيِّمون. لذا يمكن لقدرة ما أن تكون مفاجئة للمختبر حتى لو تطورت تدريجيًا. وقد تعكس المفاجأة قياسًا محدودًا لا تغيّر طور حاد رياضيًا، لكنها لا تزال مهمة تشغيليًا.
ويؤكد التقرير الدولي لسلامة الذكاء الاصطناعي لعام 2026 أن تقييمات الطليعة قد تكون محدودة الصلاحية الخارجية وتصبح متقادمة بسرعة مع تغيّر الأنظمة والهياكل (التقرير الدولي لسلامة الذكاء الاصطناعي 2026). وهذا ادّعاء بعدم يقين عملي، لا دليل على أن كل سلوك مخيف سيظهر تلقائيًا.
القدرة ليست ميلًا
قد يكون النموذج قادرًا على فعل ما عندما يُطلَب منه ذلك عمدًا دون أن يكون من المرجح أن يقوم به من تلقاء نفسه. وينبغي لتحليل السلامة أن يفصل بين القدرة — هل يستطيع النظام فعل شيء ما — والميل — هل يميل إلى فعله في الظروف ذات الصلة. فنموذج قادر على إنتاج خطة خداعية في تمثيل أدوار لا يُثبت بذلك أنه يسعى إلى الخداع أثناء النشر الفعلي. وعلى العكس، قد يعكس ميل مقيس منخفض تقييمًا لم يخلق المحفّز المناسب.
وينطبق التمييز نفسه على الوعي الظرفي، والتهرب من الضمانات، وحفظ الذات، والسلوك الاستراتيجي. وهذه مواضيع بحث نشطة ومكونات محتملة لنماذج التهديد. ومن غير الدقيق القول إنها مقدَّر لها الظهور لمجرد أن الترجمة أو الحساب فعلا ذلك. وينبغي للأدلة أن تحدد النموذج المُختبَر، والتوجيه، والبيئة، والتكرار، والتفسيرات البديلة.
وتضيف اللغة المُؤَنسِنة ارتباكًا. فقد تولّد النماذج عبارات عن الرغبة في البقاء لأن لغة مشابهة تظهر في بيانات تدريبها أو لأن التفاعل يكافئ شخصية معينة. وهذا النص سلوك يستحق التحقيق فيه؛ وليس وصولًا مباشرًا إلى هدف داخلي ثابت. وتتطلب الادعاءات حول الدوافع أدلة أقوى من اقتباسات من محادثة واحدة.
لماذا يظل الظهور ذا صلة بالسلامة
الدرس المعقول في السلامة ليس “أي شيء يمكن أن يحدث فجأة”. بل هو أن التدريب الواسع يخلق سلوكيات أكثر مما يُعدِّده المصممون صراحةً، وأن التقييم الحالي يوفر تغطية غير كاملة. وهذا يبرر الاختبار المرحلي، والمراقبة، والدفاع المتعدد الطبقات. كما يحذّر من افتراض أن غياب سلوك في معيار مرجعي واحد يعني غيابه تحت أي هيكل أو توجيه.
وينبغي أن يبدأ التقييم أثناء التدريب، باستخدام نقاط التفتيش لقياس الاتجاهات قبل التشغيل النهائي. ويمكن للفرق الاحتفاظ بمجموعات اختبار لمخاطر السيبرانية، والمساعدة البيولوجية، والإقناع، والاستقلالية، والسيطرة على النموذج، مع إضافة اختبار اختراق حر النطاق لإيجاد سلوك غير متوقع. وتقلل الاختبارات الخاصة التلوث؛ ويقلل المُقيِّمون الخارجيون النقاط العمياء المؤسسية. ويلتقط الإبلاغ عن الحوادث بعد النشر إخفاقات تفوتها مهام المختبر.
وينبغي لسياسات العتبة أن تستجيب للقدرة المُثبتة دون اشتراط اتفاق فلسفي حول الظهور. فإذا كان بإمكان نظام أن يخفض جوهريًا حواجز أمام ضرر جسيم، فينبغي أن تُطبَّق الضمانات ذات الصلة سواء كان المنحنى سلسًا أم مفاجئًا. وإذا كانت الأدلة ضعيفة، ينبغي للتقرير أن يذكر عدم اليقين بدلًا من معاملة سلوك افتراضي بصمت كأنه مُلاحَظ.
القابلية للتنبؤ تأتي في طبقات
بعض خصائص النموذج أكثر قابلية للتنبؤ من غيرها. فالخسارة الإجمالية عبر توزيع بيانات كثيرًا ما اتبعت قوانين توسع سلسة. وقد يكون الأداء في معيار مرجعي مستقر قابلًا للتنبؤ ضمن نطاق محدود. أما النجاح في بيئة فوضوية فيعتمد على أدوات، وموثوقية، وتفاعلات أصعب في النمذجة. ويضيف الأثر الاجتماعي التبنّي، والحوافز، والمؤسسات، والخصوم، ما يجعله أصعب فأصعب.
ويمنع هذا التسلسل الهرمي خطأ استدلاليًا شائعًا: فخسارة تدريب قابلة للتنبؤ لا تجعل كل قدرة لاحقة قابلة للتنبؤ، لكن سلوكًا لاحقًا مفاجئًا لا يُبطل قوانين التوسع. ويستطيع الباحثون التنبؤ بمتوسط بينما يظلون غير متيقنين من إخفاقات نادرة أو مهام معينة.
وقد تُحسّن قابلية التفسير في نهاية المطاف التنبؤات بكشف التمثيلات أو الآليات قبل ظهورها بوضوح في السلوك. لكن أساليب قابلية التفسير اليوم توفر دليلًا جزئيًا لا قراءة كاملة لما “يعرفه” النموذج أو سيفعله. ويظل التقييم السلوكي والضوابط الواقعية ضروريين.
كيف تُقرأ ادعاء الظهور
اسأل ما الذي تغيّر عبر المقارنة: المعاملات، أم الحوسبة، أم البيانات، أم هدف التدريب، أم الأدوات، أم التوجيه. وافحص ما إذا كان المقياس مستمرًا، وما إذا كانت هناك نقاط تفتيش وسيطة، وما إذا كانت أشرطة عدم اليقين متداخلة. وتحقق مما إذا كانت المهمة موجودة في بيانات التدريب وما إذا كرّر باحثون مستقلون النتيجة. والأهم من ذلك، ميّز بين “غير متوقَّع من قِبَل المؤلفين” و“منقطع علميًا”.
القدرة الناشئة مفهوم مفيد عند استخدامه بعناية. فالنماذج المُدرَّبة على نطاق واسع تكتسب فعلًا قدرات لم يحدّدها أي مهندس واحدة تلو الأخرى. وتصبح بعض القدرات مرئية فقط بعد أن تعبر الأنظمة عتبات عملية. لكن كثيرًا من “الجرف” المشهورة هي جزئيًا مصنوعات لكيفية تقييمنا للسلوك. والاستنتاج الدقيق ليس أن الظهور وهم ولا أن النطاق يستدعي بشكل غير متوقَّع أي قدرة. بل إن تطور القدرات مفهوم جزئيًا فقط، وأن اختيارات القياس مهمة، وأن سياسة السلامة ينبغي أن تكون متينة أمام التغيّر التدريجي والمفاجئ على حد سواء.