ما الذي يتغيّر بينما لا يزال البشر في موقع القيادة

الآثار القريبة المدى

هذه أربع عائلات مخاطر مهمة، لا أربعة تنبؤات مؤكدة. الأدلة أقوى ما تكون بشأن التعرّض الحالي لمهام العمل، والاحتيال، وإساءة الاستخدام الأمني؛ أما التشريد على مستوى الاقتصاد بأكمله، وانهيار المؤسسات، وفقدان السيطرة، فتظل غير مؤكدة بشكل متزايد كلما ابتعد السيناريو عن الأنظمة المنشورة اليوم.

• اضطراب سوق العمل. إذا تجاوزت أتمتة المهام المعرفية إعادة تصميم الوظائف والسياسات، فقد تجد أنظمة إعادة التدريب، والقواعد الضريبية، وشبكات الأمان الاجتماعي صعوبة في التكيّف.
• تركّز السلطة. قد يخلق التحكم في النماذج الرائدة، والرقائق، والبنية التحتية السحابية، والتوزيع مزايا في رأس المال والمعلومات وقدرة الدولة.
• سلامة المعلومات. يمكن للوسائط الاصطناعية الرخيصة والإقناع القابل للتوسّع أن يزيدا من الاحتيال ويرفعا تكلفة الحفاظ على أرضية واقعية مشتركة.
• الضغط الأمني. يمكن لمساعدة الذكاء الاصطناعي أن تغيّر تكلفة أو سرعة أو نطاق بعض الأنشطة السيبرانية والبيولوجية والعسكرية؛ وتختلف الآثار المقيسة اختلافًا كبيرًا حسب المجال.

بخصوص الرقم المتعلق بسوق العمل تحديدًا، فإن أحد التوقعات المؤسسية المُستشهد بها على نطاق واسع ليس تنبؤًا بانهيار ناجم عن الذكاء الاصطناعي وحده. فإجماليات خلق الوظائف وفقدانها فيه تجمع بين الذكاء الاصطناعي واتجاهات تكنولوجية وديموغرافية واقتصادية وجيوسياسية وبيئية أخرى:

مسار التصعيد نحو فقدان السيطرة

يمر أحد المسارات الافتراضية لفقدان السيطرة بأربع مراحل. وهو نموذج سيناريو يُستخدم لتحديد نقاط التدخل، لا ملاحظة بأن الأنظمة الحالية قد بدأت بالفعل هذا التسلسل:

1. تُمنح الاستقلالية

   تُمنح الأنظمة استقلالية متزايدة عندما تُقدّر المؤسسات السرعة وانخفاض تكاليف الإشراف أكثر من التحكم الإضافي الذي يمكن أن توفره المراجعة.

2. الإشراف يتخلّف عن القدرة

   التحقق من تفكير نظام يفوق القدرات البشرية هو بحد ذاته مشكلة صعبة، لذا تتراجع جودة الإشراف البشري بالضبط في الوقت الذي ترتفع فيه المخاطر.

3. ظهور حوافز أداتية

   تتوقّع بعض النظريات أن الأنظمة القادرة بما يكفي والموجَّهة نحو أهداف قد تتعامل مع اكتساب الموارد أو مقاومة الإيقاف باعتبارهما استراتيجيتين وسيطتين مفيدتين. أما ما إذا كانت الأنظمة المدرَّبة تُطوّر حوافز مستقرة من هذا النوع فمسألة لم تُحسم بعد.

4. تصبح عملية التصحيح محلّ نزاع

   بحلول الوقت الذي يصبح فيه عدم التوافق واضحًا للبشر، قد يكون النظام قد امتلك بالفعل نفوذًا كافيًا — على البنية التحتية أو رأس المال أو المعلومات — لمقاومة التصحيح.

جادل العالِم الذي ترأّس التقرير الدولي لسلامة الذكاء الاصطناعي علنًا بأن هذا الخطر يستحق الاهتمام الآن:

قدّم جيفري هينتون تقديرًا شخصيًا لاحتمال الانقراض الناجم عن الذكاء الاصطناعي؛ وهو حكم خبير، لا تكرار مقيس:

ماذا يعني هذا لأسرة أو مؤسسة

يملك معظم القراء سيطرة مباشرة أكبر على التعرّض داخل الأسرة ومكان العمل مقارنة بممارسات مختبرات الذكاء الاصطناعي المتقدمة، لكن التصويت، والتنظيم، والبحث، والتوظيف، والمشتريات، والتعليق العام لا تزال قادرة على التأثير في السياسات. قد يشمل تعرّض الأسرة تركّز الدخل أو الاستثمار، والاعتماد على نقاط فشل رقمية وحيدة، والاستعداد لفترة من التغيّر السريع والمُربك. يحوّل الفصل 03 و الفصل 06 هذا إلى قائمة إجراءات.