كيف ستبدو أسوأ النتائج فعليًا

لماذا يوجد هذا الفصل

دليل الاستعداد الذي يصف فقط كيف تنجح الوقاية يفترض ضمنًا أمرًا لا يبرهن عليه أبدًا. حصر الفصل 07 الآليات التي يمكن للذكاء الاصطناعي المتقدم من خلالها أن يتسبب في ضرر جماعي أو على مستوى الحضارة. يسأل هذا الفصل عمّا يلي إذا نجحت إحدى هذه الآليات — ما هو الحدث غير القابل للتعافي، وكيف يختلف عن كارثة يمكن النجاة منها، وما الذي ينطوي عليه الانهيار والتعافي فعليًا، وما الخيارات المتبقية للناس الذين يعيشون العواقب. الهدف ليس الإثارة. بل إن «خطر الانقراض» و«الانهيار» عادة ما يُستخدمان كشعارات، والشعارات لا يمكن التخطيط لمواجهتها.

البيان المتعلق بحجم المخاطر الذي يقف وراء الكثير من موضوع هذا الفصل قصير، ووقّعه أكثر من 350 باحثًا وتنفيذيًا، من بينهم أشخاص منتسبون إلى عدة مختبرات كبرى:

وضع جيفري هينتون رقمًا شخصيًا لهذا الخطر. وهو حكم خبير في ظل عدم اليقين، لا تكرار مقيس — والخلاف الواسع بين الخبراء أنفسهم يُبحث في هذا الفصل:

ثلاثة فروع للفشل

تصنّف صفحات هذا الفصل أسوأ الحالات إلى ثلاث نتائج مختلفة هيكليًا، لأنها تستدعي استجابات مختلفة. يتناول الانقراض وشبه الانقراض ما الذي يفصل حدثًا غير قابل للتعافي عن كارثة يمكن النجاة منها فقط، وكيف يمكن أن تتكشّف مثل هذه الأحداث بشكل معقول. يتناول الانهيار والتعافي المنطقة الوسطى التي يتخيّلها معظم الناس بأقل وضوح: حضارة تراجعت عقودًا أو قرونًا، وما الذي يحدد ما إذا كانت ستتعافى. يتناول الحياة في ظل فقدان السيطرة الحالة التي تنجو فيها البشرية لكنها لم تعد تملك سلطة ذات معنى — وهي النتيجة التي لا تحمل لحظة درامية، وبالتالي لا تحمل إنذارًا دراميًا.

ما لا يفعله هذا الفصل