ابدأ بالوظيفة، لا بالتسمية
يُفهَم السلاح المستقل عمومًا بأنه نظام يستطيع، بمجرد تفعيله، تحديد أهداف ومهاجمتها دون موافقة بشرية على كل ضربة فردية. وتظل التعريفات محل نزاع لأن الاستقلالية ليست مفتاحًا واحدًا. فقد يختار البشر منطقة المهمة وفئة الهدف بينما تتولّى البرمجيات الملاحة، أو تحديد جسم، أو التوصية بإجراء، أو تحديد اللحظة الدقيقة لإطلاق النار.
يشمل هذا الطيف أنظمة قائمة منذ وقت طويل مثل الاعتراضيات الدفاعية إلى جانب ذخائر التحليق الجديدة، وأسراب الطائرات المسيّرة، وأدوات الاستهداف المدعومة بالذكاء الاصطناعي، والروبوتات الأرضية المسلَّحة — المنصات ذات العجلات والجنازير والأرجل التي تستعرضها صفحة هذا الدليل عن الروبوتات الشبيهة بالبشر والأرضية العسكرية. ويعتمد الخطر على البيئة، والهدف، وضغط الوقت، وقابلية التنبؤ، والاتصالات، وعواقب الخطأ. فنظام محكم النطاق يعترض ذخائر واردة مختلف عن نظام يبحث في مدينة عن أشخاص.
ويستحق دعم القرار المدعوم بالذكاء الاصطناعي فحصًا أيضًا حتى عندما يضغط إنسان على الزناد رسميًا. فإذا تلقّى مُشغِّل مئات الأهداف المُولَّدة آليًا تحت ضغط وقت شديد، فقد تصبح الموافقة مجرد ختم روتيني. و“إنسان في الحلقة” لا يعني الكثير ما لم يملك الشخص المعلومة، والسلطة، والوقت، والتدريب لتحدّي النظام.
ما هو موثَّق — وما لا يزال متنازعًا عليه
وصف تقرير فريق خبراء الأمم المتحدة لعام 2021 بشأن ليبيا ذخائر تحليق Kargu-2 وأنظمة أخرى استُخدمت ضد قوات منسحبة، ملاحظًا أن الأنظمة كانت مُبرمَجة لمهاجمة أهداف دون الحاجة إلى اتصال بيانات بين المُشغِّل والذخيرة (تقرير الأمم المتحدة عن ليبيا، الفقرة 63). وكثيرًا ما تُسمّى الفقرة أول هجوم بطائرة مسيّرة مستقلة على بشر. غير أن التقرير العام لا يُثبت بشكل قاطع أن Kargu-2 اختار وقتل شخصًا بشكل مستقل. ويختلف الخبراء حول نمط التشغيل والنتيجة. إنه دليل على النشر في سياق ذي صلة، لا برهان على قتل مستقل مؤكَّد.
وشهدت نزاعات أحدث استخدامًا مكثفًا للطائرات المسيّرة، والرؤية الحاسوبية، ومعالجة الاستخبارات الآلية، وتوصيات الاستهداف المدعومة بالذكاء الاصطناعي. وغالبًا ما يفتقر التقرير العام إلى وصول تقني كافٍ لتحديد أي نموذج أدّى أي وظيفة أو مقدار السيطرة التي احتفظ بها المُشغِّلون. وينبغي وسم الادعاءات العسكرية، وأوصاف المورّدين، والتقارير الصحفية بدلًا من دمجها في يقين واحد.
ومع ذلك فاتجاه التطوير واضح: تستثمر القوات المسلحة في أنظمة تستطيع العمل عند تشويش الاتصالات، ومعالجة بيانات المستشعرات بسرعة، وتنسيق منصات كثيرة رخيصة. وقد تكون الاستقلالية الأكبر جذابة تكتيكيًا لأن رابط التحكم عن بُعد المستمر عرضة للاختراق. وما إذا كان ذلك يُنتج دقة أكثر أمانًا أو عنفًا أسرع وأقل مساءلة يعتمد على التصميم والعقيدة.
ثلاثة مسارات تصعيد مختلفة
تصعيد السرعة يحدث عندما يُضغِط الإنذار الآلي، أو الاستهداف، أو الاستجابة وقت القرار. وفي أزمة، قد يخشى القادة أن الانتظار يُتيح لنظام الخصم العامل بسرعة الآلة كسب ميزة. ويمكن أن يخلق ذلك ضغطًا للتفويض المسبق للإجراءات. وقد تنتشر قراءة مستشعر كاذبة، أو خطأ نموذج، أو مناورة غامضة قبل أن يفهمها الناس.
تصعيد الحجم يحدث عندما تجعل الاستقلالية تنسيق أنظمة كثيرة أو توليد أهداف أرخص. فقد لا تراجع مؤسسة بشرية استطاعت مراجعة عشرات القرارات بعناية آلاف القرارات بمعنى حقيقي. ويمكن للحجم الأكبر أن يزيد المواجهات العرضية، والضرر المدني، ومطالب الانتقام حتى لو كان كل نظام أكثر دقة فرديًا.
تصعيد الإدراك يحدث عندما تُسيء الدول قراءة نظام الخصم، أو عقيدته، أو مستوى سيطرته. وتجعل السرية من الصعب معرفة ما إذا كان سلاح دفاعيًا، أو ما إذا كان إجراء متعمَّدًا، أو ما إذا كان بإمكان إنسان إيقافه. وقد تبدو توصية مُولَّدة بالذكاء الاصطناعي موضوعية لطرف واحد وعدوانية لآخر.
هذه آليات معقولة، لا دليل على أن الذكاء الاصطناعي سيبدأ حربًا حتمًا. ويمكن للأتمتة أيضًا تحسين الإنذار، وتقليل عبء عمل المُشغِّل، واعتراض التهديدات، ودعم خفض التصعيد. وتعتمد النتيجة على الاختبار، والاتصالات، والعقيدة، والقيود المشتركة.
الأنظمة النووية تستحق معيارًا أعلى
يطرح ربط الذكاء الاصطناعي بالقيادة والسيطرة والاتصالات النووية أو الإنذار المبكر مخاطر استثنائية. ويمكن للتعلّم الآلي أن يساعد في تحليل تدفقات مستشعرات كبيرة، لكن الأخطاء الغامضة، والتلاعب العدائي، وتحوّل التوزيع خطيرة حيث يمكن للثقة الزائفة أن تكون كارثية. والخطر ليس بالضرورة ذكاءً اصطناعيًا “يُطلق أسلحة نووية” بشكل مستقل. إنه يشمل قادة يتلقون نصيحة مضغوطة وضعيفة المعايرة في دقائق.
لذا فالحفاظ على المسؤولية البشرية عن قرارات الاستخدام النووي أكثر من مجرد رمزية. وينبغي للأنظمة أن توفّر عدم اليقين والمصدر، وتحافظ على قنوات مستقلة، وتقاوم التزييف، وتمنح القادة وقتًا للتحقق. وينبغي ألا يصبح أي مخرج نموذج واحد مؤشرًا حاسمًا. وينبغي أن تشمل التمارين فشل الذكاء الاصطناعي والتلاعب المتعمَّد، لا عطل المعدّات وحده.
المساءلة لا يمكن أن تنتهي عند الخوارزمية
ينطبق القانون الدولي الإنساني بغض النظر عن التكنولوجيا المستخدَمة. ويظل التمييز، والتناسب، والاحتياطات في الهجوم التزامات بشرية ودولية. ومع ذلك تُعقِّد الاستقلالية التحقيق: فقد تشمل نتيجة ضارة بيانات تدريب، وقيود مستشعر، ومعايير قائد، وتحديثًا برمجيًا، أو سوء استخدام من المُشغِّل.
وذلك التعقيد ليس عذرًا لفجوة مساءلة. يمكن للدول أن تشترط سجلات قابلة للتتبّع، ومراجعة قانونية، واختبارًا قابلًا للتدقيق، ومسؤولية قيادة واضحة، وقيودًا على البيئات التي قد يعمل فيها نظام. وينبغي للمطوّرين والقادة تحديد أنماط الفشل المتوقَّعة وشروط الإيقاف. ولا ينبغي نشر نظام غير قابل للتنبؤ به بدرجة تمنع مراجعته لمجرد أن المسؤولية موزَّعة.
والتحيّز والسياق مهمّان أيضًا. فقد يفشل نظام رؤية اختُبر على صور نظيفة في الطقس، أو الأنقاض، أو التمويه، أو مجموعات سكانية غير مألوفة. ويستطيع الخصوم خداع المستشعرات عمدًا. والدقة المتوسطة عبر مجموعة اختبار لا تُجيب عمّا إذا كان النظام موثوقًا لفئة هدف وبيئة معيّنة.
المشهد السياسي الدولي
ناقشت الدول الأسلحة المستقلة الفتّاكة ضمن اتفاقية أسلحة تقليدية معيّنة لسنوات دون الاتفاق على أداة مُلزِمة. وأطلقت الولايات المتحدة إعلانًا سياسيًا غير مُلزِم بشأن الاستخدام العسكري المسؤول للذكاء الاصطناعي والاستقلالية في 2023، يُلزم المؤيِّدين بمبادئ تشمل إشراف كبار المسؤولين، والاختبار الصارم، والقدرة على فصل الأنظمة التي تتصرف بشكل غير متوقَّع (إعلان وزارة الخارجية الأمريكية).
ويمكن للإعلان أن يبني معايير وتعاونًا عمليًا، لكن التأييد ليس إنفاذًا. وتتراوح مقترحات المجتمع المدني والدول من حظر الأنظمة التي تستهدف أشخاصًا دون سيطرة بشرية ذات معنى إلى تنظيم وظائف معيّنة واشتراط التزامات إيجابية. ويستمر الخلاف حول التعريفات، والتحقق، والميزة العسكرية.
ولا يجب أن تنتظر التدابير المفيدة على المدى القريب معاهدة شاملة. فيمكن للدول تبادل معلومات الحوادث، وحظر قرارات الإطلاق النووي المستقلة، واشتراط مراجعات الأسلحة، ووضع معايير اختبار، وحماية السيطرة البشرية على استهداف الأشخاص، وإنشاء قنوات اتصال للحوادث المتعلقة بالذكاء الاصطناعي.
ما تتطلبه السيطرة البشرية ذات المعنى
ينبغي أن تكون العبارة تشغيلية. يحتاج الإنسان إلى هدف مفهوم وحدود مستهدَفة؛ ومعلومات موثوقة عن ثقة النظام وقيوده؛ ووقت كافٍ للتدخّل؛ وآلية إيقاف قابلة للاستخدام؛ وسلطة قانونية للرفض. وينبغي للواجهات مقاومة تحيّز الأتمتة بدلًا من تشجيع التأكيد السريع. وبعد الإجراء، يجب أن تدعم السجلات التحقيق وسُبل الانتصاف. وتفحص صفحة هذا الدليل المرافقة عن الروبوتات الأرضية والشبيهة بالبشر وقوانين الحرب كيف يُنفَّذ فعليًا شرط السيطرة البشرية هذا — أو لا يُنفَّذ — في الروبوتات الأرضية المسلَّحة المنشورة اليوم.
وتبدأ السيطرة أيضًا قبل الاشتباك. فالقادة السياسيون يقرِّرون الشراء والعقيدة؛ ويضع القادة المعايير؛ ويختار المهندسون البيانات والاختبارات. والتركيز فقط على ضغطة الزر النهائية يُغفل هذه الخيارات الحاسمة.
خلاصة معايَرة
الاستقلالية في الأسلحة واقع سياسي وميداني بالفعل، لكن الأدلة العامة حول اشتباكات معيّنة غالبًا ما تكون غير مكتملة. وينبغي ألا يُضخَّم تقرير Kargu-2 إلى قتل مستقل مُثبَت، وينبغي ألا يُوسَم الاستهداف المُشرَف عليه خطأً بأنه حرب مستقلة تمامًا.
يرتكز القلق الكارثي على مسارات معقولة: قرارات أسرع، وتنسيق جماعي، ومراجعة بشرية هشة، والتفاعل مع أنظمة إنذار استراتيجية. ولا يجعل أي منها التصعيد حتميًا. ويمكن للسلطة البشرية القوية، والتصميم القابل للتدقيق، والمساءلة القانونية، والمعايير المشتركة، والقيود الصريحة حول الوظائف النووية واستهداف الأشخاص أن تُقلِّل الخطر بينما تستمر الأدلة في التطوّر.