فنکشن سے شروع کریں، لیبل سے نہیں
ایک خودمختار ہتھیار کو عام طور پر ایک ایسے نظام کے طور پر سمجھا جاتا ہے جو، ایک بار فعال ہونے پر، ہر انفرادی حملے کی انسانی منظوری کے بغیر اہداف منتخب اور ان سے مصروف ہو سکتا ہے۔ تعریفات متنازع رہتی ہیں کیونکہ خودمختاری ایک واحد سوئچ نہیں ہے۔ انسان مشن کا علاقہ اور ہدف کی قسم منتخب کر سکتے ہیں جبکہ سافٹ ویئر نیویگیٹ کرتا ہے، کسی شے کی شناخت کرتا ہے، عمل کی سفارش کرتا ہے، یا فائر کرنے کا صحیح لمحہ طے کرتا ہے۔
اس طیف میں طویل عرصے سے موجود نظام جیسے دفاعی انٹرسیپٹرز کے ساتھ ساتھ نئی منڈلانے والی گولہ بارود، ڈرون جھنڈ، AI-معاون ہدف بندی کے آلات، اور مسلح زمینی روبوٹس شامل ہیں—وہ پہیوں والے، پٹری والے، اور ٹانگوں والے پلیٹ فارمز جن کا اس رہنما کے فوجی انسان نما اور زمینی روبوٹس صفحے میں جائزہ لیا گیا ہے۔ خطرہ ماحول، ہدف، وقت کے دباؤ، پیشین گوئی کی صلاحیت، مواصلات، اور غلطی کے نتائج پر منحصر ہے۔ آنے والی گولہ بارود کو روکنے والا ایک سختی سے محدود نظام ایک ایسے نظام سے مختلف ہے جو کسی شہر میں لوگوں کی تلاش کر رہا ہو۔
AI-معاون فیصلہ سازی کی مدد بھی جانچ پڑتال کی مستحق ہے یہاں تک کہ جب ایک انسان رسمی طور پر ٹریگر کھینچتا ہے۔ اگر ایک آپریٹر شدید وقت کے دباؤ کے تحت سینکڑوں مشین سے پیدا کردہ اہداف وصول کرتا ہے، تو منظوری ایک ربڑ سٹیمپ بن سکتی ہے۔ “چکر میں انسان” کہنا کچھ نہیں کہتا جب تک اس شخص کے پاس نظام کو چیلنج کرنے کے لیے معلومات، اتھارٹی، وقت، اور تربیت نہ ہو۔
کیا دستاویزی ہے—اور کیا متنازع رہتا ہے
2021 کی اقوامِ متحدہ کے ماہرین کے پینل کی لیبیا پر رپورٹ نے Kargu-2 منڈلانے والی گولہ بارود اور پیچھے ہٹتی افواج کے خلاف استعمال ہونے والے دیگر نظاموں کو بیان کیا، یہ نوٹ کرتے ہوئے کہ نظام آپریٹر اور گولہ بارود کے درمیان ڈیٹا کنیکٹیویٹی کی ضرورت کے بغیر اہداف پر حملہ کرنے کے لیے پروگرام کیے گئے تھے (UN لیبیا رپورٹ، پیراگراف 63)۔ اس اقتباس کو اکثر انسانوں پر پہلا خودمختار-ڈرون حملہ کہا جاتا ہے۔ تاہم، عوامی رپورٹ حتمی طور پر یہ قائم نہیں کرتی کہ ایک Kargu-2 نے آزادانہ طور پر ایک شخص کو منتخب کیا اور مارا۔ ماہرین آپریٹنگ موڈ اور نتیجے پر اختلاف رکھتے ہیں۔ یہ ایک متعلقہ سیاق و سباق میں تعیناتی کا ثبوت ہے، ایک تصدیق شدہ خودمختار قتل کا ثبوت نہیں۔
حالیہ تنازعات میں وسیع ڈرون استعمال، کمپیوٹر وژن، خودکار انٹیلی جنس پروسیسنگ، اور AI-حمایت یافتہ ہدف کی سفارشات نمایاں رہی ہیں۔ عوامی رپورٹنگ میں اکثر یہ طے کرنے کے لیے کافی تکنیکی رسائی کی کمی ہوتی ہے کہ کون سا ماڈل کون سا فنکشن انجام دیتا ہے یا آپریٹرز نے کتنا کنٹرول برقرار رکھا۔ فوجی دعووں، وینڈر کی تفصیلات، اور پریس کے بیانات کو ایک یقین میں ملانے کے بجائے لیبل کیا جانا چاہیے۔
ترقی کی سمت پھر بھی واضح ہے: مسلح افواج ایسے نظاموں میں سرمایہ کاری کر رہی ہیں جو مواصلات جام ہونے پر کام کر سکیں، سینسر ڈیٹا کو تیزی سے پروسیس کر سکیں، اور بہت سے سستے پلیٹ فارمز کو مربوط کر سکیں۔ زیادہ خودمختاری حکمتِ عملی کے لحاظ سے پرکشش ہو سکتی ہے کیونکہ ایک مسلسل ریموٹ-کنٹرول لنک کمزور ہوتا ہے۔ آیا یہ زیادہ محفوظ درستگی یا تیز تر، کم جوابدہ تشدد پیدا کرتا ہے یہ ڈیزائن اور نظریے پر منحصر ہے۔
تین مختلف اضافے کے راستے
رفتار کا اضافہ تب ہوتا ہے جب خودکار انتباہ، ہدف بندی، یا ردعمل فیصلے کے وقت کو سکیڑ دیتا ہے۔ ایک بحران میں، رہنما یہ خوف کر سکتے ہیں کہ انتظار کرنے سے حریف کے مشین-رفتار نظام کو فائدہ ملے گا۔ یہ اعمال کو پیشگی اجازت دینے کا دباؤ پیدا کر سکتا ہے۔ ایک جھوٹی سینسر ریڈنگ، ماڈل کی غلطی، یا مبہم چال لوگوں کے سمجھنے سے پہلے پھیل سکتی ہے۔
پیمانے کا اضافہ تب ہوتا ہے جب خودمختاری بہت سے نظاموں کو مربوط کرنا یا اہداف پیدا کرنا سستا بنا دیتی ہے۔ ایک انسانی تنظیم جو درجنوں فیصلوں کا احتیاط سے جائزہ لے سکتی تھی شاید ہزاروں کا معنی خیز جائزہ نہ لے سکے۔ زیادہ حجم حادثاتی مقابلوں، شہری نقصان، اور انتقامی کارروائی کے مطالبات کو بڑھا سکتا ہے یہاں تک کہ اگر ہر نظام انفرادی طور پر زیادہ درست ہو۔
تصور کا اضافہ تب ہوتا ہے جب ریاستیں کسی حریف کے نظام، نظریے، یا کنٹرول کی سطح کو غلط پڑھتی ہیں۔ رازداری یہ جاننا مشکل بناتی ہے کہ آیا کوئی ہتھیار دفاعی ہے، آیا کوئی عمل جان بوجھ کر تھا، یا آیا ایک انسان اسے روک سکتا ہے۔ ایک AI-پیدا کردہ سفارش ایک طرف کو معروضی اور دوسری طرف کو جارحانہ نظر آ سکتی ہے۔
یہ قابلِ فہم طریقہ کار ہیں، اس بات کا ثبوت نہیں کہ AI لازمی طور پر جنگ شروع کرے گا۔ خودکاری انتباہ کو بہتر بھی بنا سکتی ہے، آپریٹر کے اوورلوڈ کو کم کر سکتی ہے، خطرات کو روک سکتی ہے، اور غیر اضافے کی حمایت کر سکتی ہے۔ نتیجہ جانچ، مواصلات، نظریے، اور مشترکہ پابندیوں پر منحصر ہے۔
جوہری نظاموں کو ایک اونچا معیار درکار ہے
AI کو جوہری کمانڈ، کنٹرول، مواصلات، یا ابتدائی انتباہ سے جوڑنا غیر معمولی داؤ اٹھاتا ہے۔ مشین لرننگ بڑے سینسر سلسلوں کا تجزیہ کرنے میں مدد کر سکتی ہے، لیکن دھندلی غلطیاں، مخالفانہ ہیرا پھیری، اور تقسیم کی تبدیلی خطرناک ہیں جہاں جھوٹا اعتماد تباہ کن ہو سکتا ہے۔ خطرہ لازمی طور پر ایک AI کا آزادانہ طور پر “جوہری ہتھیار لانچ کرنا” نہیں ہے۔ اس میں رہنماؤں کا منٹوں میں سکڑا ہوا، ناقص کیلیبریٹڈ مشورہ وصول کرنا شامل ہے۔
جوہری-استعمال کے فیصلوں پر انسانی ذمہ داری برقرار رکھنا اس لیے علامت سے زیادہ ہے۔ نظاموں کو غیر یقینی صورتحال اور اصلیت فراہم کرنی چاہیے، آزادانہ چینلز محفوظ رکھنے چاہئیں، سپوفنگ کے خلاف مزاحمت کرنی چاہیے، اور رہنماؤں کو تصدیق کے لیے وقت دینا چاہیے۔ کسی ایک ماڈل کی پیداوار کو حتمی اشارہ نہیں بننا چاہیے۔ مشقوں میں صرف سازوسامان کی خرابی نہیں بلکہ AI کی ناکامی اور جان بوجھ کر ہیرا پھیری بھی شامل ہونی چاہیے۔
جوابدہی الگورتھم پر ختم نہیں ہو سکتی
بین الاقوامی انسانی حقوق کا قانون استعمال ہونے والی ٹیکنالوجی سے قطع نظر لاگو ہوتا ہے۔ تمیز، تناسب، اور حملے میں احتیاط انسانی اور ریاستی ذمہ داریاں رہتی ہیں۔ پھر بھی خودمختاری تحقیقات کو پیچیدہ بناتی ہے: ایک نقصان دہ نتیجے میں تربیتی ڈیٹا، سینسر کی حدود، ایک کمانڈر کے پیرامیٹرز، ایک سافٹ ویئر اپ ڈیٹ، یا آپریٹر کی بدسلوکی شامل ہو سکتی ہے۔
یہ پیچیدگی جوابدہی کے خلا کا بہانہ نہیں ہے۔ ریاستیں قابلِ سراغ لاگز، قانونی جائزہ، قابلِ آڈٹ ٹیسٹنگ، واضح کمانڈ ذمہ داری، اور ان ماحول پر حدود کا تقاضا کر سکتی ہیں جہاں ایک نظام کام کر سکتا ہے۔ ڈیولپرز اور کمانڈرز کو پیش بینی کے قابل ناکامی کے طریقے اور رکنے کی شرائط متعین کرنی چاہئیں۔ ایک نظام جو جائزے کے لیے بہت غیر متوقع ہے صرف اس لیے تعینات نہیں کیا جانا چاہیے کہ ذمہ داری تقسیم شدہ ہے۔
تعصب اور سیاق و سباق بھی اہم ہیں۔ صاف تصاویر پر جانچا گیا ایک وژن نظام موسم، ملبے، چھپاؤ، یا غیر مانوس آبادیوں میں ناکام ہو سکتا ہے۔ حریف جان بوجھ کر سینسرز کو دھوکہ دے سکتے ہیں۔ ایک ٹیسٹ سیٹ میں اوسط درستگی یہ جواب نہیں دیتی کہ آیا نظام کسی مخصوص ہدف کی قسم اور ماحول کے لیے قابلِ اعتماد ہے۔
بین الاقوامی پالیسی کا منظر نامہ
ریاستوں نے کئی سالوں سے مخصوص روایتی ہتھیاروں کے کنونشن کے اندر مہلک خودمختار ہتھیاروں پر بحث کی ہے بغیر کسی پابند آلے پر اتفاق کیے۔ امریکہ نے 2023 میں مصنوعی ذہانت اور خودمختاری کے ذمہ دار فوجی استعمال پر ایک غیر پابند سیاسی اعلامیہ شروع کیا، تائید کنندگان کو ان اصولوں کا پابند کیا جن میں سینئر نگرانی، سخت جانچ، اور غیر متوقع طور پر برتاؤ کرنے والے نظاموں کو الگ کرنے کی صلاحیت شامل ہے (امریکی محکمہ خارجہ کا اعلامیہ)۔
اعلامیہ معیارات اور عملی تعاون بنا سکتا ہے، لیکن توثیق نفاذ نہیں ہے۔ سول-سوسائٹی اور ریاستی تجاویز ان نظاموں کو ممنوع قرار دینے سے لے کر جو لوگوں کو معنی خیز انسانی کنٹرول کے بغیر نشانہ بناتے ہیں مخصوص فنکشنز کو ریگولیٹ کرنے اور مثبت ذمہ داریوں کا تقاضا کرنے تک ہیں۔ تعریفات، تصدیق، اور فوجی فائدے پر اختلاف برقرار ہے۔
مفید قریب مدتی اقدامات کو ایک جامع معاہدے کا انتظار کرنے کی ضرورت نہیں۔ ریاستیں واقعاتی معلومات کا تبادلہ کر سکتی ہیں، خودمختار جوہری-لانچ فیصلوں کو ممنوع قرار دے سکتی ہیں، ہتھیاروں کے جائزوں کا تقاضا کر سکتی ہیں، جانچ کے معیارات طے کر سکتی ہیں، شخص-ہدف بندی پر انسانی کنٹرول کی حفاظت کر سکتی ہیں، اور AI سے متعلقہ حادثات کے لیے مواصلاتی چینلز قائم کر سکتی ہیں۔
معنی خیز انسانی کنٹرول کو کیا درکار ہے
اس فقرے کو آپریشنل ہونا چاہیے۔ ایک انسان کو ایک قابلِ فہم مقصد اور ہدف کی حد؛ نظام کے اعتماد اور حدود کے بارے میں قابلِ اعتماد معلومات؛ مداخلت کے لیے کافی وقت؛ ایک قابلِ استعمال رکنے کا طریقہ کار؛ اور انکار کرنے کا قانونی اختیار درکار ہے۔ انٹرفیسز کو تیز تصدیق کی حوصلہ افزائی کرنے کے بجائے خودکاری کے تعصب کی مزاحمت کرنی چاہیے۔ عمل کے بعد، ریکارڈ کو تحقیقات اور تدارک کی حمایت کرنی چاہیے۔ اس رہنما کا ساتھی صفحہ زمینی روبوٹس، انسان نما، اور جنگ کے قوانین اس بات کا جائزہ لیتا ہے کہ یہ انسانی-کنٹرول کا تقاضا آج میدان میں موجود مسلح زمینی روبوٹس میں اصل میں کیسے نافذ کیا جا رہا ہے—یا نہیں۔
کنٹرول ایک مقابلے سے پہلے بھی شروع ہوتا ہے۔ سیاسی رہنما خریداری اور نظریہ طے کرتے ہیں؛ کمانڈرز پیرامیٹرز طے کرتے ہیں؛ انجینئرز ڈیٹا اور ٹیسٹ منتخب کرتے ہیں۔ صرف حتمی بٹن دبانے پر توجہ مرکوز کرنا ان نتیجہ خیز انتخاب کو نظرانداز کرتا ہے۔
ایک متوازن نتیجہ
ہتھیاروں میں خودمختاری پہلے ہی ایک پالیسی اور میدانِ جنگ کی حقیقت ہے، لیکن مخصوص مقابلوں کے بارے میں عوامی ثبوت اکثر نامکمل ہے۔ Kargu-2 رپورٹ کو ایک ثابت شدہ خودمختار قتل میں بڑھا چڑھا کر پیش نہیں کیا جانا چاہیے، اور نگرانی شدہ ہدف بندی کو مکمل طور پر آزادانہ جنگ کے طور پر غلط لیبل نہیں کیا جانا چاہیے۔
تباہ کن تشویش قابلِ اعتماد راستوں پر قائم ہے: تیز تر فیصلے، بڑے پیمانے کی ہم آہنگی، نازک انسانی جائزہ، اور اسٹریٹیجک انتباہی نظاموں کے ساتھ تعامل۔ کوئی بھی اضافے کو ناگزیر نہیں بناتا۔ مضبوط انسانی اتھارٹی، قابلِ آڈٹ ڈیزائن، قانونی جوابدہی، مشترکہ معیارات، اور جوہری اور شخص-ہدف بندی کے فنکشنز کے گرد واضح حدیں ثبوت کی مسلسل ترقی کے دوران خطرے کو کم کر سکتی ہیں۔