رسمی اختیار عملی کنٹرول ختم ہونے کے بعد بھی زندہ رہ سکتا ہے
ایک پارلیمنٹ منتخب رہ سکتی ہے جبکہ ایسے نظاموں پر انحصار کرتی ہو جن کا قانون ساز جائزہ نہیں لے سکتے۔ ایک وزیر قانونی طور پر ذمہ دار رہ سکتا ہے جبکہ ایسی سفارشات وصول کرتا ہو جنہیں کوئی سرکاری ملازم دوبارہ تیار نہیں کر سکتا۔ ایک شہری اپیل کا رسمی حق برقرار رکھ سکتا ہے جبکہ ایک خودکار فیصلے کا سامنا کر رہا ہو جس کا ڈیٹا، ماڈل، وینڈر معاہدہ، اور استدلال ناقابلِ رسائی ہوں۔ اس تصویر میں کسی بغاوت یا شعور رکھنے والے مشین حکمران کی ضرورت نہیں ہے۔ اختیار رسمی بن جاتا ہے کیونکہ مختلف انتخاب کرنے کی عملی صلاحیت ختم ہو چکی ہے۔
یہ AGI کا خطرہ بننے سے پہلے ایک طرزِ حکمرانی کا خطرہ ہے۔ حکومتیں پہلے ہی فوائد، ٹیکسیشن، پولیسنگ، ہجرت، تعلیم، صحت کی دیکھ بھال، اور عوامی انتظامیہ میں الگورتھم استعمال کرتی ہیں۔ زیادہ قابل نظام مستقل مزاجی کو بہتر بنا سکتے ہیں، خدمات کا ترجمہ کر سکتے ہیں، دھوکہ دہی تلاش کر سکتے ہیں، شواہد کا خلاصہ کر سکتے ہیں، اور چھوٹی ایجنسیوں کے لیے مہارت کو قابلِ رسائی بنا سکتے ہیں۔ وہ انحصار کو گہرا بھی کر سکتے ہیں اور عوامی فیصلوں کو چیلنج کرنا مشکل بھی بنا سکتے ہیں۔
موجودہ بین الاقوامی آلات ایک ابتدائی ذخیرہ الفاظ فراہم کرتے ہیں، لیکن ان کی قانونی قوت مختلف ہے۔ یورپی کونسل کا مصنوعی ذہانت پر فریم ورک کنونشن فریقین کے لیے ایک پابند معاہدے کے طور پر ڈیزائن کیا گیا ہے اور انسانی حقوق، جمہوریت، اور قانون کی حکمرانی پر مرکوز ہے۔ اس کے سرکاری حیثیت والے صفحے نے 11 ستمبر 2026 تک نفاذ میں آنے کی کوئی تاریخ درج نہیں کی تھی، اس لیے دستخط کو یہ بیان کرتے ہوئے بیان نہیں کیا جانا چاہیے کہ ریاست پہلے ہی قانونی طور پر پابند ہے (CETS نمبر 225 حیثیت)۔ مصنوعی ذہانت کی اخلاقیات پر یونیسکو کی سفارش ایک غیر پابند سفارش ہے جو نگرانی، شفافیت، جوابدہی، اور ماحولیاتی و سماجی اثرات کو حل کرتی ہے۔ کوئی بھی آلہ AGI کے بعد کی طرزِ حکمرانی کو حل نہیں کرتا۔ دونوں یہ ظاہر کرتے ہیں کہ صلاحیت اور کارکردگی داؤ پر لگے واحد عوامی اقدار نہیں ہیں۔
خودمختاری کا مطلب نتیجہ بدلنے کے قابل ہونا ہے
“انسانی نگرانی” کو اکثر عملے کے ایک خاکے کے طور پر برتا جاتا ہے: ماڈل کے بعد کہیں ایک شخص رکھ دیں اور فیصلہ انسانی ہو جاتا ہے۔ حقیقی نگرانی صلاحیتوں کا ایک مجموعہ ہے۔
جائزہ لینے والے کو کیس سمجھنے کے لیے کافی وقت اور معلومات درکار ہوتی ہیں۔ انہیں ماڈل کی حدود پہچاننے کی تربیت درکار ہوتی ہے۔ انہیں سفارش کو مسترد کرنے کا قانونی اور تنظیمی اختیار درکار ہوتا ہے۔ ایک مختلف انتخاب کو محض ایک خودکار اسکور سے ہٹنے کی وجہ سے سزا کا سبب نہیں بننا چاہیے۔ ادارے کو ایسے ریکارڈ برقرار رکھنے چاہئیں جو آڈٹ اور اپیل کی حمایت کریں۔
جب یہ شرائط غائب ہوں، تو ایک انسانی کلک محض ایک رسم ہے۔ زیادہ خودکاری جائزے کو مزید خراب بھی کر سکتی ہے: جیسے جیسے لوگ کم غیر معمولی کیسز دیکھتے ہیں اور کم آزادانہ فیصلے کی مشق کرتے ہیں، ان کی مہارت زوال پذیر ہوتی ہے۔ جب نظام آخرکار اپنی معمول کی تقسیم سے باہر ناکام ہوتا ہے، تو برائے نام نگران مداخلت کے لیے سب سے کم تیار ہو سکتا ہے۔
عملی امتحان مخالفِ حقیقت ہے: کیا ایک اہل شخص ایک مختلف فیصلے تک پہنچ سکتا ہے، اس کی وضاحت کر سکتا ہے، اور اس فیصلے کو برقرار رکھوا سکتا ہے؟
چار انحصار جو حکومت کو کھوکھلا کر سکتے ہیں
وینڈر انحصار
ایک سرکاری ایجنسی کے پاس ایک فراہم کنندہ کے بغیر کام کرنے کے لیے عملہ، کمپیوٹ، ڈیٹا کے حقوق، یا معاہدے کی شرائط کی کمی ہو سکتی ہے۔ تبدیلی خریداری کی دستاویزات میں ممکن نظر آتی ہے لیکن اس کے لیے نظاموں کو دوبارہ تربیت دینا، ڈیٹا منتقل کرنا، ورک فلوز دوبارہ لکھنا، اور ایک طویل سروس میں خلل قبول کرنا پڑے گا۔ اس سے ایک نجی فراہم کنندہ کو واضح سیاسی طاقت کے بغیر بھی اثر ملتا ہے۔
اس لیے معاہدوں کو نظام کے ناگزیر بننے سے پہلے پورٹیبلٹی، آڈٹ رسائی، واقعے کے انکشاف، ذیلی ٹھیکیداران، ڈیٹا برقراری، سیکیورٹی، سروس تسلسل، اور اخراج کی معاونت کو حل کرنا چاہیے۔ سب سے سستی ابتدائی بولی مہنگی ہو سکتی ہے اگر یہ مستقل انحصار خریدتی ہے۔
علمی انحصار
ایک ادارہ یہ جاننے کی صلاحیت کھو سکتا ہے کہ آیا ایک نتیجہ اچھا ہے۔ اگر AI زیادہ تر تجزیہ، مسودہ سازی، تخروپن، اور تصدیق انجام دیتا ہے، تو انسانی تنظیم حتمی دستخط کا اختیار محفوظ رکھتے ہوئے دنیا کے آزاد ماڈلز کھو سکتی ہے۔
بے کارگی ضروری ہے۔ ایجنسیوں کو اندرونی مہارت، اعلیٰ نتیجے والے سوالات کے لیے مسابقتی تجزیے، غیر یقینیت کے ریکارڈ، اور اختلاف رائے کے لیے محفوظ چینلز کی ضرورت ہے۔ کچھ افعال کو بنیادی نظام کے بغیر وقتاً فوقتاً انجام دیا جانا چاہیے، اس لیے نہیں کہ دستی کام ہمیشہ برتر ہے بلکہ اس لیے کہ ایک غیر آزمودہ متبادل کوئی متبادل نہیں ہے۔
بنیادی ڈھانچے کا انحصار
جدید خدمات بجلی، نیٹ ورکس، شناختی نظاموں، کلاؤڈ بنیادی ڈھانچے، اور بالادستی ماڈلز پر منحصر ہیں۔ ایک بندش یا تجارتی تنازعہ بیک وقت بہت سی عوامی خدمات میں پھیل سکتا ہے۔ کئی ایجنسیوں کو ایک ماڈل یا کلاؤڈ پر مرتکز کرنا الگ الگ معاہدوں کے پیچھے چھپی ہوئی باہم منسلک ناکامی پیدا کر سکتا ہے۔
انحصار کے نقشوں کو صرف ایک محکمے کے اندر نہیں بلکہ پوری حکومت میں مشترکہ فراہم کنندگان اور ناکامی کے واحد نکات کی نشاندہی کرنی چاہیے۔ بحالی کی مشقوں کو کم شدہ آپریشن، ڈیٹا کی بحالی، دستی ترجیح، اور عوامی مواصلات کی جانچ کرنی چاہیے۔
جواز کا انحصار
لوگ مشکل فیصلے جزوی طور پر اس لیے قبول کرتے ہیں کیونکہ وہ سمجھتے ہیں کہ کس کے پاس اختیار ہے، کون سے قواعد لاگو ہوتے ہیں، اور غلطیوں کو کیسے چیلنج کیا جائے۔ ایک اعداد و شمار کے لحاظ سے درست لیکن ناقابلِ فہم نظام پھر بھی جواز کو کمزور کر سکتا ہے اگر شہری اسے من مانا محسوس کریں۔
صرف وضاحت کافی نہیں ہے۔ ایک تیار کردہ وضاحت کسی نتیجے کی حقیقی بنیاد کو ظاہر کیے بغیر معقول لگ سکتی ہے۔ بامعنی مقابلہ کے لیے متعلقہ شواہد، قابلِ اطلاق قاعدہ، ذمہ دار ادارہ، اور دستیاب تدارک کی ضرورت ہوتی ہے۔ اسے ایک ایسے انسانی دفتر کی بھی ضرورت ہوتی ہے جو فیصلہ بدلنے کے قابل ہو نہ کہ محض یہ وضاحت کرے کہ نظام نے یہ کیوں پیدا کیا۔
جمہوریت کو عوامی تکنیکی صلاحیت کی ضرورت ہے
مقننہ، عدالتوں، ریگولیٹرز، آڈیٹرز، یونینوں، اور سول سوسائٹی کو تشخیص، سیکیورٹی، خریداری، ڈیٹا گورننس، اور ماڈل شواہد میں مہارت درکار ہے۔ پیشہ ورانہ عملہ، آزاد لیبارٹریاں، انسپکٹر جنرل، معیارات کے ادارے، اور مخالفانہ کارروائیاں یہ گہرائی فراہم کر سکتی ہیں۔
NIST AI رسک مینجمنٹ فریم ورک AI کے خطرات کی حکمرانی، نقشہ سازی، پیمائش، اور انتظام کے لیے ایک رضاکارانہ ڈھانچہ فراہم کرتا ہے۔ اس کی قدر طریقہ کار پر مبنی ہے: تنظیموں کو معیار کی درستگی کو مکمل خطرے کی تشخیص سمجھنے کے بجائے سیاق و سباق اور متاثرہ لوگوں کی شناخت کرنی چاہیے۔ AGI کے بعد کے ادارے کو ان عادات کے مضبوط، قابلِ نفاذ ورژنز کی ضرورت ہو گی، جو جمہوری اجازت کے ساتھ جوڑے گئے ہوں۔
انتخابات ضروری ہیں لیکن کافی نہیں
تبدیلی لانے والی AI جمہوریت کو ترغیب، مصنوعی میڈیا، نگرانی، پالیسی تجزیے، مہم کی کارروائیوں، اور معلوماتی بنیادی ڈھانچے کے کنٹرول کے ذریعے متاثر کر سکتی ہے۔ صرف جعلی تصاویر پر توجہ مرکوز کرنا وسیع تر مسئلے کو نظر انداز کرتا ہے: سیاسی توجہ کی ثالثی کرنے والے نظاموں کے مقاصد کون منتخب کرتا ہے، اور اثر کو بہتر بنانے کے لیے کون سا ڈیٹا استعمال کیا جاتا ہے؟
انکشاف مدد کر سکتا ہے، لیکن مواد کو “AI-تخلیق کردہ” کا لیبل لگانا یہ ثابت نہیں کرتا کہ یہ سچ ہے یا ہیرا پھیری پر مبنی۔ اصلیت ایک فائل کی تاریخ کے کچھ حصے دکھا سکتی ہے بغیر اس کے دعووں کو ثابت کیے۔ سیاسی لچک کو رازداری کے تحفظ، آزاد صحافت، مہم کی شفافیت، پلیٹ فارم کی جوابدہی، محفوظ انتخابی انتظامیہ، اور شہریوں کی اہم معلومات کی قابلِ اعتماد چینلز کے ذریعے تصدیق کرنے کی صلاحیت کی بھی ضرورت ہے۔
سرکاری استعمال خاص احتیاط کا مستحق ہے۔ طاقتور پیش گوئی اور ترغیب کے نظاموں والی ریاست عوامی مواصلات کو مددگار طریقے سے ذاتی بنا سکتی ہے — یا اختلاف رائے کی شناخت کو آسان اور رویے کو تشکیل دینا آسان بنا سکتی ہے۔ قانونی ممانعتیں، وارنٹ، کمی سازی، آڈٹ لاگز، اور آزاد نگرانی تجزیاتی صلاحیت بڑھنے کے ساتھ زیادہ اہم ہو جاتے ہیں، کم نہیں۔
طاقت کے متعدد ذرائع کو محفوظ رکھیں
کوئی بھی واحد کمپنی عوامی تجزیے، شناخت، مواصلات، اور انتظامی بنیادی ڈھانچے کا واحد ذریعہ نہیں ہونی چاہیے۔ کوئی بھی مرکزی حکومت جدید صلاحیت استعمال کرنے کے قابل واحد ادارہ نہیں ہونی چاہیے۔ کوئی بھی عالمگیر اسکورنگ نظام روزگار، کریڈٹ، فوائد، تقریر، اور نقل و حرکت تک رسائی کا تعین نہیں کرنا چاہیے۔
کثرتیت رگڑ پیدا کرتی ہے، اور رگڑ بعض اوقات حفاظتی ہوتی ہے۔ وفاقی نظام، مقامی حکومتیں، عدالتیں، آزاد ریگولیٹرز، جامعات، یونینیں، پیشہ ورانہ انجمنیں، کھلی تکنیکی برادریاں، اور سول سوسائٹی ایسی ناکامیوں کو بے نقاب کر سکتی ہیں جنہیں ایک مرکزی نظام دبا دے گا یا نظر انداز کر دے گا۔ مقابلہ کرنے والے ادارے لوگوں کو اپیل کرنے اور منظم ہونے کے لیے بھی کہیں نہ کہیں فراہم کرتے ہیں۔
کثرتیت غیر کنٹرول شدہ پھیلاؤ کی طرح نہیں ہے۔ اعلیٰ خطرے والی صلاحیتوں کو رسائی کی پابندیوں کی ضرورت ہو سکتی ہے جبکہ فیصلہ سازی ادارہ جاتی طور پر متنوع رہے۔ ڈیزائن کا مسئلہ نجی اجارہ داری اور مکمل ریاستی مرکزیت دونوں سے بچنا ہے۔
فیصلے جو سیاسی طور پر قابلِ مقابلہ رہنے چاہئیں
AI عوامی مقصد کی تعریف کیے بغیر عوامی فیصلوں کو مطلع کر سکتی ہے۔ آمدنی کیسے تقسیم کی جائے، کون سے خطرات قابلِ قبول ہیں، کس کے حقوق کو ترجیح دی جائے، طاقت استعمال کی جائے یا نہیں، بچوں کو کیا سیکھنا چاہیے، اور کتنی نگرانی جائز ہے جیسے سوالات غیر جانبدار ہدف افعال کے ساتھ اصلاحی مسائل نہیں ہیں۔ یہ اقدار اور لوگوں کے درمیان سیاسی انتخاب ہیں۔
نفاذ تفویض کرنا مقصد کو بھی نئی شکل دے سکتا ہے۔ پروسیسنگ کا وقت کم کرنے کے لیے بہتر بنایا گیا ایک فوائد کا نظام پیچیدہ درخواست دہندگان کو روک سکتا ہے۔ متوقع واقعات کے لیے بہتر بنایا گیا ایک پولیسنگ نظام تاریخی نفاذ میں نمونوں کو بڑھا سکتا ہے۔ ماپی گئی لاگت کے لیے بہتر بنایا گیا ایک صحت کا نظام ایسے نتائج کو کم قدر دے سکتا ہے جنہیں ریکارڈ کرنا مشکل ہے۔ جمہوری کنٹرول کے لیے اس بات کا جائزہ لینا ضروری ہے کہ ایک نظام حقیقت میں کس چیز کا انعام دیتا ہے، صرف اس کے بیان کردہ مقصد کی منظوری نہیں۔
معیاری تجویز: کم از کم خودمختاری کی ضمانت
اہم عوامی استعمال کے لیے، لوگوں کو یہ شناخت کرنے کے قابل ہونا چاہیے:
- کہ ایک AI نظام نے فیصلے کو مادی طور پر متاثر کیا؛
- قانونی طور پر ذمہ دار ادارہ اور عہدیدار؛
- حکمرانی کرنے والا قاعدہ اور استعمال شدہ شواہد؛
- اہم حدود، غیر یقینیت، اور ڈیٹا کی اصلیت؛
- نتیجہ بدلنے کی طاقت کے ساتھ ایک بروقت انسانی اپیل؛
- عدالت، ریگولیٹر، محتسب، یا منتخب ادارے تک ایک قابلِ رسائی راستہ؛
- ان لوگوں کے لیے ایک غیر ڈیجیٹل راستہ جو محفوظ طریقے سے نظام استعمال نہیں کر سکتے۔
یہ ضمانتیں غلطیوں یا سیاسی اختلاف کو ختم نہیں کریں گی۔ یہ انتظامیہ اور تسلط کے درمیان فرق کو محفوظ رکھتی ہیں: متاثرہ شخص دلائل اور تدارک کے ایک نظام میں شریک رہتا ہے، محض درجہ بندی کی جانے والی ایک چیز نہیں۔
AGI کے بعد کا آئینی سوال
سب سے گہرا مسئلہ یہ نہیں ہے کہ آیا ایک AI کو ایک رسمی سرکاری عہدہ ملتا ہے۔ یہ ہے کہ آیا انسان اور ان کے ادارے اہم نظاموں پر نظرثانی کرنے کی صلاحیت، آزادی، اور اثر و رسوخ برقرار رکھتے ہیں۔ اگر ایک ماڈل ہٹانے سے صحت کی دیکھ بھال، مالیات، مواصلات، اور حکومت بیک وقت رک جائیں، تو قانونی خودمختاری بہت کم عملی سکون فراہم کرتی ہے۔
تبدیلی لانے والی AI کے بعد جمہوری بقا اس لیے انحصار مکمل ہونے سے پہلے تعمیر کی گئی صلاحیت پر منحصر ہے: عوامی مہارت، باہم قابلِ عمل بنیادی ڈھانچہ، قابلِ نفاذ حقوق، متعدد ادارے، آزاد شواہد، بامعنی اپیلیں، اور جب خودکار سفارشات دستیاب نہ ہوں یا مسترد کر دی جائیں تو کام کرنے کے آزمودہ طریقے۔ یہ ٹیکنالوجی مخالف اقدامات نہیں ہیں۔ یہ وہ مشینری ہے جو ایک معاشرے کو اپنے مقاصد کا انتخاب کرنے کی صلاحیت سے دستبردار ہوئے بغیر طاقتور ٹیکنالوجی استعمال کرنے دیتی ہے۔