ایک فیصد ایک فیصلہ ہے، پیمائش نہیں
جب ایک محقق کہتا ہے کہ جدید AI کے انسانی معدومیت کا سبب بننے کا 10 فیصد امکان ہے، تو یہ عدد دہرائی گئی تاریخوں میں ماپی گئی ایک تعدد نہیں ہے۔ یہ ایک موضوعی امکان ہے جو صلاحیت، تعیناتی، اداروں، تصادم، اور بہت سے غیر یقینی اقدامات کے بارے میں عقائد کا خلاصہ کرتا ہے۔ ایک اور ماہر “وجودی خطرے” میں مستقل انسانی بااختیاریت کے خاتمے کو شامل کر سکتا ہے، جبکہ ایک سرخی صرف معدومیت رپورٹ کرتی ہے۔
ایسے تخمینے فیصلوں کو مطلع کر سکتے ہیں، خاص طور پر جب نتائج بہت بڑے ہوں، لیکن انہیں طے شدہ سائنسی مستقل کے طور پر پیش نہیں کیا جانا چاہیے۔ بولنے والا، تاریخ، صحیح سوال، وقت کا افق، نتیجے کی تعریف، ثبوت، اور غیر یقینی صورتحال سب اہم ہیں۔ ایک مشہور سائنسدان کا ذاتی تخمینہ ایک ذاتی تخمینہ ہی رہتا ہے۔
اعداد کا موازنہ کرنے سے پہلے نتیجے کی وضاحت کریں
کم از کم چار نتائج عام طور پر ملا دیے جاتے ہیں:
- شدید نقصان: بڑی ہلاکتیں، معاشی نقصان، یا حقوق کی خلاف ورزیاں؛
- عالمی تباہی: نقصان جو انسانیت کے بڑے حصے یا اموات کے ایک متعین حصے کو متاثر کرتا ہے؛
- انسانی معدومیت: کوئی زندہ بچ جانے والی انسانی آبادی نہیں؛
- وجودی تباہی: معدومیت یا انسانیت کی طویل مدتی صلاحیت کی ناقابلِ واپسی تباہی، بعض اوقات مستقل شدید بااختیاریت کے خاتمے کو بھی شامل کرتے ہوئے۔
پیش گوئیاں پوچھ سکتی ہیں کہ آیا AI نتیجے کا سبب بنتا ہے، ایک ضروری شراکت دار ہے، یا صرف زنجیر میں کہیں ظاہر ہوتا ہے۔ وہ دس سال، سال 2100، یا تمام مستقبل کے وقت کا احاطہ کر سکتی ہیں۔ دس سالوں پر ایک ایک-فیصد تخمینے کا ایک صدی پر پانچ-فیصد تخمینے کے ساتھ براہِ راست موازنہ نہیں کیا جا سکتا۔
ٹیکنالوجی کی تعریفات بھی مختلف ہوتی ہیں: موجودہ عمومی-مقصد AI، “اعلیٰ-سطح مشین ذہانت،” AGI، فوق البشر ذہانت، یا کوئی بھی مستقبل کا AI۔ ہمیشہ اصل الفاظ کو محفوظ رکھیں۔
بڑے محقق سروے نے کیا پایا
2023 کے AI میں پیش رفت پر ماہرانہ سروے نے سرکردہ AI مقامات کے مصنفین کو مدعو کیا اور 2,778 محققین سے جوابات حاصل کیے۔ اس کے شائع شدہ تجزیے نے ٹائم لائنز اور اثرات پر وسیع اختلاف پایا۔ زیادہ تر جواب دہندگان نے توقع کی کہ فوق البشر AI سے اچھے نتائج برے سے زیادہ امکان رکھتے ہیں، پھر بھی بہت سوں نے انتہائی برے نتائج کو غیر معمولی امکان تفویض کیا۔ مقالے نے یہ بھی پایا کہ جوابات سوال کی فریمنگ کے ساتھ بدلے (Grace et al.، “AI کے مستقبل پر ہزاروں AI مصنفین”)۔
یہ “AI ماہرین اتفاق کرتے ہیں کہ معدومیت ممکن ہے” کی حمایت نہیں کرتا۔ یہ ایک تنگ تر دعوے کی حمایت کرتا ہے: سروے شدہ محققین کا ایک خاطر خواہ حصہ انتہائی نتائج کو معنی خیز امکان تفویض کرنے کے لیے کافی قابلِ فہم سمجھتا تھا، امید پرستی اور وسیع تقسیم کے ساتھ۔ اس بات کی گہری نظر کے لیے کہ اس سروے اور دیگر میں معدومیت-مخصوص جوابات اتنے وسیع طور پر کیوں مختلف ہیں، دیکھیں ماہرانہ معدومیت کے تخمینے اتنے وسیع طور پر کیوں مختلف ہیں۔
سروے کی حدود میں عدم جواب، خطرے کے تجزیے میں مختلف مہارت، غیر مستحکم تعریفات، اور بدیہی تشویش کو کیلیبریٹڈ امکانات میں ترجمہ کرنے کی مشکل شامل ہیں۔ ایک سرکردہ AI کانفرنس میں شائع کرنا تکنیکی تجربہ قائم کرتا ہے، جغرافیائی سیاست یا صدی-پیمانے کی سماجی تبدیلی کے بارے میں پیش گوئی کی مہارت نہیں۔ اوسط جوابات جواب دہندگان کے درمیان قطبیت اور تعلقات کو بھی چھپاتے ہیں۔
پیش گوئی کے ٹورنامنٹ ایک اور اختلاف ظاہر کرتے ہیں
Existential Risk Persuasion Tournament نے 80 موضوعی-معاملے کے ماہرین اور مختصر مدتی پیش گوئی کے ریکارڈ رکھنے والے 89 سپر فورکاسٹرز کو اکٹھا کیا۔ شرکاء نے مشترکہ تعریفات کے تحت AI، جوہری، حیاتیاتی، اور دیگر خطرات کا تخمینہ لگایا، دلائل کا تبادلہ کیا، اور اپ ڈیٹ کیا (Forecasting Research Institute XPT)۔
نتیجے میں آنے والے ساتھی-جائزہ شدہ تجزیے نے ڈومین ماہرین اور سپر فورکاسٹرز کے درمیان بڑے فرق پائے، خاص طور پر AI کے لیے (Karger et al.، International Journal of Forecasting)۔ یہ جھوٹے اتفاق رائے کے خلاف قیمتی ثبوت ہے۔ یہ نہ تو نچلے اور نہ ہی اونچے گروہ کو درست ثابت کرتا ہے۔
سپر فورکاسٹرز نے بہت سے حل کیے جانے کے قابل، مختصر تر-افق کے سوالات پر کیلیبریشن کا مظاہرہ کیا ہے۔ صدی-پیمانے کے معدومیت کے سوالات کو شرکاء کے کیریئرز کے اندر اسکور نہیں کیا جا سکتا، اور ایک فیصد سے کم نایاب امکانات کی تصدیق خاص طور پر مشکل ہے۔ ڈومین ماہرین طریقہ کار کو بہتر سمجھ سکتے ہیں لیکن تشویش کی وجہ سے ایک شعبے میں منتخب ہو سکتے ہیں اور پیش گوئی کی کیلیبریشن کی کمی ہو سکتی ہے۔ گروہ مختلف طاقتیں اور تعصبات لاتے ہیں۔
ماہرین کیوں اختلاف کرتے ہیں
صلاحیت کے مفروضے: کیا موجودہ طریقے مضبوط خودمختاری، سائنسی دریافت، اور اسٹریٹیجک منصوبہ بندی پیدا کریں گے، یا اعتماديت اور جسمانیت مشکل رہیں گے؟
ٹائم لائن کے مفروضے: خطرہ مختلف طریقے سے جمع ہوتا ہے اگر انقلابی صلاحیت پانچ سال میں آئے بمقابلہ پچاس سال میں۔ سست پیش رفت کے تحت اداروں کے پاس ڈھلنے کے لیے زیادہ وقت ہے، لیکن زیادہ کردار رسائی حاصل کر سکتے ہیں۔
ہم آہنگی کے مفروضے: محققین اس بات پر اختلاف رکھتے ہیں کہ آیا جدید نظام مستقل اہداف تیار کریں گے، آیا موجودہ تربیت انہیں کنٹرول کرے گی، اور کتنا قابلِ مشاہدہ پیش رو ثبوت پیش گوئیوں کو بدلنا چاہیے۔
طاقت اور تعیناتی کے مفروضے: آلات یا اتھارٹی کے بغیر ایک قابل ماڈل پیسے، کوڈ، لیبارٹریوں، یا بنیادی ڈھانچے کو کنٹرول کرنے والے ایک وسیع پیمانے پر تعینات ایجنٹ سے مختلف ہے۔
گورننس کے مفروضے: مقابلہ، فوجی تصادم، مرتکز ملکیت، ریگولیشن، اور بین الاقوامی ہم آہنگی تکنیکی غیر یقینی صورتحال پر غالب آ سکتے ہیں۔
اخلاقی تعریفات: انسانی کنٹرول کا مستقل نقصان ایک پیش گو کے لیے وجودی نقصان شمار ہو سکتا ہے اور دوسرے کے لیے نہیں۔
ایک سرخی کا عدد اس پورے ماڈل کو سکیڑ دیتا ہے۔ اچھی رپورٹنگ اسے دوبارہ وسیع کرتی ہے۔
کیلیبریشن مشکل ہے لیکن اختیاری نہیں
ایک کیلیبریٹڈ پیش گو جو بہت سے واقعات کو 20 فیصد تفویض کرتا ہے اسے تقریباً پانچویں حصے وقت درست ہونا چاہیے۔ کیلیبریشن صرف موازنہ کے قابل، حل شدہ سوالات کے ایک سیٹ میں ماپی جا سکتی ہے۔ ہم آج 2100 تک معدومیت کی ایک پیش گوئی کو براہِ راست کیلیبریٹ نہیں کر سکتے۔
پیش گو پھر بھی راستے کو قریب تر، قابلِ مشاہدہ سوالات میں توڑ کر نظم و ضبط بہتر بنا سکتے ہیں: ماڈل کی خودمختاری، تحقیقی خودکاری، تحفظاتی ناکامیاں، تعیناتی کا پیمانہ، واقعاتی شرح، اور گورننس کا اپنانا۔ وہ پیش گوئیاں جلد حل ہو سکتی ہیں اور ظاہر کر سکتی ہیں کہ کون سے مفروضے غلط تھے۔
بنیادی شرحیں احتیاط سے استعمال کریں۔ انسانیت کے پاس AGI منتقلیوں کا کوئی تاریخی نمونہ نہیں ہے۔ جوہری ہتھیاروں، وبائی امراض، سائبر سیکیورٹی، صنعتی حادثات، یا سافٹ ویئر اپنانے سے مشابہت جزوی ثبوت پیش کرتی ہے، براہِ راست حوالہ زمرہ نہیں۔ میکانی ماڈلز بھی منحصر اقدامات میں قیاسی امکانات کو مرکب کرنے کا خطرہ رکھتے ہیں۔
سائنسی ترکیب ایک امکان تفویض نہیں کرتی
2026 کی بین الاقوامی AI حفاظتی رپورٹ، جو ایک بین الاقوامی ماہرانہ عمل کے ذریعے لکھی گئی، دستاویزی بدنیت استعمال اور اعتماديت کی ناکامیوں کو قیاسی کنٹرول-کے-نقصان کے منظرناموں سے الگ کرتی ہے۔ یہ بیان کرتی ہے کہ موجودہ نظاموں میں کنٹرول کے نقصان کے لیے درکار صلاحیتوں کی کمی ہے، کہ متعلقہ صلاحیتیں بہتر ہو رہی ہیں، اور کہ ماہرین امکان اور شدت کے بارے میں کافی حد تک اختلاف رکھتے ہیں (بین الاقوامی AI حفاظتی رپورٹ 2026)۔
یہ کوئی “اتفاق رائے کا امکان” نہیں ہے۔ یہ ایک اتفاق رائے ہے کہ ثبوت میں سنگین خطرات اور بڑی غیر یقینی صورتحال شامل ہے۔ سائنسی تشخیص تباہی کے ایک واحد امکان کو جاننے کا بہانہ کیے بغیر طریقہ کار، مشاہدات، خلا، اور تحفظات کی شناخت کر سکتی ہے۔
عوامی تخمینہ کیسے پیش کریں
ایک ذمہ دار اندراج ایسا نظر آنا چاہیے:
[تاریخ] میں، [فرد یا گروہ] نے [ٹیکنالوجی کی تعریف] کے تحت، [اصل وجوہات] کی بنیاد پر [وقت] تک [صحیح نتیجے] کو [امکان یا حد] تفویض کیا۔ یہ [ذاتی فیصلہ، سروے کا مجموعہ، یا منظم پیش گوئی] ہے، مشاہدہ شدہ تعدد نہیں۔
جب ممکن ہو تقسیم شامل کریں۔ سروے کے لیے جواب کی شرح اور نمونے کا انتخاب رپورٹ کریں۔ اوسط کو میڈین سے اور مشروط کو غیر مشروط امکان سے الگ کریں۔ نظرِ ثانی کو محفوظ رکھیں تاکہ پیش گوئیوں کا خاموشی سے دوبارہ لکھے جانے کے بجائے جائزہ لیا جا سکے۔
غیر مطابقت پذیر سوالات کا اوسط نہ لیں۔ ایک سروے کے “مستقل بااختیاریت کے خاتمے” کے تخمینے کو ایک ٹورنامنٹ کے “1,000 سے کم آبادی” کے تخمینے کے ساتھ یکجا کرنا ایک ایسا عدد پیدا کرتا ہے جس کا کوئی مربوط معنی نہیں۔
اختلاف کے تحت فیصلہ سازی
پالیسی کو یقین کی ضرورت نہیں۔ کم-امکان، زیادہ-نتیجہ کے خطرات تحقیق، نگرانی، لچک، اور واپسی پذیر تحفظات کا جواز پیش کر سکتے ہیں جب ان اقدامات کے منظرناموں میں فوائد ہوں۔ مداخلت کی لاگت اور ضمنی اثرات بھی اہم ہیں۔ ایک احتیاط جو اجارہ داری کو مستحکم کرتی ہے، جائز سائنس کو دباتی ہے، یا جغرافیائی سیاسی عدم استحکام بڑھاتی ہے دیگر خطرات بڑھا سکتی ہے۔
مضبوط اقدامات میں آزادانہ تشخیصات، واقعے کی رپورٹنگ، ماڈل سیکیورٹی، ہنگامی ردعمل، حیاتیاتی دفاع، سائبر سیکیورٹی، جوہری استعمال پر انسانی کنٹرول، اور واضح جوابدہی شامل ہیں۔ وہ وسیع امکانی حد میں مفید رہتے ہیں۔
مختلف خطرے کی برداشت جائز سیاسی سوالات ہیں۔ ماہرین ثبوت کو مطلع کر سکتے ہیں لیکن اکیلے یہ فیصلہ نہیں کر سکتے کہ معاشرہ جدت، آزادی، تقسیم، سیکیورٹی، اور غیر یقینی مستقبل کے نقصان کا تبادلہ کیسے کرتا ہے۔
ایک قبیلے کا دفاع کرنے کے بجائے اپ ڈیٹ کرنا
پیش گوئیوں کو بدلنا چاہیے جب ثبوت بدلے۔ متعلقہ اپ ڈیٹس میں مستقل طویل-کام کی خودمختاری، تصدیق شدہ AI-پیدا کردہ تحقیقی پیش رفت، حقیقی دنیا کی تحفظاتی ناکامیاں، کامیاب نگرانی، بڑے قوانین، یا مستقل صلاحیت کے سطح مرتفع شامل ہیں۔ ایک پیش گو کو یہ بیان کرنا چاہیے کہ کیا تخمینے کو اوپر یا نیچے لے جائے گا۔
فکری تنوع تشخیص کو بہتر بناتا ہے۔ تکنیکی شکوک، حفاظتی محققین، سماجی سائنسدان، پیش گو، ڈومین ماہرین، متاثرہ برادریاں، اور پالیسی ساز شامل کریں۔ اختلاف کو مفروضوں کے ذریعے نقشہ بند کیا جانا چاہیے، “امید پرستوں” اور “قیامت پرستوں” میں کم نہیں کیا جانا چاہیے۔
عملی نتیجہ
ماہرانہ تخمینے دکھاتے ہیں کہ تباہ کن AI خطرے کو بہت سے اہل لوگ سنجیدگی سے لیتے ہیں اور دوسرے اس پر شک کرتے ہیں۔ وہ ایک ماپا گیا امکان یا متفقہ سائنسی نظریہ قائم نہیں کرتے۔ سروے عقائد ظاہر کرتے ہیں؛ ٹورنامنٹ پیش گوئی کا نظم و ضبط مسلط کرتے ہیں؛ نظریہ راستوں کی وضاحت کرتا ہے؛ تشخیصات اجزاء کی جانچ کرتی ہیں؛ تعیناتی حقیقی دنیا کا ثبوت فراہم کرتی ہے۔
سب سے ایماندار عوامی موقف منظم غیر یقینی صورتحال ہے: نتیجے کی وضاحت کریں، حد دکھائیں، مفروضوں کو ظاہر کریں، جہاں ممکن ہو کیلیبریشن کا سراغ لگائیں، اور ایسے تحفظات منتخب کریں جو کئی قابلِ فہم مستقبلوں کے تحت قیمتی رہیں۔