یہ صفحہ کیا ہے، اور کیا نہیں ہے
یہ صفحہ اعداد کے پیچھے موجود شواہد کے بارے میں ہے، خود اعداد کے بارے میں نہیں۔ آپ نے سرخیاں دیکھی ہیں: ایک سنجیدہ محقق کہتا ہے کہ AI-چلائی گئی انسانی ناپیدگی کا امکان تقریباً 20% ہے، دوسرا کہتا ہے یہ عملی طور پر صفر ہے، اور دونوں مہارت کا حوالہ دیتے ہیں۔ یہ صفحہ وضاحت کرتا ہے کہ وہ تخمینے کہاں سے آتے ہیں، وہ شدت کے دو درجوں میں کیوں پھیلتے ہیں، اور — سب سے زیادہ مفید طور پر — ایک محتاط قاری کو ایک ایسی مقدار کے ساتھ کیا کرنا چاہیے جسے کوئی ناپ نہیں سکتا۔
یہاں زیر بحث سروے کے نتائج اور ماڈلز مشاہدہ شدہ اشاعتیں ہیں۔ ان کے اختلاف کا کیا مطلب ہے اس کی تشریح تجزیہ ہے۔ اس ساتھی دلیل کے لیے کہ یہ اعداد ایک قسمی طور پر مختلف نتیجے کو بیان کرتے ہیں، دیکھیں ناپیدگی بمقابلہ بڑے پیمانے پر جانی نقصان کے واقعات؛ تخمینوں کا دستی کا وسیع تر سلوک خطرے کے تخمینے اور ماہرانہ اختلاف پر رہتا ہے۔
سروے حقیقت میں کیا کہتے ہیں
سب سے بڑا متعلقہ سروے ہزاروں مشین لرننگ محققین — بڑی AI کانفرنسوں کے مصنفین — سے جدید AI کے طویل مدتی اثر پر ان کے امکانات پوچھتا ہے۔ 2023 کی لہر نے مستقبل کی AI ترقیوں سے پیدا ہونے والی انسانی ناپیدگی یا اسی طرح مستقل اور شدید بااختیاریت کے خاتمے کے لیے تقریباً 5% کا ایک درمیانی تخمینہ پایا، اوسط تقریباً 16% اور ایک انٹرکوارٹائل رینج تقریباً 0% سے 19% تک پھیلی ہوئی (Grace et al.، 2024)۔ اس تقسیم کو پڑھیں، صرف درمیانی نہیں: درمیانی سے چار گنا زیادہ اوسط کا مطلب ہے ایک طویل دائیں دم، جس میں ماہرین کی ایک خاطر خواہ اقلیت 20% سے اوپر اور کچھ 50% کے قریب ہیں، جبکہ ایک اور خاطر خواہ اقلیت بنیادی طور پر صفر پر بیٹھی ہے۔
وہی مقالہ دستاویز کرتا ہے کہ عدد الفاظ کے ساتھ حرکت کرتا ہے۔ جب سوال نے انسانوں کی جدید AI کو کنٹرول کرنے میں نااہلی سے پیدا ہونے والی ناپیدگی کی وضاحت کی، درمیانی تعداد دگنی ہو کر تقریباً 10% ہو گئی۔ جب 2022 کی ایک لہر نے عمومی طور پر AI سے ناپیدگی کے بارے میں پوچھا، درمیانی تعداد 5% تھی؛ پہلے کے AI Impacts سروے کے دور فریمنگ کے لیے وہی حساسیت ظاہر کرتے ہیں (2022 AI میں پیش رفت پر ماہرانہ سروے)۔ ایک مقدار جو سوال کو دوبارہ الفاظ دینے پر دو کے ضرب سے بدل جاتی ہے وہ آپ کو جواب دہندگان کی غیر یقینیت کے بارے میں کچھ بتا رہی ہے — اور، صاف طور پر، ناپی جانے والے تصور کی ڈھیلاپن کے بارے میں۔ اس میں سے کوئی بھی سروے کو بیکار نہیں بناتا۔ یہ انہیں خام مواد بناتا ہے، فیصلے نہیں۔
ماڈل-پر مبنی تخمینے بمقابلہ اندرونی احساس کے فیصلے
تخمینوں کا دوسرا خاندان کسی کے وجدان سے نہیں پوچھتا؛ یہ ایک واضح دلیل بناتا ہے اور ہر قدم کو امکانات تفویض کرتا ہے۔ سب سے سخت مثال جوزف کارلسمتھ کا طاقت-تلاش کرنے والی AI ایک وجودی خطرہ ہے یا نہیں کا منظم تجزیہ ہے، جو دعوے کو چھ جزوی دعووں میں تقسیم کرتا ہے — نظام بہت زیادہ قابل بنیں گے، وہ طاقت تلاش کریں گے، انسان اسے درست کرنے میں ناکام رہیں گے، وغیرہ — اور ہر ایک پر ایک امکان کا دفاع کرتا ہے۔ اس کی حتمی لائن اس صدی میں AI-وجہ سے آفت کے لیے تقریباً 10% پر اترتی ہے، وسیع خطا کی حدود کے ساتھ جنہیں وہ دکھانے میں محتاط ہے (Carlsmith، 2022)۔ اسی روایت میں کام کرنے والے فلسفی انفرادی جزوی دعووں پر تنازعہ کرتے ہوئے مختلف اعداد تک پہنچتے ہیں: ٹوبی آرڈ، The Precipice (2020) میں، غیر ہم آہنگ AI سے اس صدی میں مجموعی وجودی خطرے کے لیے تقریباً چھ میں سے ایک کی دلیل دیتے ہیں، ہم آہنگی کے مسئلے کی ایک زیادہ مایوس کن پڑھت سے چلائی گئی۔
یہ ماڈلز ایک خوبی بانٹتے ہیں جس کی سروے میں کمی ہے: ہر قدم نظر آنے والا اور قابلِ تنازعہ ہے۔ وہ دو خرابیاں بانٹتے ہیں۔ ہر قدم بھی قابلِ تنازعہ ہے، یہی وجہ ہے کہ معقول قارئین انفرادی جزوی دعووں کا نشان الٹ دیتے ہیں؛ اور ہر قدم سے جڑے امکانات پھر بھی، آخر میں، فیصلے ہیں۔ ایک خاکے والا اندرونی احساس کا فیصلہ اب بھی ایک اندرونی احساس کا فیصلہ ہے۔ ایک 10% منظم ماڈل اور ایک 0.1% وجدان کے درمیان اختلاف ایک پیمائشی تنازعہ نہیں ہے۔ یہ اس بارے میں ایک تنازعہ ہے کہ کون سے حوالہ جاتی طبقے اور کون سے ناکامی کے انداز وزن کے مستحق ہیں۔
حوالہ جاتی طبقے مختلف سمتوں میں کیوں کھینچتے ہیں
ہر تخمینے کے نیچے ایک مماثلت بیٹھی ہے، اور مماثلتیں حقیقی طور پر متصادم ہیں:
- حیاتیاتی ناپیدگی۔ انواع مسلسل ناپید ہوتی ہیں؛ پس منظر کی شرح حالیہ دہائیوں میں فی سال تقریباً ایک سے پانچ انواع ہے۔ لیکن وہ چھوٹی آبادیوں اور تنگ دائروں والی انواع ہیں۔ سب سے قریبی انسانی مماثلت، ٹوبا سپر-پھٹنے کی رکاوٹ، متنازع ہے اور تہذیب سے مکمل طور پر پہلے کی ہے۔ یہ بنیادی شرح “ناپیدگی ایک معمول کا نتیجہ ہے” کی طرف کھینچتی ہے جبکہ آپ کو ایک عالمی تکنیکی انواع کے بارے میں تقریباً کچھ نہیں بتاتی۔
- جوہری قریبی-چوکوں۔ کیوبن میزائل بحران، 1983 کا اسٹینسلاو پیٹروف واقعہ، اور 1995 کی ناروے کی راکٹ خوف زدگی زیادہ سے زیادہ تناؤ کے تحت نظام دکھاتی ہیں جو قریبی-ناکامیاں پیدا کرتے ہیں اور پھر ناکام نہیں ہوتے۔ پرامید افراد قسمت-سے-بچائے گئے واقعات کی ایک طویل لڑی پڑھتے ہیں؛ مایوسی پھیلانے والے اسی لڑی کو اس ثبوت کے طور پر پڑھتے ہیں کہ قسمت ختم ہو جاتی ہے۔
- ٹیکنالوجی حادثات۔ ایئر لائنرز، ری ایکٹرز، اور خلائی جہاز قابلِ پیمائش شرحوں پر ناکام ہوتے ہیں اور پھر مشکل سے سیکھے گئے دوبارہ ڈیزائن کے ذریعے محفوظ تر ہوتے ہیں۔ پرامید افراد دوبارہ ڈیزائن کو آگے بڑھاتے ہیں؛ مایوسی پھیلانے والے نوٹ کرتے ہیں کہ ہوابازی کو صرف ایک بار کامیاب ہونے کی ضرورت نہیں تھی۔
ہر مماثلت ایماندار ہے۔ ہر ایک ایک پیشگی کو ضابطہ بند کرتی ہے، ایک حقیقت کو نہیں۔ تخمینے مختلف ہوتے ہیں کیونکہ پیشگی مختلف ہیں، اور پیشگی مختلف ہیں کیونکہ کوئی براہ راست شواہد نہیں ہیں — تجربے کا کوئی مکمل شدہ دور نہیں — ان میں سے کسی کو نظم و ضبط میں لانے کے لیے۔
اختلاف خود آپ کو کیا بتاتا ہے
یہاں وہ تجزیاتی نکتہ ہے جسے زیادہ تر کوریج چھوڑ دیتی ہے: تغیر ہی تلاش ہے۔ اگر ناپیدگی کے امکان کا تخمینہ لگانا آسان ہوتا، تو ہزاروں باخبر ماہرین صفر کے قریب سے سکے کے اڑنے کے قریب تک تخمینے پیدا نہ کرتے۔ پھیلاؤ علم کی حالت کے بارے میں شواہد ہے، اسی طرح جیسے بے تحاشا مختلف موسمی ماڈلز ثبوت ہیں کہ طوفان حقیقی طور پر ناقابلِ پیش گوئی ہے، یہ نہیں کہ اوسط پیش گوئی درست ہونی چاہیے۔ ماہرین کو ایک صاف ستھری درمیانی شخصیت میں اوسط کرنا — کہیں، 5% — درستگی کا احساس پیدا کرتا ہے جبکہ کوئی بھی معلومات وراثت میں نہیں لیتا۔ 2026 کی بین الاقوامی AI حفاظتی رپورٹ، اب تک کی سب سے جامع ترکیبی کوشش، کھلے عام کہتی ہے کہ شدید-خطرے کے شواہد پتلے، متنازع، اور مٹھی بھر لیبارٹریوں میں مرتکز ہیں (بین الاقوامی AI حفاظتی رپورٹ 2026)۔
ایک اور حقیقت جو تقسیم ضابطہ بند کرتی ہے: اختلاف بے ترتیب نہیں ہے۔ سروے میں، وہ محققین جو تیز تر صلاحیت کی پیش رفت کی توقع رکھتے ہیں زیادہ تباہ کن-خطرے کے امکانات تفویض کرتے ہیں، اور فرنٹیئر لیبارٹریوں کے محققین آزاد ماہرینِ تعلیم سے کم تفویض کرتے ہیں۔ اس میں سے کچھ اس بارے میں شواہد ہے کہ کون کیا دیکھتا ہے۔ اس میں سے کچھ ترغیب ہے۔ قارئین کو دونوں وضاحتیں تھامنی چاہئیں۔
ان اعداد کو حقیقت میں کیسے استعمال کیا جائے
عملی نتیجہ یہ نہیں ہے کہ اعداد بیکار ہیں؛ یہ ہے کہ انہیں صحیح آلے کے ساتھ استعمال کیا جانا چاہیے۔ متوقع-قدر کی حساب کتاب — ایک درست امکان کو ایک ادائیگی سے ضرب دینا اور نتائج کی درجہ بندی کرنا — یہاں ناکام ہو جاتی ہے، کیونکہ ان پٹ ایک دو-درجوں-وسیع فیصلہ ہے اور ان پٹ میں چھوٹی غلطیاں خاموشی سے نتیجے پر غالب آ جاتی ہیں۔ گہری غیر یقینیت کے تحت فیصلہ سازی مختلف طریقے سے کام کرتی ہے: آپ پوچھتے ہیں کہ کون سے اعمال پورے قابلِ فہم دائرے میں کرنے کے قابل رہتے ہیں، اور آپ بہترین کے بجائے مضبوط اعمال کو ترجیح دیتے ہیں۔
AI ناپیدگی کے خطرے پر لاگو کیا جائے، تو وہ منطق واضح کرنے والی ہے۔ روک تھام کا کام — صلاحیت کی تشخیصات، تعیناتی کے تحفظات، کمپیوٹ گورننس — 20% پر، 5% پر، اور 1% پر قیمتی نظر آتا ہے، کیونکہ کام کی لاگت معمولی ہے اور جس نتیجے کی یہ حفاظت کرتا ہے وہ عام پالیسی میں قیمت لگائی گئی کسی بھی چیز سے قسمی طور پر مختلف ہے۔ مسترد کرنا صرف صفر کے قریب قابلِ دفاع نظر آتا ہے۔ تو سروے، اپنی ڈھیلاپن کے باوجود، حقیقی کام کرتے ہیں: وہ آپ کو بتاتے ہیں کہ قریب-صفر ایک متنازع پوزیشن ہے، اتفاق رائے نہیں۔ بنیادی ٹائم لائن کی توقعات اختلاف کو کیسے چلاتی ہیں اس کے لیے، دیکھیں ٹائم لائن کی پیش گوئیاں۔ آگ خریدنے کے جواز کے لیے آپ کو آگ کے امکان کو جاننے کی ضرورت نہیں۔ آپ کو یہ جاننے کی ضرورت ہے کہ سنجیدہ لوگ، وہی شواہد دیکھتے ہوئے، دھواں سونگھتے رہتے ہیں۔