خطرے کو AGI کی ضرورت نہیں
جدید AI حیاتیاتی خطرہ بڑھا سکتا ہے ایک بدنیت کردار کو ادب تلاش کرنے، اختیارات کا موازنہ کرنے، لیبارٹری کے کام کو حل کرنے، یا خصوصی حیاتیاتی آلات چلانے میں مدد دے کر۔ ایک ماڈل کو اہم ہونے کے لیے شعور، فوق البشر ذہانت، یا مکمل خودمختاری کی ضرورت نہیں ہوگی۔ اسے صرف پہلے سے خطرناک ورک فلو میں ایک یا زیادہ رکاوٹوں کو کم کرنے کی ضرورت ہوگی۔
یہ طریقہ کار قابلِ فہم اور اہم ہے، لیکن اس کی موجودہ شدت غیر یقینی ہے۔ 2026 کی بین الاقوامی AI حفاظتی رپورٹ نتیجہ اخذ کرتی ہے کہ متعلقہ صلاحیتیں بہتر ہوئی ہیں اور کچھ نئے مطالعات پراکسی کاموں پر معنی خیز مدد پاتے ہیں، جبکہ پہلے کے مطالعات نے چھوٹے یا شماریاتی طور پر غیر اہم اثرات پائے۔ یہ جاری مادی رکاوٹوں اور بڑے تشخیصی خلا پر بھی زور دیتی ہے (بین الاقوامی AI حفاظتی رپورٹ 2026)۔ درست موقف اس لیے نہ تو “AI پہلے ہی ایک وبا پیدا کر سکتا ہے” ہے اور نہ ہی “ماڈلز محض بے ضرر انٹرنیٹ حقائق دہراتے ہیں”۔
محققین اضافے سے کیا مراد لیتے ہیں
ایک اضافے کا مطالعہ AI کی مدد کے ساتھ کارکردگی کا صرف انٹرنیٹ تک رسائی جیسی بنیاد کے خلاف موازنہ کرتا ہے۔ نتیجہ اس پر منحصر ہے کہ کون شریک ہوتا ہے، وہ کون سا کام کرتے ہیں، کون سا ماڈل اور تحفظات استعمال کیے جاتے ہیں، کارکردگی کیسے اسکور کی جاتی ہے، اور آیا کام ایک کاغذی منصوبہ، ایک پراکسی حصول کی مشق، یا حقیقی لیبارٹری کا کام ہے۔
معلومات ایک حیاتیاتی حملے کی زنجیر کا صرف ایک حصہ ہیں۔ ایک کردار کو ایک ایجنٹ منتخب کرنے، مواد حاصل کرنے، خاموش لیبارٹری مہارت حاصل کرنے، معیار کنٹرول انجام دینے، پیداوار کو پیمانہ دینے، خود کو نقصان اور پتہ لگانے سے بچنے، اور تقسیم حاصل کرنے کی ضرورت ہو سکتی ہے۔ AI ایک مرحلے میں خاطر خواہ مدد کر سکتا ہے جبکہ پورا آپریشن کردار کی پہنچ سے باہر رہتا ہے۔ اس کے برعکس، صحیح رکاوٹ پر معمولی مدد ایک غیر متعلقہ ٹیسٹ پر بڑے اسکور کی بہتری سے زیادہ اہم ہو سکتی ہے۔
محفوظ مطالعات آپریشنل ہدایات پیدا کرنے سے گریز کرتے ہیں اور ماہرانہ جائزہ، کنٹرول شدہ ترتیبات، اور پراکسی کاموں کا استعمال کرتے ہیں۔ تب بھی، بیرونی درستگی مشکل ہے۔ شرکاء حقیقی خطرے کے کرداروں سے مشابہت نہیں رکھ سکتے۔ مختصر مطالعات مہینوں کی مشکل حل کرنے کو نہیں پکڑ سکتے۔ تیز ماڈل کی تبدیلی ایک محتاط نتیجے کو اشاعت کے فوراً بعد پرانا بنا سکتی ہے۔
ابتدائی صفر نتائج کے بعد ثبوت بدل گیا
2024 کے ایک RAND ریڈ-ٹیم مطالعے نے زبان-ماڈل تک رسائی والی ٹیموں اور صرف انٹرنیٹ استعمال کرنے والی ٹیموں کے بنائے گئے حیاتیاتی حملے کے منصوبوں کی ماہرانہ درجہ بندیوں میں کوئی شماریاتی طور پر اہم فرق نہیں پایا۔ RAND نے نتیجہ اخذ کیا کہ حملے کی منصوبہ بندی جانچے گئے ماڈلز کی مددگار آلات کے طور پر صلاحیت کی حد سے باہر تھی، جبکہ خبردار کیا کہ اس نے یہ نہیں ماپا کہ یہ کتنی دور باہر تھی (RAND رپورٹ)۔ یہ ان ماڈلز، شرکاء، اور منصوبہ بندی کے کام کے بارے میں معنی خیز ثبوت تھا—تمام مستقبل کے نظاموں کے بارے میں ایک مستقل نتیجہ نہیں۔
بعد کا ثبوت زیادہ تشویشناک لیکن پھر بھی نامکمل ہے۔ 2026 کی بین الاقوامی AI حفاظتی رپورٹ ایک نئے حقیقی-دنیا کے اضافے کے مطالعے کو بیان کرتی ہے جس میں غیر محفوظ عمومی-مقصد AI نے انٹرنیٹ رسائی کے مقابلے میں حیاتیاتی-ہتھیار-حصول پراکسی کاموں پر خاطر خواہ مدد فراہم کی۔ یہ سائنسی کام اور لیبارٹری آلات کی حمایت کرنے والے ماڈلز کے مطالعات کو بھی نوٹ کرتی ہے۔ یہ نتائج تصویر کو اپ ڈیٹ کرتے ہیں: یہ کہنا اب درست نہیں کہ موجودہ نظاموں نے عملی رکاوٹوں کو معنی خیز طور پر کم نہیں کیا۔ یہ مقدار طے کرنا مشکل رہتا ہے کہ مجموعی خطرہ کتنا بڑھا ہے یا کون سی مادی رکاوٹیں برقرار رہتی ہیں۔
ڈیولپر کی تشخیصات ثبوت شامل کرتی ہیں لیکن ان کے مفادات کا تصادم ہے اور اکثر حساس تفصیلات روکتی ہیں۔ انہیں کمپنی کی خود-رپورٹس کے طور پر لیبل کیا جانا چاہیے اور حکومتی اور آزادانہ کام کے ساتھ تشریح کیا جانا چاہیے۔
Anthropic کی ASL-3 فعال سازی کا کیا مطلب ہے
Anthropic نے 2025 میں Claude Opus 4 خاندان کے لیے ASL-3 تحفظات کا اعلان کیا کیونکہ یہ کچھ کیمیائی، حیاتیاتی، تابکاری، یا جوہری ورک فلوز میں معنی خیز اضافے کو مسترد نہیں کر سکتا تھا۔ کمپنی نے واضح طور پر فعال سازی کو احتیاطی قرار دیا اور کہا کہ اس نے حتمی طور پر یہ قائم نہیں کیا کہ ماڈل نے متعلقہ صلاحیت کی حد عبور کی (Anthropic ASL-3 اعلان)۔
کئی تصورات کو ایک ساتھ نہ ملانا اہم ہے۔ ایک AI حفاظتی سطح سیکیورٹی اور تعیناتی کے تحفظات کا ایک پیکج ہے۔ ایک صلاحیت کی حد ثبوت ہے جو مضبوط تحفظات کو متحرک کر سکتا ہے۔ Anthropic کی پالیسی نے غیر-نئی کیمیائی/حیاتیاتی پیداوار، نئی ہتھیاروں کی ترقی، اور زیادہ نفیس پروگراموں کی طرف اضافے میں بھی فرق کیا ہے۔ “ASL-3” ایک عالمگیر سائنسی درجہ بندی نہیں ہے اور اس کا مطلب یہ نہیں کہ ماڈل خودمختار طور پر ہر قسم کا CBRN ہتھیار بنا سکتا ہے۔
Anthropic کی پالیسی بدلتی رہی ہے؛ اس کا عوامی آرکائیو اگست 2026 تک ورژن 3.4 درج کرتا ہے (Anthropic RSP)۔ قارئین کو ایک پرانے فریم ورک سے زبان درآمد کرنے کے بجائے کسی ماڈل کے فیصلے سے منسلک ورژن اور تاریخ استعمال کرنی چاہیے۔
تحفظات کو کئی تہوں کی ضرورت ہے
ماڈل اور تعیناتی کے کنٹرول میں خطرناک مدد سے انکار کے لیے نظاموں کی تربیت، مدخل-مخرج کلاسیفائرز، مشتبہ کثیر-قدمی نمونوں کی نگرانی، شرح کی حدیں، اکاؤنٹ کی تصدیق، اور جانچے گئے محققین کے لیے کنٹرول شدہ رسائی شامل ہیں۔ یہ اقدامات معمولی غلط استعمال کو کم کر سکتے ہیں لیکن جیل بریکس، کام کی تقسیم، کم-محفوظ ماڈلز تک رسائی، یا کھلے ویٹس سے تحفظات کو ہٹانے کے ذریعے ان سے بچا جا سکتا ہے۔
تشخیص-دروازہ شدہ ریلیز ٹیسٹ کے نتائج کو فیصلوں سے جوڑتا ہے۔ ڈیولپرز تربیت کے دوران جانچ سکتے ہیں، بیرونی تشخیصات کا حکم دے سکتے ہیں، آلاتی رسائی کو محدود کر سکتے ہیں، اور جب ثبوت ایک متعین حد سے تجاوز کرے تو ریلیز میں تاخیر کر سکتے ہیں۔ رپورٹس کو باقی ماندہ غیر یقینی صورتحال بیان کرنی چاہیے، صرف یہ نہیں کہ آیا کوئی حد رسمی طور پر عبور ہوئی۔
نیوکلیک-ایسڈ ترکیب کی اسکریننگ ڈیجیٹل معلومات سے جسمانی مواد تک کے پل کو حل کرتی ہے۔ فراہم کنندگان مناسب رازداری، اپیل، اور بین الاقوامی ہم آہنگی کے ساتھ صارفین اور ترتیب کے آرڈرز کو خطرے کے معیار کے خلاف اسکرین کر سکتے ہیں۔ اسکریننگ خود کافی نہیں: آلات، پیتھوجنز، لیبارٹریاں، اور سپلائی چینز عالمی سطح پر مختلف ہوتی ہیں۔
عوامی-صحت کی لچک نقصان کو کم کرتی ہے قطع نظر اس کے کہ کوئی وباء قدرتی، حادثاتی، یا جان بوجھ کر ہے۔ نگرانی، تیز تشخیص، اندرونی-ہوا کی بہتری، حفاظتی سازوسامان، ویکسین پلیٹ فارمز، طبی ذخائر، اور قابلِ اعتماد مواصلات وسیع دفاع ہیں۔ سیکیورٹی پالیسیاں جو صرف ماڈل کے انکار پر توجہ دیتی ہیں اس بڑے نظام کو چھوڑ دیتی ہیں۔ اس لچک کے گھریلو-سطح کے ورژن کے لیے — سانس لینے کے آلات، ہوا کی فلٹریشن، اور تنہائی کی منصوبہ بندی — دیکھیں ذاتی بائیو سیکیورٹی کی بنیادی باتیں۔
لیبارٹری گورننس اور بائیو سیفٹی مرکزی رہتی ہیں۔ تربیت، ادارہ جاتی جائزہ، رسائی کنٹرول، واقعے کی رپورٹنگ، اور حفاظتی ثقافت بدنیت اور حادثاتی دونوں راستوں کو حل کرتے ہیں۔ AI پتہ لگانے، منشیات کی دریافت، اور حیاتیاتی تحقیق کی حمایت کرکے دفاع کو بھی مضبوط کر سکتا ہے؛ کنٹرول کو جہاں ممکن ہو جائز کام کو محفوظ رکھنا چاہیے۔
سنسنی خیزی کے بغیر استدلال کیسے کریں
چار بیانات کو الگ کریں۔ پہلا، موجودہ ماڈلز خاطر خواہ حیاتیاتی معلومات فراہم کر سکتے ہیں؛ یہ مشاہدہ شدہ ہے۔ دوسرا، کچھ تشخیصات منتخب پراکسی کاموں پر عملی اضافے کی نشاندہی کرتی ہیں؛ یہ حدود کے ساتھ ابھرتا ہوا ثبوت ہے۔ تیسرا، ایک بدنیت کردار ایک تباہ کن وباء پیدا کرنے کے لیے مستقبل کے AI کو آلات اور مواد کے ساتھ یکجا کر سکتا ہے؛ یہ ایک قابلِ فہم خطرے کا راستہ ہے۔ چوتھا، ایک AI-پیدا کردہ وباء قریب ہے؛ دستیاب ثبوت اس پیش گوئی کو قائم نہیں کرتا۔
یہ فرق عوامی اعتماد کے لیے اہم ہے۔ مبالغہ آرائی مایوسی کی حوصلہ افزائی کر سکتی ہے یا صلاحیتوں کی تشہیر کر سکتی ہے، جبکہ مسترد کرنا دفاع میں تاخیر کر سکتا ہے۔ رپورٹس کو جانچے گئے نظام، تحفظات، بنیاد، شرکاء، اختتامی نقطہ، غیر یقینی صورتحال، اور فنڈنگ بیان کرنی چاہیے۔ آپریشنل تفصیلات جو نقصان کو ممکن بنائیں شائع نہیں کی جانی چاہئیں۔
عملی نتیجہ
AI-معاون حیاتیاتی خطرہ سب سے ٹھوس شدید-نقصان کے خدشات میں سے ایک ہے کیونکہ مفید سائنسی مدد اور خطرناک مدد اوورلیپ کرتی ہیں۔ ثبوت ابتدائی “کوئی اہم اضافہ نہیں” نتیجے سے آگے بڑھ چکا ہے، لیکن یہ یہ نہیں دکھاتا کہ ماڈلز نے ایک بڑے پیمانے کے حملے کے لیے مطالبہ کرنے والی جسمانی اور تنظیمی رکاوٹوں کو مٹا دیا ہے۔
عقلی ردعمل تہہ دار اور موافقت پذیر ہے: آزادانہ اضافے کے مطالعات جاری رکھیں، ماڈل کی صلاحیتوں کو قابلِ نفاذ تحفظات سے جوڑیں، حیاتیاتی سپلائی چینز کو محفوظ بنائیں، اور عوامی صحت کو مضبوط کریں۔ یہ اقدامات وسیع پیمانے پر AI ٹائم لائنز میں قیمتی رہتے ہیں—اور یہ اس تاثر سے بچتے ہیں کہ ایک کمپنی کی حفاظتی سطح حیاتیاتی خطرے کی حالت پر ایک فیصلہ ہے۔