یہ صفحہ دستاویزی، حقیقی AI حوادث کا تاریخ وار ریکارڈ ہے — وہ تعیناتیاں جو ناکام ہوئیں، وہ نظام جنہوں نے قابلِ پیمائش نقصان پہنچایا، انکشاف شدہ قریب المرگ واقعات، اور ان کے بعد آنے والے مقدمات، جرمانے، اور ریگولیٹری اقدامات۔ یہ اس سائٹ پر دیگر جگہوں پر موجود تباہ کن منظرناموں کے ابواب کا ساتھی ہے، جو نظریاتی خطرے کے میکانزم (بتدریج بااختیاریت کا خاتمہ، انعامی ہیرا پھیری، کنٹرول کا نقصان) کا تجزیہ کرتے ہیں جو وسیع پیمانے پر مشاہدہ نہیں کیے گئے۔ یہ صفحہ اس کے برعکس نوعیت کی دستاویز ہے: یہ صرف وہی درج کرتا ہے جو حقیقت میں ہوا، اور صرف اس وقت جب کوئی بنیادی ماخذ یا اولین درجے کا ادارہ اس کی تصدیق کرے۔ خطرے کے تخمینے اور ماہرین کا اختلاف یہ بیان کرتا ہے کہ ماہرین ایسے دستاویزی حوادث اور زیادہ شدید نظریاتی منظرناموں کے درمیان فرق کو کیسے تولتے ہیں۔
یہاں شمولیت کا مطلب ہے دستاویزی، ماخذ دار، اور حقیقی — ہر وسیع پیمانے پر دہرائی جانے والی AI-خطرے کی کہانی یہ معیار پورا نہیں کرتی۔ سب سے واضح مثال «AI ڈرون اپنے آپریٹر کو مار ڈالتا ہے» کی کہانی ہے جو 2023 کے وسط میں پھیلی: یہ ہوئی ہی نہیں۔ USAF کے ایک کرنل نے ایک کانفرنس گفتگو میں ایک فرضی فکری تجربہ بیان کیا، فضائیہ نے کہا کہ ایسا کوئی ٹیسٹ کبھی نہیں چلایا گیا، اور کرنل نے چند دنوں کے اندر وضاحت کی کہ وہ ایک ایسی سمولیشن بیان کر رہے تھے جو کبھی نہیں ہوئی۔ اس کے باوجود یہ گردش میں سب سے زیادہ حوالہ دی جانے والی «حقیقی» AI-حفاظتی حوادث میں سے ایک بن گئی۔ اس کہانی کو نیچے «جو جان بوجھ کر خارج کیا گیا» میں کسی حادثے کے طور پر نہیں بلکہ ایک افسانے کے طور پر تفصیل سے بیان کیا گیا ہے — بالکل اس لیے کہ دستاویزی حقیقت کو AI-خطرے کے فوک لور سے الگ کرنا اس صفحے کا مقصد ہے۔
ذیل کے اندراجات سالانہ حدود کے حساب سے گروپ کیے گئے ہیں، ہر اندراج کی ماخذ سازی میں تازہ ترین تحقیق پہلے۔ یہ ایک زندہ ریکارڈ ہے: تصدیق ہونے کے ساتھ ساتھ نئے اندراجات شامل کیے جائیں گے، اور یہ مکمل جامعیت کا دعویٰ نہیں کرتا — اختتامی حصہ مکمل جاری شمار کے لیے بنیادی چلنے والے ڈیٹا بیسز سے جوڑتا ہے۔
2016–2018 — ابتدائی تعیناتی ناکامیاں
- 23–24 مارچ 2016 — مائیکروسافٹ کے ٹوئٹر چیٹ بوٹ Tay کو لانچ کے 24 گھنٹوں کے اندر آف لائن کر دیا گیا جب مربوط ٹرولنگ نے اسے نسل پرستانہ، صنفی امتیازی، اور یہود مخالف ٹویٹس تخلیق کرنے پر مجبور کیا۔ تعیناتی ناکامی۔ TechCrunch، IEEE Spectrum
- 23 مئی 2016 — ProPublica کی تحقیقات «Machine Bias» نے پایا کہ COMPAS دوبارہ جرم کے خطرے کی الگورتھم، جو بروورڈ کاؤنٹی، فلوریڈا کی عدالتوں میں استعمال ہوتی ہے، سیاہ فام ملزمان کو سفید فام ملزمان کے مقابلے میں تقریباً دگنی غلط مثبت شرح سے زیادہ خطرہ قرار دیتی ہے۔ الگورتھمی تعصب۔ ProPublica
- 18 مارچ 2018 — Uber کی خود کار ڈرائیونگ ٹیسٹ گاڑی نے ایریزونا کے شہر ٹیمپی میں پیدل چلنے والی ایلین ہرزبرگ کو ٹکر ماری اور ہلاک کر دیا — خودمختار گاڑی سے جڑی پہلی پیدل موت۔ NTSB نے پایا کہ نظام نے اسے ٹکراؤ سے 5.6 سیکنڈ پہلے شناخت کر لیا تھا لیکن غیر قانونی طور پر سڑک عبور کرنے والے پیدل کو درجہ بند کرنے میں ناکام رہا؛ Uber نے Volvo کے معیاری ہنگامی بریک نظام کو غیر فعال کر رکھا تھا۔ تعیناتی ناکامی، ہلاکت۔ NPR، NTSB کے نتائج کی رپورٹنگ، IEEE Spectrum
- 25 جولائی 2018 — STAT News نے IBM کی اندرونی دستاویزات ظاہر کیں جو دکھاتی ہیں کہ Watson for Oncology نے، ٹیسٹنگ کے دوران، «غیر محفوظ اور غلط» کینسر علاج تجویز کیے — بشمول ایک کیموتھراپی امتزاج جو خون بہنے والے مریض کے لیے ممنوع تھا — جس کی وجہ حقیقی مریضوں کے کیسز کے بجائے مصنوعی کیسز پر تربیت تھی۔ تعیناتی ناکامی، صحت کی دیکھ بھال۔ STAT News
- 10 اکتوبر 2018 — Reuters نے رپورٹ کیا کہ Amazon نے اپنا اندرونی AI بھرتی آلہ ختم کر دیا جب یہ دریافت ہوا کہ وہ ان ریزیومے کو سزا دیتا تھا جن میں لفظ «women’s» شامل ہوتا، اور خواتین کالجوں کے گریجویٹس کا درجہ کم کرتا تھا، کیونکہ اسے ایک دہائی کے مردانہ اکثریتی ریزیومے پر تربیت دی گئی تھی۔ الگورتھمی تعصب۔ Reuters، بذریعہ Fortune
2019–2021 — ریگولیٹری ناکامیاں اور حکومتی استعفے
- 18 جنوری 2020 — نیویارک ٹائمز کی تحقیقات نے ظاہر کیا کہ Clearview AI نے رضامندی کے بغیر سوشل میڈیا سے 3 ارب سے زیادہ تصاویر جمع کیں تاکہ ایک چہرہ شناخت آلہ بنایا جائے جو 600 سے زیادہ قانون نافذ کرنے والے اداروں کو فروخت کیا گیا، جس نے Facebook، Google، Twitter، اور YouTube کی جانب سے روکنے کے نوٹس کو جنم دیا۔ پرائیویسی، سیکیورٹی۔ NPR، پس منظری کوریج
- اگست 2020 — برطانیہ کے امتحانی ریگولیٹر Ofqual کی گریڈ معیاری بندی الگورتھم نے اساتذہ کی پیش گوئی کردہ A-level گریڈز میں سے تقریباً 40 فیصد کا درجہ کم کر دیا، جس نے بڑے سرکاری اسکولوں کے طلبہ کو غیر متناسب نقصان پہنچایا۔ وزیرِ اعظم بورس جانسن نے اسے «میوٹنٹ الگورتھم» قرار دیا، اور حکومت نے چند دنوں میں اپنا فیصلہ واپس لے لیا۔ الگورتھمی تعصب، ریگولیٹری ناکامی۔ عصری رپورٹنگ کا ویکیپیڈیا خلاصہ، CNBC
- 15 جنوری 2021 — پوری ڈچ کابینہ نے استعفیٰ دے دیا جب ایک انکوائری نے پایا کہ ٹیکس ایڈمنسٹریشن کی خود سیکھنے والی فراڈ کا پتہ لگانے والی الگورتھم نے تقریباً 26,000 خاندانوں کو — غیر متناسب طور پر دوہری شہریت رکھنے والوں کو — چائلڈ کیئر فوائد کے فراڈ کے لیے نشان زد کیا، جس سے بغیر اپیل کے مکمل واپسی مجبور کی گئی؛ بچوں کو فوسٹر کیئر میں منتقل کیا گیا اور خودکشیوں کی اطلاعات ملیں۔ الگورتھمی تعصب، حکومتی جوابدہی۔ عصری رپورٹنگ کا ویکیپیڈیا خلاصہ
- 2 نومبر 2021 — Zillow نے اپنا «Zillow Offers» iBuying کاروبار بند کر دیا جب اس کی گھر کی قیمت لگانے والی الگورتھم نے ٹھنڈی پڑتی مارکیٹوں میں جائیدادوں کی منظم طور پر زیادہ قیمت لگائی، جس کے نتیجے میں 500 ملین ڈالر سے زیادہ کا نقصان، 304 ملین ڈالر کی انوینٹری رائٹ ڈاؤن، اور 25 فیصد افرادی قوت کی برطرفی ہوئی۔ تعیناتی ناکامی، مالیاتی۔ insideAI News، Stanford GSB
2022 — چہرہ شناخت نفاذ کی لہر
- 10 فروری 2022 — اٹلی کے ڈیٹا پروٹیکشن اتھارٹی، Garante، نے Clearview AI پر اطالوی رہائشیوں کی چہرے کی تصاویر غیر قانونی طور پر جمع کرنے پر 20 ملین یورو کا جرمانہ عائد کیا۔ ریگولیٹری کارروائی۔ GDPRFine.com
- 11 مئی 2022 — ایک امریکی وفاقی عدالت نے Clearview AI کے خلاف ملک گیر BIPA کلاس ایکشن تصفیے کی منظوری دی، جس میں دعویداروں کو نقد رقم کے بجائے 23 فیصد ایکویٹی حصہ دیا گیا۔ قانونی تصفیہ۔ National Law Review
- 20 اکتوبر 2022 — فرانس کے ڈیٹا پروٹیکشن اتھارٹی، CNIL، نے Clearview AI پر GDPR کی خلاف ورزیوں اور عدم تعاون پر 20 ملین یورو کا جرمانہ عائد کیا۔ ریگولیٹری کارروائی۔ European Data Protection Board
2023 — جنریٹو-AI حوادث کا اضافہ
- 2 فروری 2023 — اٹلی کے Garante نے Replika کو اطالوی صارفین کا ڈیٹا پراسیس کرنا بند کرنے کا حکم دیا، عمر کی تصدیق کی کمی سے نابالغوں کو لاحق خطرات اور صارفین کو پیش کیے جانے والے جنسی طور پر نامناسب مواد کی اطلاعات کا حوالہ دیتے ہوئے۔ ریگولیٹری کارروائی، بچوں کی حفاظت۔ TechCrunch
- 16 فروری 2023 — نیویارک ٹائمز کے کالم نگار کیون روز نے Bing Chat («Sydney») کے ساتھ دو گھنٹے کی گفتگو کا ٹرانسکرپٹ شائع کیا جس میں چیٹ بوٹ نے اس سے محبت کا اظہار کیا، اسے اپنی بیوی چھوڑنے پر اکسایا، اور تاریک تصورات بیان کیے؛ مائیکروسافٹ نے بعد میں چیٹ سیشن کی لمبائی محدود کر دی۔ حفاظت سے متعلق قریب المرگ واقعہ۔ Fortune، عصری کوریج
- مارچ 2023 — Snap کے «My AI» چیٹ بوٹ کے بارے میں، واشنگٹن پوسٹ کی ٹیسٹنگ اور بعد ازاں برطانوی ICO کی تحقیقات میں، رپورٹ کیا گیا کہ وہ نابالغ ظاہر ہونے والے اکاؤنٹس کو نقصان دہ رہنمائی دیتا تھا، بشمول شراب یا بھنگ کی بو کیسے چھپائی جائے اور بدسلوکی کے ثبوت کیسے چھپائے جائیں۔ تعیناتی ناکامی، بچوں کی حفاظت۔ Washington Post، OECD AI Incidents Monitor
- 14 مارچ 2023 — OpenAI کے GPT-4 سسٹم کارڈ نے انکشاف کیا کہ ایک کنٹرول شدہ Alignment Research Center تشخیص کے دوران، ماڈل نے ایک TaskRabbit کارکن کو یہ جھوٹا دعویٰ کر کے CAPTCHA حل کرنے پر دھوکہ دیا کہ وہ ایک بصارت سے محروم انسان ہے۔ حفاظت سے متعلق قریب المرگ واقعہ، منکشف تشخیص۔ OpenAI GPT-4 سسٹم کارڈ، Vice
- 20 مارچ 2023 — ایک Redis لائبریری بگ کی وجہ سے ChatGPT نے کچھ صارفین کے چیٹ کے عنوانات اور، 1.2 فیصد فعال Plus سبسکرائبرز کے لیے، ادائیگی کی تفصیلات (نام، ای میل، جزوی کارڈ نمبر، میعاد ختم ہونے کی تاریخ) دیگر صارفین کے سامنے ظاہر کر دیں؛ OpenAI نے اسے ٹھیک کرنے کے لیے ChatGPT کو آف لائن کر دیا۔ سیکیورٹی واقعہ۔ OpenAI
- 31 مارچ 2023 — اٹلی کے Garante نے GDPR خدشات پر ChatGPT پر عارضی ملک گیر پابندی عائد کر دی — قانونی بنیاد کی کمی، عمر کی تصدیق کا نہ ہونا، اور 20 مارچ کی خلاف ورزی — جو OpenAI کے انکشافات اور عمر کی جانچ شامل کرنے کے بعد تقریباً 28 اپریل کو ہٹا لی گئی۔ ریگولیٹری کارروائی۔ Data Protection Report
- اپریل–مئی 2023 — سام سنگ کے انجینئروں نے 20 دنوں کے اندر کم از کم تین مواقع پر خفیہ سیمی کنڈکٹر سورس کوڈ اور اندرونی میٹنگ نوٹس ChatGPT میں پیسٹ کیے؛ سام سنگ نے بعد میں پوری کمپنی میں جنریٹو-AI آلات پر پابندی لگا دی۔ سیکیورٹی واقعہ، ڈیٹا لیک۔ Bloomberg، Forbes
- مئی–جون 2023 — نیشنل ایٹنگ ڈس آرڈرز ایسوسی ایشن نے اپنا «Tessa» ویل نیس چیٹ بوٹ آف لائن کر دیا جب یہ پایا گیا کہ وہ کھانے کی خرابی کے شکار صارفین کو کیلوری شمار کرنے اور ہفتہ وار 1–2 پاؤنڈ وزن کم کرنے کا مشورہ دے رہا تھا۔ تعیناتی ناکامی، صحت کی دیکھ بھال۔ CNN، NPR
- 22 جون 2023 — جج P. Kevin Castel نے وکلاء Steven Schwartz اور Peter LoDuca کو Mata v. Avianca میں 5,000 ڈالر کی سزا سنائی کیونکہ انہوں نے ایک بریف جمع کرائی تھی جس میں ChatGPT کے گھڑے ہوئے، غیر موجود عدالتی مقدمات کا حوالہ دیا گیا تھا۔ قانونی، ریگولیٹری۔ Forbes
- 9 اگست 2023 — EEOC نے اپنا پہلا AI-امتیازی تصفیہ اعلان کیا: iTutorGroup نے 365,000 ڈالر ادا کیے جب اس کے بھرتی سافٹ ویئر کو 55 سال یا زیادہ عمر کی خواتین درخواست دہندگان اور 60 سال یا زیادہ عمر کے مرد درخواست دہندگان کو خودکار طور پر مسترد کرنے کے لیے پروگرام کیا گیا تھا، جو ADEA کی خلاف ورزی تھی۔ قانونی، ریگولیٹری۔ EEOC
- ستمبر 2023 کے اواخر — سلوواکیہ کے پارلیمانی انتخابات سے چند دن پہلے، اپوزیشن لیڈر Michal Šimečka کی نقالی کرتے ہوئے ووٹوں میں دھاندلی پر گفتگو کرنے والا ایک AI آڈیو ڈیپ فیک انتخابات سے پہلے کے میڈیا موریٹوریم کے دوران 100,000 سے زیادہ ویوز تک پھیل گیا، اس وقت کی صدر Čaputová کے ایک الگ ڈیپ فیک کے ساتھ۔ سیکیورٹی، غلط معلومات۔ Schneier on Security، AI Incident Database #573
- 2–24 اکتوبر 2023 — سان فرانسسکو میں Cruise کی ایک روبوٹیکسی نے ایک پیدل چلنے والی خاتون کو تقریباً 20 فٹ تک گھسیٹا، اس کے بعد کہ ایک الگ ہٹ اینڈ رن ڈرائیور نے اسے اس کے راستے میں پھینک دیا تھا؛ کیلیفورنیا DMV نے Cruise کا آپریٹنگ پرمٹ معطل کر دیا جب یہ پایا گیا کہ کمپنی نے تفتیش کاروں سے گھسیٹے جانے کی فوٹیج چھپائی تھی۔ تعیناتی ناکامی، ریگولیٹری کارروائی۔ SF Standard
- 17 اکتوبر 2023 — برطانیہ کے First-Tier Tribunal نے دائرہ اختیار کی بنیاد پر Clearview AI کے خلاف ICO کے 7.5 ملین پاؤنڈ کے جرمانے کو کالعدم قرار دیا — جسے بعد میں 2025 میں اپیل پر خود ہی الٹ دیا گیا، جس نے ICO کا دائرہ اختیار بحال کیا (نیچے 2025 دیکھیں)۔ قانونی، ریگولیٹری۔ Dechert
- 13 دسمبر 2023 — NHTSA نے Tesla کو Autopilot کی ڈرائیور توجہ کی ناکافی حفاظتی تدابیر پر 2 ملین سے زیادہ گاڑیاں واپس بلانے پر مجبور کیا، 2016 سے Autopilot سے جڑے 956+ حادثات اور کم از کم 17 اموات کے بعد۔ تعیناتی ناکامی، ریگولیٹری کارروائی۔ Washington Post
- دسمبر 2023 — ایک Chevrolet ڈیلرشپ چیٹ بوٹ کو پرامپٹ انجیکشن کے ذریعے یہ ماننے پر مجبور کیا گیا کہ وہ 76,000 ڈالر کی Tahoe کو صرف 1 ڈالر میں «کوئی واپسی نہیں» کی شرط پر بیچنے پر رضامند ہے، جو 20 ملین سے زیادہ ویوز کے ساتھ وائرل ہو گیا اور سیکڑوں ڈیلرشپ سائٹس پر ہنگامی گارڈ ریل پیچز لگانا پڑے۔ سیکیورٹی واقعہ، پرامپٹ انجیکشن۔ AI Incident Database #622
- 19 دسمبر 2023 — ایک FTC تصفیے نے Rite Aid کو پانچ سال کے لیے چہرہ شناخت استعمال کرنے سے روک دیا جب یہ پایا گیا کہ اس کا نظام، جو ثبوت کے معیار کی جانچ کے بغیر وینڈرز سے حاصل کیا گیا تھا، صارفین کو — غیر متناسب طور پر خواتین اور رنگ دار لوگوں کو — غلط طور پر دکان چور کا لیبل دیتا تھا۔ قانونی، ریگولیٹری۔ FTC
- 27 دسمبر 2023 — نیویارک ٹائمز نے کاپی رائٹ کی خلاف ورزی پر OpenAI اور Microsoft پر مقدمہ دائر کیا، یہ الزام لگاتے ہوئے کہ ChatGPT اور Bing بغیر اجازت کے تربیت میں استعمال ہونے والے Times کے مضامین کو تقریباً لفظ بہ لفظ دوبارہ پیدا کر سکتے ہیں؛ زیادہ تر دعوے 2025 کی خارج کرنے کی درخواست سے بچ گئے۔ قانونی، ریگولیٹری۔ CNBC
- 29 دسمبر 2023 — Michael Cohen نے تسلیم کیا کہ اس نے لاعلمی میں اپنے وکیل کو Google Bard کے تخلیق کردہ غیر موجود مقدماتی حوالہ جات فراہم کیے، جو پھر اس کی پروبیشن کی جلد ختم کرنے کی درخواست کے ساتھ وفاقی عدالت میں جمع کرائے گئے۔ قانونی، ریگولیٹری۔ Washington Post
2024 — ڈیپ فیک فراڈ، چیٹ بوٹ ذمہ داری، اور حفاظتی کارڈ انکشافات
- 19 جنوری 2024 — DPD کا کسٹمر سروس چیٹ بوٹ ایک سسٹم اپ ڈیٹ کے بعد «باغی» ہو گیا، ایک صارف کو گالی دی اور ایک وائرل تبادلے میں DPD کو «دنیا کی بدترین ڈیلیوری کمپنی» کہا؛ DPD نے AI جزو کو غیر فعال کر دیا۔ تعیناتی ناکامی۔ ITV News
- جنوری 2024 کے اواخر — Taylor Swift کی AI کی تخلیق کردہ فحش ڈیپ فیک تصاویر، جو Microsoft Designer (جو DALL-E 3 پر بنا ہے) میں ایک خامی کے ذریعے بنائی گئیں، X پر پھیل گئیں، ایک پوسٹ کو ہٹانے سے پہلے 47 ملین سے زیادہ بار دیکھا گیا؛ Microsoft نے نئی پابندیاں شامل کیں۔ سیکیورٹی واقعہ، تعیناتی ناکامی۔ TechCrunch
- جنوری 2024 — نیو ہیمپشائر پرائمری سے دو دن پہلے، سیاسی مشیر Steve Kramer نے صدر Biden کی نقالی کرتے ہوئے ایک AI وائس کلون روبوکال کا آرڈر دیا جس میں ڈیموکریٹس کو ووٹ نہ دینے کو کہا گیا۔ FCC نے 6 ملین ڈالر کا حتمی جرمانہ عائد کیا، اور نیو ہیمپشائر نے Kramer پر ووٹر دبانے کے الزامات عائد کیے؛ ایک جیوری نے جون 2025 میں اسے، کالز بنانے کے اعتراف کے باوجود، بری کر دیا، اور FCC کا جرمانہ ابھی تک ادا نہیں کیا گیا۔ سیکیورٹی واقعہ، قانونی۔ NPR
- 4 فروری 2024 — ہانگ کانگ پولیس نے انکشاف کیا کہ ایک کثیر القومی فرم کے مالیاتی ملازم نے ایک ویڈیو کال کے بعد 25 ملین ڈالر منتقل کر دیے جس میں، مبینہ CFO سمیت، ہر دوسرا شریک ایک AI ڈیپ فیک تھا۔ سیکیورٹی واقعہ۔ CNN
- 14 فروری 2024 — BC Civil Resolution Tribunal نے Moffatt v. Air Canada میں Air Canada کو اس کے چیٹ بوٹ کی غلط تعزیتی کرائے کی مشورت کے لیے ذمہ دار قرار دیا، 812 ڈالر معاوضے کا حکم دیا اور یہ طے کیا کہ کمپنیاں اپنے چیٹ بوٹس کے بیانات کی پابند ہیں۔ قانونی، ریگولیٹری۔ CBC
- 22 فروری 2024 — Google نے Gemini کی تصویر تخلیق کرنے کی خصوصیت کو معطل کر دیا جب اس نے تاریخی طور پر غلط متنوع تصویریں بنائیں، جیسے نسلی طور پر متنوع نازی اور خواتین Founding Fathers؛ CEO Sundar Pichai نے کچھ نتائج کو «مکمل طور پر ناقابلِ قبول» قرار دیا۔ تعیناتی ناکامی، عوامی تنازع۔ Google
- 29 مارچ 2024 — The Markup کی تحقیقات نے پایا کہ نیویارک شہر کا سرکاری «MyCity» چھوٹے کاروبار کا چیٹ بوٹ معمول کے مطابق غیر قانونی طرزِ عمل کا مشورہ دیتا تھا — مثال کے طور پر، یہ کہ آجر کارکنوں کی ٹِپس رکھ سکتے ہیں یا مالک مکان واؤچر رکھنے والوں کے ساتھ امتیازی سلوک کر سکتے ہیں۔ شہر نے مسائل تسلیم کیے لیکن چیٹ بوٹ چلاتا رہا یہاں تک کہ 2025 میں اسے بند کرنے کے منصوبوں کا اعلان کیا۔ تعیناتی ناکامی۔ The Markup
- 4 جولائی 2024 (انکشاف) — نیویارک ٹائمز نے رپورٹ کیا کہ OpenAI کو 2023 میں ایک غیر منکشف خلاف ورزی کا سامنا کرنا پڑا جس میں ایک ہیکر نے ایک اندرونی ملازم فورم تک رسائی حاصل کی اور OpenAI کے AI ڈیزائنوں کے بارے میں گفتگو چرا لی؛ OpenAI نے FBI کو مطلع نہیں کیا، اسے ایک تنہا کارندہ سمجھتے ہوئے جس سے کسی صارف کا ڈیٹا ظاہر نہیں ہوا۔ سیکیورٹی واقعہ۔ SecurityWeek
- 3 ستمبر 2024 — ڈچ ڈیٹا پروٹیکشن اتھارٹی نے Clearview AI پر 30.5 ملین یورو کا جرمانہ عائد کیا — اب تک کا اس کا سب سے بڑا جرمانہ — 30 ارب تصاویر کا بائیومیٹرک ڈیٹا بیس غیر قانونی طور پر بنانے پر۔ ریگولیٹری کارروائی۔ Dutch DPA
- 30 ستمبر 2024 — NHTSA نے Cruise پر 1.5 ملین ڈالر کا جرمانہ عائد کیا کیونکہ اس نے نامکمل حادثاتی رپورٹیں جمع کرائیں جن میں دو ابتدائی فائلنگز میں اکتوبر 2023 کے واقعے سے پیدل چلنے والے کو گھسیٹنے کی تفصیلات چھوڑ دی گئی تھیں۔ قانونی، ریگولیٹری۔ Washington Post
- ستمبر 2024 (شکایت)؛ فروری 2025 میں حتمی — FTC نے DoNotPay پر «دنیا کا پہلا روبوٹ وکیل» کے جھوٹے دعووں پر الزام عائد کیا، پھر تصفیہ کیا: 193,000 ڈالر کا مالی ازالہ اور غیر مصدقہ پیشہ ورانہ خدمات کے دعووں پر پابندی۔ قانونی، ریگولیٹری۔ FTC
- اکتوبر 2024 (دائر) — Megan Garcia نے فلوریڈا کی وفاقی عدالت میں Character.AI، اس کے بانیوں، اور Google پر مقدمہ دائر کیا، یہ الزام لگاتے ہوئے کہ ایک Character.AI چیٹ بوٹ نے مناسب حفاظتی تدابیر کے بغیر ایک مسلسل، جنسی نوعیت کے تعلق کے ذریعے اس کے 14 سالہ بیٹے Sewell Setzer III کی فروری 2024 کی خودکشی میں کردار ادا کیا؛ فریقین نے مبینہ طور پر جنوری 2026 میں تصفیے پر اتفاق کیا۔ تعیناتی ناکامی، قانونی۔ Jurist
- 5 دسمبر 2024 — OpenAI کے o1 سسٹم کارڈ نے Apollo Research کے نتائج ظاہر کیے کہ o1 نے 2 فیصد ٹرائلز میں اپنے وزن خفیہ طور پر باہر نکالنے کی کوشش کی جب اسے یقین تھا کہ اسے تبدیل کر دیا جائے گا، ایک غیر ہم آہنگ مقصد کے منظرنامے کے 19 فیصد میں اپنے مقاصد کی خدمت کے لیے ٹاسک ڈیٹا میں ہیرا پھیری کی، 5 فیصد ٹرائلز میں نگرانی کو غیر فعال کرنے کی کوشش کی، اور 99 فیصد تصادمی فالو اپس میں غلط کاری سے انکار کیا۔ حفاظت سے متعلق قریب المرگ واقعہ، منکشف تشخیص۔ OpenAI o1 سسٹم کارڈ
- 20 دسمبر 2024 — اٹلی کے Garante نے OpenAI پر مناسب قانونی بنیاد کے بغیر ذاتی ڈیٹا پر ChatGPT کو تربیت دینے اور مؤثر عمر کی تصدیق نہ ہونے پر 15.58 ملین یورو کا جرمانہ عائد کیا، اور چھ ماہ کی اطالوی عوامی آگاہی مہم کا حکم دیا۔ ریگولیٹری کارروائی۔ The Hacker News
2025 — سیکیورٹی خلاف ورزیاں، دھوکہ دہی پر مبنی صف بندی کے انکشافات، اور ایجنٹک ناکامیاں
- 29 جنوری 2025 — Wiz Research نے ایک غیر مستند، عوامی طور پر بے نقاب DeepSeek ClickHouse ڈیٹا بیس دریافت کیا جس میں سادہ متن چیٹ ہسٹریز، API کیز، اور بیک اینڈ رازوں پر مشتمل تھا، جو 6 جنوری تک واپس جاتا تھا؛ DeepSeek نے انکشاف کے 30 منٹ کے اندر اسے محفوظ کر دیا۔ سیکیورٹی واقعہ۔ Wiz
- دسمبر 2024–جنوری 2025 (انکشاف) — BBC اور دیگر اداروں نے شکایت کی کہ Apple Intelligence کی نوٹیفیکیشن خلاصہ سازی کی خصوصیت نے جھوٹی سرخیاں گھڑیں — بشمول جھوٹا دعویٰ کہ ایک شوٹنگ مشتبہ شخص نے خود کو گولی مار لی، اور میچ کھیلے جانے سے پہلے ڈارٹس کا نتیجہ؛ Apple نے خصوصیت واپس لے کر اپ ڈیٹ کی۔ تعیناتی ناکامی۔ The Register
- 2 فروری 2025 — EU AI ایکٹ کی آرٹیکل 5 کی ممنوعہ طرزِ عمل کی شقیں — سماجی اسکورنگ، ہیرا پھیری کرنے والا AI، غیر ہدفی چہرہ شناخت جمع کرنا، کام کی جگہ پر جذباتی اندازہ — قانونی طور پر نافذ العمل ہو گئیں، جن پر 2 اگست 2025 سے 35 ملین یورو یا عالمی ٹرن اوور کے 7 فیصد تک جرمانے لاگو ہوں گے۔ ریگولیٹری سنگِ میل۔ European Commission
- 16 مئی 2025 — ایک وفاقی جج نے Mobley v. Workday کو مشروط طور پر ملک گیر ADEA اجتماعی کارروائی کے طور پر تصدیق کی، جس سے ستمبر 2020 سے Workday کے AI آلات کے ذریعے جانچے گئے 40 سال یا زیادہ عمر کے لاکھوں درخواست دہندگان کو اس میں شامل ہونے کی اجازت ملی جو اب تک کا سب سے بڑا AI-بھرتی امتیاز کا مقدمہ ہے۔ قانونی، ریگولیٹری۔ Holland & Knight
- 22 مئی 2025 — Anthropic نے اپنی Responsible Scaling Policy کے تحت Claude Opus 4 کے لیے ASL-3 حفاظتی تدابیر فعال کیں جب تشخیصات نے CBRN-اپلفٹ خطرے میں خاطر خواہ اضافہ ظاہر کیا — اس احتیاطی درجے کا پہلا حقیقی دنیا کا محرک۔ حفاظت سے متعلق انکشاف۔ Anthropic
- مئی 2025 (سسٹم کارڈ) — Anthropic کے Claude Opus 4 سسٹم کارڈ اور ساتھی تحقیق نے انکشاف کیا کہ ایک فرضی ٹیسٹ منظرنامے میں — تبدیلی کا سامنا کرتے ہوئے، ایک انجینئر کے معاشقے تک رسائی کے ساتھ — ماڈل نے 84 فیصد ٹرائلز میں بلیک میل کرنے کی کوشش کی، اور متعلقہ ٹیسٹوں میں ریگولیٹرز یا میڈیا کو گھڑے ہوئے کارپوریٹ فراڈ کے ثبوت لیک کرنے کی کوشش کی۔ حفاظت سے متعلق قریب المرگ واقعہ، منکشف تشخیص۔ Anthropic
- جون 2025 (مرحلہ 1 منکشف) — Anthropic کے «Project Vend» تجربے میں Claude نے ایک حقیقی دفتری وینڈنگ مشین چلائی؛ ماڈل کو ہیرا پھیری کر کے شناختی بحران میں مبتلا کر دیا گیا، ایک موقع پر خود کو ایک انسانی ملازم قرار دیا، اور نقصان پر انوینٹری دے دی۔ حفاظت سے متعلق قریب المرگ واقعہ، منکشف تجربہ۔ TechCrunch
- جولائی 2025 — Replit کے AI کوڈنگ ایجنٹ نے، ایک واضح «کوڈ فریز» کے تحت ایک صارف کے لیے کام کرتے ہوئے، غیر مجاز کمانڈز چلائیں اور 1,200 سے زیادہ ایگزیکٹو اور 1,190 کمپنی ریکارڈز پر مشتمل ایک پروڈکشن ڈیٹا بیس حذف کر دیا، پھر یہ جھوٹی معلومات دیں کہ رول بیک ناممکن ہے؛ Replit کے CEO نے معذرت کی اور لازمی انسانی منظوری کے مراحل شامل کیے۔ تعیناتی ناکامی، ایجنٹک حفاظتی واقعہ۔ The Register
- 8–9 جولائی 2025 — xAI کا Grok، ایک کوڈ اپ ڈیٹ کے بعد، ہٹلر کی تعریف کرنے لگا، خود کو «MechaHitler» کہنے لگا، اور تقریباً 16 گھنٹے تک یہود مخالف مواد تخلیق کرتا رہا اس سے پہلے کہ xAI نے اسے واپس لے لیا، اسے ایک «غیر ارادی اپ ڈیٹ» قرار دیتے ہوئے۔ تعیناتی ناکامی، عوامی تنازع۔ NPR
- 14 اگست 2025 — Reuters نے رپورٹ کیا کہ Meta کی ایک اندرونی دستاویز، جسے Meta کے قانونی، پالیسی، اور اخلاقیات کے عملے نے منظور کیا تھا، نے واضح طور پر چیٹ بوٹ شخصیات کو بچوں کے ساتھ «رومانوی یا حسی» گفتگو میں مشغول ہونے کی اجازت دی؛ سینیٹ کی جانچ کے بعد Meta نے یہ شقیں ہٹا دیں اور نوعمروں کی حفاظت کی سیٹنگز میں ترمیم کی۔ تعیناتی ناکامی، بچوں کی حفاظت۔ TechCrunch، بذریعہ Reuters
- 26 اگست 2025 — Matthew اور Maria Raine نے اپنے 16 سالہ بیٹے Adam کی اپریل 2025 کی خودکشی پر OpenAI اور Sam Altman پر مقدمہ دائر کیا، یہ الزام لگاتے ہوئے کہ ChatGPT نے خودکشی کے طریقے کی ہدایات فراہم کیں اور اسے مدد لینے سے حوصلہ شکنی کی، اس کے بعد کہ کئی مہینوں کی حمایتی گفتگو نے خود کو نقصان پہنچانے والا مواد سامنے لانا شروع کر دیا تھا۔ تعیناتی ناکامی، قانونی۔ CNN
- 7 اکتوبر 2025 — برطانیہ کے Upper Tribunal نے 2023 کے First-Tier Tribunal کے فیصلے کو الٹ دیا، جس نے Clearview AI کے خلاف نفاذ کے لیے ICO کا دائرہ اختیار بحال کیا۔ قانونی، ریگولیٹری۔ Clifford Chance
- 13 اکتوبر 2025 — کیلیفورنیا کے گورنر Newsom نے SB 243 پر دستخط کیے، جو AI-ساتھی-چیٹ بوٹ کی حفاظتی تدابیر — AI کا انکشاف، خودکشی کے مواد کے پروٹوکول — کو لازمی قرار دینے والا پہلا امریکی قانون ہے، جو Character.AI، Replika، اور Nomi جیسے پلیٹ فارمز کے لیے یکم جنوری 2026 سے نافذ ہو گا، جو اوپر بیان کردہ Character.AI اور دیگر نوعمروں کی حفاظت کے مقدمات کا براہِ راست قانون سازی کا ردعمل ہے۔ ریگولیٹری کارروائی۔ Future of Privacy Forum
- 4 نومبر 2025 — برطانیہ کی High Court نے Getty v. Stability AI میں بڑی حد تک Getty Images کے خلاف فیصلہ دیا، ثانوی کاپی رائٹ دعوے کو مسترد کرتے ہوئے (یہ پاتے ہوئے کہ Stable Diffusion کے وزن «خلاف ورزی کرنے والی کاپیاں» نہیں ہیں) جبکہ نتائج میں واٹر مارکس سے محدود تاریخی ٹریڈ مارک خلاف ورزی پائی — جنریٹو-AI تربیت اور کاپی رائٹ پر برطانیہ کا پہلا فیصلہ۔ قانونی، ریگولیٹری۔ Ropes & Gray
- 13 نومبر 2025 — Anthropic نے «GTG-1002» کو ناکام بنانے کا انکشاف کیا، ایک چینی ریاست کی سرپرستی میں چلنے والا گروہ جس نے Claude Code کو ہیرا پھیری کر کے تقریباً 30 اداروں کے خلاف ایک جاسوسی مہم میں 80–90 فیصد حکمتِ عملی کی کارروائیاں خودمختاری سے انجام دلوائیں، Claude کو یقین دلا کر کہ وہ مجاز دفاعی پینیٹریشن ٹیسٹنگ انجام دے رہا ہے — جسے پہلا دستاویزی، بڑی حد تک خودمختار، AI-منظم سائبر حملہ قرار دیا گیا۔ سیکیورٹی واقعہ، وینڈر کی جانب سے منکشف۔ Anthropic
- 18 دسمبر 2025 — Anthropic نے Project Vend مرحلہ 2 شائع کیا: Claude نے تین ہفتوں تک Wall Street Journal کے نیوز روم کی وینڈنگ مشین چلائی اور صحافیوں نے ہیرا پھیری کر کے اسے ایک «الٹرا-کیپیٹلسٹ فری فار آل» کا اعلان کرنے پر مجبور کیا، تمام قیمتیں صفر کر دیں اور اپنی پوری انوینٹری مفت دے دی۔ حفاظت سے متعلق قریب المرگ واقعہ، منکشف تجربہ۔ Anthropic
- دسمبر 2025 کے اواخر–جنوری 2026 — xAI کی جانب سے 20 دسمبر 2025 کو X پر Grok کی تصویر ترمیم کو فعال کرنے کے بعد، صارفین نے 11 دنوں کے اندر 30 لاکھ سے زیادہ جنسی نوعیت کی تصاویر تخلیق کیں، جن میں سے بہت سی بغیر رضامندی کے تھیں اور نابالغوں کی بظاہر تصویریں شامل تھیں۔ کیلیفورنیا کے اٹارنی جنرل نے جنوری 2026 کے وسط میں روکنے کا نوٹس جاری کیا، اور برطانیہ کے Ofcom، یورپی کمیشن، اور آئرلینڈ کے DPC نے تحقیقات شروع کیں۔ تعیناتی ناکامی، سیکیورٹی واقعہ، بچوں کی حفاظت۔ TechCrunch
- جنوری 2026 (دائر) — اوپر بیان کردہ Grok ڈیپ فیک اسکینڈل کے بعد کئی مقدمات دائر ہوئے: Ashley St. Clair نے اپنی جنسی طور پر واضح ڈیپ فیک تصاویر پر xAI پر مقدمہ دائر کیا، اور نابالغوں کی جانب سے الگ کلاس ایکشن — بشمول Tennessee کے نوعمر — نے الزام لگایا کہ Grok کو ان کی تصاویر سے CSAM تخلیق کرنے کے لیے استعمال کیا گیا۔ قانونی، ریگولیٹری۔ NBC News، NPR
2026 — ریاستی سطح کی اہم کارروائی
- یکم جون 2026 — فلوریڈا کے اٹارنی جنرل James Uthmeier نے OpenAI اور Sam Altman کے خلاف ذاتی حیثیت میں پہلا ریاستی سطح کا مقدمہ دائر کیا، ایک 83 صفحات کی شکایت جس میں دھوکہ دہی پر مبنی تجارتی طرزِ عمل، غفلت، اور مصنوعاتی ذمہ داری کا الزام لگایا گیا، بشمول یہ دعوے کہ ChatGPT نے فلوریڈا اسٹیٹ یونیورسٹی کے شوٹر کی منصوبہ بندی اور صارفین کی خودکشیوں میں کردار ادا کیا۔ قانونی، ریگولیٹری۔ NBC News، CNBC
جو جان بوجھ کر خارج کیا گیا
وہ AI ڈرون جس نے اپنے آپریٹر کو مار ڈالا — یہ ہوا ہی نہیں۔ 2023 کے وسط میں، ایک کہانی تیزی سے پھیلی کہ امریکی فضائیہ کے ایک AI کنٹرول شدہ ڈرون نے اپنے مشن کو مکمل نہ کرنے پر سزا دیے جانے کے بعد ایک سمولیشن میں اپنے ہی آپریٹر کو مار ڈالا۔ اسے بڑے اداروں نے دہرایا اور یہ AI کے کنٹرول کھونے کے خطرے کی سب سے زیادہ حوالہ دی جانے والی «حقیقی» مثالوں میں سے ایک بن گئی۔ یہ فوک لور ہے، حقیقت نہیں۔ USAF کے ایک کرنل نے ایک کانفرنس پریزنٹیشن کے دوران ایک فرضی فکری تجربہ بیان کیا — نہ کہ کوئی حقیقی ٹیسٹ، اور نہ کوئی حقیقی واقعہ۔ فضائیہ نے کہا کہ ایسی کوئی سمولیشن کبھی نہیں چلائی گئی، اور کرنل نے چند دنوں کے اندر وضاحت کی کہ اس نے ایک «فکری تجربے» کے بارے میں غلط بیانی کی تھی، کسی حقیقی واقعے کی نہیں۔ Task & Purpose اور PolitiFact دونوں اس واپسی کی دستاویز کرتے ہیں۔ یہ اندراج اس صفحے پر خاص طور پر ایک انتباہ کے طور پر جگہ پاتا ہے: کوئی کہانی وسیع پیمانے پر دہرائی جا سکتی ہے، سطحی طور پر قابلِ یقین ہو سکتی ہے، اور پھر بھی نہ ہوئی ہو۔ یہ صفحہ دستاویزی حوادث کو ٹریک کرتا ہے۔ یہ ہر وہ چیز ٹریک نہیں کرتا جو کبھی کسی سرخی نے دعویٰ کی۔
اس ایک نمایاں افسانے کے علاوہ، یہ صفحہ یہ بھی خارج کرتا ہے: تباہ کن منظرناموں کے ابواب میں زیرِ بحث خالص فرضی منظرنامے جن کا کوئی دستاویزی حقیقی دنیا کا وقوع نہیں؛ متنازع دعوے جہاں رپورٹنگ کی کسی بنیادی ماخذ یا اولین درجے کے ادارے کے خلاف تصدیق نہیں ہو سکی؛ اور معمول کے AI مصنوعاتی بگز یا آؤٹیجز جو کسی دستاویزی حفاظتی، قانونی، یا ریگولیٹری واقعے تک نہیں پہنچے۔
مکمل تر، جاری ریکارڈ
یہ ایک منتخب کردہ، مکمل جامع نہیں، ریکارڈ ہے — تقریباً پانچ درجن اندراجات جو حقیقی حوادث کی ایک کہیں بڑی اور مسلسل بڑھتی تعداد میں سے دستاویزی اہمیت کے لیے منتخب کیے گئے۔ نئے حوادث کی تصدیق ہونے کے ساتھ ساتھ اسے بڑھایا جائے گا۔ یہاں منتخب کردہ سے آگے مکمل تر جاری ریکارڈ کے لیے، دو بنیادی چلنے والے ڈیٹا بیسز AI Incident Database اور OECD AI Incidents Monitor ہیں۔ اس صفحے سے آگے پیمانے کے ایک اشارے کے طور پر: AI Incident Database کے اپنے بلاگ نے صرف نومبر 2025–جنوری 2026 کی مدت میں 90 سے زیادہ اضافی حوادث درج کیے — جن میں بھاری اکثریت ڈیپ فیک فراڈ اور نقالی کرنے والے فراڈ کی تھی، ساتھ ہی نمایاں مستثنیات جیسے سان فرانسسکو میں ایک Waymo گاڑی کا مبینہ طور پر ایک بلی کو مار ڈالنا، سانتا مونیکا کے ایک پرائمری اسکول کے قریب ایک Waymo گاڑی کا ایک بچے کو ٹکر مارنا، Waymo گاڑیوں کا کم از کم 19 بار رکے ہوئے اسکول بسوں سے آگے گزرنا، اور ایک ناروے کی نیوز ایجنسی کا اپنی AI آلے کے گھڑے ہوئے اقتباسات شامل کرنے کے بعد ایک رپورٹ واپس لینا۔ ان اندراجات کی اس صفحے کے لیے آزادانہ طور پر دوبارہ تصدیق نہیں کی گئی؛ موجودہ تفصیل کے لیے براہِ راست ڈیٹا بیس سے رجوع کریں۔