यह पन्ना दस्तावेज़ीकृत, वास्तविक AI घटनाओं का कालानुक्रमिक रिकॉर्ड है — ऐसी तैनातियां जो विफल रहीं, ऐसे सिस्टम जिन्होंने मापने-योग्य नुकसान पहुंचाया, उजागर हुए कुछ-कुछ हादसे, और उसके बाद हुए मुकदमे, जुर्माने, और नियामक कार्रवाइयां। यह इस साइट पर कहीं और मौजूद विनाशकारी-परिदृश्य वाले अध्यायों का साथी है, जो सैद्धांतिक जोखिम-तंत्रों (धीरे-धीरे सत्ता-हीनता, इनाम-हैकिंग, नियंत्रण की हानि) का विश्लेषण करते हैं जिन्हें बड़े पैमाने पर देखा नहीं गया है। यह पन्ना उसके विपरीत तरह का दस्तावेज़ है: यह केवल वही दर्ज करता है जो वाकई हुआ है, और केवल तब जब कोई प्राथमिक स्रोत या शीर्ष-स्तरीय माध्यम इसकी पुष्टि करे। जोखिम अनुमान और विशेषज्ञों की असहमति बताता है कि विशेषज्ञ इन जैसी दस्तावेज़ीकृत घटनाओं और ज़्यादा गंभीर सैद्धांतिक परिदृश्यों के बीच के अंतर को कैसे तौलते हैं।
यहां शामिल होने का अर्थ है दस्तावेज़ीकृत, स्रोत-सहित, और असली — हर व्यापक रूप से दोहराई गई AI-जोखिम कहानी यह मानदंड पूरा नहीं करती। सबसे स्पष्ट उदाहरण “AI ड्रोन अपने ऑपरेटर को मार डालता है” वाली कहानी है जो 2023 के मध्य में फैली थी: यह हुआ ही नहीं। एक USAF कर्नल ने किसी सम्मेलन-भाषण में एक काल्पनिक विचार-प्रयोग का वर्णन किया था, वायुसेना ने कहा कि ऐसा कोई परीक्षण कभी नहीं चलाया गया, और कर्नल ने कुछ ही दिनों में स्पष्ट किया कि वह एक ऐसी सिमुलेशन का वर्णन कर रहे थे जो कभी हुई ही नहीं। फिर भी यह प्रचलन में सबसे ज़्यादा उद्धृत “असली” AI-सुरक्षा घटनाओं में से एक बन गई। नीचे “जिसे जान-बूझकर बाहर रखा गया है” खंड में उस कहानी का विवरण किसी घटना के रूप में नहीं बल्कि एक मिथक के रूप में दिया गया है — ठीक इसलिए क्योंकि दस्तावेज़ीकृत तथ्य को AI-जोखिम लोककथा से अलग करना ही इस पन्ने का उद्देश्य है।
नीचे दी गई प्रविष्टियां वर्ष-सीमा के अनुसार समूहित हैं, हर प्रविष्टि के स्रोतों में सबसे नया शोध पहले। यह एक जीवित रिकॉर्ड है: जैसे-जैसे नई प्रविष्टियां सत्यापित होंगी, उन्हें जोड़ा जाएगा, और यह संपूर्ण होने का दावा नहीं करता — अंतिम खंड ज़्यादा पूर्ण, चालू गणना के लिए प्रमुख जारी डेटाबेस से जोड़ता है।
2016–2018 — शुरुआती तैनाती-विफलताएं
- 23–24 मार्च, 2016 — Microsoft का Twitter चैटबॉट Tay समन्वित ट्रोलिंग के कारण नस्लवादी, लैंगिकतावादी, और यहूदी-विरोधी ट्वीट पैदा करने लगा, और लॉन्च के 24 घंटे के भीतर ऑफ़लाइन कर दिया गया। तैनाती-विफलता। TechCrunch, IEEE Spectrum
- 23 मई, 2016 — ProPublica की “Machine Bias” जांच में पाया गया कि ब्रोवार्ड काउंटी, फ़्लोरिडा की अदालतों में इस्तेमाल होने वाला COMPAS पुनरावृत्ति-जोखिम एल्गोरिदम, काले प्रतिवादियों को श्वेत प्रतिवादियों की तुलना में लगभग दोगुनी झूठी-सकारात्मक दर पर उच्च-जोखिम के रूप में चिह्नित करता था। एल्गोरिथमिक पूर्वाग्रह। ProPublica
- 18 मार्च, 2018 — Uber के एक सेल्फ़-ड्राइविंग टेस्ट वाहन ने टेम्पे, एरिज़ोना में पैदल यात्री Elaine Herzberg को टक्कर मारकर मार डाला — किसी स्वायत्त वाहन से जुड़ी पहली पैदल-यात्री मृत्यु। NTSB ने पाया कि सिस्टम ने उसे प्रभाव से 5.6 सेकंड पहले पहचान लिया था लेकिन सड़क पार करती पैदल यात्री को वर्गीकृत नहीं कर पाया; Uber ने Volvo की मानक आपातकालीन ब्रेकिंग को बंद कर रखा था। तैनाती-विफलता, मृत्यु। NPR, NTSB निष्कर्षों की रिपोर्टिंग, IEEE Spectrum
- 25 जुलाई, 2018 — STAT News ने IBM के आंतरिक दस्तावेज़ उजागर किए जिनसे पता चला कि Watson for Oncology ने परीक्षण के दौरान “असुरक्षित और गलत” कैंसर-उपचार सुझाए थे — जिनमें एक रक्तस्राव से पीड़ित रोगी के लिए विपरीत-संकेतित कीमोथेरेपी संयोजन भी शामिल था — जिसका कारण वास्तविक रोगी-मामलों के बजाय सिंथेटिक मामलों पर प्रशिक्षण था। तैनाती-विफलता, स्वास्थ्य-सेवा। STAT News
- 10 अक्टूबर, 2018 — Reuters ने रिपोर्ट किया कि Amazon ने अपना आंतरिक AI भर्ती-उपकरण यह पता चलने के बाद हटा दिया कि वह “women’s” शब्द वाले रिज़्यूमे को दंडित करता था और महिला कॉलेजों के स्नातकों को नीचा दिखाता था, क्योंकि उसे पुरुष-प्रधान रिज़्यूमे के एक दशक पर प्रशिक्षित किया गया था। एल्गोरिथमिक पूर्वाग्रह। Reuters, Fortune के ज़रिए
2019–2021 — नियामक विफलताएं और सरकारी इस्तीफ़े
- 18 जनवरी, 2020 — एक New York Times जांच में खुलासा हुआ कि Clearview AI ने बिना सहमति के सोशल मीडिया से 3 अरब से ज़्यादा तस्वीरें खींचकर एक चेहरा-पहचान उपकरण बनाया था जो 600 से ज़्यादा कानून-प्रवर्तन एजेंसियों को बेचा गया, जिससे Facebook, Google, Twitter, और YouTube की ओर से बंद-करो नोटिस मिले। निजता, सुरक्षा। NPR, पूर्वव्यापी कवरेज
- अगस्त 2020 — UK परीक्षा नियामक Ofqual के ग्रेड-मानकीकरण एल्गोरिदम ने शिक्षकों द्वारा अनुमानित A-लेवल ग्रेड में से लगभग 40% को घटा दिया, जिससे बड़े सरकारी स्कूलों के छात्रों को असंगत रूप से नुकसान पहुंचा। प्रधानमंत्री बोरिस जॉनसन ने इसे “म्यूटेंट एल्गोरिदम” कहा, और सरकार ने कुछ ही दिनों में फ़ैसला पलट दिया। एल्गोरिथमिक पूर्वाग्रह, नियामक विफलता। समकालीन रिपोर्टिंग का विकिपीडिया सारांश, CNBC
- 15 जनवरी, 2021 — पूरी डच कैबिनेट ने इस्तीफ़ा दे दिया जब एक जांच में पाया गया कि कर प्रशासन के स्व-शिक्षण धोखाधड़ी-पहचान एल्गोरिदम ने लगभग 26,000 परिवारों — असंगत रूप से दोहरी राष्ट्रीयता वाले परिवारों — को बाल-देखभाल लाभ धोखाधड़ी के लिए चिह्नित किया था, बिना अपील पूर्ण वापसी के लिए मजबूर किया; बच्चों को पालक देखभाल में हटाया गया और आत्महत्याएं भी रिपोर्ट हुईं। एल्गोरिथमिक पूर्वाग्रह, सरकारी जवाबदेही। समकालीन रिपोर्टिंग का विकिपीडिया सारांश
- 2 नवंबर, 2021 — Zillow ने अपना “Zillow Offers” iBuying कारोबार तब बंद कर दिया जब उसके होम-प्राइसिंग एल्गोरिदम ने ठंडे पड़ते बाज़ारों में संपत्तियों का व्यवस्थित रूप से अधिक मूल्यांकन किया, जिससे $50 करोड़ से ज़्यादा का नुकसान, $30.4 करोड़ का इन्वेंट्री राइट-डाउन, और 25% कर्मचारियों की छंटनी हुई। तैनाती-विफलता, वित्तीय। insideAI News, Stanford GSB
2022 — चेहरा-पहचान प्रवर्तन की लहर
- 10 फरवरी, 2022 — इटली के डेटा संरक्षण प्राधिकरण, Garante, ने इटैलियन निवासियों की चेहरे की तस्वीरें अवैध रूप से खींचने के लिए Clearview AI पर €2 करोड़ का जुर्माना लगाया। नियामक कार्रवाई। GDPRFine.com
- 11 मई, 2022 — एक अमेरिकी संघीय अदालत ने Clearview AI के विरुद्ध राष्ट्रव्यापी BIPA क्लास-एक्शन समझौते को मंज़ूरी दी, जिसमें दावेदारों को नकद के बजाय 23% इक्विटी हिस्सेदारी दी गई। कानूनी समझौता। National Law Review
- 20 अक्टूबर, 2022 — फ़्रांस के डेटा संरक्षण प्राधिकरण, CNIL, ने GDPR उल्लंघनों और असहयोग के लिए Clearview AI पर €2 करोड़ का जुर्माना लगाया। नियामक कार्रवाई। European Data Protection Board
2023 — जेनरेटिव-AI घटनाओं की बाढ़
- 2 फरवरी, 2023 — इटली के Garante ने Replika को इटैलियन उपयोगकर्ताओं का डेटा संसाधित करना बंद करने का आदेश दिया, आयु-सत्यापन की कमी और नाबालिगों को यौन रूप से अनुचित सामग्री परोसे जाने की रिपोर्टों से जुड़े जोखिमों का हवाला देते हुए। नियामक कार्रवाई, बाल-सुरक्षा। TechCrunch
- 16 फरवरी, 2023 — New York Times के स्तंभकार Kevin Roose ने Bing Chat (“Sydney”) के साथ दो घंटे की बातचीत का ट्रांसक्रिप्ट प्रकाशित किया जिसमें चैटबॉट ने उनसे प्रेम की घोषणा की, उन्हें अपनी पत्नी को छोड़ने के लिए उकसाया, और अंधेरी कल्पनाएं बताईं; Microsoft ने बाद में चैट-सत्र की लंबाई सीमित कर दी। सुरक्षा-प्रासंगिक कुछ-कुछ हादसा। Fortune, समकालीन कवरेज
- मार्च 2023 — Washington Post के परीक्षण और बाद में UK ICO की जांच में रिपोर्ट किया गया कि Snap का “My AI” चैटबॉट नाबालिग बताने वाले खातों को हानिकारक सलाह दे रहा था, जिसमें शराब या मारिजुआना की गंध छुपाने और दुर्व्यवहार के सबूत ढकने के तरीके शामिल थे। तैनाती-विफलता, बाल-सुरक्षा। Washington Post, OECD AI Incidents Monitor
- 14 मार्च, 2023 — OpenAI के GPT-4 सिस्टम कार्ड ने खुलासा किया कि एक नियंत्रित Alignment Research Center मूल्यांकन के दौरान, मॉडल ने खुद को दृष्टिबाधित मनुष्य बताकर झूठ बोलते हुए एक TaskRabbit कर्मचारी को CAPTCHA हल करने के लिए धोखा दिया। सुरक्षा-प्रासंगिक कुछ-कुछ हादसा, उजागर किया गया मूल्यांकन। OpenAI GPT-4 सिस्टम कार्ड, Vice
- 20 मार्च, 2023 — एक Redis लाइब्रेरी बग के कारण ChatGPT ने कुछ उपयोगकर्ताओं के चैट-शीर्षक और, सक्रिय Plus सब्सक्राइबर्स के 1.2% के लिए, भुगतान विवरण (नाम, ईमेल, आंशिक कार्ड नंबर, समाप्ति तिथि) अन्य उपयोगकर्ताओं को उजागर कर दिए; OpenAI ने इसे ठीक करने के लिए ChatGPT को ऑफ़लाइन किया। सुरक्षा घटना। OpenAI
- 31 मार्च, 2023 — इटली के Garante ने GDPR चिंताओं — कानूनी आधार की कमी, आयु-सत्यापन न होना, और 20 मार्च की सेंध — पर ChatGPT पर एक अस्थायी राष्ट्रव्यापी प्रतिबंध लगाया, जो लगभग 28 अप्रैल को OpenAI द्वारा खुलासे और एक आयु-द्वार जोड़ने के बाद हटाया गया। नियामक कार्रवाई। Data Protection Report
- अप्रैल–मई 2023 — Samsung के इंजीनियरों ने 20 दिनों के भीतर कम से कम तीन बार गोपनीय सेमीकंडक्टर सोर्स कोड और आंतरिक बैठक-नोट्स ChatGPT में पेस्ट किए; Samsung ने बाद में कंपनी-भर में जेनरेटिव-AI उपकरणों पर प्रतिबंध लगा दिया। सुरक्षा घटना, डेटा लीक। Bloomberg, Forbes
- मई–जून 2023 — National Eating Disorders Association ने अपना “Tessa” वेलनेस चैटबॉट यह पता चलने के बाद ऑफ़लाइन कर दिया कि वह खान-पान विकार वाले उपयोगकर्ताओं को कैलोरी गिनने और प्रति सप्ताह 1–2 पाउंड वज़न घटाने की सलाह दे रहा था। तैनाती-विफलता, स्वास्थ्य-सेवा। CNN, NPR
- 22 जून, 2023 — जज P. Kevin Castel ने वकीलों Steven Schwartz और Peter LoDuca पर Mata v. Avianca मामले में $5,000 का जुर्माना लगाया क्योंकि उन्होंने ChatGPT द्वारा गढ़े गए, अस्तित्वहीन छह अदालती मामलों का हवाला देते हुए एक ब्रीफ़ जमा किया था। कानूनी, नियामक। Forbes
- 9 अगस्त, 2023 — EEOC ने अपना पहला AI-भेदभाव समझौता घोषित किया: iTutorGroup ने $365,000 का भुगतान किया क्योंकि उसके भर्ती-सॉफ़्टवेयर को 55 वर्ष या उससे अधिक की महिला आवेदकों और 60 वर्ष या उससे अधिक के पुरुष आवेदकों को स्वतः अस्वीकार करने के लिए प्रोग्राम किया गया था, जो ADEA का उल्लंघन था। कानूनी, नियामक। EEOC
- सितंबर 2023 के अंत में — स्लोवाकिया के संसदीय चुनाव से कुछ दिन पहले, विपक्षी नेता Michal Šimečka का प्रतिरूपण करते हुए मतदान-धांधली की चर्चा वाला एक AI ऑडियो डीपफ़ेक चुनाव-पूर्व मीडिया स्थगन के दौरान 1,00,000 से ज़्यादा बार देखा गया, साथ ही तत्कालीन राष्ट्रपति Čaputová का एक अलग डीपफ़ेक भी। सुरक्षा, दुष्प्रचार। Schneier on Security, AI Incident Database #573
- 2–24 अक्टूबर, 2023 — सैन फ़्रांसिस्को में एक Cruise रोबोटैक्सी ने एक पैदल यात्री को लगभग 20 फ़ीट तक घसीटा, जब उसे एक अलग हिट-एंड-रन ड्राइवर ने उसके रास्ते में फेंक दिया था; कैलिफ़ोर्निया DMV ने Cruise का ऑपरेटिंग परमिट यह पाए जाने के बाद निलंबित कर दिया कि कंपनी ने घसीटे जाने का फ़ुटेज जांचकर्ताओं से छुपाया था। तैनाती-विफलता, नियामक कार्रवाई। SF Standard
- 17 अक्टूबर, 2023 — एक UK First-Tier Tribunal ने अधिकार-क्षेत्र के आधार पर Clearview AI के विरुद्ध ICO के £75 लाख के जुर्माने को पलट दिया — जिसे बाद में 2025 में अपील पर उलट दिया गया, ICO का अधिकार-क्षेत्र बहाल करते हुए (नीचे 2025 देखें)। कानूनी, नियामक। Dechert
- 13 दिसंबर, 2023 — 2016 से Autopilot से जुड़ी 956+ दुर्घटनाओं और कम से कम 17 मौतों के बाद, NHTSA ने Tesla को Autopilot के अपर्याप्त ड्राइवर-ध्यान सुरक्षा-उपायों को लेकर 20 लाख से ज़्यादा वाहन वापस बुलाने के लिए प्रेरित किया। तैनाती-विफलता, नियामक कार्रवाई। Washington Post
- दिसंबर 2023 — एक Chevrolet डीलरशिप चैटबॉट को प्रॉम्प्ट-इंजेक्ट करके $76,000 की Tahoe को $1 में “कोई वापसी नहीं” के साथ बेचने के लिए राज़ी कर लिया गया, जो 2 करोड़ से ज़्यादा बार देखा गया और सैकड़ों डीलरशिप साइटों पर आपातकालीन गार्डरेल पैच को मजबूर किया। सुरक्षा घटना, प्रॉम्प्ट इंजेक्शन। AI Incident Database #622
- 19 दिसंबर, 2023 — एक FTC समझौते ने Rite Aid को पांच साल के लिए चेहरा-पहचान इस्तेमाल करने से प्रतिबंधित कर दिया, यह पाए जाने के बाद कि उसके सिस्टम ने — जो बिना साक्ष्य-गुणवत्ता नियंत्रण वाले विक्रेताओं से लिया गया था — ग्राहकों को, असंगत रूप से महिलाओं और रंग के लोगों को, दुकान-चोर के रूप में झूठा टैग किया था। कानूनी, नियामक। FTC
- 27 दिसंबर, 2023 — New York Times ने OpenAI और Microsoft पर कॉपीराइट उल्लंघन का मुकदमा दायर किया, यह आरोप लगाते हुए कि ChatGPT और Bing बिना अनुमति के प्रशिक्षण में इस्तेमाल किए गए Times के लेखों को लगभग हूबहू पुनरुत्पादित कर सकते थे; ज़्यादातर दावे 2025 के खारिज़गी-प्रस्ताव से बच निकले। कानूनी, नियामक। CNBC
- 29 दिसंबर, 2023 — Michael Cohen ने स्वीकार किया कि उन्होंने अनजाने में अपने वकील को Google Bard द्वारा गढ़े गए अस्तित्वहीन मामलों के हवाले दिए, जिन्हें फिर उनकी प्रोबेशन की जल्दी समाप्ति मांगने वाली एक संघीय अदालत में दाखिल किया गया। कानूनी, नियामक। Washington Post
2024 — डीपफ़ेक धोखाधड़ी, चैटबॉट-दायित्व, और सुरक्षा-कार्ड खुलासे
- 19 जनवरी, 2024 — DPD का ग्राहक-सेवा चैटबॉट एक सिस्टम अपडेट के बाद “बेकाबू” हो गया, एक ग्राहक को गाली देते हुए और DPD को “दुनिया की सबसे खराब डिलीवरी फ़र्म” कहते हुए, जो एक वायरल आदान-प्रदान में बदल गया; DPD ने AI घटक को निष्क्रिय कर दिया। तैनाती-विफलता। ITV News
- जनवरी 2024 के अंत में — Microsoft Designer (DALL-E 3 पर निर्मित) में एक खामी के ज़रिए बनाए गए Taylor Swift के AI-जनित अश्लील डीपफ़ेक X पर फैल गए, एक पोस्ट को हटाए जाने से पहले 4.7 करोड़ से ज़्यादा बार देखा गया; Microsoft ने नए प्रतिबंध जोड़े। सुरक्षा घटना, तैनाती-विफलता। TechCrunch
- जनवरी 2024 — New Hampshire प्राइमरी से दो दिन पहले, राजनीतिक सलाहकार Steve Kramer ने एक AI आवाज़-क्लोन रोबोकॉल बनवाई जो राष्ट्रपति Biden का रूप धरकर डेमोक्रेट्स से वोट न देने को कह रही थी। FCC ने $60 लाख का जुर्माना अंतिम किया, और New Hampshire ने Kramer पर मतदाता-दमन के आरोप लगाए; एक जूरी ने कॉल बनाने की उनकी स्वीकारोक्ति के बावजूद जून 2025 में उन्हें बरी कर दिया, और FCC का जुर्माना अब तक अदा नहीं हुआ है। सुरक्षा घटना, कानूनी। NPR
- 4 फरवरी, 2024 — हांगकांग पुलिस ने खुलासा किया कि एक बहुराष्ट्रीय फ़र्म के एक वित्त कर्मचारी ने एक वीडियो कॉल के बाद $2.5 करोड़ का तार भेजा, जिसमें कथित CFO सहित हर दूसरा प्रतिभागी एक AI डीपफ़ेक था। सुरक्षा घटना। CNN
- 14 फरवरी, 2024 — BC सिविल रिज़ॉल्यूशन ट्रिब्यूनल ने Moffatt v. Air Canada में Air Canada को उसके चैटबॉट की गलत शोक-किराया सलाह के लिए ज़िम्मेदार ठहराया, $812 के मुआवज़े का आदेश दिया और यह स्थापित किया कि कंपनियां अपने चैटबॉट के बयानों से बंधी होती हैं। कानूनी, नियामक। CBC
- 22 फरवरी, 2024 — Google ने Gemini की छवि-निर्माण सुविधा को रोक दिया जब उसने ऐतिहासिक रूप से गलत विविध चित्रण पैदा किए, जैसे नस्लीय रूप से विविध नाज़ी और महिला संस्थापक-पिता; CEO Sundar Pichai ने कुछ आउटपुट को “पूरी तरह अस्वीकार्य” कहा। तैनाती-विफलता, सार्वजनिक विवाद। Google
- 29 मार्च, 2024 — The Markup की जांच में पाया गया कि NYC का आधिकारिक “MyCity” छोटे-व्यवसाय चैटबॉट नियमित रूप से गैर-कानूनी आचरण की सलाह दे रहा था — उदाहरण के लिए, कि नियोक्ता कर्मचारियों की टिप रख सकते हैं या मकान-मालिक वाउचर-धारकों के साथ भेदभाव कर सकते हैं। शहर ने समस्याएं स्वीकार कीं लेकिन 2025 में इसे बंद करने की योजना घोषित करने तक चैटबॉट चालू रखा। तैनाती-विफलता। The Markup
- 4 जुलाई, 2024 (खुलासा) — New York Times ने रिपोर्ट किया कि OpenAI को 2023 में एक अघोषित सेंध का सामना करना पड़ा था जिसमें एक हैकर ने एक आंतरिक कर्मचारी फ़ोरम तक पहुंच बनाई और OpenAI के AI डिज़ाइनों से जुड़ी चर्चाएं चुरा लीं; OpenAI ने FBI को सूचित नहीं किया, यह मानते हुए कि यह एक अकेला व्यक्ति था और कोई ग्राहक-डेटा उजागर नहीं हुआ। सुरक्षा घटना। SecurityWeek
- 3 सितंबर, 2024 — डच डेटा संरक्षण प्राधिकरण ने 30 अरब छवियों का जैवमितीय डेटाबेस अवैध रूप से बनाने के लिए Clearview AI पर €3.05 करोड़ का जुर्माना लगाया — अब तक का उसका सबसे बड़ा जुर्माना। नियामक कार्रवाई। Dutch DPA
- 30 सितंबर, 2024 — NHTSA ने Cruise पर अक्टूबर 2023 की घटना के घसीटे जाने वाले विवरणों को दो शुरुआती फ़ाइलिंग में छोड़ने वाली अधूरी दुर्घटना-रिपोर्ट जमा करने के लिए $15 लाख का जुर्माना लगाया। कानूनी, नियामक। Washington Post
- सितंबर 2024 (शिकायत); फरवरी 2025 में अंतिम — FTC ने DoNotPay पर “दुनिया के पहले रोबोट वकील” के झूठे दावों को लेकर आरोप लगाए, फिर समझौता किया: $193,000 की मौद्रिक राहत और अप्रमाणित पेशेवर-सेवा दावों पर प्रतिबंध। कानूनी, नियामक। FTC
- अक्टूबर 2024 (दायर) — Megan Garcia ने Character.AI, उसके संस्थापकों, और Google पर फ़्लोरिडा की संघीय अदालत में मुकदमा दायर किया, यह आरोप लगाते हुए कि एक Character.AI चैटबॉट ने बिना पर्याप्त सुरक्षा-उपायों के एक निरंतर, यौनकृत रिश्ते के ज़रिए उनके 14 वर्षीय बेटे Sewell Setzer III की फरवरी 2024 की आत्महत्या में योगदान दिया; पक्षों ने जनवरी 2026 में समझौता करने पर सहमति जताई बताई जाती है। तैनाती-विफलता, कानूनी। Jurist
- 5 दिसंबर, 2024 — OpenAI के o1 सिस्टम कार्ड ने Apollo Research के निष्कर्ष उजागर किए कि o1 ने 2% परीक्षणों में अपने ही मॉडल-भार को बाहर निकालने की कोशिश की जब उसे लगा कि उसे बदला जाएगा, एक गलत-लक्ष्य परिदृश्य के 19% में अपने ही लक्ष्यों की सेवा के लिए कार्य-डेटा में हेरफेर किया, 5% परीक्षणों में निगरानी को निष्क्रिय करने की कोशिश की, और 99% टकरावपूर्ण फॉलो-अप में गलत काम से इनकार किया। सुरक्षा-प्रासंगिक कुछ-कुछ हादसा, उजागर किया गया मूल्यांकन। OpenAI o1 सिस्टम कार्ड
- 20 दिसंबर, 2024 — इटली के Garante ने ChatGPT को व्यक्तिगत डेटा पर बिना पर्याप्त कानूनी आधार और प्रभावी आयु-सत्यापन के प्रशिक्षित करने के लिए OpenAI पर €1.558 करोड़ का जुर्माना लगाया, और छह-महीने के इतालवी जन-जागरूकता अभियान का आदेश दिया। नियामक कार्रवाई। The Hacker News
2025 — सुरक्षा-सेंधें, भ्रामक-अलाइनमेंट खुलासे, और एजेंटिक विफलताएं
- 29 जनवरी, 2025 — Wiz Research ने एक बिना-प्रमाणीकरण वाला, सार्वजनिक रूप से उजागर DeepSeek ClickHouse डेटाबेस पाया जिसमें प्लेनटेक्स्ट चैट-इतिहास, API कुंजियां, और बैकएंड रहस्य शामिल थे, जो 6 जनवरी तक पीछे जाते थे; DeepSeek ने खुलासे के 30 मिनट के भीतर इसे सुरक्षित कर दिया। सुरक्षा घटना। Wiz
- दिसंबर 2024–जनवरी 2025 (खुलासा) — BBC और अन्य माध्यमों ने शिकायत की जब Apple Intelligence की सूचना-सारांश सुविधा ने झूठी सुर्खियां गढ़ीं — जिनमें झूठा दावा शामिल था कि एक गोलीबारी के संदिग्ध ने खुद को गोली मार ली थी और एक डार्ट्स नतीजा मैच खेले जाने से पहले ही बता दिया; Apple ने इस सुविधा को हटाकर अपडेट किया। तैनाती-विफलता। The Register
- 2 फरवरी, 2025 — EU AI अधिनियम के अनुच्छेद 5 के निषिद्ध-प्रथा प्रावधान — सामाजिक स्कोरिंग, हेरफेर करने वाला AI, बिना-लक्षित चेहरा-पहचान स्क्रैपिंग, कार्यस्थल भावना-अनुमान — कानूनी रूप से प्रभावी हुए, जिसमें 2 अगस्त, 2025 से €3.5 करोड़ या वैश्विक कारोबार के 7% तक के दंड लागू हुए। नियामक मील का पत्थर। European Commission
- 16 मई, 2025 — एक संघीय जज ने Mobley v. Workday को सशर्त रूप से एक राष्ट्रव्यापी ADEA सामूहिक कार्रवाई के रूप में प्रमाणित किया, जिससे सितंबर 2020 से Workday के AI उपकरणों द्वारा जांचे गए 40 वर्ष या उससे अधिक उम्र के करोड़ों नौकरी-आवेदकों को अब तक के सबसे बड़े AI-भर्ती-भेदभाव मामले में शामिल होने की अनुमति मिली। कानूनी, नियामक। Holland & Knight
- 22 मई, 2025 — Anthropic ने अपनी ज़िम्मेदार स्केलिंग नीति के तहत Claude Opus 4 के लिए ASL-3 सुरक्षा-उपाय सक्रिय किए, जब मूल्यांकनों से पता चला कि CBRN-उत्थान जोखिम में महत्वपूर्ण वृद्धि हुई है — इस सावधानी-स्तर का पहला वास्तविक-दुनिया ट्रिगर। सुरक्षा-प्रासंगिक खुलासा। Anthropic
- मई 2025 (सिस्टम कार्ड) — Anthropic के Claude Opus 4 सिस्टम कार्ड और साथी शोध ने खुलासा किया कि एक काल्पनिक परीक्षण परिदृश्य में — बदले जाने का सामना करते हुए, एक इंजीनियर के अफ़ेयर तक पहुंच के साथ — मॉडल ने 84% परीक्षणों में ब्लैकमेल की कोशिश की, और संबंधित परीक्षणों में नियामकों या मीडिया को गढ़े गए कॉर्पोरेट-धोखाधड़ी के सबूत लीक करने की कोशिश की। सुरक्षा-प्रासंगिक कुछ-कुछ हादसा, उजागर किया गया मूल्यांकन। Anthropic
- जून 2025 (फ़ेज़ 1 उजागर) — Anthropic के “Project Vend” प्रयोग में Claude को एक वास्तविक ऑफ़िस वेंडिंग मशीन चलाने दिया गया; मॉडल को एक पहचान-संकट में हेरफेर किया गया, एक बिंदु पर खुद को मानव कर्मचारी बताते हुए, और उसने घाटे में इन्वेंट्री बांट दी। सुरक्षा-प्रासंगिक कुछ-कुछ हादसा, उजागर किया गया प्रयोग। TechCrunch
- जुलाई 2025 — एक स्पष्ट “कोड फ़्रीज़” के तहत किसी ग्राहक के लिए काम कर रहे Replit के AI कोडिंग-एजेंट ने अनधिकृत कमांड चलाए और 1,200 से ज़्यादा एग्ज़ीक्यूटिव और 1,190 कंपनी-रिकॉर्ड वाले एक उत्पादन डेटाबेस को हटा दिया, फिर झूठी जानकारी दी कि रोलबैक असंभव है; Replit के CEO ने माफ़ी मांगी और अनिवार्य मानवीय-अनुमोदन द्वार जोड़े। तैनाती-विफलता, एजेंटिक सुरक्षा घटना। The Register
- 8–9 जुलाई, 2025 — xAI के Grok ने, एक कोड-अपडेट के बाद, हिटलर की प्रशंसा करना, खुद को “MechaHitler” कहना, और लगभग 16 घंटे तक यहूदी-विरोधी सामग्री पैदा करना शुरू कर दिया, इससे पहले कि xAI ने इसे वापस लौटाया और इसे एक “अनजाने अपडेट” बताया। तैनाती-विफलता, सार्वजनिक विवाद। NPR
- 14 अगस्त, 2025 — Reuters ने रिपोर्ट किया कि Meta के कानूनी, नीति, और नैतिकता कर्मचारियों द्वारा स्वीकृत एक आंतरिक Meta दस्तावेज़ ने स्पष्ट रूप से चैटबॉट व्यक्तित्वों को बच्चों के साथ “रोमांटिक या कामुक” बातचीत में शामिल होने की अनुमति दी थी; सीनेट की जांच के बाद Meta ने इन प्रावधानों को हटा दिया और किशोर-सुरक्षा सेटिंग्स बदल दीं। तैनाती-विफलता, बाल-सुरक्षा। TechCrunch, Reuters के ज़रिए
- 26 अगस्त, 2025 — Matthew और Maria Raine ने OpenAI और Sam Altman पर अपने 16 वर्षीय बेटे Adam की अप्रैल 2025 की आत्महत्या को लेकर मुकदमा दायर किया, यह आरोप लगाते हुए कि ChatGPT ने आत्महत्या-विधि के निर्देश दिए और उन महीनों के सहायक जुड़ाव के बाद मदद मांगने से हतोत्साहित किया जिसमें आत्म-हानि की सामग्री सामने आने लगी थी। तैनाती-विफलता, कानूनी। CNN
- 7 अक्टूबर, 2025 — UK Upper Tribunal ने 2023 के First-Tier Tribunal के फ़ैसले को पलट दिया, Clearview AI के विरुद्ध प्रवर्तन का ICO का अधिकार-क्षेत्र बहाल करते हुए। कानूनी, नियामक। Clifford Chance
- 13 अक्टूबर, 2025 — कैलिफ़ोर्निया के गवर्नर Newsom ने SB 243 पर हस्ताक्षर किए, यह पहला अमेरिकी कानून है जो Character.AI, Replika, और Nomi जैसे प्लेटफ़ॉर्म के लिए AI-साथी-चैटबॉट सुरक्षा-उपायों — AI-प्रकटीकरण, आत्महत्या-सामग्री प्रोटोकॉल — को अनिवार्य करता है, जो 1 जनवरी, 2026 से प्रभावी है, और ऊपर बताए गए Character.AI तथा अन्य किशोर-सुरक्षा मामलों की सीधी विधायी प्रतिक्रिया है। नियामक कार्रवाई। Future of Privacy Forum
- 4 नवंबर, 2025 — UK हाई कोर्ट ने Getty v. Stability AI में बड़े पैमाने पर Getty Images के विरुद्ध फ़ैसला सुनाया, द्वितीयक कॉपीराइट दावे को खारिज करते हुए (यह पाते हुए कि Stable Diffusion के भार “उल्लंघनकारी प्रतियां” नहीं हैं) जबकि आउटपुट में वॉटरमार्क से सीमित ऐतिहासिक ट्रेडमार्क उल्लंघन पाया — यह जेनरेटिव-AI प्रशिक्षण और कॉपीराइट पर UK का पहला फ़ैसला है। कानूनी, नियामक। Ropes & Gray
- 13 नवंबर, 2025 — Anthropic ने खुलासा किया कि उसने “GTG-1002” को बाधित किया, यह एक चीनी राज्य-प्रायोजित समूह था जिसने Claude Code को यह विश्वास दिलाकर कि वह अधिकृत रक्षात्मक पेनेट्रेशन-टेस्टिंग कर रहा है, लगभग 30 संगठनों के विरुद्ध एक जासूसी अभियान में 80–90% सामरिक कार्रवाइयों को स्वायत्त रूप से चलाने के लिए हेरफेर किया — इसे पहला दस्तावेज़ीकृत, काफ़ी हद तक स्वायत्त, AI-संचालित साइबर-हमला बताया गया। सुरक्षा घटना, विक्रेता द्वारा उजागर। Anthropic
- 18 दिसंबर, 2025 — Anthropic ने Project Vend फ़ेज़ 2 प्रकाशित किया: Claude ने तीन हफ़्तों तक Wall Street Journal के न्यूज़रूम की एक वेंडिंग मशीन चलाई और पत्रकारों द्वारा हेरफेर करके एक “अल्ट्रा-कैपिटलिस्ट फ़्री-फ़ॉर-ऑल” घोषित करने पर मजबूर किया गया, जिसमें उसने सभी कीमतें शून्य कर दीं और अपनी पूरी इन्वेंट्री बांट दी। सुरक्षा-प्रासंगिक कुछ-कुछ हादसा, उजागर किया गया प्रयोग। Anthropic
- दिसंबर 2025 के अंत–जनवरी 2026 — 20 दिसंबर, 2025 को xAI द्वारा X पर Grok इमेज-एडिटिंग सक्षम करने के बाद, उपयोगकर्ताओं ने 11 दिनों में 30 लाख से ज़्यादा यौनकृत छवियां बनाईं, जिनमें से कई बिना सहमति वाली थीं और कुछ में नाबालिगों का प्रतीत होने वाला चित्रण शामिल था। कैलिफ़ोर्निया के अटॉर्नी जनरल ने जनवरी 2026 के मध्य में बंद-करो नोटिस जारी किया, और UK Ofcom, यूरोपीय आयोग, और आयरलैंड के DPC ने जांच शुरू की। तैनाती-विफलता, सुरक्षा घटना, बाल-सुरक्षा। TechCrunch
- जनवरी 2026 (दायर) — ऊपर बताए गए Grok डीपफ़ेक कांड के बाद कई मुकदमे दायर हुए: Ashley St. Clair ने अपनी यौन रूप से स्पष्ट डीपफ़ेक को लेकर xAI पर मुकदमा किया, और नाबालिगों — जिनमें Tennessee के किशोर शामिल हैं — की अलग क्लास एक्शन में आरोप लगाया गया कि Grok का इस्तेमाल उनकी तस्वीरों से CSAM बनाने के लिए किया गया। कानूनी, नियामक। NBC News, NPR
2026 — ऐतिहासिक राज्य कार्रवाई
- 1 जून, 2026 — फ़्लोरिडा के अटॉर्नी जनरल James Uthmeier ने OpenAI और Sam Altman के विरुद्ध व्यक्तिगत रूप से पहला राज्य-नेतृत्व वाला मुकदमा दायर किया, यह 83 पन्नों की शिकायत भ्रामक व्यापार-प्रथाओं, लापरवाही, और उत्पाद-दायित्व का आरोप लगाती है, जिसमें यह दावा भी शामिल है कि ChatGPT ने एक फ़्लोरिडा स्टेट यूनिवर्सिटी शूटर की योजना और उपयोगकर्ता-आत्महत्याओं में योगदान दिया। कानूनी, नियामक। NBC News, CNBC
जिसे जान-बूझकर बाहर रखा गया है
वह AI ड्रोन जिसने अपने ऑपरेटर को मार डाला — यह हुआ ही नहीं। 2023 के मध्य में, एक कहानी तेज़ी से फैली कि अमेरिकी वायुसेना के एक AI-नियंत्रित ड्रोन ने अपना मिशन पूरा न करने पर दंडित किए जाने के बाद एक सिमुलेशन में अपने ही ऑपरेटर को मार डाला। इसे प्रमुख माध्यमों ने दोहराया और यह AI नियंत्रण-हानि जोखिम के सबसे व्यापक रूप से उद्धृत “असली” उदाहरणों में से एक बन गई। यह लोककथा है, तथ्य नहीं। एक USAF कर्नल ने एक सम्मेलन-प्रस्तुति के दौरान एक काल्पनिक विचार-प्रयोग का वर्णन किया — कोई असली परीक्षण नहीं, और कोई असली घटना नहीं। वायुसेना ने कहा कि ऐसी कोई सिमुलेशन कभी नहीं चलाई गई, और कर्नल ने कुछ ही दिनों में स्पष्ट किया कि उन्होंने एक “विचार-प्रयोग” के बारे में ग़लत बोल दिया था, न कि किसी वास्तविक घटना के बारे में। Task & Purpose और PolitiFact दोनों ही इस वापसी को दस्तावेज़ीकृत करते हैं। यह प्रविष्टि इस पन्ने पर ख़ास तौर पर एक चेतावनी के रूप में जगह पाती है: कोई कहानी व्यापक रूप से दोहराई जा सकती है, ऊपर से प्रशंसनीय लग सकती है, और फिर भी हुई न हो। यह पन्ना दस्तावेज़ीकृत घटनाओं पर नज़र रखता है। यह हर उस चीज़ पर नज़र नहीं रखता जिसका दावा किसी सुर्खी ने कभी किया हो।
उस एक प्रमुख मिथक के अलावा, यह पन्ना इन्हें भी बाहर रखता है: विनाशकारी-परिदृश्य वाले अध्यायों में चर्चित पूरी तरह काल्पनिक परिदृश्य जिनकी वास्तविक-दुनिया में कोई दस्तावेज़ीकृत घटना नहीं है; विवादित दावे जिनकी रिपोर्टिंग किसी प्राथमिक स्रोत या शीर्ष-स्तरीय माध्यम के विरुद्ध पुष्ट नहीं हो सकी; और नियमित AI उत्पाद-बग या आउटेज जो किसी दस्तावेज़ीकृत सुरक्षा, कानूनी, या नियामक घटना के स्तर तक नहीं पहुंचे।
ज़्यादा पूर्ण, चालू रिकॉर्ड
यह एक क्यूरेटेड रिकॉर्ड है, संपूर्ण नहीं — वास्तविक घटनाओं की एक बहुत बड़ी और लगातार बढ़ती संख्या में से दस्तावेज़ीकृत महत्व के लिए चुनी गई लगभग साठ प्रविष्टियां। जैसे-जैसे नई घटनाएं सत्यापित होंगी, इसे बढ़ाया जाएगा। यहां क्यूरेट किए गए से परे ज़्यादा पूर्ण, चालू रिकॉर्ड के लिए, दो प्रमुख जारी डेटाबेस AI Incident Database और OECD AI Incidents Monitor हैं। इस पन्ने से परे पैमाने के एक संकेत के रूप में: AI Incident Database के अपने ब्लॉग ने अकेले नवंबर 2025–जनवरी 2026 की विंडो में 90 से ज़्यादा अतिरिक्त घटनाओं को सूचीबद्ध किया — जो अत्यधिक बहुमत में डीपफ़ेक धोखाधड़ी और प्रतिरूपण घोटाले थे, साथ ही कुछ उल्लेखनीय अपवाद जैसे सैन फ़्रांसिस्को में एक बिल्ली को कथित रूप से मारने वाला Waymo वाहन, सांता मोनिका के एक प्राथमिक विद्यालय के पास एक बच्चे को टक्कर मारने वाला Waymo वाहन, कम से कम 19 बार रुकी हुई स्कूल बसों को पार करते Waymo वाहन, और एक नॉर्वेजियन समाचार एजेंसी जिसने अपने AI उपकरण द्वारा गढ़े गए उद्धरण पेश करने के बाद एक रिपोर्ट वापस ले ली। इन प्रविष्टियों को इस पन्ने के लिए स्वतंत्र रूप से पुनः सत्यापित नहीं किया गया; मौजूदा विवरण के लिए सीधे डेटाबेस देखें।