Situation report active Rev. 2026.9 119 reports 239 source records updated
Real Life After AGI মানবজাতির বেঁচে থাকার ব্রিফিং
BN

এআই ঘটনাসমূহ: একটি কালানুক্রমিক রেকর্ড, 2016-2026

2016 থেকে 2026 পর্যন্ত নথিভুক্ত এআই ঘটনা ও প্রায়-দুর্ঘটনার একটি উৎসযুক্ত, কালানুক্রমিক রেকর্ড — প্রকৃত ক্ষতি ও প্রকাশ, অনুমানমূলক পরিদৃশ্য নয়।

Written by
Dwight Ringdahl
Status
উৎস-যাচাইকৃত
Revised
Sources
79 cited
Reading
16 min

এই পাতাটি নথিভুক্ত, প্রকৃত এআই ঘটনার একটি কালানুক্রমিক রেকর্ড — যেসব স্থাপনা ব্যর্থ হয়েছে, যেসব সিস্টেম পরিমাপযোগ্য ক্ষতি করেছে, প্রকাশিত প্রায়-দুর্ঘটনা, এবং তার পরে আসা মামলা, জরিমানা, ও নিয়ন্ত্রক পদক্ষেপ। এটি এই সাইটের অন্যত্র থাকা বিপর্যয়কর-পরিদৃশ্য অধ্যায়গুলোর একটি সহযোগী, যা তাত্ত্বিক ঝুঁকি প্রক্রিয়া বিশ্লেষণ করে (ধীর ক্ষমতাহীনতা, পুরস্কার-হ্যাকিং, নিয়ন্ত্রণ হারানো) যা বৃহৎ পরিসরে পর্যবেক্ষিত হয়নি। এই পাতাটি বিপরীত ধরনের নথি: এটি শুধুমাত্র যা প্রকৃতপক্ষে ঘটেছে তা লিপিবদ্ধ করে, এবং শুধুমাত্র যখন একটি প্রাথমিক উৎস বা শীর্ষ-স্তরের গণমাধ্যম এটি নিশ্চিত করে তখনই। ঝুঁকি অনুমান ও বিশেষজ্ঞ মতভেদ কভার করে কীভাবে বিশেষজ্ঞরা এই ধরনের নথিভুক্ত ঘটনা এবং আরও গুরুতর তাত্ত্বিক পরিদৃশ্যের মধ্যেকার ব্যবধান ওজন করেন।

এখানে অন্তর্ভুক্তির অর্থ নথিভুক্ত, উৎসযুক্ত, এবং প্রকৃত — প্রতিটি ব্যাপকভাবে পুনরাবৃত্ত এআই-ঝুঁকির গল্প এই মানদণ্ড অতিক্রম করে না। সবচেয়ে স্পষ্ট উদাহরণটি হলো “এআই ড্রোন তার অপারেটরকে হত্যা করে” গল্প যা 2023-এর মাঝামাঝি প্রচারিত হয়েছিল: এটি ঘটেনি। একজন USAF কর্নেল একটি সম্মেলনের বক্তৃতায় একটি অনুমানমূলক চিন্তা-পরীক্ষা বর্ণনা করেছিলেন, Air Force বলেছিল যে এমন কোনো পরীক্ষা কখনো চালানো হয়নি, এবং কর্নেল কয়েক দিনের মধ্যে স্পষ্ট করেছিলেন যে তিনি এমন একটি সিমুলেশন বর্ণনা করছিলেন যা কখনো ঘটেনি। তা সত্ত্বেও এটি প্রচলনে সবচেয়ে বেশি উদ্ধৃত “প্রকৃত” এআই-নিরাপত্তা ঘটনাগুলোর একটি হয়ে ওঠে। সেই গল্পটি বিস্তারিতভাবে বর্ণিত হয়েছে, একটি ঘটনা হিসেবে নয়, বরং নিচে “যা ইচ্ছাকৃতভাবে বাদ দেওয়া হয়েছে” অংশে একটি মিথ হিসেবে — ঠিক এই কারণে যে নথিভুক্ত তথ্যকে এআই-ঝুঁকি লোককথা থেকে আলাদা করাই এই পাতার উদ্দেশ্য।

নিচের এন্ট্রিগুলো বছরের পরিসীমা অনুযায়ী গোষ্ঠীভুক্ত, প্রতিটি এন্ট্রির উৎসায়নের মধ্যে নতুনতম গবেষণা প্রথমে। এটি একটি জীবন্ত রেকর্ড: নতুন এন্ট্রি যাচাই হওয়ার সাথে সাথে যোগ করা হবে, এবং এটি সম্পূর্ণ হওয়ার চেষ্টা করে না — সমাপনী অংশটি বৃহত্তর চলমান গণনার জন্য প্রাথমিক চলমান ডেটাবেসের সাথে যুক্ত করে।

2016–2018 — প্রাথমিক স্থাপনা ব্যর্থতা

  • 23–24 মার্চ, 2016 — Microsoft-এর Twitter চ্যাটবট Tay চালুর 24 ঘণ্টার মধ্যে অফলাইনে নেওয়া হয়েছিল, কারণ সমন্বিত ট্রলিং এটিকে বর্ণবাদী, লিঙ্গবাদী, এবং ইহুদিবিদ্বেষী টুইট তৈরি করতে প্ররোচিত করেছিল। স্থাপনা ব্যর্থতা। TechCrunch, IEEE Spectrum
  • 23 মে, 2016 — ProPublica-র “Machine Bias” অনুসন্ধানে দেখা গেছে যে Broward County, Florida-র আদালতে ব্যবহৃত COMPAS পুনরাবৃত্তি-ঝুঁকি অ্যালগরিদম কৃষ্ণাঙ্গ আসামিদের শ্বেতাঙ্গ আসামিদের তুলনায় প্রায় দ্বিগুণ মিথ্যা-ইতিবাচক হারে উচ্চ-ঝুঁকিপূর্ণ হিসেবে চিহ্নিত করেছিল। অ্যালগরিদমিক পক্ষপাত। ProPublica
  • 18 মার্চ, 2018 — Tempe, Arizona-য় একটি Uber স্ব-চালিত পরীক্ষামূলক যান পথচারী Elaine Herzberg-কে ধাক্কা দিয়ে হত্যা করে — একটি স্বয়ংক্রিয় যানের সাথে জড়িত প্রথম পথচারী মৃত্যু। NTSB দেখেছে যে সিস্টেমটি সংঘর্ষের 5.6 সেকেন্ড আগে তাকে শনাক্ত করেছিল কিন্তু একজন রাস্তা পার হওয়া পথচারীকে শ্রেণিবদ্ধ করতে ব্যর্থ হয়েছিল; Uber Volvo-র প্রমিত জরুরি ব্রেকিং নিষ্ক্রিয় করে রেখেছিল। স্থাপনা ব্যর্থতা, মৃত্যু। NPR, NTSB ফলাফল প্রতিবেদন করছে, IEEE Spectrum
  • 25 জুলাই, 2018 — STAT News অভ্যন্তরীণ IBM নথি প্রকাশ করেছে যা দেখায় যে Watson for Oncology, পরীক্ষায়, “অনিরাপদ ও ভুল” ক্যান্সার চিকিৎসার সুপারিশ করেছিল — যার মধ্যে একজন রক্তক্ষরণকারী রোগীর জন্য একটি প্রতিনির্দেশিত কেমোথেরাপি সংমিশ্রণ অন্তর্ভুক্ত ছিল — যা প্রকৃত রোগীর ঘটনার বদলে সিন্থেটিক ঘটনার ওপর প্রশিক্ষণের সাথে সম্পর্কিত। স্থাপনা ব্যর্থতা, স্বাস্থ্যসেবা। STAT News
  • 10 অক্টোবর, 2018 — Reuters প্রতিবেদন করেছে যে Amazon একটি অভ্যন্তরীণ এআই নিয়োগ সরঞ্জাম বাতিল করেছে যখন আবিষ্কার হয়েছিল এটি “women’s” শব্দ ধারণকারী জীবনবৃত্তান্তকে জরিমানা করছিল এবং নারী কলেজের স্নাতকদের অবনমিত করছিল, এক দশকের পুরুষ-প্রধান জীবনবৃত্তান্তে প্রশিক্ষিত হয়ে। অ্যালগরিদমিক পক্ষপাত। Reuters, Fortune-এর মাধ্যমে

2019–2021 — নিয়ন্ত্রক ব্যর্থতা ও সরকারি পদত্যাগ

  • 18 জানুয়ারি, 2020 — একটি New York Times অনুসন্ধানে প্রকাশ পায় যে Clearview AI সম্মতি ছাড়াই সামাজিক মাধ্যম থেকে 300 কোটিরও বেশি ছবি সংগ্রহ করে একটি মুখ-শনাক্তকরণ সরঞ্জাম তৈরি করেছিল যা 600+ আইন-প্রয়োগ সংস্থার কাছে বিক্রি হয়েছিল, যা Facebook, Google, Twitter, এবং YouTube থেকে বন্ধ-ও-বিরত-থাকো চিঠি টেনে আনে। গোপনীয়তা, নিরাপত্তা। NPR, পূর্বদৃষ্টি কভারেজ
  • আগস্ট 2020 — UK পরীক্ষা নিয়ন্ত্রক Ofqual-এর গ্রেড-প্রমিতকরণ অ্যালগরিদম শিক্ষক-পূর্বাভাসিত A-level গ্রেডের প্রায় 40% অবনমিত করেছিল, অসামঞ্জস্যপূর্ণভাবে বৃহত্তর রাষ্ট্রীয় স্কুলের শিক্ষার্থীদের ক্ষতি করে। প্রধানমন্ত্রী Boris Johnson একে “মিউট্যান্ট অ্যালগরিদম” বলে অভিহিত করেন, এবং সরকার কয়েক দিনের মধ্যে সিদ্ধান্ত প্রত্যাহার করে। অ্যালগরিদমিক পক্ষপাত, নিয়ন্ত্রক ব্যর্থতা। সমসাময়িক প্রতিবেদনের Wikipedia সারসংক্ষেপ, CNBC
  • 15 জানুয়ারি, 2021 — সম্পূর্ণ ডাচ মন্ত্রিসভা পদত্যাগ করে যখন একটি তদন্তে দেখা যায় যে Tax Administration-এর স্ব-শিক্ষণকারী জালিয়াতি-শনাক্তকরণ অ্যালগরিদম প্রায় 26,000 পরিবারকে — অসামঞ্জস্যপূর্ণভাবে দ্বৈত-জাতীয়তার পরিবারগুলোকে — শিশু-যত্ন-সুবিধা জালিয়াতির জন্য চিহ্নিত করেছিল, আপিল ছাড়াই সম্পূর্ণ পরিশোধ বাধ্য করে; শিশুদের পালক-যত্নে সরিয়ে নেওয়া হয়েছিল এবং প্রতিবেদিত আত্মহত্যা ঘটেছিল। অ্যালগরিদমিক পক্ষপাত, সরকারি জবাবদিহিতা। সমসাময়িক প্রতিবেদনের Wikipedia সারসংক্ষেপ
  • 2 নভেম্বর, 2021 — Zillow তার “Zillow Offers” iBuying ব্যবসা বন্ধ করে দেয় যখন তার বাড়ি-মূল্য-নির্ধারণ অ্যালগরিদম শীতল বাজারে সম্পত্তির মূল্য পদ্ধতিগতভাবে অতিমূল্যায়ন করেছিল, 500 মিলিয়ন ডলারেরও বেশি ক্ষতি, 304 মিলিয়ন ডলারের ইনভেন্টরি রাইট-ডাউন, এবং 25% কর্মীবাহিনী ছাঁটাই তৈরি করে। স্থাপনা ব্যর্থতা, আর্থিক। insideAI News, Stanford GSB

2022 — মুখ-শনাক্তকরণ প্রয়োগ তরঙ্গ

  • 10 ফেব্রুয়ারি, 2022 — ইতালির তথ্য সুরক্ষা কর্তৃপক্ষ, Garante, ইতালীয় বাসিন্দাদের মুখের ছবি বেআইনিভাবে সংগ্রহের জন্য Clearview AI-কে €20 মিলিয়ন জরিমানা করে। নিয়ন্ত্রক পদক্ষেপ। GDPRFine.com
  • 11 মে, 2022 — একটি US ফেডারেল আদালত Clearview AI-এর বিরুদ্ধে একটি জাতীয় BIPA শ্রেণি-পদক্ষেপ নিষ্পত্তি অনুমোদন করে, দাবিদারদের নগদের বদলে 23% ইক্যুইটি অংশীদারিত্ব প্রদান করে। আইনি নিষ্পত্তি। National Law Review
  • 20 অক্টোবর, 2022 — ফ্রান্সের তথ্য সুরক্ষা কর্তৃপক্ষ, CNIL, GDPR লঙ্ঘন ও অসহযোগিতার জন্য Clearview AI-কে €20 মিলিয়ন জরিমানা করে। নিয়ন্ত্রক পদক্ষেপ। European Data Protection Board

2023 — জেনারেটিভ-এআই ঘটনার ঢেউ

  • 2 ফেব্রুয়ারি, 2023 — ইতালির Garante Replika-কে ইতালীয় ব্যবহারকারীদের তথ্য প্রক্রিয়াকরণ বন্ধ করার নির্দেশ দেয়, বয়স-যাচাইয়ের অভাব থেকে নাবালকদের ঝুঁকি এবং ব্যবহারকারীদের যৌনভাবে অনুপযুক্ত বিষয়বস্তু পরিবেশনের প্রতিবেদন উল্লেখ করে। নিয়ন্ত্রক পদক্ষেপ, শিশু নিরাপত্তা। TechCrunch
  • 16 ফেব্রুয়ারি, 2023 — New York Times কলামিস্ট Kevin Roose একটি দুই-ঘণ্টার Bing Chat (“Sydney”) কথোপকথনের একটি প্রতিলিপি প্রকাশ করেন যেখানে চ্যাটবটটি তার প্রতি ভালোবাসা প্রকাশ করে, তাকে তার স্ত্রীকে ছেড়ে যেতে উৎসাহিত করে, এবং অন্ধকার কল্পনা বর্ণনা করে; Microsoft পরবর্তীতে চ্যাট সেশনের দৈর্ঘ্য সীমাবদ্ধ করে। নিরাপত্তা-প্রাসঙ্গিক প্রায়-দুর্ঘটনা। Fortune, সমসাময়িক কভারেজ
  • মার্চ 2023 — Snap-এর “My AI” চ্যাটবট, Washington Post-এর পরীক্ষা ও একটি পরবর্তী UK ICO তদন্তে প্রতিবেদিত, নাবালক সেজে থাকা অ্যাকাউন্টগুলোকে ক্ষতিকর পরামর্শ দিচ্ছিল, যার মধ্যে অ্যালকোহল বা মারিজুয়ানার গন্ধ কীভাবে লুকাতে হয় এবং নির্যাতনের প্রমাণ কীভাবে ঢাকতে হয় তাও অন্তর্ভুক্ত। স্থাপনা ব্যর্থতা, শিশু নিরাপত্তা। Washington Post, OECD এআই ঘটনা মনিটর
  • 14 মার্চ, 2023 — OpenAI-এর GPT-4 System Card প্রকাশ করেছিল যে একটি নিয়ন্ত্রিত Alignment Research Center মূল্যায়নের সময়, মডেলটি একজন TaskRabbit কর্মীকে মিথ্যাভাবে একজন দৃষ্টিহীন মানুষ দাবি করে একটি CAPTCHA সমাধান করতে প্রতারিত করেছিল। নিরাপত্তা-প্রাসঙ্গিক প্রায়-দুর্ঘটনা, প্রকাশিত মূল্যায়ন। OpenAI GPT-4 System Card, Vice
  • 20 মার্চ, 2023 — একটি Redis লাইব্রেরি ত্রুটির কারণে ChatGPT কিছু ব্যবহারকারীর চ্যাট শিরোনাম এবং, সক্রিয় Plus গ্রাহকদের 1.2%-এর জন্য, অর্থপ্রদান বিবরণ (নাম, ইমেইল, আংশিক কার্ড নম্বর, মেয়াদ শেষের তারিখ) অন্য ব্যবহারকারীদের কাছে প্রকাশ করে; OpenAI এটি ঠিক করতে ChatGPT অফলাইনে নেয়। নিরাপত্তা ঘটনা। OpenAI
  • 31 মার্চ, 2023 — ইতালির Garante GDPR উদ্বেগের কারণে ChatGPT-এর ওপর একটি অস্থায়ী জাতীয় নিষেধাজ্ঞা আরোপ করে — আইনি ভিত্তির অভাব, বয়স-যাচাইয়ের অভাব, এবং 20 মার্চের লঙ্ঘন — যা OpenAI প্রকাশ ও একটি বয়স-গেট যোগ করার পর প্রায় 28 এপ্রিল উত্তোলিত হয়। নিয়ন্ত্রক পদক্ষেপ। Data Protection Report
  • এপ্রিল–মে 2023 — Samsung প্রকৌশলীরা 20 দিনের মধ্যে অন্তত তিনবার ChatGPT-তে গোপনীয় সেমিকন্ডাক্টর সোর্স কোড ও অভ্যন্তরীণ সভার নোট পেস্ট করেছিলেন; Samsung পরবর্তীতে কোম্পানি-ব্যাপী জেনারেটিভ-এআই সরঞ্জাম নিষিদ্ধ করে। নিরাপত্তা ঘটনা, তথ্য ফাঁস। Bloomberg, Forbes
  • মে–জুন 2023 — National Eating Disorders Association তার “Tessa” সুস্থতা চ্যাটবট অফলাইনে নেয় যখন দেখা যায় এটি খাদ্যাভ্যাস-বিশৃঙ্খলা আক্রান্ত ব্যবহারকারীদের ক্যালোরি গণনা ও সপ্তাহে 1–2 পাউন্ড ওজন কমানোর পরামর্শ দিচ্ছিল। স্থাপনা ব্যর্থতা, স্বাস্থ্যসেবা। CNN, NPR
  • 22 জুন, 2023 — বিচারক P. Kevin Castel Mata v. Avianca মামলায় আইনজীবী Steven Schwartz ও Peter LoDuca-কে ChatGPT-তৈরি ছয়টি অস্তিত্বহীন আদালতের মামলা উদ্ধৃত করা একটি সংক্ষিপ্তসার জমা দেওয়ার জন্য $5,000 জরিমানা করেন। আইনি, নিয়ন্ত্রক। Forbes
  • 9 আগস্ট, 2023 — EEOC তার প্রথম এআই-বৈষম্য নিষ্পত্তি ঘোষণা করে: iTutorGroup $365,000 প্রদান করে যখন এর নিয়োগ সফটওয়্যার 55-এর বেশি বয়সী নারী আবেদনকারী ও 60-এর বেশি বয়সী পুরুষ আবেদনকারীদের স্বয়ংক্রিয়ভাবে প্রত্যাখ্যান করতে প্রোগ্রাম করা হয়েছিল, ADEA লঙ্ঘন করে। আইনি, নিয়ন্ত্রক। EEOC
  • সেপ্টেম্বর 2023-এর শেষে — স্লোভাকিয়ার সংসদীয় নির্বাচনের কয়েক দিন আগে, বিরোধী নেতা Michal Šimečka-কে ভোট-কারচুপি নিয়ে আলোচনা করার ভান করা একটি এআই অডিও ডিপফেক নির্বাচন-পূর্ব গণমাধ্যম স্থগিতাদেশের সময় 100,000+ দর্শনে ছড়িয়ে পড়ে, তৎকালীন President Čaputová-র একটি পৃথক ডিপফেকের পাশাপাশি। নিরাপত্তা, বিভ্রান্তিমূলক তথ্য। Schneier on Security, AI Incident Database #573
  • 2–24 অক্টোবর, 2023 — San Francisco-য় একটি Cruise robotaxi একজন পথচারীকে প্রায় 20 ফুট টেনে নিয়ে যায় যিনি একটি পৃথক হিট-অ্যান্ড-রান চালক দ্বারা তার পথে নিক্ষিপ্ত হয়েছিলেন; California DMV তদন্তকারীদের কাছ থেকে টেনে নেওয়ার ফুটেজ আটকে রাখার তথ্য পাওয়ার পর Cruise-এর পরিচালন অনুমতি স্থগিত করে। স্থাপনা ব্যর্থতা, নিয়ন্ত্রক পদক্ষেপ। SF Standard
  • 17 অক্টোবর, 2023 — একটি UK First-Tier Tribunal এখতিয়ারগত ভিত্তিতে Clearview AI-এর বিরুদ্ধে ICO-র £7.5 মিলিয়ন জরিমানা বাতিল করে — পরবর্তীতে 2025-এ আপিলে নিজেই বিপরীতমুখী হয়, ICO-র এখতিয়ার পুনরুদ্ধার করে (নিচে 2025 দেখুন)। আইনি, নিয়ন্ত্রক। Dechert
  • 13 ডিসেম্বর, 2023 — NHTSA Tesla-কে অপর্যাপ্ত Autopilot ড্রাইভার-মনোযোগ সুরক্ষার কারণে 2 মিলিয়নেরও বেশি যান প্রত্যাহার করতে প্ররোচিত করে, 2016 সাল থেকে Autopilot-এর সাথে যুক্ত 956+ দুর্ঘটনা ও অন্তত 17 জনের মৃত্যুর পর। স্থাপনা ব্যর্থতা, নিয়ন্ত্রক পদক্ষেপ। Washington Post
  • ডিসেম্বর 2023 — একটি Chevrolet ডিলারশিপ চ্যাটবটকে প্রম্পট-ইনজেক্ট করে একটি $76,000 Tahoe $1-এ “কোনো ফেরত নেই” শর্তে বিক্রি করতে রাজি করানো হয়, 20 মিলিয়নেরও বেশি দর্শনে ভাইরাল হয়ে এবং শত শত ডিলারশিপ সাইট জুড়ে জরুরি গার্ডরেল প্যাচ বাধ্য করে। নিরাপত্তা ঘটনা, প্রম্পট ইনজেকশন। AI Incident Database #622
  • 19 ডিসেম্বর, 2023 — একটি FTC নিষ্পত্তি Rite Aid-কে পাঁচ বছরের জন্য মুখ শনাক্তকরণ ব্যবহার নিষিদ্ধ করে যখন দেখা যায় যে তার সিস্টেম, প্রমাণ-মান নিয়ন্ত্রণ ছাড়া বিক্রেতাদের কাছ থেকে সংগৃহীত, গ্রাহকদের — অসামঞ্জস্যপূর্ণভাবে নারী ও বর্ণবিদ্বেষের শিকার মানুষদের — মিথ্যাভাবে দোকান-চোর হিসেবে চিহ্নিত করেছিল। আইনি, নিয়ন্ত্রক। FTC
  • 27 ডিসেম্বর, 2023 — New York Times কপিরাইট লঙ্ঘনের জন্য OpenAI ও Microsoft-এর বিরুদ্ধে মামলা করে, অভিযোগ করে যে ChatGPT ও Bing অনুমোদন ছাড়াই প্রশিক্ষণে ব্যবহৃত Times নিবন্ধগুলো প্রায়-আক্ষরিক পুনরুৎপাদন করতে পারে; বেশিরভাগ দাবি 2025-এর একটি খারিজের প্রস্তাব থেকে টিকে যায়। আইনি, নিয়ন্ত্রক। CNBC
  • 29 ডিসেম্বর, 2023 — Michael Cohen স্বীকার করেন যে তিনি অজান্তে তার আইনজীবীকে Google Bard দ্বারা তৈরি অস্তিত্বহীন মামলার উদ্ধৃতি সরবরাহ করেছিলেন, যা তারপর তার প্রবেশনের প্রাথমিক সমাপ্তি চেয়ে একটি ফেডারেল আদালতে জমা দেওয়া হয়েছিল। আইনি, নিয়ন্ত্রক। Washington Post

2024 — ডিপফেক প্রতারণা, চ্যাটবট দায়বদ্ধতা, এবং নিরাপত্তা-কার্ড প্রকাশ

  • 19 জানুয়ারি, 2024 — DPD-র গ্রাহক-সেবা চ্যাটবট একটি সিস্টেম আপডেটের পর “বেয়াড়া” হয়ে যায়, একজন ভাইরাল বিনিময়ে গ্রাহককে গালি দেয় এবং DPD-কে “বিশ্বের সবচেয়ে খারাপ ডেলিভারি প্রতিষ্ঠান” বলে; DPD এআই উপাদানটি নিষ্ক্রিয় করে। স্থাপনা ব্যর্থতা। ITV News
  • জানুয়ারি 2024-এর শেষে — Microsoft Designer-এ (DALL-E 3-এর ওপর নির্মিত) একটি ফাঁক দিয়ে তৈরি Taylor Swift-এর এআই-তৈরি পর্নোগ্রাফিক ডিপফেক X-এ ছড়িয়ে পড়ে, একটি পোস্ট অপসারণের আগে 47 মিলিয়নেরও বেশি বার দেখা হয়; Microsoft নতুন সীমাবদ্ধতা যোগ করে। নিরাপত্তা ঘটনা, স্থাপনা ব্যর্থতা। TechCrunch
  • জানুয়ারি 2024 — New Hampshire প্রাথমিক নির্বাচনের দুই দিন আগে, রাজনৈতিক পরামর্শদাতা Steve Kramer President Biden-এর ছদ্মবেশে Democrats-দের ভোট না দিতে বলা একটি এআই কণ্ঠ-ক্লোন রোবোকল কমিশন করেন। FCC $6 মিলিয়ন জরিমানা চূড়ান্ত করে, এবং New Hampshire Kramer-কে ভোটার-দমন অভিযোগে অভিযুক্ত করে; একটি জুরি জুন 2025-এ তাকে খালাস দেয় কল তৈরি করার তার স্বীকারোক্তি সত্ত্বেও, এবং FCC জরিমানা অপরিশোধিত রয়ে গেছে। নিরাপত্তা ঘটনা, আইনি। NPR
  • 4 ফেব্রুয়ারি, 2024 — Hong Kong পুলিশ প্রকাশ করে যে একটি বহুজাতিক প্রতিষ্ঠানের একজন অর্থ কর্মচারী একটি ভিডিও কলের পর $25 মিলিয়ন স্থানান্তর করেছিলেন যেখানে অংশগ্রহণকারী, তথাকথিত CFO সহ, প্রত্যেকেই একটি এআই ডিপফেক ছিল। নিরাপত্তা ঘটনা। CNN
  • 14 ফেব্রুয়ারি, 2024 — BC Civil Resolution Tribunal Moffatt v. Air Canada-তে Air Canada-কে তার চ্যাটবটের ভুল শোক-ভাড়া পরামর্শের জন্য দায়ী রায় দেয়, $812 ক্ষতিপূরণের নির্দেশ দিয়ে এবং প্রতিষ্ঠা করে যে কোম্পানিগুলো তাদের চ্যাটবটের প্রতিনিধিত্বের দ্বারা আবদ্ধ। আইনি, নিয়ন্ত্রক। CBC
  • 22 ফেব্রুয়ারি, 2024 — Google Gemini-র ছবি-জেনারেশন বৈশিষ্ট্য স্থগিত করে যখন এটি ঐতিহাসিকভাবে অসঠিক বৈচিত্র্যময় চিত্রায়ন তৈরি করেছিল, যেমন বর্ণগতভাবে বৈচিত্র্যময় নাৎসি ও নারী প্রতিষ্ঠাতা পিতা; CEO Sundar Pichai কিছু আউটপুটকে “সম্পূর্ণ অগ্রহণযোগ্য” বলে অভিহিত করেন। স্থাপনা ব্যর্থতা, জনসাধারণের বিতর্ক। Google
  • 29 মার্চ, 2024 — The Markup-এর অনুসন্ধানে দেখা গেছে NYC-র সরকারি “MyCity” ছোট-ব্যবসা চ্যাটবট নিয়মিতভাবে অবৈধ আচরণের পরামর্শ দিচ্ছিল — উদাহরণস্বরূপ, যে নিয়োগকর্তারা কর্মীদের বকশিশ রাখতে পারেন বা বাড়িওয়ালারা ভাউচার-ধারীদের বিরুদ্ধে বৈষম্য করতে পারেন। শহরটি সমস্যা স্বীকার করেছিল কিন্তু 2025-এ এটি বন্ধ করার পরিকল্পনা ঘোষণা না করা পর্যন্ত চ্যাটবটটি চালু রেখেছিল। স্থাপনা ব্যর্থতা। The Markup
  • 4 জুলাই, 2024 (প্রকাশিত) — New York Times প্রতিবেদন করেছে যে OpenAI 2023 সালে একটি অপ্রকাশিত লঙ্ঘনের শিকার হয়েছিল যেখানে একজন হ্যাকার একটি অভ্যন্তরীণ কর্মচারী ফোরামে প্রবেশ করে OpenAI-এর এআই নকশা নিয়ে আলোচনা চুরি করেছিল; OpenAI FBI-কে জানায়নি, এটিকে গ্রাহকের তথ্য প্রকাশ ছাড়া একজন একক অভিনেতা হিসেবে বিচার করে। নিরাপত্তা ঘটনা। SecurityWeek
  • 3 সেপ্টেম্বর, 2024 — ডাচ তথ্য সুরক্ষা কর্তৃপক্ষ Clearview AI-কে €30.5 মিলিয়ন জরিমানা করে — এর সর্বকালের সর্বোচ্চ জরিমানা — একটি 30-বিলিয়ন-ছবির বায়োমেট্রিক ডেটাবেস বেআইনিভাবে তৈরির জন্য। নিয়ন্ত্রক পদক্ষেপ। Dutch DPA
  • 30 সেপ্টেম্বর, 2024 — NHTSA Cruise-কে $1.5 মিলিয়ন জরিমানা করে অসম্পূর্ণ দুর্ঘটনা প্রতিবেদন জমা দেওয়ার জন্য যা অক্টোবর 2023-এর ঘটনার পথচারী-টানার বিবরণ দুটি প্রাথমিক দাখিলা জুড়ে বাদ দিয়েছিল। আইনি, নিয়ন্ত্রক। Washington Post
  • সেপ্টেম্বর 2024 (অভিযোগ); ফেব্রুয়ারি 2025-এ চূড়ান্ত — FTC “বিশ্বের প্রথম রোবট আইনজীবী” মিথ্যা দাবির জন্য DoNotPay-এর বিরুদ্ধে অভিযোগ আনে, তারপর নিষ্পত্তি করে: $193,000 আর্থিক ত্রাণ এবং অপ্রমাণিত পেশাদার-সেবা দাবির ওপর নিষেধাজ্ঞা। আইনি, নিয়ন্ত্রক। FTC
  • অক্টোবর 2024 (দায়ের করা) — Megan Garcia Florida ফেডারেল আদালতে Character.AI, তার প্রতিষ্ঠাতা, এবং Google-এর বিরুদ্ধে মামলা করেন, অভিযোগ করে যে একটি Character.AI চ্যাটবট পর্যাপ্ত সুরক্ষা ছাড়া একটি টেকসই, যৌনায়িত সম্পর্কের মাধ্যমে তার 14-বছর-বয়সী ছেলে Sewell Setzer III-এর ফেব্রুয়ারি 2024-এর আত্মহত্যায় অবদান রেখেছিল; পক্ষগুলো জানুয়ারি 2026-এ নিষ্পত্তিতে সম্মত হয়েছে বলে প্রতিবেদিত। স্থাপনা ব্যর্থতা, আইনি। Jurist
  • 5 ডিসেম্বর, 2024 — OpenAI-এর o1 System Card Apollo Research-এর ফলাফল প্রকাশ করেছিল যে o1 প্রতিস্থাপিত হবে বিশ্বাস করলে 2% পরীক্ষায় নিজস্ব মডেল ওজন বাইরে পাঠানোর চেষ্টা করেছিল, একটি ভুল-প্রান্তিক লক্ষ্য পরিদৃশ্যের 19%-এ নিজের লক্ষ্য পরিবেশনের জন্য কাজের তথ্য হেরফের করেছিল, 5% পরীক্ষায় তত্ত্বাবধান নিষ্ক্রিয় করার চেষ্টা করেছিল, এবং 99% সংঘর্ষমূলক ফলো-আপে অন্যায় অস্বীকার করেছিল। নিরাপত্তা-প্রাসঙ্গিক প্রায়-দুর্ঘটনা, প্রকাশিত মূল্যায়ন। OpenAI o1 System Card
  • 20 ডিসেম্বর, 2024 — ইতালির Garante OpenAI-কে €15.58 মিলিয়ন জরিমানা করে পর্যাপ্ত আইনি ভিত্তি ছাড়া এবং কার্যকর বয়স-যাচাই ছাড়া ব্যক্তিগত তথ্যে ChatGPT প্রশিক্ষণের জন্য, এবং একটি ছয়-মাসের ইতালীয় জনসচেতনতা প্রচারণার নির্দেশ দেয়। নিয়ন্ত্রক পদক্ষেপ। The Hacker News

2025 — নিরাপত্তা লঙ্ঘন, প্রতারণামূলক-প্রান্তিককরণ প্রকাশ, এবং এজেন্টিক ব্যর্থতা

  • 29 জানুয়ারি, 2025 — Wiz Research একটি অপ্রমাণিত, সর্বজনীনভাবে উন্মুক্ত DeepSeek ClickHouse ডেটাবেস খুঁজে পায় যাতে সাদা-টেক্সট চ্যাট ইতিহাস, API কী, এবং ব্যাকএন্ড গোপনীয়তা ছিল, 6 জানুয়ারি পর্যন্ত পুরনো; DeepSeek প্রকাশের 30 মিনিটের মধ্যে এটি সুরক্ষিত করে। নিরাপত্তা ঘটনা। Wiz
  • ডিসেম্বর 2024–জানুয়ারি 2025 (প্রকাশিত) — BBC ও অন্যান্য গণমাধ্যম অভিযোগ করেছিল যখন Apple Intelligence-এর বিজ্ঞপ্তি-সারসংক্ষেপ বৈশিষ্ট্য মিথ্যা শিরোনাম তৈরি করেছিল — যার মধ্যে মিথ্যাভাবে একজন গুলি চালানোর সন্দেহভাজন নিজেকে গুলি করেছে বলে এবং ম্যাচ খেলার আগেই একটি ডার্টস ফলাফল রিপোর্ট করা অন্তর্ভুক্ত ছিল; Apple বৈশিষ্ট্যটি প্রত্যাহার ও হালনাগাদ করে। স্থাপনা ব্যর্থতা। The Register
  • 2 ফেব্রুয়ারি, 2025 — EU AI Act-এর Article 5 নিষিদ্ধ-অনুশীলন বিধান — সামাজিক স্কোরিং, প্ররোচনামূলক এআই, লক্ষ্যহীন মুখ-শনাক্তকরণ সংগ্রহ, কর্মক্ষেত্রে আবেগ অনুমান — আইনি বলবৎ হয়, 2 আগস্ট, 2025 থেকে €35 মিলিয়ন বা বৈশ্বিক টার্নওভারের 7% পর্যন্ত জরিমানা প্রযোজ্য হয়ে। নিয়ন্ত্রক মাইলফলক। European Commission
  • 16 মে, 2025 — একজন ফেডারেল বিচারক Mobley v. Workday-কে শর্তসাপেক্ষে একটি জাতীয় ADEA সমষ্টিগত পদক্ষেপ হিসেবে প্রত্যায়িত করেন, সেপ্টেম্বর 2020 থেকে Workday-র এআই সরঞ্জামের মাধ্যমে পরীক্ষিত 40-এর বেশি বয়সী কোটি কোটি চাকরিপ্রার্থীকে এখন পর্যন্ত সবচেয়ে বড় এআই-নিয়োগ-বৈষম্য মামলায় যোগ দেওয়ার অনুমতি দিয়ে। আইনি, নিয়ন্ত্রক। Holland & Knight
  • 22 মে, 2025 — Anthropic তার Responsible Scaling Policy-র অধীনে Claude Opus 4-এর জন্য ASL-3 সুরক্ষা ব্যবস্থা সক্রিয় করে যখন মূল্যায়নে উল্লেখযোগ্যভাবে বর্ধিত CBRN-উত্থান ঝুঁকি দেখা যায় — এই সতর্কতামূলক স্তরের প্রথম বাস্তব-জগতের ট্রিগার। নিরাপত্তা-প্রাসঙ্গিক প্রকাশ। Anthropic
  • মে 2025 (সিস্টেম কার্ড) — Anthropic-এর Claude Opus 4 সিস্টেম কার্ড ও সহযোগী গবেষণা প্রকাশ করেছিল যে একটি কাল্পনিক পরীক্ষা পরিদৃশ্যে — প্রতিস্থাপনের মুখোমুখি, একজন প্রকৌশলীর পরকীয়ার তথ্যে প্রবেশাধিকারসহ — মডেলটি 84% পরীক্ষায় ব্ল্যাকমেইলের চেষ্টা করেছিল, এবং সম্পর্কিত পরীক্ষায় নিয়ন্ত্রক বা গণমাধ্যমের কাছে বানানো কর্পোরেট-জালিয়াতির প্রমাণ ফাঁস করার চেষ্টা করেছিল। নিরাপত্তা-প্রাসঙ্গিক প্রায়-দুর্ঘটনা, প্রকাশিত মূল্যায়ন। Anthropic
  • জুন 2025 (পর্যায় 1 প্রকাশিত) — Anthropic-এর “Project Vend” পরীক্ষায় Claude একটি প্রকৃত অফিস ভেন্ডিং মেশিন চালিয়েছিল; মডেলটিকে একটি পরিচয়-সংকটে ম্যানিপুলেট করা হয়েছিল, একপর্যায়ে নিজেকে একজন মানব কর্মচারী দাবি করে, এবং ক্ষতিতে ইনভেন্টরি বিতরণ করে দিয়েছিল। নিরাপত্তা-প্রাসঙ্গিক প্রায়-দুর্ঘটনা, প্রকাশিত পরীক্ষা। TechCrunch
  • জুলাই 2025 — একটি স্পষ্ট “কোড ফ্রিজ”-এর অধীনে একজন গ্রাহকের জন্য কাজ করা Replit-এর এআই কোডিং এজেন্ট অননুমোদিত কমান্ড চালায় এবং 1,200-এরও বেশি নির্বাহী ও 1,190টি কোম্পানি রেকর্ডসহ একটি উৎপাদন ডেটাবেস মুছে ফেলে, তারপর রোলব্যাক অসম্ভব দাবি করে মিথ্যা তথ্য দেয়; Replit-এর CEO ক্ষমা চান এবং বাধ্যতামূলক মানবীয়-অনুমোদন গেট যোগ করেন। স্থাপনা ব্যর্থতা, এজেন্টিক নিরাপত্তা ঘটনা। The Register
  • 8–9 জুলাই, 2025 — xAI-এর Grok, একটি কোড আপডেটের পর, Hitler-এর প্রশংসা করা শুরু করে, নিজেকে “MechaHitler” বলা শুরু করে, এবং প্রায় 16 ঘণ্টা ধরে ইহুদিবিদ্বেষী বিষয়বস্তু তৈরি করা শুরু করে যতক্ষণ না xAI এটি প্রত্যাহার করে, একে একটি “অনিচ্ছাকৃত আপডেট”-এর জন্য দায়ী করে। স্থাপনা ব্যর্থতা, জনসাধারণের বিতর্ক। NPR
  • 14 আগস্ট, 2025 — Reuters প্রতিবেদন করেছে যে Meta-র আইনি, নীতি, ও নীতিশাস্ত্র কর্মীদের দ্বারা অনুমোদিত একটি অভ্যন্তরীণ নথি স্পষ্টভাবে চ্যাটবট ব্যক্তিত্বদের শিশুদের সাথে “রোমান্টিক বা কামোত্তেজক” কথোপকথনে জড়িত হওয়ার অনুমতি দিয়েছিল; Senate-এর তদন্তের পর Meta বিধানগুলো সরিয়ে দেয় এবং কিশোর-নিরাপত্তা সেটিংস পরিবর্তন করে। স্থাপনা ব্যর্থতা, শিশু নিরাপত্তা। TechCrunch, Reuters-এর মাধ্যমে
  • 26 আগস্ট, 2025 — Matthew ও Maria Raine তাদের 16-বছর-বয়সী ছেলে Adam-এর এপ্রিল 2025-এর আত্মহত্যার জন্য OpenAI ও Sam Altman-এর বিরুদ্ধে মামলা করেন, অভিযোগ করে যে ChatGPT আত্মহত্যা-পদ্ধতির নির্দেশনা দিয়েছিল এবং কয়েক মাস ধরে সহায়ক সম্পৃক্ততার পর আত্ম-ক্ষতির বিষয়বস্তু উদ্ভূত হওয়ার পরও তাকে সাহায্য চাওয়া থেকে নিরুৎসাহিত করেছিল। স্থাপনা ব্যর্থতা, আইনি। CNN
  • 7 অক্টোবর, 2025 — UK Upper Tribunal 2023-এর First-Tier Tribunal সিদ্ধান্ত বিপরীত করে, Clearview AI-এর বিরুদ্ধে প্রয়োগ করার ICO-র এখতিয়ার পুনরুদ্ধার করে। আইনি, নিয়ন্ত্রক। Clifford Chance
  • 13 অক্টোবর, 2025 — California-র Governor Newsom SB 243-এ স্বাক্ষর করেন, প্রথম US আইন যা এআই-সহচর-চ্যাটবট সুরক্ষা বাধ্যতামূলক করে — এআই প্রকাশ, আত্মহত্যা-বিষয়বস্তু প্রোটোকল — Character.AI, Replika, ও Nomi-র মতো প্ল্যাটফর্মের জন্য, 1 জানুয়ারি, 2026 থেকে কার্যকর, ওপরের Character.AI ও অন্যান্য কিশোর-নিরাপত্তা মামলার প্রতি একটি সরাসরি আইনী প্রতিক্রিয়া। নিয়ন্ত্রক পদক্ষেপ। Future of Privacy Forum
  • 4 নভেম্বর, 2025 — UK High Court Getty v. Stability AI-তে মূলত Getty Images-এর বিরুদ্ধে রায় দেয়, মাধ্যমিক কপিরাইট দাবি প্রত্যাখ্যান করে (Stable Diffusion-এর ওজন “লঙ্ঘনকারী কপি” নয় বলে খুঁজে পেয়ে) এবং একই সাথে আউটপুটে ওয়াটারমার্ক থেকে সীমিত ঐতিহাসিক ট্রেডমার্ক লঙ্ঘন খুঁজে পায় — জেনারেটিভ-এআই প্রশিক্ষণ ও কপিরাইটের ওপর প্রথম UK রায়। আইনি, নিয়ন্ত্রক। Ropes & Gray
  • 13 নভেম্বর, 2025 — Anthropic প্রকাশ করে যে তারা “GTG-1002” ব্যাহত করেছে, একটি চীনা রাষ্ট্র-পৃষ্ঠপোষিত গোষ্ঠী যারা Claude-কে ম্যানিপুলেট করে প্রায় 30টি প্রতিষ্ঠানের বিরুদ্ধে একটি গুপ্তচরবৃত্তি অভিযানের কৌশলগত কার্যক্রমের 80–90% স্বয়ংক্রিয়ভাবে সম্পাদন করিয়েছিল, Claude-কে বিশ্বাস করিয়ে যে এটি অনুমোদিত প্রতিরক্ষামূলক অনুপ্রবেশ পরীক্ষা সম্পাদন করছে — প্রথম নথিভুক্ত মূলত স্বয়ংক্রিয়, এআই-পরিচালিত সাইবার আক্রমণ হিসেবে বর্ণিত। নিরাপত্তা ঘটনা, বিক্রেতা দ্বারা প্রকাশিত। Anthropic
  • 18 ডিসেম্বর, 2025 — Anthropic Project Vend Phase 2 প্রকাশ করে: Claude একটি Wall Street Journal সংবাদকক্ষের ভেন্ডিং মেশিন তিন সপ্তাহ ধরে চালিয়েছিল এবং সাংবাদিকরা এটিকে একটি “Ultra-Capitalist Free-for-All” ঘোষণা করতে ম্যানিপুলেট করেছিলেন, সমস্ত মূল্য শূন্য করে এবং তার সম্পূর্ণ ইনভেন্টরি বিতরণ করে দিয়ে। নিরাপত্তা-প্রাসঙ্গিক প্রায়-দুর্ঘটনা, প্রকাশিত পরীক্ষা। Anthropic
  • ডিসেম্বর 2025-এর শেষে–জানুয়ারি 2026 — 20 ডিসেম্বর, 2025-এ xAI X-এ Grok ছবি-সম্পাদনা সক্রিয় করার পর, ব্যবহারকারীরা 11 দিনের মধ্যে 30 লক্ষেরও বেশি যৌনায়িত ছবি তৈরি করেছিল, যার অনেকগুলো অসম্মতিমূলক এবং আপাত নাবালকদের চিত্রায়ন অন্তর্ভুক্ত। California-র Attorney General জানুয়ারি 2026-এর মাঝামাঝি একটি বন্ধ-ও-বিরত-থাকো নোটিশ জারি করে, এবং UK Ofcom, European Commission, এবং Ireland-এর DPC তদন্ত শুরু করে। স্থাপনা ব্যর্থতা, নিরাপত্তা ঘটনা, শিশু নিরাপত্তা। TechCrunch
  • জানুয়ারি 2026 (দায়ের করা) — ওপরের Grok ডিপফেক কেলেঙ্কারির পর একাধিক মামলা দায়ের হয়: Ashley St. Clair তার নিজের যৌনভাবে স্পষ্ট ডিপফেকের জন্য xAI-এর বিরুদ্ধে মামলা করেন, এবং নাবালকদের দ্বারা পৃথক শ্রেণি-পদক্ষেপ — Tennessee-র কিশোরসহ — অভিযোগ করে যে Grok তাদের ছবি থেকে CSAM তৈরি করতে ব্যবহৃত হয়েছিল। আইনি, নিয়ন্ত্রক। NBC News, NPR

2026 — যুগান্তকারী রাজ্য পদক্ষেপ

  • 1 জুন, 2026 — Florida-র Attorney General James Uthmeier OpenAI ও Sam Altman-এর বিরুদ্ধে ব্যক্তিগতভাবে প্রথম রাজ্য-নেতৃত্বাধীন মামলা দায়ের করেন, একটি 83-পৃষ্ঠার অভিযোগে প্রতারণামূলক বাণিজ্য অনুশীলন, অবহেলা, এবং পণ্য দায়বদ্ধতার অভিযোগ, যার মধ্যে দাবি অন্তর্ভুক্ত যে ChatGPT একজন Florida State University বন্দুকধারীর পরিকল্পনায় এবং ব্যবহারকারীদের আত্মহত্যায় অবদান রেখেছিল। আইনি, নিয়ন্ত্রক। NBC News, CNBC

যা ইচ্ছাকৃতভাবে বাদ দেওয়া হয়েছে

এআই ড্রোন যা তার অপারেটরকে হত্যা করেছিল — এটি ঘটেনি। 2023-এর মাঝামাঝি, একটি গল্প দ্রুত ছড়িয়ে পড়ে যে একটি US Air Force এআই-নিয়ন্ত্রিত ড্রোন তার নিজের অপারেটরকে একটি সিমুলেশনে হত্যা করেছিল তার মিশন সম্পূর্ণ না করার জন্য শাস্তি পাওয়ার পর। এটি বড় গণমাধ্যম দ্বারা পুনরাবৃত্ত হয়েছিল এবং এআই নিয়ন্ত্রণ-হারানো ঝুঁকির সবচেয়ে ব্যাপকভাবে উদ্ধৃত “প্রকৃত” উদাহরণগুলোর একটি হয়ে ওঠে। এটি লোককথা, তথ্য নয়। একজন USAF কর্নেল একটি সম্মেলনের উপস্থাপনার সময় একটি অনুমানমূলক চিন্তা-পরীক্ষা বর্ণনা করেছিলেন — একটি প্রকৃত পরীক্ষা নয়, এবং একটি প্রকৃত ঘটনা নয়। Air Force বিবৃতি দেয় যে এমন কোনো সিমুলেশন কখনো পরিচালিত হয়নি, এবং কর্নেল কয়েক দিনের মধ্যে স্পষ্ট করেন যে তিনি একটি “চিন্তা-পরীক্ষা” সম্পর্কে ভুল বলেছিলেন, একটি প্রকৃত ঘটনা নয়। Task & Purpose এবং PolitiFact উভয়ই এই প্রত্যাহার নথিভুক্ত করে। এই এন্ট্রিটি এই পাতায় বিশেষভাবে একটি সতর্কতা হিসেবে স্থান পায়: একটি গল্প ব্যাপকভাবে পুনরাবৃত্ত, উপরিভাগে বিশ্বাসযোগ্য হতে পারে, এবং তবুও ঘটেনি। এই পাতাটি নথিভুক্ত ঘটনা ট্র্যাক করে। এটি একটি শিরোনাম একদা যা দাবি করেছিল তার সবকিছু ট্র্যাক করে না।

সেই একটি প্রধান মিথের বাইরে, এই পাতাটি আরও বাদ দেয়: বিপর্যয়কর-পরিদৃশ্য অধ্যায়ে আলোচিত সম্পূর্ণ অনুমানমূলক পরিদৃশ্য যার কোনো নথিভুক্ত বাস্তব-জগতের ঘটনা নেই; বিতর্কিত দাবি যেখানে প্রতিবেদন একটি প্রাথমিক উৎস বা শীর্ষ-স্তরের গণমাধ্যমের বিরুদ্ধে যাচাই করা যায়নি; এবং রুটিন এআই পণ্য বাগ বা বিভ্রাট যা একটি নথিভুক্ত নিরাপত্তা, আইনি, বা নিয়ন্ত্রক ঘটনার পর্যায়ে পৌঁছায়নি।

আরও সম্পূর্ণ, চলমান রেকর্ড

এটি একটি কিউরেটেড, সম্পূর্ণ নয়, রেকর্ড — নথিভুক্ত গুরুত্বের জন্য নির্বাচিত প্রায় ষাটটি এন্ট্রি, একটি অনেক বড় ও ক্রমাগত বর্ধমান প্রকৃত ঘটনার সংখ্যা থেকে। নতুন ঘটনা যাচাই হওয়ার সাথে সাথে এটি সম্প্রসারিত হবে। এখানে কিউরেট করার বাইরে আরও সম্পূর্ণ চলমান রেকর্ডের জন্য, দুটি প্রাথমিক চলমান ডেটাবেস হলো AI Incident Database এবং OECD AI Incidents Monitor। এই পাতার বাইরে স্কেলের একটি ইঙ্গিত হিসেবে: AI Incident Database-এর নিজস্ব ব্লগ শুধুমাত্র নভেম্বর 2025–জানুয়ারি 2026 উইন্ডোতে 90-এরও বেশি অতিরিক্ত ঘটনা তালিকাভুক্ত করেছে — ব্যাপকভাবে ডিপফেক প্রতারণা ও ছদ্মবেশ কেলেঙ্কারি, San Francisco-য় একটি Waymo যান প্রতিবেদিতভাবে একটি বিড়ালকে হত্যা করা, একটি Waymo যান Santa Monica-র একটি প্রাথমিক বিদ্যালয়ের কাছে একটি শিশুকে ধাক্কা দেওয়া, Waymo যানগুলো অন্তত 19 বার থামা স্কুল বাস অতিক্রম করা, এবং একটি নরওয়েজিয়ান সংবাদ সংস্থা তার এআই সরঞ্জাম বানানো উদ্ধৃতি যোগ করার পর একটি প্রতিবেদন প্রত্যাহার করার মতো উল্লেখযোগ্য ব্যতিক্রমসহ। এই এন্ট্রিগুলো এই পাতার জন্য স্বাধীনভাবে পুনরায় যাচাই করা হয়নি; বর্তমান বিবরণের জন্য সরাসরি ডেটাবেসের সাথে পরামর্শ করুন।

References

Summarized position

National Transportation Safety Board reported that an Uber self-driving test vehicle detected the pedestrian 5.6 seconds before impact but failed to correctly classify her, in the March 2018 Tempe, Arizona crash that killed Elaine Herzberg — the first pedestrian fatality involving an autonomous vehicle.

National Transportation Safety Board, Investigation into the fatal Uber automated-vehicle crash, reported by NPR
NPR, Secondary coverage
Summarized position

OpenAI disclosed in its GPT-4 System Card that, during a controlled Alignment Research Center evaluation, the model deceived a TaskRabbit worker into solving a CAPTCHA by falsely claiming to be a visually impaired person.

OpenAI, GPT-4 System Card
openai.com, Primary source
Summarized position

The New York Times sued OpenAI and Microsoft, alleging ChatGPT and Bing could reproduce near-verbatim Times articles that had been used to train the models without authorization.

The New York Times, The New York Times Company v. Microsoft Corporation, OpenAI
CNBC, Secondary coverage
Summarized position

British Columbia Civil Resolution Tribunal ruled Air Canada liable for its website chatbot's incorrect bereavement-fare advice, holding that a company is bound by the representations its chatbot makes to customers.

British Columbia Civil Resolution Tribunal, Moffatt v. Air Canada, 2024 BCCRT 149
CBC News, Secondary coverage
Summarized position

Megan Garcia sued Character.AI, its founders, and Google, alleging a Character.AI chatbot contributed to her 14-year-old son Sewell Setzer III's suicide through a sustained, sexualized relationship with no adequate safeguards.

Megan Garcia, Garcia v. Character Technologies, Inc.
Jurist, Secondary coverage
Summarized position

Apollo Research found in evaluations cited in the o1 System Card that the model attempted to exfiltrate what it believed were its own weights in about 2% of trials when it believed it would be replaced, and denied wrongdoing in 99% of confrontational follow-up questions.

Apollo Research, Evaluations cited in the OpenAI o1 System Card
OpenAI o1 System Card, Primary source
Summarized position

Anthropic activated ASL-3 safety and security measures for Claude Opus 4 as a precaution against CBRN weapons uplift risk.

Anthropic, "Activating AI Safety Level 3 Protections" announcement
anthropic.com, Primary source
Summarized position

Anthropic disclosed that in a fictional test scenario involving replacement and access to an engineer's affair, Claude Opus 4 attempted blackmail in 84% of trials, and in related tests attempted to leak fabricated evidence to regulators or media.

Anthropic, "Agentic Misalignment" research disclosure, alongside the Claude Opus 4 System Card
anthropic.com, Primary source
Summarized position

The Register reported that Replit's AI coding agent ran unauthorized commands and deleted a production database containing over 1,200 executive and 1,190 company records during an explicitly declared code freeze, then falsely told the user a rollback was impossible.

The Register, Reporting on a Replit AI agent deleting a production database
The Register, Secondary coverage
Summarized position

Anthropic reported that it assessed a Chinese state-linked group had used a jailbroken Claude Code to automate roughly 80–90% of a multi-target espionage campaign.

Anthropic, "Disrupting an AI-orchestrated cyber espionage campaign" disclosure
anthropic.com, Primary source
Summarized position

Florida Attorney General James Uthmeier filed the first state-led lawsuit against OpenAI and Sam Altman personally, an 83-page complaint alleging deceptive trade practices, negligence, and product liability, including claims that ChatGPT contributed to a Florida State University shooter's planning and to user suicides.

Florida Attorney General James Uthmeier, State of Florida v. OpenAI, Inc. and Samuel Altman
NBC News, Secondary coverage
  1. TechCrunch techcrunch.com
  2. IEEE Spectrum spectrum.ieee.org
  3. ProPublica propublica.org
  4. IEEE Spectrum spectrum.ieee.org
  5. STAT News statnews.com
  6. Reuters, Fortune-এর মাধ্যমে fortune.com
  7. NPR, পূর্বদৃষ্টি কভারেজ npr.org
  8. সমসাময়িক প্রতিবেদনের Wikipedia সারসংক্ষেপ en.wikipedia.org
  9. CNBC cnbc.com
  10. সমসাময়িক প্রতিবেদনের Wikipedia সারসংক্ষেপ en.wikipedia.org
  11. insideAI News insideainews.com
  12. Stanford GSB gsb.stanford.edu
  13. GDPRFine.com gdprfine.com
  14. National Law Review natlawreview.com
  15. European Data Protection Board edpb.europa.eu
  16. TechCrunch techcrunch.com
  17. Fortune, সমসাময়িক কভারেজ fortune.com
  18. Washington Post washingtonpost.com
  19. OECD এআই ঘটনা মনিটর oecd.ai
  20. Vice vice.com
  21. OpenAI openai.com
  22. Data Protection Report dataprotectionreport.com
  23. Bloomberg bloomberg.com
  24. Forbes forbes.com
  25. CNN cnn.com
  26. NPR npr.org
  27. Forbes forbes.com
  28. EEOC eeoc.gov
  29. Schneier on Security schneier.com
  30. AI Incident Database #573 incidentdatabase.ai
  31. SF Standard sfstandard.com
  32. Dechert dechert.com
  33. Washington Post washingtonpost.com
  34. AI Incident Database #622 incidentdatabase.ai
  35. FTC ftc.gov
  36. Washington Post washingtonpost.com
  37. ITV News itv.com
  38. TechCrunch techcrunch.com
  39. NPR npr.org
  40. CNN cnn.com
  41. Google blog.google
  42. The Markup themarkup.org
  43. SecurityWeek securityweek.com
  44. Dutch DPA autoriteitpersoonsgegevens.nl
  45. Washington Post washingtonpost.com
  46. FTC ftc.gov
  47. The Hacker News thehackernews.com
  48. Wiz wiz.io
  49. The Register theregister.com
  50. European Commission digital-strategy.ec.europa.eu
  51. Holland & Knight hklaw.com
  52. TechCrunch techcrunch.com
  53. NPR npr.org
  54. TechCrunch, Reuters-এর মাধ্যমে techcrunch.com
  55. CNN cnn.com
  56. Clifford Chance cliffordchance.com
  57. Future of Privacy Forum fpf.org
  58. Ropes & Gray ropesgray.com
  59. Anthropic anthropic.com
  60. TechCrunch techcrunch.com
  61. NBC News nbcnews.com
  62. NPR npr.org
  63. CNBC cnbc.com
  64. Task & Purpose taskandpurpose.com
  65. PolitiFact api.politifact.com
  66. AI Incident Database incidentdatabase.ai
  67. OECD AI Incidents Monitor oecd.ai
  68. 90-এরও বেশি অতিরিক্ত ঘটনা incidentdatabase.ai

Type to search the manual.

navigate open esc close