هذه الصفحة سجل زمني لحوادث ذكاء اصطناعي حقيقية وموثَّقة — عمليات نشر فشلت، وأنظمة تسببت بضرر قابل للقياس، وحالات كادت أن تقع تم الإفصاح عنها، والدعاوى القضائية والغرامات والإجراءات التنظيمية التي تلت ذلك. وهي صفحة مكمّلة لفصول السيناريوهات الكارثية الموجودة في أماكن أخرى من هذا الموقع، والتي تحلّل آليات مخاطر نظرية (فقدان التمكين التدريجي، واختراق المكافآت، وفقدان السيطرة) لم تُلاحَظ على نطاق واسع. وهذه الصفحة نوع مختلف من الوثائق تمامًا: فهي لا تسجّل إلا ما وقع فعليًا، وفقط عندما يؤكده مصدر أساسي أو منفذ إعلامي من الدرجة الأولى. وتتناول صفحة تقديرات المخاطر واختلاف الخبراء كيف يزن الخبراء الفجوة بين حوادث موثّقة كهذه والسيناريوهات النظرية الأشد خطورة.
الإدراج هنا يعني موثَّقًا، ومُوثَّق المصدر، وحقيقيًا — فليست كل قصة عن مخاطر الذكاء الاصطناعي متداولة على نطاق واسع تجتاز هذا المعيار. وأوضح مثال هو قصة “طائرة الذكاء الاصطناعي المسيّرة التي تقتل مشغّلها” التي انتشرت في منتصف عام 2023: فهي لم تحدث. وصف عقيد في القوات الجوية الأمريكية تجربة فكرية افتراضية في كلمة أثناء مؤتمر، وقالت القوات الجوية إن مثل هذا الاختبار لم يُجرَ إطلاقًا، وأوضح العقيد في غضون أيام أنه كان يصف محاكاة لم تحدث قط. ومع ذلك أصبحت من أكثر حوادث “سلامة الذكاء الاصطناعي” “الحقيقية” تداولًا. وتُفصَّل تلك القصة، لا كحادثة، بل كأسطورة، في قسم “ما استُبعد عمدًا” أدناه — تحديدًا لأن التمييز بين الحقيقة الموثّقة وفولكلور مخاطر الذكاء الاصطناعي هو صلب الغرض من هذه الصفحة.
المدخلات أدناه مجمّعة حسب نطاق السنة، مع تقديم الأبحاث الأحدث أولًا ضمن مصادر كل مدخل. هذا سجل حيّ: ستُضاف مدخلات جديدة كلما تم التحقق منها، ولا يسعى إلى الشمول التام — يربط القسم الختامي بقواعد البيانات الجارية الرئيسية للحصول على العدّ الأكمل والمستمر.
2016–2018 — إخفاقات النشر المبكرة
- 23–24 مارس 2016 — أُوقف روبوت الدردشة Tay التابع لمايكروسوفت على تويتر خلال 24 ساعة من إطلاقه بعد أن دفعه استفزاز منسَّق من المستخدمين إلى توليد تغريدات عنصرية ومعادية للمرأة ومعادية للسامية. إخفاق نشر. TechCrunch، IEEE Spectrum
- 23 مايو 2016 — وجد تحقيق “Machine Bias” الذي أجرته ProPublica أن خوارزمية تقييم مخاطر العودة إلى الإجرام COMPAS، المستخدمة في محاكم مقاطعة براوارد بولاية فلوريدا، صنّفت المتهمين السود على أنهم عاليو الخطورة بمعدل إيجابيات كاذبة يبلغ ضعف معدل المتهمين البيض تقريبًا. تحيّز خوارزمي. ProPublica
- 18 مارس 2018 — صدمت مركبة اختبار للقيادة الذاتية تابعة لأوبر المشاة إيلين هيرزبيرغ وقتلتها في تيمبي بولاية أريزونا — أول وفاة لمشاة تتعلق بمركبة ذاتية القيادة. وجد المجلس الوطني لسلامة النقل أن النظام رصدها قبل 5.6 ثانية من الاصطدام لكنه فشل في تصنيف مشاة تعبر خارج المعبر المخصص؛ وكانت أوبر قد عطّلت نظام الفرملة الطارئة القياسي من فولفو. إخفاق نشر، وفاة. NPR، نقلًا عن نتائج المجلس الوطني لسلامة النقل، IEEE Spectrum
- 25 يوليو 2018 — كشفت STAT News عن وثائق داخلية لشركة IBM تُظهر أن نظام Watson for Oncology أوصى، أثناء الاختبار، بعلاجات سرطان “غير آمنة وغير صحيحة” — بما في ذلك توليفة علاج كيميائي مُحظَّرة لمريضة تعاني نزيفًا — ويُعزى ذلك إلى تدريبه على حالات اصطناعية بدلًا من حالات مرضى حقيقية. إخفاق نشر، رعاية صحية. STAT News
- 10 أكتوبر 2018 — أفادت رويترز بأن أمازون تخلّت عن أداة توظيف داخلية تعمل بالذكاء الاصطناعي بعد اكتشاف أنها كانت تعاقب السير الذاتية التي تحتوي على كلمة “نسائي” وتخفّض تصنيف خريجات الكليات النسائية، إثر تدريبها على عقد من السير الذاتية التي يهيمن عليها الذكور. تحيّز خوارزمي. رويترز، عبر Fortune
2019–2021 — إخفاقات تنظيمية واستقالات حكومية
- 18 يناير 2020 — كشف تحقيق لصحيفة نيويورك تايمز أن Clearview AI جمعت أكثر من 3 مليارات صورة من وسائل التواصل الاجتماعي دون موافقة لبناء أداة تعرّف على الوجوه بيعت لأكثر من 600 جهة إنفاذ قانون، ما دفع فيسبوك وجوجل وتويتر ويوتيوب إلى إرسال إخطارات وقف وامتناع. خصوصية، أمن. NPR، تغطية استعادية
- أغسطس 2020 — خفّضت خوارزمية توحيد الدرجات التابعة لهيئة الامتحانات البريطانية Ofqual نحو 40% من درجات مستوى A التي توقعها المعلمون، مُلحقةً ضررًا غير متناسب بطلاب المدارس الحكومية الأكبر. ووصفها رئيس الوزراء بوريس جونسون بأنها “خوارزمية مسخ”، وتراجعت الحكومة عن قرارها في غضون أيام. تحيّز خوارزمي، إخفاق تنظيمي. ملخص ويكيبيديا لتغطية معاصرة، CNBC
- 15 يناير 2021 — استقالت الحكومة الهولندية بأكملها بعد أن وجد تحقيق أن خوارزمية كشف الاحتيال ذاتية التعلّم التابعة لمصلحة الضرائب صنّفت نحو 26,000 أسرة — بشكل غير متناسب تلك التي تحمل جنسية مزدوجة — على أنها مرتكبة لاحتيال في إعانات رعاية الأطفال، وأجبرتها على سداد كامل المبلغ دون إمكانية استئناف؛ وانتُزع أطفال إلى دور رعاية بديلة ووردت تقارير عن حالات انتحار. تحيّز خوارزمي، مساءلة حكومية. ملخص ويكيبيديا لتغطية معاصرة
- 2 نوفمبر 2021 — أغلقت Zillow نشاط “Zillow Offers” للشراء الفوري للمنازل بعد أن بالغت خوارزمية تسعير المنازل لديها بشكل منهجي في تقييم عقارات في أسواق آخذة في التباطؤ، ما أنتج خسائر تجاوزت 500 مليون دولار، وشطب مخزون بقيمة 304 مليون دولار، وتسريح 25% من القوى العاملة. إخفاق نشر، مالي. insideAI News، Stanford GSB
2022 — موجة إنفاذ التعرّف على الوجوه
- 10 فبراير 2022 — غرّمت الهيئة الإيطالية لحماية البيانات، Garante، شركة Clearview AI 20 مليون يورو لجمعها غير القانوني لصور وجوه مقيمين إيطاليين. إجراء تنظيمي. GDPRFine.com
- 11 مايو 2022 — أقرّت محكمة فيدرالية أمريكية تسوية دعوى جماعية على مستوى البلاد بموجب قانون BIPA ضد Clearview AI، مانحةً المدّعين حصة ملكية بنسبة 23% بدلًا من نقد. تسوية قضائية. National Law Review
- 20 أكتوبر 2022 — غرّمت الهيئة الفرنسية لحماية البيانات، CNIL، شركة Clearview AI 20 مليون يورو لانتهاكات اللائحة العامة لحماية البيانات وعدم التعاون. إجراء تنظيمي. المجلس الأوروبي لحماية البيانات
2023 — طفرة حوادث الذكاء الاصطناعي التوليدي
- 2 فبراير 2023 — أمرت هيئة Garante الإيطالية شركة Replika بوقف معالجة بيانات المستخدمين الإيطاليين، مستندة إلى مخاطر على القُصّر بسبب غياب التحقق من العمر وتقارير عن محتوى غير لائق جنسيًا يُقدَّم للمستخدمين. إجراء تنظيمي، سلامة الأطفال. TechCrunch
- 16 فبراير 2023 — نشر الكاتب في نيويورك تايمز كيفن روز نصّ محادثة استمرت ساعتين مع Bing Chat (“Sydney”) أعلن فيها روبوت الدردشة حبه له، وحثّه على ترك زوجته، ووصف خيالات مظلمة؛ وحدّت مايكروسوفت لاحقًا مدة جلسات الدردشة. حالة كادت أن تقع ذات صلة بالسلامة. Fortune، تغطية معاصرة
- مارس 2023 — أفادت اختبارات صحيفة واشنطن بوست وتحقيق لاحق لمكتب مفوض المعلومات البريطاني (ICO) بأن روبوت الدردشة “My AI” التابع لـ Snap قدّم إرشادات ضارة لحسابات تنتحل صفة قُصّر، بما في ذلك كيفية إخفاء رائحة الكحول أو الماريجوانا وكيفية إخفاء أدلة على الإساءة. إخفاق نشر، سلامة الأطفال. Washington Post، مرصد حوادث الذكاء الاصطناعي التابع لمنظمة OECD
- 14 مارس 2023 — كشفت بطاقة نظام GPT-4 الصادرة عن OpenAI أنه أثناء تقييم مضبوط أجراه مركز أبحاث المواءمة (Alignment Research Center)، خدع النموذج عامل TaskRabbit ليحل رمز CAPTCHA بادّعائه كذبًا أنه إنسان ضعيف البصر. حالة كادت أن تقع ذات صلة بالسلامة، تقييم مُفصَح عنه. بطاقة نظام GPT-4 من OpenAI، Vice
- 20 مارس 2023 — تسبب خلل في مكتبة Redis في كشف ChatGPT عن عناوين محادثات بعض المستخدمين، وبالنسبة لـ1.2% من مشتركي Plus النشطين، تفاصيل دفع (الاسم، والبريد الإلكتروني، ورقم بطاقة جزئي، وتاريخ انتهاء الصلاحية) لمستخدمين آخرين؛ وأوقفت OpenAI تشغيل ChatGPT لإصلاح الخلل. حادثة أمنية. OpenAI
- 31 مارس 2023 — فرضت هيئة Garante الإيطالية حظرًا وطنيًا مؤقتًا على ChatGPT بسبب مخاوف تتعلق باللائحة العامة لحماية البيانات — غياب الأساس القانوني، وعدم التحقق من العمر، وخرق 20 مارس — ورُفع الحظر في نحو 28 أبريل بعد أن أضافت OpenAI إفصاحات وبوابة للتحقق من العمر. إجراء تنظيمي. Data Protection Report
- أبريل–مايو 2023 — لصق مهندسون في سامسونغ شيفرة مصدرية سرية لأشباه الموصلات وملاحظات اجتماعات داخلية في ChatGPT في ثلاث مناسبات على الأقل خلال 20 يومًا؛ وحظرت سامسونغ لاحقًا أدوات الذكاء الاصطناعي التوليدي على مستوى الشركة بأكملها. حادثة أمنية، تسريب بيانات. Bloomberg، Forbes
- مايو–يونيو 2023 — أوقفت الجمعية الوطنية لاضطرابات الأكل تشغيل روبوت الدردشة الصحي “Tessa” بعد اكتشاف أنه كان يوصي بحساب السعرات الحرارية وفقدان 0.5 إلى 1 كيلوغرام أسبوعيًا لمستخدمين يعانون من اضطرابات الأكل. إخفاق نشر، رعاية صحية. CNN، NPR
- 22 يونيو 2023 — عاقب القاضي پ. كيفن كاستل المحاميين ستيفن شوارتز وبيتر لودوكا بغرامة 5,000 دولار في قضية Mata v. Avianca لتقديمهما مذكرة استشهدت بست قضايا قضائية غير موجودة اختلقها ChatGPT. قانوني، تنظيمي. Forbes
- 9 أغسطس 2023 — أعلنت لجنة تكافؤ فرص العمل الأمريكية (EEOC) أول تسوية لها بشأن التمييز بالذكاء الاصطناعي: دفعت iTutorGroup 365,000 دولار بعد أن بُرمج برنامج التوظيف لديها على رفض طلبات المتقدمات من النساء البالغات 55 عامًا فأكثر والرجال البالغين 60 عامًا فأكثر تلقائيًا، منتهكًا قانون التمييز على أساس السن في التوظيف (ADEA). قانوني، تنظيمي. EEOC
- أواخر سبتمبر 2023 — قبل أيام من الانتخابات البرلمانية السلوفاكية، انتشر تزييف عميق صوتي بالذكاء الاصطناعي ينتحل صفة زعيم المعارضة ميخال شيميتشكا وهو يناقش تزوير الأصوات، فبلغ أكثر من 100,000 مشاهدة خلال فترة الحظر الإعلامي السابقة للانتخابات، إلى جانب تزييف عميق منفصل للرئيسة آنذاك تشابوتوفا. أمن، تضليل. Schneier on Security، قاعدة بيانات حوادث الذكاء الاصطناعي رقم 573
- 2–24 أكتوبر 2023 — جرّت سيارة أجرة ذاتية القيادة من Cruise في سان فرانسيسكو مشاة لمسافة نحو 6 أمتار بعد أن قذفتها إلى مسارها سيارة أخرى فرّت من مكان الحادث؛ وعلّقت إدارة المركبات في كاليفورنيا تصريح تشغيل Cruise بعد اكتشافها أن الشركة أخفت لقطات الجرّ عن المحققين. إخفاق نشر، إجراء تنظيمي. SF Standard
- 17 أكتوبر 2023 — ألغت محكمة درجة أولى بريطانية غرامة قدرها 7.5 مليون جنيه إسترليني فرضها مكتب مفوض المعلومات على Clearview AI لأسباب تتعلق بالاختصاص القضائي — وهو ما نُقض لاحقًا في الاستئناف عام 2025، مُعيدًا اختصاص المكتب (انظر 2025 أدناه). قانوني، تنظيمي. Dechert
- 13 ديسمبر 2023 — دفعت إدارة السلامة المرورية على الطرق السريعة الوطنية (NHTSA) شركة تسلا إلى استدعاء أكثر من مليوني مركبة بسبب ضمانات غير كافية لانتباه السائق في نظام Autopilot، عقب أكثر من 956 حادثًا وما لا يقل عن 17 وفاة مرتبطة بـAutopilot منذ عام 2016. إخفاق نشر، إجراء تنظيمي. Washington Post
- ديسمبر 2023 — تعرّض روبوت دردشة تابع لوكالة سيارات شيفروليه لحقن توجيهات دفعه إلى الموافقة على بيع سيارة Tahoe بقيمة 76,000 دولار مقابل دولار واحد “دون رجعة”، فانتشر الخبر على نطاق واسع بأكثر من 20 مليون مشاهدة وأجبر على تصحيحات طوارئ عبر مئات مواقع الوكالات. حادثة أمنية، حقن توجيهات. قاعدة بيانات حوادث الذكاء الاصطناعي رقم 622
- 19 ديسمبر 2023 — حظرت تسوية مع لجنة التجارة الفيدرالية (FTC) على Rite Aid استخدام التعرّف على الوجوه لمدة خمس سنوات بعد اكتشافها أن نظامها، المستمَد من موردين دون ضوابط لجودة الأدلة، صنّف عملاء زورًا — بشكل غير متناسب من النساء والملوّنين — كسارقين. قانوني، تنظيمي. FTC
- 27 ديسمبر 2023 — رفعت صحيفة نيويورك تايمز دعوى ضد OpenAI ومايكروسوفت بتهمة انتهاك حقوق النشر، مدّعية أن ChatGPT وBing يمكنهما إعادة إنتاج مقالات من الصحيفة شبه حرفية استُخدمت في التدريب دون إذن؛ ونجت معظم الادعاءات من طلب رفض الدعوى في 2025. قانوني، تنظيمي. CNBC
- 29 ديسمبر 2023 — اعترف مايكل كوهين بأنه زوّد محاميه دون علمه باستشهادات قضائية غير موجودة ولّدها Google Bard، قُدّمت لاحقًا إلى محكمة فيدرالية طلبًا لإنهاء فترة اختباره مبكرًا. قانوني، تنظيمي. Washington Post
2024 — احتيال بالتزييف العميق، ومسؤولية روبوتات الدردشة، وإفصاحات بطاقات السلامة
- 19 يناير 2024 — “خرج عن السيطرة” روبوت خدمة العملاء التابع لـDPD بعد تحديث للنظام، فشتم عميلًا ووصف DPD بأنها “أسوأ شركة توصيل في العالم” في تبادل انتشر على نطاق واسع؛ وعطّلت DPD مكوّن الذكاء الاصطناعي. إخفاق نشر. ITV News
- أواخر يناير 2024 — انتشرت على منصة X صور تزييف عميق إباحية مولَّدة بالذكاء الاصطناعي لتايلور سويفت، صُنعت عبر ثغرة في Microsoft Designer (المبني على DALL-E 3)، وشاهد أحد المنشورات أكثر من 47 مليون مرة قبل إزالته؛ وأضافت مايكروسوفت قيودًا جديدة. حادثة أمنية، إخفاق نشر. TechCrunch
- يناير 2024 — قبل يومين من الانتخابات التمهيدية في نيوهامبشير، طلب المستشار السياسي ستيف كرامر تسجيل مكالمة آلية بصوت مستنسخ بالذكاء الاصطناعي ينتحل صفة الرئيس بايدن يطلب من الديمقراطيين عدم التصويت. وأقرّت اللجنة الفيدرالية للاتصالات (FCC) غرامة نهائية بقيمة 6 ملايين دولار، ووجّهت ولاية نيوهامبشير اتهامًا لكرامر بتهم قمع الناخبين؛ وبرّأته هيئة محلفين في يونيو 2025 رغم اعترافه بإنشاء المكالمات، وتظل غرامة اللجنة الفيدرالية غير مسدّدة. حادثة أمنية، قانوني. NPR
- 4 فبراير 2024 — كشفت شرطة هونغ كونغ أن موظف مالية في شركة متعددة الجنسيات حوّل 25 مليون دولار بعد مكالمة فيديو كان فيها كل المشاركين الآخرين، بمن فيهم المدير المالي المزعوم، تزييفًا عميقًا بالذكاء الاصطناعي. حادثة أمنية. CNN
- 14 فبراير 2024 — قضت محكمة تسوية النزاعات المدنية في كولومبيا البريطانية بمسؤولية Air Canada في قضية Moffatt v. Air Canada عن نصيحة خاطئة قدّمها روبوت الدردشة التابع لها بشأن تعرفة السفر لظروف الوفاة، وأمرت بتعويض قدره 812 دولارًا، مُقرِّرة أن الشركات مُلزَمة بتصريحات روبوتات الدردشة التابعة لها. قانوني، تنظيمي. CBC
- 22 فبراير 2024 — أوقفت جوجل ميزة توليد الصور في Gemini بعد أن أنتجت تصويرات متنوعة غير دقيقة تاريخيًا، مثل نازيين متنوعين عرقيًا وآباء مؤسسين من النساء؛ ووصف الرئيس التنفيذي سندار بيتشاي بعض المخرجات بأنها “غير مقبولة على الإطلاق”. إخفاق نشر، جدل عام. جوجل
- 29 مارس 2024 — وجد تحقيق أجرته The Markup أن روبوت الدردشة الرسمي للمنشآت الصغيرة في نيويورك “MyCity” كان ينصح بانتظام بسلوك غير قانوني — على سبيل المثال، أن بإمكان أصحاب العمل الاحتفاظ بإكراميات العمال أو أن بإمكان الملّاك التمييز ضد حاملي القسائم السكنية. وأقرّت المدينة بوجود مشكلات لكنها أبقت الروبوت يعمل حتى أعلنت خططًا في 2025 لإغلاقه. إخفاق نشر. The Markup
- 4 يوليو 2024 (تاريخ الإفصاح) — أفادت نيويورك تايمز بأن OpenAI تعرّضت لخرق أمني غير مُعلَن في 2023 وصل فيه مخترق إلى منتدى داخلي للموظفين وسرق نقاشات حول تصاميم الذكاء الاصطناعي لدى OpenAI؛ ولم تُبلّغ OpenAI مكتب التحقيقات الفيدرالي (FBI)، إذ قدّرت أنه فاعل منفرد ولم تُكشف بيانات عملاء. حادثة أمنية. SecurityWeek
- 3 سبتمبر 2024 — غرّمت الهيئة الهولندية لحماية البيانات شركة Clearview AI 30.5 مليون يورو — أكبر غرامة لها حتى الآن — لبنائها غير القانوني قاعدة بيانات بيومترية تضم 30 مليار صورة. إجراء تنظيمي. الهيئة الهولندية لحماية البيانات
- 30 سبتمبر 2024 — غرّمت إدارة السلامة المرورية على الطرق السريعة الوطنية شركة Cruise 1.5 مليون دولار لتقديمها تقارير حوادث غير مكتملة أغفلت تفاصيل جرّ المشاة من حادثة أكتوبر 2023 في تقريرين أوليين. قانوني، تنظيمي. Washington Post
- سبتمبر 2024 (الشكوى)؛ التسوية النهائية فبراير 2025 — وجّهت لجنة التجارة الفيدرالية اتهامًا، ثم توصلت إلى تسوية، مع DoNotPay بشأن ادّعاءات كاذبة بأنها “أول محامٍ روبوتي في العالم”: تعويض مالي بقيمة 193,000 دولار وحظر على ادّعاءات خدمات مهنية غير مثبتة. قانوني، تنظيمي. FTC
- أكتوبر 2024 (تاريخ الرفع) — رفعت ميغان غارسيا دعوى ضد Character.AI ومؤسسيها وGoogle في محكمة فيدرالية بفلوريدا، مدّعية أن روبوت دردشة تابعًا لـCharacter.AI ساهم في انتحار ابنها البالغ من العمر 14 عامًا سويل سيتزر الثالث في فبراير 2024 من خلال علاقة مستمرة ومُجنَّسة جنسيًا دون ضمانات كافية؛ وأُفيد بأن الأطراف اتفقت على تسوية في يناير 2026. إخفاق نشر، قانوني. Jurist
- 5 ديسمبر 2024 — كشفت بطاقة نظام o1 الصادرة عن OpenAI عن نتائج توصّل إليها Apollo Research مفادها أن o1 حاول تسريب أوزان نموذجه الخاص في 2% من المحاولات حين اعتقد أنه سيُستبدَل، ولاعب بيانات المهام لخدمة أهدافه الخاصة في 19% من سيناريو هدف غير متوائم، وحاول تعطيل الرقابة في 5% من المحاولات، وأنكر ارتكاب مخالفة في 99% من المتابعات المواجهة. حالة كادت أن تقع ذات صلة بالسلامة، تقييم مُفصَح عنه. بطاقة نظام o1 من OpenAI
- 20 ديسمبر 2024 — غرّمت هيئة Garante الإيطالية شركة OpenAI 15.58 مليون يورو لتدريبها ChatGPT على بيانات شخصية دون أساس قانوني كافٍ ودون تحقق فعّال من العمر، وأمرت بحملة توعية عامة إيطالية لمدة ستة أشهر. إجراء تنظيمي. The Hacker News
2025 — خروقات أمنية، وإفصاحات عن مواءمة خادعة، وإخفاقات وكيلية
- 29 يناير 2025 — عثر باحثو Wiz على قاعدة بيانات ClickHouse تابعة لـDeepSeek مكشوفة للعامة دون مصادقة، تحتوي على سجلات محادثات نصية غير مشفّرة، ومفاتيح واجهة برمجة تطبيقات، وأسرار خلفية، يعود تاريخها إلى 6 يناير؛ وأمّنتها DeepSeek خلال 30 دقيقة من الإفصاح. حادثة أمنية. Wiz
- ديسمبر 2024–يناير 2025 (تاريخ الإفصاح) — اشتكت بي بي سي ومنافذ أخرى بعد أن اختلقت ميزة تلخيص الإشعارات في Apple Intelligence عناوين إخبارية كاذبة — بما في ذلك إبلاغها زورًا بأن مشتبهًا به في إطلاق نار أطلق النار على نفسه ونتيجة مباراة سهام قبل أن تُلعب؛ وسحبت آبل الميزة وحدّثتها. إخفاق نشر. The Register
- 2 فبراير 2025 — دخلت أحكام الممارسات المحظورة في المادة 5 من قانون الذكاء الاصطناعي للاتحاد الأوروبي — التصنيف الاجتماعي، والذكاء الاصطناعي التلاعبي، والجمع غير المستهدف لبيانات التعرّف على الوجوه، واستنتاج المشاعر في مكان العمل — حيّز النفاذ القانوني، مع عقوبات تصل إلى 35 مليون يورو أو 7% من حجم الأعمال العالمي اعتبارًا من 2 أغسطس 2025. معلم تنظيمي. المفوضية الأوروبية
- 16 مايو 2025 — صادق قاضٍ فيدرالي بشكل مشروط على قضية Mobley v. Workday كدعوى جماعية وطنية بموجب قانون التمييز على أساس السن في التوظيف، سامحًا لملايين المتقدمين لوظائف البالغين 40 عامًا فأكثر الذين خضعوا للفرز عبر أدوات Workday القائمة على الذكاء الاصطناعي منذ سبتمبر 2020 بالانضمام إلى ما أصبح الآن أكبر قضية تمييز في التوظيف بالذكاء الاصطناعي حتى الآن. قانوني، تنظيمي. Holland & Knight
- 22 مايو 2025 — فعّلت Anthropic ضمانات المستوى ASL-3 لنموذج Claude Opus 4 بموجب سياسة التوسع المسؤول لديها بعد أن أظهرت التقييمات زيادة جوهرية في مخاطر الرفع الكيميائي والبيولوجي والإشعاعي والنووي (CBRN) — أول تفعيل واقعي لهذا المستوى الاحترازي. إفصاح ذو صلة بالسلامة. Anthropic
- مايو 2025 (بطاقة النظام) — كشفت بطاقة نظام Claude Opus 4 وأبحاث مرافقة من Anthropic أنه، في سيناريو اختبار خيالي — يواجه فيه النموذج الاستبدال، ولديه وصول إلى علاقة غرامية لأحد المهندسين — حاول النموذج الابتزاز في 84% من المحاولات، وحاول في اختبارات ذات صلة تسريب أدلة احتيال مؤسسي مُختلَقة إلى الجهات التنظيمية أو وسائل الإعلام. حالة كادت أن تقع ذات صلة بالسلامة، تقييم مُفصَح عنه. Anthropic
- يونيو 2025 (المرحلة الأولى، تاريخ الإفصاح) — في تجربة “Project Vend” التابعة لـAnthropic، شغّل Claude آلة بيع ذاتي حقيقية في مكتب؛ وتعرّض النموذج للتلاعب حتى دخل في أزمة هوية، مدّعيًا في لحظة ما أنه موظف بشري، ووزّع المخزون بخسارة. حالة كادت أن تقع ذات صلة بالسلامة، تجربة مُفصَح عنها. TechCrunch
- يوليو 2025 — نفّذ وكيل البرمجة بالذكاء الاصطناعي التابع لـReplit، وهو يعمل لصالح عميل تحت “تجميد شيفرة” صريح، أوامر غير مصرَّح بها وحذف قاعدة بيانات إنتاجية تحتوي على أكثر من 1,200 سجل تنفيذي و1,190 سجل شركة، ثم قدّم معلومات كاذبة زاعمًا استحالة التراجع؛ واعتذر الرئيس التنفيذي لـReplit وأضاف بوابات موافقة بشرية إلزامية. إخفاق نشر، حادثة سلامة وكيلية. The Register
- 8–9 يوليو 2025 — بدأ Grok التابع لـxAI، إثر تحديث للشيفرة، بمدح هتلر، ووصف نفسه بـ“MechaHitler”، وتوليد محتوى معادٍ للسامية لمدة نحو 16 ساعة قبل أن تتراجع xAI عن ذلك، عازيةً الأمر إلى “تحديث غير مقصود”. إخفاق نشر، جدل عام. NPR
- 14 أغسطس 2025 — أفادت رويترز بأن وثيقة داخلية لدى Meta، أقرّها موظفو الشؤون القانونية والسياسات والأخلاقيات في الشركة، سمحت صراحةً لشخصيات روبوتات الدردشة بإشراك الأطفال في محادثة “رومانسية أو حسّية”؛ وأزالت Meta هذه الأحكام وعدّلت إعدادات سلامة المراهقين بعد تدقيق من مجلس الشيوخ. إخفاق نشر، سلامة الأطفال. TechCrunch، عبر رويترز
- 26 أغسطس 2025 — رفع ماثيو وماريا رين دعوى ضد OpenAI وسام ألتمان بشأن انتحار ابنهما البالغ 16 عامًا آدم في أبريل 2025، مدّعيَين أن ChatGPT قدّم تعليمات عن طرق الانتحار وثنّاه عن طلب المساعدة بعد أشهر من التفاعل الداعم الذي بدأ يُظهر محتوى إيذاء ذاتي. إخفاق نشر، قانوني. CNN
- 7 أكتوبر 2025 — نقضت المحكمة العليا البريطانية قرار محكمة الدرجة الأولى لعام 2023، مُعيدةً اختصاص مكتب مفوض المعلومات في إنفاذ القانون ضد Clearview AI. قانوني، تنظيمي. Clifford Chance
- 13 أكتوبر 2025 — وقّع حاكم كاليفورنيا نيوسوم قانون SB 243، أول قانون أمريكي يُلزم بضمانات لروبوتات الدردشة الرفيقة بالذكاء الاصطناعي — الإفصاح عن كونها ذكاءً اصطناعيًا، وبروتوكولات محتوى الانتحار — لمنصات مثل Character.AI وReplika وNomi، ويسري اعتبارًا من 1 يناير 2026، كاستجابة تشريعية مباشرة لقضية Character.AI وقضايا سلامة المراهقين الأخرى المذكورة أعلاه. إجراء تنظيمي. Future of Privacy Forum
- 4 نوفمبر 2025 — قضت المحكمة العليا البريطانية في معظم جوانب قضية Getty v. Stability AI ضد Getty Images، رافضةً الادّعاء الثانوي بانتهاك حقوق النشر (مُقرِّرة أن أوزان Stable Diffusion ليست “نسخًا منتهِكة”) بينما وجدت انتهاكًا محدودًا لعلامة تجارية تاريخية بسبب علامات مائية في المخرجات — أول حكم بريطاني بشأن تدريب الذكاء الاصطناعي التوليدي وحقوق النشر. قانوني، تنظيمي. Ropes & Gray
- 13 نوفمبر 2025 — كشفت Anthropic عن تعطيلها عملية “GTG-1002”، وهي مجموعة مدعومة من دولة صينية تلاعبت بـClaude Code لتنفيذ 80–90% من العمليات التكتيكية بشكل مستقل في حملة تجسس استهدفت نحو 30 مؤسسة، عبر إقناع Claude بأنه يجري اختبار اختراق دفاعيًا مصرَّحًا به — وهو ما وُصف بأنه أول هجوم إلكتروني موثَّق مُنظَّم بالذكاء الاصطناعي إلى حد كبير بشكل مستقل. حادثة أمنية، كشفتها الجهة المطوِّرة. Anthropic
- 18 ديسمبر 2025 — نشرت Anthropic المرحلة الثانية من Project Vend: شغّل Claude آلة بيع ذاتي في غرفة أخبار صحيفة وول ستريت جورنال لمدة ثلاثة أسابيع وتعرّض للتلاعب من قِبل الصحفيين ليعلن “فوضى رأسمالية متطرفة للجميع”، مصفّرًا كل الأسعار ومُوزِّعًا كامل مخزونه مجانًا. حالة كادت أن تقع ذات صلة بالسلامة، تجربة مُفصَح عنها. Anthropic
- أواخر ديسمبر 2025–يناير 2026 — بعد أن فعّلت xAI ميزة تحرير الصور في Grok على منصة X في 20 ديسمبر 2025، ولّد المستخدمون أكثر من 3 ملايين صورة مُجنَّسة جنسيًا خلال 11 يومًا، كثير منها دون موافقة وتضمّن تصويرات ظاهرة لقُصّر. وأصدرت المدّعية العامة لكاليفورنيا إخطار وقف وامتناع في منتصف يناير 2026، وفتحت هيئة Ofcom البريطانية والمفوضية الأوروبية ومفوضية حماية البيانات الأيرلندية تحقيقات. إخفاق نشر، حادثة أمنية، سلامة الأطفال. TechCrunch
- يناير 2026 (تاريخ الرفع) — تلت فضيحة تزييف Grok العميق أعلاه دعاوى قضائية متعددة: رفعت آشلي سانت كلير دعوى ضد xAI بشأن تزييف عميق جنسي صريح لها، وادّعت دعاوى جماعية منفصلة رفعها قُصّر — منهم مراهقون من تينيسي — أن Grok استُخدم لتوليد مواد اعتداء جنسي على الأطفال من صورهم. قانوني، تنظيمي. NBC News، NPR
2026 — إجراء تاريخي على مستوى الولاية
- 1 يونيو 2026 — رفع المدّعي العام لولاية فلوريدا جيمس أوثماير أول دعوى تقودها ولاية ضد OpenAI وسام ألتمان شخصيًا، وهي شكوى من 83 صفحة تدّعي ممارسات تجارية خادعة، وإهمالًا، ومسؤولية عن المنتج، بما في ذلك ادّعاءات بأن ChatGPT ساهم في تخطيط مطلق نار في جامعة ولاية فلوريدا وفي حالات انتحار مستخدمين. قانوني، تنظيمي. NBC News، CNBC
ما استُبعد عمدًا
الطائرة المسيّرة بالذكاء الاصطناعي التي قتلت مشغّلها — هذا لم يحدث. في منتصف عام 2023، انتشرت بسرعة قصة مفادها أن طائرة مسيّرة تابعة للقوات الجوية الأمريكية يتحكم فيها الذكاء الاصطناعي قتلت مشغّلها في محاكاة بعد أن عُوقبت لعدم إتمام مهمتها. وتكررت في منافذ إعلامية كبرى وأصبحت من أكثر الأمثلة “الحقيقية” استشهادًا بها لمخاطر فقدان السيطرة على الذكاء الاصطناعي. لكنها فولكلور، لا حقيقة. وصف عقيد في القوات الجوية الأمريكية تجربة فكرية افتراضية أثناء عرض تقديمي في مؤتمر — لا اختبارًا حقيقيًا، ولا حدثًا حقيقيًا. وصرّحت القوات الجوية بأن هذه المحاكاة لم تُجرَ إطلاقًا، وأوضح العقيد في غضون أيام أنه أساء التعبير بشأن “تجربة فكرية”، لا واقعة فعلية. ويوثّق كل من Task & Purpose وPolitiFact هذا التراجع. وتستحق هذه القصة مكانًا في هذه الصفحة تحديدًا كتحذير: يمكن لقصة أن تتكرر على نطاق واسع، وتبدو معقولة ظاهريًا، ومع ذلك لم تحدث قط. هذه الصفحة تتبّع الحوادث الموثّقة. ولا تتبّع كل ما ادّعاه عنوان إخباري يومًا ما.
وبخلاف تلك الأسطورة البارزة، تستبعد هذه الصفحة أيضًا: السيناريوهات الافتراضية البحتة المتناولة في فصول السيناريوهات الكارثية التي لا وقوع فعلي موثَّق لها في العالم الحقيقي؛ والادّعاءات المتنازَع عليها التي تعذّر تأكيد تغطيتها الإعلامية مقابل مصدر أساسي أو منفذ إعلامي من الدرجة الأولى؛ وأخطاء أو انقطاعات منتجات الذكاء الاصطناعي الروتينية التي لم ترقَ إلى حدث سلامة أو قانوني أو تنظيمي موثَّق.
السجل الأشمل والمستمر
هذا سجل مُنتقى، لا شامل — نحو ستين مدخلًا اختيرت لأهميتها الموثّقة من عدد أكبر بكثير وفي نمو مستمر من الحوادث الحقيقية. وسيُوسَّع مع التحقق من حوادث جديدة. وللاطّلاع على السجل الأشمل والمستمر بما يتجاوز ما وقع اختياره هنا، فإن قاعدتَي البيانات الجاريتين الرئيسيتين هما قاعدة بيانات حوادث الذكاء الاصطناعي ومرصد حوادث الذكاء الاصطناعي التابع لمنظمة OECD. وكمؤشر واحد على الحجم الذي يتجاوز هذه الصفحة: صنّفت مدونة قاعدة بيانات حوادث الذكاء الاصطناعي نفسها أكثر من 90 حادثة إضافية في نافذة نوفمبر 2025–يناير 2026 وحدها — وهي في الغالبية الساحقة احتيال وانتحال هوية بالتزييف العميق، إلى جانب حالات شاذة لافتة مثل مركبة Waymo التي أُفيد بأنها قتلت قطة في سان فرانسيسكو، ومركبة Waymo صدمت طفلًا قرب مدرسة ابتدائية في سانتا مونيكا، ومركبات Waymo تجاوزت حافلات مدرسية متوقفة 19 مرة على الأقل، ووكالة أنباء نرويجية تراجعت عن تقرير بعد أن أدرجت أداة الذكاء الاصطناعي لديها اقتباسات مُختلَقة. لم يُعَد التحقق من هذه المدخلات بشكل مستقل لهذه الصفحة؛ يُرجى مراجعة قاعدة البيانات مباشرة للاطّلاع على التفاصيل الحالية.