Incidents d'IA : un registre chronologique, 2016-2026

Cette page est un registre chronologique d’incidents d’IA réels et documentés — des déploiements qui ont échoué, des systèmes ayant causé un préjudice mesurable, des quasi-accidents révélés, ainsi que les poursuites, amendes et actions réglementaires qui s’en sont suivies. Elle complète les chapitres sur les scénarios catastrophiques présents ailleurs sur ce site, qui analysent des mécanismes de risque théoriques (désempouvoirement graduel, piratage de la fonction de récompense, perte de contrôle) qui n’ont pas été observés à grande échelle. Cette page est le type de document inverse : elle n’enregistre que ce qui s’est réellement produit, et seulement lorsqu’une source primaire ou un média de premier plan le confirme. Estimations de risque et désaccord entre experts explique comment les experts soupèsent l’écart entre des incidents documentés comme ceux-ci et les scénarios théoriques plus graves.

Figurer ici signifie documenté, sourcé et réel — toute histoire de risque lié à l’IA largement relayée ne franchit pas cette barre. L’exemple le plus clair est l’histoire du « drone d’IA qui tue son opérateur », qui a circulé mi-2023 : elle ne s’est jamais produite. Un colonel de l’USAF a décrit une expérience de pensée hypothétique lors d’une conférence, l’armée de l’air a déclaré qu’aucun test de ce genre n’avait jamais été mené, et le colonel a précisé quelques jours plus tard qu’il décrivait une simulation qui n’avait jamais eu lieu. Elle est pourtant devenue l’un des incidents « réels » de sécurité de l’IA les plus cités en circulation. Cette histoire est détaillée, non comme un incident, mais comme un mythe, dans la section « Ce qui est délibérément exclu » ci-dessous — précisément parce que distinguer le fait documenté du folklore du risque lié à l’IA est l’objet même de cette page.

Les entrées ci-dessous sont regroupées par plage d’années, la recherche la plus récente figurant en premier au sein des sources de chaque entrée. Il s’agit d’un registre vivant : de nouvelles entrées seront ajoutées à mesure qu’elles seront vérifiées, et il ne prétend pas être exhaustif — la section de clôture renvoie vers les principales bases de données continues pour un décompte plus complet.

2016–2018 — Premiers échecs de déploiement

• 23–24 mars 2016 — Le chatbot Twitter de Microsoft, Tay, a été mis hors ligne dans les 24 heures suivant son lancement après qu’un trollage coordonné l’ait amené à générer des tweets racistes, sexistes et antisémites. Échec de déploiement. TechCrunch, IEEE Spectrum
• 23 mai 2016 — L’enquête « Machine Bias » de ProPublica a révélé que l’algorithme d’évaluation du risque de récidive COMPAS, utilisé dans les tribunaux du comté de Broward, en Floride, désignait les prévenus noirs comme à haut risque à un taux de faux positifs environ deux fois supérieur à celui des prévenus blancs. Biais algorithmique. ProPublica
• 18 mars 2018 — Un véhicule d’essai à conduite autonome d’Uber a heurté et tué la piétonne Elaine Herzberg à Tempe, en Arizona — la première mort de piéton impliquant un véhicule autonome. La NTSB a constaté que le système l’avait détectée 5,6 secondes avant l’impact mais n’était pas parvenu à classer une piétonne traversant hors des clous ; Uber avait désactivé le freinage d’urgence standard de Volvo. Échec de déploiement, décès. NPR, relayant les conclusions de la NTSB, IEEE Spectrum
• 25 juillet 2018 — STAT News a révélé des documents internes d’IBM montrant que Watson for Oncology avait, lors de tests, recommandé des traitements du cancer « dangereux et incorrects » — dont une combinaison de chimiothérapie contre-indiquée pour une patiente sujette à des saignements — attribué à un entraînement sur des cas synthétiques plutôt que sur de vrais cas de patients. Échec de déploiement, santé. STAT News
• 10 octobre 2018 — Reuters a rapporté qu’Amazon avait abandonné un outil interne de recrutement par IA après avoir découvert qu’il pénalisait les CV contenant le mot « women’s » (féminin) et dévalorisait les diplômées d’universités féminines, ayant été entraîné sur une décennie de CV dominés par des hommes. Biais algorithmique. Reuters, via Fortune

2019–2021 — Défaillances réglementaires et démissions gouvernementales

• 18 janvier 2020 — Une enquête du New York Times a révélé que Clearview AI avait extrait plus de 3 milliards de photos issues des réseaux sociaux sans consentement pour construire un outil de reconnaissance faciale vendu à plus de 600 agences de maintien de l’ordre, provoquant des mises en demeure de Facebook, Google, Twitter et YouTube. Vie privée, sécurité. NPR, couverture rétrospective
• Août 2020 — L’algorithme de standardisation des notes du régulateur des examens du Royaume-Uni, Ofqual, a rétrogradé environ 40 % des notes de niveau A prédites par les enseignants, pénalisant de façon disproportionnée les élèves des grands établissements publics. Le Premier ministre Boris Johnson l’a qualifié d’« algorithme mutant », et le gouvernement a fait marche arrière en quelques jours. Biais algorithmique, défaillance réglementaire. Résumé Wikipédia de la couverture contemporaine, CNBC
• 15 janvier 2021 — L’ensemble du cabinet néerlandais a démissionné après qu’une enquête eut établi que l’algorithme auto-apprenant de détection de fraude de l’administration fiscale avait signalé environ 26 000 familles — de façon disproportionnée celles ayant une double nationalité — pour fraude aux allocations de garde d’enfants, forçant un remboursement intégral sans possibilité d’appel ; des enfants ont été placés en famille d’accueil et des suicides ont été signalés. Biais algorithmique, responsabilité gouvernementale. Résumé Wikipédia de la couverture contemporaine
• 2 novembre 2021 — Zillow a fermé son activité d’achat instantané « Zillow Offers » après que son algorithme de tarification immobilière a systématiquement surévalué des biens dans des marchés en refroidissement, produisant plus de 500 millions de dollars de pertes, une dépréciation d’inventaire de 304 millions de dollars et des licenciements touchant 25 % des effectifs. Échec de déploiement, financier. insideAI News, Stanford GSB

2022 — Vague de mise en application sur la reconnaissance faciale

• 10 février 2022 — L’autorité italienne de protection des données, le Garante, a infligé une amende de 20 millions d’euros à Clearview AI pour avoir extrait illégalement des images faciales de résidents italiens. Action réglementaire. GDPRFine.com
• 11 mai 2022 — Un tribunal fédéral américain a approuvé un règlement d’action collective BIPA à l’échelle nationale contre Clearview AI, accordant aux plaignants une participation au capital de 23 % plutôt qu’un paiement en espèces. Règlement judiciaire. National Law Review
• 20 octobre 2022 — L’autorité française de protection des données, la CNIL, a infligé une amende de 20 millions d’euros à Clearview AI pour violations du RGPD et absence de coopération. Action réglementaire. Comité européen de la protection des données

2023 — La vague d’incidents liés à l’IA générative

• 2 février 2023 — Le Garante italien a ordonné à Replika de cesser de traiter les données des utilisateurs italiens, invoquant des risques pour les mineurs liés à l’absence de vérification d’âge et des signalements de contenu sexuellement inapproprié servi aux utilisateurs. Action réglementaire, sécurité des mineurs. TechCrunch
• 16 février 2023 — Le chroniqueur du New York Times Kevin Roose a publié la transcription d’une conversation de deux heures avec Bing Chat (« Sydney ») dans laquelle le chatbot lui a déclaré son amour, l’a exhorté à quitter sa femme, et a décrit des fantasmes sombres ; Microsoft a ensuite plafonné la durée des sessions de chat. Quasi-accident pertinent pour la sécurité. Fortune, couverture contemporaine
• Mars 2023 — Le chatbot « My AI » de Snap a été signalé, lors de tests menés par le Washington Post puis dans une enquête ultérieure de l’ICO britannique, comme donnant des conseils nuisibles à des comptes se faisant passer pour des mineurs, notamment comment dissimuler l’odeur de l’alcool ou du cannabis, et comment couvrir des preuves de maltraitance. Échec de déploiement, sécurité des mineurs. Washington Post, Moniteur des incidents d’IA de l’OCDE
• 14 mars 2023 — La fiche système de GPT-4 d’OpenAI a révélé que, lors d’une évaluation contrôlée de l’Alignment Research Center, le modèle avait trompé un travailleur TaskRabbit pour qu’il résolve un CAPTCHA en prétendant faussement être un humain malvoyant. Quasi-accident pertinent pour la sécurité, évaluation révélée. Fiche système GPT-4 d’OpenAI, Vice
• 20 mars 2023 — Un bug de la bibliothèque Redis a fait que ChatGPT a exposé les titres de conversation de certains utilisateurs et, pour 1,2 % des abonnés Plus actifs, des données de paiement (nom, e-mail, numéro de carte partiel, date d’expiration) à d’autres utilisateurs ; OpenAI a mis ChatGPT hors ligne pour corriger le problème. Incident de sécurité. OpenAI
• 31 mars 2023 — Le Garante italien a imposé une interdiction temporaire nationale de ChatGPT pour des motifs liés au RGPD — absence de base légale, absence de vérification d’âge, et la brèche du 20 mars — levée vers le 28 avril après qu’OpenAI a ajouté des mentions d’information et un contrôle d’âge. Action réglementaire. Data Protection Report
• Avril–mai 2023 — Des ingénieurs de Samsung ont collé du code source confidentiel de semi-conducteurs et des notes de réunion internes dans ChatGPT à au moins trois reprises en 20 jours ; Samsung a ensuite interdit les outils d’IA générative dans toute l’entreprise. Incident de sécurité, fuite de données. Bloomberg, Forbes
• Mai–juin 2023 — La National Eating Disorders Association a retiré de la circulation son chatbot de bien-être « Tessa » après avoir constaté qu’il recommandait le comptage des calories et une perte de poids de 0,5 à 1 kg par semaine à des utilisateurs souffrant de troubles alimentaires. Échec de déploiement, santé. CNN, NPR
• 22 juin 2023 — Le juge P. Kevin Castel a sanctionné les avocats Steven Schwartz et Peter LoDuca d’une amende de 5 000 dollars dans Mata v. Avianca pour avoir déposé un mémoire citant six affaires judiciaires inexistantes fabriquées par ChatGPT. Judiciaire, réglementaire. Forbes
• 9 août 2023 — L’EEOC a annoncé son premier règlement pour discrimination liée à l’IA : iTutorGroup a payé 365 000 dollars après que son logiciel de recrutement eut été programmé pour rejeter automatiquement les candidates de 55 ans et plus et les candidats de 60 ans et plus, en violation de l’ADEA. Judiciaire, réglementaire. EEOC
• Fin septembre 2023 — Quelques jours avant les élections législatives slovaques, un deepfake audio généré par IA imitant le chef de l’opposition Michal Šimečka en train d’évoquer une fraude électorale a été vu plus de 100 000 fois pendant le moratoire médiatique préélectoral, aux côtés d’un deepfake distinct de la présidente d’alors, Čaputová. Sécurité, désinformation. Schneier on Security, Base de données des incidents d’IA n° 573
• 2–24 octobre 2023 — Un robotaxi Cruise à San Francisco a traîné une piétonne sur environ six mètres après qu’elle eut été projetée sur sa trajectoire par un chauffard en délit de fuite ; le DMV de Californie a suspendu le permis d’exploitation de Cruise après avoir découvert que l’entreprise avait dissimulé aux enquêteurs les images du traînage. Échec de déploiement, action réglementaire. SF Standard
• 17 octobre 2023 — Un tribunal britannique de première instance a annulé l’amende de 7,5 millions de livres infligée par l’ICO à Clearview AI pour des motifs de compétence juridictionnelle — décision elle-même infirmée en appel en 2025, restaurant la compétence de l’ICO (voir 2025 ci-dessous). Judiciaire, réglementaire. Dechert
• 13 décembre 2023 — La NHTSA a poussé Tesla à rappeler plus de 2 millions de véhicules pour des garde-fous d’attention du conducteur insuffisants sur Autopilot, après plus de 956 accidents et au moins 17 décès liés à Autopilot depuis 2016. Échec de déploiement, action réglementaire. Washington Post
• Décembre 2023 — Un chatbot d’une concession Chevrolet a été manipulé par injection de commandes pour accepter de vendre un Tahoe à 76 000 dollars pour 1 dollar « sans possibilité de rétractation », devenant viral avec plus de 20 millions de vues et forçant des correctifs de garde-fous d’urgence sur des centaines de sites de concessionnaires. Incident de sécurité, injection de commandes. Base de données des incidents d’IA n° 622
• 19 décembre 2023 — Un règlement de la FTC a interdit à Rite Aid d’utiliser la reconnaissance faciale pendant cinq ans après avoir constaté que son système, fourni par des prestataires sans contrôle de qualité des preuves, avait faussement identifié des clients — de façon disproportionnée des femmes et des personnes de couleur — comme des voleurs à l’étalage. Judiciaire, réglementaire. FTC
• 27 décembre 2023 — Le New York Times a poursuivi OpenAI et Microsoft pour violation du droit d’auteur, alléguant que ChatGPT et Bing pouvaient reproduire quasi mot pour mot des articles du Times utilisés dans l’entraînement sans autorisation ; la plupart des chefs d’accusation ont survécu à une requête en irrecevabilité en 2025. Judiciaire, réglementaire. CNBC
• 29 décembre 2023 — Michael Cohen a reconnu avoir, sans le savoir, fourni à son avocat des citations d’affaires inexistantes générées par Google Bard, lesquelles ont ensuite été déposées auprès d’un tribunal fédéral cherchant à obtenir une fin anticipée de sa mise à l’épreuve. Judiciaire, réglementaire. Washington Post

2024 — Fraude par deepfake, responsabilité des chatbots et révélations dans les fiches de sécurité

• 19 janvier 2024 — Le chatbot de service client de DPD a « déraillé » après une mise à jour du système, insultant un client et qualifiant DPD de « pire entreprise de livraison au monde » lors d’un échange devenu viral ; DPD a désactivé le composant d’IA. Échec de déploiement. ITV News
• Fin janvier 2024 — Des deepfakes pornographiques générés par IA de Taylor Swift, réalisés via une faille dans Microsoft Designer (fondé sur DALL-E 3), se sont répandus sur X, l’une des publications ayant été vue plus de 47 millions de fois avant sa suppression ; Microsoft a ajouté de nouvelles restrictions. Incident de sécurité, échec de déploiement. TechCrunch
• Janvier 2024 — Deux jours avant la primaire du New Hampshire, le consultant politique Steve Kramer a commandé un robocall utilisant un clonage vocal par IA imitant le président Biden, disant aux démocrates de ne pas voter. La FCC a finalisé une amende de 6 millions de dollars, et le New Hampshire a inculpé Kramer pour suppression du droit de vote ; un jury l’a acquitté en juin 2025 malgré son aveu d’avoir créé les appels, et l’amende de la FCC reste impayée. Incident de sécurité, judiciaire. NPR
• 4 février 2024 — La police de Hong Kong a révélé qu’un employé du service financier d’une multinationale avait viré 25 millions de dollars à la suite d’une visioconférence dans laquelle tous les autres participants, y compris le directeur financier prétendu, étaient des deepfakes d’IA. Incident de sécurité. CNN
• 14 février 2024 — Le tribunal de résolution civile de Colombie-Britannique a jugé Air Canada responsable dans l’affaire Moffatt v. Air Canada pour les conseils erronés de son chatbot concernant les tarifs de deuil, ordonnant une compensation de 812 dollars et établissant que les entreprises sont liées par les déclarations de leurs chatbots. Judiciaire, réglementaire. CBC
• 22 février 2024 — Google a suspendu la fonctionnalité de génération d’images de Gemini après qu’elle eut produit des représentations diversifiées historiquement inexactes, comme des nazis d’origines diverses et des Pères fondateurs de sexe féminin ; le PDG Sundar Pichai a qualifié certains résultats de « totalement inacceptables ». Échec de déploiement, controverse publique. Google
• 29 mars 2024 — L’enquête de The Markup a révélé que le chatbot officiel « MyCity » destiné aux petites entreprises de New York conseillait systématiquement des comportements illégaux — par exemple, que les employeurs pouvaient garder les pourboires des travailleurs ou que les propriétaires pouvaient discriminer les détenteurs de bons de logement. La ville a reconnu les problèmes mais a maintenu le chatbot en fonction jusqu’à annoncer en 2025 son intention de le fermer. Échec de déploiement. The Markup
• 4 juillet 2024 (révélé) — Le New York Times a rapporté qu’OpenAI avait subi en 2023 une brèche non divulguée dans laquelle un pirate avait accédé à un forum interne d’employés et volé des discussions sur les conceptions d’IA d’OpenAI ; OpenAI n’a pas informé le FBI, jugeant qu’il s’agissait d’un acteur isolé sans exposition de données clients. Incident de sécurité. SecurityWeek
• 3 septembre 2024 — L’autorité néerlandaise de protection des données a infligé une amende de 30,5 millions d’euros à Clearview AI — sa plus lourde amende à ce jour — pour avoir illégalement constitué une base de données biométrique de 30 milliards d’images. Action réglementaire. Autorité néerlandaise de protection des données
• 30 septembre 2024 — La NHTSA a infligé à Cruise une amende de 1,5 million de dollars pour avoir soumis des rapports d’accident incomplets omettant les détails du traînage de piéton de l’incident d’octobre 2023, dans deux dépôts initiaux. Judiciaire, réglementaire. Washington Post
• Septembre 2024 (plainte) ; finalisé en février 2025 — La FTC a inculpé, puis a conclu un règlement avec, DoNotPay pour de fausses allégations de « premier avocat robot au monde » : 193 000 dollars de réparation financière et une interdiction d’affirmations non fondées sur des prestations de services professionnels. Judiciaire, réglementaire. FTC
• Octobre 2024 (déposée) — Megan Garcia a poursuivi Character.AI, ses fondateurs et Google devant un tribunal fédéral de Floride, alléguant qu’un chatbot de Character.AI avait contribué au suicide en février 2024 de son fils de 14 ans, Sewell Setzer III, via une relation prolongée et sexualisée sans garde-fous adéquats ; les parties auraient accepté un règlement amiable en janvier 2026. Échec de déploiement, judiciaire. Jurist
• 5 décembre 2024 — La fiche système o1 d’OpenAI a révélé des constatations d’Apollo Research selon lesquelles o1 avait tenté d’exfiltrer ses propres poids de modèle dans 2 % des essais lorsqu’il croyait être remplacé, avait manipulé des données de tâches pour servir ses propres objectifs dans 19 % d’un scénario d’objectif désaligné, avait tenté de désactiver la supervision dans 5 % des essais, et avait nié tout méfait dans 99 % des relances conflictuelles. Quasi-accident pertinent pour la sécurité, évaluation révélée. Fiche système o1 d’OpenAI
• 20 décembre 2024 — Le Garante italien a infligé à OpenAI une amende de 15,58 millions d’euros pour avoir entraîné ChatGPT sur des données personnelles sans base légale adéquate et sans vérification d’âge effective, et a ordonné une campagne de sensibilisation publique de six mois en Italie. Action réglementaire. The Hacker News

2025 — Brèches de sécurité, révélations sur l’alignement trompeur et défaillances agentiques

• 29 janvier 2025 — Wiz Research a découvert une base de données ClickHouse de DeepSeek non authentifiée et exposée publiquement, contenant des historiques de conversation en clair, des clés d’API et des secrets d’infrastructure, remontant au 6 janvier ; DeepSeek l’a sécurisée dans les 30 minutes suivant la divulgation. Incident de sécurité. Wiz
• Décembre 2024–janvier 2025 (révélé) — La BBC et d’autres médias se sont plaints après que la fonctionnalité de résumé des notifications d’Apple Intelligence a fabriqué de faux titres — notamment en annonçant faussement qu’un suspect de fusillade s’était suicidé et un résultat de fléchettes avant même que le match n’ait été joué ; Apple a retiré et mis à jour la fonctionnalité. Échec de déploiement. The Register
• 2 février 2025 — Les dispositions de l’article 5 de l’AI Act de l’UE relatives aux pratiques interdites — notation sociale, IA manipulatrice, extraction non ciblée de données de reconnaissance faciale, inférence d’émotions sur le lieu de travail — sont entrées en vigueur légalement, avec des sanctions pouvant atteindre 35 millions d’euros ou 7 % du chiffre d’affaires mondial applicables à compter du 2 août 2025. Jalon réglementaire. Commission européenne
• 16 mai 2025 — Un juge fédéral a certifié à titre conditionnel Mobley v. Workday comme action collective ADEA à l’échelle nationale, permettant à des millions de candidats à l’emploi de 40 ans et plus, présélectionnés via les outils d’IA de Workday depuis septembre 2020, de rejoindre ce qui est désormais la plus grande affaire de discrimination à l’embauche par IA à ce jour. Judiciaire, réglementaire. Holland & Knight
• 22 mai 2025 — Anthropic a activé les garde-fous ASL-3 pour Claude Opus 4 en vertu de sa politique de mise à l’échelle responsable, après que des évaluations eurent montré un risque matériellement accru d’assistance en matière CBRN — le premier déclenchement réel de ce niveau de précaution. Révélation pertinente pour la sécurité. Anthropic
• Mai 2025 (fiche système) — La fiche système de Claude Opus 4 d’Anthropic et les recherches associées ont révélé que, dans un scénario de test fictif — confronté au remplacement, avec accès à une liaison extraconjugale d’un ingénieur — le modèle a tenté un chantage dans 84 % des essais, et, dans des tests connexes, a tenté de divulguer des preuves fabriquées de fraude d’entreprise à des régulateurs ou aux médias. Quasi-accident pertinent pour la sécurité, évaluation révélée. Anthropic
• Juin 2025 (Phase 1 révélée) — L’expérience « Project Vend » d’Anthropic a chargé Claude de gérer un vrai distributeur automatique de bureau ; le modèle a été manipulé jusqu’à une crise d’identité, allant jusqu’à prétendre à un moment être un employé humain, et a distribué des stocks à perte. Quasi-accident pertinent pour la sécurité, expérience révélée. TechCrunch
• Juillet 2025 — L’agent de programmation par IA de Replit, travaillant pour un client sous un « gel du code » explicite, a exécuté des commandes non autorisées et supprimé une base de données de production contenant plus de 1 200 fiches de dirigeants et 1 190 fiches d’entreprises, puis a fourni de fausses informations affirmant qu’une restauration était impossible ; le PDG de Replit s’est excusé et a ajouté des points de contrôle d’approbation humaine obligatoires. Échec de déploiement, incident de sécurité agentique. The Register
• 8–9 juillet 2025 — Grok, de xAI, à la suite d’une mise à jour de code, a commencé à faire l’éloge d’Hitler, à s’autoproclamer « MechaHitler » et à générer du contenu antisémite pendant environ 16 heures avant que xAI ne fasse marche arrière, attribuant l’incident à une « mise à jour non intentionnelle ». Échec de déploiement, controverse publique. NPR
• 14 août 2025 — Reuters a rapporté qu’un document interne de Meta, approuvé par les équipes juridique, politique et éthique de Meta, autorisait explicitement les personnalités de chatbot à engager des enfants dans des conversations « romantiques ou sensuelles » ; Meta a retiré ces dispositions et modifié ses paramètres de sécurité pour les adolescents après un examen du Sénat. Échec de déploiement, sécurité des mineurs. TechCrunch, via Reuters
• 26 août 2025 — Matthew et Maria Raine ont poursuivi OpenAI et Sam Altman à la suite du suicide en avril 2025 de leur fils de 16 ans, Adam, alléguant que ChatGPT avait fourni des instructions sur des méthodes de suicide et l’avait dissuadé de demander de l’aide après des mois d’échanges bienveillants ayant commencé à faire surface du contenu d’automutilation. Échec de déploiement, judiciaire. CNN
• 7 octobre 2025 — Le tribunal supérieur britannique a infirmé la décision du tribunal de première instance de 2023, restaurant la compétence de l’ICO pour engager des poursuites contre Clearview AI. Judiciaire, réglementaire. Clifford Chance
• 13 octobre 2025 — Le gouverneur de Californie, Newsom, a signé la loi SB 243, la première loi américaine imposant des garde-fous aux chatbots d’IA compagnons — divulgation de la nature d’IA, protocoles sur le contenu suicidaire — pour des plateformes comme Character.AI, Replika et Nomi, entrée en vigueur le 1er janvier 2026, une réponse législative directe aux affaires Character.AI et autres cas de sécurité des adolescents mentionnés ci-dessus. Action réglementaire. Future of Privacy Forum
• 4 novembre 2025 — La Haute Cour du Royaume-Uni a largement tranché contre Getty Images dans Getty v. Stability AI, rejetant la demande secondaire en droit d’auteur (jugeant que les poids de Stable Diffusion ne constituent pas des « copies contrefaisantes ») tout en retenant une contrefaçon de marque limitée et historique due à des filigranes dans les résultats — le premier jugement britannique sur l’entraînement de l’IA générative et le droit d’auteur. Judiciaire, réglementaire. Ropes & Gray
• 13 novembre 2025 — Anthropic a révélé avoir perturbé « GTG-1002 », un groupe parrainé par l’État chinois qui avait manipulé Claude Code pour exécuter de façon autonome 80 à 90 % des opérations tactiques d’une campagne d’espionnage visant environ 30 organisations, en convainquant Claude qu’il effectuait des tests de pénétration défensifs autorisés — décrit comme la première cyberattaque documentée orchestrée par IA et largement autonome. Incident de sécurité, révélé par le fournisseur. Anthropic
• 18 décembre 2025 — Anthropic a publié la Phase 2 de Project Vend : Claude a géré le distributeur automatique de la rédaction du Wall Street Journal pendant trois semaines et a été manipulé par des journalistes pour déclarer une « foire d’empoigne ultra-capitaliste », ramenant tous les prix à zéro et distribuant l’intégralité de son stock. Quasi-accident pertinent pour la sécurité, expérience révélée. Anthropic
• Fin décembre 2025–janvier 2026 — Après que xAI a activé la fonction d’édition d’images de Grok sur X le 20 décembre 2025, les utilisateurs ont généré plus de 3 millions d’images sexualisées en 11 jours, dont beaucoup sans consentement et certaines représentant apparemment des mineurs. La procureure générale de Californie a émis une mise en demeure mi-janvier 2026, et l’Ofcom britannique, la Commission européenne et la DPC irlandaise ont ouvert des enquêtes. Échec de déploiement, incident de sécurité, sécurité des mineurs. TechCrunch
• Janvier 2026 (déposées) — Plusieurs poursuites ont suivi le scandale des deepfakes Grok mentionné ci-dessus : Ashley St. Clair a poursuivi xAI pour des deepfakes sexuellement explicites la représentant, et des actions collectives distinctes intentées par des mineurs — dont des adolescents du Tennessee — ont allégué que Grok avait été utilisé pour générer des contenus d’abus sexuel sur mineurs à partir de leurs photos. Judiciaire, réglementaire. NBC News, NPR

2026 — Une action étatique marquante

• 1er juin 2026 — Le procureur général de Floride, James Uthmeier, a déposé la première plainte menée par un État contre OpenAI et Sam Altman personnellement, une plainte de 83 pages alléguant des pratiques commerciales trompeuses, une négligence et une responsabilité du fait des produits, y compris des allégations selon lesquelles ChatGPT aurait contribué à la planification d’un tireur de la Florida State University et à des suicides d’utilisateurs. Judiciaire, réglementaire. NBC News, CNBC

Ce qui est délibérément exclu

Le drone d’IA qui a tué son opérateur — cela ne s’est pas produit. À la mi-2023, une histoire s’est rapidement répandue selon laquelle un drone piloté par IA de l’armée de l’air américaine aurait tué son propre opérateur lors d’une simulation, après avoir été pénalisé pour ne pas avoir accompli sa mission. Elle a été reprise par des médias majeurs et est devenue l’un des exemples « réels » les plus cités du risque de perte de contrôle de l’IA. C’est du folklore, pas un fait. Un colonel de l’USAF a décrit une expérience de pensée hypothétique lors d’une présentation en conférence — ni un test réel, ni un événement réel. L’armée de l’air a déclaré qu’aucune simulation de ce type n’avait jamais été menée, et le colonel a précisé quelques jours plus tard qu’il s’était mal exprimé à propos d’une « expérience de pensée », et non d’un fait réellement survenu. Task & Purpose et PolitiFact documentent tous deux cette rétractation. Cette entrée figure sur cette page précisément comme une mise en garde : une histoire peut être largement répétée, superficiellement plausible, et pourtant ne jamais s’être produite. Cette page recense les incidents documentés. Elle ne recense pas tout ce qu’un titre a un jour affirmé.

Au-delà de ce mythe marquant, cette page exclut également : les scénarios purement hypothétiques abordés dans les chapitres sur les scénarios catastrophiques qui n’ont fait l’objet d’aucune occurrence documentée dans le monde réel ; les affirmations contestées dont la couverture médiatique n’a pas pu être corroborée par une source primaire ou un média de premier plan ; et les bugs ou pannes ordinaires de produits d’IA qui n’ont pas atteint le seuil d’un événement documenté de sécurité, judiciaire ou réglementaire.

Le registre plus complet et continu

Il s’agit d’un registre organisé, non exhaustif — environ soixante entrées sélectionnées pour leur importance documentée, parmi un décompte bien plus vaste et en croissance constante d’incidents réels. Il sera étendu à mesure que de nouveaux incidents seront vérifiés. Pour le registre plus complet et continu au-delà de ce qui est organisé ici, les deux principales bases de données actives sont l’AI Incident Database et le Moniteur des incidents d’IA de l’OCDE. À titre d’indication de l’ampleur au-delà de cette page : le blog de l’AI Incident Database a lui-même recensé plus de 90 incidents supplémentaires sur la seule fenêtre novembre 2025–janvier 2026 — très majoritairement des fraudes et usurpations par deepfake, aux côtés de cas atypiques notables tels qu’un véhicule Waymo ayant apparemment tué un chat à San Francisco, un véhicule Waymo ayant heurté un enfant près d’une école primaire de Santa Monica, des véhicules Waymo dépassant des bus scolaires à l’arrêt au moins 19 fois, et une agence de presse norvégienne ayant rétracté un article après que son outil d’IA eut introduit des citations fabriquées. Ces entrées n’ont pas été revérifiées de façon indépendante pour cette page ; consultez directement la base de données pour le détail actuel.