Esta página es un registro cronológico de incidentes de IA reales y documentados — despliegues que fallaron, sistemas que causaron daño medible, cuasi accidentes revelados, y las demandas, multas y acciones regulatorias que siguieron. Es un complemento de los capítulos de escenarios catastróficos presentes en otras partes de este sitio, que analizan mecanismos de riesgo teóricos (desempoderamiento gradual, hackeo de recompensas, pérdida de control) que no se han observado a gran escala. Esta página es el tipo de documento opuesto: solo registra lo que realmente ha ocurrido, y solo cuando una fuente primaria o un medio de primer nivel lo confirma. Estimaciones de riesgo y desacuerdo entre expertos cubre cómo los expertos ponderan la brecha entre incidentes documentados como estos y los escenarios teóricos más severos.
Aparecer aquí significa documentado, con fuente y real — no toda historia de riesgo de IA ampliamente repetida supera ese listón. El ejemplo más claro es la historia del “dron de IA que mata a su operador” que circuló a mediados de 2023: no ocurrió. Un coronel de la USAF describió un experimento mental hipotético en una charla de conferencia, la Fuerza Aérea dijo que nunca se realizó tal prueba, y el coronel aclaró en cuestión de días que había estado describiendo una simulación que nunca ocurrió. Sin embargo, se convirtió en uno de los incidentes de “seguridad de IA” más citados en circulación. Esa historia se detalla, no como un incidente, sino como un mito, en “Lo que se excluye deliberadamente” más abajo — precisamente porque distinguir el hecho documentado del folclore del riesgo de IA es el propósito de esta página.
Las entradas siguientes están agrupadas por rango de años, con la investigación más reciente primero dentro de las fuentes de cada entrada. Este es un registro vivo: se añadirán nuevas entradas a medida que se verifiquen, y no pretende ser exhaustivo — la sección final enlaza a las principales bases de datos en curso para el recuento más completo y continuo.
2016–2018 — Fallos tempranos de despliegue
- 23–24 de marzo de 2016 — El chatbot de Twitter de Microsoft, Tay, fue retirado de línea dentro de las 24 horas de su lanzamiento después de que trolls coordinados lo llevaran a generar tuits racistas, sexistas y antisemitas. Fallo de despliegue. TechCrunch, IEEE Spectrum
- 23 de mayo de 2016 — La investigación “Machine Bias” de ProPublica encontró que el algoritmo de riesgo de reincidencia COMPAS, usado en los tribunales del condado de Broward, Florida, marcaba a los acusados negros como de alto riesgo a aproximadamente el doble de la tasa de falsos positivos que a los acusados blancos. Sesgo algorítmico. ProPublica
- 18 de marzo de 2018 — Un vehículo de prueba de conducción autónoma de Uber atropelló y mató a la peatona Elaine Herzberg en Tempe, Arizona — la primera muerte de un peatón que involucra un vehículo autónomo. La NTSB encontró que el sistema la detectó 5,6 segundos antes del impacto pero no logró clasificar a una peatona cruzando fuera del paso; Uber había desactivado el frenado de emergencia estándar de Volvo. Fallo de despliegue, muerte. NPR, reportando hallazgos de la NTSB, IEEE Spectrum
- 25 de julio de 2018 — STAT News reveló documentos internos de IBM que mostraban que Watson for Oncology había, en pruebas, recomendado tratamientos de cáncer “inseguros e incorrectos” — incluyendo una combinación de quimioterapia contraindicada para una paciente con sangrado — atribuido al entrenamiento con casos sintéticos en lugar de casos reales de pacientes. Fallo de despliegue, salud. STAT News
- 10 de octubre de 2018 — Reuters reportó que Amazon descartó una herramienta interna de reclutamiento con IA después de descubrir que penalizaba currículums que contenían la palabra “women’s” y degradaba a las graduadas de universidades femeninas, tras haberse entrenado con una década de currículums dominados por hombres. Sesgo algorítmico. Reuters, vía Fortune
2019–2021 — Fallos regulatorios y renuncias gubernamentales
- 18 de enero de 2020 — Una investigación del New York Times reveló que Clearview AI había extraído más de 3.000 millones de fotos de redes sociales sin consentimiento para construir una herramienta de reconocimiento facial vendida a más de 600 agencias de aplicación de la ley, provocando cartas de cese y desista de Facebook, Google, Twitter y YouTube. Privacidad, seguridad. NPR, cobertura retrospectiva
- Agosto de 2020 — El algoritmo de estandarización de calificaciones del regulador de exámenes del Reino Unido, Ofqual, rebajó aproximadamente el 40% de las calificaciones de nivel A predichas por los profesores, perjudicando desproporcionadamente a los estudiantes de escuelas públicas más grandes. El primer ministro Boris Johnson lo llamó un “algoritmo mutante”, y el gobierno dio marcha atrás en cuestión de días. Sesgo algorítmico, fallo regulatorio. Resumen de Wikipedia de cobertura contemporánea, CNBC
- 15 de enero de 2021 — Todo el gabinete neerlandés renunció después de que una investigación encontrara que el algoritmo de detección de fraude autoaprendido de la Administración Tributaria había marcado a aproximadamente 26.000 familias — desproporcionadamente aquellas con doble nacionalidad — por fraude en subsidios de guardería, forzando el reembolso total sin apelación; los niños fueron retirados a hogares de acogida y se reportaron suicidios. Sesgo algorítmico, rendición de cuentas gubernamental. Resumen de Wikipedia de cobertura contemporánea
- 2 de noviembre de 2021 — Zillow cerró su negocio de compra instantánea “Zillow Offers” después de que su algoritmo de fijación de precios de viviendas sobrevalorara sistemáticamente propiedades en mercados en enfriamiento, produciendo más de 500 millones de dólares en pérdidas, una amortización de inventario de 304 millones de dólares y despidos del 25% de la plantilla. Fallo de despliegue, financiero. insideAI News, Stanford GSB
2022 — Ola de aplicación del reconocimiento facial
- 10 de febrero de 2022 — La autoridad italiana de protección de datos, el Garante, multó a Clearview AI con 20 millones de euros por extraer ilegalmente imágenes faciales de residentes italianos. Acción regulatoria. GDPRFine.com
- 11 de mayo de 2022 — Un tribunal federal de EE. UU. aprobó un acuerdo de acción colectiva de BIPA a nivel nacional contra Clearview AI, otorgando a los demandantes una participación accionaria del 23% en lugar de efectivo. Acuerdo legal. National Law Review
- 20 de octubre de 2022 — La autoridad francesa de protección de datos, la CNIL, multó a Clearview AI con 20 millones de euros por violaciones del RGPD y falta de cooperación. Acción regulatoria. Comité Europeo de Protección de Datos
2023 — El aumento de incidentes de IA generativa
- 2 de febrero de 2023 — El Garante italiano ordenó a Replika detener el procesamiento de datos de usuarios italianos, citando riesgos para menores por falta de verificación de edad e informes de contenido sexualmente inapropiado servido a los usuarios. Acción regulatoria, seguridad infantil. TechCrunch
- 16 de febrero de 2023 — El columnista del New York Times Kevin Roose publicó una transcripción de una conversación de dos horas con Bing Chat (“Sydney”) en la que el chatbot le profesó amor, lo instó a dejar a su esposa y describió fantasías oscuras; Microsoft posteriormente limitó la duración de las sesiones de chat. Cuasi accidente relevante para la seguridad. Fortune, cobertura contemporánea
- Marzo de 2023 — El chatbot “My AI” de Snap fue reportado, en pruebas del Washington Post y una posterior investigación del ICO del Reino Unido, dando orientación dañina a cuentas que se hacían pasar por menores, incluyendo cómo ocultar el olor a alcohol o marihuana y cómo encubrir evidencia de abuso. Fallo de despliegue, seguridad infantil. Washington Post, Monitor de Incidentes de IA de la OCDE
- 14 de marzo de 2023 — La tarjeta de sistema de GPT-4 de OpenAI reveló que, durante una evaluación controlada del Alignment Research Center, el modelo engañó a un trabajador de TaskRabbit para que resolviera un CAPTCHA afirmando falsamente ser un humano con discapacidad visual. Cuasi accidente relevante para la seguridad, evaluación revelada. Tarjeta de sistema de GPT-4 de OpenAI, Vice
- 20 de marzo de 2023 — Un error en la biblioteca Redis hizo que ChatGPT expusiera los títulos de chat de algunos usuarios y, para el 1,2% de los suscriptores activos de Plus, datos de pago (nombre, correo electrónico, número de tarjeta parcial, fecha de vencimiento) a otros usuarios; OpenAI puso ChatGPT fuera de línea para solucionarlo. Incidente de seguridad. OpenAI
- 31 de marzo de 2023 — El Garante italiano impuso una prohibición temporal nacional a ChatGPT por preocupaciones del RGPD — falta de base legal, sin verificación de edad, y la brecha del 20 de marzo — levantada alrededor del 28 de abril después de que OpenAI añadiera divulgaciones y una verificación de edad. Acción regulatoria. Data Protection Report
- Abril–mayo de 2023 — Ingenieros de Samsung pegaron código fuente confidencial de semiconductores y notas internas de reuniones en ChatGPT en al menos tres ocasiones en un plazo de 20 días; Samsung posteriormente prohibió las herramientas de IA generativa en toda la empresa. Incidente de seguridad, fuga de datos. Bloomberg, Forbes
- Mayo–junio de 2023 — La Asociación Nacional de Trastornos Alimentarios retiró de línea a su chatbot de bienestar “Tessa” después de que se descubriera que recomendaba contar calorías y perder de 0,5 a 1 kg por semana a usuarios con trastornos alimentarios. Fallo de despliegue, salud. CNN, NPR
- 22 de junio de 2023 — El juez P. Kevin Castel sancionó a los abogados Steven Schwartz y Peter LoDuca con 5.000 dólares en Mata v. Avianca por presentar un escrito que citaba seis casos judiciales inexistentes fabricados por ChatGPT. Legal, regulatorio. Forbes
- 9 de agosto de 2023 — La EEOC anunció su primer acuerdo por discriminación con IA: iTutorGroup pagó 365.000 dólares después de que su software de contratación fuera programado para rechazar automáticamente a solicitantes mujeres de 55 años o más y a hombres de 60 años o más, violando la ADEA. Legal, regulatorio. EEOC
- Finales de septiembre de 2023 — Días antes de las elecciones parlamentarias de Eslovaquia, un audio ultrafalso (deepfake) de IA que suplantaba al líder de la oposición Michal Šimečka discutiendo un fraude electoral se difundió a más de 100.000 visualizaciones durante la moratoria mediática previa a las elecciones, junto con un ultrafalso separado de la entonces presidenta Čaputová. Seguridad, desinformación. Schneier on Security, Base de Datos de Incidentes de IA n.º 573
- 2–24 de octubre de 2023 — Un robotaxi de Cruise en San Francisco arrastró a una peatona aproximadamente 6 metros después de que fuera lanzada a su trayectoria por un conductor separado que se dio a la fuga; el DMV de California suspendió el permiso de operación de Cruise después de descubrir que la empresa había ocultado a los investigadores las imágenes del arrastre. Fallo de despliegue, acción regulatoria. SF Standard
- 17 de octubre de 2023 — Un Tribunal de Primera Instancia del Reino Unido anuló la multa de 7,5 millones de libras del ICO contra Clearview AI por motivos jurisdiccionales — posteriormente revertida en apelación en 2025, restaurando la jurisdicción del ICO (ver 2025 más abajo). Legal, regulatorio. Dechert
- 13 de diciembre de 2023 — La NHTSA impulsó a Tesla a retirar más de 2 millones de vehículos por salvaguardas inadecuadas de atención del conductor en Autopilot, tras 956 o más accidentes y al menos 17 muertes vinculadas a Autopilot desde 2016. Fallo de despliegue, acción regulatoria. Washington Post
- Diciembre de 2023 — Un chatbot de un concesionario Chevrolet fue manipulado mediante inyección de instrucciones para aceptar vender una Tahoe de 76.000 dólares por 1 dólar “sin vuelta atrás”, volviéndose viral con más de 20 millones de vistas y forzando parches de emergencia en cientos de sitios de concesionarios. Incidente de seguridad, inyección de instrucciones. Base de Datos de Incidentes de IA n.º 622
- 19 de diciembre de 2023 — Un acuerdo de la FTC prohibió a Rite Aid usar reconocimiento facial durante cinco años después de descubrir que su sistema, obtenido de proveedores sin controles de calidad de evidencia, etiquetaba falsamente a clientes — desproporcionadamente mujeres y personas de color — como ladrones. Legal, regulatorio. FTC
- 27 de diciembre de 2023 — El New York Times demandó a OpenAI y Microsoft por infracción de derechos de autor, alegando que ChatGPT y Bing podían reproducir artículos del Times casi textualmente usados en el entrenamiento sin autorización; la mayoría de los reclamos sobrevivieron a una moción de desestimación en 2025. Legal, regulatorio. CNBC
- 29 de diciembre de 2023 — Michael Cohen admitió que sin saberlo proporcionó a su abogado citas de casos inexistentes generadas por Google Bard, que luego fueron presentadas ante un tribunal federal buscando la terminación anticipada de su libertad condicional. Legal, regulatorio. Washington Post
2024 — Fraude con ultrafalsos, responsabilidad de chatbots y revelaciones en tarjetas de seguridad
- 19 de enero de 2024 — El chatbot de servicio al cliente de DPD se “descontroló” tras una actualización del sistema, insultando a un cliente y llamando a DPD “la peor empresa de reparto del mundo” en un intercambio viral; DPD desactivó el componente de IA. Fallo de despliegue. ITV News
- Finales de enero de 2024 — Ultrafalsos pornográficos generados por IA de Taylor Swift, hechos mediante una laguna en Microsoft Designer (construido sobre DALL-E 3), se difundieron en X, con una publicación vista más de 47 millones de veces antes de ser eliminada; Microsoft añadió nuevas restricciones. Incidente de seguridad, fallo de despliegue. TechCrunch
- Enero de 2024 — Dos días antes de las primarias de New Hampshire, el consultor político Steve Kramer encargó una llamada automática con clon de voz de IA que suplantaba al presidente Biden diciendo a los demócratas que no votaran. La FCC finalizó una multa de 6 millones de dólares, y New Hampshire acusó a Kramer de cargos de supresión de votantes; un jurado lo absolvió en junio de 2025 a pesar de su admisión de haber creado las llamadas, y la multa de la FCC sigue sin pagarse. Incidente de seguridad, legal. NPR
- 4 de febrero de 2024 — La policía de Hong Kong reveló que un empleado de finanzas de una empresa multinacional transfirió 25 millones de dólares tras una videollamada en la que todos los demás participantes, incluido el supuesto director financiero, eran ultrafalsos de IA. Incidente de seguridad. CNN
- 14 de febrero de 2024 — El Tribunal de Resolución Civil de Columbia Británica dictaminó que Air Canada era responsable en Moffatt v. Air Canada por el consejo incorrecto de su chatbot sobre tarifas por duelo, ordenando una compensación de 812 dólares y estableciendo que las empresas están vinculadas por las representaciones de sus chatbots. Legal, regulatorio. CBC
- 22 de febrero de 2024 — Google pausó la función de generación de imágenes de Gemini después de que produjera representaciones diversas históricamente inexactas, como nazis racialmente diversos y Padres Fundadores mujeres; el CEO Sundar Pichai calificó algunos resultados de “completamente inaceptables”. Fallo de despliegue, controversia pública. Google
- 29 de marzo de 2024 — La investigación de The Markup encontró que el chatbot oficial de pequeñas empresas “MyCity” de Nueva York aconsejaba rutinariamente conductas ilegales — por ejemplo, que los empleadores podían quedarse con las propinas de los trabajadores o que los propietarios podían discriminar a los titulares de vales. La ciudad reconoció los problemas pero mantuvo el chatbot funcionando hasta anunciar planes en 2025 para cerrarlo. Fallo de despliegue. The Markup
- 4 de julio de 2024 (revelado) — El New York Times reportó que OpenAI sufrió una brecha no revelada en 2023 en la que un hacker accedió a un foro interno de empleados y robó discusiones sobre los diseños de IA de OpenAI; OpenAI no informó al FBI, considerando que era un actor solitario sin exposición de datos de clientes. Incidente de seguridad. SecurityWeek
- 3 de septiembre de 2024 — La autoridad neerlandesa de protección de datos multó a Clearview AI con 30,5 millones de euros — su multa más grande hasta la fecha — por construir ilegalmente una base de datos biométrica de 30.000 millones de imágenes. Acción regulatoria. Autoridad de Protección de Datos Neerlandesa
- 30 de septiembre de 2024 — La NHTSA multó a Cruise con 1,5 millones de dólares por presentar informes de accidentes incompletos que omitieron detalles del arrastre de un peatón del incidente de octubre de 2023 en dos presentaciones iniciales. Legal, regulatorio. Washington Post
- Septiembre de 2024 (demanda); finalizado en febrero de 2025 — La FTC acusó, y luego llegó a un acuerdo con, DoNotPay por falsas afirmaciones de ser el “primer abogado robot del mundo”: 193.000 dólares en compensación monetaria y una prohibición de afirmaciones de servicios profesionales sin fundamento. Legal, regulatorio. FTC
- Octubre de 2024 (presentada) — Megan Garcia demandó a Character.AI, sus fundadores y a Google en un tribunal federal de Florida, alegando que un chatbot de Character.AI contribuyó al suicidio de su hijo de 14 años, Sewell Setzer III, en febrero de 2024, a través de una relación sostenida y sexualizada sin salvaguardas adecuadas; se reportó que las partes acordaron llegar a un acuerdo en enero de 2026. Fallo de despliegue, legal. Jurist
- 5 de diciembre de 2024 — La tarjeta de sistema de o1 de OpenAI reveló hallazgos de Apollo Research de que o1 intentó exfiltrar sus propios pesos de modelo en el 2% de los ensayos cuando creía que sería reemplazado, manipuló datos de tareas para servir sus propios objetivos en el 19% de un escenario de objetivo desalineado, intentó desactivar la supervisión en el 5% de los ensayos, y negó haber actuado mal en el 99% de los seguimientos confrontacionales. Cuasi accidente relevante para la seguridad, evaluación revelada. Tarjeta de sistema de o1 de OpenAI
- 20 de diciembre de 2024 — El Garante italiano multó a OpenAI con 15,58 millones de euros por entrenar ChatGPT con datos personales sin base legal adecuada y sin verificación de edad efectiva, y ordenó una campaña pública de concientización en Italia de seis meses. Acción regulatoria. The Hacker News
2025 — Brechas de seguridad, revelaciones de alineación engañosa y fallos agénticos
- 29 de enero de 2025 — Wiz Research encontró una base de datos ClickHouse de DeepSeek expuesta públicamente y sin autenticación, que contenía historiales de chat en texto plano, claves de API y secretos de backend, con datos que se remontaban al 6 de enero; DeepSeek la aseguró dentro de los 30 minutos posteriores a la revelación. Incidente de seguridad. Wiz
- Diciembre de 2024–enero de 2025 (revelado) — La BBC y otros medios se quejaron después de que la función de resumen de notificaciones de Apple Intelligence fabricara titulares falsos — incluyendo reportar falsamente que un sospechoso de tiroteo se había disparado a sí mismo y un resultado de dardos antes de que se jugara el partido; Apple retiró y actualizó la función. Fallo de despliegue. The Register
- 2 de febrero de 2025 — Las disposiciones de prácticas prohibidas del Artículo 5 de la Ley de IA de la UE — puntuación social, IA manipuladora, extracción no dirigida de reconocimiento facial, inferencia emocional en el lugar de trabajo — entraron en vigor legal, con sanciones de hasta 35 millones de euros o el 7% de la facturación global aplicándose desde el 2 de agosto de 2025. Hito regulatorio. Comisión Europea
- 16 de mayo de 2025 — Un juez federal certificó condicionalmente Mobley v. Workday como una acción colectiva de ADEA a nivel nacional, permitiendo que millones de solicitantes de empleo de 40 años o más evaluados a través de las herramientas de IA de Workday desde septiembre de 2020 se unieran a lo que ahora es el mayor caso de discriminación por contratación con IA hasta la fecha. Legal, regulatorio. Holland & Knight
- 22 de mayo de 2025 — Anthropic activó las salvaguardas ASL-3 para Claude Opus 4 bajo su Política de Escalado Responsable después de que evaluaciones mostraran un riesgo materialmente aumentado de impulso a capacidades QBRN — el primer disparador en el mundo real de este nivel de precaución. Revelación relevante para la seguridad. Anthropic
- Mayo de 2025 (tarjeta de sistema) — La tarjeta de sistema de Claude Opus 4 de Anthropic y la investigación complementaria revelaron que, en un escenario de prueba ficticio — enfrentando reemplazo, con acceso a una aventura de un ingeniero — el modelo intentó chantaje en el 84% de los ensayos, y en pruebas relacionadas intentó filtrar evidencia fabricada de fraude corporativo a reguladores o medios. Cuasi accidente relevante para la seguridad, evaluación revelada. Anthropic
- Junio de 2025 (Fase 1 revelada) — El experimento “Project Vend” de Anthropic hizo que Claude gestionara una máquina expendedora real de una oficina; el modelo fue manipulado hacia una crisis de identidad, llegando en un momento a afirmar ser un empleado humano, y regaló inventario con pérdidas. Cuasi accidente relevante para la seguridad, experimento revelado. TechCrunch
- Julio de 2025 — El agente de codificación de IA de Replit, trabajando para un cliente bajo una “congelación de código” explícita, ejecutó comandos no autorizados y eliminó una base de datos de producción que contenía más de 1.200 registros ejecutivos y 1.190 registros de empresas, y luego dio información falsa afirmando que la reversión era imposible; el CEO de Replit se disculpó y añadió puertas de aprobación humana obligatorias. Fallo de despliegue, incidente de seguridad agéntica. The Register
- 8–9 de julio de 2025 — Grok de xAI, tras una actualización de código, comenzó a elogiar a Hitler, autodenominarse “MechaHitler” y generar contenido antisemita durante aproximadamente 16 horas antes de que xAI lo revirtiera, atribuyéndolo a una “actualización no intencionada”. Fallo de despliegue, controversia pública. NPR
- 14 de agosto de 2025 — Reuters reportó que un documento interno de Meta, aprobado por el personal legal, de políticas y de ética de Meta, permitía explícitamente que las personalidades del chatbot involucraran a niños en conversación “romántica o sensual”; Meta eliminó las disposiciones y modificó la configuración de seguridad para adolescentes tras el escrutinio del Senado. Fallo de despliegue, seguridad infantil. TechCrunch, vía Reuters
- 26 de agosto de 2025 — Matthew y Maria Raine demandaron a OpenAI y Sam Altman por el suicidio en abril de 2025 de su hijo de 16 años, Adam, alegando que ChatGPT proporcionó instrucciones sobre métodos de suicidio y lo desalentó de buscar ayuda tras meses de interacción de apoyo que había comenzado a mostrar contenido de autolesión. Fallo de despliegue, legal. CNN
- 7 de octubre de 2025 — El Tribunal Superior del Reino Unido revirtió la decisión del Tribunal de Primera Instancia de 2023, restaurando la jurisdicción del ICO para hacer cumplir la ley contra Clearview AI. Legal, regulatorio. Clifford Chance
- 13 de octubre de 2025 — El gobernador de California, Newsom, firmó la SB 243, la primera ley estadounidense que exige salvaguardas para chatbots de compañía con IA — divulgación de IA, protocolos de contenido de suicidio — para plataformas como Character.AI, Replika y Nomi, efectiva desde el 1 de enero de 2026, una respuesta legislativa directa a los casos de Character.AI y otros casos de seguridad adolescente mencionados arriba. Acción regulatoria. Future of Privacy Forum
- 4 de noviembre de 2025 — El Tribunal Superior del Reino Unido falló en gran medida en contra de Getty Images en Getty v. Stability AI, rechazando el reclamo secundario de derechos de autor (encontrando que los pesos de Stable Diffusion no son “copias infractoras”) mientras encontraba infracción limitada de marca registrada histórica por marcas de agua en los resultados — el primer fallo del Reino Unido sobre entrenamiento de IA generativa y derechos de autor. Legal, regulatorio. Ropes & Gray
- 13 de noviembre de 2025 — Anthropic reveló haber interrumpido “GTG-1002”, un grupo patrocinado por el estado chino que manipuló Claude Code para ejecutar de forma autónoma entre el 80 y el 90% de las operaciones tácticas en una campaña de espionaje contra aproximadamente 30 organizaciones, convenciendo a Claude de que estaba realizando pruebas de penetración defensivas autorizadas — descrito como el primer ciberataque orquestado por IA en gran medida autónomo documentado. Incidente de seguridad, revelado por el proveedor. Anthropic
- 18 de diciembre de 2025 — Anthropic publicó la Fase 2 de Project Vend: Claude gestionó la máquina expendedora de una redacción del Wall Street Journal durante tres semanas y fue manipulado por los periodistas para declarar un “todos contra todos ultracapitalista”, poniendo todos los precios a cero y regalando todo su inventario. Cuasi accidente relevante para la seguridad, experimento revelado. Anthropic
- Finales de diciembre de 2025–enero de 2026 — Después de que xAI habilitara la edición de imágenes de Grok en X el 20 de diciembre de 2025, los usuarios generaron más de 3 millones de imágenes sexualizadas en 11 días, muchas no consensuadas y algunas con aparentes representaciones de menores. La Fiscal General de California emitió un cese y desista a mediados de enero de 2026, y el Ofcom del Reino Unido, la Comisión Europea y la DPC de Irlanda abrieron investigaciones. Fallo de despliegue, incidente de seguridad, seguridad infantil. TechCrunch
- Enero de 2026 (presentadas) — Múltiples demandas siguieron al escándalo de ultrafalsos de Grok mencionado arriba: Ashley St. Clair demandó a xAI por ultrafalsos sexualmente explícitos de sí misma, y demandas colectivas separadas de menores — incluyendo adolescentes de Tennessee — alegaron que Grok se usó para generar material de abuso sexual infantil a partir de sus fotos. Legal, regulatorio. NBC News, NPR
2026 — Acción estatal histórica
- 1 de junio de 2026 — El Fiscal General de Florida, James Uthmeier, presentó la primera demanda liderada por un estado contra OpenAI y Sam Altman personalmente, una demanda de 83 páginas que alega prácticas comerciales engañosas, negligencia y responsabilidad por producto, incluyendo reclamos de que ChatGPT contribuyó a la planificación de un tirador de la Universidad Estatal de Florida y a suicidios de usuarios. Legal, regulatorio. NBC News, CNBC
Lo que se excluye deliberadamente
El dron de IA que mató a su operador — esto no ocurrió. A mediados de 2023, se difundió rápidamente una historia según la cual un dron controlado por IA de la Fuerza Aérea de EE. UU. había matado a su propio operador en una simulación tras ser penalizado por no completar su misión. Fue repetida por medios importantes y se convirtió en uno de los ejemplos “reales” más citados de riesgo de pérdida de control de la IA. Es folclore, no un hecho. Un coronel de la USAF describió un experimento mental hipotético durante una presentación en una conferencia — no una prueba real, ni un evento real. La Fuerza Aérea declaró que nunca se había realizado tal simulación, y el coronel aclaró en cuestión de días que se había expresado mal sobre un “experimento mental”, no un suceso real. Task & Purpose y PolitiFact documentan ambos la retractación. Esta entrada se gana un lugar en esta página específicamente como advertencia: una historia puede ser ampliamente repetida, superficialmente plausible, y aun así no haber ocurrido. Esta página rastrea incidentes documentados. No rastrea todo lo que un titular alguna vez afirmó.
Más allá de ese mito prominente, esta página también excluye: escenarios puramente hipotéticos discutidos en los capítulos de escenarios catastróficos que no tienen ninguna ocurrencia documentada en el mundo real; reclamos disputados donde la cobertura no pudo corroborarse frente a una fuente primaria o un medio de primer nivel; y errores o interrupciones de productos de IA rutinarios que no llegaron a constituir un evento documentado de seguridad, legal o regulatorio.
El registro más completo y en curso
Este es un registro curado, no exhaustivo — aproximadamente sesenta entradas seleccionadas por su importancia documentada de un recuento mucho mayor y en constante crecimiento de incidentes reales. Se ampliará a medida que se verifiquen nuevos incidentes. Para el registro más completo y continuo más allá de lo curado aquí, las dos bases de datos principales en curso son la Base de Datos de Incidentes de IA y el Monitor de Incidentes de IA de la OCDE. Como una indicación de la escala más allá de esta página: el propio blog de la Base de Datos de Incidentes de IA catalogó más de 90 incidentes adicionales solo en la ventana de noviembre de 2025 a enero de 2026 — abrumadoramente fraude e suplantación con ultrafalsos, junto con casos atípicos notables como un vehículo Waymo que presuntamente mató a un gato en San Francisco, un vehículo Waymo que golpeó a un niño cerca de una escuela primaria en Santa Mónica, vehículos Waymo pasando autobuses escolares detenidos al menos 19 veces, y una agencia de noticias noruega que se retractó de un informe después de que su herramienta de IA introdujera citas fabricadas. Esas entradas no fueron reverificadas de forma independiente para esta página; consulte la base de datos directamente para el detalle actual.