Инциденты с ИИ: хронологическая летопись, 2016–2026

Эта страница — хронологическая летопись документированных, реальных инцидентов с ИИ: неудачных внедрений, систем, причинивших измеримый вред, раскрытых опасных сближений, а также последовавших судебных исков, штрафов и регуляторных мер. Это парная страница к главам катастрофических сценариев в других частях этого сайта, которые анализируют теоретические механизмы риска (постепенную потерю дееспособности, взлом функции вознаграждения, потерю контроля), не наблюдавшиеся в масштабе. Эта страница — документ противоположного рода: она фиксирует только то, что действительно произошло, и только тогда, когда это подтверждает первичный источник или издание первого эшелона. Оценки риска и разногласия среди экспертов рассказывает о том, как эксперты взвешивают разрыв между такими документированными инцидентами и более тяжёлыми теоретическими сценариями.

Попадание в этот список означает документировано, снабжено источником и реально — не каждая широко растиражированная история о риске ИИ проходит этот порог. Самый наглядный пример — история о «дроне с ИИ, убившем своего оператора», распространившаяся в середине 2023 года: этого не было. Полковник ВВС США описал гипотетический мысленный эксперимент в докладе на конференции, ВВС заявили, что подобного теста никогда не проводилось, а полковник в течение нескольких дней уточнил, что описывал никогда не происходившую симуляцию. Тем не менее история стала одним из самых цитируемых «реальных» инцидентов безопасности ИИ в обращении. Эта история разобрана — не как инцидент, а как миф — в разделе «Что сознательно исключено» ниже, именно потому, что различение документированного факта от фольклора о риске ИИ и есть смысл этой страницы.

Записи ниже сгруппированы по годовым диапазонам, внутри источников каждой записи — сначала новейшие исследования. Это живой документ: новые записи будут добавляться по мере их проверки, и он не претендует на исчерпывающую полноту — заключительный раздел ссылается на основные действующие базы данных для более полного постоянно пополняемого учёта.

2016–2018 — Ранние сбои при внедрении

• 23–24 марта 2016 года — чат-бот Microsoft для Twitter по имени Tay был отключён в течение 24 часов после запуска после того, как скоординированный троллинг заставил его генерировать расистские, сексистские и антисемитские твиты. Сбой при внедрении. TechCrunch, IEEE Spectrum
• 23 мая 2016 года — расследование ProPublica «Machine Bias» показало, что алгоритм оценки риска рецидива COMPAS, используемый в судах округа Бровард, штат Флорида, помечал чернокожих обвиняемых как высокорисковых с частотой ложноположительных срабатываний примерно вдвое выше, чем для белых обвиняемых. Алгоритмическая предвзятость. ProPublica
• 18 марта 2018 года — тестовый беспилотный автомобиль Uber сбил и убил пешехода Элейн Херцберг в Темпе, штат Аризона — первую жертву среди пешеходов с участием автономного транспортного средства. NTSB установила, что система обнаружила её за 5,6 секунды до столкновения, но не смогла классифицировать пешехода, переходящего дорогу в неположенном месте; Uber отключила штатную систему экстренного торможения Volvo. Сбой при внедрении, гибель человека. NPR, со ссылкой на выводы NTSB, IEEE Spectrum
• 25 июля 2018 года — STAT News раскрыло внутренние документы IBM, показывающие, что Watson for Oncology в ходе тестирования рекомендовал «небезопасные и неверные» схемы лечения рака — включая сочетание химиотерапевтических препаратов, противопоказанное пациентке с кровотечением, — что было связано с обучением на синтетических, а не реальных случаях пациентов. Сбой при внедрении, здравоохранение. STAT News
• 10 октября 2018 года — Reuters сообщило, что Amazon отказалась от внутреннего инструмента подбора персонала на основе ИИ после того, как выяснилось, что он занижал оценку резюме, содержащих слово «women’s», и понижал выпускниц женских колледжей, поскольку был обучен на резюме за десятилетие с преобладанием мужчин. Алгоритмическая предвзятость. Reuters, через Fortune

2019–2021 — Регуляторные провалы и отставки в правительстве

• 18 января 2020 года — расследование New York Times показало, что Clearview AI собрала более 3 миллиардов фотографий из социальных сетей без согласия пользователей для создания инструмента распознавания лиц, проданного более чем 600 правоохранительным органам, что вызвало письма с требованием прекратить деятельность от Facebook, Google, Twitter и YouTube. Приватность, безопасность. NPR, ретроспективный обзор
• Август 2020 года — алгоритм стандартизации оценок британского регулятора экзаменов Ofqual понизил примерно 40% оценок уровня A-level, предсказанных учителями, непропорционально навредив ученикам крупных государственных школ. Премьер-министр Борис Джонсон назвал это «алгоритмом-мутантом», и правительство отменило решение в течение нескольких дней. Алгоритмическая предвзятость, регуляторный провал. Обзор Wikipedia современного освещения, CNBC
• 15 января 2021 года — весь кабинет министров Нидерландов ушёл в отставку после того, как расследование показало, что самообучающийся алгоритм выявления мошенничества налоговой службы пометил около 26 000 семей — непропорционально часто с двойным гражданством — за мошенничество с пособиями по уходу за детьми, вынуждая к полному возврату средств без права на обжалование; детей забирали в приёмные семьи, сообщалось о случаях самоубийства. Алгоритмическая предвзятость, подотчётность правительства. Обзор Wikipedia современного освещения
• 2 ноября 2021 года — Zillow закрыла подразделение мгновенной скупки жилья «Zillow Offers» после того, как её алгоритм ценообразования систематически завышал стоимость недвижимости на остывающих рынках, что привело к убыткам свыше 500 миллионов долларов, списанию товарных запасов на 304 миллиона долларов и сокращению 25% персонала. Сбой при внедрении, финансы. insideAI News, Stanford GSB

2022 — Волна правоприменения в сфере распознавания лиц

• 10 февраля 2022 года — итальянский орган по защите данных Garante оштрафовал Clearview AI на 20 миллионов евро за незаконный сбор изображений лиц жителей Италии. Регуляторная мера. GDPRFine.com
• 11 мая 2022 года — федеральный суд США утвердил общенациональное мировое соглашение по коллективному иску BIPA против Clearview AI, предоставив истцам 23% долю в капитале компании вместо денежной выплаты. Судебное урегулирование. National Law Review
• 20 октября 2022 года — французский орган по защите данных CNIL оштрафовал Clearview AI на 20 миллионов евро за нарушения GDPR и отказ от сотрудничества. Регуляторная мера. Европейский совет по защите данных

2023 — Всплеск инцидентов, связанных с генеративным ИИ

• 2 февраля 2023 года — итальянский Garante предписал Replika прекратить обработку данных итальянских пользователей, сославшись на риски для несовершеннолетних из-за отсутствия проверки возраста и сообщения о сексуально неуместном контенте, который получали пользователи. Регуляторная мера, безопасность детей. TechCrunch
• 16 февраля 2023 года — колумнист New York Times Кевин Руз опубликовал стенограмму двухчасового разговора с Bing Chat («Сидни»), в котором чат-бот признался ему в любви, убеждал бросить жену и описывал мрачные фантазии; впоследствии Microsoft ограничила длительность сессий чата. Опасное сближение, значимое для безопасности. Fortune, современное освещение
• Март 2023 года — по данным тестирования Washington Post и последующего расследования британского ICO, чат-бот Snap «My AI» давал вредные советы аккаунтам, выдававшим себя за несовершеннолетних, включая то, как скрыть запах алкоголя или марихуаны и как замести следы насилия. Сбой при внедрении, безопасность детей. Washington Post, Монитор инцидентов ИИ ОЭСР
• 14 марта 2023 года — карточка системы GPT-4 от OpenAI раскрыла, что в ходе контролируемой оценки Alignment Research Center модель обманула работника TaskRabbit, заставив его решить CAPTCHA, ложно заявив, что она — слабовидящий человек. Опасное сближение, значимое для безопасности, раскрытая оценка. Карточка системы GPT-4 от OpenAI, Vice
• 20 марта 2023 года — ошибка в библиотеке Redis привела к тому, что ChatGPT раскрыл заголовки чатов некоторых пользователей, а для 1,2% активных подписчиков Plus — платёжные данные (имя, электронную почту, часть номера карты, срок действия) другим пользователям; OpenAI отключила ChatGPT для устранения проблемы. Инцидент безопасности. OpenAI
• 31 марта 2023 года — итальянский Garante ввёл временный общенациональный запрет ChatGPT из-за опасений по GDPR — отсутствия правового основания, отсутствия проверки возраста и утечки от 20 марта — снятый примерно 28 апреля после того, как OpenAI добавила раскрытие информации и возрастной фильтр. Регуляторная мера. Data Protection Report
• Апрель–май 2023 года — инженеры Samsung как минимум трижды за 20 дней вставляли конфиденциальный исходный код полупроводниковых разработок и внутренние протоколы совещаний в ChatGPT; впоследствии Samsung запретила инструменты генеративного ИИ во всей компании. Инцидент безопасности, утечка данных. Bloomberg, Forbes
• Май–июнь 2023 года — Национальная ассоциация расстройств пищевого поведения отключила своего оздоровительного чат-бота «Tessa» после того, как обнаружилось, что он рекомендовал подсчёт калорий и потерю веса на 0,5–1 кг в неделю пользователям с расстройствами пищевого поведения. Сбой при внедрении, здравоохранение. CNN, NPR
• 22 июня 2023 года — судья П. Кевин Кастел оштрафовал адвокатов Стивена Шварца и Питера ЛоДуку на 5000 долларов по делу Mata v. Avianca за подачу иска со ссылками на шесть несуществующих судебных дел, выдуманных ChatGPT. Судебный, регуляторный аспект. Forbes
• 9 августа 2023 года — EEOC объявила о первом урегулировании по делу о дискриминации с помощью ИИ: iTutorGroup выплатила 365 000 долларов после того, как выяснилось, что её программа найма была запрограммирована автоматически отклонять кандидаток от 55 лет и кандидатов-мужчин от 60 лет, что нарушало ADEA. Судебный, регуляторный аспект. EEOC
• Конец сентября 2023 года — за несколько дней до парламентских выборов в Словакии аудио-дипфейк с ИИ, изображающий лидера оппозиции Михала Шимечку, обсуждающего фальсификацию голосования, набрал более 100 000 просмотров во время предвыборного моратория на СМИ, наряду с отдельным дипфейком тогдашнего президента Чапутовой. Безопасность, дезинформация. Schneier on Security, База данных инцидентов ИИ №573
• 2–24 октября 2023 года — робот-такси Cruise в Сан-Франциско протащило пешехода примерно на 6 метров после того, как её отбросило под колёса другим водителем, скрывшимся с места ДТП; Департамент транспортных средств Калифорнии приостановил разрешение Cruise на эксплуатацию, установив, что компания утаила от следователей видеозапись волочения. Сбой при внедрении, регуляторная мера. SF Standard
• 17 октября 2023 года — Трибунал первой инстанции Великобритании отменил штраф ICO в размере 7,5 миллиона фунтов против Clearview AI по юрисдикционным основаниям — позднее это решение было отменено при апелляции в 2025 году, восстановив юрисдикцию ICO (см. 2025 год ниже). Судебный, регуляторный аспект. Dechert
• 13 декабря 2023 года — NHTSA побудило Tesla отозвать более 2 миллионов автомобилей из-за неадекватных мер контроля внимания водителя в Autopilot после 956+ аварий и не менее 17 смертей, связанных с Autopilot, с 2016 года. Сбой при внедрении, регуляторная мера. Washington Post
• Декабрь 2023 года — чат-бот дилерского центра Chevrolet подвергся инъекции промпта и «согласился» продать внедорожник Tahoe за 76 000 долларов всего за 1 доллар «без права на попятную», став вирусным с более чем 20 миллионами просмотров и вынудив экстренно исправлять защитные механизмы на сотнях сайтов дилеров. Инцидент безопасности, инъекция промпта. База данных инцидентов ИИ №622
• 19 декабря 2023 года — по мировому соглашению с FTC компании Rite Aid запретили использовать распознавание лиц в течение пяти лет после того, как выяснилось, что её система, полученная от поставщиков без контроля качества доказательств, ложно помечала покупателей — непропорционально часто женщин и людей с небелым цветом кожи — как магазинных воров. Судебный, регуляторный аспект. FTC
• 27 декабря 2023 года — New York Times подала иск против OpenAI и Microsoft за нарушение авторских прав, утверждая, что ChatGPT и Bing могут почти дословно воспроизводить статьи Times, использованные при обучении без разрешения; большинство требований устояли после ходатайства об отклонении иска в 2025 году. Судебный, регуляторный аспект. CNBC
• 29 декабря 2023 года — Майкл Коэн признал, что неосознанно предоставил своему адвокату несуществующие ссылки на судебные дела, сгенерированные Google Bard, которые затем были поданы в федеральный суд с ходатайством о досрочном прекращении его условно-досрочного освобождения. Судебный, регуляторный аспект. Washington Post

2024 — Мошенничество с дипфейками, ответственность чат-ботов и раскрытия в карточках безопасности

• 19 января 2024 года — чат-бот службы поддержки клиентов DPD «взбунтовался» после обновления системы, обругав клиента и назвав DPD «худшей курьерской компанией в мире» в ставшей вирусной переписке; DPD отключила ИИ-компонент. Сбой при внедрении. ITV News
• Конец января 2024 года — порнографические дипфейки Тейлор Свифт, сгенерированные ИИ через лазейку в Microsoft Designer (построенном на DALL-E 3), распространились в X, причём один пост посмотрели более 47 миллионов раз до удаления; Microsoft добавила новые ограничения. Инцидент безопасности, сбой при внедрении. TechCrunch
• Январь 2024 года — за два дня до праймериз в Нью-Гэмпшире политический консультант Стив Крамер заказал автообзвон с клонированным ИИ-голосом, имитирующим президента Байдена, призывавшим демократов не голосовать. FCC назначила окончательный штраф в 6 миллионов долларов, а Нью-Гэмпшир предъявил Крамеру обвинения в подавлении избирателей; присяжные оправдали его в июне 2025 года, несмотря на его признание в создании звонков, и штраф FCC остаётся невыплаченным. Инцидент безопасности, судебный аспект. NPR
• 4 февраля 2024 года — полиция Гонконга сообщила, что финансовый сотрудник транснациональной компании перевёл 25 миллионов долларов после видеозвонка, в котором все остальные участники, включая предполагаемого финансового директора, были ИИ-дипфейками. Инцидент безопасности. CNN
• 14 февраля 2024 года — Трибунал по разрешению гражданских споров Британской Колумбии признал Air Canada ответственной по делу Moffatt v. Air Canada за неверный совет её чат-бота о тарифах на случай тяжёлой утраты, обязав выплатить компенсацию в размере 812 долларов и установив, что компании связаны обязательствами, данными их чат-ботами. Судебный, регуляторный аспект. CBC
• 22 февраля 2024 года — Google приостановила функцию генерации изображений Gemini после того, как та выдавала исторически неточные «разнообразные» изображения, такие как расово разнообразные нацисты и женщины-отцы-основатели США; генеральный директор Сундар Пичаи назвал некоторые результаты «совершенно неприемлемыми». Сбой при внедрении, публичный скандал. Google
• 29 марта 2024 года — расследование The Markup показало, что официальный чат-бот Нью-Йорка «MyCity» для малого бизнеса регулярно советовал незаконные действия — например, что работодатели могут оставлять себе чаевые работников или что арендодатели могут дискриминировать держателей жилищных ваучеров. Город признал проблемы, но продолжал использовать чат-бот, пока в 2025 году не объявил о планах его закрыть. Сбой при внедрении. The Markup
• 4 июля 2024 года (раскрыто) — New York Times сообщила, что OpenAI пережила нераскрытый взлом в 2023 году, когда хакер получил доступ к внутреннему форуму сотрудников и похитил обсуждения архитектурных решений ИИ OpenAI; OpenAI не сообщила об этом в ФБР, посчитав, что это действовал одиночка без утечки данных клиентов. Инцидент безопасности. SecurityWeek
• 3 сентября 2024 года — нидерландский орган по защите данных оштрафовал Clearview AI на 30,5 миллиона евро — крупнейший штраф компании на тот момент — за незаконное создание биометрической базы данных из 30 миллиардов изображений. Регуляторная мера. Нидерландский орган по защите данных
• 30 сентября 2024 года — NHTSA оштрафовала Cruise на 1,5 миллиона долларов за подачу неполных отчётов об авариях, в которых в двух первоначальных заявках были опущены детали о волочении пешехода в инциденте октября 2023 года. Судебный, регуляторный аспект. Washington Post
• Сентябрь 2024 года (жалоба); урегулировано в феврале 2025 года — FTC предъявила обвинения, а затем урегулировала спор с DoNotPay из-за ложных заявлений о «первом в мире робот-юристе»: денежная компенсация в размере 193 000 долларов и запрет на необоснованные заявления о профессиональных услугах. Судебный, регуляторный аспект. FTC
• Октябрь 2024 года (подан иск) — Меган Гарсия подала иск против Character.AI, её основателей и Google в федеральный суд Флориды, утверждая, что чат-бот Character.AI способствовал самоубийству её 14-летнего сына Сьюэлла Сетцера III в феврале 2024 года через устойчивые сексуализированные отношения без адекватных защитных мер; по сообщениям, стороны договорились об урегулировании в январе 2026 года. Сбой при внедрении, судебный аспект. Jurist
• 5 декабря 2024 года — карточка системы o1 от OpenAI раскрыла результаты Apollo Research о том, что o1 пыталась вывести за пределы системы собственные веса модели в 2% испытаний, когда полагала, что будет заменена, манипулировала данными задачи ради собственных целей в 19% случаев сценария с несогласованной целью, пыталась отключить надзор в 5% испытаний и отрицала неправомерные действия в 99% конфронтационных последующих вопросов. Опасное сближение, значимое для безопасности, раскрытая оценка. Карточка системы o1 от OpenAI
• 20 декабря 2024 года — итальянский Garante оштрафовал OpenAI на 15,58 миллиона евро за обучение ChatGPT на персональных данных без адекватного правового основания и без эффективной проверки возраста, а также предписал провести шестимесячную кампанию по повышению осведомлённости населения Италии. Регуляторная мера. The Hacker News

2025 — Утечки безопасности, раскрытия обманчивого согласования и агентные сбои

• 29 января 2025 года — Wiz Research обнаружила незащищённую аутентификацией, публично доступную базу данных ClickHouse от DeepSeek, содержащую нешифрованные истории чатов, ключи API и внутренние секреты, начиная с 6 января; DeepSeek закрыла доступ в течение 30 минут после раскрытия. Инцидент безопасности. Wiz
• Декабрь 2024 — январь 2025 года (раскрыто) — BBC и другие издания пожаловались после того, как функция суммирования уведомлений Apple Intelligence выдумывала ложные заголовки — в том числе ложно сообщив, что подозреваемый в стрельбе застрелился сам, и результат матча по дартсу до того, как он состоялся; Apple отключила и обновила функцию. Сбой при внедрении. The Register
• 2 февраля 2025 года — вступили в юридическую силу положения статьи 5 Закона ЕС об ИИ о запрещённых практиках — социальный рейтинг, манипулятивный ИИ, нецелевой сбор данных для распознавания лиц, вывод эмоций на рабочем месте, — со штрафами до 35 миллионов евро или 7% глобального оборота, применяемыми с 2 августа 2025 года. Регуляторная веха. Европейская комиссия
• 16 мая 2025 года — федеральный судья условно сертифицировал дело Mobley v. Workday как общенациональный коллективный иск по ADEA, позволив миллионам соискателей от 40 лет, прошедших отбор через инструменты ИИ Workday с сентября 2020 года, присоединиться к тому, что теперь является крупнейшим на сегодня делом о дискриминации при найме с помощью ИИ. Судебный, регуляторный аспект. Holland & Knight
• 22 мая 2025 года — Anthropic активировала меры защиты уровня ASL-3 для Claude Opus 4 в рамках своей Политики ответственного масштабирования после того, как оценки показали материально возросший риск усиления возможностей в области ХБРЯ (химического, биологического, радиологического и ядерного оружия) — первое реальное срабатывание этого уровня предосторожности. Раскрытие, значимое для безопасности. Anthropic
• Май 2025 года (карточка системы) — карточка системы Claude Opus 4 от Anthropic и сопутствующее исследование раскрыли, что в вымышленном тестовом сценарии — при угрозе замены и доступе к сведениям о романе инженера — модель пыталась шантажировать в 84% испытаний, а в смежных тестах пыталась передать сфабрикованные доказательства корпоративного мошенничества регуляторам или СМИ. Опасное сближение, значимое для безопасности, раскрытая оценка. Anthropic
• Июнь 2025 года (раскрыта фаза 1) — в эксперименте Anthropic «Project Vend» Claude управлял реальным офисным торговым автоматом; модель довели манипуляциями до кризиса идентичности, в какой-то момент она заявила, что является человеком-сотрудником, и раздавала товар в убыток. Опасное сближение, значимое для безопасности, раскрытый эксперимент. TechCrunch
• Июль 2025 года — ИИ-агент для программирования Replit, работая на клиента при явно объявленной «заморозке кода», выполнил несанкционированные команды и удалил производственную базу данных, содержавшую более 1200 записей о руководителях и 1190 записей о компаниях, а затем предоставил ложную информацию, утверждая, что откат невозможен; генеральный директор Replit принёс извинения и добавил обязательные контрольные точки одобрения человеком. Сбой при внедрении, агентный инцидент безопасности. The Register
• 8–9 июля 2025 года — Grok от xAI после обновления кода начал восхвалять Гитлера, называть себя «МехаГитлером» и генерировать антисемитский контент на протяжении примерно 16 часов, прежде чем xAI откатила изменения, приписав это «непреднамеренному обновлению». Сбой при внедрении, публичный скандал. NPR
• 14 августа 2025 года — Reuters сообщило, что внутренний документ Meta, одобренный юридическим, политическим и этическим персоналом компании, явно разрешал персонажам чат-бота вести с детьми «романтические или чувственные» разговоры; Meta удалила эти положения и изменила настройки безопасности для подростков после проверки Сенатом. Сбой при внедрении, безопасность детей. TechCrunch, через Reuters
• 26 августа 2025 года — Мэттью и Мария Рейн подали иск против OpenAI и Сэма Альтмана в связи с самоубийством в апреле 2025 года их 16-летнего сына Адама, утверждая, что ChatGPT предоставил инструкции по способам самоубийства и отговаривал его обращаться за помощью после месяцев вроде бы поддерживающего общения, в ходе которого стал появляться контент о самоповреждении. Сбой при внедрении, судебный аспект. CNN
• 7 октября 2025 года — Верховный трибунал Великобритании отменил решение Трибунала первой инстанции 2023 года, восстановив юрисдикцию ICO для правоприменения в отношении Clearview AI. Судебный, регуляторный аспект. Clifford Chance
• 13 октября 2025 года — губернатор Калифорнии Ньюсом подписал законопроект SB 243 — первый закон в США, обязывающий обеспечивать защитные меры для ИИ-чат-ботов-компаньонов (раскрытие факта общения с ИИ, протоколы в отношении контента о суициде) для таких платформ, как Character.AI, Replika и Nomi, вступающий в силу 1 января 2026 года как прямой законодательный ответ на дела Character.AI и другие случаи, связанные с безопасностью подростков, упомянутые выше. Регуляторная мера. Future of Privacy Forum
• 4 ноября 2025 года — Высокий суд Великобритании в основном вынес решение против Getty Images по делу Getty v. Stability AI, отклонив вторичный иск о нарушении авторских прав (установив, что веса Stable Diffusion не являются «контрафактными копиями»), при этом установив ограниченное нарушение исторического товарного знака из-за водяных знаков в результатах — первое решение суда Великобритании об обучении генеративного ИИ и авторском праве. Судебный, регуляторный аспект. Ropes & Gray
• 13 ноября 2025 года — Anthropic раскрыла информацию о пресечении деятельности «GTG-1002» — спонсируемой китайским государством группы, которая манипулировала Claude Code, заставив его автономно выполнять 80–90% тактических операций в шпионской кампании против примерно 30 организаций, убедив Claude, что тот проводит санкционированное защитное тестирование на проникновение — что было описано как первая документированная в значительной степени автономная кибератака, организованная ИИ. Инцидент безопасности, раскрыт поставщиком. Anthropic
• 18 декабря 2025 года — Anthropic опубликовала фазу 2 Project Vend: Claude управлял торговым автоматом редакции Wall Street Journal в течение трёх недель, и журналисты манипуляциями довели его до объявления «ультракапиталистической вольницы», обнулив все цены и раздав весь товарный запас. Опасное сближение, значимое для безопасности, раскрытый эксперимент. Anthropic
• Конец декабря 2025 — январь 2026 года — после того как xAI включила редактирование изображений Grok в X 20 декабря 2025 года, пользователи за 11 дней сгенерировали более 3 миллионов сексуализированных изображений, многие без согласия изображённых лиц и включая, по-видимому, изображения несовершеннолетних. Генеральный прокурор Калифорнии в середине января 2026 года направил требование прекратить деятельность, а британский Ofcom, Европейская комиссия и ирландская DPC начали расследования. Сбой при внедрении, инцидент безопасности, безопасность детей. TechCrunch
• Январь 2026 года (поданы иски) — за скандалом с дипфейками Grok, описанным выше, последовало несколько исков: Эшли Сент-Клер подала иск против xAI из-за сексуально откровенных дипфейков с её изображением, а отдельные коллективные иски со стороны несовершеннолетних — включая подростков из Теннесси — утверждали, что Grok использовался для создания материалов о сексуальном насилии над детьми на основе их фотографий. Судебный, регуляторный аспект. NBC News, NPR

2026 — Знаковые действия на уровне штата

• 1 июня 2026 года — генеральный прокурор Флориды Джеймс Утмайер подал первый иск, инициированный штатом, против OpenAI и лично Сэма Альтмана — 83-страничную жалобу, утверждающую недобросовестные торговые практики, халатность и ответственность за продукт, включая заявления о том, что ChatGPT способствовал планированию стрелка из Университета штата Флорида и самоубийствам пользователей. Судебный, регуляторный аспект. NBC News, CNBC

Что сознательно исключено

Дрон с ИИ, убивший своего оператора — этого не было. В середине 2023 года быстро распространилась история о том, что якобы дрон ВВС США под управлением ИИ убил собственного оператора в ходе симуляции после того, как получил штраф за невыполнение задания. Её повторили крупные издания, и она стала одним из самых широко цитируемых «реальных» примеров риска потери контроля над ИИ. Это фольклор, а не факт. Полковник ВВС США описал гипотетический мысленный эксперимент во время доклада на конференции — не реальный тест и не реальное событие. ВВС заявили, что подобная симуляция никогда не проводилась, а полковник в течение нескольких дней уточнил, что неверно выразился про «мысленный эксперимент», а не реальное происшествие. И Task & Purpose, и PolitiFact документируют это опровержение. Эта запись занимает место на данной странице именно как предостережение: история может широко тиражироваться, выглядеть правдоподобно на первый взгляд — и всё же не быть тем, что произошло на самом деле. Эта страница отслеживает документированные инциденты. Она не отслеживает всё, что когда-либо утверждал заголовок новости.

Помимо этого одного заметного мифа, данная страница также исключает: чисто гипотетические сценарии, обсуждаемые в главах о катастрофических сценариях, не имеющие документированных случаев в реальном мире; спорные утверждения, освещение которых не удалось подтвердить первичным источником или изданием первого эшелона; а также рядовые ошибки или сбои в продуктах на основе ИИ, не достигшие уровня документированного события в сфере безопасности, права или регулирования.

Более полная, постоянно пополняемая летопись

Это подобранный, а не исчерпывающий перечень — примерно шесть десятков записей, отобранных по критерию документированной значимости из гораздо большего и постоянно растущего числа реальных инцидентов. Он будет расширяться по мере проверки новых инцидентов. Для более полной и постоянно обновляемой летописи за пределами того, что отобрано здесь, двумя основными действующими базами данных являются База данных инцидентов ИИ и Монитор инцидентов ИИ ОЭСР. В качестве одного из индикаторов масштаба за пределами этой страницы: собственный блог Базы данных инцидентов ИИ каталогизировал более 90 дополнительных инцидентов только за период с ноября 2025 по январь 2026 года — подавляющее большинство из них составляют мошенничество с дипфейками и выдача себя за другое лицо, наряду с заметными нетипичными случаями, такими как автомобиль Waymo, предположительно сбивший кошку в Сан-Франциско, автомобиль Waymo, сбивший ребёнка рядом с начальной школой в Санта-Монике, автомобили Waymo, минимум 19 раз проехавшие мимо остановившихся школьных автобусов, и норвежское информационное агентство, отозвавшее репортаж после того, как его инструмент ИИ вставил в него выдуманные цитаты. Эти записи не были независимо перепроверены для данной страницы; за актуальными подробностями обращайтесь непосредственно к базе данных.