Начните с того, какого рода утверждение делается
«ИИ умеет это делать», «AGI скоро появится» и «эта система может вызвать катастрофу» — не одно и то же утверждение. Им требуются разные доказательства. Отточенная демонстрация может подтвердить, что модель однажды справилась в благоприятных условиях. Она не подтверждает надёжность, экономическую ценность или безопасную автономную работу. Прогноз выражает суждение о будущем. Это не измерение нынешней способности.
Это важно, потому что у AGI нет общепринятого теста. Определения делают акцент на разных сочетаниях широты, производительности, автономности, обучаемости, физической компетентности и экономического воздействия. Вместо того чтобы спрашивать, доказывает ли один заголовок наличие AGI, читателям стоит спрашивать, что именно было измерено, при каких условиях и насколько далеко вывод уходит за пределы доказательств.
Лестница ниже — не жёсткий рейтинг, в котором каждый пункт одного уровня превосходит всё, что ниже. Воспроизводимая лабораторная оценка может быть более веским доказательством для узкого механизма, чем зашумлённые данные о развёртывании. Её цель — обнажить те шаги вывода, которые рекламные и алармистские заявления часто скрывают.
Уровень первый: анекдот и подобранная демонстрация
Анекдоты раскрывают возможности и режимы сбоя. Запись экрана, где агент создаёт приложение, показывает, что как минимум один прогон дал показанный результат — при условии, что демонстрация подлинна. Неожиданная галлюцинация показывает, что сбой возможен. Ни то ни другое не говорит нам, насколько часто проявляется это поведение.
Стоит спросить, выбрал ли представляющий лучший прогон, вырезал ли паузы или сбои, использовал ли скрытую помощь человека или выбрал знакомую задачу. Ищите полный промпт, инструменты, версию модели, настройки выборки, число попыток и случаи сбоя. Без них результат стоит рассматривать как наводку, достойную изучения, а не как показатель частоты.
Демонстрации всё же полезны. Новые способности часто проявляются в неопрятной форме до появления формального измерения. Ошибка — превращать «может произойти» в «обычно происходит», а затем в «трансформирует экономику».
Уровень второй: эталонный тест или контролируемая оценка
Оценка задаёт задачи, условия и правило подсчёта баллов. Она позволяет сравнивать системы более систематически, чем анекдот. Сильные оценки используют отложенные задачи, предотвращают загрязнение данными, сообщают о неопределённости, документируют обвязку и помощь человека и тестируют релевантные режимы сбоя. Независимое воспроизведение повышает доверие.
Баллы эталонных тестов всё равно могут вводить в заблуждение. Обучающие данные могут содержать похожие вопросы. Команды могут оптимизироваться под публичный тест. Знания в формате множественного выбора не устанавливают навык на незнакомом рабочем месте. Средние значения скрывают катастрофические сбои в хвосте распределения. Система, успешная в 90 процентах случаев, может оказаться непригодной для рабочего процесса из 30 шагов, поскольку ошибки накапливаются.
Международный отчёт по безопасности ИИ 2026 использует термин «разрыв оценки» для проблемы, при которой результаты контролируемых тестов до развёртывания ненадёжно предсказывают реальную производительность. Он также описывает нынешние профили возможностей как «неровные»: производительность существенно варьируется между задачами и контекстами, и системы могут проваливать внешне простую работу, несмотря на успех в сложных оценках. Это находки об ограничениях измерения, а не доказательство того, что любой эталонный тест бесполезен. Заслуживающая доверия статья должна сообщать и балл, и то, что тест оставляет за скобками.
Уровень третий: состязательные, каузальные исследования и исследования усиления возможностей
Утверждения о риске требуют больше, чем стандартный эталонный тест. Red-team-команды ищут способы вызвать запрещённое или опасное поведение. Каузальные эксперименты меняют одну характеристику и проверяют, меняются ли результаты. Исследования усиления возможностей (uplift) сравнивают, чего люди могут добиться с помощью ИИ, с содержательной базовой линией, например с одним лишь интернетом.
Эти исследования отвечают на разные вопросы. Находка red-team-команды показывает доступность при протестированной атаке, а не распространённость в масштабе населения. Оценка возможностей может показать, что модель способна произвести вредоносный план, не показывая, что реальный субъект способен его исполнить. Исследование усиления может быть более релевантным для проблемы злоупотребления, но его участники, ограничение по времени, базовая линия, показатель результата и защитные меры определяют, что оно на самом деле значит.
Малые выборки дают широкую неопределённость. Участники-эксперты могут занижать усиление для новичков, но лучше представлять искушённых злоумышленников. Задачи-заменители позволяют избежать реального вреда, но могут упускать узкие места реального мира. Результаты быстро устаревают по мере изменения моделей и мер контроля. Хорошая отчётность называет эти ограничения, а не сжимает их до «ИИ даёт возможность» или «ИИ не повышает» риск.
Уровень четвёртый: полевые данные и данные о развёртывании
Данные из реального мира могут раскрывать принятие технологии, продуктивность, инциденты, злоупотребления и организационную адаптацию. Рандомизированные полевые эксперименты и тщательно спроектированные квазиэксперименты позволяют оценить каузальные эффекты. Базы данных инцидентов и данные жалоб могут показывать повторяющийся вред. Аудиты способны выявить диспропорции, которые лаборатория разработчика не тестировала.
У данных о развёртывании тоже есть слепые зоны. Компании наблюдают больше, чем раскрывают. Пользователи сами выбирают, принимать ли инструмент и как именно, что смещает простые сравнения. Зарегистрированные инциденты — не то же самое, что все инциденты. Прирост продуктивности в поддержке клиентов не переносится автоматически на исследования, управление, медицину или робототехнику.
Читателям стоит искать сведения о популяции, обстановке, группе сравнения, периоде времени, результате и конфликтах интересов. «Работники выполнили больше задач» отличается от «бизнес создал больше ценности», а оба этих утверждения отличаются от «занятость упала». Нынешние данные о труде применительно к генеративному ИИ не следует переклассифицировать как данные о гипотетическом AGI.
Уровень пятый: экстраполяция тенденций и прогноз
Прогнозы сочетают измерения с допущениями. Тенденции в вычислениях, алгоритмический прогресс, инвестиции, производительность в эталонных тестах и надёжность агентов могут информировать прогноз, но ни один из этих факторов однозначно не определяет дату появления AGI. Ограничения могут ослабевать, сохраняться или сдвигаться. Определения могут меняться.
Исследование временных горизонтов METR оценивает время выполнения задачи человеком-экспертом, при котором протестированный агент, по прогнозу, добьётся успеха с заявленной надёжностью, обычно 50 или 80 процентов. Нынешний набор задач состоит преимущественно из самодостаточных, чётко специфицированных задач по разработке ПО, машинному обучению и кибербезопасности с ясными правилами оценки. Эта мера — полезное доказательство относительно определённой конфигурации агента и распределения задач. Это не время автономной работы ИИ, не мера всей экономически ценной работы и не таймер, отсчитывающий время до AGI. METR также предупреждает, что измерения свыше 16 часов ненадёжны при её нынешнем наборе задач.
Оценивайте прогноз по его операциональному определению, дате, вероятности, модели, базовой частоте и «послужному списку». Калиброванный прогноз фактически говорит: «исходы с присвоенной вероятностью 30 процентов должны происходить примерно в 30 процентах случаев». Уверенную дату без критериев разрешения оценить невозможно. Опросы экспертов фиксируют информированные убеждения, но не превращают разногласие в экспериментальное доказательство.
Сценарии служат другой цели. Они исследуют условные пути: если возможности, доступ, автономность и институциональный ответ примут заданные значения, что последует дальше? Сценарий может обнажить уязвимости, не будучи самым вероятным будущим. Маркируйте его соответствующим образом.
Уровень шестой: механизм и теоретический аргумент
Некоторые тяжёлые риски AGI нельзя продемонстрировать напрямую без соответствующих систем — и их не следует создавать лишь ради получения доказательства. Вместо этого исследователи предлагают механизмы, такие как взлом функции вознаграждения, инструментальное стремление к ресурсам, конкурентные гонки или постепенная передача полномочий. Формальные модели могут прояснить, действительно ли вывод следует из посылок.
Центральный вопрос не в том, звучит ли аргумент ярко. Он в том, какие посылки имеют эмпирическую поддержку. Есть ли у системы устойчивая цель? Может ли она планировать на нужном горизонте? Есть ли у неё доступ к инструментам, деньгам, инфраструктуре или собственным копиям? Даст ли мониторинг сбой? Способны ли институты отреагировать? Каждое звено может изменить вероятность всей цепочки.
Отсутствие прямых данных о катастрофе — не доказательство нулевого риска. Но и логически возможный путь не устанавливает большую вероятность. Решения в условиях неопределённости должны учитывать последствия, обратимость, время предупреждения, а также стоимость и эффективность защитных мер. Это суждение в рамках управления риском, а не открытие, превратившее теорию в наблюдение.
Используйте карточку доказательства для значимых утверждений
Для любого значимого утверждения фиксируйте шесть полей:
- Утверждение: узко сформулированное положение, которое действительно заявляется.
- Статус: наблюдаемый результат, вывод, прогноз, сценарий или рекомендация.
- Источник: первичное исследование, официальные данные, синтез, отчёт компании, СМИ или мнение.
- Охват: модель, версия, задача, популяция, юрисдикция и дата.
- Неопределённость: размер выборки, доверительный интервал, воспроизведение, отсутствующие данные и правдоподобные альтернативы.
- Триггер обновления: доказательства, которые усилили бы, ослабили бы или сняли бы утверждение.
Добровольный Профиль генеративного ИИ от NIST — межотраслевое дополнение к Системе управления рисками ИИ, а не тест или сертификация AGI. Он организует предлагаемые действия под функциями системы «Управлять», «Картировать», «Измерять» и «Регулировать» и рассматривает управление риском как деятельность на протяжении всего жизненного цикла. Более широкое руководство по измерению NIST AI RMF требует документированного тестирования, мер неопределённости, измерения, релевантного для развёртывания, мониторинга и независимой проверки там, где она может снизить внутреннюю предвзятость. Точный шаблон менее важен, чем то, чтобы цепочка доказательств поддавалась аудиту.
Соразмеряйте уверенность с доказательствами
Надёжное освещение темы AGI не требует ложной нейтральности. Некоторые факты хорошо установлены: модели совершенствуются во многих оценках, реальный вред уже происходит, возможности остаются неровными, а у институтов неполная видимость происходящего. Другие утверждения — сроки появления AGI, скачкообразный взлёт, цифровое сознание, устойчивое согласование, вероятности вымирания — остаются глубоко спорными.
Дисциплинированный ответ — точность формулировок. Говорите «исследование обнаружило», описывая его результат, «авторы делают вывод», выходя за его пределы, «прогнозисты присваивают», сообщая об убеждении, и «этот сценарий предполагает», исследуя путь развития событий. Затем размещайте источник рядом с утверждением.
Такой язык может казаться менее драматичным, чем обратный отсчёт или декларация. Но он полезнее. Человечество примет более удачные решения о продвинутом ИИ, зная, что поддерживают доказательства, где они заканчиваются и что изменило бы оценку.