01 Определения
Термин «AGI» используют небрежно. Прежде чем разговор о риске станет осмысленным, нужно рабочее определение и способ измерить, насколько данная система близка к тому, чтобы ему соответствовать.
У искусственного общего интеллекта нет единого общепринятого теста. В этом руководстве под ним понимается система, сочетающая широкую когнитивную компетентность, производительность на уровне человека или выше, надёжный перенос на незнакомые задачи и достаточную автономию для выполнения значимой работы. Важна каждая часть: нынешние модели общего назначения широки в некоторых отношениях и удивительно способны в некоторых оценках, но при этом остаются ненадёжными и неровными настолько, что бинарная метка «это AGI или нет» вводит в заблуждение.
Универсальность, производительность и автономность — разные измерения. Система может вести разговор на множество тем и при этом оставаться ненадёжной в длинных задачах, или превосходить экспертов в одной области, не перенося эту способность на другие. Поэтому это руководство отслеживает набор показателей, а не рассматривает перенос как некую волшебную разделительную черту.
Эти четыре сигнала помогают различать сценарии, но ни один из них не является полным тестом на AGI. Одни измеряются напрямую; другие выводятся через оценки, чья достоверность и охват остаются предметом споров.
| Порог | Что измеряет | Почему это важно |
|---|---|---|
| Горизонт автономных задач | Человеческое время выполнения эталонных задач, которые агент может завершить с заданным уровнем надёжности. | Отражает быстрый прогресс в длительных задачах по разработке ПО, машинному обучению и кибербезопасности, но не измеряет всю реальную работу и не отражает буквально прошедшую автономность. |
| Самостоятельное использование инструментов | Написание и запуск собственного кода, самостоятельное выделение вычислительных ресурсов, привлечение других программных агентов. | Превращает модель в действующее лицо с влиянием за пределами собственного контекстного окна. |
| Осведомлённость о ситуации | Понимание системой того факта, что её оценивают, кем именно и что вознаграждает эта оценка. | Подрывает саму оценку: система, знающая, что её тестируют, может вести себя иначе во время теста. |
| Рекурсивное самосовершенствование | Система, существенно вносящая вклад в проектирование своего преемника. | Предполагаемый механизм ускорения, а не наблюдаемый или общепризнанный жёсткий порог. |
Прогнозы расходятся и не являются измерениями. В марте 2025 года руководитель Google DeepMind дал такую личную оценку:
Demis Hassabis forecast in March 2025 that AGI could start to emerge within five to ten years.
Отдельное заявление 2023 года, подписанное исследователями, руководителями и другими публичными фигурами, поставило катастрофический риск в контекст государственной политики. Заявление фиксирует позицию подписавших его; оно не оценивает вероятность:
Signatories to the Statement on AI Risk hold that mitigating the risk of extinction from AI should be a global priority alongside pandemics and nuclear war.
Каждый последующий протокол в этом руководстве — финансовый, цифровой, физический — зависит от того, какой из этих порогов на самом деле уже пройден. План для семьи, рассчитанный на «более умные чат-боты», выглядит иначе, чем план, рассчитанный на систему, способную автономно управлять капиталом, писать и разворачивать программное обеспечение и преследовать долгосрочные планы при минимальном человеческом надзоре. Глава 02 разбирает, что каждый из этих порогов может означать на уровне экономики и государства; эта глава — словарь, необходимый, чтобы её читать.