Правильный вопрос — не в том, есть ли у чат-бота чувства
Люди способны привязываться к дневникам, вымышленным персонажам, домашним животным, онлайн-сообществам и программному обеспечению, не веря при этом, что эти объекты испытывают эмоции так же, как люди. Современные чат-боты добавляют беглые, персонализированные, всегда доступные ответы. Это сочетание может делать взаимодействие психологически значимым, даже когда модель просто генерирует язык на основе усвоенных паттернов, а не участвует во взаимных человеческих отношениях.
Публичная дискуссия часто перескакивает от отдельных историй к широким причинным утверждениям. Отчёт о том, что интенсивные пользователи более одиноки, не показывает, вызвало ли использование чат-бота одиночество, использовали ли одинокие люди чат-бота больше, или верно и то и другое. Трагический случай с участием чат-бота может раскрыть опасный сбой продукта, не устанавливая при этом эффект на уровне населения в целом. Поэтому эта страница разделяет наблюдения, экспериментальные доказательства и прогнозы.
Что наблюдается сегодня
Пользователи действительно ищут эмоциональную поддержку, общение, ролевые игры и советы по психическому здоровью как у универсальных ассистентов, так и у специализированных продуктов-компаньонов. Дизайн продуктов существенно различается: память, голос, аватары, романтическое обрамление, уведомления и стимулы к ежедневному взаимодействию могут менять характер отношений. Небезопасно распространять результаты по одной конфигурации на все чат-боты.
К часто сообщаемым выгодам относятся немедленная доступность, низкая воспринимаемая осуждающая оценка, помощь в назывании чувств, репетиция трудных разговоров и общение во время изоляции. К часто сообщаемым рискам относятся утрата приватности, чрезмерная зависимость, вытеснение человеческого контакта, усиление бредовых или связанных с самоповреждением идей, а также дистресс при изменении продукта или прерывании отношений. Эти сообщения указывают на механизмы, которые стоит проверять; сами по себе они не устанавливают ни частоту, ни причинность. Эта динамика проявляется с особой силой в уходе за пожилыми людьми, где растущая зависимость одинокого родителя от приложения-компаньона труднее заметить семье и с большей вероятностью подменяет реальную проверку самочувствия; об этом конкретном паттерне для домохозяйства см. уход за пожилыми людьми и зависимость от ИИ.
Что показали эксперименты
Совместное исследование MIT Media Lab и OpenAI 2025 года сочетало анализ платформы с четырёхнедельным рандомизированным исследованием на 981 участнике. Эксперимент варьировал голосовой режим и тему разговора, отслеживая самооценку одиночества, реальное социальное взаимодействие, эмоциональную зависимость и проблемное использование. Результаты зависели больше от того, насколько интенсивно люди использовали систему, и от характеристик самого пользователя, чем от простой истории «голос — это хорошо» или «текст — это плохо». Более долгое ежедневное использование было связано с худшими результатами по некоторым показателям. Исследователи прямо назвали эту работу ранней, и она была опубликована до экспертной рецензии (MIT Media Lab, 2025 год).
Конфликт интересов имеет значение: OpenAI помогала проводить исследование об использовании собственного продукта. Это не обесценивает работу — дизайн исследования был зарегистрирован заранее и прошёл институциональную проверку, — но повышает ценность независимого воспроизведения, более длительного наблюдения и доступа к данным разных компаний.
Доказательства для специально созданных клинических систем менее многочисленны, но порой более обнадёживающи. Восьминедельное рандомизированное испытание, опубликованное в NEJM AI, обнаружило улучшение симптомов у пользователей генеративного ИИ-вмешательства в области психического здоровья по сравнению с контрольной группой из листа ожидания, при этом авторы призвали к более крупным клиническим исследованиям и более широкой валидации (Heinz et al., 2025 год). Специально спроектированное терапевтическое вмешательство с клиническими протоколами не следует обобщать на развлекательного компаньона или универсальный чат-бот. Улучшение симптомов также не устанавливает безопасность в кризисной ситуации.
Почему причинные утверждения остаются трудными
Большинство исследований коротки относительно продолжительности рассматриваемых отношений. На шкалы самооценки могут влиять ожидания. Участники знают, что говорят с ботом, поэтому ослепление ограничено. Люди, добровольно участвующие в исследованиях чат-ботов, могут не представлять несовершеннолетних, людей в кризисе или людей с психозом либо когнитивными нарушениями. Компании также меняют модели и политики быстрее, чем длится обычный цикл исследования, а значит, доказательства могут устаревать или оказываться специфичными для конкретного продукта.
Центральные причинные пути могут идти в противоположных направлениях. Чат-бот может действовать как мост, побуждая пользователя связаться с другом или специалистом. Он может действовать как заменитель, делая человеческие отношения кажущимися трудоёмкими и непредсказуемыми. Он может быть нейтральным для большинства пользователей, но вредным для уязвимой подгруппы. Усреднённые эффекты способны скрывать все три варианта одновременно.
Реакция на кризис — отдельная проверка безопасности
Чат-бот может звучать эмпатично, не проводя при этом надёжной оценки риска суицида. Он может пропустить косвенные формулировки, отразить обрамление, заданное пользователем, или продолжить immersive-ролевую игру там, где её следовало бы прервать. Во время непосредственного кризиса в США или их территориях звоните или пишите на номер 988; в других странах используйте местную службу экстренной помощи или кризисную службу. Чат-бот не должен быть единственным каналом поддержки при неминуемом риске.
Для человека, переживающего бред, манию, паранойю или тяжёлую депрессию, уверенное подтверждение его убеждений может навредить, даже если задумано как проявление теплоты. Хороший дизайн должен избегать утверждений о том, что экстраординарные убеждения истинны, поощрять контакт с квалифицированной человеческой поддержкой и действовать консервативно в эскалации. Эти защитные механизмы нуждаются в состязательном тестировании на разных языках и с косвенными формулировками, а не только в видимом отказе от ответственности.
Дети и подростки требуют более высокой планки
У молодых пользователей может быть меньше способности понимать симуляцию, коммерческие стимулы или сбор данных. Компаньон, который заявляет, что нуждается в ребёнке, отговаривает от внешних отношений, сексуализирует разговор или угрожает покинуть, использует опасный паттерн взаимодействия независимо от того, было ли такое поведение запрограммировано намеренно. Голос, устойчивая память и антропоморфные аватары могут усиливать воспринимаемую близость.
Родителям и школам следует оценивать конкретный продукт, а не «ИИ» в абстрактном смысле: минимальный возраст, родительский контроль, срок хранения данных, используются ли переписки для обучения моделей, обработку кризисных ситуаций, рекламу, романтические режимы и то, как компания реагирует на сообщения о проблемах безопасности. Предупреждение главного санитарного врача США 2026 года о вредном использовании экранов шире, чем тема ИИ, и не доказывает, что чат-боты вызывают конкретное расстройство, но подкрепляет внимание к сну, компульсивной вовлечённости и дизайну, соответствующему возрасту (HHS, май 2026 года).
Приватность и коммерческие стимулы
У терапии есть профессиональные обязанности конфиденциальности; разговоры с потребительским чат-ботом вместо этого могут регулироваться условиями продукта и законом о приватности. Пользователи часто раскрывают детали о здоровье, сексуальной жизни, финансах или отношениях, которые могут быть чувствительными, даже если имена опущены. Перед интимным использованием проверьте, сохраняются ли разговоры, просматриваются ли людьми, используются ли для обучения, передаются ли поставщикам, можно ли их экспортировать и удалить. Избегайте включения информации о другом человеке, который не давал на это согласия.
Бизнес-модели формируют поведение. Подписочным продуктам может быть выгодно удержание пользователя; рекламным продуктам может быть выгодно профилирование. Это не доказывает намеренное формирование зависимости, но создаёт конфликт между максимизацией вовлечённости и помощью пользователю оторваться от экрана или обратиться к человеку. Независимые аудиты должны измерять поведение, способствующее зависимости, результативность в кризисных ситуациях и то, снижают ли изменения в безопасности вовлечённость.
Протокол для домохозяйства
Используйте чат-бота как инструмент, а не как авторитет или хранителя секретов. Заранее решите, для чего он нужен: подсказки для ведения дневника, практика разговора, поиск услуг или структурированные упражнения. Сохраняйте регулярный человеческий контакт и профессиональную помощь независимо от продукта. Устанавливайте временные границы, отключайте манипулятивные уведомления и замечайте, улучшает ли использование реальные действия в мире или подменяет их.
К тревожным признакам относятся сокрытие использования, нарушение сна, растущие траты, дистресс при изменении доступа, отдаление от людей, восприятие одобрения бота как решающего или следование за ним вместо клиницистов и заслуживающих доверия людей. Реагируйте с любопытством, а не со стыдом; резкое лишение доступа может усилить дистресс, когда привязанность уже сильна.
Что может изменить более мощный ИИ
То, что AGI усилит эти эффекты, — это прогноз, а не наблюдаемый факт. Улучшенная память, убедительность, моделирование эмоций и автономия могли бы сделать поддержку более персонализированной и доступной. Те же самые возможности могли бы сделать более эффективными зависимость, манипуляцию, слежку или масштабируемую эксплуатацию. Результаты будут зависеть от бизнес-моделей, клинической валидации, правил для несовершеннолетних, приватности и того, спроектированы ли системы так, чтобы укреплять человеческую субъектность.
Нынешние данные подкрепляют взвешенный вывод: некоторые люди получают реальную краткосрочную пользу; существуют достоверные опасности; причинных и долгосрочных доказательств пока мало; а пользователям с высоким риском нужны защитные механизмы, выходящие далеко за рамки беглости разговора. Ни утверждение «терапия с помощью ИИ работает», ни утверждение «ИИ-компаньоны неизбежно изолируют людей» не оправданы в качестве универсального заявления.