Тело робота — это сенсорная платформа на ногах
Бытовой человекоподобный робот — это, среди прочего, набор камер и микрофонов, передвигающийся по всем комнатам дома, включая те комнаты, куда человек никогда бы намеренно не направил веб-камеру. Как объясняется в главе о том, как модели эпохи AGI меняют возможности роботов, нынешнее поколение таких роботов сильно полагается на телеоператоров-людей для задач, выходящих за рамки узких, хорошо отработанных движений, — а это означает, что поток с датчиков не остаётся внутри машины. Он доходит до удалённого человека.
NEO от 1X Technologies — самый наглядный публичный пример компании, которая проектирует продукт с учётом этого факта, а не вопреки ему. NEO поставляется в двух режимах работы: автономном режиме для задач, которые робот может выполнять сам, и «Экспертном режиме», в котором проверенный удалённый оператор-человек, работающий через интерфейс в стиле виртуальной реальности, может видеть и слышать происходящее в доме, чтобы завершить задачу, с которой робот пока не справляется самостоятельно. Именно второй режим значим с точки зрения приватности: он выставляет живую аудио- и видеотрансляцию из чьего-то дома перед незнакомым человеком, сколь бы благими ни были намерения этой схемы.
Меры смягчения, которые встроила 1X, и то, чего они не устраняют
1X описала конкретные технические и организационные меры контроля, призванные ограничить эту уязвимость. Сессии оператора требуют явного одобрения пользователя перед началом. Люди, видимые в комнате, могут быть размыты в видеопотоке оператора. Пользователи могут назначать «запретные зоны», куда робот и его удалённые операторы не должны входить или заглядывать. Операторы проходят проверку перед получением доступа, и, по словам 1X, примерно один менеджер курирует каждую группу примерно из восьми телеоператоров, обеспечивая уровень надзора над людьми с доступом к камере, а не полагаясь на добросовестность каждого оператора по отдельности.
Генеральный директор 1X Бернт Бёрних откровенно признавал, что это компромисс, а не решённая проблема, представляя это как сделку, которую принимает покупатель: «если вы покупаете этот продукт, то потому, что вы согласны с этим общественным договором», — больший поток данных к 1X, по его словам, и есть то, что позволяет продукту продолжать совершенствоваться. Он также прямо выдвигал сравнительный аргумент о безопасности, защищая телеуправление в Экспертном режиме как способное обеспечить «лучшую, более безопасную услугу», чем найм человека для уборки, рассуждая так: проверенный, отслеживаемый, регистрируемый удалённый оператор более подотчётен, чем непроверенный человек, работающий в одиночку в доме.
Эта страница описывает собственный заявленный дизайн 1X и её публичные утверждения о средствах контроля приватности NEO. Это не независимый аудит безопасности, и здесь не приводится ссылка на такой аудит применительно к этим конкретным утверждениям. Домохозяйству следует оценивать любое телеуправляемое домашнее устройство — включая это — на тех же условиях, что и любой другой продукт с камерой, микрофоном и удалённым доступом человека: перед установкой проверить, какие данные сохраняются, как долго и под какой юрисдикцией.
Эту формулировку стоит воспринимать буквально как заявленную позицию компании, отмечая при этом, чего она не решает. Размытие лиц, запретные зоны и надзор менеджеров снижают уязвимость; они не устраняют лежащий в основе факт, что удалённый человек может во время одобрённой сессии в реальном времени видеть и слышать происходящее внутри частного дома. Выдерживает ли утверждение «безопаснее, чем уборщица», зависит от деталей, которые публичные заявления 1X полностью не раскрывают, — сроков хранения данных, юрисдикции над сохранёнными записями, практики уведомления об утечках и того, что происходит с отснятым материалом после завершения сессии, — и домохозяйству, рассматривающему этот продукт, стоит искать именно эти подробности, а не принимать сравнение как окончательно решённое.
Почему «выключатель» означает нечто иное для тела
Глава сайта о корригируемости разбирает, почему встроить надёжный выключатель в программную систему ИИ сложнее, чем кажется, поскольку способный программный агент может сопротивляться прерыванию или обходить сигнал отключения. Физический бытовой робот поднимает связанную, но по-настоящему иную версию того же вопроса.
Языковую модель посреди ответа можно остановить мгновенно без каких-либо физических последствий, кроме незавершённого ответа. Робота посреди задачи — несущего горячую сковороду, стоящего на стремянке или удерживающего дверь открытой, когда в проёме нога человека, — не всегда можно безопасно поставить на паузу в момент нажатия выключателя; остановка движущейся машины весом за 100 фунтов с инерцией, балансом и манипулируемыми предметами требует, чтобы сама остановка была спроектирована ради физической безопасности, а не только ради подчинения команде. Это в той же мере механическая проблема и проблема систем управления, что и проблема согласования ИИ, и это также, в отличие от случая с программным обеспечением, область, где уже существует значительная правовая и инженерная инфраструктура: право ответственности за качество продукции, стандарты промышленной безопасности и десятилетия прецедентов регулируют, что должна делать машина, когда рядом с ней пострадал человек, — так, как исследования корригируемости ИИ всё ещё только разрабатывают для чисто программных систем.
Эта существующая инфраструктура реальна, но создавалась не с расчётом на домашних человекоподобных роботов. ISO 10218-1:2025 — базовый стандарт безопасности промышленных роботов, обновлённый в 2025 году для включения прежних положений о совместных роботах, — прямо заявляет, что не применяется к «сервисным роботам, потребительским товарам или бытовому использованию» (ISO) — а значит, самый зрелый свод инженерии безопасности роботов по собственному охвату не покрывает категорию продукта, о которой идёт речь на этой странице. Закон ЕС об ИИ применяет иной подход, который всё же затрагивает часть этой территории: он классифицирует систему ИИ как высокорисковую, когда она функционирует как компонент безопасности продукта, обязанного пройти оценку соответствия третьей стороной по законодательству ЕС о гармонизации, — путь, способный охватить роботов, работающих как компонент безопасности рядом с людьми, хотя то, как это применяется к конкретному потребительскому человекоподобному роботу, зависит от собственного пути сертификации продукта.
Что домохозяйство реально может оценить
В сравнении с обычным пылесосом или посудомоечной машиной бытовой человекоподобный робот представляет собой материально иной вид покупки: подключённое к интернету устройство с камерами, микрофонами и, в некоторых конструкциях, живым каналом связи с удалённым оператором-человеком, — категория, ближе роднящая его с умной колонкой или камерой безопасности, чем с прежними бытовыми приборами. Физическая половина риска, связанная с безопасностью, не нова и покрывается, неравномерно, правом ответственности за качество продукции и стандартами безопасности, ещё не полностью адаптированными под домашних человекоподобных роботов. Приватностная половина ближе к опасениям, поднятым в других частях этого сайта о личной операционной безопасности в мире слежки с помощью ИИ: что записывается, кто может это получить, по какому процессу одобрения и какие средства защиты существуют, если этот процесс даёт сбой.
Ничто из этого не означает, что домохозяйству следует считать телеуправляемого домашнего робота изначально небезопасным, равно как и принимать «мы встроили общественный договор» как исчерпывающий ответ. Реалистичный стандарт тот же, что это руководство применяет в других местах: читать, что компания раскрывает о собственных средствах контроля, чётко отмечать, чего она не раскрывает, и относиться к собственному изложению поставщиком своих защитных мер как к отправной точке для вопросов, а не как к независимому подтверждению того, что эти меры работают так, как описано.