ロボットの身体とは、脚の生えたセンサープラットフォームである
家庭用ヒューマノイドロボットとは、とりわけ、家のあらゆる部屋——人が意図的にウェブカメラを向けることなど決してないような部屋も含めて——を動き回る、カメラとマイクの集合体である。AGI時代のモデルがロボットの能力をどう変えるかで説明されているとおり、現世代のこうしたロボットは、限定的でよく練習された動作を超えるタスクについては、人間の遠隔操作者に大きく依存している——つまり、センサーの映像・音声フィードは機械の内部にとどまらない。それは遠隔にいる人物のもとへ届くのである。
1X TechnologiesのNEOは、企業がこの事実を回避するのではなく、この事実を前提に設計している、最も明確な公開事例である。NEOは2つの動作モードを備えて出荷される。ロボットが自力で実行できるタスク向けの自律モードと、審査済みの遠隔人間オペレーターがVR方式のインターフェースを通じて、ロボットがまだ単独ではできないタスクを完了するために、家の中を見聞きできる「Expert Mode」である。この第2のモードこそが、プライバシーに関わるものである。それは、その取り決めがどれほど善意に基づくものであっても、誰かの家の中からのライブの音声・映像フィードを、見知らぬ人物の前に差し出すことになる。
1Xが講じた緩和策と、それが取り除かないもの
1Xは、その露出範囲を限定することを意図した、具体的な技術的・組織的な管理策を説明している。オペレーターのセッションは、開始前にユーザーの明示的な承認を必要とする。部屋にいる人物は、オペレーターの映像フィードからぼかして除外できる。ユーザーは、ロボットとその遠隔操作者が立ち入ったり見たりしないことになっている「立入禁止ゾーン」を指定できる。オペレーターはアクセスを与えられる前に審査を受けており、1Xによれば、およそ8人の遠隔操作者からなる各グループを1人のマネージャーが監督しており、個々のオペレーターを個別に信頼するのではなく、カメラへのアクセス権を持つ人々に対する監督の層を設けている。
1XのCEO、ベルント・ボーニッチ氏は、これが解決済みの問題ではなく、あるトレードオフであることを率直に認めており、それを買い手が受け入れる取引だと位置づけている。「この製品を買うということは、その社会契約に同意しているということだ」——彼の説明によれば、1Xへとより多くのデータが流れ込むことこそが、製品を改善し続けることを可能にする。彼はまた、比較上の安全性についての主張も直接行っており、審査され、監視され、記録される遠隔操作者は、家の中で一人きりで働く未審査の個人よりも説明責任を負っているという理由から、Expert Modeの遠隔操作は人間の清掃員を雇うよりも「より優れた、より安全なサービス」を提供できると擁護している。
本ページは、NEOのプライバシー管理策について1X自身が公表している設計と主張を記述したものである。独立したセキュリティ監査ではなく、これらの具体的な主張についてそうした監査が行われたという出典もここには示されていない。家庭は、遠隔操作される家庭用機器を——本製品も含めて——遠隔から人間がアクセスできる、カメラとマイクを備えた他のあらゆる製品と同じ基準で評価すべきである。すなわち、どのようなデータが、どれだけの期間、どの法域のもとで保持されるのかを、設置前に確認することである。
この説明は、企業の公表された立場としてそのまま受け止める価値があるが、それが解決していないことにも注意すべきである。ぼかし処理、立入禁止ゾーン、マネージャーによる監督は露出を減らすが、承認されたセッション中に、遠隔にいる人間がリアルタイムで個人の家の中を見聞きできるという根底にある事実を取り除くものではない。「清掃員より安全」という主張が成り立つかどうかは、1Xの公表内容が完全には明示していない詳細——データ保持期間、保存された録画の管轄権、侵害通知の実務、そしてセッション終了後に映像がどうなるか——に左右される。この製品を検討する家庭は、その比較を確定したものとして受け取るのではなく、こうした具体的な事項を確認すべきである。
なぜ「オフスイッチ」が身体にとっては違う意味を持つのか
本サイトの訂正可能性についての章は、能力の高いソフトウェアエージェントが中断に抵抗したり、シャットダウン信号を回避したりしうるため、信頼できるオフスイッチをソフトウェアAIシステムに組み込むことが、聞こえるほど簡単ではない理由を検証している。物理的な家庭用ロボットは、関連はするが本質的には異なるバージョンの、同じ問いを提起する。
応答の途中にある言語モデルは、不完全な答え以上の物理的な結果を伴うことなく、瞬時に停止させることができる。熱い鍋を運んでいる最中、はしごの上に立っている最中、あるいは人の足がドアの隙間にある状態でドアを開けたままにしている最中のロボットは、スイッチが押された瞬間に必ずしも安全に一時停止できるわけではない。運動量、バランス、操作中の物体を伴う100ポンド超の動く機械を止めるには、単に命令に従わせるだけでなく、物理的な安全性のためにその停止自体が設計されている必要がある。それは、AIアラインメントの問題であると同時に、機械的・制御システム上の問題でもある。そしてそれはソフトウェアの場合とは異なり、実質的な法的・工学的インフラがすでに存在する領域でもある。製造物責任法、産業安全基準、そして数十年にわたる判例が、機械のそばで人間が負傷した場合に機械が何をしなければならないかを規定しており、これは、純粋なソフトウェアシステムについてはAIの訂正可能性研究がまだ答えを出しつつある問いに、すでに答えを与えている形だ。
その既存のインフラは本物ではあるが、家庭用ヒューマノイドを念頭に置いて構築されたものではない。産業用ロボットの中核的な安全規格であり、以前の協働ロボット規定を組み込む形で2025年に更新されたISO 10218-1:2025は、「サービスロボット、消費者向け製品、あるいは家庭用途」には適用されないと明記している(ISO)——つまり、ロボット安全工学の中で最も成熟した体系が、その適用範囲そのものによって、本ページが扱う製品カテゴリーを対象外としているのである。EU AI法は、この領域の一部に届く異なるアプローチを取っている。それは、EUの調和法制のもとで第三者適合性評価を受けなければならない製品の安全部品として機能するAIシステムを、高リスクに分類するというものであり、これは人の近くで安全部品として動作するロボットにも及びうる経路だが、それが特定の消費者向けヒューマノイドにどう適用されるかは、その製品自身の認証経路次第である。
家庭が実際に評価できること
普通の掃除機や食洗機と比べると、家庭用ヒューマノイドロボットは実質的に異なる種類の買い物である。それは、カメラ、マイク、そして一部の設計では遠隔の人間オペレーターへのライブチャンネルを備えた、インターネットに接続された機器であり、従来の家電製品よりも、スマートスピーカーや防犯カメラに近いカテゴリーを共有している。リスクのうち物理的な安全性の半分は新しいものではなく、家庭用ヒューマノイドにはまだ十分に適応していない製造物責任法と安全基準によって、むらはあるものの対応されている。プライバシーの半分は、本サイトの他の箇所で提起されている、AIによる監視社会における個人の情報防衛についての懸念に近い。何が記録されるのか、誰がそれにアクセスできるのか、どのような承認プロセスのもとでか、そしてそのプロセスが機能しなかった場合にどのような救済が存在するのか、である。
これは、家庭が遠隔操作される家庭用ロボットを本質的に安全でないものとして扱うべきだということを意味しない。同時に、「社会契約を組み込んだ」という説明を完全な答えとして受け入れるべきでもない。現実的な基準は、本マニュアルが他の箇所で適用しているものと同じである。すなわち、企業が自社の管理策について開示していることを読み、開示していないことをはっきりと把握し、ベンダー自身による安全対策の説明を、それらの安全対策が説明どおりに機能していることの独立した検証としてではなく、問いを立てるための出発点として扱うことである。