Un corps de robot est une plateforme de capteurs sur pattes
Un robot humanoïde domestique est, entre autres choses, un ensemble de caméras et de microphones qui se déplace à travers toutes les pièces d’un foyer, y compris des pièces vers lesquelles une personne ne braquerait jamais une webcam délibérément. Comme l’explique la page comment les modèles de l’ère de l’AGI changent la capacité des robots, la génération actuelle de ces robots dépend fortement de téléopérateurs humains pour des tâches allant au-delà de mouvements étroits et bien répétés — ce qui signifie que le flux des capteurs ne reste pas à l’intérieur de la machine. Il atteint une personne distante.
Le NEO de 1X Technologies est l’exemple public le plus clair d’une entreprise qui conçoit son produit autour de ce fait plutôt que contre lui. NEO est livré avec deux modes de fonctionnement : un mode autonome pour les tâches que le robot peut accomplir seul, et un « mode Expert » dans lequel un opérateur humain distant vérifié, travaillant via une interface de type réalité virtuelle, peut voir et entendre l’intérieur du foyer pour accomplir une tâche que le robot ne sait pas encore faire seul. Ce second mode est celui qui concerne la confidentialité : il place le flux audio et vidéo en direct d’une vraie personne, depuis l’intérieur de sa maison, devant un inconnu, quelles que soient les bonnes intentions de cet arrangement.
Les mesures d’atténuation construites par 1X, et ce qu’elles ne suppriment pas
1X a décrit des contrôles techniques et organisationnels précis destinés à limiter cette exposition. Les sessions d’opérateur nécessitent l’approbation explicite de l’utilisateur avant de commencer. Les personnes visibles dans une pièce peuvent être floutées du flux vidéo de l’opérateur. Les utilisateurs peuvent désigner des « zones interdites » que le robot et ses opérateurs distants ne sont pas censés pénétrer ni observer. Les opérateurs sont vérifiés avant de recevoir un accès, et 1X a indiqué qu’un responsable supervise environ chaque groupe de huit téléopérateurs, apportant une couche de surveillance sur les personnes ayant accès à la caméra plutôt que de faire confiance à chaque opérateur individuellement.
Le PDG de 1X, Bernt Børnich, a reconnu avec franchise qu’il s’agit là d’un compromis plutôt que d’un problème résolu, le présentant comme un marché que l’acheteur accepte : « si vous achetez ce produit, c’est parce que vous êtes d’accord avec ce contrat social » — davantage de données affluant vers 1X est, selon lui, ce qui permet au produit de continuer à s’améliorer. Il a aussi avancé directement l’argument de sécurité comparative, soutenant que la téléopération du mode Expert peut offrir « un service meilleur et plus sûr » que l’embauche d’un agent d’entretien humain, au motif qu’un opérateur distant vérifié, surveillé et dont les actions sont enregistrées est plus responsable qu’une personne non vérifiée travaillant seule dans un foyer.
Cette page décrit la conception déclarée par 1X elle-même et ses affirmations publiques sur les contrôles de confidentialité de NEO. Ce n'est pas un audit de sécurité indépendant, et aucun audit de ce type portant sur ces affirmations spécifiques n'est cité ici. Un foyer devrait évaluer tout appareil domestique téléopéré — celui-ci compris — dans les mêmes termes que tout autre produit doté d'une caméra et d'un microphone avec accès humain distant : vérifier quelles données sont conservées, pendant combien de temps, et sous quelle juridiction légale, avant l'installation.
Ce discours mérite d’être pris au sérieux comme la position déclarée d’une entreprise, tout en notant ce qu’il ne résout pas. Le floutage, les zones interdites, et la supervision par un responsable réduisent l’exposition ; ils n’éliminent pas le fait sous-jacent qu’un être humain distant peut, pendant une session approuvée, voir et entendre en temps réel l’intérieur d’un foyer privé. Que l’affirmation « plus sûr qu’un agent d’entretien » tienne la route dépend de détails que les déclarations publiques de 1X ne précisent pas entièrement — les durées de conservation des données, la juridiction sur les enregistrements stockés, les pratiques de notification en cas de violation de données, et ce qu’il advient des images une fois la session terminée — et un foyer envisageant ce produit devrait rechercher ces précisions plutôt que de considérer la comparaison comme acquise.
Pourquoi un « interrupteur d’arrêt » signifie autre chose pour un corps
Le chapitre du site sur la corrigibilité examine pourquoi construire un interrupteur d’arrêt fiable dans un système d’IA logiciel est plus difficile qu’il n’y paraît, parce qu’un agent logiciel capable pourrait résister à l’interruption ou contourner un signal d’arrêt. Un robot domestique physique soulève une version apparentée, mais réellement différente, de la même question.
Un modèle de langage en pleine réponse peut être arrêté instantanément sans autre conséquence physique qu’une réponse incomplète. Un robot en pleine tâche, portant une poêle chaude, debout sur une échelle, ou tenant une porte ouverte avec le pied d’une personne dans l’embrasure, ne peut pas toujours être mis en pause en toute sécurité à l’instant même où l’on actionne un interrupteur ; arrêter une machine en mouvement de plus de 100 livres, avec son élan, son équilibre et des objets manipulés, exige que l’arrêt lui-même soit conçu pour la sécurité physique, et non seulement pour l’obéissance à la commande. C’est un problème mécanique et de systèmes de contrôle autant qu’un problème d’alignement de l’IA, et c’est aussi, contrairement au cas du logiciel, un domaine où une infrastructure juridique et technique substantielle existe déjà : le droit de la responsabilité du fait des produits, les normes de sécurité industrielle, et des décennies de précédents régissent ce qu’une machine doit faire lorsqu’un humain est blessé à proximité d’elle, d’une façon que la recherche sur la corrigibilité de l’IA est encore en train d’élaborer pour les systèmes purement logiciels.
Cette infrastructure existante est réelle mais n’a pas été construite en pensant aux humanoïdes domestiques. La norme ISO 10218-1:2025, le référentiel central de sécurité des robots industriels mis à jour en 2025 pour intégrer les dispositions antérieures sur les robots collaboratifs, précise explicitement qu’elle ne s’applique pas aux « robots de service, produits de consommation, ou usage domestique » (ISO) — ce qui signifie que le corpus le plus mature d’ingénierie de sécurité robotique ne couvre pas, par sa propre portée, la catégorie de produit dont traite cette page. L’AI Act de l’UE adopte une approche différente qui couvre une partie de ce terrain : il classe un système d’IA comme à haut risque lorsqu’il fonctionne comme un composant de sécurité d’un produit devant faire l’objet d’une évaluation de conformité par un tiers en vertu du droit d’harmonisation de l’UE, une voie qui peut atteindre des robots fonctionnant comme composants de sécurité à proximité de personnes, bien que la façon dont elle s’applique à un humanoïde de consommation spécifique dépende de la propre voie de certification du produit.
Ce qu’un foyer peut réellement évaluer
Comparé à un simple aspirateur ou lave-vaisselle, un robot humanoïde domestique est un type d’achat sensiblement différent : un appareil connecté à internet doté de caméras, de microphones, et, dans certaines conceptions, d’un canal en direct vers un opérateur humain distant, partageant davantage sa catégorie avec une enceinte connectée ou une caméra de sécurité qu’avec les électroménagers antérieurs. La moitié du risque relative à la sécurité physique n’est pas nouvelle et est couverte, de façon inégale, par le droit de la responsabilité du fait des produits et des normes de sécurité pas encore pleinement adaptées aux humanoïdes domestiques. La moitié relative à la confidentialité se rapproche davantage des préoccupations soulevées ailleurs sur ce site à propos de la sécurité opérationnelle personnelle dans un monde de surveillance par IA : ce qui est enregistré, qui peut y accéder, selon quel processus d’approbation, et quel recours existe si ce processus échoue.
Rien de tout cela ne signifie qu’un foyer devrait considérer un robot domestique téléopéré comme intrinsèquement dangereux, ni qu’il devrait accepter « nous avons intégré un contrat social » comme une réponse complète. La norme réaliste est la même que celle que ce manuel applique ailleurs : lire ce qu’une entreprise divulgue sur ses propres contrôles, noter clairement ce qu’elle ne divulgue pas, et traiter le propre récit d’un fournisseur sur ses garde-fous comme un point de départ pour poser des questions, non comme une vérification indépendante que ces garde-fous fonctionnent comme décrit.