Sebuah tubuh robot adalah sebuah platform sensor berkaki
Sebuah robot humanoid rumah tangga adalah, di antara hal lain, sekumpulan kamera dan mikrofon yang bergerak melalui setiap ruangan sebuah rumah, termasuk ruangan yang tidak akan pernah diarahkan seseorang dengan sebuah webcam secara sengaja. Sebagaimana dijelaskan pada bagaimana model era-AGI mengubah kemampuan robot, generasi saat ini dari robot-robot ini sangat bergantung pada teleoperator manusia untuk tugas di luar gerakan yang sempit dan sudah dilatih dengan baik—yang berarti umpan sensor itu tidak tetap tinggal di dalam mesin. Umpan itu mencapai seorang manusia jarak jauh.
NEO milik 1X Technologies adalah contoh publik paling jelas dari sebuah perusahaan yang merancang di sekitar fakta itu alih-alih menghindarinya. NEO dikirimkan dengan dua moda operasi: sebuah moda otonom untuk tugas yang dapat dilakukan robot itu sendiri, dan sebuah “Expert Mode” di mana seorang operator manusia jarak jauh yang diperiksa latar belakangnya, bekerja melalui sebuah antarmuka bergaya VR, dapat melihat dan mendengar di dalam rumah untuk menyelesaikan sebuah tugas yang belum dapat dilakukan robot itu sendiri. Moda kedua itulah yang relevan dengan privasi: ia menempatkan umpan audio dan video langsung seorang manusia sungguhan dari dalam rumah seseorang di hadapan seorang asing, betapapun berniat baiknya pengaturan itu.
Mitigasi yang dibangun 1X, dan apa yang tidak dihilangkannya
1X telah menggambarkan kendali teknis dan organisasional khusus yang dimaksudkan untuk membatasi paparan itu. Sesi operator membutuhkan persetujuan eksplisit pengguna sebelum dimulai. Orang-orang yang terlihat dalam sebuah ruangan dapat dikaburkan dari umpan video sang operator. Pengguna dapat menentukan “zona terlarang” yang tidak dimaksudkan untuk dimasuki atau dilihat robot dan para operator jarak jauhnya. Para operator diperiksa latar belakangnya sebelum diberi akses, dan 1X telah menyatakan kira-kira satu manajer mengawasi setiap kelompok sekitar delapan teleoperator, menyediakan sebuah lapisan pengawasan atas orang-orang dengan akses kamera alih-alih mempercayai setiap operator secara individual.
CEO 1X, Bernt Børnich, telah terus terang bahwa ini adalah sebuah kompromi alih-alih sebuah masalah yang terpecahkan, membingkainya sebagai sebuah tawar-menawar yang diterima pembeli: “jika Anda membeli produk ini, itu karena Anda baik-baik saja dengan kontrak sosial itu”—lebih banyak data yang mengalir ke 1X, dalam penuturannya, adalah apa yang memungkinkan produk ini terus membaik. Ia juga telah membuat argumen keamanan komparatif secara langsung, membela teleoperasi Expert Mode sebagai mampu memberikan “layanan yang lebih baik dan lebih aman” dibandingkan mempekerjakan seorang pembersih manusia, dengan alasan bahwa seorang operator jarak jauh yang diperiksa latar belakangnya, dipantau, dan dicatat lebih dapat dipertanggungjawabkan dibandingkan seorang individu yang tidak diperiksa yang bekerja sendirian di dalam sebuah rumah.
Halaman ini menggambarkan rancangan yang dinyatakan sendiri oleh 1X dan klaim publik tentang kendali privasi NEO. Ini bukan sebuah audit keamanan independen, dan tidak ada audit semacam itu atas klaim spesifik ini yang dikutip di sini. Sebuah rumah tangga seharusnya mengevaluasi perangkat rumah teleoperasi apa pun—termasuk ini—dengan persyaratan yang sama seperti produk pembawa kamera-dan-mikrofon lain dengan akses manusia jarak jauh: verifikasi data apa yang disimpan, untuk berapa lama, dan di bawah yurisdiksi hukum siapa, sebelum instalasi.
Pembingkaian itu layak diterima apa adanya sebagai posisi yang dinyatakan sebuah perusahaan, sambil mencatat apa yang tidak diselesaikannya. Pengaburan, zona terlarang, dan pengawasan manajer mengurangi paparan; mereka tidak menghilangkan fakta yang mendasarinya bahwa seorang manusia jarak jauh dapat, selama sesi yang disetujui, melihat dan mendengar di dalam sebuah rumah privat secara waktu-nyata. Apakah “lebih aman daripada seorang pembersih” bertahan bergantung pada detail yang tidak sepenuhnya dispesifikasikan pernyataan publik 1X—periode retensi data, yurisdiksi atas rekaman yang disimpan, praktik pemberitahuan pelanggaran, dan apa yang terjadi pada rekaman setelah sebuah sesi berakhir—dan sebuah rumah tangga yang mempertimbangkan produk ini seharusnya mencari detail-detail itu alih-alih menerima perbandingan itu sebagai sesuatu yang sudah tuntas.
Mengapa “tombol mati” berarti sesuatu yang berbeda untuk sebuah tubuh
Bab situs ini tentang korigibilitas memeriksa mengapa membangun sebuah tombol mati yang andal ke dalam sebuah sistem AI perangkat lunak lebih sulit daripada kedengarannya, karena sebuah agen perangkat lunak yang mampu mungkin menolak interupsi atau mencari jalan memutar mengelilingi sebuah sinyal penonaktifan. Sebuah robot rumah tangga fisik mengangkat sebuah versi yang terkait namun sungguh-sungguh berbeda dari pertanyaan yang sama.
Sebuah model bahasa di tengah respons dapat dihentikan secara instan tanpa konsekuensi fisik di luar sebuah jawaban yang tidak lengkap. Sebuah robot di tengah tugas, membawa sebuah wajan panas, berdiri di atas sebuah tangga, atau menahan sebuah pintu terbuka dengan kaki seseorang di celahnya, tidak selalu dapat dijeda dengan aman seketika sebuah sakelar ditekan; menghentikan sebuah mesin bergerak seberat lebih dari 100 pon dengan momentum, keseimbangan, dan objek yang dimanipulasi membutuhkan penghentian itu sendiri untuk direkayasa demi keamanan fisik, bukan hanya untuk kepatuhan perintah. Itu adalah masalah mekanis dan sistem-kendali sebanyak masalah penyelarasan-AI, dan itu juga, tidak seperti kasus perangkat lunak, sebuah area di mana infrastruktur hukum dan rekayasa yang substansial sudah ada: hukum tanggung jawab produk, standar keamanan industri, dan puluhan tahun preseden mengatur apa yang harus dilakukan sebuah mesin ketika seorang manusia terluka di dekatnya, dengan cara yang masih dipecahkan riset korigibilitas AI untuk sistem perangkat lunak murni.
Infrastruktur yang ada itu nyata tetapi tidak dibangun dengan humanoid rumah tangga dalam pikiran. ISO 10218-1:2025, standar keamanan robot industri inti yang diperbarui pada 2025 untuk memasukkan ketentuan robot kolaboratif sebelumnya, secara eksplisit menyatakan bahwa itu tidak berlaku untuk “robot layanan, produk konsumen, atau penggunaan rumah tangga” (ISO)—artinya kumpulan rekayasa keamanan robot yang paling matang tidak, menurut cakupannya sendiri, mencakup kategori produk yang dibahas halaman ini. EU AI Act mengambil pendekatan yang berbeda yang memang menjangkau sebagian wilayah ini: ia mengklasifikasikan sebuah sistem AI sebagai berisiko tinggi ketika ia berfungsi sebagai sebuah komponen keamanan sebuah produk yang harus menjalani penilaian kesesuaian pihak ketiga di bawah hukum harmonisasi UE, sebuah jalur yang dapat menjangkau robot yang beroperasi sebagai komponen keamanan di dekat orang, meskipun bagaimana itu berlaku pada humanoid konsumen tertentu mana pun bergantung pada jalur sertifikasi produk itu sendiri.
Apa yang sesungguhnya dapat dievaluasi sebuah rumah tangga
Dibandingkan dengan sebuah penyedot debu atau mesin cuci piring biasa, sebuah robot humanoid rumah tangga adalah jenis pembelian yang secara material berbeda: sebuah perangkat yang terhubung internet dengan kamera, mikrofon, dan dalam beberapa rancangan sebuah saluran langsung ke seorang operator manusia jarak jauh, berbagi kategori dengan sebuah speaker pintar atau kamera keamanan lebih daripada dengan peralatan rumah tangga sebelumnya. Separuh keamanan-fisik dari risiko ini bukanlah hal baru dan dicakup, secara tidak merata, oleh hukum tanggung jawab produk dan standar keamanan yang belum sepenuhnya diadaptasi untuk humanoid rumah tangga. Separuh privasinya lebih dekat dengan kekhawatiran yang diangkat di tempat lain di situs ini tentang opsec pribadi dalam dunia pengawasan AI: apa yang direkam, siapa yang dapat mengaksesnya, di bawah proses persetujuan apa, dan pemulihan apa yang ada jika proses itu gagal.
Tidak satu pun dari ini berarti sebuah rumah tangga seharusnya memperlakukan sebuah robot rumah teleoperasi sebagai secara inheren tidak aman, atau bahwa mereka seharusnya menerima “kami membangun sebuah kontrak sosial” sebagai sebuah jawaban yang lengkap. Standar yang realistis adalah standar yang sama yang diterapkan manual ini di tempat lain: baca apa yang diungkapkan sebuah perusahaan tentang kendalinya sendiri, catat dengan jelas apa yang tidak diungkapkannya, dan perlakukan penuturan sebuah vendor sendiri tentang pengamannya sebagai sebuah titik awal untuk pertanyaan, bukan sebagai verifikasi independen bahwa pengaman itu bekerja sebagaimana digambarkan.