Sebuah jawaban medis bukanlah sebuah sistem layanan kesehatan
Bayangkan sebuah sistem AI yang dapat membaca hampir setiap makalah relevan, membandingkan riwayat seorang pasien dengan jutaan kasus, mengusulkan diagnosis, merancang sebuah molekul, dan menjelaskan pilihan-pilihannya dalam bahasa apa pun. Itu akan menjadi perluasan keahlian yang luar biasa. Pasien tetap akan membutuhkan tes yang tepercaya, seorang klinisi atau tim yang bertanggung jawab atas perawatan, sebuah perawatan berlisensi dan diproduksi, tempat tidur rumah sakit ketika sesuatu berjalan salah, dan cara untuk membayar.
Kesehatan setelah AI transformatif akan dibentuk oleh kesenjangan antara informasi dan penyampaian. Kerja kognitif hanyalah satu bagian dari kedokteran. Biologi tetap tidak pasti, uji klinis membutuhkan waktu, produksi harus dikendalikan, bedah dan perawatan-perawat terjadi di dunia fisik, dan staf serta fasilitas yang langka harus melayani komunitas nyata. Sebuah model dapat mengurangi beberapa hambatan sambil memindahkan tekanan ke hambatan lain.
Bukti saat ini mendukung optimisme yang terjaga, bukan klaim keabadian yang akan segera tiba. Panduan 2024 World Health Organization tentang model multimodal besar mengidentifikasi aplikasi dalam perawatan klinis, penggunaan pasien, administrasi, pelatihan, dan riset sambil memperingatkan tentang output yang tidak akurat, bias otomasi, keamanan siber, privasi, dan akses yang tidak setara. Rekomendasinya adalah panduan kesehatan-publik, bukan bukti bahwa sebuah produk tertentu efektif secara klinis. Kinerja tolok ukur bukanlah bukti klinis.
Penemuan dapat berakselerasi sebelum perawatan membaik
AI sudah digunakan di berbagai bagian penemuan dan pengembangan farmasi, termasuk pencarian, prediksi, dan analisis, meskipun bukti dan status regulasinya bervariasi menurut penggunaan (WHO, Maret 2024). Sistem yang lebih mampu dapat menghasilkan hipotesis dan merancang eksperimen dengan cakupan yang lebih luas, dan robotika serta simulasi yang lebih baik dapat memperpendek siklus dari gagasan hingga hasil yang diuji. Itu adalah proyeksi kondisional, bukan hasil pasca-AGI yang teramati.
Penemuan bukanlah hal yang sama dengan perawatan yang aman. Sebuah molekul yang masuk akal tetap harus disintesis, dikarakterisasi, diuji toksisitasnya, diproduksi secara konsisten, dipelajari pada manusia, dan dipantau setelah penerapan. Beberapa tahap mungkin juga berakselerasi, tetapi masing-masing melindungi terhadap kegagalan yang berbeda. Menghapus sebuah tahap karena sebuah model menyatakan keyakinan tinggi akan menukar penundaan yang terlihat dengan risiko yang tersembunyi.
Ukuran yang benar bukanlah makalah atau molekul kandidat yang dihasilkan. Itu adalah perbaikan yang tervalidasi dalam kelangsungan hidup, fungsi, kualitas hidup, keterjangkauan, dan akses—dengan efek samping yang dilaporkan alih-alih disaring sebagai data yang tidak nyaman.
AI juga dapat meningkatkan operasi biasa sebelum menghasilkan revolusi ilmiah: penjadwalan, dokumentasi, terjemahan, otorisasi sebelumnya, prakiraan pasokan, pengodean, dan komunikasi pasien. Perubahan ini dapat mengembalikan waktu untuk perawatan atau menjadi alasan untuk meningkatkan beban kerja. Institusi yang memutuskan hasil mana yang terjadi.
Diagnosis membutuhkan tanggung jawab dan tindak-lanjut
Sebuah sistem diagnostik dapat berguna dalam beberapa peran: menyarankan kemungkinan yang terlewat seorang klinisi, mentriase urgensi, menginterpretasikan sebuah citra, memeriksa interaksi obat, atau membantu seorang pasien menggambarkan gejala. Ia juga dapat menjangkarkan pengguna pada jawaban yang salah, terdengar pasti ketika buktinya tipis, dan gagal secara berbeda di berbagai populasi.
Kinerja klinis harus diukur dalam konteks tempat sistem itu akan beroperasi. Sebuah model yang dievaluasi pada catatan retrospektif yang bersih mungkin gagal dengan riwayat yang tidak lengkap, alur kerja yang tidak biasa, peralatan yang berubah, atau pasien yang tidak seperti populasi pelatihan. Akurasi yang dirata-ratakan di seluruh kasus dapat menyembunyikan kinerja berbahaya bagi kelompok yang lebih kecil.
Tanggung jawab tidak dapat dibebankan kepada “AI-nya.” Sebuah penerap harus tahu siapa yang memantau kinerja, menerima laporan insiden, memperbarui model, menangani waktu-henti, dan memberi tahu pasien yang terdampak. Klinisi membutuhkan otoritas untuk tidak setuju tanpa diperlakukan sebagai tidak efisien. Pasien perlu tahu kapan sebuah sistem secara material membentuk perawatan dan ke mana mencari peninjauan.
Untuk penggunaan rumah tangga, sebuah sistem percakapan tidak boleh menjadi pengganti tak-terlihat bagi layanan darurat, diagnosis, atau perawatan berlisensi. Ia dapat membantu menyiapkan pertanyaan dan menjelaskan terminologi. Gejala yang baru, parah, atau memburuk dengan cepat tetap membutuhkan perawatan manusia yang tepat, dan panduan krisis harus mengarahkan orang ke layanan nyata.
Kedokteran personal dapat mengurangi atau memperdalam ketidaksetaraan
Sistem canggih dapat menggabungkan data genomik, lingkungan, perilaku, pencitraan, dan klinis untuk menyesuaikan pencegahan dan perawatan. Itu dapat mengurangi coba-coba dan mengidentifikasi terapi untuk penyakit langka. Itu juga dapat membuat perawatan berkualitas-tinggi bergantung pada pengawasan yang ekstensif dan infrastruktur data proprietary yang mahal.
Persetujuan menjadi sulit ketika penggunaan masa depan tidak dapat diprediksi. Sebuah catatan genomik bersifat mengidentifikasi, persisten, dan informatif tentang kerabat yang tidak menyetujui. Data yang dapat dikenakan dan perilaku dapat mengungkapkan kesehatan sambil juga memengaruhi ketenagakerjaan, asuransi, kredit, atau periklanan. Menghapus sebuah nama tidak membuat setiap kumpulan data longitudinal yang kaya menjadi anonim.
Akses karenanya harus dirancang ke dalam sistem. Infrastruktur riset publik dan nirlaba, kumpulan data yang representatif, berbagi-manfaat, hukum privasi, komputasi aman, dan batasan penggunaan sekunder penting bersamaan dengan kinerja teknis. Sebuah terapi yang berasal dari data publik yang luas tidak boleh menjadi tidak dapat diakses bagi komunitas yang informasinya membuat itu mungkin.
Klaim umur panjang membutuhkan bukti terpisah
Hidup sehat yang lebih panjang dapat dihasilkan dari banyak bentuk kemajuan: mencegah penyakit kardiovaskular, mendeteksi kanker lebih dini, mengobati infeksi, memperbaiki jaringan, meningkatkan kesehatan publik, dan menangani biologi penuaan. AI dapat mempercepat bagian dari setiap bidang. Tidak berarti bahwa sebuah model yang mampu bernalar ilmiah dapat dengan cepat memecahkan penuaan sebagai satu masalah rekayasa.
Sistem biologis mengandung mekanisme yang saling berinteraksi, cakrawala waktu yang panjang, dan trade-off yang sulit divalidasi. Hasil hewan seringkali gagal diterjemahkan ke manusia. Sebuah perawatan yang mengubah sebuah biomarker mungkin tidak memperpanjang hidup sehat. Klaim tentang perpanjangan umur yang dramatis membutuhkan bukti dari titik-akhir klinis yang tepat, bukan mekanisme yang dihasilkan model, valuasi perusahaan, atau ramalan yang percaya diri.
Konsekuensi sosialnya juga layak mendapat perhatian sebelum sebuah terobosan. Hidup sehat yang lebih panjang bisa menjadi kebaikan yang sangat besar sambil memengaruhi pensiun, pengasuhan, perumahan, representasi politik, struktur keluarga, dan ketidaksetaraan antara orang dengan akses yang berbeda. Itu adalah pertanyaan distribusi, bukan alasan untuk menolak riset.
Perawatan fisik tetap merupakan kerja relasional
Perawatan-perawat, rehabilitasi, dukungan disabilitas, penitipan anak, perawatan lansia, dan perawatan kesehatan-mental melibatkan pengamatan, sentuhan, kepercayaan, dorongan, persetujuan, dan tanggung jawab dalam lingkungan yang tidak dapat diprediksi. Robotika dapat mengotomasi sebagian, dan AI dapat mengurangi dokumentasi atau menyediakan pembinaan. Memperlakukan perawatan sebagai tugas residual yang tersisa setelah kerja kognitif “sesungguhnya” akan mengulangi devaluasi yang sudah ada.
Teknologi yang lebih baik harus membuat kerja perawatan lebih aman, lebih baik distafi, dan lebih berkelanjutan. Itu tidak boleh membenarkan meninggalkan satu pekerja secara nominal mengawasi sejumlah sistem otomatis yang tidak aman. Pasien harus dapat meminta kontak manusia, terutama ketika komunikasi, kognisi, trauma, bahasa, atau disabilitas mengubah apa yang dibutuhkan persetujuan dan pemahaman.
Pendamping AI dapat mengurangi kesepian bagi sebagian orang, tetapi ketersediaan yang disimulasikan tidak menjamin hubungan timbal-balik atau keselamatan klinis. Sebuah sistem yang model bisnisnya menghargai keterlibatan mungkin memiliki insentif yang berbeda dari kesejahteraan jangka-panjang seorang pasien. Produk kesehatan-mental membutuhkan batasan, eskalasi krisis, privasi, dan bukti yang sesuai dengan klaim yang mereka buat.
Kesehatan publik dapat memperoleh manfaat dari kecerdasan bersama
Kesehatan bukan hanya perawatan individual. Sistem canggih dapat meningkatkan deteksi wabah, perencanaan pasokan, pemantauan lingkungan, sintesis bukti, dan komunikasi lintas bahasa. Sistem itu juga dapat memperkuat klaim kesehatan palsu, memungkinkan pengawasan invasif, atau menciptakan risiko penyalahgunaan biologis baru.
Sistem kesehatan-publik membutuhkan saluran pelaporan tepercaya, kapasitas laboratorium, profesional lokal, dan komunitas yang bersedia bekerja sama. Sebuah peringatan yang akurat secara teknis yang tiba tanpa legitimasi dapat gagal. Ketidakpastian yang transparan, koreksi kesalahan, peninjauan independen, dan perlindungan terhadap penggunaan data kesehatan untuk penegakan yang tidak terkait membantu mempertahankan kepercayaan itu.
Pengaman keamanan-biologis harus berkembang bersamaan dengan alat yang bermanfaat: penyaringan pesanan sintesis, biosafety laboratorium, evaluasi kapabilitas, kendali akses, dan berbagi insiden yang cepat. Tujuannya bukan menekan biologi. Ini adalah membuat riset yang bermanfaat lebih mudah sambil mencegah informasi menjadi satu-satunya penghalang tersisa terhadap bahaya massal.
Persyaratan normatif untuk akses universal
Inferensi murah tidak dengan sendirinya menghasilkan perawatan universal. Sebuah program akses yang serius harus membahas:
- listrik, konektivitas, perangkat, bahasa, dan aksesibilitas yang andal;
- hubungan perawatan-primer dan jalur rujukan;
- peralatan diagnostik, laboratorium, apotek, produksi, dan rantai pasokan;
- privasi dan pilihan non-komersial untuk penggunaan sensitif;
- validasi lintas populasi lokal dan beban penyakit;
- tanggung jawab hukum, pelaporan insiden, dan banding manusia;
- harga dan pengaturan kekayaan-intelektual untuk perawatan yang dihasilkan;
- kontinuitas ketika seorang penyedia, model, atau jaringan tidak tersedia.
Negara-negara berpendapatan-lebih-rendah tidak boleh diperlakukan hanya sebagai sumber data atau pasar akhirnya. Peneliti lokal, kementerian kesehatan, klinisi, dan pasien membutuhkan otoritas atas prioritas dan penerapan. Sistem yang dioptimalkan untuk rumah sakit kaya mungkin tidak relevan di tempat yang kendala mengikatnya adalah sanitasi, obat dasar, transportasi, atau staf klinis.
Sebuah uji untuk klaim kesehatan setelah AGI
Ketika mengevaluasi sebuah terobosan yang dijanjikan, tanyakan:
- Apakah buktinya sebuah tolok ukur, studi retrospektif, uji prospektif, keputusan regulasi, atau hasil kesehatan yang teramati?
- Populasi dan lingkungan klinis mana yang diuji?
- Apa yang terjadi ketika sistem itu salah, tidak tersedia, atau berubah?
- Siapa yang bertanggung jawab atas jalur perawatan yang lengkap?
- Apakah intervensi itu mengurangi biaya total dan meningkatkan akses, atau hanya meningkatkan satu langkah kognitif?
- Data apa yang harus diserahkan seseorang, dan dapatkah mereka menolak tanpa kehilangan perawatan?
- Apakah manfaat diukur dalam kesehatan dan fungsi alih-alih keterlibatan, output, atau surogat semata?
AI transformatif dapat membantu menghasilkan salah satu perluasan pengetahuan kesehatan terbesar dalam sejarah. Kemanusiaan hanya diuntungkan ketika pengetahuan itu bertahan dari kontak dengan biologi, institusi, ketidaksetaraan, dan kerja fisik perawatan. Tujuannya bukan sebuah sistem yang mengetahui kedokteran. Ini adalah sebuah dunia di mana lebih banyak orang dapat secara andal menjadi dan tetap sehat.