Perawatan Kesehatan AI: Kegagalan Ambisi

Beberapa bidang sejalan dengan perkembangan teknologi seperti kedokteran. Dapat dikatakan bahwa kedokteran sebagai praktik telah diubah oleh teknologi dan sekarang sepenuhnya bergantung padanya di semua aspeknya, seperti pengembangan obat, diagnosis medis, dan augmentasi dengan kaki palsu. Itu menjadi sumber perkembangan teknologi baru, seperti pemindai MRI, tempat dokter berkolaborasi dengan ilmuwan untuk membuat perangkat yang sebelumnya tidak terbayangkan.

Obat terasa seperti itu Seharusnya menjadi futuristik: Fiksi ilmiah membombardir kita dengan masa depan putih berkilau dari obat-obatan berbasis teknologi di mana kita tidak perlu merasakan tangan dingin dokter di perut kita, dan mungkin bahkan dokter gigi telah meletakkan bor mereka. Jadi wajar saja jika teknologi terbaru dan terhebat umat manusia, kecerdasan buatan (AI), harus disematkan dalam perawatan kesehatan. 

Seberapa sulitkah itu? Kita yang mencoba berinteraksi dengan layanan GP saat lockdown dapat dimaafkan jika berpikir bahwa satu-satunya teknologi yang diperlukan untuk mendapatkan sebagian besar jalan adalah rekaman saluran telepon yang sibuk yang diselingi dengan resepsionis yang sedikit usang yang menawarkan janji samar tentang janji temu. tersedia dalam beberapa bulan. (Saya sedikit menggoda dokter di posting blog ini, yang menurut saya aman karena saya tidak mungkin bertemu langsung dengan satu dokter.) Jadi, di seluruh perawatan kesehatan modern, pasti ada ruang besar untuk bantuan AI? Orang-orang setuju, dan beberapa pemikir terpintar di dunia ditambah dengan beberapa kantong terdalam di dunia telah membuat ini menjadi kenyataan.

Ada kesuksesan. Sebagai contoh, pencitraan medis telah berhasil dibantu dengan Mesin belajar teknik pengolahan rekam medis bisa ditingkatkan, dan AI bahkan dapat menunjukkan jalan menuju pemahaman baru tentang kesehatan – misalnya, secara akurat memprediksi apakah pasien akan meninggal, meskipun kita tidak tahu caranya. Namun, itu belum lancar. Saat diminta untuk bersaing langsung melawan manusia dalam situasi baru, AI telah gagal; misalnya, selama COVID, model AI tidak membantu diagnosis atau analisis meskipun banyak investasi, dan transformasi perawatan medis garis depan dengan AI telah mengalami beberapa kemunduran serius. 

Ambisi Digagalkan

Masalah spesifik yang diberikan arena medis dapat dipetakan dengan menyelidiki salah satu kesuksesan terbesar AI, dan sumber dari sebagian besar kecemasan kita tentang potensi keunggulannya: arena permainan. 

IBM Deep Blue mengalahkan pecatur terbaik dunia, Garry Kasparov, dalam satu pertandingan pada tahun 1996, dan dalam sebuah turnamen pada tahun 1997 – puncak dari upaya selama 20 tahun dalam mengembangkan AI catur. IBM kemudian berkembang DeepQA arsitektur untuk pemrosesan bahasa alami, yang pada tahun 2011 dan sekarang bermerek Watson, mampu melakukannya hancurkan juara manusia terbaik di Jeopardy – kemajuan yang dianggap sebagai salah satu yang memungkinkan untuk bersaing dan menang di bidang teknis manusia. 

Pada 2012, IBM menargetkan Watson, yang pada saat itu merupakan kombinasi teknologi yang mereka kembangkan di industri perawatan kesehatan, terutama onkologi. 

Sukses tampak tak terhindarkan: Siaran pers positif, ulasan yang menunjukkan kemajuan vs. dokter manusia diterbitkan, dan Watson bisa mengkonsumsi surat-surat kedokteran dalam sehari itu akan memakan waktu 38 tahun bagi seorang dokter manusia. Saya bertaruh dengan seorang teman dokter bahwa pada tahun 2020 ahli onkologi terbaik dunia akan menjadi sebuah mesin. 

Saya kehilangan taruhan saya, tetapi tidak secara menyeluruh seperti IBM kehilangan taruhan besarnya pada perawatan kesehatan. Rumah sakit percontohan awal membatalkan uji coba mereka dan Watson diperlihatkan merekomendasikan perawatan kanker yang tidak aman. Program itu pada dasarnya tertutup, dengan Watson berputar untuk menjadi merek analitik komersial IBM dengan penggunaan pemrosesan bahasa alaminya sebagai asisten cerdas. Hari ini, harga saham IBM adalah 22% lebih rendah daripada pada titik kemenangan Jeopardy. 

Saya telah menggunakan IBM's Watson untuk mengilustrasikan kesulitan di sini, tetapi saya bisa memilih kegagalan layanan dokter virtual,  diagnostik, atau lainnya. Saya yakin organisasi seperti ini akan berhasil dalam jangka panjang, tetapi kita dapat menyelidiki mengapa beberapa kegagalan ini mungkin terjadi.

Untuk memahami skala tantangan, kita dapat melihat jauh ke belakang ke tempat bidang ini dimulai dengan ahli sibernetika tahun 1940-an.

Seorang ahli sibernetika W.Ross Ashby, menyusun beberapa hukum, salah satunya adalah miliknya Hukum Variasi yang Diperlukan. Undang-undang ini harus lebih dikenal, karena menjelaskan akar dari semua jenis masalah yang sulit diselesaikan di TI, dari mengapa proyek TI sektor publik yang besar cenderung tidak berjalan dengan baik, hingga mengapa metodologi TI seperti PRINCE II sebagian besar tidak berfungsi, hingga mengapa kita harus sangat khawatir dengan kemampuan kita untuk mengendalikan AI yang sangat cerdas. Hukum menyatakan bahwa “hanya varietas yang dapat mengendalikan keragaman.” Artinya, jika Anda memiliki sistem dan Anda mencoba untuk mengontrolnya dengan sistem lain, sistem kontrol harus memiliki kompleksitas yang sama dengan sistem target; jika tidak, itu tidak akan mampu mengatasi semua keluarannya, dan akan ada jalan keluar. 

Dalam permainan seperti catur, semua informasi yang diperlukan untuk menghitung hasil optimal disertakan di papan – catur itu sulit, tetapi variasinya tidak bagus. Namun dalam dunia kedokteran garis depan, ada variasi yang luar biasa, dan Anda membutuhkan kerumitan yang luar biasa untuk memberikan hasil yang tepat. Ini menghadirkan tantangan besar bagi AI: pasien di dunia nyata akan melatih kasus tepi materi, tetapi AI perlu menyelesaikannya secara efektif dalam satu kesempatan. Kami menemukan mereka tidak bisa, dan melarikan diri tidak bisa dihindari, seperti AI medis yang menyetujui a pasien harus bunuh diri, salah satu yang memecahkan masalah tapi mungkin rasis, atau salah satu yang pasti rasis. Bisakah hari kerja tenaga medis di masa depan melibatkan menjalankan operasi, melakukan admin, dan memeriksa apakah asisten AI mengalami insiden rasis? 

Ada masalah lain dalam mengadopsi AI ke dalam perawatan kesehatan yang mungkin memiliki nama teknis, tetapi saya akan menyebutnya "masalah pembantaian nenek-nenek di halte bus". Jika seseorang menabrakkan mobilnya ke halte bus dan membunuh tiga nenek tercinta, maka itu akan menjadi berita besar di berita lokal. Jika mobil otonom melakukan hal yang sama, itu akan menjadi berita global, mungkin mengakibatkan tuntutan hukum dan undang-undang. Intinya kita saat ini banyak lebih toleran terhadap falibilitas manusia daripada falibilitas mesin, dan oleh karena itu, standar untuk hasil teknologi otomatis lebih tinggi daripada manusia. Ini agak rasional, karena satu manusia hanya dapat melakukan begitu banyak kerusakan, tetapi AI akan meningkat, dan kesalahan akan direplikasi. 

Pada akhirnya, hambatan ini membuat sangat menantang untuk memperkenalkan AI ke dalam perawatan garis depan untuk menggantikan manusia. Tapi itu tidak masalah, karena AI perawatan kesehatan masih dapat memberikan manfaat transformasional yang besar. 

• Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
• Platoblockchain. Intelijen Metaverse Web3. Pengetahuan Diperkuat. Akses Di Sini.
• Sumber: https://www.dataversity.net/health-care-ai-a-failure-of-ambition/