Zdravstvena umetna inteligenca: neuspeh ambicij

Malo področij je tako usklajenih s tehnološkim razvojem kot medicina. Pošteno je reči, da je medicino kot prakso preoblikovala tehnologija in se zdaj popolnoma zanaša nanjo v vseh svojih vidikih, kot so razvoj zdravil, medicinska diagnoza in povečanje z protetičnimi okončinami. To je bil vir razvoja novih tehnologij, kot so skenerji MRI, kjer zdravniki sodelujejo z znanstveniki pri ustvarjanju prej nepredstavljivih naprav.

Medicina se počuti, kot da je naj biti futurističen: Znanstvena fantastika nas bombardira z bleščečo belo prihodnostjo tehnološko usmerjene medicine, kjer nam nikoli ne bo treba čutiti mrzlih zdravnikovih rok na svojem trebuhu, verjetno pa so tudi zobozdravniki odložili svoje vaje. Zato se zdi povsem naravno, da je najnovejša in najboljša tehnologija človeštva, umetna inteligenca (AI), vgrajena v zdravstveno varstvo. 

Kako težko je lahko? Tistim med nami, ki smo poskušali vzpostaviti stik s službo osebnega zdravnika v zaprtih prostorih, bi lahko oprostili, ker smo mislili, da je edina tehnologija, ki je potrebna za večino poti, posnetek zasedene telefonske linije, ki se izmenjuje z rahlo izčrpanim receptorjem, ki ponuja nejasne obljube o naročanju terminov. na voljo čez par mesecev. (V tej objavi v spletnem dnevniku malce zafrkavam osebne zdravnike, kar se mi je zdelo varno, saj ga verjetno ne bom osebno srečal.) Torej, v sodobnem zdravstvenem varstvu zagotovo obstaja veliko možnosti za pomoč umetne inteligence? Ljudje se strinjajo in nekateri najbistrejši umi sveta skupaj z nekaterimi najglobljimi žepi na svetu so se lotili tega, da bi to uresničili.

Uspeh je bil. na primer medicinsko slikanje je uspešno pomagal pri strojno učenje tehnike, obdelava zdravstvene dokumentacije je mogoče izboljšati, umetna inteligenca pa lahko celo pokaže pot do novega razumevanja zdravja – lahko na primer natančno napovedati, ali bo bolnik umrl, čeprav ne vemo, kako. Vendar to ni bilo navadno jadranje. Ko so ga prosili, da neposredno tekmuje z ljudmi v novih situacijah, je bila umetna inteligenca neuspešna; na primer v času COVID-a modeli AI niso pomoč pri diagnozi ali analizi kljub velikim naložbam in preoblikovanje prve linije zdravstvene oskrbe z umetno inteligenco je doživelo nekaj resnih zastojev. 

Ambicije izničene

Posebne težave, ki jih povzroča medicinska arena, je mogoče začrtati z raziskovanjem enega največjih uspehov umetne inteligence in vira večine naših strahov glede njene potencialne superiornosti: arene iger. 

IBM-ovih Deep Blue premagal najboljšega šahista na svetu Garija Kasparova v eni partiji leta 1996 in na turnirju leta 1997 – vrhunec približno 20-letnega truda pri razvoju šahovske umetne inteligence. Nato se je razvil IBM DeepQA arhitekturo za obdelava naravnega jezika, ki je leta 2011 in zdaj pod blagovno znamko Watson, lahko zdrobite najboljše človeške prvake pri Jeopardyju – napredek, za katerega se je mislilo, da bi lahko omogočil tekmovanje in zmago na človeških tehničnih področjih. 

Do leta 2012 se je IBM osredotočil na Watson, ki je bil do takrat kombinacija tehnologij, ki so jih razvili v zdravstveni industriji, zlasti onkologiji. 

Uspeh je bil videti neizogiben: sporočila za javnost so bila pozitivna, objavljeni so bili pregledi, ki kažejo napredek v primerjavi s človeškimi zdravniki, in Watson je lahko porabijo medicinske papirje v enem dnevu za to bi človeški zdravnik potreboval 38 let. S prijateljem zdravnikom sem stavil, da bo do leta 2020 najboljši onkolog na svetu stroj. 

Izgubil sem stavo, vendar ne tako celovito, kot je IBM izgubil svojo veliko stavo na področju zdravstvenega varstva. Prve pilotne bolnišnice so preklicale svoje poskuse in Watsonu so pokazali priporočajo nevarna zdravljenja raka. Program je bil v bistvu pokrov, pri čemer je Watson postal blagovna znamka IBM-ove komercialne analitike z uporabo obdelave naravnega jezika kot inteligentnega pomočnika. Današnja cena delnice IBM je 22% nižja kot na točki zmagoslavja Jeopardy. 

Za ponazoritev težav sem uporabil IBM-ov Watson, vendar bi lahko izbral napake z storitve virtualnih zdravnikov,  diagnostika, ali drugi. Prepričan sem, da bodo takšne organizacije na dolgi rok uspele, vendar lahko raziščemo, zakaj so bili nekateri od teh neuspehov verjetni.

Da bi razumeli obseg izziva, se lahko ozremo vse tja, kjer se je področje začelo s kibernetiki v štiridesetih letih prejšnjega stoletja.

En kibernetik, W. Ross Ashby, zasnoval več zakonov, eden je bil njegov Zakon o zahtevani raznolikosti. Ta zakon bi moral biti bolj znan, saj pojasnjuje korenine vseh vrst nerešljivih težav v IT, od tega, zakaj veliki projekti IT v javnem sektorju običajno ne uspejo, zakaj metodologije IT, kot je PRINCE II, večinoma ne delujejo, zakaj zelo bi nas moralo skrbeti naše sposobnosti nadzora nad superinteligentno umetno inteligenco. Zakon navaja, da "le sorta lahko nadzira sorto." To pomeni, da če imate sistem in ga poskušate nadzorovati z drugim sistemom, mora imeti nadzorni sistem vsaj toliko kompleksnosti kot ciljni sistem; sicer ne bo kos vsem svojim izhodom in prišlo bo do pobega. 

V igri, kot je šah, so vse informacije, potrebne za izračun optimalnega izida, vključene na tablo – šah je težak, vendar raznolikost ni velika. Toda v svetu zdravnikov na prvi liniji obstaja neverjetna raznolikost in potrebujete neverjetno kompleksnost, da zagotovite prave rezultate. To predstavlja ogromen izziv za umetno inteligenco: pacienti iz resničnega sveta bodo robni primeri gradiva za usposabljanje, vendar bi jih morala umetna inteligenca rešiti učinkovito v enem posnetku. Ugotavljamo, da ne morejo, in pobeg je neizogiben, kot je medicinska umetna inteligenca, ki se je strinjala z a pacientka bi se morala ubiti, ki je reševal težave, a je bil morda rasist, ali tisti, ki je bil vsekakor rasistično. Bi lahko delovni dan bodočega zdravnika vključeval vodenje ordinacije, opravljanje skrbništva in preverjanje, ali je pomočnik AI imel rasistični incident? 

Obstaja še en problem pri sprejemanju umetne inteligence v zdravstvo, ki ima verjetno tehnično ime, vendar ga bom poimenoval "problem pokola babice na avtobusni postaji". Če bi se nekdo z avtom zaletel v avtobusno postajo in ubil tri ljubljene babice, bi bila to velika zgodba v lokalnih novicah. Če bi avtonomni avtomobil storil enako, bi bila to svetovna novica, ki bi verjetno povzročila tožbe in zakonodajo. Bistvo je, da smo trenutno veliko bolj tolerantni do človeških zmotljivosti kot smo do strojne zmotljivosti, zato je letvica za rezultate avtomatizirane tehnologije višja kot za ljudi. To je nekoliko racionalno, saj lahko en sam človek povzroči le toliko škode, vendar se bo umetna inteligenca povečala in tako bi se napake ponovile. 

Konec koncev je zaradi teh ovir izjemen izziv uvesti umetno inteligenco v prvo linijo oskrbe, ki bi nadomestila ljudi. Vendar to ni nujno pomembno, saj lahko umetna inteligenca v zdravstvu še vedno zagotavlja velike transformacijske koristi. 

• Distribucija vsebine in PR s pomočjo SEO. Okrepite se še danes.
• Platoblockchain. Web3 Metaverse Intelligence. Razširjeno znanje. Dostopite tukaj.
• vir: https://www.dataversity.net/health-care-ai-a-failure-of-ambition/