Sztuczna inteligencja opieki zdrowotnej: porażka ambicji

Niewiele dziedzin jest tak dostosowanych do rozwoju technologicznego jak medycyna. Można śmiało powiedzieć, że medycyna jako praktyka została przekształcona przez technologię i teraz całkowicie polega na niej we wszystkich aspektach, takich jak opracowywanie leków, diagnostyka medyczna i augmentacja za pomocą protez kończyn. Jest źródłem nowych rozwiązań technologicznych, takich jak skanery MRI, w ramach których lekarze współpracują z naukowcami, tworząc wcześniej niewyobrażalne urządzenia.

Wydaje się, że medycyna jest domniemany być futurystycznym: Fantastyka naukowa bombarduje nas lśniąco białą przyszłością medycyny opartej na technologii, w której nigdy nie będziemy musieli czuć zimnych dłoni lekarza na naszym brzuchu, a prawdopodobnie nawet dentyści odłożyli swoje wiertła. Wydaje się więc całkowicie naturalne, że najnowsza i najlepsza technologia ludzkości, sztuczna inteligencja (AI), powinna zostać wbudowana w opiekę zdrowotną. 

Jak trudne może to być? Ci z nas, którzy próbowali nawiązać kontakt z lekarzem pierwszego kontaktu podczas blokady, mogli wybaczyć, że myśleli, że jedyną techniką potrzebną do pokonania większości sytuacji byłoby nagranie zajętej linii telefonicznej na przemian z nieco postrzępioną recepcjonistką oferującą niejasne obietnice dotyczące wizyt. dostępne za kilka miesięcy. (W tym poście na blogu trochę droczę się z lekarzami pierwszego kontaktu, co moim zdaniem jest bezpieczne, ponieważ jest mało prawdopodobne, że spotkam takiego osobiście.) Tak więc, we współczesnej opiece zdrowotnej, z pewnością istnieje ogromny zakres pomocy ze strony sztucznej inteligencji? Ludzie zgadzają się, a niektóre z najbystrzejszych umysłów na świecie w połączeniu z niektórymi z najgłębszych kieszeni na świecie postanowiły to urzeczywistnić.

Nastąpił sukces. Na przykład, obrazowanie medyczne udało się skutecznie pomóc uczenie maszynowe techniki, przetwarzanie dokumentacji medycznej można ulepszyć, a sztuczna inteligencja może nawet wskazać drogę do nowego rozumienia zdrowia – na przykład może dokładnie przewidzieć, czy pacjent umrze, choć nie wiemy jak. Jednak nie było to zwykłe żeglowanie. Poproszona o bezpośrednią rywalizację z ludźmi w nowych sytuacjach sztuczna inteligencja okazała się porażką; na przykład podczas COVID modele AI nie pomoc w diagnozie lub analizie pomimo wielu inwestycji, a transformacja pierwszej linii opieki medycznej za pomocą sztucznej inteligencji przyniosła poważne niepowodzenia. 

Udaremnione ambicje

Konkretne problemy, jakie stwarza arena medyczna, można sporządzić na wykresie, badając jeden z największych sukcesów sztucznej inteligencji i źródło wielu naszych niepokojów związanych z jej potencjalną wyższością: areną gier. 

IBM Modry pokonał najlepszego szachistę świata, Garry'ego Kasparowa, w jednej grze w 1996 roku iw turnieju w 1997 roku - kulminacja około 20 lat wysiłków w rozwoju szachowej sztucznej inteligencji. Następnie rozwinął się IBM GłębokaQA architektura dla przetwarzanie języka naturalnego, który w 2011 roku i teraz pod marką Watson był w stanie zmiażdżyć najlepszych ludzkich mistrzów w Jeopardy – postęp, który uważano za ten, który mógł pozwolić mu konkurować i wygrywać w ludzkich dziedzinach technicznych. 

Do 2012 roku IBM wybrał Watsona, który był wówczas połączeniem technologii opracowanych w branży opieki zdrowotnej, zwłaszcza onkologicznej. 

Sukces wydawał się nieunikniony: komunikaty prasowe były pozytywne, opublikowano recenzje pokazujące postępy w porównaniu z ludzkimi lekarzami, a Watson mógł zużywać dokumenty medyczne w ciągu dnia zajęłoby to ludzkiemu lekarzowi 38 lat. Założyłem się ze znajomym lekarzem, że do 2020 roku najlepszym onkologiem na świecie będzie maszyna. 

Przegrałem zakład, ale nie tak kompleksowo, jak IBM przegrał swój duży zakład na opiekę zdrowotną. Początkowe szpitale pilotażowe odwołały swoje próby i pokazano, że Watson to zrobił zalecać niebezpieczne metody leczenia raka. Program był merytoryczny zamknięte, z Watsonem, który stał się marką dla analityki komercyjnej IBM z wykorzystaniem przetwarzania języka naturalnego jako inteligentnego asystenta. Dziś cena akcji IBM wynosi 22% niższy niż w momencie triumfu Jeopardy. 

Użyłem Watsona IBM, aby zilustrować trudności tutaj, ale mogłem wybrać awarie usługi wirtualnego lekarza pierwszego kontaktu,  diagnostyka, lub inne. Jestem pewien, że takie organizacje odniosą sukces na dłuższą metę, ale możemy zbadać, dlaczego niektóre z tych niepowodzeń były prawdopodobne.

Aby zrozumieć skalę wyzwania, możemy cofnąć się do czasów, gdy dziedzina ta zaczęła się od cybernetyków z lat czterdziestych XX wieku.

Jeden cybernetyk, W. Rossa Ashby'ego, wymyślił kilka praw, z których jedno jest jego Prawo wymaganej różnorodności. Prawo to powinno być lepiej znane, ponieważ wyjaśnia źródło wszelkiego rodzaju nierozwiązywalnych problemów w IT, od tego, dlaczego duże projekty IT w sektorze publicznym zwykle nie idą dobrze, przez dlaczego metodologie IT, takie jak PRINCE II, w większości nie działają, po dlaczego powinniśmy być bardzo zaniepokojeni naszymi zdolnościami do kontrolowania superinteligentnej sztucznej inteligencji. Prawo stanowi, że „tylko różnorodność może kontrolować różnorodność”. Oznacza to, że jeśli masz system i próbujesz go kontrolować za pomocą innego systemu, system sterowania musi mieć co najmniej taką samą złożoność jak system docelowy; w przeciwnym razie nie będzie w stanie poradzić sobie ze wszystkimi swoimi wyjściami i nastąpi ucieczka. 

W grze takiej jak szachy wszystkie informacje potrzebne do obliczenia optymalnego wyniku są zawarte na planszy – szachy są trudne, ale różnorodność nie jest wielka. Ale w świecie medycyny pierwszej linii istnieje niesamowita różnorodność i potrzeba niesamowitej złożoności, aby zapewnić właściwe wyniki. Stanowi to ogromne wyzwanie dla sztucznej inteligencji: prawdziwi pacjenci będą trenować przypadki skrajne, ale sztuczna inteligencja musiałaby je skutecznie rozwiązać za jednym razem. Stwierdzamy, że nie mogą, a ucieczka jest nieunikniona, tak jak medyczna sztuczna inteligencja, która zgodziła się pacjent powinien się zabić, który rozwiązywał problemy, ale był może rasistowski, albo taki, który był zdecydowanie rasistowski. Czy dzień pracy przyszłego lekarza mógłby obejmować prowadzenie operacji, administrację i sprawdzanie, czy asystent AI miał rasistowski incydent? 

Istnieje inny problem związany z przyjęciem sztucznej inteligencji do opieki zdrowotnej, który prawdopodobnie ma techniczną nazwę, ale nazwę go „problemem rzezi babci na przystanku autobusowym”. Gdyby ktoś rozbił swój samochód na przystanku autobusowym i zabił trzy ukochane babcie, byłby to duży artykuł w lokalnych wiadomościach. Gdyby autonomiczny samochód zrobił to samo, byłby to światowy news, prawdopodobnie skutkujący procesami sądowymi i ustawodawstwem. Chodzi o to, że jesteśmy obecnie dużo jesteśmy bardziej tolerancyjni dla omylności człowieka niż my dla omylności maszyn, a zatem poprzeczka dla zautomatyzowanych wyników technologii jest wyższa niż dla ludzi. Jest to dość racjonalne, ponieważ pojedynczy człowiek może wyrządzić tylko tyle szkód, ale sztuczna inteligencja będzie się skalować, a więc błędy będą powielane. 

Ostatecznie bariery te sprawiają, że wprowadzenie sztucznej inteligencji do opieki pierwszej linii w celu zastąpienia ludzi jest niezwykle trudne. Ale to niekoniecznie ma znaczenie, ponieważ sztuczna inteligencja opieki zdrowotnej może nadal zapewniać ogromne korzyści transformacyjne. 

• Dystrybucja treści i PR oparta na SEO. Uzyskaj wzmocnienie już dziś.
• Platoblockchain. Web3 Inteligencja Metaverse. Wzmocniona wiedza. Dostęp tutaj.
• Źródło: https://www.dataversity.net/health-care-ai-a-failure-of-ambition/