Google AI Chatbot mere empatisk end rigtige læger i test

Genudgivet af Platon

Abonnenter: 0

En AI-chatbot var bedre til at diagnosticere medicinske lidelser og kommunikere resultater end menneskelige læger i tekstbaserede samtaler, hævder en forskningsartikel fra Google.

Systemet, navngivet Articulate Medical Intelligence Explorer (AMIE), er en stor sprogmodel, der er trænet til at indsamle medicinsk information og gennemføre kliniske samtaler. AMIE blev designet til at analysere symptomer beskrevet af brugere, stille spørgsmål og forudsige diagnoser.

I en test deltog 20 hånepatienter med opdigtede sygdomme i det randomiserede eksperiment sammen med 20 professionelle primære læger, der blev rekrutteret til eksperimentet for at tilføje det menneskelige præg.

Patienterne vidste ikke, om de talte med AMIE eller en rigtig læge. De blev bedt om at vurdere kvaliteten af deres interaktioner uden at vide, om de havde chattet med en AI-chatbot eller et menneske.

Resultaterne viste, at de fleste af de falske patienter foretrak at chatte frem for AMIE sammenlignet med rigtige læger på tværs af de 149 case-scenarier, der blev testet i forsøget. Deltagerne sagde, at AI-chatbot var bedre til at forstå deres bekymringer og var mere empatisk, klar og professionel i svar. Det er ikke så overraskende, da en AI-chatbots persona og tone kan programmeres, så de opfører sig mere konsekvent og uden irriterende menneskelige problemer som at være træt eller distraheret.

Interessant nok virkede AMIE også mere præcis til at diagnosticere medicinske problemer. Men betyder det, at AI-chatbots er bedre end læger til at yde lægehjælp? Slet ikke, forklarer Google.

Selvom resultaterne virker lovende, interagerer primære læger og patienter personligt og kan opbygge et forhold over tid. Klinikere har også mere adgang til andre typer information end blot tekstbeskrivelser, når de stiller diagnoser, så det er egentlig ikke et praktisk eksperiment - som Google erkender.

"Vores forskning har flere begrænsninger og bør fortolkes med passende forsigtighed," Google-forskerne indrømmede.

"For det første undervurderer vores evalueringsteknik sandsynligvis værdien af menneskelige samtaler i den virkelige verden, da klinikerne i vores undersøgelse var begrænset til en ukendt tekst-chat-grænseflade, som tillader storskala LLM-patientinteraktioner, men ikke er repræsentativ for sædvanlig klinisk praksis ."

Målet er ikke at erstatte primære læger. I stedet mener Google, at AI-chatbots kan være nyttige værktøjer til at støtte patienter, der måske ikke har adgang til sundhedspleje. Men at implementere et sådant system i den virkelige verden er risikabelt og vil kræve mere arbejde for at bruge det ansvarligt, sagde de.

"At oversætte fra dette begrænsede omfang af eksperimentel simuleret historieoptagelse og diagnostisk dialog til virkelige værktøjer til mennesker og dem, der yder omsorg for dem, kræver betydelig yderligere forskning og udvikling for at sikre sikkerhed, pålidelighed, retfærdighed, effektivitet og privatliv af teknologien," konkluderede holdet i deres papir.

"Hvis det lykkes, tror vi, at AI-systemer som AMIE kan være kernen i næste generations læringssundhedssystemer, der hjælper med at skalere sundhedspleje i verdensklasse til alle." ®