IA en el cuidado de la salud: un fracaso de la ambición

Pocos campos están tan alineados con el desarrollo tecnológico como la medicina. Es justo decir que la medicina como práctica ha sido transformada por la tecnología y ahora depende completamente de ella en todas sus facetas, como el desarrollo de fármacos, el diagnóstico médico y el aumento con prótesis. Ha sido la fuente de nuevos desarrollos tecnológicos, como los escáneres de resonancia magnética, en los que los médicos colaboran con los científicos para crear dispositivos que antes eran inimaginables.

La medicina se siente como si fuera Supuesto ser futurista: Ciencia ficción nos bombardea con un futuro blanco reluciente de medicina impulsada por la tecnología donde nunca necesitaremos sentir las manos frías de un médico en nuestro abdomen, y probablemente incluso los dentistas hayan dejado sus taladros. Por lo tanto, parece perfectamente natural que la última y mejor tecnología de la humanidad, la inteligencia artificial (IA), se incorpore a la atención médica. 

¿Qué tan difícil puede ser? A aquellos de nosotros que tratamos de interactuar con un servicio de médico de cabecera durante el confinamiento se nos podría perdonar por pensar que la única tecnología necesaria para hacer la mayor parte del camino sería una grabación de una línea telefónica ocupada alternada con una recepcionista ligeramente desgastada que ofrece vagas promesas sobre citas programadas. disponible en un par de meses. (Me estoy burlando un poco de los médicos de cabecera en esta publicación de blog, lo que pensé que era seguro ya que es poco probable que conozca a uno en persona). Entonces, en la atención médica moderna, seguramente hay un gran margen para que la IA ayude. La gente está de acuerdo, y algunas de las mentes más brillantes del mundo junto con algunos de los bolsillos más profundos del mundo se han propuesto hacer que esto se haga realidad.

Ha habido un éxito. Por ejemplo, imagenes medicas ha sido asistido con éxito con máquina de aprendizaje técnicas, procesamiento de registros médicos puede ser mejorado, y la IA puede incluso señalar el camino hacia una nueva comprensión de la salud; por ejemplo, puede predecir si un paciente va a morir, aunque no sabemos cómo. Sin embargo, no ha sido un camino de rosas. Cuando se le pidió que compitiera directamente contra humanos en situaciones novedosas, la IA fracasó; por ejemplo, durante COVID, los modelos de IA no ayuda con el diagnóstico o análisis a pesar de la gran inversión, y la transformación de la atención médica de primera línea con IA ha experimentado algunos contratiempos graves. 

Ambiciones frustradas

Los problemas específicos que ofrece el ámbito médico pueden trazarse investigando uno de los mayores éxitos de la IA y la fuente de gran parte de nuestra angustia sobre su superioridad potencial: el ámbito de los juegos. 

De IBM Deep Blue derrotó al mejor jugador de ajedrez del mundo, Garry Kasparov, en un solo juego en 1996 y en un torneo en 1997: la culminación de unos 20 años de esfuerzo en el desarrollo de la IA del ajedrez. IBM entonces desarrolló Control de calidad profundo arquitectura para procesamiento natural del lenguaje, que, en 2011 y ahora con la marca Watson, pudo aplasta a los mejores campeones humanos at Jeopardy, un avance que se pensó que sería el que le permitiría competir y ganar en los campos técnicos humanos. 

Para 2012, IBM había apuntado a Watson, que para entonces era una combinación de tecnologías que habían desarrollado en la industria del cuidado de la salud, especialmente en oncología. 

El éxito parecía inevitable: los comunicados de prensa fueron positivos, se publicaron reseñas que mostraban el progreso en comparación con los médicos humanos y Watson pudo consumir papeles medicos en un dia eso le llevaría a un médico humano 38 años. Hice una apuesta con un amigo médico de que para el 2020 el mejor oncólogo del mundo sería una máquina. 

Perdí mi apuesta, pero no de manera tan completa como IBM perdió su gran apuesta en el cuidado de la salud. Los hospitales piloto iniciales cancelaron sus ensayos y se demostró que Watson recomendar tratamientos inseguros contra el cáncer. El programa era esencialmente cerrado, con Watson pivotado para convertirse en la marca de análisis comercial de IBM con el uso de su procesamiento de lenguaje natural como asistente inteligente. Hoy, el precio de las acciones de IBM es 22% más bajo que en el punto del triunfo del Jeopardy. 

He usado Watson de IBM para ilustrar las dificultades aquí, pero podría haber detectado fallas con servicio de médicos de cabecera virtuales,  diagnóstico, u otras personas. Estoy seguro de que organizaciones como estas tendrán éxito a largo plazo, pero podemos explorar por qué es probable que ocurran algunos de estos fracasos.

Para comprender algo de la escala del desafío, podemos retroceder hasta donde comenzó el campo con los cibernéticos de la década de 1940.

Un cibernético, W.Ross Ashby, concibió varias leyes, siendo una de ellas su Ley de Variedad Requerida. Esta ley debería conocerse mejor, ya que explica la raíz de todo tipo de problemas intratables en TI, desde por qué los grandes proyectos de TI del sector público tienden a no funcionar bien, hasta por qué las metodologías de TI como PRINCE II en su mayoría no funcionan, hasta por qué deberíamos estar muy preocupados por nuestras habilidades para controlar la IA superinteligente. La ley establece que “solo la variedad puede controlar la variedad”. Es decir, si tiene un sistema y está tratando de controlarlo con otro sistema, el sistema de control debe tener al menos tanta complejidad como el sistema de destino; de lo contrario, no podrá hacer frente a todas sus salidas y habrá un escape. 

En un juego como el ajedrez, toda la información necesaria para calcular el resultado óptimo se incluye en el tablero: el ajedrez es difícil, pero la variedad no es muy grande. Pero en el mundo de la atención médica de primera línea, existe una variedad increíble y se necesita una complejidad increíble para proporcionar los resultados correctos. Esto presenta un desafío inmenso para la IA: los pacientes del mundo real estarán entrenando casos extremos materiales, pero la IA tendría que resolverlos de manera efectiva de una sola vez. Descubrimos que no pueden, y el escape es inevitable, como la IA médica que acordó un paciente debe suicidarse, uno que resolvía problemas pero era tal vez racista, o uno que fue definitivamente racista. ¿Podría la jornada laboral de un futuro médico implicar realizar la cirugía, hacer la administración y verificar si el asistente de IA ha tenido un incidente racista? 

Hay otro problema en la adopción de la IA en el cuidado de la salud que probablemente tenga un nombre técnico, pero lo llamaré el "problema de la carnicería de la abuela de la parada de autobús". Si alguien choca su auto contra una parada de autobús y mata a tres queridas abuelas, entonces sería una gran historia en las noticias locales. Si un automóvil autónomo hiciera lo mismo, sería una noticia mundial, lo que probablemente resultaría en demandas y legislación. El punto es que actualmente estamos mucho más más tolerantes con la falibilidad humana que con la falibilidad de las máquinas, y el listón para los resultados de la tecnología automatizada es, por lo tanto, más alto que para los humanos. Esto es algo racional, ya que un solo humano solo puede hacer mucho daño, pero la IA se escalará y, por lo tanto, los errores se replicarán. 

En última instancia, estas barreras hacen que sea extremadamente difícil introducir la IA en la atención de primera línea para reemplazar a los humanos. Pero eso no necesariamente importa, ya que la IA en el cuidado de la salud aún puede proporcionar enormes beneficios de transformación. 

• Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
• Platoblockchain. Inteligencia del Metaverso Web3. Conocimiento amplificado. Accede Aquí.
• Fuente: https://www.dataversity.net/health-care-ai-a-failure-of-ambition/