L'IA des soins de santé : un échec de l'ambition

L'IA des soins de santé : un échec de l'ambition

Horodatage: 29 décembre 2022 3h25
Nœud source: 1790366

Peu de domaines sont aussi alignés sur le développement technologique que la médecine. Il est juste de dire que la médecine en tant que pratique a été transformée par la technologie et s'appuie désormais entièrement sur elle dans toutes ses facettes, comme le développement de médicaments, le diagnostic médical et l'augmentation avec des membres prothétiques. Il a été la source de nouveaux développements technologiques, tels que les scanners IRM, où les médecins collaborent avec des scientifiques pour créer des dispositifs auparavant inimaginables.

La médecine donne l'impression que c'est supposé être futuriste : Science fiction nous bombarde d'un avenir blanc étincelant de médecine axée sur la technologie où nous n'aurons jamais besoin de sentir les mains froides d'un médecin sur notre abdomen, et probablement même les dentistes ont posé leurs fraises. Il semble donc parfaitement naturel que la technologie la plus récente et la plus avancée de l'humanité, l'intelligence artificielle (IA), soit intégrée aux soins de santé. 

À quel point cela peut-il être dur? Ceux d'entre nous qui ont essayé d'interagir avec un service de médecin généraliste pendant le verrouillage pourraient être pardonnés de penser que la seule technologie nécessaire pour obtenir la majeure partie du chemin serait un enregistrement d'une ligne téléphonique occupée alterné avec une réceptionniste légèrement effilochée offrant de vagues promesses sur les rendez-vous étant disponible dans quelques mois. (Je taquine un peu les médecins généralistes dans cet article de blog, ce qui, à mon avis, est sûr car il est peu probable que j'en rencontre un en personne.) Ainsi, dans les soins de santé modernes, l'IA a sûrement une énorme marge de manœuvre pour aider ? Les gens sont d'accord, et certains des esprits les plus brillants du monde, associés à certaines des poches les plus profondes du monde, se sont mis à faire de cela une réalité.

Il y a eu un succès. Par exemple, l'imagerie médicale a été assisté avec succès machine learning techniques, traitement des dossiers médicaux peut être amélioré, et l'IA peut même ouvrir la voie à une nouvelle compréhension de la santé - par exemple, elle peut avec précision prédire si un patient va mourir, même si nous ne savons pas comment. Cependant, cela n'a pas été simple. Lorsqu'on lui a demandé de rivaliser directement avec des humains dans de nouvelles situations, l'IA a été un échec ; par exemple, pendant COVID, les modèles d'IA n'ont pas aide au diagnostic ou à l'analyse malgré de nombreux investissements, et la transformation des soins médicaux de première ligne avec l'IA a connu de sérieux revers. 

Ambitions contrecarrées

Les problèmes spécifiques que pose l'arène médicale peuvent être cartographiés en enquêtant sur l'un des plus grands succès de l'IA, et la source d'une grande partie de notre angoisse quant à sa supériorité potentielle : l'arène des jeux. 

IBM Deep Blue a battu le meilleur joueur d'échecs du monde, Garry Kasparov, en une seule partie en 1996 et dans un tournoi en 1997 - l'aboutissement d'environ 20 ans d'efforts dans le développement de l'IA d'échecs. IBM a ensuite développé DeepQA architecture pour traitement du langage naturel, qui, en 2011 et maintenant sous la marque Watson, a pu écraser les meilleurs champions humains chez Jeopardy - une avancée qui était considérée comme celle qui pourrait lui permettre de rivaliser et de gagner dans les domaines techniques humains. 

En 2012, IBM avait ciblé Watson, qui était alors une combinaison de technologies qu'ils avaient développées dans le secteur des soins de santé, en particulier l'oncologie. 

Le succès semblait inévitable : les communiqués de presse étaient positifs, des critiques montrant des progrès par rapport aux médecins humains ont été publiées, et Watson pouvait consommer des papiers médicaux en une journée cela prendrait 38 ans à un médecin humain. J'ai fait le pari avec un ami médecin que d'ici 2020, le meilleur oncologue du monde serait une machine. 

J'ai perdu mon pari, mais pas aussi complètement qu'IBM a perdu son gros pari sur les soins de santé. Les premiers hôpitaux pilotes ont annulé leurs essais et il a été démontré que Watson recommander des traitements anticancéreux dangereux. Le programme était essentiellement fermé, avec Watson pivoté pour devenir la marque de l'analyse commerciale d'IBM avec l'utilisation de son traitement du langage naturel comme assistant intelligent. Aujourd'hui, le cours de l'action IBM est 22% inférieur qu'au moment du triomphe de Jeopardy. 

J'ai utilisé Watson d'IBM pour illustrer les difficultés ici, mais j'aurais pu choisir des échecs avec service de médecins généralistes virtuels,  diagnostic, ou autres. Je suis sûr que des organisations comme celles-ci réussiront à long terme, mais nous pouvons explorer pourquoi certains de ces échecs étaient probables.

Pour comprendre quelque chose de l'ampleur du défi, nous pouvons remonter jusqu'au point où le domaine a commencé avec les cybernéticiens des années 1940.

Un cybernéticien, W.Ross Ashby, a conçu plusieurs lois, l'une étant sa Loi de variété requise. Cette loi devrait être mieux connue, car elle explique la racine de toutes sortes de problèmes insolubles dans l'informatique, de la raison pour laquelle les grands projets informatiques du secteur public ont tendance à ne pas bien se dérouler, à la raison pour laquelle les méthodologies informatiques telles que PRINCE II ne fonctionnent généralement pas, à pourquoi nous devrions être très inquiets quant à nos capacités à contrôler l'IA super intelligente. La loi stipule que « seule la variété peut contrôler la variété ». Autrement dit, si vous avez un système et que vous essayez de le contrôler avec un autre système, le système de contrôle doit avoir au moins autant de complexité que le système cible ; sinon, il ne pourra pas faire face à toutes ses sorties, et il y aura une évasion. 

Dans un jeu comme les échecs, toutes les informations nécessaires pour calculer le résultat optimal sont incluses sur le plateau - les échecs sont difficiles, mais la variété n'est pas grande. Mais dans le monde de la médecine de première ligne, il existe une variété incroyable et vous avez besoin d'une complexité incroyable pour fournir les bons résultats. Cela représente un immense défi pour l'IA : les patients du monde réel entraîneront des cas matériels de pointe, mais l'IA devrait les résoudre efficacement en une seule fois. Nous constatons qu'ils ne peuvent pas, et l'évasion est inévitable, comme l'IA médicale qui a accepté un la patiente doit se suicider, celui qui résolvait des problèmes mais était peut-être raciste, ou celui qui était définitivement raciste. La journée de travail d'un futur médecin pourrait-elle impliquer de diriger la chirurgie, de faire l'administration et de vérifier si l'assistant IA a eu un incident raciste? 

Il y a un autre problème dans l'adoption de l'IA dans les soins de santé qui a probablement un nom technique, mais je l'appellerai le "problème du carnage des mamies aux arrêts de bus". Si quelqu'un écrase sa voiture dans un arrêt de bus et tue trois mamies bien-aimées, alors ce serait une grande histoire sur les nouvelles locales. Si une voiture autonome faisait de même, ce serait une nouvelle mondiale, entraînant probablement des poursuites et une législation. Le fait est que nous sommes actuellement beaucoup plus tolérants à la faillibilité humaine que nous ne le sommes à la faillibilité de la machine, et la barre des résultats de la technologie automatisée est donc plus élevée qu'elle ne l'est pour les humains. C'est quelque peu rationnel, car un seul humain ne peut faire que beaucoup de mal, mais l'IA évoluera et les erreurs seraient donc reproduites. 

En fin de compte, ces obstacles rendent extrêmement difficile l'introduction de l'IA dans les soins de première ligne pour remplacer les humains. Mais cela n'a pas nécessairement d'importance, car l'IA dans le domaine de la santé peut encore apporter d'énormes avantages transformationnels. 

Horodatage:

Plus de DATAVERSITÉ