KI im Gesundheitswesen: Ein Scheitern des Ehrgeizes

KI im Gesundheitswesen: Ein Scheitern des Ehrgeizes

Zeitstempel: 29. Dezember 2022, 3:25 Uhr
Quellknoten: 1790366

Kaum ein Bereich ist so eng mit der technologischen Entwicklung verbunden wie die Medizin. Man kann mit Fug und Recht sagen, dass die Medizin als Praxis durch die Technologie verändert wurde und sich nun in all ihren Facetten, wie der Arzneimittelentwicklung, der medizinischen Diagnose und der Augmentation mit Prothesen, vollständig auf sie verlässt. Es war die Quelle neuer technologischer Entwicklungen wie MRI-Scanner, bei denen Ärzte mit Wissenschaftlern zusammenarbeiten, um zuvor unvorstellbare Geräte zu entwickeln.

Medizin fühlt sich so an vermutet futuristisch sein: Science-Fiction bombardiert uns mit einer strahlend weißen Zukunft der technologiegetriebenen Medizin, in der wir niemals die kalten Hände eines Arztes auf unserem Bauch spüren müssen und wahrscheinlich sogar die Zahnärzte ihre Bohrer niedergelegt haben. Daher scheint es vollkommen natürlich, dass die neueste und großartigste Technologie der Menschheit, die künstliche Intelligenz (KI), in die Gesundheitsversorgung eingebettet werden sollte. 

Wie schwer kann es sein? Denjenigen von uns, die versuchten, während des Lockdowns mit einem Hausarztdienst zu interagieren, könnte man verzeihen, dass sie dachten, die einzige Technologie, die benötigt wird, um den größten Teil des Weges zu bewältigen, wäre eine Aufzeichnung einer besetzten Telefonleitung, die sich mit einer leicht ausgefransten Empfangsdame abwechselt, die vage Versprechungen über Termine anbietet verfügbar in ein paar Monaten. (Ich necke Hausärzte in diesem Blogbeitrag ein wenig, was meiner Meinung nach sicher ist, da ich wahrscheinlich keinen persönlich treffen werde.) Also gibt es im modernen Gesundheitswesen sicherlich einen großen Spielraum für KI, um zu helfen? Die Leute sind sich einig, und einige der klügsten Köpfe der Welt, gepaart mit einigen der tiefsten Taschen der Welt, haben sich daran gemacht, dies wahr werden zu lassen.

Es hat einen Erfolg gegeben. Zum Beispiel, medizinische Bildgebung wurde erfolgreich geholfen Maschinelles Lernen Techniken, Verarbeitung von Krankenakten Kann verbessert werden, und KI kann sogar den Weg zu einem neuen Verständnis von Gesundheit weisen – zum Beispiel genau vorhersagen, ob ein Patient sterben wird, obwohl wir nicht wissen wie. Es war jedoch kein einfaches Segeln. Als KI aufgefordert wurde, in neuartigen Situationen direkt gegen Menschen anzutreten, war sie ein Fehlschlag; Während COVID beispielsweise taten dies KI-Modelle nicht bei der Diagnose oder Analyse helfen trotz vieler Investitionen, und die Transformation der medizinischen Versorgung an vorderster Front mit KI hat einige ernsthafte Rückschläge erlebt. 

Ambitionen vereitelt

Die spezifischen Probleme, die der medizinische Bereich mit sich bringt, können anhand der Untersuchung eines der größten Erfolge der KI und der Quelle eines Großteils unserer Angst vor ihrer potenziellen Überlegenheit aufgezeigt werden: dem Bereich der Spiele. 

IBMs Deep Blue den weltbesten Schachspieler Garry Kasparov 1996 in einer einzigen Partie und 1997 in einem Turnier zu schlagen – der Höhepunkt von etwa 20 Jahren Bemühungen um die Entwicklung von Schach-KI. IBM dann entwickelt DeepQA Architektur für Verarbeitung natürlicher Sprache, die 2011 und jetzt unter dem Markennamen Watson in der Lage war vernichte die besten menschlichen Champions bei Jeopardy – ein Fortschritt, von dem angenommen wurde, dass er derjenige sein könnte, der es ihm ermöglichen könnte, in menschlichen technischen Bereichen zu konkurrieren und zu gewinnen. 

Bis 2012 hatte IBM Watson ins Visier genommen, das bis dahin eine Kombination von Technologien war, die sie in der Gesundheitsbranche, insbesondere in der Onkologie, entwickelt hatten. 

Der Erfolg schien unvermeidlich: Pressemitteilungen waren positiv, Berichte, die Fortschritte im Vergleich zu menschlichen Ärzten zeigten, wurden veröffentlicht, und Watson konnte medizinische Papiere an einem Tag verbrauchen dafür würde ein menschlicher Arzt 38 Jahre brauchen. Ich habe mit einem befreundeten Arzt gewettet, dass der weltbeste Onkologe bis 2020 eine Maschine sein würde. 

Ich habe meine Wette verloren, aber nicht so umfassend wie IBM seine große Wette auf das Gesundheitswesen verloren hat. Die ersten Pilotkrankenhäuser brachen ihre Versuche ab, und Watson wurde gezeigt, dass dies der Fall war unsichere Krebsbehandlungen empfehlen. Das Programm war im Wesentlichen geschlossen, mit Watson, das sich zur Marke für kommerzielle Analysen von IBM entwickelte, indem es die Verarbeitung natürlicher Sprache als intelligenten Assistenten nutzte. Heute ist der Aktienkurs von IBM 22% niedriger als zum Zeitpunkt des Jeopardy-Triumphs. 

Ich habe Watson von IBM verwendet, um die Schwierigkeiten hier zu veranschaulichen, aber ich hätte Fehler erkennen können virtueller Hausarztdienst,  Diagnostik, oder andere. Ich bin sicher, dass Organisationen wie diese auf lange Sicht erfolgreich sein werden, aber wir können untersuchen, warum einige dieser Misserfolge wahrscheinlich waren.

Um etwas über das Ausmaß der Herausforderung zu verstehen, können wir bis zu den Anfängen des Feldes bei den Kybernetikern der 1940er Jahre zurückblicken.

Ein Kybernetiker, W. Ross Ashby, entwarf mehrere Gesetze, von denen eines sein eigenes war Gesetz der erforderlichen Sorte. Dieses Gesetz sollte besser bekannt sein, da es die Wurzel aller möglichen hartnäckigen Probleme in der IT erklärt, von warum große IT-Projekte im öffentlichen Sektor in der Regel nicht gut laufen, bis hin zu warum IT-Methoden wie PRINCE II meistens nicht funktionieren, bis hin zu warum Wir sollten uns große Sorgen um unsere Fähigkeit machen, superintelligente KI zu kontrollieren. Das Gesetz besagt, dass „nur Vielfalt die Vielfalt kontrollieren kann“. Das heißt, wenn Sie ein System haben und versuchen, es mit einem anderen System zu steuern, muss das Steuerungssystem mindestens so komplex sein wie das Zielsystem. Andernfalls wird es nicht in der Lage sein, alle seine Ausgaben zu bewältigen, und es wird ein Entkommen geben. 

Bei einem Spiel wie Schach sind alle Informationen, die zur Berechnung des optimalen Ergebnisses benötigt werden, auf dem Brett enthalten – Schach ist hart, aber die Vielfalt ist nicht groß. Aber in der Welt des Front-Line-Docking gibt es eine unglaubliche Vielfalt, und Sie brauchen eine unglaubliche Komplexität, um die richtigen Ergebnisse zu liefern. Dies stellt eine immense Herausforderung für die KI dar: Die Patienten aus der realen Welt werden Grenzfälle des Trainingsmaterials sein, aber die KI müsste sie effektiv auf einen Schlag lösen. Wir finden, dass sie es nicht können, und Flucht ist unvermeidlich, wie die medizinische KI, die zustimmte Die Patientin soll sich umbringen, eine, die Probleme löste, aber war vielleicht rassistisch, oder einer, der war definitiv rassistisch. Könnte der Arbeitstag eines zukünftigen Sanitäters darin bestehen, die Praxis zu leiten, die Verwaltung zu erledigen und zu überprüfen, ob der KI-Assistent einen rassistischen Vorfall hatte? 

Es gibt ein weiteres Problem bei der Einführung von KI im Gesundheitswesen, das wahrscheinlich einen technischen Namen hat, aber ich nenne es das „Problem mit dem Oma-Gemetzel an der Bushaltestelle“. Wenn jemand mit seinem Auto gegen eine Bushaltestelle fährt und drei geliebte Omas tötet, dann wäre das eine große Geschichte in den Lokalnachrichten. Wenn ein autonomes Auto dasselbe tun würde, wäre dies eine globale Schlagzeile, die wahrscheinlich zu Gerichtsverfahren und Rechtsvorschriften führen würde. Der Punkt ist, dass wir derzeit sind viel toleranter gegenüber menschlicher Fehlbarkeit als gegenüber maschineller Fehlbarkeit, und die Messlatte für automatisierte Technologieergebnisse ist daher höher als für Menschen. Dies ist einigermaßen rational, da ein einzelner Mensch nur so viel Schaden anrichten kann, aber die KI skaliert und Fehler repliziert werden. 

Letztendlich machen es diese Barrieren äußerst schwierig, KI in die Versorgung an vorderster Front einzuführen, um Menschen zu ersetzen. Aber das spielt keine Rolle, da die KI im Gesundheitswesen immer noch enorme transformative Vorteile bieten kann. 

Zeitstempel:

Mehr von DATENVERSITÄT