Health Care AI: A Failure of Ambition

Λίγοι τομείς είναι τόσο ευθυγραμμισμένοι με την τεχνολογική ανάπτυξη όσο η ιατρική. Είναι δίκαιο να πούμε ότι η ιατρική ως πρακτική έχει μεταμορφωθεί από την τεχνολογία και τώρα βασίζεται πλήρως σε αυτήν σε όλες τις πτυχές της, όπως η ανάπτυξη φαρμάκων, η ιατρική διάγνωση και η αύξηση με προσθετικά μέλη. Είναι η πηγή νέων τεχνολογικών εξελίξεων, όπως οι σαρωτές μαγνητικής τομογραφίας, όπου οι γιατροί συνεργάζονται με επιστήμονες για να δημιουργήσουν ασύλληπτες συσκευές.

Η ιατρική μοιάζει να είναι υποτιθεμένος να είμαστε φουτουριστικοί: Επιστημονική φαντασία μας βομβαρδίζει με ένα αστραφτερό λευκό μέλλον ιατρικής που καθοδηγείται από την τεχνολογία, όπου δεν θα χρειαστεί ποτέ να νιώσουμε τα κρύα χέρια ενός γιατρού στην κοιλιά μας, και πιθανότατα ακόμη και οι οδοντίατροι έχουν καταθέσει τις ασκήσεις τους. Φαίνεται λοιπόν απολύτως φυσικό ότι η τελευταία και μεγαλύτερη τεχνολογία της ανθρωπότητας, η τεχνητή νοημοσύνη (AI), θα πρέπει να ενσωματωθεί στην υγειονομική περίθαλψη. 

Πόσο δύσκολο μπορεί να είναι; Όσοι από εμάς προσπάθησαν να αλληλεπιδράσουν με μια υπηρεσία GP στο lockdown θα μπορούσαν να συγχωρεθούν επειδή πιστεύαμε ότι η μόνη τεχνολογία που χρειάζεται για να ξεπεράσουμε το μεγαλύτερο μέρος της διαδρομής θα ήταν η εγγραφή μιας πολυάσχολης τηλεφωνικής γραμμής που εναλλάσσεται με έναν ελαφρώς ξεφτισμένο ρεσεψιονίστ που προσφέρει αόριστες υποσχέσεις σχετικά με τα ραντεβού διαθέσιμο σε μερικούς μήνες. (Πειράζω λίγο τους γιατρούς σε αυτήν την ανάρτηση ιστολογίου, κάτι που κατάλαβα ότι είναι ασφαλές, καθώς είναι απίθανο να συναντήσω κάποιον προσωπικά.) Έτσι, στη σύγχρονη υγειονομική περίθαλψη, σίγουρα υπάρχει τεράστιο περιθώριο βοήθειας από την τεχνητή νοημοσύνη; Οι άνθρωποι συμφωνούν, και μερικά από τα πιο έξυπνα μυαλά του κόσμου σε συνδυασμό με μερικές από τις βαθύτερες τσέπες του κόσμου έχουν ξεκινήσει να το κάνουν πραγματικότητα.

Υπήρξε μια επιτυχία. Για παράδειγμα, ιατρική απεικόνιση έχει υποστηριχθεί με επιτυχία μάθηση μηχανής τεχνικές, επεξεργασία ιατρικού φακέλου μπορεί να βελτιωθεί, και η τεχνητή νοημοσύνη μπορεί ακόμη και να δείξει τον δρόμο για μια νέα κατανόηση της υγείας – για παράδειγμα, μπορεί με ακρίβεια προβλέψει εάν ένας ασθενής πρόκειται να πεθάνει, αν και δεν ξέρουμε πώς. Ωστόσο, δεν ήταν απλή ιστιοπλοΐα. Όταν ζητήθηκε να ανταγωνιστεί απευθείας ανθρώπους σε νέες καταστάσεις, η τεχνητή νοημοσύνη απέτυχε. για παράδειγμα, κατά τη διάρκεια του COVID, τα μοντέλα AI δεν το έκαναν βοήθεια στη διάγνωση ή την ανάλυση παρά τις πολλές επενδύσεις, και ο μετασχηματισμός της πρώτης γραμμής ιατρικής περίθαλψης με τεχνητή νοημοσύνη έχει δει κάποια σοβαρά εμπόδια. 

Φιλοδοξίες Ματαιώθηκαν

Τα συγκεκριμένα προβλήματα που παρέχει η ιατρική αρένα μπορούν να καταγραφούν διερευνώντας μια από τις μεγαλύτερες επιτυχίες της τεχνητής νοημοσύνης και την πηγή μεγάλου μέρους της αγωνίας μας σχετικά με την πιθανή υπεροχή της: την αρένα των παιχνιδιών. 

Της IBM Deep Blue κέρδισε τον καλύτερο σκακιστή του κόσμου, τον Garry Kasparov, σε ένα μόνο παιχνίδι το 1996 και σε ένα τουρνουά το 1997 – το αποκορύφωμα περίπου 20 ετών προσπάθειας για την ανάπτυξη σκακιστικής τεχνητής νοημοσύνης. Στη συνέχεια αναπτύχθηκε η IBM DeepQA αρχιτεκτονική για επεξεργασία φυσικής γλώσσας, η οποία, το 2011 και πλέον επώνυμα Watson, μπόρεσε συντρίψει τους καλύτερους ανθρώπινους πρωταθλητές στο Jeopardy – μια πρόοδος που θεωρήθηκε ότι ήταν αυτή που θα μπορούσε να της επιτρέψει να ανταγωνιστεί και να κερδίσει σε ανθρώπινους τεχνικούς τομείς. 

Μέχρι το 2012, η ​​IBM είχε βάλει στο στόχαστρο τη Watson, η οποία ήταν μέχρι τότε ένας συνδυασμός τεχνολογιών που είχαν αναπτύξει στον κλάδο της υγειονομικής περίθαλψης, ειδικά στην ογκολογία. 

Η επιτυχία φαινόταν αναπόφευκτη: τα δελτία τύπου ήταν θετικά, οι κριτικές που έδειχναν την πρόοδο σε σχέση με τους ανθρώπινους γιατρούς δημοσιεύτηκαν και ο Watson μπορούσε καταναλώστε ιατρικά χαρτιά σε μια μέρα που θα χρειαζόταν ένας γιατρός 38 χρόνια. Πήρα στοίχημα με έναν φίλο γιατρό ότι μέχρι το 2020 ο καλύτερος ογκολόγος στον κόσμο θα ήταν ένα μηχάνημα. 

Έχασα το στοίχημά μου, αλλά όχι τόσο ολοκληρωμένα όσο η IBM έχασε το μεγάλο της στοίχημα στην υγειονομική περίθαλψη. Τα αρχικά πιλοτικά νοσοκομεία ακύρωσαν τις δοκιμές τους και ο Watson έδειξε να το κάνει προτείνουμε μη ασφαλείς θεραπείες για τον καρκίνο. Το πρόγραμμα ήταν ουσιαστικά κούφια, με την Watson να είναι η μάρκα για τα εμπορικά αναλυτικά στοιχεία της IBM με τη χρήση της επεξεργασίας φυσικής γλώσσας ως έξυπνου βοηθού. Σήμερα, η τιμή της μετοχής της IBM είναι 22% χαμηλότερο παρά στο σημείο του θριάμβου του Τζόπαρντι. 

Έχω χρησιμοποιήσει το Watson της IBM για να δείξω τις δυσκολίες εδώ, αλλά θα μπορούσα να είχα επιλέξει αποτυχίες με εικονική υπηρεσία GP,  διάγνωσης, ή άλλοι. Είμαι βέβαιος ότι οργανισμοί όπως αυτοί θα πετύχουν μακροπρόθεσμα, αλλά μπορούμε να διερευνήσουμε γιατί κάποιες από αυτές τις αποτυχίες ήταν πιθανές.

Για να καταλάβουμε κάτι από την κλίμακα της πρόκλησης, μπορούμε να κοιτάξουμε πίσω από εκεί που ξεκίνησε το πεδίο με τους κυβερνοδιαφημιστές της δεκαετίας του 1940.

Ένας κυβερνητικός, W. Ross Ashby, συνέλαβε πολλούς νόμους, ο ένας είναι δικός του Νόμος της απαιτούμενης ποικιλίας. Αυτός ο νόμος θα πρέπει να είναι περισσότερο γνωστός, καθώς εξηγεί τη ρίζα όλων των ειδών δυσεπίλυτων προβλημάτων στον τομέα της πληροφορικής, από το γιατί τα μεγάλα έργα πληροφορικής του δημόσιου τομέα τείνουν να μην πάνε καλά, στο γιατί οι μεθοδολογίες πληροφορικής όπως το PRINCE II ως επί το πλείστον δεν λειτουργούν, έως το γιατί θα πρέπει να ανησυχούμε πολύ για τις ικανότητές μας να ελέγχουμε την υπερ-έξυπνη τεχνητή νοημοσύνη. Ο νόμος δηλώνει ότι «μόνο η ποικιλία μπορεί να ελέγξει την ποικιλία». Δηλαδή, εάν έχετε ένα σύστημα και προσπαθείτε να το ελέγξετε με άλλο σύστημα, το σύστημα ελέγχου πρέπει να έχει τουλάχιστον τόση πολυπλοκότητα με το σύστημα στόχου. Διαφορετικά, δεν θα μπορέσει να αντεπεξέλθει σε όλες τις εξόδους του και θα υπάρξει διαφυγή. 

Σε ένα παιχνίδι όπως το σκάκι, όλες οι πληροφορίες που απαιτούνται για τον υπολογισμό του βέλτιστου αποτελέσματος περιλαμβάνονται στον πίνακα - το σκάκι είναι δύσκολο, αλλά η ποικιλία δεν είναι μεγάλη. Αλλά στον κόσμο της πρώτης γραμμής ιατρικής ιατρικής, υπάρχει απίστευτη ποικιλία και χρειάζεστε απίστευτη πολυπλοκότητα για να παρέχετε τα σωστά αποτελέσματα. Αυτό αποτελεί μια τεράστια πρόκληση για την τεχνητή νοημοσύνη: οι ασθενείς του πραγματικού κόσμου θα είναι ακραίες περιπτώσεις εκπαιδευτικού υλικού, αλλά η τεχνητή νοημοσύνη θα πρέπει να τις λύσει αποτελεσματικά με μία λήψη. Διαπιστώνουμε ότι δεν μπορούν, και η απόδραση είναι αναπόφευκτη, όπως η ιατρική τεχνητή νοημοσύνη που συμφώνησε α η ασθενής πρέπει να αυτοκτονήσει, ένα που έλυνε προβλήματα αλλά ήταν ίσως ρατσιστικό, ή ένα που ήταν σίγουρα ρατσιστικό. Θα μπορούσε η εργάσιμη ημέρα ενός μελλοντικού γιατρού να περιλαμβάνει τη λειτουργία της χειρουργικής επέμβασης, την εκτέλεση του διαχειριστή και τον έλεγχο εάν ο βοηθός τεχνητής νοημοσύνης είχε ένα ρατσιστικό περιστατικό; 

Υπάρχει ένα άλλο πρόβλημα στην υιοθέτηση της τεχνητής νοημοσύνης στην υγειονομική περίθαλψη που πιθανώς έχει τεχνική ονομασία, αλλά θα το ονομάσω «πρόβλημα σφαγής της γιαγιάς στη στάση λεωφορείου». Αν κάποιος τρακάρει το αυτοκίνητό του σε μια στάση λεωφορείου και σκοτώσει τρεις αγαπημένες γιαγιάδες, τότε θα ήταν μεγάλη ιστορία στις τοπικές ειδήσεις. Εάν ένα αυτόνομο αυτοκίνητο έκανε το ίδιο, θα ήταν μια παγκόσμια είδηση, που πιθανότατα θα είχε ως αποτέλεσμα μηνύσεις και νομοθεσία. Το θέμα είναι ότι βρισκόμαστε αυτή τη στιγμή πολύ πιο ανεκτικοί στην ανθρώπινη αστοχία απ' ό,τι εμείς στην αστοχία των μηχανών, και ο πήχης για τα αυτοματοποιημένα τεχνολογικά αποτελέσματα είναι, επομένως, υψηλότερος από ό,τι για τους ανθρώπους. Αυτό είναι κάπως λογικό, καθώς ένας και μόνο άνθρωπος μπορεί να κάνει μόνο τόσο κακό, αλλά η τεχνητή νοημοσύνη θα κλιμακωθεί και έτσι τα λάθη θα επαναληφθούν. 

Τελικά, αυτά τα εμπόδια καθιστούν εξαιρετικά δύσκολη την εισαγωγή της τεχνητής νοημοσύνης στην πρώτη γραμμή φροντίδας για την αντικατάσταση των ανθρώπων. Αλλά αυτό δεν έχει απαραίτητα σημασία, καθώς η τεχνητή νοημοσύνη υγειονομικής περίθαλψης μπορεί ακόμα να προσφέρει τεράστια μετασχηματιστικά οφέλη. 

• SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
• Platoblockchain. Web3 Metaverse Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
• πηγή: https://www.dataversity.net/health-care-ai-a-failure-of-ambition/