Health Care AI: A Failure Of Ambition

הועלה מחדש על ידי אפלטון

עוקב: 0

מעטים התחומים שמתאימים להתפתחות הטכנולוגית כמו הרפואה. זה הוגן לומר שהרפואה כפרקטיקה השתנתה על ידי הטכנולוגיה וכעת מסתמכת עליה לחלוטין על כל היבטיה, כמו פיתוח תרופות, אבחון רפואי והגדלה עם גפיים תותבות. זה היה המקור לפיתוחים טכנולוגיים חדשים, כמו סורקי MRI, שבהם רופאים משתפים פעולה עם מדענים כדי ליצור מכשירים בלתי נתפסים בעבר.

הרפואה מרגישה שכן אמור להיות עתידני: מדע בדיוני מפציץ אותנו עם עתיד לבן ונוצץ של רפואה מונעת טכנולוגיה, שבו לעולם לא נצטרך להרגיש את ידיו הקרות של רופא על הבטן, וכנראה שאפילו רופאי השיניים הניחו את התרגילים שלהם. אז זה נראה טבעי לחלוטין שהטכנולוגיה העדכנית והטובה ביותר של האנושות, בינה מלאכותית (AI), תהיה מוטמעת בשירותי הבריאות.

כמה קשה זה יכול להיות? אפשר לסלוח לאלו מאיתנו שניסו ליצור אינטראקציה עם שירות רופא משפחה בזמן הנעילה על כך שחשבו שהטכנולוגיה היחידה הדרושה כדי להשיג את רוב הדרך תהיה הקלטה של קו טלפון עמוס לסירוגין עם פקידת קבלה מעט מרופטת שמציעה הבטחות מעורפלות לגבי פגישות. זמין בעוד חודשיים. (אני מתגרה קצת ברופאי משפחה בפוסט הזה בבלוג, שחשבתי שהוא בטוח מכיוון שלא סביר שאפגש עם אחד מהם באופן אישי.) אז, בכל שירותי הבריאות המודרניים, אין ספק שיש מקום עצום ל-AI לעזור? אנשים מסכימים, וכמה מהמוחות המבריקים בעולם יחד עם כמה מהכיסים העמוקים בעולם החלו להגשים את זה.

הייתה הצלחה. לדוגמה, הדמיה רפואית נעזר בהצלחה למידת מכונה טכניקות, עיבוד רשומות רפואיות יכול להשתפר, ובינה מלאכותית יכולה אפילו להצביע על הדרך להבנה חדשה של בריאות - למשל, זה יכול בצורה מדויקת לחזות אם מטופל עומד למות, למרות שאנחנו לא יודעים איך. עם זאת, זה לא היה בהפלגה פשוטה. כאשר התבקשו להתחרות ישירות מול בני אדם במצבים חדשים בינה מלאכותית הייתה כישלון; לדוגמה, במהלך COVID, מודלים של AI לא לעזור באבחון או בניתוח למרות ההשקעה הרבה, והשינוי של הטיפול הרפואי בקו הקדמי עם בינה מלאכותית ראה כמה כישלונות רציניים.

השאיפות סוכלו

ניתן לתאר את הבעיות הספציפיות שהזירה הרפואית מספקת על ידי חקירת אחת ההצלחות הגדולות ביותר של AI, והמקור להרבה מהחרדה שלנו לגבי העליונות הפוטנציאלית שלה: זירת המשחקים.

יבמ ®Deep Blue דיפ בלו ניצח את השחמטאי הטוב בעולם, גארי קספרוב, במשחק בודד ב-1996, ובטורניר ב-1997 – השיא של כ-20 שנות מאמצים בפיתוח AI שחמט. לאחר מכן פיתחה IBM DeepQA אדריכלות עבור עיבוד שפה טבעית, שבשנת 2011 וכעת ממותג ווטסון, הצליח לרסק את אלופי האדם הטובים ביותר ב-Jeopardy - מקדמה שנחשבה כזו שיכולה לאפשר לה להתחרות ולנצח בתחומים טכניים אנושיים.

עד 2012, IBM כיוונה לווטסון, שהיה אז שילוב של טכנולוגיות שפיתחו בתעשיית הבריאות, במיוחד האונקולוגיה.

ההצלחה נראתה בלתי נמנעת: הודעות לעיתונות היו חיוביות, פורסמו ביקורות המראות התקדמות לעומת רופאים אנושיים, ו-ווטסון יכול היה לצרוך ניירות רפואיים ביום זה ייקח לרופא אנושי 38 שנים. התערבתי עם חבר רופא שעד 2020 האונקולוג הטוב בעולם יהיה מכונה.

הפסדתי את ההימור שלי, אבל לא באופן מקיף כמו ש-IBM הפסידה את ההימור הגדול שלה על שירותי בריאות. בתי החולים הפיילוטים הראשוניים ביטלו את הניסויים שלהם והוכח לווטסון ממליץ על טיפולי סרטן לא בטוחים. התוכנית הייתה בעצם תריס, כאשר ווטסון יהפוך למותג עבור הניתוחים המסחריים של IBM עם השימוש בעיבוד השפה הטבעית שלה כעוזר אינטליגנטי. כיום, מחיר מניית IBM הוא 22% נמוך יותר מאשר בנקודת הניצחון של Jeopardy.

השתמשתי בווטסון של יבמ כדי להמחיש את הקשיים כאן, אבל יכולתי לבחור בכשלים שירות רופאים וירטואליים, אבחון, או אחרים. אני בטוח שארגונים כאלה יצליחו בטווח הארוך, אבל אנחנו יכולים לחקור מדוע חלק מהכשלים הללו היו סבירים.

כדי להבין משהו מהיקף האתגר אנחנו יכולים להסתכל כל הדרך אחורה למקום שבו התחיל התחום עם הקיברנטיקאים של שנות הארבעים.

סייברנטיקאי אחד, וו. רוס אשבי, הגה כמה חוקים, אחד שלו חוק הגיוון הנדרש. החוק הזה צריך להיות מוכר יותר, מכיוון שהוא מסביר את השורש של כל מיני בעיות בלתי פתירות ב-IT, החל מהסיבה שפרויקטי IT גדולים במגזר הציבורי נוטים לא להצליח, ועד למה מתודולוגיות IT כמו PRINCE II לרוב לא עובדות ועד למה אנחנו צריכים להיות מודאגים מאוד מהיכולות שלנו לשלוט בבינה מלאכותית סופר אינטליגנטית. החוק קובע ש"רק מגוון יכול לשלוט במגוון". כלומר, אם יש לך מערכת ואתה מנסה לשלוט בה עם מערכת אחרת, מערכת הבקרה חייבת להיות בעלת מורכבות לפחות כמו מערכת היעד; אחרת, הוא לא יוכל להתמודד עם כל התפוקות שלו, ותהיה בריחה.

במשחק כמו שחמט, כל המידע הדרוש לחישוב התוצאה האופטימלית כלול על הלוח - שחמט קשה, אבל המגוון אינו גדול. אבל בעולם של רופאים בחזית, יש מגוון מדהים, ואתה צריך מורכבות מדהימה כדי לספק את התפוקות הנכונות. זה מהווה אתגר עצום עבור בינה מלאכותית: המטופלים בעולם האמיתי יאמנו מקרי קצה חומריים, אבל הבינה המלאכותית תצטרך לפתור אותם ביעילות במכה אחת. אנחנו מגלים שהם לא יכולים, והבריחה היא בלתי נמנעת, כמו ה-AI הרפואי שהסכים א המטופלת צריכה להתאבד, אחד שפותר בעיות אבל היה אולי גזעני, או אחד שהיה בהחלט גזעני. האם יום עבודה של חובש עתידי עשוי להיות כרוך בהפעלת הניתוח, ניהול ניהול ובדיקה אם לעוזרת הבינה המלאכותית הייתה תקרית גזענית?

יש בעיה נוספת באימוץ הבינה המלאכותית לבריאות שכנראה יש לה שם טכני, אבל אני אכנה אותה "בעיית הקטל של סבתא בתחנת אוטובוס". אם מישהו יתנגש במכונית שלו בתחנת אוטובוס ויהרוג שלוש סבתות אהובות, אז זה יהיה סיפור גדול בחדשות המקומיות. אם מכונית אוטונומית הייתה עושה את אותו הדבר, זה יהיה סיפור חדשותי עולמי, כנראה שיוביל לתביעות ולחקיקה. הנקודה היא שאנחנו כרגע הרבה סובלניים יותר כלפי תקלות אנושית מאשר אנו כלפי תקלות מכונות, והרף לתוצאות טכנולוגיות אוטומטיות גבוה יותר מאשר לבני אדם. זה קצת רציונלי, מכיוון שאדם בודד יכול לגרום נזק רב, אבל הבינה המלאכותית תתרחב, וכך ישוכפלו טעויות.

בסופו של דבר, המחסומים הללו הופכים את זה למאתגר ביותר להכניס AI לטיפול בקו הקדמי כדי להחליף בני אדם. אבל זה לא בהכרח משנה, שכן בינה מלאכותית של שירותי בריאות עדיין יכולה לספק יתרונות טרנספורמטיביים עצומים.