Health Care AI: A Failure Of Ambition

प्लेटो द्वारा पुनर्प्रकाशित

अनुयायियों: 0

कुछ क्षेत्र दवा के रूप में तकनीकी विकास के अनुरूप हैं। यह कहना उचित है कि एक अभ्यास के रूप में चिकित्सा प्रौद्योगिकी द्वारा बदल दी गई है और अब पूरी तरह से इसके सभी पहलुओं पर निर्भर करती है, जैसे दवा विकास, चिकित्सा निदान और कृत्रिम अंगों के साथ वृद्धि। यह नई प्रौद्योगिकी के विकास का स्रोत रहा है, जैसे एमआरआई स्कैनर, जहां डॉक्टर वैज्ञानिकों के साथ मिलकर पहले अकल्पनीय उपकरण बनाते हैं।

मेडिसिन ऐसा लगता है माना भविष्यवादी होना: कल्पित विज्ञान हमें प्रौद्योगिकी-संचालित दवा के एक चमकदार सफेद भविष्य के साथ बमबारी करता है जहां हमें कभी भी अपने पेट पर डॉक्टर के ठंडे हाथों को महसूस करने की आवश्यकता नहीं होगी, और शायद दंत चिकित्सकों ने भी अपनी कवायद शुरू कर दी है। तो यह पूरी तरह से स्वाभाविक लगता है कि मानव जाति की नवीनतम और सबसे बड़ी तकनीक, कृत्रिम बुद्धिमत्ता (एआई) को स्वास्थ्य देखभाल में शामिल किया जाना चाहिए।

यह कितना सख्त हो सकता है? हममें से जिन लोगों ने लॉकडाउन में एक जीपी सेवा के साथ बातचीत करने की कोशिश की, उन्हें यह सोचने के लिए माफ किया जा सकता है कि अधिकांश तरीकों को प्राप्त करने के लिए आवश्यक एकमात्र तकनीक एक व्यस्त फोन लाइन की रिकॉर्डिंग होगी, जो कि नियुक्तियों के बारे में अस्पष्ट वादों की पेशकश करने वाले थोड़े अस्त-व्यस्त रिसेप्शनिस्ट के साथ वैकल्पिक होगी। कुछ महीनों में उपलब्ध है। (मैं इस ब्लॉग पोस्ट में जीपी को थोड़ा चिढ़ा रहा हूं, जो मुझे लगा कि सुरक्षित है क्योंकि मैं किसी व्यक्ति से मिलने की संभावना नहीं रखता हूं।) तो, आधुनिक स्वास्थ्य देखभाल में, निश्चित रूप से एआई की मदद करने की बहुत बड़ी गुंजाइश है? लोग सहमत हैं, और दुनिया के कुछ सबसे प्रतिभाशाली दिमागों ने दुनिया की कुछ गहरी जेबों के साथ इसे सच करने के लिए निर्धारित किया है।

एक सफलता मिली है। उदाहरण के लिए, चिकित्सीय इमेजिंग का सफलतापूर्वक सहयोग किया है यंत्र अधिगम तकनीक, मेडिकल रिकॉर्ड प्रसंस्करण सुधारा जा सकता है, और एआई स्वास्थ्य की एक नई समझ का रास्ता भी बता सकता है - उदाहरण के लिए, यह सटीक रूप से कर सकता है भविष्यवाणी करें कि क्या कोई मरीज मरने वाला हैहालांकि हम नहीं जानते कि कैसे। हालांकि, यह सादा नौकायन नहीं रहा है। जब नई स्थितियों में मनुष्यों के खिलाफ सीधे प्रतिस्पर्धा करने के लिए कहा गया तो एआई विफल रहा; उदाहरण के लिए, COVID के दौरान, AI मॉडल ने नहीं किया निदान या विश्लेषण में मदद काफी निवेश के बावजूद, और एआई के साथ फ्रंट-लाइन चिकित्सा देखभाल के परिवर्तन में कुछ गंभीर झटके देखे गए हैं।

महत्वाकांक्षाओं को विफल कर दिया

चिकित्सा क्षेत्र द्वारा प्रदान की जाने वाली विशिष्ट समस्याएं एआई की सबसे बड़ी सफलताओं में से एक की जांच करके और इसकी संभावित श्रेष्ठता के बारे में हमारे बहुत से गुस्से का स्रोत: खेलों का क्षेत्र।

आईबीएम की गहरा नीला विश्व के सर्वश्रेष्ठ शतरंज खिलाड़ी गैरी कास्परोव को 1996 में एक ही खेल में और 1997 में एक टूर्नामेंट में हराया - शतरंज एआई के विकास में लगभग 20 वर्षों के प्रयास की परिणति। आईबीएम तब विकसित हुआ डीपक्यूए के लिए वास्तुकला प्राकृतिक भाषा प्रसंस्करण, जो 2011 में और अब ब्रांडेड वॉटसन करने में सक्षम था सर्वश्रेष्ठ मानव चैंपियन को कुचलें ख़तरे में - एक अग्रिम जिसके बारे में सोचा गया था कि यह मानव तकनीकी क्षेत्रों में प्रतिस्पर्धा करने और जीतने की अनुमति दे सकता है।

2012 तक, आईबीएम ने वाटसन को लक्षित किया था, जो तब तक स्वास्थ्य देखभाल उद्योग, विशेष रूप से ऑन्कोलॉजी में विकसित प्रौद्योगिकियों का एक संयोजन था।

सफलता अपरिहार्य लग रही थी: प्रेस विज्ञप्तियां सकारात्मक थीं, प्रगति बनाम मानव डॉक्टरों को दर्शाने वाली समीक्षाएं प्रकाशित की गईं, और वाटसन कर सकते थे एक दिन में चिकित्सा कागजात का उपभोग करें इसमें एक मानव चिकित्सक को 38 साल लगेंगे। मैंने एक डॉक्टर मित्र से शर्त लगाई कि 2020 तक दुनिया की सबसे अच्छी ऑन्कोलॉजिस्ट एक मशीन होगी।

मैं अपनी बाजी हार गया, लेकिन व्यापक रूप से नहीं, क्योंकि आईबीएम स्वास्थ्य देखभाल पर अपना बड़ा दांव हार गया। शुरुआती प्रायोगिक अस्पतालों ने अपने परीक्षणों को रद्द कर दिया और वाटसन को दिखाया गया असुरक्षित कैंसर उपचार की सलाह देते हैं. कार्यक्रम अनिवार्य रूप से था बंद, वाटसन ने एक बुद्धिमान सहायक के रूप में अपनी प्राकृतिक भाषा प्रसंस्करण के उपयोग के साथ आईबीएम के व्यावसायिक विश्लेषण के लिए ब्रांड बनने के लिए प्रेरित किया। आज आईबीएम के शेयर की कीमत है 22% कम खतरे की जीत के बिंदु की तुलना में।

मैंने आईबीएम के वाटसन का उपयोग यहां की कठिनाइयों को समझाने के लिए किया है, लेकिन मैं असफलताओं को चुन सकता था आभासी जीपी सेवा, निदान, या अन्य. मुझे यकीन है कि इस तरह के संगठन लंबे समय में सफल होंगे, लेकिन हम पता लगा सकते हैं कि इनमें से कुछ विफलताओं की संभावना क्यों थी।

चुनौती के पैमाने के बारे में कुछ समझने के लिए हम 1940 के दशक के साइबरनेटिकिस्टों के साथ क्षेत्र की शुरुआत के सभी तरीकों को देख सकते हैं।

एक साइबरनेटिस्ट, डब्ल्यू रॉस एशबी, कई कानूनों की कल्पना की, जिनमें से एक उसका है आवश्यक किस्म का कानून. इस कानून को बेहतर ढंग से जाना जाना चाहिए, क्योंकि यह आईटी में सभी प्रकार की जटिल समस्याओं की जड़ की व्याख्या करता है, बड़े सार्वजनिक क्षेत्र की आईटी परियोजनाएं अच्छी तरह से क्यों नहीं चल पाती हैं, क्यों प्रिंस II जैसी आईटी कार्यप्रणालियां ज्यादातर काम नहीं करती हैं, क्यों सुपर-इंटेलिजेंट एआई को नियंत्रित करने की हमारी क्षमताओं के बारे में हमें बहुत चिंतित होना चाहिए। कानून कहता है कि "केवल विविधता ही विविधता को नियंत्रित कर सकती है।" अर्थात्, यदि आपके पास एक प्रणाली है और आप इसे किसी अन्य प्रणाली से नियंत्रित करने का प्रयास कर रहे हैं, तो नियंत्रण प्रणाली में कम से कम लक्ष्य प्रणाली जितनी जटिलता होनी चाहिए; अन्यथा, यह अपने सभी परिणामों का सामना करने में सक्षम नहीं होगा, और बच निकलेगा।

शतरंज जैसे खेल में, इष्टतम परिणाम की गणना करने के लिए आवश्यक सभी जानकारी बोर्ड पर शामिल होती है - शतरंज कठिन है, लेकिन विविधता महान नहीं है। लेकिन फ्रंट-लाइन डॉक्टरिंग की दुनिया में अविश्वसनीय विविधता है, और आपको सही आउटपुट देने के लिए अविश्वसनीय जटिलता की आवश्यकता है। यह एआई के लिए एक बहुत बड़ी चुनौती पेश करता है: वास्तविक दुनिया के मरीज़ भौतिक बढ़त के मामलों का प्रशिक्षण लेंगे, लेकिन एआई को उन्हें एक शॉट में प्रभावी ढंग से हल करने की आवश्यकता होगी। हम पाते हैं कि वे नहीं कर सकते हैं, और बचना अपरिहार्य है, जैसे कि मेडिकल एआई जो सहमत है रोगी को आत्मदाह कर लेना चाहिए, जो समस्याओं को हल कर रहा था लेकिन था शायद नस्लवादी, या एक जो था निश्चित रूप से नस्लवादी. क्या भविष्य की दवा के कार्यदिवस में सर्जरी चलाना, एडमिनिस्ट्रेशन करना और यह जाँचना शामिल हो सकता है कि क्या AI असिस्टेंट में नस्लवादी घटना हुई है?

एआई को स्वास्थ्य देखभाल में अपनाने में एक और समस्या है जिसका शायद एक तकनीकी नाम है, लेकिन मैं इसे "बस स्टॉप ग्रैनी नरसंहार समस्या" कहूंगा। अगर कोई अपनी कार को बस स्टॉप से टकरा देता है और तीन प्यारी दादियों को मार देता है, तो यह स्थानीय समाचारों की एक बड़ी कहानी होगी। अगर एक स्वायत्त कार ने ऐसा ही किया, तो यह एक वैश्विक समाचार होगा, जिसके परिणामस्वरूप मुकदमे और कानून होंगे। बात यह है कि हम वर्तमान में हैं बहुत हम मशीन की चूक की तुलना में मानवीय चूक के प्रति अधिक सहिष्णु हैं, और स्वचालित प्रौद्योगिकी परिणामों के लिए बार मनुष्यों की तुलना में अधिक है। यह कुछ हद तक तर्कसंगत है, क्योंकि एक अकेला इंसान केवल इतना नुकसान कर सकता है, लेकिन एआई स्केल करेगा, और इसलिए गलतियों को दोहराया जाएगा।

अंततः, ये बाधाएं मनुष्यों को बदलने के लिए एआई को फ्रंट-लाइन देखभाल में पेश करना बेहद चुनौतीपूर्ण बनाती हैं। लेकिन यह जरूरी नहीं है, क्योंकि स्वास्थ्य देखभाल एआई अभी भी बड़े परिवर्तनकारी लाभ प्रदान कर सकता है।