Health Care AI: A Failure Of Ambition

افلاطون کے ذریعہ دوبارہ شائع کیا گیا۔

فالونگ: 0

کچھ فیلڈز تکنیکی ترقی کے ساتھ اتنے ہی منسلک ہیں جتنی دوا۔ یہ کہنا مناسب ہے کہ طب کو بطور مشق ٹیکنالوجی نے تبدیل کر دیا ہے اور اب اس کے تمام پہلوؤں پر مکمل طور پر انحصار کرتا ہے، جیسے منشیات کی نشوونما، طبی تشخیص، اور مصنوعی اعضاء کے ساتھ اضافہ۔ یہ نئی ٹیکنالوجی کی ترقی کا ذریعہ رہا ہے، جیسے ایم آر آئی سکینرز، جہاں ڈاکٹر سائنسدانوں کے ساتھ مل کر پہلے ناقابل تصور آلات بناتے ہیں۔

دوا ایسا محسوس کرتی ہے۔ سمجھا مستقبل پسند ہونا: سائنس فکشن ٹیکنالوجی سے چلنے والی دوائیوں کے چمکتے سفید مستقبل کے ساتھ ہم پر بمباری کرتا ہے جہاں ہمیں اپنے پیٹ پر ڈاکٹر کے ٹھنڈے ہاتھ محسوس کرنے کی ضرورت نہیں پڑے گی، اور شاید دانتوں کے ڈاکٹروں نے بھی اپنی مشقیں کر رکھی ہیں۔ لہٰذا یہ بالکل فطری معلوم ہوتا ہے کہ بنی نوع انسان کی جدید ترین اور عظیم ترین ٹیکنالوجی، مصنوعی ذہانت (AI) کو صحت کی دیکھ بھال میں شامل کیا جانا چاہیے۔

یہ کتنا مشکل ہو سکتا ہے؟ ہم میں سے وہ لوگ جنہوں نے لاک ڈاؤن میں جی پی سروس کے ساتھ بات چیت کرنے کی کوشش کی یہ سوچ کر معاف کیا جا سکتا ہے کہ زیادہ تر راستہ حاصل کرنے کے لیے صرف ایک ہی ٹیک کی ضرورت ہے جو کہ ایک مصروف فون لائن کی ریکارڈنگ ہو گی جس میں قدرے جھنجھلاہٹ والے ریسپشنسٹ کے ساتھ ملاقاتوں کے بارے میں مبہم وعدے پیش کیے جائیں گے۔ ایک دو مہینوں میں دستیاب ہے۔ (میں اس بلاگ پوسٹ میں GPs کو تھوڑا سا چھیڑ رہا ہوں، جس کے بارے میں میں نے سوچا کہ یہ محفوظ ہے کیونکہ میں ذاتی طور پر کسی سے ملنے کا امکان نہیں رکھتا ہوں۔) تو، جدید صحت کی دیکھ بھال میں، یقیناً AI کی مدد کرنے کی بڑی گنجائش ہے؟ لوگ اس سے اتفاق کرتے ہیں، اور دنیا کے کچھ روشن ترین ذہنوں کے ساتھ مل کر دنیا کی گہری جیبوں میں سے کچھ نے اسے سچ کرنے کے لیے تیار کیا ہے۔

ایک کامیابی ملی ہے۔ مثال کے طور پر، طبی عکس زنی کامیابی کے ساتھ مدد کی گئی ہے۔ مشین لرننگ تکنیک، میڈیکل ریکارڈ پروسیسنگ بہتر کیا جا سکتا ہے، اور AI صحت کے بارے میں ایک نئی تفہیم کی طرف بھی اشارہ کر سکتا ہے – مثال کے طور پر، یہ درست طریقے سے کر سکتا ہے۔ پیش گوئی کریں کہ کیا مریض مرنے والا ہے۔اگرچہ ہم نہیں جانتے کہ کیسے۔ تاہم، یہ سادہ بحری جہاز نہیں رہا ہے۔ جب نئے حالات میں انسانوں کے خلاف براہ راست مقابلہ کرنے کے لیے کہا گیا تو AI ناکام رہا ہے۔ مثال کے طور پر، COVID کے دوران، AI ماڈلز نے ایسا نہیں کیا۔ تشخیص یا تجزیہ میں مدد کریں۔ بہت زیادہ سرمایہ کاری کے باوجود، اور AI کے ساتھ فرنٹ لائن میڈیکل کیئر کی تبدیلی نے کچھ سنگین دھچکے دیکھے ہیں۔

عزائم ناکام ہو گئے۔

طبی میدان جو مخصوص مسائل فراہم کرتا ہے وہ AI کی سب سے بڑی کامیابیوں میں سے ایک کی چھان بین کر کے چارٹ کیا جا سکتا ہے، اور اس کی ممکنہ برتری کے بارے میں ہمارے زیادہ تر غصے کا ماخذ: کھیلوں کا میدان۔

آئی بی ایم کی ڈیپ بلیو دنیا کے بہترین شطرنج کھلاڑی گیری کاسپروف کو 1996 میں ایک ہی کھیل میں اور 1997 میں ایک ٹورنامنٹ میں شکست دی - شطرنج AI تیار کرنے میں تقریباً 20 سال کی کوششوں کا نتیجہ۔ پھر آئی بی ایم نے ترقی کی۔ ڈیپ کیو اے کے لئے فن تعمیر قدرتی زبان پروسیسنگ، جو 2011 میں اور اب واٹسن کا برانڈ ہے، اس قابل تھا۔ بہترین انسانی چیمپئنز کو کچلنا خطرے میں - ایک پیش قدمی جس کے بارے میں سوچا جاتا تھا کہ وہ اسے انسانی تکنیکی شعبوں میں مقابلہ کرنے اور جیتنے کی اجازت دے سکتا ہے۔

2012 تک، IBM نے واٹسن کو نشانہ بنایا تھا، جو اس وقت تک صحت کی دیکھ بھال کی صنعت میں خاص طور پر آنکولوجی میں تیار کردہ ٹیکنالوجیز کا مجموعہ تھا۔

کامیابی ناگزیر لگ رہی تھی: پریس ریلیز مثبت تھیں، انسانی ڈاکٹروں کے مقابلے میں پیش رفت دکھانے والے جائزے شائع کیے گئے، اور واٹسن ایک دن میں طبی کاغذات کھائیں۔ ایک انسانی ڈاکٹر کو 38 سال لگیں گے۔ میں نے ایک ڈاکٹر دوست سے شرط لگائی کہ 2020 تک دنیا کا بہترین آنکولوجسٹ ایک مشین بن جائے گا۔

میں اپنی شرط ہار گیا، لیکن اتنا جامع نہیں جتنا کہ IBM نے صحت کی دیکھ بھال پر اپنی بڑی شرط کھو دی۔ ابتدائی پائلٹ ہسپتالوں نے اپنے ٹرائلز منسوخ کر دیے اور واٹسن کو دکھایا گیا۔ کینسر کے غیر محفوظ علاج کی تجویز کریں۔. پروگرام بنیادی طور پر تھا۔ شٹرڈکے ساتھ، واٹسن نے ایک ذہین معاون کے طور پر اپنی قدرتی زبان کی پروسیسنگ کے استعمال کے ساتھ IBM کے تجارتی تجزیات کے لیے برانڈ بننے کا محور بنایا۔ آج، IBM کے حصص کی قیمت ہے۔ 22٪ کم خطرے کی فتح کے مقابلے میں.

میں نے یہاں کی مشکلات کو واضح کرنے کے لیے IBM کے واٹسن کا استعمال کیا ہے، لیکن میں ناکامیوں کا انتخاب کر سکتا تھا۔ ورچوئل GPs سروس, تشخیص, یا دوسرے. مجھے یقین ہے کہ اس طرح کی تنظیمیں طویل مدت میں کامیاب ہوں گی، لیکن ہم اس بات کا پتہ لگا سکتے ہیں کہ ان میں سے کچھ ناکامیوں کا امکان کیوں تھا۔

چیلنج کے پیمانے کے بارے میں کچھ سمجھنے کے لیے ہم تمام راستے واپس دیکھ سکتے ہیں جہاں سے 1940 کی دہائی کے سائبر نیٹیسٹس کے ساتھ میدان شروع ہوا تھا۔

ایک سائبر نیٹیسٹ، ڈبلیو راس ایشبی, کئی قوانین کا تصور کیا، ایک اس کا مطلوبہ قسم کا قانون. اس قانون کو بہتر طور پر جانا جانا چاہئے، کیونکہ یہ IT میں ہر طرح کے پیچیدہ مسائل کی جڑ کی وضاحت کرتا ہے، کیوں کہ پبلک سیکٹر کے بڑے آئی ٹی پروجیکٹس ٹھیک نہیں ہوتے، کیوں کہ PRINCE II جیسے آئی ٹی طریقہ کار زیادہ تر کام نہیں کرتے، کیوں ہمیں انتہائی ذہین AI کو کنٹرول کرنے کی اپنی صلاحیتوں کے بارے میں بہت فکر مند ہونا چاہیے۔ قانون کہتا ہے کہ "صرف ورائٹی ہی مختلف قسم کو کنٹرول کر سکتی ہے۔" یعنی، اگر آپ کے پاس کوئی سسٹم ہے اور آپ اسے کسی دوسرے سسٹم سے کنٹرول کرنے کی کوشش کر رہے ہیں، تو کنٹرول سسٹم میں کم از کم ٹارگٹ سسٹم جتنی پیچیدگی ہونی چاہیے۔ دوسری صورت میں، یہ اپنے تمام نتائج سے نمٹنے کے قابل نہیں ہو گا، اور ایک فرار ہو جائے گا.

شطرنج جیسے کھیل میں، زیادہ سے زیادہ نتائج کا حساب لگانے کے لیے درکار تمام معلومات بورڈ پر شامل کی جاتی ہیں - شطرنج مشکل ہے، لیکن مختلف قسمیں اچھی نہیں ہیں۔ لیکن فرنٹ لائن ڈاکٹرنگ کی دنیا میں، ناقابل یقین قسم ہے، اور آپ کو صحیح نتائج کی فراہمی کے لیے ناقابل یقین پیچیدگی کی ضرورت ہے۔ یہ AI کے لیے ایک بہت بڑا چیلنج پیش کرتا ہے: حقیقی دنیا کے مریضوں کو میٹریل ایج کیسز کی تربیت دی جائے گی، لیکن AI کو انہیں ایک ہی شاٹ میں مؤثر طریقے سے حل کرنے کی ضرورت ہوگی۔ ہمیں معلوم ہوتا ہے کہ وہ نہیں کر سکتے، اور فرار ناگزیر ہے، جیسا کہ میڈیکل AI جس نے اتفاق کیا۔ مریض کو خود کو مارنا چاہئے، ایک جو مسائل کو حل کر رہا تھا لیکن تھا۔ شاید نسل پرست، یا ایک تھا یقینی طور پر نسل پرست. کیا مستقبل کے ڈاکٹر کے کام کے دن میں سرجری چلانا، ایڈمن کرنا، اور یہ جانچنا شامل ہو سکتا ہے کہ آیا AI اسسٹنٹ کو نسل پرستی کا واقعہ پیش آیا ہے؟

صحت کی دیکھ بھال میں AI کو اپنانے میں ایک اور مسئلہ ہے جس کا شاید تکنیکی نام ہے، لیکن میں اسے "بس اسٹاپ نانی قتل عام کا مسئلہ" قرار دوں گا۔ اگر کوئی اپنی کار کو بس اسٹاپ سے ٹکرا کر تین پیاری نانی کو مار ڈالتا ہے، تو یہ مقامی خبروں میں ایک بڑی کہانی ہوگی۔ اگر ایک خود مختار کار نے ایسا کیا تو یہ ایک عالمی خبر ہوگی، جس کے نتیجے میں شاید قانونی چارہ جوئی اور قانون سازی ہوگی۔ نقطہ یہ ہے کہ ہم اس وقت ہیں۔ بہت ہم مشین کی غلطی کے مقابلے میں انسانی غلطی کے بارے میں زیادہ روادار ہیں، اور خودکار ٹیکنالوجی کے نتائج کا بار، اس لیے انسانوں کے لیے اس سے زیادہ ہے۔ یہ کسی حد تک عقلی ہے، کیونکہ ایک انسان صرف اتنا ہی نقصان پہنچا سکتا ہے، لیکن AI پیمانہ بنائے گا، اور اس طرح غلطیاں نقل کی جائیں گی۔

بالآخر، یہ رکاوٹیں انسانوں کو تبدیل کرنے کے لیے فرنٹ لائن کیئر میں AI کو متعارف کروانا انتہائی مشکل بنا دیتی ہیں۔ لیکن ضروری نہیں کہ اس سے کوئی فرق نہیں پڑتا، کیونکہ صحت کی دیکھ بھال AI اب بھی بہت بڑے تبدیلی کے فوائد فراہم کر سکتی ہے۔