هوش مصنوعی مراقبت های بهداشتی: شکست جاه طلبی

بازنشر افلاطون

دنبال: 0

تعداد کمی از رشته ها به اندازه پزشکی با توسعه فناوری همسو هستند. منصفانه است که بگوییم پزشکی به عنوان یک عمل توسط فناوری دگرگون شده است و اکنون کاملاً به آن در تمام جنبه‌های آن متکی است، مانند توسعه دارو، تشخیص پزشکی، و تقویت با اندام مصنوعی. این منبع پیشرفت‌های فناوری جدید، مانند اسکنرهای MRI بوده است، که در آن پزشکان با دانشمندان برای ایجاد دستگاه‌هایی که قبلا غیرقابل تصور بودند، همکاری می‌کنند.

پزشکی احساس می کند که هست مفروض آینده نگر بودن: علمی تخیلی ما را با آینده درخشانی از پزشکی مبتنی بر فناوری بمباران می کند که در آن هرگز نیازی به احساس دست های سرد یک پزشک بر روی شکم خود نخواهیم داشت و احتمالاً حتی دندانپزشکان نیز دریل های خود را کنار گذاشته اند. بنابراین کاملاً طبیعی به نظر می رسد که آخرین و بزرگترین فناوری بشر، هوش مصنوعی (AI) باید در مراقبت های بهداشتی تعبیه شود.

چقدر می تواند سخت باشد؟ کسانی از ما که سعی در تعامل با یک سرویس پزشک عمومی در قرنطینه داشتند، می‌توان آن‌ها را ببخشید که فکر می‌کردیم تنها فناوری مورد نیاز برای انجام بیشتر راه، ضبط یک خط تلفن شلوغ است که متناوب با یک پذیرش‌دار کمی فرسوده که وعده‌های مبهم درباره قرار ملاقات‌ها ارائه می‌دهد. در یکی دو ماه در دسترس است. (من در این پست وبلاگ کمی پزشکان عمومی را اذیت می کنم، که فکر کردم بی خطر است زیرا بعید است که شخصاً با پزشکان عمومی ملاقات کنم.) بنابراین، در سراسر مراقبت های بهداشتی مدرن، مطمئناً زمینه زیادی برای کمک هوش مصنوعی وجود دارد؟ مردم موافق هستند، و برخی از باهوش ترین ذهن های جهان به همراه برخی از عمیق ترین جیب های جهان در صدد تحقق این امر هستند.

موفقیتی حاصل شده است. مثلا، تصویربرداری پزشکی با موفقیت کمک شده است فراگیری ماشین تکنیک ها، پردازش پرونده پزشکی قابل بهبود استو هوش مصنوعی حتی می‌تواند راه را برای درک جدیدی از سلامت نشان دهد - برای مثال، می‌تواند با دقت پیش بینی کنید که آیا یک بیمار در حال مرگ است، اگرچه ما نمی دانیم چگونه. با این حال، دریانوردی ساده نبوده است. وقتی از او خواسته شد تا در موقعیت‌های جدید مستقیماً با انسان‌ها رقابت کند، هوش مصنوعی شکست خورده است. برای مثال، در طول کووید، مدل‌های هوش مصنوعی این کار را نکردند کمک به تشخیص یا تجزیه و تحلیل علیرغم سرمایه‌گذاری‌های زیاد، و تحول مراقبت‌های پزشکی خط مقدم با هوش مصنوعی با شکست‌های جدی مواجه شده است.

جاه طلبی ها خنثی شد

مشکلات خاصی که عرصه پزشکی فراهم می کند را می توان با بررسی یکی از بزرگترین موفقیت های هوش مصنوعی و منبع بسیاری از اضطراب ما در مورد برتری بالقوه آن ترسیم کرد: عرصه بازی ها.

آی بی ام آبی عمیق بهترین شطرنج باز جهان، گری کاسپاروف را در یک بازی در سال 1996 و در یک تورنمنت در سال 1997 شکست داد - اوج حدود 20 سال تلاش در توسعه هوش مصنوعی شطرنج. IBM سپس توسعه داد DeepQA معماری برای پردازش زبان طبیعی، که در سال 2011 و اکنون با برند Watson توانسته است بهترین قهرمانان انسانی را درهم بشکنید در Jeopardy - پیشرفتی که تصور می‌شد می‌تواند به آن اجازه رقابت و پیروزی در زمینه‌های فنی انسانی را بدهد.

تا سال 2012، آی‌بی‌ام واتسون را هدف قرار داد، که در آن زمان ترکیبی از فناوری‌هایی بود که آنها در صنعت مراقبت‌های بهداشتی، به‌ویژه سرطان‌شناسی توسعه داده بودند.

موفقیت اجتناب ناپذیر به نظر می رسید: انتشارات مطبوعاتی مثبت بودند، بررسی هایی که نشان دهنده پیشرفت در مقایسه با پزشکان انسانی بود منتشر شد، و واتسون می توانست مصرف مقالات پزشکی در یک روز که یک دکتر انسان 38 سال طول می کشد. من با یکی از دوستان دکتر شرط بندی کردم که تا سال 2020 بهترین انکولوژیست جهان یک دستگاه خواهد بود.

من شرطم را باختم، اما نه آنقدر که IBM شرط بزرگ خود را در زمینه مراقبت های بهداشتی از دست داد. بیمارستان‌های آزمایشی اولیه آزمایشات خود را لغو کردند و واتسون نشان داده شد درمان های ناامن سرطان را توصیه کنید. برنامه اساسا بود شفافواتسون با استفاده از پردازش زبان طبیعی آن به عنوان دستیار هوشمند، به برندی برای تجزیه و تحلیل تجاری IBM تبدیل شد. امروز قیمت سهام آی بی ام است 22٪ پایین است از نقطه پیروزی خطر.

من از واتسون آی‌بی‌ام برای نشان دادن مشکلات اینجا استفاده کرده‌ام، اما می‌توانستم شکست‌ها را با خدمات پزشک عمومی مجازی, امکانات عیب شناسی, یا دیگران. من مطمئن هستم که سازمان هایی مانند این در دراز مدت موفق خواهند شد، اما می توانیم علت احتمالی برخی از این شکست ها را بررسی کنیم.

برای درک چیزی از مقیاس چالش، می‌توانیم به جایی برگردیم که این حوزه با متخصصان سایبرنتیک دهه 1940 شروع شد.

یک متخصص سایبرنتیک، دبلیو راس اشبی، چندین قانون را تصور کرد که یکی از آنها بود قانون تنوع لازم. این قانون باید بهتر شناخته شود، زیرا ریشه انواع مشکلات حل نشدنی در IT را توضیح می دهد، از اینکه چرا پروژه های بزرگ فناوری اطلاعات بخش دولتی به خوبی پیش نمی روند، چرا روش های فناوری اطلاعات مانند PRINCE II عمدتاً کار نمی کنند، و چرا. ما باید در مورد توانایی های خود برای کنترل هوش مصنوعی فوق هوشمند بسیار نگران باشیم. قانون می گوید که «تنها تنوع می تواند تنوع را کنترل کند». یعنی اگر سیستمی دارید و می‌خواهید آن را با سیستم دیگری کنترل کنید، سیستم کنترل باید حداقل به اندازه سیستم هدف پیچیدگی داشته باشد. در غیر این صورت، نمی تواند با تمام خروجی های خود کنار بیاید و فراری وجود خواهد داشت.

در یک بازی مانند شطرنج، تمام اطلاعات مورد نیاز برای محاسبه نتیجه بهینه روی تخته گنجانده شده است - شطرنج سخت است، اما تنوع آن زیاد نیست. اما در دنیای پزشکان خط مقدم، تنوع باورنکردنی وجود دارد و برای ارائه خروجی های مناسب به پیچیدگی باورنکردنی نیاز دارید. این یک چالش بزرگ برای هوش مصنوعی است: بیماران دنیای واقعی موارد لبه مواد را آموزش خواهند داد، اما هوش مصنوعی باید آنها را به طور موثر در یک عکس حل کند. ما متوجه شدیم که آنها نمی توانند، و فرار اجتناب ناپذیر است، مانند هوش مصنوعی پزشکی که با a بیمار باید خود را بکشد، یکی که مشکلات را حل می کرد اما بود شاید نژادپرستانه یا یکی که بود قطعا نژادپرستانه. آیا روز کاری یک پزشک آینده می تواند شامل اجرای جراحی، انجام سرپرست و بررسی اینکه آیا دستیار هوش مصنوعی یک حادثه نژادپرستانه داشته است یا خیر؟

مشکل دیگری در پذیرش هوش مصنوعی در مراقبت های بهداشتی وجود دارد که احتمالاً نام فنی دارد، اما من آن را «مشکل کشتار مادربزرگ ایستگاه اتوبوس» می نامم. اگر کسی با ماشین خود به ایستگاه اتوبوس برخورد کند و سه مادربزرگ محبوبش را بکشد، این یک داستان بزرگ در اخبار محلی خواهد بود. اگر یک خودروی خودمختار همین کار را می کرد، یک خبر جهانی بود که احتمالاً منجر به شکایت و قانون می شد. نکته این است که ما در حال حاضر هستیم بسیار نسبت به خطاپذیری انسان بیشتر از ما نسبت به خطاپذیری ماشین تحمل می کنیم، و بنابراین، نوار برای نتایج فناوری خودکار بالاتر از انسان است. این تا حدودی منطقی است، زیرا یک انسان تنها می تواند آسیب های زیادی وارد کند، اما هوش مصنوعی مقیاس خواهد شد و بنابراین اشتباهات تکرار می شوند.

در نهایت، این موانع، معرفی هوش مصنوعی در مراقبت های خط مقدم برای جایگزینی انسان ها را بسیار چالش برانگیز می کند. اما این لزوما مهم نیست، زیرا هوش مصنوعی مراقبت های بهداشتی هنوز هم می تواند مزایای تحول عظیمی را ارائه دهد.