건강 관리 AI: 야망의 실패

플라톤에 의해 재발행

팔로워 : 0

의학만큼 기술 발전과 일치하는 분야는 거의 없습니다. 실천으로서의 의학은 기술에 의해 변형되었으며 이제 약물 개발, 의료 진단 및 인공 팔다리를 사용한 증강과 같은 모든 측면에서 기술에 완전히 의존하고 있다고 말하는 것이 타당합니다. 의사가 과학자와 협력하여 이전에는 상상할 수 없었던 장치를 만드는 MRI 스캐너와 같은 신기술 개발의 원천이 되었습니다.

의학은 그런 느낌이야 가정 미래지향적인 것: 과학 소설 복부에 의사의 차가운 손을 느낄 필요가 없으며 아마도 치과 의사조차도 드릴을 내려 놓을 필요가 없을 기술 주도 의학의 빛나는 하얀 미래로 우리를 폭격합니다. 따라서 인류의 최신 기술인 인공 지능(AI)이 건강 관리에 내장되어야 하는 것은 지극히 당연해 보입니다.

얼마나 힘들 수 있습니까? 폐쇄된 상태에서 GP 서비스와 상호 작용을 시도한 우리는 대부분의 길을 가는 데 필요한 유일한 기술이 약속에 대한 막연한 약속을 제공하는 약간 닳은 접수원과 번갈아 가며 바쁜 전화선을 녹음하는 것이라고 생각하는 것을 용서받을 수 있습니다. 몇 달 안에 가능합니다. (저는 이 블로그 게시물에서 GP를 약간 놀리고 있습니다. GP는 직접 만날 가능성이 낮기 때문에 안전하다고 생각했습니다.) 그렇다면 현대 의료 전반에 걸쳐 AI가 도울 수 있는 범위는 확실히 넓습니까? 사람들은 동의하고 세계에서 가장 명석한 사람들과 세계에서 가장 돈이 많은 사람들이 이것을 실현하기 시작했습니다.

성공했습니다. 예를 들어, 의료 이미징 성공적으로 지원되었습니다 기계 학습 기술, 의료 기록 처리 개선 될 수있다, AI는 건강에 대한 새로운 이해의 길을 가리킬 수도 있습니다. 환자가 죽을지 예측, 우리는 방법을 모르지만. 그러나 그것은 평범한 항해가 아니 었습니다. 참신한 상황에서 인간과 직접 경쟁하라는 요청을 받았을 때 AI는 실패했습니다. 예를 들어 COVID 동안 AI 모델은 진단 또는 분석에 도움 많은 투자에도 불구하고 AI를 통한 일선 의료의 변화는 심각한 좌절을 겪었습니다.

좌절된 야망

의료 분야가 제공하는 특정 문제는 AI의 가장 큰 성공 중 하나이자 잠재적 우월성에 대한 우리의 불안의 원인인 게임 분야를 조사하여 차트로 작성할 수 있습니다.

IBM 딥 블루 1996년 단일 게임과 1997년 토너먼트에서 세계 최고의 체스 선수인 Garry Kasparov를 이겼습니다. 이는 약 20년 간의 체스 AI 개발 노력의 정점입니다. 그 후 IBM은 DeepQA 건축 자연어 처리, 2011년 현재 Watson이라는 브랜드로 최고의 인간 챔피언을 무찌르세요 at Jeopardy – 인간 기술 분야에서 경쟁하고 승리할 수 있는 것으로 생각되는 진보.

2012년까지 IBM은 Watson을 목표로 삼았습니다. 당시 IBM은 의료 산업, 특히 종양학에서 개발한 기술의 조합이었습니다.

성공은 불가피해 보였습니다. 보도 자료는 긍정적이었고 인간 의사에 비해 진행 상황을 보여주는 리뷰가 게시되었으며 Watson은 하루에 의료 논문을 소비 인간 의사라면 38년이 걸립니다. 나는 의사 친구와 2020년이면 세계 최고의 종양 전문의는 기계가 될 것이라고 내기를 했다.

나는 내 내기를 잃었지만 IBM이 의료 서비스에 대한 큰 내기를 잃은 것만큼 종합적으로는 아닙니다. 초기 파일럿 병원은 실험을 취소했고 Watson은 안전하지 않은 암 치료를 권장합니다. 프로그램은 본질적으로 폐쇄 된, Watson은 자연어 처리를 지능형 비서로 사용하여 IBM의 상업적 분석 브랜드가 되었습니다. 현재 IBM의 주가는 22 % 낮음 Jeopardy 승리 시점보다.

여기서 어려움을 설명하기 위해 IBM의 Watson을 사용했지만 가상 GP 서비스, 진단, 또는 다른 사람. 이와 같은 조직이 장기적으로 성공할 것이라고 확신하지만 이러한 실패 중 일부가 발생했을 가능성이 있는 이유를 살펴볼 수 있습니다.

도전의 규모를 이해하기 위해 우리는 1940년대 인공두뇌학자와 함께 이 분야가 시작된 곳으로 거슬러 올라갈 수 있습니다.

한 사이버네틱스 학자, W. 로스 애쉬비, 몇 가지 법칙을 고안했는데 그중 하나는 그의 것입니다. 필수 다양성의 법칙. 이 법칙은 대규모 공공 부문 IT 프로젝트가 잘 진행되지 않는 이유에서 PRINCE II와 같은 IT 방법론이 대부분 작동하지 않는 이유, 우리는 초지능 AI를 제어할 수 있는 우리의 능력에 대해 매우 걱정해야 합니다. 법은 "다양성만이 다양성을 통제할 수 있다"고 명시합니다. 즉, 시스템이 있고 다른 시스템으로 제어하려는 경우 제어 시스템은 적어도 대상 시스템만큼 복잡해야 합니다. 그렇지 않으면 모든 출력에 대처할 수 없으며 탈출구가 있습니다.

체스와 같은 게임에서는 최적의 결과를 계산하는 데 필요한 모든 정보가 보드에 포함되어 있습니다. 체스는 어렵지만 다양성은 크지 않습니다. 그러나 최전선 의사의 세계에는 믿을 수 없을 정도로 다양하며 올바른 결과를 제공하려면 엄청난 복잡성이 필요합니다. 이것은 AI에게 엄청난 도전을 제시합니다. 실제 환자는 물질적인 엣지 케이스를 교육하지만 AI는 이를 한 번에 효과적으로 해결해야 합니다. 우리는 그들이 할 수 없고 탈출이 불가피하다는 것을 알게 되었습니다. 환자는 자살해야 한다, 문제를 해결하고 있었지만 어쩌면 인종 차별 주의자, 또는 하나 확실히 인종 차별 주의자. 미래 의료진의 근무일에 수술을 진행하고, 관리를 하고, AI 비서가 인종차별적 사건이 있었는지 확인하는 일이 포함될 수 있을까요?

인공지능을 의료에 도입하는 데에는 기술적인 이름이 있을 수 있는 또 다른 문제가 있지만 "버스 정류장 할머니 대학살 문제"라고 하겠습니다. 누군가 자신의 차를 버스 정류장에 들이박고 사랑하는 할머니 XNUMX명을 죽인다면 지역 뉴스에서 큰 화제가 될 것입니다. 자율주행차가 같은 일을 한다면 전 세계적인 뉴스거리가 될 것이고 아마도 소송과 입법으로 이어질 것입니다. 요점은 우리가 현재 많은 우리는 기계의 오류보다 인간의 오류에 더 관대하며, 따라서 자동화된 기술 결과에 대한 기준은 인간보다 높습니다. 한 사람이 해를 끼칠 수 있는 정도가 제한적이지만 AI가 확장되면 실수가 반복되기 때문에 이것은 다소 합리적입니다.

궁극적으로 이러한 장벽으로 인해 인간을 대체하기 위해 AI를 일선 치료에 도입하는 것이 매우 어렵습니다. 그러나 의료 AI가 여전히 엄청난 혁신적 이점을 제공할 수 있기 때문에 그것이 반드시 중요한 것은 아닙니다.