วิธีรับประกันความปลอดภัยของยานยนต์ไร้คนขับ | นิตยสารควอนต้า

รถยนต์และเครื่องบินไร้คนขับไม่ใช่สิ่งแห่งอนาคตอีกต่อไป ในเมืองซานฟรานซิสโกเพียงเมืองเดียว บริษัทแท็กซี่สองแห่งได้ร่วมกันบันทึกการขับขี่อัตโนมัติเป็นระยะทาง 8 ล้านไมล์จนถึงเดือนสิงหาคม พ.ศ. 2023 และยานพาหนะทางอากาศหรือโดรนไร้คนขับมากกว่า 850,000 คันได้จดทะเบียนในสหรัฐอเมริกา ไม่นับยานพาหนะที่กองทัพเป็นเจ้าของ

แต่มีข้อกังวลที่ถูกต้องเกี่ยวกับความปลอดภัย เช่น ในช่วง 10 เดือนสิ้นสุดในเดือนพฤษภาคม พ.ศ. 2022 การบริหารความปลอดภัยการจราจรบนทางหลวงแห่งชาติ รายงาน เกิดอุบัติเหตุเกือบ 400 ครั้งที่เกี่ยวข้องกับรถยนต์โดยใช้ระบบควบคุมอัตโนมัติบางรูปแบบ มีผู้เสียชีวิต XNUMX รายจากอุบัติเหตุเหล่านี้ และอีก XNUMX รายได้รับบาดเจ็บสาหัส

วิธีปกติในการแก้ไขปัญหานี้ - บางครั้งเรียกว่า "การทดสอบโดยหมดแรง" - เกี่ยวข้องกับการทดสอบระบบเหล่านี้จนกว่าคุณจะพอใจว่าปลอดภัย แต่คุณไม่สามารถแน่ใจได้ว่ากระบวนการนี้จะเปิดเผยข้อบกพร่องที่อาจเกิดขึ้นทั้งหมด “ผู้คนทำการทดสอบจนกว่าพวกเขาจะใช้ทรัพยากรและความอดทนจนหมด” กล่าว สายัณห์มิตรานักวิทยาศาสตร์คอมพิวเตอร์จากมหาวิทยาลัยอิลลินอยส์ เออร์บานา-แชมเปญจน์ อย่างไรก็ตาม การทดสอบเพียงอย่างเดียวไม่สามารถรับประกันได้

มิตราและเพื่อนร่วมงานของเขาสามารถทำได้ ทีมงานของเขาได้จัดการไปแล้ว พิสูจน์ ความปลอดภัย ของความสามารถในการติดตามเลนสำหรับรถยนต์และ ระบบลงจอด สำหรับเครื่องบินอัตโนมัติ ขณะนี้กลยุทธ์ของพวกเขาถูกนำมาใช้เพื่อช่วยโดรนลงจอดบนเรือบรรทุกเครื่องบิน และโบอิ้งวางแผนที่จะทดสอบบนเครื่องบินทดลองในปีนี้ “วิธีการของพวกเขาในการรับประกันความปลอดภัยแบบ end-to-end มีความสำคัญมาก” กล่าว คอรินา ปาซาเรอานูนักวิทยาศาสตร์การวิจัยที่มหาวิทยาลัย Carnegie Mellon และศูนย์วิจัย Ames ของ NASA

งานของพวกเขาเกี่ยวข้องกับการรับประกันผลลัพธ์ของอัลกอริธึมการเรียนรู้ของเครื่องที่ใช้ในการแจ้งยานพาหนะอัตโนมัติ ในระดับสูง ยานพาหนะขับเคลื่อนอัตโนมัติจำนวนมากมีสององค์ประกอบ: ระบบการรับรู้และระบบควบคุม ระบบการรับรู้จะบอกคุณว่ารถของคุณอยู่ห่างจากศูนย์กลางเลนแค่ไหน หรือเครื่องบินกำลังมุ่งหน้าไปในทิศทางใด และมุมของเครื่องบินเทียบกับขอบฟ้าเป็นอย่างไร ระบบทำงานโดยการป้อนข้อมูลดิบจากกล้องและเครื่องมือทางประสาทสัมผัสอื่นๆ ไปยังอัลกอริธึมการเรียนรู้ของเครื่องตามโครงข่ายประสาทเทียม ซึ่งสร้างสภาพแวดล้อมภายนอกยานพาหนะขึ้นมาใหม่

จากนั้นการประเมินเหล่านี้จะถูกส่งไปยังระบบที่แยกจากกัน ซึ่งก็คือชุดควบคุม ซึ่งทำหน้าที่ตัดสินใจว่าจะทำอย่างไร เช่น หากมีสิ่งกีดขวางที่กำลังจะเกิดขึ้น ระบบจะตัดสินใจว่าจะใช้เบรกหรือบังคับทิศทางไปรอบๆ ตาม ลูก้า คาร์โลนรองศาสตราจารย์ที่สถาบันเทคโนโลยีแมสซาชูเซตส์ ในขณะที่โมดูลควบคุมอาศัยเทคโนโลยีที่มีชื่อเสียง “กำลังตัดสินใจโดยพิจารณาจากผลลัพธ์การรับรู้ และไม่มีการรับประกันว่าผลลัพธ์เหล่านั้นจะถูกต้อง”

เพื่อรับประกันความปลอดภัย ทีมงานของ Mitra ทำงานเพื่อให้มั่นใจในความน่าเชื่อถือของระบบการรับรู้ของยานพาหนะ ในตอนแรกพวกเขาสันนิษฐานว่าเป็นไปได้ที่จะรับประกันความปลอดภัยเมื่อมีการสร้างภาพโลกภายนอกที่สมบูรณ์แบบ จากนั้นพวกเขาก็พิจารณาว่าระบบการรับรู้ทำให้เกิดข้อผิดพลาดมากน้อยเพียงใดในการสร้างสภาพแวดล้อมของยานพาหนะขึ้นมาใหม่

กุญแจสำคัญในกลยุทธ์นี้คือการหาปริมาณความไม่แน่นอนที่เกี่ยวข้อง ซึ่งเรียกว่าแถบข้อผิดพลาด หรือ “สิ่งที่ไม่ทราบ” ดังที่ Mitra กล่าวไว้ การคำนวณนั้นมาจากสิ่งที่เขาและทีมเรียกว่าสัญญาการรับรู้ ในทางวิศวกรรมซอฟต์แวร์ สัญญาคือข้อผูกพันว่าสำหรับอินพุตที่กำหนดให้กับโปรแกรมคอมพิวเตอร์ เอาต์พุตจะอยู่ภายในช่วงที่ระบุ การหาช่วงนี้ไม่ใช่เรื่องง่าย เซ็นเซอร์ของรถยนต์มีความแม่นยำเพียงใด? โดรนสามารถทนต่อหมอก ฝน หรือแสงจ้าจากแสงอาทิตย์ได้มากเพียงใด แต่หากคุณสามารถรักษายานพาหนะให้อยู่ในช่วงความไม่แน่นอนที่กำหนดได้ และหากการกำหนดระยะนั้นแม่นยำเพียงพอ ทีมงานของ Mitra ก็พิสูจน์ให้เห็นว่าคุณสามารถรับประกันความปลอดภัยของรถได้

เป็นสถานการณ์ที่คุ้นเคยสำหรับทุกคนที่มีมาตรวัดความเร็วไม่แม่นยำ หากคุณรู้ว่าอุปกรณ์ไม่เคยดับเกิน 5 ไมล์ต่อชั่วโมง คุณยังคงสามารถหลีกเลี่ยงการเร่งความเร็วได้โดยรักษาความเร็วให้ต่ำกว่าขีดจำกัดความเร็ว 5 ไมล์ต่อชั่วโมงเสมอ (ตามที่ระบุโดยมาตรวัดความเร็วที่ไม่น่าเชื่อถือ) สัญญาการรับรู้ให้การรับประกันความปลอดภัยของระบบที่ไม่สมบูรณ์ซึ่งขึ้นอยู่กับการเรียนรู้ของเครื่องเช่นเดียวกัน

“คุณไม่จำเป็นต้องมีการรับรู้ที่สมบูรณ์แบบ” คาร์โลนกล่าว “คุณแค่อยากให้มันดีพอเพื่อไม่ให้ความปลอดภัยตกอยู่ในความเสี่ยง” เขากล่าวว่าการมีส่วนร่วมที่ยิ่งใหญ่ที่สุดของทีมคือการ "แนะนำแนวคิดทั้งหมดเกี่ยวกับสัญญาการรับรู้" และจัดหาวิธีการในการสร้างสัญญาเหล่านั้น พวกเขาทำเช่นนี้โดยอาศัยเทคนิคจากสาขาวิทยาการคอมพิวเตอร์ที่เรียกว่าการตรวจสอบอย่างเป็นทางการ ซึ่งให้วิธีการทางคณิตศาสตร์ในการยืนยันว่าพฤติกรรมของระบบเป็นไปตามข้อกำหนดชุดหนึ่ง

“แม้ว่าเราจะไม่ทราบแน่ชัดว่าโครงข่ายประสาทเทียมทำงานอย่างไร” Mitra กล่าว แต่พวกเขาแสดงให้เห็นว่ายังคงเป็นไปได้ที่จะพิสูจน์เป็นตัวเลขว่าความไม่แน่นอนของเอาต์พุตของโครงข่ายประสาทเทียมนั้นอยู่ภายในขอบเขตที่กำหนด และหากเป็นเช่นนั้น ระบบก็จะปลอดภัย “จากนั้นเราสามารถให้การรับประกันทางสถิติว่า (และระดับใด) โครงข่ายประสาทเทียมที่กำหนดจะเป็นไปตามขอบเขตเหล่านั้นจริง ๆ หรือไม่”

บริษัทด้านการบินและอวกาศ เซียร์รา เนวาดา กำลังทดสอบการรับประกันความปลอดภัยเหล่านี้ขณะลงจอดโดรนบนเรือบรรทุกเครื่องบิน ปัญหานี้มีความซับซ้อนมากกว่าการขับรถในบางแง่ เนื่องจากมีมิติพิเศษที่เกี่ยวข้องกับการบิน “ในการลงจอด มีสองภารกิจหลัก” กล่าว ดราโกส มาร์จิเนอาตูหัวหน้าฝ่ายเทคโนโลยี AI ของ Boeing “จัดแนวเครื่องบินให้ตรงกับรันเวย์ และตรวจสอบให้แน่ใจว่ารันเวย์ปราศจากสิ่งกีดขวาง” งานของเรากับ Sayan เกี่ยวข้องกับการได้รับการรับประกันสำหรับทั้งสองฟังก์ชันนี้”

“การจำลองโดยใช้อัลกอริธึมของ Sayan แสดงให้เห็นว่าการจัดตำแหน่ง (ของเครื่องบินก่อนลงจอด) มีการปรับปรุง” เขากล่าว ขั้นตอนต่อไปซึ่งวางแผนไว้สำหรับปลายปีนี้ คือการใช้ระบบเหล่านี้ในขณะที่ลงจอดเครื่องบินทดลองของโบอิ้งจริงๆ Margineantu ตั้งข้อสังเกตว่าหนึ่งในความท้าทายที่ยิ่งใหญ่ที่สุดคือการหาสิ่งที่เราไม่รู้ “การพิจารณาความไม่แน่นอนในการประมาณการของเรา” และดูว่าสิ่งนั้นส่งผลต่อความปลอดภัยอย่างไร “ข้อผิดพลาดส่วนใหญ่เกิดขึ้นเมื่อเราทำสิ่งที่เราคิดว่าเรารู้ แต่กลับกลายเป็นว่าเราไม่รู้”