چگونه ایمنی خودروهای خودران را تضمین کنیم | مجله کوانتا

خودروها و هواپیماهای بدون راننده دیگر چیزهای آینده نیستند. تنها در شهر سانفرانسیسکو، دو شرکت تاکسی‌سازی مجموعاً 8 میلیون مایل رانندگی مستقل را تا آگوست 2023 ثبت کرده‌اند. و بیش از 850,000 وسیله نقلیه هوایی خودران یا پهپاد در ایالات متحده ثبت شده است - بدون احتساب آنهایی که متعلق به ارتش هستند.

اما نگرانی های قانونی در مورد ایمنی وجود دارد. به عنوان مثال، در یک دوره 10 ماهه که در می 2022 به پایان رسید، اداره ملی ایمنی ترافیک بزرگراه گزارش نزدیک به 400 تصادف در خودروها با استفاده از نوعی کنترل خودکار. بر اثر این حوادث XNUMX نفر جان باختند و پنج نفر به شدت مجروح شدند.

روش معمول رسیدگی به این مشکل - که گاهی اوقات "تست از طریق خستگی" نامیده می شود - شامل آزمایش این سیستم ها می شود تا زمانی که مطمئن شوید که آنها ایمن هستند. اما هرگز نمی توانید مطمئن باشید که این فرآیند تمام عیوب احتمالی را آشکار می کند. گفت: «افراد تا زمانی که منابع و صبر خود را تمام نکرده باشند، آزمایشات را انجام می دهند سایان میترا، دانشمند کامپیوتر در دانشگاه ایلینوی، اوربانا-شامپین. با این حال، آزمایش به تنهایی نمی تواند تضمینی ارائه دهد.

میترا و همکارانش می توانند. تیم او موفق شده است ثابت la ایمنی از قابلیت های ردیابی خطوط برای خودروها و سیستم های فرود برای هواپیماهای خودمختار استراتژی آنها اکنون برای کمک به فرود هواپیماهای بدون سرنشین بر روی ناوهای هواپیمابر استفاده می شود و بوئینگ قصد دارد امسال آن را روی یک هواپیمای آزمایشی آزمایش کند. گفت: «روش آنها برای ارائه تضمین های ایمنی سرتاسر بسیار مهم است کورینا پاسارانو، یک دانشمند محقق در دانشگاه کارنگی ملون و مرکز تحقیقات ایمز ناسا.

کار آنها شامل تضمین نتایج الگوریتم های یادگیری ماشینی است که برای اطلاع رسانی وسایل نقلیه خودران استفاده می شود. در سطح بالا، بسیاری از وسایل نقلیه خودران دارای دو جزء هستند: یک سیستم ادراکی و یک سیستم کنترل. برای مثال، سیستم ادراک به شما می گوید که ماشین شما چقدر از مرکز خط فاصله دارد، یا هواپیما در چه جهتی در حرکت است و زاویه آن نسبت به افق چقدر است. این سیستم با تغذیه داده‌های خام از دوربین‌ها و سایر ابزارهای حسی به الگوریتم‌های یادگیری ماشینی مبتنی بر شبکه‌های عصبی، که محیط خارج از خودرو را دوباره ایجاد می‌کند، عمل می‌کند.

این ارزیابی ها سپس به یک سیستم جداگانه، ماژول کنترل فرستاده می شود، که تصمیم می گیرد چه کاری انجام شود. به عنوان مثال، اگر مانعی پیش رو وجود داشته باشد، تصمیم می گیرد که آیا ترمز را فشار دهد یا اطراف آن را هدایت کند. مطابق با لوکا کارلوناستادیار مؤسسه فناوری ماساچوست، در حالی که ماژول کنترل بر فناوری تثبیت شده متکی است، "بر اساس نتایج ادراک تصمیم گیری می کند، و هیچ تضمینی وجود ندارد که این نتایج درست باشد."

برای ارائه تضمین ایمنی، تیم میترا روی اطمینان از قابلیت اطمینان سیستم ادراک خودرو کار کرد. آنها ابتدا فرض کردند که می توان ایمنی را زمانی که رندر کاملی از دنیای بیرون در دسترس است تضمین کرد. سپس آنها تعیین کردند که سیستم ادراک چه مقدار خطا در ایجاد مجدد محیط اطراف وسیله نقلیه وارد می کند.

کلید این استراتژی تعیین کمیت عدم قطعیت های موجود است، که به عنوان باند خطا شناخته می شود - یا همان طور که میترا می گوید "معلومات شناخته شده". این محاسبه از آنچه او و تیمش قرارداد ادراک می نامند، حاصل می شود. در مهندسی نرم افزار، قرارداد تعهدی است که برای یک ورودی معین به یک برنامه کامپیوتری، خروجی در محدوده مشخصی قرار می گیرد. پی بردن به این محدوده آسان نیست. سنسورهای ماشین چقدر دقیق هستند؟ یک پهپاد چقدر مه، باران یا تابش نور خورشید را می تواند تحمل کند؟ اما اگر بتوانید وسیله نقلیه را در محدوده مشخصی از عدم قطعیت نگه دارید، و اگر تعیین آن محدوده به اندازه کافی دقیق باشد، تیم میترا ثابت کرد که می توانید از ایمنی آن اطمینان حاصل کنید.

این یک موقعیت آشنا برای هر کسی است که سرعت سنج نامشخصی دارد. اگر می‌دانید که دستگاه هرگز بیش از ۵ مایل در ساعت خاموش نمی‌شود، همچنان می‌توانید با حفظ سرعت ۵ مایل در ساعت کمتر از حد مجاز سرعت (همانطور که توسط سرعت‌سنج غیرقابل اعتماد شما نشان می‌دهد) از سرعت‌گیری اجتناب کنید. یک قرارداد ادراک تضمینی مشابه از ایمنی یک سیستم ناقص را که به یادگیری ماشین بستگی دارد، می دهد.

کارلون گفت: "شما به درک کامل نیاز ندارید." "شما فقط می خواهید آنقدر خوب باشد که ایمنی را به خطر نیندازید." او گفت که بزرگترین مشارکت این تیم "معرفی کل ایده قراردادهای ادراکی" و ارائه روش هایی برای ساخت آنها است. آنها این کار را با استفاده از تکنیک هایی از شاخه علوم کامپیوتر به نام تأیید رسمی انجام دادند، که روشی ریاضی برای تأیید اینکه رفتار یک سیستم مجموعه ای از الزامات را برآورده می کند، ارائه می دهد.

میترا گفت: «اگرچه ما دقیقا نمی‌دانیم شبکه عصبی چگونه کاری را که انجام می‌دهد، انجام می‌دهد، اما آنها نشان دادند که هنوز هم می‌توان به صورت عددی ثابت کرد که عدم قطعیت خروجی شبکه عصبی در محدوده‌های خاصی قرار دارد. و اگر اینطور باشد، سیستم امن خواهد بود. سپس می‌توانیم تضمینی آماری در مورد اینکه آیا (و تا چه میزان) یک شبکه عصبی معین واقعاً این محدوده‌ها را برآورده می‌کند ارائه کنیم.»

شرکت هوافضا سیرا نوادا در حال حاضر در حال آزمایش این ضمانت‌های ایمنی هنگام فرود پهپاد بر روی یک ناو هواپیمابر است. این مشکل از برخی جهات پیچیده‌تر از رانندگی با اتومبیل است، زیرا ابعاد اضافی در پرواز وجود دارد. گفت: "در فرود، دو وظیفه اصلی وجود دارد." دراگوس مارجینئانتو، فن‌آور ارشد هوش مصنوعی در بوئینگ، «هواپیمایی را با باند فرودگاه هماهنگ می‌کند و مطمئن می‌شود که باند فرودگاه عاری از موانع است. کار ما با سایان شامل دریافت ضمانت برای این دو عملکرد است.

او گفت: «شبیه‌سازی‌ها با استفاده از الگوریتم سایان نشان می‌دهد که هم ترازی [یک هواپیما قبل از فرود] بهبود می‌یابد.» گام بعدی که برای اواخر سال جاری برنامه ریزی شده است، به کارگیری این سیستم ها در عین فرود هواپیمای آزمایشی بوئینگ است. Margineantu خاطرنشان کرد، یکی از بزرگترین چالش‌ها این است که بفهمیم چه چیزی را نمی‌دانیم - «تعیین عدم قطعیت در برآوردهای ما» - و دیدن اینکه چگونه بر ایمنی تأثیر می‌گذارد. "بیشتر خطاها زمانی اتفاق می‌افتند که ما کارهایی را انجام می‌دهیم که فکر می‌کنیم می‌دانیم - و معلوم می‌شود که نمی‌دانیم."