כיצד להבטיח את בטיחותם של כלי רכב אוטונומיים | מגזין קוונטה

מכוניות ומטוסים ללא נהג הם כבר לא חומר העתיד. בעיר סן פרנסיסקו לבדה, שתי חברות מוניות רשמו ביחד 8 מיליון מיילים של נהיגה אוטונומית עד אוגוסט 2023. ויותר מ-850,000 כלי טיס אוטונומיים, או מל"טים, רשומים בארצות הברית - לא סופרים את אלו שבבעלות הצבא.

אבל יש דאגות לגיטימיות לגבי בטיחות. לדוגמה, בתקופה של 10 חודשים שהסתיימה במאי 2022, המינהל הלאומי לבטיחות בדרכים. דיווח כמעט 400 תאונות בהן היו מעורבות מכוניות המשתמשות בשליטה אוטונומית כלשהי. שישה בני אדם מתו כתוצאה מתאונות אלו, וחמישה נפצעו קשה.

הדרך הרגילה לטפל בבעיה זו - המכונה לפעמים "בדיקה על ידי תשישות" - כוללת בדיקת מערכות אלו עד שאתה מרוצה שהן בטוחות. אבל אתה אף פעם לא יכול להיות בטוח שתהליך זה יגלה את כל הפגמים הפוטנציאליים. "אנשים מבצעים בדיקות עד שהם מיצו את המשאבים והסבלנות שלהם", אמר סייאן מיטרה, מדען מחשבים באוניברסיטת אילינוי, אורבנה-שמפיין. עם זאת, בדיקה בלבד אינה יכולה לספק ערבויות.

מיטרה ועמיתיו יכולים. הצוות שלו הצליח להוכיח מה היא בטיחות של יכולות מעקב אחר נתיבים עבור מכוניות ו מערכות נחיתה עבור מטוסים אוטונומיים. האסטרטגיה שלהם משמשת כעת כדי לעזור להנחית מל"טים על נושאות מטוסים, ובואינג מתכננת לבחון אותה על מטוס ניסיוני השנה. "השיטה שלהם לספק ערבויות בטיחות מקצה לקצה חשובה מאוד", אמר קורינה פסאריאנו, מדען מחקר באוניברסיטת קרנגי מלון ובמרכז המחקר איימס של נאס"א.

עבודתם כרוכה בהבטחת תוצאות האלגוריתמים של למידת מכונה המשמשים ליידע כלי רכב אוטונומיים. ברמה גבוהה, לרכבים אוטונומיים רבים יש שני מרכיבים: מערכת תפיסתית ומערכת בקרה. מערכת התפיסה אומרת לך, למשל, כמה רחוקה המכונית שלך ממרכז הנתיב, או לאיזה כיוון פונה המטוס ומה הזווית שלו ביחס לאופק. המערכת פועלת על ידי הזנת נתונים גולמיים ממצלמות וכלים חושיים אחרים לאלגוריתמים של למידת מכונה המבוססים על רשתות עצביות, היוצרות מחדש את הסביבה מחוץ לרכב.

הערכות אלו נשלחות לאחר מכן למערכת נפרדת, מודול הבקרה, אשר מחליטה מה לעשות. אם יש מכשול קרוב, למשל, הוא מחליט אם להפעיל את הבלמים או לנווט סביבו. לפי לוקה קרלון, פרופסור חבר במכון הטכנולוגי של מסצ'וסטס, בעוד מודול הבקרה מסתמך על טכנולוגיה מבוססת, "הוא מקבל החלטות על סמך תוצאות התפיסה, ואין ערובה לכך שהתוצאות הללו נכונות".

כדי לספק ערובה לבטיחות, הצוות של מיטרה עבד על הבטחת האמינות של מערכת התפיסה של הרכב. תחילה הם הניחו שאפשר להבטיח בטיחות כאשר עיבוד מושלם של העולם החיצון זמין. לאחר מכן הם קבעו כמה שגיאות מכניסה מערכת התפיסה ליצירה מחדש של סביבת הרכב.

המפתח לאסטרטגיה זו הוא לכמת את אי הוודאות המעורבות, המכונה רצועת השגיאה - או "הלא ידועים", כפי שניסחה זאת מיטרה. החישוב הזה מגיע ממה שהוא והצוות שלו מכנים חוזה תפיסה. בהנדסת תוכנה, חוזה הוא התחייבות שעבור קלט נתון לתוכנת מחשב, הפלט ייפול בטווח מוגדר. לא קל להבין את הטווח הזה. כמה מדויקים חיישני המכונית? כמה ערפל, גשם או סנוור סולארי יכול רחפן לסבול? אבל אם אתה יכול לשמור את הרכב בטווח מוגדר של אי ודאות, ואם קביעת הטווח הזה מדויקת מספיק, הצוות של מיטרה הוכיח שאתה יכול להבטיח את בטיחותו.

זה מצב מוכר לכל מי שיש לו מד מהירות לא מדויק. אם אתה יודע שהמכשיר אף פעם לא כבוי ביותר מ-5 מייל לשעה, עדיין תוכל להימנע ממהירות מופרזת על ידי הישארות תמיד 5 קמ"ש מתחת למהירות המותרת (כפי שמצוין על ידי מד המהירות הבלתי אמין שלך). חוזה תפיסה מעניק ערובה דומה לבטיחות של מערכת לא מושלמת התלויה בלמידת מכונה.

"אתה לא צריך תפיסה מושלמת," אמר קרלון. "אתה רק רוצה שזה יהיה מספיק טוב כדי לא לסכן את הבטיחות." התרומות הגדולות ביותר של הצוות, הוא אמר, הן "הצגת כל הרעיון של חוזי תפיסה" ומתן השיטות לבנייתם. הם עשו זאת על ידי שימוש בטכניקות מענף מדעי המחשב הנקרא אימות פורמלי, המספק דרך מתמטית לאשר שההתנהגות של מערכת עומדת בסט של דרישות.

"למרות שאנחנו לא יודעים בדיוק איך הרשת העצבית עושה את מה שהיא עושה", אמר מיטרה, הם הראו שעדיין אפשר להוכיח מספרית שאי הוודאות של הפלט של רשת עצבית נמצאת בגבולות מסוימים. ואם זה המקרה, אז המערכת תהיה בטוחה. "אז נוכל לספק ערובה סטטיסטית לגבי האם (ובאיזו מידה) רשת עצבית נתונה אכן תעמוד בגבולות האלה."

חברת התעופה והחלל סיירה נבדה בוחנת בימים אלה את ערובות הבטיחות הללו בזמן הנחתת מזל"ט על נושאת מטוסים. בעיה זו מסובכת במובנים מסוימים יותר מאשר נהיגה במכוניות בגלל המימד הנוסף הכרוך בטיסה. "בנחיתה, יש שתי משימות עיקריות", אמר דראגוס מרג'ינאנטו, טכנולוג ראשי בינה מלאכותית בבואינג, "ליישר את המטוס עם המסלול ולוודא שהמסלול נקי ממכשולים. העבודה שלנו עם Sayan כרוכה בקבלת ערבויות עבור שתי הפונקציות הללו."

"הדמיות באמצעות האלגוריתם של סייאן מראות שהיישור [של מטוס לפני הנחיתה] אכן משתפר", אמר. השלב הבא, המתוכנן להמשך השנה, הוא שימוש במערכות אלו תוך נחיתת מטוס ניסוי של בואינג. אחד האתגרים הגדולים ביותר, ציין Margineantu, יהיה להבין את מה שאנחנו לא יודעים - "קביעת אי הוודאות בהערכות שלנו" - ולראות כיצד זה משפיע על הבטיחות. "רוב השגיאות קורות כשאנחנו עושים דברים שאנחנו חושבים שאנחנו יודעים - ומתברר שלא."