Kuidas tagada autonoomsete sõidukite ohutus | Ajakiri Quanta

Juhita autod ja lennukid pole enam tuleviku kraam. Ainuüksi San Francisco linnas on kaks taksofirmat ühiselt läbinud 8 miljonit miili autonoomset sõitu kuni 2023. aasta augustini. Ja Ameerika Ühendriikides on registreeritud üle 850,000 XNUMX autonoomse õhusõiduki ehk drooni – arvestamata sõjaväele kuuluvaid.

Kuid on õigustatud mure ohutuse pärast. Näiteks 10-kuulise perioodi jooksul, mis lõppes 2022. aasta mais, tegi riiklik maanteede liiklusohutuse amet teatatud ligi 400 õnnetust autodega, mis kasutasid mingit autonoomset juhtimist. Nendes õnnetustes hukkus kuus inimest ja viis said raskelt vigastada.

Tavaline viis selle probleemi lahendamiseks (mida mõnikord nimetatakse ka "kurnatuse järgi testimiseks") hõlmab nende süsteemide testimist, kuni olete veendunud, et need on ohutud. Kuid te ei saa kunagi olla kindel, et see protsess paljastab kõik võimalikud vead. "Inimesed viivad katseid läbi seni, kuni nad on oma ressursid ja kannatlikkuse ammendanud," ütles Sayan Mitra, Urbana-Champaigni Illinoisi ülikooli arvutiteadlane. Ainuüksi testimine ei anna aga garantiid.

Mitra ja tema kolleegid saavad. Tema meeskond on sellega hakkama saanud tõestama the,en ohutus sõiduraja jälgimise võimalustest autodele ja maandumissüsteemid autonoomsete õhusõidukite jaoks. Nende strateegiat kasutatakse nüüd droonide maandumiseks lennukikandjatel ja Boeing plaanib seda sel aastal katselennuki peal katsetada. "Nende täieliku ohutusgarantii pakkumise meetod on väga oluline," ütles Corina Pasareanu, Carnegie Melloni ülikooli ja NASA Amesi uurimiskeskuse teadur.

Nende töö hõlmab autonoomsete sõidukite teavitamiseks kasutatavate masinõppe algoritmide tulemuste tagamist. Kõrgel tasemel on paljudel autonoomsetel sõidukitel kaks komponenti: tajusüsteem ja juhtimissüsteem. Tajusüsteem ütleb teile näiteks, kui kaugel on teie auto sõiduraja keskelt või mis suunas lennuk liigub ja milline on selle nurk horisondi suhtes. Süsteem toimib, edastades kaamerate ja muude sensoorsete tööriistade algandmeid närvivõrkudel põhinevatele masinõppe algoritmidele, mis taasloovad sõidukist väljapoole jäävat keskkonda.

Need hinnangud saadetakse seejärel eraldi süsteemi, juhtimismoodulisse, mis otsustab, mida teha. Näiteks kui ees on takistus, otsustab ta, kas vajutada pidurit või juhtida sellest mööda. Vastavalt Luca Carlone, Massachusettsi Tehnoloogiainstituudi dotsent, kuigi juhtimismoodul tugineb väljakujunenud tehnoloogiale, "teeb ​​otsuseid tajutulemuste põhjal ja pole mingit garantiid, et need tulemused on õiged."

Ohutuse tagamiseks töötas Mitra meeskond sõiduki tajusüsteemi töökindluse tagamise nimel. Esmalt eeldasid nad, et turvalisust on võimalik tagada, kui välismaailma täiuslik renderdus on saadaval. Seejärel tegid nad kindlaks, kui palju viga tajusüsteem sõiduki ümbruse taasloomisel tekitab.

Selle strateegia võtmeks on sellega seotud ebakindluse kvantifitseerimine, mida nimetatakse vearibaks või "teadaolevateks tundmatuteks", nagu Mitra ütles. See arvutus tuleneb sellest, mida tema ja tema meeskond nimetavad tajulepinguks. Tarkvaratehnikas on leping kohustus, mille kohaselt arvutiprogrammi antud sisendi puhul jääb väljund kindlaksmääratud vahemikku. Selle vahemiku väljaselgitamine pole lihtne. Kui täpsed on auto andurid? Kui palju udu, vihma või päikesevalgust droon talub? Kuid kui suudate hoida sõiduki kindlaksmääratud määramatuse vahemikus ja kui selle ulatuse määramine on piisavalt täpne, tõestas Mitra meeskond, et suudate tagada selle ohutuse.

See on tuttav olukord kõigile, kellel on ebatäpne spidomeeter. Kui teate, et seade ei ole kunagi välja lülitatud rohkem kui 5 miili tunnis, saate siiski vältida kiiruse ületamist, jäädes alati 5 miili tunnis alla kiirusepiirangu (nagu näitab teie ebausaldusväärne spidomeeter). Tajumise leping annab samasuguse garantii ebatäiusliku süsteemi ohutusele, mis sõltub masinõppest.

"Te ei vaja täiuslikku taju," ütles Carlone. "Sa tahad lihtsalt, et see oleks piisavalt hea, et mitte ohtu seada." Meeskonna suurim panus on tema sõnul "kogu tajulepingute idee tutvustamine" ja nende koostamise meetodite pakkumine. Nad tegid seda, tuginedes arvutiteaduse haru tehnikatele, mida nimetatakse formaalseks verifitseerimiseks, mis annab matemaatilise võimaluse kinnitada, et süsteemi käitumine vastab teatud nõuetele.

"Kuigi me ei tea täpselt, kuidas närvivõrk seda teeb, " ütles Mitra, näitasid nad, et on siiski võimalik numbriliselt tõestada, et närvivõrgu väljundi ebakindlus jääb teatud piiridesse. Ja kui see nii on, on süsteem turvaline. "Seejärel saame anda statistilise garantii selle kohta, kas (ja mil määral) antud närvivõrk nendele piiridele tegelikult vastab."

Lennundusettevõte Sierra Nevada katsetab praegu neid ohutustagatisi drooni lennukikandjale maandumisel. See probleem on lendamise lisamõõtme tõttu mõnes mõttes keerulisem kui autojuhtimine. "Maandumisel on kaks peamist ülesannet," ütles Dragos Margineantu, Boeingu tehisintellekti peatehnoloog, "joondab lennukit rajaga ja tagab, et rajal ei oleks takistusi. Meie töö Sayaniga hõlmab nende kahe funktsiooni jaoks garantiide saamist.

"Sayani algoritmi kasutavad simulatsioonid näitavad, et [lennuki joondumine enne maandumist] paraneb," ütles ta. Järgmine samm, mis on kavandatud selle aasta lõpus, on nende süsteemide kasutamine Boeingi eksperimentaallennuki maandumisel. Margineantu märkis, et üks suurimaid väljakutseid on välja selgitada, mida me ei tea - "meie hinnangute ebakindluse kindlaksmääramine" - ja näha, kuidas see ohutust mõjutab. "Enamik vigu juhtub siis, kui teeme asju, mida arvame teadvat – ja selgub, et me ei tee seda."