Kuinka taata autonomisten ajoneuvojen turvallisuus | Quanta-lehti

Kuljettamattomat autot ja lentokoneet eivät ole enää tulevaisuuden tavaraa. Pelkästään San Franciscon kaupungissa kaksi taksiyritystä on yhdessä kirjannut 8 miljoonaa mailia autonomista ajoa elokuuhun 2023 mennessä. Ja Yhdysvalloissa on rekisteröity yli 850,000 XNUMX autonomista ilma-ajoneuvoa eli dronea – armeijan omistamia ajoneuvoja ei oteta huomioon.

Mutta turvallisuudesta on perusteltua huolta. Esimerkiksi 10 kuukauden ajanjaksolla, joka päättyi toukokuussa 2022, Tieliikenneturvallisuusvirasto raportoitu lähes 400 kolaria, joissa autot käyttivät jonkinlaista autonomista ohjausta. Onnettomuudessa kuoli kuusi ihmistä ja viisi loukkaantui vakavasti.

Tavallinen tapa ratkaista tämä ongelma - jota joskus kutsutaan "uupumustestaukseksi" - sisältää näiden järjestelmien testaamisen, kunnes olet varma, että ne ovat turvallisia. Mutta et voi koskaan olla varma, että tämä prosessi paljastaa kaikki mahdolliset puutteet. "Ihmiset tekevät testejä, kunnes he ovat käyttäneet resurssinsa ja kärsivällisyytensä", sanoi Sayan Mitra, tietojenkäsittelytieteilijä Illinoisin yliopistosta, Urbana-Champaignista. Pelkkä testaus ei kuitenkaan voi antaa takuita.

Mitra ja hänen kollegansa voivat. Hänen tiiminsä on onnistunut todistaa Ishayoiden opettaman turvallisuus kaistanseurantaominaisuuksia autoille ja laskeutumisjärjestelmät autonomisille lentokoneille. Heidän strategiaansa käytetään nyt droonien laskeutumiseen lentotukialuksiin, ja Boeing aikoo testata sitä kokeellisella lentokoneella tänä vuonna. "Heidän menetelmänsä tarjota kattavat turvallisuustakuut on erittäin tärkeä", sanoi Corina Pasareanu, tutkija Carnegie Mellon -yliopistossa ja NASAn Ames Research Centerissä.

Heidän työhönsä kuuluu autonomisten ajoneuvojen tiedottamiseen käytettävien koneoppimisalgoritmien tulosten takaaminen. Korkealla tasolla monissa autonomisissa ajoneuvoissa on kaksi osaa: havaintojärjestelmä ja ohjausjärjestelmä. Havaintojärjestelmä kertoo esimerkiksi kuinka kaukana autosi on kaistan keskikohdasta tai mihin suuntaan kone on menossa ja mikä on sen kulma horisonttiin nähden. Järjestelmä toimii syöttämällä raakadataa kameroista ja muista sensorityökaluista hermoverkkoihin perustuville koneoppimisalgoritmeille, jotka luovat uudelleen ympäristön ajoneuvon ulkopuolelle.

Nämä arvioinnit lähetetään sitten erilliseen järjestelmään, ohjausmoduuliin, joka päättää mitä tehdä. Jos edessä on esimerkiksi este, se päättää, jarruttaako vai ohjataanko sen ympäri. Mukaan Luca Carlone, Massachusetts Institute of Technologyn apulaisprofessori, kun taas ohjausmoduuli perustuu vakiintuneeseen tekniikkaan, "se tekee päätöksiä havaintotulosten perusteella, eikä ole takeita siitä, että tulokset ovat oikeita."

Turvallisuuden takaamiseksi Mitran tiimi työskenteli varmistaakseen ajoneuvon havaintojärjestelmän luotettavuuden. He olettivat ensin, että on mahdollista taata turvallisuus, kun ulkomaailmasta on saatavilla täydellinen esitys. Sitten he määrittelivät, kuinka paljon virhettä havaintojärjestelmä aiheuttaa ajoneuvon ympäristön uudelleenluomiseen.

Tämän strategian avain on kvantifioida asiaan liittyvät epävarmuustekijät, jotka tunnetaan virhealueena - tai "tunnetuina tuntemattomina", kuten Mitra sen sanoi. Tämä laskelma tulee siitä, mitä hän ja hänen tiiminsä kutsuvat havaintosopimukseksi. Ohjelmistosuunnittelussa sopimus on sitoumus, jonka mukaan tietokoneohjelman tietyn syötteen tulos jää tietylle alueelle. Tämän alueen selvittäminen ei ole helppoa. Kuinka tarkkoja auton anturit ovat? Kuinka paljon sumua, sadetta tai auringon häikäisyä drone sietää? Mutta jos pystyt pitämään ajoneuvon tietyllä epävarmuusalueella ja jos alueen määritys on riittävän tarkka, Mitran tiimi osoitti, että pystyt varmistamaan sen turvallisuuden.

Tilanne on tuttu kaikille, joilla on epätarkka nopeusmittari. Jos tiedät, että laite ei ole koskaan sammunut yli 5 mailia tunnissa, voit silti välttää ylinopeuden pysymällä aina 5 mph alle nopeusrajoituksen (kuten epäluotettava nopeusmittarisi osoittaa). Havaintosopimus antaa samanlaisen takuun koneoppimisesta riippuvan epätäydellisen järjestelmän turvallisuudesta.

"Et tarvitse täydellistä käsitystä", Carlone sanoi. "Haluat vain sen olevan tarpeeksi hyvä, jotta turvallisuus ei vaarannu." Hänen mukaansa tiimin suurin panos on "koko käsityssopimusten idean esittely" ja menetelmien tarjoaminen niiden rakentamiseen. He tekivät tämän hyödyntämällä tietojenkäsittelytieteen alalta peräisin olevia tekniikoita, joita kutsutaan muodolliseksi todentamiseksi, joka tarjoaa matemaattisen tavan varmistaa, että järjestelmän käyttäytyminen täyttää tietyt vaatimukset.

"Vaikka emme tiedä tarkalleen, kuinka hermoverkko tekee mitä se tekee", Mitra sanoi, he osoittivat, että on silti mahdollista todistaa numeerisesti, että hermoverkon tulosten epävarmuus on tietyissä rajoissa. Ja jos näin on, järjestelmä on turvallinen. "Voimme sitten tarjota tilastollisen takuun siitä, täyttääkö (ja missä määrin) tietty hermoverkko todella nämä rajat."

Ilmailualan yritys Sierra Nevada testaa parhaillaan näitä turvallisuustakuita laskeutuessaan dronin lentotukialustalle. Tämä ongelma on jollain tapaa monimutkaisempi kuin autolla ajaminen lentämiseen liittyvän ylimääräisen ulottuvuuden vuoksi. "Laskeutuksessa on kaksi päätehtävää", sanoi Dragos Margineantu, Boeingin tekoälypääteknologi, "kohdistaa koneen kiitotien kanssa ja varmistaa, että kiitotiellä ei ole esteitä. Yhteistyö Sayanin kanssa edellyttää takuun saamista näille kahdelle toiminnolle."

"Sayanin algoritmia käyttävät simulaatiot osoittavat, että [lentokoneen ennen laskeutumista] suuntaus paranee", hän sanoi. Seuraava vaihe, joka on suunniteltu myöhemmin tänä vuonna, on käyttää näitä järjestelmiä Boeingin kokeelliselle lentokoneelle laskeutuessa. Yksi suurimmista haasteista, Margineantu totesi, tulee olemaan sen selvittäminen, mitä emme tiedä - "arvioiden epävarmuuden määrittäminen" - ja sen näkeminen, kuinka se vaikuttaa turvallisuuteen. "Useimmat virheet tapahtuvat, kun teemme asioita, jotka luulemme tietävämme - ja käy ilmi, että emme tee."