Hogyan lehet garantálni az autonóm járművek biztonságát | Quanta Magazin

A vezető nélküli autók és repülők már nem a jövő dolgai. Csak San Francisco városában két taxitársaság együttesen 8 millió mérföldnyi autonóm vezetést hajtott végre 2023 augusztusáig. Az Egyesült Államokban pedig több mint 850,000 XNUMX autonóm légi járművet vagy drónt tartanak nyilván – nem számítva a katonaság tulajdonában lévőket.

De vannak jogos aggodalmak a biztonsággal kapcsolatban. Például egy 10 hónapos időszakban, amely 2022 májusában ért véget, az Országos Közúti Közlekedésbiztonsági Hivatal jelentett közel 400 olyan ütközés történt, amelyek valamilyen autonóm vezérlést használó autókkal történtek. A balesetekben hatan meghaltak, öten pedig súlyosan megsérültek.

A probléma megoldásának szokásos módja – amelyet néha „kimerülési tesztelésnek” is neveznek – a rendszer tesztelését jelenti, amíg meg nem győződik arról, hogy biztonságosak. De soha nem lehet biztos abban, hogy ez a folyamat feltárja az összes lehetséges hibát. „Az emberek addig végeznek teszteket, amíg ki nem merítik erőforrásaikat és türelmüket” – mondta Sayan Mitra, az Illinoisi Egyetem informatikusa, Urbana-Champaign. A tesztelés önmagában azonban nem nyújt garanciát.

Mitra és kollégái megtehetik. A csapatának sikerült bizonyítani a biztonság az autók sávkövetési képességeinek és leszállórendszerek autonóm repülőgépekhez. Stratégiájukat most a drónok repülőgép-hordozókra történő leszállására használják, a Boeing pedig azt tervezi, hogy még idén kipróbálja egy kísérleti repülőgépen. „Nagyon fontos az a módszerük, amellyel végponttól végpontig biztosítanak biztonsági garanciákat” – mondta Corina Pasareanu, a Carnegie Mellon Egyetem és a NASA Ames Research Center kutatója.

Munkájuk az autonóm járművek informálására használt gépi tanulási algoritmusok eredményének garantálása. Magas szinten sok autonóm járműnek két összetevője van: egy észlelési rendszer és egy vezérlőrendszer. Az érzékelési rendszer megmondja például, hogy az autó milyen messze van a sáv közepétől, vagy milyen irányba halad egy repülőgép, és mekkora a szöge a horizonthoz képest. A rendszer úgy működik, hogy a kamerákból és más szenzoros eszközökből nyers adatokat táplál be neurális hálózatokon alapuló gépi tanulási algoritmusokhoz, amelyek újrateremtik a járművön kívüli környezetet.

Ezek az értékelések ezután egy külön rendszerbe, a vezérlőmodulba kerülnek, amely eldönti, hogy mit kell tenni. Ha például akadályba ütközik, akkor eldönti, hogy fékez-e vagy megkerüli-e. Alapján Luca Carlone, a Massachusetts Institute of Technology docense, míg a vezérlőmodul jól bevált technológiára támaszkodik, „az észlelési eredmények alapján hoz döntéseket, és nincs garancia arra, hogy ezek az eredmények helyesek.”

A biztonság garantálása érdekében a Mitra csapata a jármű érzékelési rendszerének megbízhatóságán dolgozott. Először azt feltételezték, hogy akkor lehet garantálni a biztonságot, ha rendelkezésre áll a külvilág tökéletes megjelenítése. Ezután meghatározták, hogy az észlelési rendszer mekkora hibát okoz a jármű környezetének újraalkotásában.

Ennek a stratégiának a kulcsa az, hogy számszerűsítsük az érintett bizonytalanságokat, amelyeket hibasávnak neveznek – vagy az „ismert ismeretleneknek”, ahogy Mitra fogalmazott. Ez a számítás abból származik, amit ő és csapata észlelési szerződésnek nevez. A szoftverfejlesztésben a szerződés olyan kötelezettségvállalás, amely szerint egy számítógépes program adott bemeneténél a kimenet egy meghatározott tartományba esik. Ezt a tartományt nem könnyű kitalálni. Mennyire pontosak az autó érzékelői? Mennyi ködöt, esőt vagy napfényt tud elviselni egy drón? Ám ha a járművet egy meghatározott bizonytalansági tartományon belül tudja tartani, és ennek a tartománynak a meghatározása kellően pontos, a Mitra csapata bebizonyította, hogy tudja garantálni a biztonságát.

Mindenki számára ismerős a helyzet, akinek pontatlan a sebességmérője. Ha tudja, hogy az eszköz soha nem kapcsol ki 5 mérföld/óránál nagyobb sebességgel, akkor is elkerülheti a gyorshajtást, ha mindig 5 mérföld/órával a sebességhatár alatt marad (ahogy ezt a megbízhatatlan sebességmérő jelzi). Az észlelési szerződés hasonló garanciát nyújt egy tökéletlen rendszer biztonságára, amely a gépi tanulástól függ.

– Nincs szükséged tökéletes érzékelésre – mondta Carlone. „Csak azt akarod, hogy elég jó legyen, nehogy veszélybe sodord a biztonságot.” A csapat legnagyobb hozzájárulása szerinte „az észlelési szerződések teljes gondolatának megismertetése” és a megalkotásukhoz szükséges módszerek biztosítása. Ezt úgy tették, hogy a számítástechnika formális verifikációnak nevezett ágának technikáira támaszkodtak, amely matematikai módszert ad annak igazolására, hogy egy rendszer viselkedése megfelel a követelményeknek.

"Bár nem tudjuk pontosan, hogy a neurális hálózat hogyan csinálja, amit csinál" - mondta Mitra, megmutatták, hogy még mindig lehetséges számszerűsíteni, hogy egy neurális hálózat kimenetének bizonytalansága bizonyos határokon belül van. És ha ez a helyzet, akkor a rendszer biztonságos lesz. "Ezután statisztikai garanciát tudunk nyújtani arra vonatkozóan, hogy egy adott neurális hálózat valóban megfelel-e (és milyen mértékben) ezeknek a határoknak."

A Sierra Nevada repülőgépipari vállalat jelenleg teszteli ezeket a biztonsági garanciákat, miközben drónt landol egy repülőgép-hordozóra. Ez a probléma bizonyos szempontból bonyolultabb, mint az autóvezetés a repüléssel járó extra dimenzió miatt. „A leszállásnál két fő feladat van” – mondta Dragos Margineantu, a Boeing mesterséges intelligencia vezető technológusa, „a gépet a kifutópályához igazítja, és gondoskodik arról, hogy a kifutópálya akadálymentes legyen. A Sayannel végzett munkánk magában foglalja a garanciák megszerzését erre a két funkcióra.”

"A Sayan algoritmusát használó szimulációk azt mutatják, hogy a [repülőgép leszállás előtti helyzete] valóban javul" - mondta. A következő, az év végére tervezett lépés az, hogy ezeket a rendszereket alkalmazzák egy Boeing kísérleti repülőgép leszállása közben. Margineantu megjegyezte, hogy az egyik legnagyobb kihívás az lesz, hogy kitaláljuk, mit nem tudunk – „meg kell határozni a becsléseinkben rejlő bizonytalanságot” –, és látni, hogy ez hogyan befolyásolja a biztonságot. „A legtöbb hiba akkor történik, amikor olyan dolgokat teszünk, amelyekről azt hiszik, hogy tudunk – és kiderül, hogy nem.”