Πώς να εγγυηθεί την ασφάλεια των αυτόνομων οχημάτων | Περιοδικό Quanta

Τα αυτοκίνητα και τα αεροπλάνα χωρίς οδηγό δεν είναι πλέον η ουσία του μέλλοντος. Μόνο στην πόλη του Σαν Φρανσίσκο, δύο εταιρείες ταξί έχουν καταγράψει συλλογικά 8 εκατομμύρια μίλια αυτόνομης οδήγησης μέχρι τον Αύγουστο του 2023. Και περισσότερα από 850,000 αυτόνομα εναέρια οχήματα ή drones είναι ταξινομημένα στις Ηνωμένες Πολιτείες — χωρίς να υπολογίζονται αυτά που ανήκουν στον στρατό.

Αλλά υπάρχουν εύλογες ανησυχίες για την ασφάλεια. Για παράδειγμα, σε μια περίοδο 10 μηνών που έληξε τον Μάιο του 2022, η Εθνική Υπηρεσία Ασφάλειας Οδικής Κυκλοφορίας αναφερθεί σχεδόν 400 ατυχήματα με αυτοκίνητα που χρησιμοποιούν κάποια μορφή αυτόνομου ελέγχου. Έξι άνθρωποι έχασαν τη ζωή τους ως αποτέλεσμα αυτών των ατυχημάτων και πέντε τραυματίστηκαν σοβαρά.

Ο συνήθης τρόπος αντιμετώπισης αυτού του ζητήματος — που μερικές φορές ονομάζεται «δοκιμή λόγω εξάντλησης» — περιλαμβάνει τη δοκιμή αυτών των συστημάτων μέχρι να βεβαιωθείτε ότι είναι ασφαλή. Αλλά ποτέ δεν μπορείτε να είστε σίγουροι ότι αυτή η διαδικασία θα αποκαλύψει όλα τα πιθανά ελαττώματα. «Οι άνθρωποι πραγματοποιούν δοκιμές μέχρι να εξαντλήσουν τους πόρους και την υπομονή τους», είπε Σαγιάν Μήτρα, επιστήμονας υπολογιστών στο Πανεπιστήμιο του Ιλινόις, Urbana-Champaign. Ωστόσο, η δοκιμή από μόνη της δεν μπορεί να παρέχει εγγυήσεις.

Ο Μίτρα και οι συνεργάτες του μπορούν. Η ομάδα του τα κατάφερε αποδειχθούν ο ασφάλεια των δυνατοτήτων παρακολούθησης λωρίδας για αυτοκίνητα και συστήματα προσγείωσης για αυτόνομα αεροσκάφη. Η στρατηγική τους χρησιμοποιείται τώρα για να βοηθήσει στην προσγείωση drones σε αεροπλανοφόρα και η Boeing σχεδιάζει να τη δοκιμάσει σε πειραματικό αεροσκάφος φέτος. «Η μέθοδός τους να παρέχουν εγγυήσεις ασφάλειας από άκρο σε άκρο είναι πολύ σημαντική», είπε Κορίνα Πασαρεάνου, ερευνητής στο Πανεπιστήμιο Carnegie Mellon και στο Ερευνητικό Κέντρο Ames της NASA.

Το έργο τους περιλαμβάνει την εγγύηση των αποτελεσμάτων των αλγορίθμων μηχανικής μάθησης που χρησιμοποιούνται για την ενημέρωση των αυτόνομων οχημάτων. Σε υψηλό επίπεδο, πολλά αυτόνομα οχήματα έχουν δύο στοιχεία: ένα σύστημα αντίληψης και ένα σύστημα ελέγχου. Το σύστημα αντίληψης σας λέει, για παράδειγμα, πόσο απέχει το αυτοκίνητό σας από το κέντρο της λωρίδας ή ποια κατεύθυνση κατευθύνεται ένα αεροπλάνο και ποια είναι η γωνία του σε σχέση με τον ορίζοντα. Το σύστημα λειτουργεί τροφοδοτώντας ακατέργαστα δεδομένα από κάμερες και άλλα αισθητήρια εργαλεία σε αλγόριθμους μηχανικής μάθησης που βασίζονται σε νευρωνικά δίκτυα, τα οποία αναδημιουργούν το περιβάλλον έξω από το όχημα.

Αυτές οι αξιολογήσεις αποστέλλονται στη συνέχεια σε ένα ξεχωριστό σύστημα, τη μονάδα ελέγχου, η οποία αποφασίζει τι να κάνει. Εάν υπάρχει ένα επερχόμενο εμπόδιο, για παράδειγμα, αποφασίζει αν θα πατήσει τα φρένα ή θα κατευθύνει γύρω του. Σύμφωνα με Λούκα Καρλόνε, αναπληρωτής καθηγητής στο Ινστιτούτο Τεχνολογίας της Μασαχουσέτης, ενώ η ενότητα ελέγχου βασίζεται σε καθιερωμένη τεχνολογία, «λαμβάνει αποφάσεις με βάση τα αποτελέσματα της αντίληψης και δεν υπάρχει καμία εγγύηση ότι αυτά τα αποτελέσματα είναι σωστά».

Για την παροχή εγγύησης ασφάλειας, η ομάδα του Mitra εργάστηκε για τη διασφάλιση της αξιοπιστίας του συστήματος αντίληψης του οχήματος. Πρώτα υπέθεσαν ότι είναι δυνατό να εγγυηθεί κανείς την ασφάλεια όταν είναι διαθέσιμη μια τέλεια απόδοση του έξω κόσμου. Στη συνέχεια προσδιόρισαν πόσα σφάλματα εισάγει το σύστημα αντίληψης στην αναδημιουργία του περιβάλλοντος χώρου του οχήματος.

Το κλειδί σε αυτή τη στρατηγική είναι να ποσοτικοποιηθούν οι αβεβαιότητες που εμπλέκονται, γνωστές ως η ζώνη σφαλμάτων — ή τα «γνωστά άγνωστα», όπως το έθεσε ο Μίτρα. Αυτός ο υπολογισμός προέρχεται από αυτό που ο ίδιος και η ομάδα του αποκαλούν συμβόλαιο αντίληψης. Στη μηχανική λογισμικού, μια σύμβαση είναι μια δέσμευση ότι, για μια δεδομένη είσοδο σε ένα πρόγραμμα υπολογιστή, η έξοδος θα εμπίπτει σε ένα καθορισμένο εύρος. Το να καταλάβεις αυτό το εύρος δεν είναι εύκολο. Πόσο ακριβείς είναι οι αισθητήρες του αυτοκινήτου; Πόση ομίχλη, βροχή ή ηλιακή λάμψη μπορεί να ανεχτεί ένα drone; Αλλά εάν μπορείτε να διατηρήσετε το όχημα σε ένα καθορισμένο εύρος αβεβαιότητας και εάν ο προσδιορισμός αυτού του εύρους είναι αρκετά ακριβής, η ομάδα του Mitra απέδειξε ότι μπορείτε να διασφαλίσετε την ασφάλειά του.

Είναι μια γνωστή κατάσταση για όποιον έχει ανακριβές ταχύμετρο. Εάν γνωρίζετε ότι η συσκευή δεν απενεργοποιείται ποτέ περισσότερο από 5 μίλια την ώρα, μπορείτε και πάλι να αποφύγετε την ταχύτητα παραμένοντας πάντα 5 mph κάτω από το όριο ταχύτητας (όπως υποδεικνύεται από το αναξιόπιστο ταχύμετρό σας). Ένα συμβόλαιο αντίληψης παρέχει μια παρόμοια εγγύηση για την ασφάλεια ενός ατελούς συστήματος που εξαρτάται από τη μηχανική μάθηση.

«Δεν χρειάζεσαι τέλεια αντίληψη», είπε ο Carlone. «Θέλετε απλώς να είναι αρκετά καλό ώστε να μην τίθεται σε κίνδυνο η ασφάλεια». Η μεγαλύτερη συνεισφορά της ομάδας, είπε, είναι «η εισαγωγή ολόκληρης της ιδέας των συμβάσεων αντίληψης» και η παροχή των μεθόδων για την κατασκευή τους. Αυτό το έκαναν βασιζόμενοι σε τεχνικές από τον κλάδο της επιστήμης των υπολογιστών που ονομάζεται επίσημη επαλήθευση, η οποία παρέχει έναν μαθηματικό τρόπο επιβεβαίωσης ότι η συμπεριφορά ενός συστήματος ικανοποιεί ένα σύνολο απαιτήσεων.

«Αν και δεν γνωρίζουμε ακριβώς πώς το νευρωνικό δίκτυο κάνει αυτό που κάνει», είπε ο Mitra, έδειξαν ότι είναι ακόμα δυνατό να αποδειχθεί αριθμητικά ότι η αβεβαιότητα της εξόδου ενός νευρωνικού δικτύου βρίσκεται εντός ορισμένων ορίων. Και, αν συμβαίνει αυτό, τότε το σύστημα θα είναι ασφαλές. «Μπορούμε στη συνέχεια να παράσχουμε μια στατιστική εγγύηση για το εάν (και σε ποιο βαθμό) ένα δεδομένο νευρωνικό δίκτυο θα πληροί πραγματικά αυτά τα όρια».

Η αεροδιαστημική εταιρεία Sierra Nevada δοκιμάζει επί του παρόντος αυτές τις εγγυήσεις ασφαλείας κατά την προσγείωση ενός drone σε ένα αεροπλανοφόρο. Αυτό το πρόβλημα είναι κατά κάποιο τρόπο πιο περίπλοκο από την οδήγηση αυτοκινήτων λόγω της πρόσθετης διάστασης που συνεπάγεται η πτήση. «Στην προσγείωση, υπάρχουν δύο βασικά καθήκοντα», είπε Dragos Margineantu, επικεφαλής τεχνολόγος τεχνητής νοημοσύνης στην Boeing, «ευθυγραμμίζοντας το αεροπλάνο με τον διάδρομο προσγείωσης και διασφαλίζοντας ότι ο διάδρομος δεν έχει εμπόδια. Η δουλειά μας με τη Sayan περιλαμβάνει τη λήψη εγγυήσεων για αυτές τις δύο λειτουργίες.»

«Οι προσομοιώσεις που χρησιμοποιούν τον αλγόριθμο του Sayan δείχνουν ότι η ευθυγράμμιση [ενός αεροπλάνου πριν από την προσγείωση] βελτιώνεται», είπε. Το επόμενο βήμα, που έχει προγραμματιστεί για αργότερα αυτό το έτος, είναι να χρησιμοποιηθούν αυτά τα συστήματα ενώ στην πραγματικότητα προσγειώνεται ένα πειραματικό αεροπλάνο Boeing. Μία από τις μεγαλύτερες προκλήσεις, σημείωσε ο Margineantu, θα είναι να καταλάβουμε τι δεν γνωρίζουμε - «καθορισμός της αβεβαιότητας στις εκτιμήσεις μας» - και να δούμε πώς αυτό επηρεάζει την ασφάλεια. «Τα περισσότερα λάθη συμβαίνουν όταν κάνουμε πράγματα που νομίζουμε ότι γνωρίζουμε - και αποδεικνύεται ότι δεν τα ξέρουμε».