Ο χειρότερος εφιάλτης του Elon Musk, Missy Cummings, είναι τώρα βασανιστικός και ο Waymo και η κρουαζιέρα - Autoblog

Αναδημοσίευση από τον Πλάτωνα

Ακολουθούν: 0

Η Missy Cummings πέταξε μαχητικά αεροσκάφη για το Πολεμικό Ναυτικό. Τώρα, ως κορυφαία εμπειρογνώμονας στον αυτοματισμό και την τεχνητή νοημοσύνη, στοχεύει στα αυτοοδηγούμενα αυτοκίνητα. Chelsea Jia Feng/Insider

Το 2021, μια μηχανικός με το όνομα Missy Cummings τράβηξε την οργή Elon Musk στο κοινωνικό δίκτυο που τότε ονομαζόταν Twitter. Καθηγήτρια στο Πανεπιστήμιο Duke, η Κάμινγκς είχε διεξαγάγει έρευνα για την ασφάλεια των αυτοοδηγούμενων αυτοκινήτων και τα ευρήματα την οδήγησαν να εκδώσει ορισμένες αυστηρές προειδοποιήσεις σχετικά με Η τεχνολογία υποστήριξης οδηγού της Tesla. Τα αυτοκίνητα, έγραψε, είχαν «μεταβλητές και συχνά μη ασφαλείς συμπεριφορές». απαιτούσε περισσότερες δοκιμές «Πριν επιτραπεί σε τέτοια τεχνολογία να λειτουργεί χωρίς τον άμεσο έλεγχο των ανθρώπων». Με βάση τη δύναμη της έρευνάς της, η Κάμινγκς διορίστηκε στο Εθνική Διοίκηση Ασφάλειας της Οδικής Κυκλοφορίας — να βοηθήσει στη ρύθμιση του ρομπότ αυτοκίνητα.

Τέσλα Οι θαυμαστές αντέδρασαν με τη συνηθισμένη τους ηρεμία και την αίσθηση της προοπτικής, με την οποία εννοώ ότι το έχασαν εντελώς. Η επιμονή τους ότι ο Κάμινγκς θα επιχειρούσε να ρυθμίσει άδικα το αγόρι τους, τον Έλον, ώθησε σύντομα τον ίδιο τον Μασκ να ενταχθεί στο νήμα. «Αντικειμενικά», εκείνος tweeted, "το ιστορικό της είναι εξαιρετικά προκατειλημμένο έναντι της Tesla." Σε απάντηση, οι στάσεις του Μασκ εξαπέλυσαν την πλήρη οργή τους για την Κάμινγκς - τη δουλειά της, την εμφάνισή της, τα κίνητρά της. Την κατηγόρησαν για σύγκρουση συμφερόντων, υπέγραψαν αναφορές που απαιτούσαν την απομάκρυνσή της και έστειλαν με email απειλές θανάτου.

Αλλά το θέμα είναι ότι τα αδέρφια του πολέμου του Μασκ μπερδεύονταν με λάθος μηχανικό. Ως μία από τις πρώτες γυναίκες πιλότους μαχητικών του Πολεμικού Ναυτικού, η Κάμινγκς πετούσε F/A-18. (Σύμβολο κλήσης: Σρι.) Δεν πτοήθηκε από τη συμπεριφορά λίγων ατόμων στο Twitter με τις φωτογραφίες προφίλ anime. Δημοσίευσε τις χειρότερες απειλές στο LinkedIn, προσέλαβε κάποια προσωπική ασφάλεια και συνέχισε να τσακώνεται. «Λέω, θα το κάνεις αλήθεια;» αυτή υπενθυμίζει σκέψη. «Διπλασιάζομαι. Ο πιλότος του μαχητικού μέσα μου βγαίνει. Λατρεύω τον καλό αγώνα».

Δεν κέρδισε ακριβώς τον συγκεκριμένο αρραβώνα. Πολλά γκρίνια από την Tesla ώθησε το NHTSA να αναγκάσει την Κάμινγκς να αποσυρθεί από οτιδήποτε αφορά την εταιρεία. Αλλά ξέρετε τι λένε για κάθε προσγείωση από την οποία μπορείτε να απομακρυνθείτε. Η Κάμινγκς πήρε μια νέα συναυλία στο Πανεπιστήμιο George Mason και διεύρυνε την έρευνά της από την Tesla στον ευρύτερο κόσμο της όλοι αυτοοδηγούμενα οχήματα. Με εταιρείες όπως η Cruise και Waymo εξαπολύοντας πλήρως ρομποτικά ταξί στους δρόμους του Σαν Φρανσίσκο και άλλων πόλεων, η άνοδος των μηχανών έχει αρχίσει — και ο Κάμινγκς βρίσκεται στην πρώτη γραμμή της αντίστασης. Σε μια αμφιλεγόμενη νέα δημοσίευση, καταλήγει στο συμπέρασμα ότι τα νέα ρομπότ ταξί έχουν τέσσερις έως οκτώ φορές περισσότερες πιθανότητες από ένα αυτοκίνητο που οδηγείται από άνθρωπο να πάθει σύγκρουση. Και αυτό δεν μετράει τον τρόπο που προκαλούν τα αυτόνομα οχήματα περίεργο μποτιλιάρισμα, μπλοκάρισμα οχημάτων έκτακτης ανάγκης, Και ακόμη σταματώντας πάνω από ένα άτομο που είχε ήδη χτυπηθεί από ανθρωποκίνητο αυτοκίνητο.

«Στο χαρτί που πραγματικά εξόργισε όλα τα τρολ της Tesla, στην πραγματικότητα λέω ότι αυτό δεν είναι απλώς ένα πρόβλημα Tesla – ότι ο Tesla είναι ο πρώτος που αντιμετωπίζει τα προβλήματα», μου λέει ο Cummings. «Επί χρόνια έλεγα στους ανθρώπους ότι αυτό επρόκειτο να συμβεί, ότι αυτά τα προβλήματα θα εμφανίζονταν στην αυτοοδήγηση. Και όντως είναι. Αν κάποιος στο αυτο-οδήγηση αυτοκινήτου Η κοινότητα είναι έκπληκτη, αυτό είναι πάνω τους».

Αποδεικνύεται ότι η θητεία στο Πολεμικό Ναυτικό είναι ένας πολύ καλός τρόπος εκπαίδευσης για την εισερχόμενη οργή από τους Μοσχοβίτες. Στα απομνημονεύματά της το 1999, "του Χόρνετ Nest», θυμάται η Κάμινγκς πώς της άρεσαν τα ιπτάμενα αεροσκάφη και λέει ότι ο ενθουσιασμός του να εκτοξευθεί από ένα αεροπλανοφόρο —ή να προσγειωθεί σε ένα— δεν γέρασε ποτέ. Αλλά το περιβάλλον δεν ήταν καθόλου φιλόξενο. Η σεξουαλική παρενόχληση στο Πολεμικό Ναυτικό ήταν ρουτίνα και οι άνδρες συνάδελφοι είπαν επανειλημμένα στον Cummings ότι δεν είχε τα προσόντα να πετά με μαχητικά απλώς και μόνο επειδή ήταν γυναίκα. Όταν αυτή και μια άλλη γυναίκα αξιωματικός εμφανίστηκαν σε ένα τουρνουά γκολφ στη βάση, τους είπαν να φορέσουν τις στολές των Hooters και να οδηγήσουν τα καρότσια της μπύρας. Ο Κάμινγκς μειώθηκε.

Οι ιπτάμενες τακτικές μηχανές καταστροφής έδωσαν επίσης στον Cummings ένα μάθημα από πρώτο χέρι για τους κρυμμένους κινδύνους των μηχανών, του αυτοματισμού και των διεπαφών χρήστη. Την πρώτη μέρα της εκπαίδευσής της σκοτώθηκαν δύο πιλότοι. Την τελευταία της μέρα, το Πολεμικό Ναυτικό γνώρισε τη χειρότερη εκπαιδευτική καταστροφή που είχε συμβεί ποτέ σε ένα αεροπλανοφόρο. Συνολικά, κατά τη διάρκεια των τριών ετών που πέταξε ο Κάμινγκς, 36 άνθρωποι πέθαναν σε ατυχήματα.

Το 2011, ενώ διεξήγαγε έρευνα σε ελικόπτερα ρομπότ για το Πολεμικό Ναυτικό, ο Κάμινγκς είχε μια επιφάνεια. Ακόμη και περιτριγυρισμένοι από τίποτε άλλο εκτός από αέρα, αυτοί οι ήλοι δεν ήταν καθόλου τέλειοι - και βασίζονταν στους ίδιους αισθητήρες που κάνουν τα αυτόνομα αυτοκίνητα ενώ λειτουργούν δίπλα σε αυτοκίνητα και ανθρώπους. «Όταν έμαθα βαθιά στις δυνατότητες αυτών των αισθητήρων», λέει ο Cummings, «τότε ξύπνησα και είπα, ω, έχουμε ένα σοβαρό πρόβλημα με τα αυτοκίνητα».

Μερικοί από τους κινδύνους είναι τεχνικοί. Οι άνθρωποι αποσπώνται, τα συστήματα αυτόνομης οδήγησης μπερδεύονται σε περίπλοκα περιβάλλοντα κ.λπ. Αλλά άλλοι κίνδυνοι, λέει η Κάμινγκς, είναι πιο λεπτοί - «κοινωνικοτεχνικοί», όπως το θέτει η ίδια. Αυτό που αποκαλεί «υπερανδρική κουλτούρα στη Silicon Valley» συνυφαίνεται με τη δήλωση αποστολής της Big Tech να «προχωρήσει γρήγορα και να σπάσει τα πράγματα». Τόσο η κουλτούρα των αδερφών όσο και η ανατρεπτική νοοτροπία, όπως τη βλέπει, δίνουν κίνητρα στις εταιρείες να ξεσκεπάσουν τους κινδύνους για την ασφάλεια.

Όλα αυτά καθιστούν ακόμη πιο σκληρό για τις γυναίκες όταν ισοπεδώνουν το είδος των κριτικών που έχει η Κάμινγκς. «Όταν ο Έλον Μασκ άρρωσε τα τσιράκια του πάνω μου, ο μισογυνισμός για εμένα ως γυναίκα, το όνομά μου - σκοτείνιασε πολύ γρήγορα», θυμάται. "Νομίζω το στρατιωτικός έχει κάνει πολλά βήματα, αλλά πιστεύω ότι αυτό που συμβαίνει σε αυτές τις εταιρείες της Silicon Valley είναι απλώς μια υπενθύμιση ότι δεν έχουμε φτάσει τόσο μακριά στην κοινωνία μας όσο πίστευα ότι θα κάναμε».

Ένα παράδειγμα: Τον περασμένο μήνα, ο επικεφαλής ασφάλειας της Waymo διαφημίστηκε μια νέα μελέτη από την εταιρεία του στο LinkedIn. Η έρευνα ήταν αδημοσίευτη και δεν είχε υποβληθεί σε αξιολόγηση από ομοτίμους. Αλλά ο Waymo χρησιμοποίησε τη μελέτη για να υποστηρίζουν ότι τα ρομπότ αυτοκίνητά του ήταν στην πραγματικότητα πολύ λιγότερο πιθανό να πέσουν σε ατυχήματα από τα αυτοκίνητα που οδηγούσαν βιολογικοί οργανισμοί όπως εσείς και εγώ.

Ένα αυτοοδηγούμενο ταξί από το Waymo εμποδίζει την κυκλοφορία στο Σαν Φρανσίσκο. «Ευσαρέστηκαν», λέει ο Κάμινγκς. «Έχασαν την κουλτούρα ασφαλείας τους». Terry Chea/AP

Ο Κάμινγκς δεν το είχε. Είχε τα νέα της αποτελέσματα - επίσης σε προεκτύπωση - τα οποία έδειξαν ότι τα αυτοοδηγούμενα ταξί ήταν πολύ πιο επιρρεπή σε ατυχήματα. Πήγε λοιπόν και στο LinkedIn και το είπε.

Η ανταπόκριση της ήταν γνωστή από τις μέρες της στο Πολεμικό Ναυτικό. Kyle Vogt, ο Διευθύνων Σύμβουλος της Cruise, μπήκε στα σχόλια. «Θα ήθελα πολύ να σε βοηθήσω με αυτήν την ανάλυση», έγραψε στην Κάμινγκς, αμφισβητώντας την τρελά τον αριθμό της. "Θα ήταν υπέροχο να συνδεθούμε και να το συζητήσουμε περαιτέρω."

Ο Κάμινγκς απάντησε ομοίως. «Θα ήθελα πολύ να σας βοηθήσω να κατανοήσετε τα βασικά στατιστικά στοιχεία, τη χρήση της όρασης υπολογιστή και τι σημαίνει να είσαι ασφαλής και υπεύθυνος Διευθύνων Σύμβουλος μιας εταιρείας.» αυτή έγραψε. «Καλέστε οποιαδήποτε στιγμή».

Οι γυναίκες, όπως λέει, έπιασαν το κλίμα της. «Κάθε γυναίκα που το διάβαζε ήταν σαν: Μμμ-μμ, φύγε», λέει η Κάμινγκς. Αλλά οι άνδρες - φίλοι στη Silicon Valley - δεν το έκαναν. Νόμιζαν ότι ήταν πολύ κακιά με τον Φογκτ. «Απλώς προσπαθούσε να σε βοηθήσει», της είπαν.

«Όλα τα παιδιά το διάβασαν σαν: Είναι τόσο τρελή!» λέει ο Κάμινγκς. Αλλά, πάντα πιλότος του μαχητικού, ήταν αδιάφορη. «Έτσι πήρα το διακριτικό μου κλήσης», λέει. «Οπότε ζω με αυτό».

Λοιπόν, ποιος έχει δίκιο: ο Κάμινγκς ή οι αυτοδιοικούμενοι άνδρες της Waymo και της Cruise και της Tesla; Είναι δύσκολο να το πούμε, για έναν απλό λόγο: τα δεδομένα για την ασφάλεια των αυτοκινήτων ρομπότ είναι χάλια.

Ακολουθήστε την προσέγγιση της Κάμινγκς στη νέα της εργασία. Πρώτα έπρεπε να παλέψει μαζί της του NHTSA δεδομένα σε εθνικό επίπεδο για μη θανατηφόρα ατυχήματα από ανθρώπους οδηγούς, για να πάρει αριθμούς που θα μπορούσε να συγκρίνει με την Καλιφόρνια, το μόνο μέρος όπου τα αυτοκίνητα ρομπότ κυκλοφορούν δωρεάν. Έπειτα, έπρεπε να βρει συγκρίσιμους αριθμούς μη θανατηφόρων ατυχημάτων και μίλια που διένυσε για το Waymo και το Cruise, που παρακολουθήθηκαν από διαφορετικές πηγές. Το συμπέρασμά της: Η Cruise έχει οκτώ μη θανατηφόρα ατυχήματα για κάθε άνθρωπο και η Waymo έχει τέσσερα — συγκρίσιμα με τα ποσοστά ατυχημάτων των κουρασμένων και καταπονημένων οδηγών σε υπηρεσίες όπως Uber και Lyft.

Οι προμηθευτές ρομπότ ταξί υποστηρίζουν ότι ο Κάμινγκς κάνει λάθος για πολλούς λόγους. Κυρίως, λένε, οι αριθμοί για ανθρώπινες συντριβές είναι στην πραγματικότητα υπομετρημένοι. (Πολλές στροφές φτερών, για παράδειγμα, δεν αναφέρονται.) Επιπλέον, οι αριθμοί ατυχημάτων για ολόκληρη τη χώρα, ή ακόμα και μόνο για την Καλιφόρνια, δεν μπορούν να συγκριθούν με εκείνους για το Σαν Φρανσίσκο, το οποίο είναι πολύ πιο πυκνό και πιο ανηφορικό από την πολιτεία συνολικά . Με αυτόν τον τρόπο, υποστήριξε η Cruise σε μια πρόσφατη ανάρτηση ιστολογίου, τα ταξί της έχουν εμπλακεί σε 54% λιγότερα ατυχήματα από τα αυτοκίνητα που οδηγούν άνθρωποι. Η εταιρεία υποστηρίζει επίσης ότι οι οδηγοί με χαλάζι μπαίνουν σε ένα μη θανατηφόρο ατύχημα για κάθε 85,027 μίλια οδήγησης - 74% περισσότερες συγκρούσεις από τα ρομπότ της Cruise.

Ο Κάμινγκς δεν το αγοράζει. Μια ανάρτηση ιστολογίου δεν είναι επιστήμη. είναι ένα δελτίο τύπου. «Κάθε εταιρεία έχει δημοσιονομικό συμφέρον να βγάλει ένα χαρτί που θα τις κάνει να φαίνονται καλές, και στην περίπτωση της Cruise κάνει τους οδηγούς να φαίνονται άσχημα», λέει. «Αυτό λοιπόν κάνουν». Αυτό ακριβώς είναι το είδος της κοινωνικοτεχνικής κουλτούρας που επικρίνει η Κάμινγκς - ότι έχει μοναδικά προσόντα να ασκήσει κριτική.

Άλλοι ειδικοί επίσης απορρίπτουν τους ισχυρισμούς του Cruise, όπως και από ανθρώπους που έχουν κίνητρα να καλωσορίσουν τους νέους άρχοντες ρομπότ. «Αν πιστεύαμε τους αριθμούς που η Cruise βγάζει εκεί για τους οδηγούς που οδηγούν με ιππασία, αυτοί οι οδηγοί θα είχαν κατά μέσο όρο δύο ατυχήματα το χρόνο», λέει ο Steven Shladover, ερευνητής μηχανικός στο Ινστιτούτο Μεταφορικών Μελετών του UC Berkeley. «Πόσοι οδηγοί έχουν δύο ατυχήματα κάθε χρόνο; Αυτό είναι αρκετά ακραίο».

Αλλά ο Shladover είναι επίσης δύσπιστος για τους αριθμούς που τσακίζει ο Cummings. «Η Missy υποθέτει ότι ο ρυθμός ατυχήματος ανθρώπινου οδηγού είναι πολύ χαμηλός για το Σαν Φρανσίσκο, και ο Cruise δείχνει ότι το ποσοστό ατυχήματος ανθρώπινου οδηγού είναι πολύ υψηλό», λέει. «Η πραγματικότητα είναι μάλλον κάπου στο ενδιάμεσο».

Ίσως λοιπόν ο Κάμινγκς να έχει δίκιο και τα αυτοοδηγούμενα αυτοκίνητα να αποτελούν απειλή. Ή ίσως δεν είναι τόσο κακό όσο προτείνει η νέα της εργασία. Μέχρι τα αυτοκίνητα ρομπότ να έχουν ταξιδέψει για εκατοντάδες εκατομμύρια μίλια, δεν υπάρχει τρόπος να βγάλουμε ένα στατιστικά σημαντικό, αδιαμφισβήτητο συμπέρασμα. Αλλά η ουσία είναι: Δεν πρέπει να έχει σημασία. Όταν τα δεδομένα για την ασφάλεια ενός προϊόντος ή μιας συσκευής είναι διφορούμενα, οι ρυθμιστικοί φορείς υποτίθεται ότι θεσπίζουν και επιβάλλουν κανόνες που προστατεύουν τους καταναλωτές, όπως ακριβώς κάνουν σε άλλους κλάδους. Εάν τα δεδομένα για τα αυτοκίνητα ρομπότ είναι διφορούμενα ή ελλιπή, τότε αυτοί οι κανόνες θα πρέπει να τα κρατήσουν εκτός δρόμου. Το βάρος της απόδειξης είναι η Waymo και η Cruise και η Tesla, όχι η Missy Cummings. Και αν αυτές οι εταιρείες θέλουν να τοποθετήσουν ρομπότ 2 τόνων σε δημόσιους δρόμους, το blogging σχετικά με δείκτες αναφοράς δεδομένων δεν είναι ο τρόπος για να δείξετε στους ανθρώπους ότι είναι έτοιμοι.

«Ένα από τα μεγάλα πράγματα με τα οποία ασχολούμαι τώρα, βγαίνοντας από τα χρόνια της αεροπορίας μου, είναι ότι όλες αυτές οι εταιρείες χρειάζονται έναν επικεφαλής πιλότο AI», λέει ο Cummings. «Χρειάζεται να έχουν κάποιον, ένα άτομο, που να σηκώνεται και να λέει: «Είμαι υπεύθυνος». Αυτό το κάνουμε τώρα για την αεροπορία. Γι' αυτό τόσα πολλά κεφάλια κύλησαν με τα προβλήματα που συνέβησαν με το Boeing 737 Max. Εφησυχάστηκαν. Έχασαν την κουλτούρα ασφαλείας τους».

Ο Κάμινγκς είναι προσεκτικός ερευνητής. Είναι επίσης, όπως το έθεσε ιδιωτικά ένας ερευνητής για την ασφάλεια των μεταφορών, «προκλητική». Είναι κάτι παραπάνω από χαρούμενη που στριμώχνει εταιρείες όπως η Tesla και η Waymo και η Cruise και υποστηρίζει ότι οι αδελφοί τεχνολογίας πρέπει να ενταχθούν σε ένα αυστηρότερο ρυθμιστικό πλαίσιο. Κατά μία έννοια, είναι ο χειρότερος εφιάλτης του Έλον Μασκ. Έχει ρισκάρει επανειλημμένα και τακτικά τη ζωή της για να δοκιμάσει τις απίστευτες δυνατότητες - και τα θανατηφόρα όρια - των διεπαφών ανθρώπου-μηχανής. Και το έκανε σε ένα περιβάλλον όπου το διακύβευμα είναι πολύ υψηλότερο από τα πεδία μάχης του Twitter και του LinkedIn. Για αυτήν, η ασφάλεια των αυτοοδηγούμενων αυτοκινήτων δεν είναι αφηρημένη ερώτηση. Είναι θέμα ζωής και θανάτου.

«Είμαι μόνιμος καθηγητής. Η δουλειά μου μιλάει από μόνη της. Προσπαθώ να σώσω τη ζωή σου, σωστά;" λέει ο Κάμινγκς. «Και υπάρχει η πλευρά μου όπου είμαι σαν τον Δον Κιχώτη στα στεροειδή. Δεν υπάρχει ανεμόμυλος στον οποίο δεν θέλω να γέρνω».

Άνταμ Ρότζερς είναι ανώτερος ανταποκριτής στο Insider.

Διαβάστε το αρχικό άρθρο σχετικά με Πρόσωπα Επιχειρήσεις