Il peggior incubo di Elon Musk, Missy Cummings, ora tormenta anche Waymo e Cruise - Autoblog

Ripubblicato da Platone

Seguaci: 0

Missy Cummings pilotava aerei da combattimento per la Marina. Ora, in qualità di massima esperta di automazione e intelligenza artificiale, sta prendendo di mira le auto a guida autonoma. Chelsea Jia Feng/Insider

Nel 2021, un'ingegnere di nome Missy Cummings ha attirato le ire di Elon Musk sul social network allora chiamato Twitter. Professoressa alla Duke University, Cummings aveva condotto una ricerca sulla sicurezza delle auto a guida autonoma e i risultati l'hanno portata a lanciare alcuni severi avvertimenti riguardo La tecnologia di assistenza alla guida di Tesla. Le auto, ha scritto, avevano “comportamenti variabili e spesso pericolosi”. richiedevano ulteriori test “prima che tale tecnologia possa funzionare senza il controllo diretto degli esseri umani”. Sulla base della sua ricerca, Cummings è stata nominata al National Highway Traffic Safety Administration - per aiutare con la regolamentazione di robot macchine.

Tesla i fan hanno reagito con la loro consueta equanimità e senso della prospettiva, con questo intendo dire che l'hanno completamente perso. La loro insistenza sul fatto che Cummings tentasse di regolamentare ingiustamente il loro ragazzo Elon ha presto spinto lo stesso Musk a unirsi al filo. "Obiettivamente", lui tweeted, "il suo curriculum è estremamente parziale contro Tesla." In risposta, i sostenitori di Musk hanno scatenato tutta la loro furia contro Cummings: il suo lavoro, il suo aspetto, le sue motivazioni. L'hanno accusata di conflitti di interessi, hanno firmato petizioni chiedendo la sua rimozione e hanno inviato minacce di morte via e-mail.

Ma il fatto è che i fratelli della guerra di Musk stavano scherzando con l'ingegnere sbagliato. Essendo una delle prime donne pilota di caccia della Marina, Cummings volava con gli F/A-18. (Segnale di chiamata: bisbetica.) Non è stata intimidita dal comportamento scodinzolante di alcune persone su Twitter con le foto del profilo anime. Ha pubblicato le peggiori minacce su LinkedIn, ha assunto alcuni addetti alla sicurezza personale e ha continuato a combattere. "Mi chiedo, lo farai davvero?" Lei ricorda pensiero. “Raddoppio. Il pilota da caccia che è in me viene fuori. Adoro una bella lotta.

Non ha vinto esattamente quel particolare fidanzamento. Molte lamentele da parte di Tesla ha spinto l'NHTSA a costringere Cummings a ricusarsi da qualsiasi cosa coinvolga la società. Ma sai cosa dicono di ogni atterraggio da cui puoi allontanarti. Cummings ha preso un nuovo incarico alla George Mason University e ha ampliato la sua ricerca da Tesla al mondo più ampio contro tutti i veicoli a guida autonoma. Con aziende come Cruise e Waymo scatenando taxi completamente robotizzati per le strade di San Francisco e di altre città, l’ascesa delle macchine è iniziata – e Cummings è in prima linea nella resistenza. In un nuovo articolo controverso, conclude che i nuovi taxi robot hanno da quattro a otto volte più probabilità di avere un incidente rispetto a un’auto guidata da esseri umani. E questo non conta le conseguenze che i veicoli a guida autonoma stanno causando strani ingorghi, blocco dei mezzi di soccorso, e persino fermarsi sopra una persona che era già stato investito da un'auto a guida umana.

"Nel documento che ha fatto incazzare tutti i troll di Tesla, in realtà affermo che questo non è solo un problema di Tesla, ma che Tesla è la prima a sperimentare i problemi", mi dice Cummings. “Per anni ho detto alla gente che sarebbe successo, che questi problemi si sarebbero manifestati nella guida autonoma. E infatti lo sono. Se qualcuno nel auto a guida autonoma la comunità è sorpresa, dipende da loro.

Si scopre che prestare servizio nella Marina è un ottimo modo per addestrarsi alle ire in arrivo dai muskoviti. Nel suo libro di memorie del 1999, “di calabroni Nest", Cummings ricorda quanto amava volare sugli aerei e dice che l'eccitazione di essere catapultata da una portaerei - o di atterrare su una - non invecchia mai. Ma l’ambiente era tutt’altro che accogliente. Le molestie sessuali in Marina erano una routine e i colleghi uomini avevano ripetutamente detto a Cummings che non era qualificata per pilotare caccia semplicemente perché era una donna. Quando lei e un'altra ufficiale donna si presentarono a un torneo di golf alla base, fu detto loro di indossare le uniformi degli Hooters e guidare i carretti della birra. Cummings ha rifiutato.

I motori tattici volanti di distruzione hanno inoltre fornito a Cummings una lezione diretta sui pericoli nascosti delle macchine, dell'automazione e delle interfacce utente. Durante il suo primo giorno di addestramento, due piloti furono uccisi. Nel suo ultimo giorno, la Marina ha vissuto il peggior disastro addestrativo mai avvenuto a bordo di una portaerei. In totale, durante i tre anni di volo di Cummings, morirono 36 persone in incidenti.

Nel 2011, mentre conduceva ricerche sugli elicotteri robot per la Marina, Cummings ebbe un'illuminazione. Anche circondati da nient’altro che aria, quegli elicotteri erano tutt’altro che perfetti e facevano affidamento sugli stessi sensori utilizzati dalle auto a guida autonoma mentre operano proprio accanto ad auto e persone. "Quando ho approfondito le capacità di questi sensori", dice Cummings, "è stato allora che mi sono svegliato e ho detto, whoa, abbiamo un problema serio con le auto".

Alcuni dei pericoli sono tecnici. Le persone si distraggono, i sistemi di guida autonoma si confondono in ambienti complicati e così via. Ma altri pericoli, dice Cummings, sono più sottili – “sociotecnici”, come dice lei. Quella che lei chiama la "cultura ipermascolina della Silicon Valley" si intreccia con la dichiarazione d'intenti di Big Tech di "muoversi velocemente e rompere le cose". Sia la cultura del fratello che una mentalità dirompente, secondo lei, incentivano le aziende a sorvolare sui rischi per la sicurezza.

Tutto ciò rende ancora più difficile per le donne quando esprimono il tipo di critiche che ha Cummings. "Quando Elon Musk ha scagliato contro di me i suoi servi, la misoginia su di me come donna, sul mio nome, tutto è diventato molto oscuro molto rapidamente", ricorda. "Penso che la militare ha fatto molti passi avanti, ma penso che ciò che sta accadendo in queste aziende della Silicon Valley sia solo un promemoria del fatto che nella nostra società non siamo arrivati così lontano come pensavo”.

Un esempio: il mese scorso, il responsabile della sicurezza di Waymo ha pubblicizzato un nuovo studio della sua azienda su LinkedIn. La ricerca era inedita e non era stata sottoposta a peer review. Ma Waymo usava lo studio per farlo sostengo questo le sue auto robotiche avevano in realtà molte meno probabilità di finire in incidenti rispetto alle auto guidate da organismi biologici come te e me.

Un taxi a guida autonoma di Waymo blocca il traffico a San Francisco. "Si sono accontentati", dice Cummings. “Hanno perso la loro cultura della sicurezza”. Terry Chea/AP

Cummings non ce l'aveva fatta. Aveva i suoi nuovi risultati – anch’essi ancora in fase di prestampa – che mostravano che i taxi a guida autonoma erano molto più inclini agli incidenti. Quindi anche lei è andata su LinkedIn e lo ha detto.

La risposta le era familiare fin dai tempi in cui era in Marina. Kyle Vogt, CEO di Cruise, scivolato nei commenti. "Mi piacerebbe aiutarti con questa analisi", scrisse a Cummings, mettendo in dubbio la sua elaborazione dei numeri. "Sarebbe fantastico connettersi e discuterne ulteriormente."

Cummings ha risposto a tono. "Mi piacerebbe aiutarti a comprendere le statistiche di base, l'uso della visione artificiale e cosa significa essere un CEO sicuro e responsabile di un'azienda" lei scrisse. "Chiama quando vuoi."

Le donne, immagina, hanno colto la sua atmosfera. "Ogni donna che lo ha letto diceva: Mmm-hmm, vai tu", dice Cummings. Ma gli uomini – gli amici della Silicon Valley – no. Pensavano che fosse stata troppo cattiva con Vogt. "Stava solo cercando di aiutarti", le dissero.

"Tutti i ragazzi lo leggono così: è una tale bisbetica!" Cummings dice. Ma, da sempre pilota di caccia, rimase impassibile. "È così che ho ottenuto il mio identificativo di chiamata", dice. "Quindi ci convivo."

Quindi chi ha ragione: Cummings o gli uomini autonomi di Waymo, Cruise e Tesla? È difficile dirlo, per una ragione semplice: i dati sulla sicurezza delle auto robotiche fanno schifo.

Prendi l'approccio di Cummings nel suo nuovo articolo. Per prima cosa ha dovuto lottare NHTSA dati a livello nazionale sugli incidenti non mortali di conducenti umani, per ottenere numeri da poter confrontare con la California, l’unico posto dove le auto robotiche corrono libere. Quindi ha dovuto calcolare il numero di incidenti non mortali comparabili e le miglia percorse per Waymo e Cruise, monitorate da fonti divergenti. La sua conclusione: Cruise ha otto incidenti non mortali per ogni essere umano, e Waymo ne ha quattro, paragonabili al tasso di incidenti degli autisti affaticati e oberati di lavoro nei servizi di ride-hail come Uber ed Lyft.

I fornitori di taxi robot sostengono che Cummings ha torto per una serie di ragioni. Principalmente, dicono, i numeri degli incidenti umani sono in realtà sottostimati. (Molti incidenti, ad esempio, non vengono segnalati.) Inoltre, il numero di incidenti per l'intero paese, o anche solo per la California, non può essere paragonato a quello di San Francisco, che è molto più densa e collinosa dello stato nel suo complesso. . Da questo punto di vista, Cruise ha sostenuto in un recente post sul blog, i suoi taxi sono stati coinvolti in un numero di incidenti pari al 54% in meno rispetto alle auto guidate da esseri umani. L'azienda sostiene inoltre che i conducenti di grandine subiscono un incidente non mortale ogni 85,027 miglia di guida: il 74% in più di collisioni rispetto ai robot di Cruise.

Cummings non ci crede. Un post sul blog non è scienza; è un comunicato stampa. "Ogni azienda ha un interesse fiscale a pubblicare un documento che le faccia sembrare buone, e nel caso di Cruise fa sembrare cattivi i conducenti di rideshare", afferma. "Quindi è quello che stanno facendo." Questo è esattamente il tipo di cultura sociotecnica che Cummings critica – e che lei è l'unica qualificata per criticare.

Anche altri esperti smentiscono le affermazioni di Cruise, provenendo da persone incentivate ad accogliere i nostri nuovi signori robot. "Se dovessimo credere ai numeri che Cruise sta pubblicando sugli autisti del ride-hailing, questi autisti avrebbero una media di due incidenti all'anno", afferma Steven Shladover, un ingegnere ricercatore presso l'Institute of Transportation Studies dell'UC Berkeley. “Quanti automobilisti subiscono due incidenti ogni anno? Questo è piuttosto estremo.

Ma Shladover è anche scettico riguardo ai numeri elaborati da Cummings. "Missy presuppone un tasso di incidenti tra conducenti umani troppo basso per San Francisco, mentre Cruise mostra un tasso di incidenti umani troppo alto", afferma. “La realtà probabilmente è da qualche parte nel mezzo.”

Quindi forse Cummings ha ragione e le auto a guida autonoma sono una minaccia. O forse non è così grave come suggerisce il suo nuovo articolo. Fino a quando le auto robotiche non avranno viaggiato per centinaia di milioni di miglia, non c'è modo di ottenere una conclusione statisticamente significativa e inequivocabile. Ma la conclusione è: non dovrebbe avere importanza. Quando i dati sulla sicurezza di un prodotto o di un dispositivo sono equivoci, le agenzie di regolamentazione dovrebbero stabilire e applicare regole che proteggano i consumatori, proprio come fanno in altri settori. Se i dati sulle auto robotiche sono ambigui o incompleti, tali regole dovrebbero tenerle lontane dalla circolazione. L’onere della prova spetta a Waymo, Cruise e Tesla, non a Missy Cummings. E se queste aziende vogliono mettere robot da 2 tonnellate sulle strade pubbliche, bloggare sui benchmark dei dati non è il modo per mostrare alle persone che sono pronte.

"Una delle cose più importanti su cui mi sto concentrando adesso, attingendo dai miei anni nell'aviazione, è che tutte queste aziende hanno bisogno di un capo pilota AI", afferma Cummings. “Hanno bisogno di qualcuno, una persona, che si alzi e dica: 'Sono responsabile'. Lo facciamo proprio adesso per l’aviazione. Ecco perché così tante teste sono cadute per i problemi accaduti con il Boeing 737 Max. Si sono accontentati. Hanno perso la cultura della sicurezza”.

Cummings è un ricercatore attento. È anche, come ha detto in privato un ricercatore sulla sicurezza dei trasporti, "provocatoria". È più che felice di attaccare aziende come Tesla, Waymo e Cruise, e di sostenere che i fratelli tecnologici devono essere inseriti in un quadro normativo più rigido. In un certo senso, è il peggior incubo di Elon Musk. Ha ripetutamente e regolarmente rischiato la vita per testare le incredibili capacità – e i limiti letali – delle interfacce uomo-macchina. E lo ha fatto in un ambiente in cui la posta in gioco è molto più alta dei campi di battaglia di Twitter e LinkedIn. Per lei la sicurezza delle auto a guida autonoma non è una questione astratta. È una questione di vita o di morte.

“Sono un professore di ruolo. Il mio lavoro parla da solo. Sto cercando di salvarti la vita, vero?" Cummings dice. “E c'è un lato di me in cui sono come Don Chisciotte sotto steroidi. Non c'è mulino a vento contro il quale non voglio inclinarmi.

Adam Roger è un corrispondente senior di Insider.

Leggi l'articolo originale su Business Insider