Elon Musks værste mareridt, Missy Cummings, plager nu Waymo og krydser også - Autoblog

Genudgivet af Platon

Abonnenter: 0

Missy Cummings fløj kampfly for flåden. Nu, som førende ekspert i automatisering og kunstig intelligens, retter hun sig mod selvkørende biler. Chelsea Jia Feng/Insider

I 2021 vakte en ingeniør ved navn Missy Cummings vrede Elon Musk på det sociale netværk, der dengang hed Twitter. En professor ved Duke University, Cummings havde forsket i sikkerheden ved selvkørende biler, og resultaterne fik hende til at udsende nogle skarpe advarsler om Teslas driver-assistance-teknologi. Bilerne, skrev hun, havde "variabel og ofte usikker adfærd". krævede flere tests "før sådan teknologi får lov til at fungere uden mennesker i direkte kontrol." På grund af sin forskning blev Cummings udnævnt til National Highway Traffic Safety Administration — at hjælpe med regulering af robot biler.

Tesla fans reagerede med deres sædvanlige ro og sans for perspektiv, hvilket jeg mener, at de absolut mistede det. Deres insisteren på, at Cummings ville forsøge at uretfærdigt regulere deres dreng Elon, fik snart Musk selv til at slutte sig til tråden. "Objektivt," han Tweetet, "hendes track record er ekstremt forudindtaget over for Tesla." Som svar udløste Musks stans deres fulde raseri på Cummings - hendes arbejde, hendes udseende, hendes motiver. De anklagede hende for interessekonflikter, underskrev underskriftsindsamlinger, der krævede hende fjernet, og sendte e-mail med dødstrusler.

Men sagen er, at Musks krigsbrødre rodede med den forkerte ingeniør. Som en af flådens første kvindelige jagerpiloter fløj Cummings F/A-18. (Kaldesignal: Spænd.) Hun blev ikke skræmt af nogle få personers pik-logrende adfærd på Twitter med anime-profilbilleder. Hun postede de værste trusler på LinkedIn, hyrede noget personlig sikkerhed og fortsatte med at kæmpe. "Jeg tænker, vil du virkelig gøre det her?" hun minder tænker. "Jeg fordobler. Jagerpiloten i mig kommer ud. Jeg elsker en god kamp."

Hun vandt ikke ligefrem den særlige forlovelse. En masse hvin fra Tesla skubbede NHTSA til at tvinge Cummings til at sige op fra alt, der involverer virksomheden. Men du ved, hvad de siger om enhver landing, du kan gå væk fra. Cummings tog en ny koncert på George Mason University og udvidede sin forskning fra Tesla til den bredere verden af alle selvkørende køretøjer. Med virksomheder som Cruise og Waymo udløser fuldt robotiserede taxaer på gaderne i San Francisco og andre byer, er fremkomsten af maskinerne begyndt - og Cummings er i frontlinjen af modstanden. I et kontroversielt nyt papir konkluderer hun, at de nye robottaxaer er fire til otte gange så sandsynlige som en menneskedrevet bil for at komme ud i et styrt. Og det tæller ikke måden selvkørende køretøjer forårsager mærkelige trafikpropper, blokering af udrykningskøretøjer, Og endda stopper oven på en person som allerede var blevet ramt af en menneskedrevet bil.

"I avisen, der virkelig gjorde alle Tesla-trolde sur på, siger jeg faktisk, at dette ikke kun er et Tesla-problem - at Tesla er den første, der oplever problemerne," fortæller Cummings til mig. "I årevis har jeg fortalt folk, at dette ville ske, at disse problemer ville dukke op ved selvkørende. Og det er de faktisk. Hvis nogen i selvkørende bil samfundet er overrasket, det er op til dem.”

Det viser sig, at tjeneste i flåden er en meget god måde at træne på indgående ire fra muskovitter. I hendes memoirer fra 1999, "Hornets Nest,” husker Cummings, hvordan hun elskede at flyve jetfly, og siger, at spændingen ved at blive slynget ned af et hangarskib – eller lande på et – aldrig blev gammel. Men miljøet var langt fra imødekommende. Seksuel chikane i flåden var rutine, og mandlige kolleger fortalte gentagne gange til Cummings, at hun ikke var kvalificeret til at flyve jagerfly, blot fordi hun var en kvinde. Da hun og en anden kvindelig officer dukkede op til en golfturnering på basen, fik de besked på at tage Hooters-uniformer på og køre i ølvognene. Cummings afslog.

Flyvende taktiske ødelæggelsesmotorer gav også Cummings en førstehåndslektion i de skjulte farer ved maskiner, automatisering og brugergrænseflader. På hendes første træningsdag blev to piloter dræbt. På hendes sidste dag oplevede flåden den værste træningskatastrofe, der nogensinde havde fundet sted ombord på et transportskib. I alt, i løbet af de tre år, Cummings fløj, døde 36 mennesker i ulykker.

I 2011, mens han forskede i robothelikoptere for flåden, havde Cummings en åbenbaring. Selv omgivet af intet andet end luft, var disse helos langt fra perfekte - og de stolede på de samme sensorer, som selvkørende biler gør, mens de opererer lige ved siden af biler og mennesker. "Da jeg kom dybt ind i mulighederne for disse sensorer," siger Cummings, "det var da jeg vågnede og sagde, puha, vi har et alvorligt problem i biler."

Nogle af farerne er tekniske. Folk bliver distraheret, selvkørende systemer bliver forvirrede i komplicerede miljøer og så videre. Men andre farer, siger Cummings, er mere subtile - "sociotekniske", som hun udtrykker det. Det, hun kalder den "hypermaskuline kultur i Silicon Valley", fletter sig sammen med Big Techs mission om at "bevæge sig hurtigt og bryde tingene." Både brokultur og en disruptiv tankegang, som hun ser det, tilskynder virksomheder til at udviske sikkerhedsrisici.

Alt dette gør det endnu sværere for kvinder, når de udsender den slags kritik, som Cummings har. "Da Elon Musk smed sine håndlangere på mig, misogynet om mig som kvinde, mit navn - blev det meget mørkt meget hurtigt," husker hun. "Jeg tror at militær har gjort mange fremskridt, men jeg tror, at det, der sker i disse Silicon Valley-virksomheder, bare er en påmindelse om, at vi ikke er kommet så langt i vores samfund, som jeg troede, vi ville have gjort.”

Et eksempel: Sidste måned udråbte sikkerhedschefen hos Waymo en ny undersøgelse fra sit firma på LinkedIn. Forskningen var upubliceret og havde ikke gennemgået peer review. Men Waymo brugte undersøgelsen til hævder det dets robotbiler var faktisk meget mindre tilbøjelige til at komme ud i ulykker end biler drevet af biologiske organismer som dig og mig.

En selvkørende taxa fra Waymo blokerer trafikken i San Francisco. "De blev selvtilfredse," siger Cummings. "De mistede deres sikkerhedskultur." Terry Chea/AP

Cummings havde det ikke. Hun havde sine nye resultater - også stadig i fortryk - som viste, at selvkørende taxaer var langt mere udsatte for sammenstød. Så hun gik også på LinkedIn og sagde det.

Svaret var bekendt for hende fra hendes dage i flåden. Kyle Vogt, CEO for Cruise, gled ind i kommentarerne. "Jeg ville elske at hjælpe dig med denne analyse," skrev han til Cummings og satte spørgsmålstegn ved hendes tal-knasende. "Det ville være fantastisk at forbinde og diskutere dette yderligere."

Cummings svarede i naturalier. "Jeg vil meget gerne hjælpe dig med din forståelse af grundlæggende statistik, brug af computersyn og hvad det vil sige at være en sikker og ansvarlig administrerende direktør i en virksomhed," hun skrev. "Ring når som helst."

Kvinder, regner hun, fangede hendes stemning. "Hver kvinde, der læste det, var sådan: Mmm-hmm, you go," siger Cummings. Men det gjorde mænd - venner i Silicon Valley - ikke. De syntes, hun havde været for ond mod Vogt. "Han prøvede bare at hjælpe dig," fortalte de hende.

"Alle fyrene læser det som: Hun er sådan en spidsmus!" siger Cummings. Men nogensinde som jagerpilot var hun uberørt. "Sådan fik jeg mit kaldesignal," siger hun. "Så jeg lever med det."

Så hvem har ret: Cummings eller de selvkørende mænd fra Waymo og Cruise og Tesla? Det er svært at sige, af en simpel grund: Dataene om sikkerheden af robotbiler suger.

Tag Cummings tilgang i hendes nye papir. Først skulle hun kæmpe med NHTSA'er landsdækkende data for ikke-dødelige ulykker af menneskelige bilister, for at få tal, hun kunne sammenligne med Californien, det eneste sted, hvor robotbilerne kører frit. Så måtte hun finde ud af sammenlignelige ikke-dødelige ulykkestal og tilbagelagte kilometer for Waymo og Cruise, sporet af forskellige kilder. Hendes konklusion: Cruise har otte ikke-dødelige ulykker for hvert menneske, og Waymo har fire - sammenlignelig med ulykkesraten for de trætte og overanstrengte chauffører ved ride-hail-tjenester som f.eks. Uber , Lyft.

Leverandørerne af robottaxier hævder, at Cummings tager fejl af en række årsager. Hovedsagelig, siger de, er tallene for menneskelige styrt faktisk undertæller. (Masser af fenderbendere bliver f.eks. ikke rapporteret.) Desuden kan ulykkestal for hele landet, eller endda kun Californien, ikke sammenlignes med dem for San Francisco, som er meget tættere og mere bakket end staten som helhed . Set på den måde, argumenterede Cruise i et nyligt blogindlæg, at dens taxaer har været involveret i 54 % færre ulykker end biler drevet af mennesker. Virksomheden fastholder også, at ride-hagl-chauffører kommer ud for et ikke-dødelig uheld for hver 85,027 miles af kørsel - 74% flere kollisioner end Cruises robotter.

Cummings køber det ikke. Et blogindlæg er ikke videnskab; det er en pressemeddelelse. "Enhver virksomhed har en finanspolitisk interesse i at få et papir ud, der får dem til at se godt ud, og i tilfældet med Cruise får det ridesharechauffører til at se dårlige ud," siger hun. "Så det er det, de gør." Det er præcis den slags socioteknisk kultur, som Cummings kritiserer - som hun er unikt kvalificeret til at kritisere.

Andre eksperter afviser også Cruises påstande, som de kommer fra folk, der er tilskyndet til at byde velkommen til vores nye robot-overlords. "Hvis vi skulle tro på de tal, som Cruise lægger ud for chauffører, der hilser på tur, ville disse chauffører i gennemsnit have to ulykker om året," siger Steven Shladover, en forskningsingeniør ved UC Berkeley's Institute of Transportation Studies. "Hvor mange bilister har to ulykker hvert år? Det er ret ekstremt."

Men Shladover er også skeptisk over for de tal, som Cummings fik. "Missy antager en ulykkesrate for mennesker, der er for lav til San Francisco, og Cruise viser en ulykkesrate for mennesker, der er for høj," siger han. "Virkeligheden er sandsynligvis et sted midt imellem."

Så måske har Cummings ret, og selvkørende biler er en trussel. Eller måske er det ikke helt så slemt, som hendes nye papir antyder. Indtil robotbiler har rejst hundreder af millioner af miles, er der ingen måde at få en statistisk signifikant, utvetydig konklusion på. Men bundlinjen er: Det burde ikke være ligegyldigt. Når dataene om et produkts eller en enheds sikkerhed er tvetydige, er det meningen, at tilsynsmyndigheder skal lave og håndhæve regler, der beskytter forbrugerne, ligesom de gør i andre brancher. Hvis dataene om robotbiler er tvetydige eller ufuldstændige, bør disse regler holde dem væk fra vejen. Bevisbyrden ligger på Waymo og Cruise og Tesla, ikke Missy Cummings. Og hvis disse virksomheder ønsker at sætte 2-tons robotter på offentlige gader, er blogging om databenchmarks ikke måden at vise folk, at de er klar på.

"En af de store ting, jeg er i gang med nu, fra mine år inden for luftfart, er, at alle disse virksomheder har brug for en chef AI-pilot," siger Cummings. "De skal have nogen, én person, der rejser sig og siger: 'Jeg er ansvarlig'. Det gør vi lige nu for luftfarten. Det var derfor, så mange hoveder rullede med de problemer, der skete med Boeing 737 Max. De blev selvtilfredse. De mistede deres sikkerhedskultur.”

Cummings er en omhyggelig forsker. Hun er også, som en transportsikkerhedsforsker sagde det privat, "provokerende." Hun er mere end glad for at straffe virksomheder som Tesla og Waymo og Cruise og argumentere for, at tech bros skal bringes inden for en strengere lovgivningsramme. I en vis forstand er hun Elon Musks værste mareridt. Hun har gentagne gange og rutinemæssigt sat sit liv på spil for at teste de utrolige egenskaber - og de dødelige grænser - af menneske-maskine-grænseflader. Og hun gjorde det i et miljø, hvor indsatsen er langt højere end slagmarkerne på Twitter og LinkedIn. For hende er sikkerheden ved selvkørende biler ikke et abstrakt spørgsmål. Det er et spørgsmål om liv og død.

"Jeg er fastansat professor. Mit arbejde taler for sig selv. Jeg prøver at redde dit liv, ikke?" siger Cummings. "Og der er den side af mig, hvor jeg er som Don Quixote på steroider. Der er ingen vindmølle, jeg ikke vil vippe mod.”

Adam Rogers er seniorkorrespondent hos Insider.

Læs den oprindelige artikel på Business Insider