Elon Musk’s Worst Nightmare, Missy Cummings, Is Now Tormenting Waymo And Cruise Too - Autoblog

Julkaissut Platon

seuraajia: 0

Missy Cummings lensi laivaston hävittäjiä. Nyt automaation ja tekoälyn johtavana asiantuntijana hän tavoittelee itseohjautuvia autoja. Chelsea Jia Feng/Insider

Vuonna 2021 insinööri nimeltä Missy Cummings sai vihan Elon Musk sosiaalisessa verkostossa, jonka nimi oli silloin Twitter. Duken yliopiston professori Cummings oli tehnyt tutkimusta itseohjautuvien autojen turvallisuudesta, ja havainnot saivat hänet antamaan joitain jyrkkiä varoituksia Teslan kuljettajaa avustava tekniikka. Hän kirjoitti, että autoilla oli "vaihtelevaa ja usein vaarallista käyttäytymistä". vaati lisää testausta "ennen kuin tällaisen tekniikan annetaan toimia ilman ihmisten suoraa hallintaa." Tutkimuksensa perusteella Cummings nimitettiin Kansallinen liikenneturvallisuushallinto - auttaa säätelyssä robotti autoja.

Tesla fanit reagoivat tavanomaisella levollisuudellaan ja perspektiivin tunteella, millä tarkoitan, että he menettivät sen täysin. Heidän vaatimuksensa siitä, että Cummings yrittäisi säädellä heidän poikaansa Elonia epäreilusti, sai pian Muskin itsensä liittymään ketjuun. "Objektiivisesti", hän Tweeted, "hänen historiansa on erittäin puolueellinen Teslaa vastaan." Vastauksena Muskin näkemykset päästivät valloilleen täyden raivonsa Cummingsia kohtaan – hänen työhönsä, ulkonäköönsä ja motiiviinsa. He syyttivät häntä eturistiriidoista, allekirjoittivat vetoomuksia, joissa vaadittiin hänen poistamistaan, ja lähettivät sähköpostilla tappouhkauksia.

Mutta asia on, että Muskin sodan veljet sekaisivat väärän insinöörin kanssa. Yhtenä laivaston ensimmäisistä naishävittäjälentäjistä Cummings lensi F/A-18-koneita. (Kutsumerkki: Shrew.) Hän ei pelottanut muutamien ihmisten munaa heiluttelua Twitterissä anime-profiilikuvien kanssa. Hän julkaisi pahimmat uhat LinkedInissä, palkkasi henkilökohtaista turvallisuutta ja jatkoi taistelua. "Olen kuin, aiotteko todella tehdä tämän?" hän muistuttaa ajattelu. "Tuplaan. Minussa oleva hävittäjälentäjä tulee ulos. Rakastan hyvää taistelua."

Hän ei varsinaisesti voittanut kyseistä kihlausta. Teslasta paljon huutoa pakotti NHTSA:n pakottamaan Cummingsin luopumaan itsestään mistä tahansa yhtiöön liittyvästä. Mutta tiedät mitä he sanovat kaikista laskuista, joilta voit kävellä pois. Cummings teki uuden keikan George Masonin yliopistossa ja laajensi tutkimustaan Teslasta laajempaan kaikki itseohjautuvat ajoneuvot. Yritysten, kuten Cruise ja Waymo vapauttamalla täysin robotisoituja takseja San Franciscon ja muiden kaupunkien kaduilla, koneiden nousu on alkanut – ja Cummings on vastarinnan etulinjassa. Uudessa kiistanalaisessa paperissa hän päättelee, että uudet robottitaksit ovat neljästä kahdeksaan kertaa todennäköisempiä kuin ihmisen ohjaama auto joutuvat kolariin. Eikä siinä oteta huomioon sitä, miten itse ajavat ajoneuvot aiheuttavat outoja liikenneruuhkia, hätäajoneuvojen estäminen, Ja jopa pysähtyä ihmisen päälle joka oli jo törmännyt ihmisen kuljettamaan autoon.

"Tesla-peikot todella suututtamassa paperissa sanon itse asiassa, että tämä ei ole vain Teslan ongelma - että Tesla on ensimmäinen, joka kokee ongelmat", Cummings kertoo. ”Olen vuosia kertonut ihmisille, että näin tulee tapahtumaan, että nämä ongelmat tulevat esiin itseajamisessa. Ja todellakin ovat. Jos joku itse ajava auto yhteisö on yllättynyt, se kuuluu heille."

Osoittautuu, että merivoimissa palveleminen on erittäin hyvä tapa kouluttaa muskovilaisten saapuvaa vihaa. Hänen vuoden 1999 muistelmissaan "Hornetit Pesä”, Cummings muistelee, kuinka hän rakasti suihkukoneiden lentämistä, ja sanoo, että lentotukialukselta katapultoituminen – tai sille laskeutuminen – ei koskaan vanhentunut. Mutta ympäristö oli kaukana vieraanvaraisesta. Seksuaalinen häirintä laivastossa oli rutiinia, ja mieskollegat kertoivat Cummingsille toistuvasti, ettei hän ollut pätevä lentämään hävittäjiä vain siksi, että hän oli nainen. Kun hän ja toinen naisupseeri ilmestyivät tukikohdan golfturnaukseen, heitä käskettiin pukemaan Hooters-univormut päälle ja ajamaan olutkärryjä. Cummings kieltäytyi.

Lentävät taktiset tuhon moottorit antoivat Cummingsille myös ensikäden oppitunnin koneiden, automaation ja käyttöliittymien piilossa olevista vaaroista. Hänen ensimmäisenä harjoituspäivänsä aikana kaksi lentäjää sai surmansa. Hänen viimeisenä päivänään laivasto koki pahimman harjoituskatastrofin, joka oli koskaan tapahtunut kuljetusaluksella. Kaikkiaan Cummingsin kolmen vuoden aikana onnettomuuksissa kuoli 36 ihmistä.

Vuonna 2011 Cummings koki epifania, kun hän tutki laivaston robottihelikoptereita. Jopa pelkän ilman ympäröimänä nuo helot eivät olleet läheskään täydellisiä – ja ne luottivat samoihin antureihin, joita itseajavat autot tekevät, kun ne toimivat aivan autojen ja ihmisten vieressä. "Kun perehdyin syvälle noiden antureiden ominaisuuksiin", Cummings sanoo, "heräsin ja sanoin, että hei, meillä on vakava ongelma autoissa."

Jotkut vaaroista ovat teknisiä. Ihmiset ovat hajamielisiä, itseohjautuvat järjestelmät hämmentyvät monimutkaisissa ympäristöissä ja niin edelleen. Mutta muut vaarat, Cummings sanoo, ovat hienovaraisempia - "sosioteknisiä", kuten hän sanoo. Se, mitä hän kutsuu "hypermaskuliiniksi kulttuuriksi Piilaaksossa", kietoutuu Big Techin mission julkilausumaan "liikkua nopeasti ja rikkoa asioita". Sekä veljen kulttuuri että häiritsevä ajattelutapa, sellaisena kuin hän sen näkee, kannustavat yrityksiä piilottamaan turvallisuusriskejä.

Kaikki tämä tekee naisten tilanteesta entistä kovempaa, kun he arvostelevat Cummingsin kaltaista kritiikkiä. "Kun Elon Musk myönsi kätyrinsä minuun, naisen naisvihaan, minun nimeni - se pimeni hyvin nopeasti", hän muistelee. "Minä luulen sotilaallinen on edistynyt paljon, mutta uskon, että se, mitä näissä Piilaakson yrityksissä tapahtuu, on vain muistutus siitä, että emme ole päässeet yhteiskunnassamme niin pitkälle kuin luulin meidän tulevan."

Esimerkki: Viime kuussa Waymon turvallisuuspäällikkö mainosti yrityksensä uutta tutkimusta LinkedInissä. Tutkimus oli julkaisematon, eikä sitä ollut vertaisarvioida. Mutta Waymo käytti tutkimusta väittää että sen robottiautot joutuivat itse asiassa paljon harvemmin kolareihin kuin autot, joita ajavat biologiset organismit, kuten sinä ja minä.

Waymon itse ajava taksi estää liikenteen San Franciscossa. "He olivat tyytyväisiä", Cummings sanoo. "He menettivät turvallisuuskulttuurinsa." Terry Chea/AP

Cummingsilla ei ollut sitä. Hän sai uudet tulokset – myös vielä preprintissä – jotka osoittivat itseohjautuvien taksien olevan paljon törmäysalttiimpia. Joten hän meni myös LinkedIniin ja sanoi niin.

Vastaus oli hänelle tuttu laivaston päivistä. Kyle Vogt, Cruisen toimitusjohtaja, liukastui kommentteihin. "Haluaisin auttaa sinua tässä analyysissä", hän kirjoitti Cummingsille kyseenalaistaen tämän numeron murskauksen. "Olisi hienoa saada yhteyttä ja keskustella tästä lisää."

Cummings vastasi ystävällisesti. "Haluan auttaa sinua ymmärtämään perustilastot, tietokonenäön käytön ja mitä tarkoittaa olla turvallinen ja vastuullinen toimitusjohtaja yrityksessä." hän kirjoitti. "Soita milloin tahansa."

Naiset, hän kuvittelee, saivat hänen tunnelmansa. "Jokainen nainen, joka luki sen, oli kuin: Mmm-hmm, mene", Cummings sanoo. Mutta miehet – ystävät Piilaaksossa – eivät. He ajattelivat, että hän oli ollut liian ilkeä Vogtia kohtaan. "Hän yritti vain auttaa sinua", he kertoivat hänelle.

"Kaikki kaverit lukivat sen näin: Hän on niin äijä!" Cummings sanoo. Mutta aina hävittäjälentäjänä hän oli häkeltynyt. "Sillä tavalla sain kutsutunnukseni", hän sanoo. "Elän siis sen kanssa."

Joten kuka on oikeassa: Cummings vai Waymon ja Cruisen ja Teslan itseohjautuvat miehet? Sitä on vaikea sanoa yksinkertaisesta syystä: robottiautojen turvallisuutta koskevat tiedot ovat perseestä.

Käytä Cummingsin lähestymistapaa hänen uudessa paperissaan. Ensin hänen täytyi kamppailla NHTSA:n valtakunnalliset tiedot ihmiskuljettajien ei-kuolemaan johtaneista kolareista saadakseen lukuja, joita hän voisi verrata Kaliforniaan, ainoaan paikkaan, jossa robottiautot kulkevat vapaasti. Sitten hänen täytyi selvittää vertailukelpoiset ei-kuolemaan johtaneet onnettomuudet ja Waymon ja Cruisen ajetut kilometrit, joita seurasivat erilaiset lähteet. Hänen päätelmänsä: Cruisella on kahdeksan ei-kuolemaan johtanutta kolaria jokaista ihmistä kohden ja Waymossa neljä - verrattavissa väsyneiden ja ylityöllistettyjen kuljettajien törmäysmääriin ratapalveluissa, kuten Uber ja Lyft.

Robottitaksien toimittajat väittävät, että Cummings on väärässä useista syistä. Pääasiassa he sanovat, että ihmisonnettomuuksien määrät ovat itse asiassa aliarvostettuja. (Esimerkiksi monet lokasuojan taivurit jäävät ilmoittamatta.) Lisäksi koko maan tai edes vain Kalifornian törmäyslukuja ei voi verrata San Franciscon lukuihin, joka on paljon tiheämpi ja mäkempi kuin koko osavaltio. . Tältä kannalta katsottuna Cruise väitti äskettäisessä blogikirjoituksessaan, että sen taksit ovat joutuneet 54 % vähemmän kolareihin kuin ihmisten ajamat autot. Yhtiö väittää myös, että raekuuroissa kuljettajat joutuvat yhteen ei-kuolemaan johtavaan kolariin jokaista 85,027 74 ajomailia kohti – XNUMX % enemmän törmäyksiä kuin Cruisen robotit.

Cummings ei osta sitä. Blogiviesti ei ole tiedettä; se on lehdistötiedote. "Jokaisella yrityksellä on verotuksellinen intressi saada paperi, joka saa ne näyttämään hyvältä, ja Cruisen tapauksessa se saa kyytiauton kuljettajat näyttämään huonolta", hän sanoo. "Joten sitä he tekevät." Juuri tällaista sosioteknistä kulttuuria Cummings arvostelee – jota hän on ainutlaatuisen pätevä kritisoimaan.

Myös muut asiantuntijat arvostelevat Cruisen väitteitä, kuten he tekevät ihmisiltä, jotka ovat innostuneet ottamaan vastaan uudet robottipäällikkömme. "Jos uskoisimme lukuihin, joita Cruise julkaisee kyydissä oleville kuljettajille, nämä kuljettajat joutuisivat keskimäärin kaksi onnettomuutta vuodessa", sanoo Steven Shladover, tutkimusinsinööri UC Berkeley's Institute of Transportation Studiesista. "Kuinka moni kuljettaja joutuu kahdesti kolariin vuodessa? Se on aika äärimmäistä."

Mutta Shladover suhtautuu myös skeptisesti Cummingsin murskaamiin lukuihin. "Missy olettaa, että ihmiskuljettajan törmäysprosentti on liian alhainen San Franciscolle, ja Cruise näyttää ihmisten törmäysten määrän olevan liian korkea", hän sanoo. "Todellisuus on luultavasti jossain siltä väliltä."

Joten ehkä Cummings on oikeassa, ja itseajavat autot ovat uhka. Tai ehkä se ei ole niin paha kuin hänen uudessa paperistaan ehdottaa. Ennen kuin robottiautot ovat matkustaneet satoja miljoonia kilometrejä, tilastollisesti merkitsevää, yksiselitteistä johtopäätöstä ei voida tehdä. Mutta lopputulos on: sillä ei pitäisi olla väliä. Kun tuotteen tai laitteen turvallisuutta koskevat tiedot ovat epäselviä, sääntelyvirastojen oletetaan laativan ja valvovan kuluttajia suojelevia sääntöjä, aivan kuten muillakin aloilla. Jos robottiautojen tiedot ovat epäselviä tai puutteellisia, näiden sääntöjen pitäisi pitää ne poissa tieltä. Todistustaakka on Waymolla, Cruisella ja Teslalla, ei Missy Cummingsilla. Ja jos nämä yritykset haluavat laittaa 2 tonnin robotteja julkisille kaduille, datan vertailuarvoista bloggaus ei ole tapa näyttää ihmisille, että he ovat valmiita.

"Yksi suurista asioista, joita käsittelen nyt, lentovuosieni pohjalta, on se, että kaikki nämä yritykset tarvitsevat johtavan tekoälylentäjän", Cummings sanoo. "Heillä on oltava joku, yksi henkilö, joka nousee seisomaan ja sanoo:" Olen vastuussa. Teemme niin tällä hetkellä lentoliikenteessä. Siksi niin monet päät pyörittelivät Boeing 737 Maxin kanssa tapahtuneita ongelmia. He tulivat tyytyväisiksi. He menettivät turvallisuuskulttuurinsa."

Cummings on huolellinen tutkija. Hän on myös, kuten eräs liikenneturvallisuuden tutkija yksityisesti ilmaisi, "provosoiva". Hän on enemmän kuin iloinen voidessaan vastustaa Teslan, Waymon ja Cruisen kaltaisia yrityksiä ja väittää, että tekniikan sisarukset on saatettava tiukemman sääntelykehyksen piiriin. Tavallaan hän on Elon Muskin pahin painajainen. Hän on toistuvasti ja rutiininomaisesti vaarantanut henkensä testatakseen ihmisen ja koneen rajapintojen uskomattomia kykyjä – ja tappavia rajoja. Ja hän teki sen ympäristössä, jossa panokset ovat paljon korkeammat kuin Twitterin ja LinkedInin taistelukentillä. Hänelle itseajavien autojen turvallisuus ei ole abstrakti kysymys. Se on elämän ja kuoleman kysymys.

"Olen vakituinen professori. Työni puhuu puolestaan. Yritän pelastaa henkesi, eikö niin?" Cummings sanoo. ”Ja se puoli minussa, jossa olen kuin Don Quijote steroideilla. Ei ole tuulimyllyä, johon en haluaisi kallistua."

Adam Rogers on Insiderin vanhempi kirjeenvaihtaja.

Lue alkuperäinen artikkeli Business Insider