Elon Musk’s Worst Nightmare, Missy Cummings, Is Now Tormenting Waymo And Cruise Too - Autoblog

Opublikowane ponownie przez Plato

Obserwuje: 0

Missy Cummings latała myśliwcami dla marynarki wojennej. Teraz jako wiodący ekspert w dziedzinie automatyzacji i sztucznej inteligencji skupia się na samochodach autonomicznych. Chelsea Jia Feng/Insider

W 2021 roku gniew wzbudziła inżynierka Missy Cummings Elon Musk w serwisie społecznościowym zwanym wówczas Twitterem. Cummings, profesor na Uniwersytecie Duke, przeprowadziła badania na temat bezpieczeństwa samochodów autonomicznych, a odkrycia skłoniły ją do wydania kilku surowych ostrzeżeń Technologia wspomagania kierowcy Tesli. Napisała, że samochody te charakteryzują się „zmiennym i często niebezpiecznym zachowaniem”. wymagał dalszych testów „zanim taka technologia będzie mogła działać bez bezpośredniej kontroli człowieka”. Na podstawie swoich badań Cummings została powołana do National Highway Traffic Safety Administration — pomoc w regulacji robot samochody.

Tesla fani zareagowali ze swoim zwykłym spokojem i wyczuciem perspektywy, co mam na myśli, że całkowicie go stracili. Ich naleganie, że Cummings będzie próbował niesprawiedliwie regulować ich syna Elona, wkrótce skłoniło samego Muska do przyłączenia się do wątku. „Obiektywnie” – on podsumowałem„jej osiągnięcia są wyjątkowo stronnicze w stosunku do Tesli”. W odpowiedzi zwolennicy Muska spuścili całą wściekłość na Cummings – jej pracę, wygląd i motywy. Oskarżyli ją o konflikt interesów, podpisali petycje żądające jej usunięcia i wysłali e-maile z groźbami śmierci.

Rzecz w tym, że bracia wojenni Muska zadarli z niewłaściwym inżynierem. Jako jedna z pierwszych kobiet-pilotów myśliwców Marynarki Wojennej Cummings latała na samolotach F/A-18. (Znak wywoławczy: Shrew.) Nie przestraszyło jej machanie kutasami kilka osób na Twitterze, zamieszczających zdjęcia profilowe z anime. Opublikowała najgorsze groźby na LinkedIn, zatrudniła ochroniarza i dalej walczyła. „Zastanawiam się, czy naprawdę to zrobisz?” ona wspomina myślący. „Podwajam. Wychodzi ze mnie pilot myśliwca. Uwielbiam dobrą walkę.”

Nie do końca wygrała to konkretne zaręczyny. Dużo narzekania pod adresem Tesli naciskał na NHTSA, aby zmusiła Cummings do wycofania się od wszystkiego, co dotyczy firmy. Ale wiesz, co mówią o każdym lądowaniu, z którego można wyjść. Cummings podjęła nową pracę na Uniwersytecie George'a Masona i rozszerzyła swoje badania z Tesli na szerszy świat cała kolekcja pojazdy autonomiczne. Z firmami takimi jak Cruise i Waymo wypuszczając w pełni zrobotyzowane taksówki na ulice San Francisco i innych miast, rozpoczęło się powstanie maszyn, a Cummings znalazł się na pierwszej linii oporu. W kontrowersyjnym nowym artykule konkluduje, że ryzyko wypadku w przypadku nowych taksówek robotów jest cztery do ośmiu razy większe niż w przypadku samochodu prowadzonego przez człowieka. Nie liczy się to, jakie szkody powodują pojazdy autonomiczne dziwne korki, blokowanie pojazdów uprzywilejowanych, A nawet zatrzymując się na osobie który został już potrącony przez samochód prowadzony przez człowieka.

„W artykule, który naprawdę wkurzył wszystkie trolle Tesli, właściwie mówię, że to nie tylko problem Tesli – że Tesla jest pierwszą osobą, która doświadcza tych problemów” – mówi mi Cummings. „Przez lata mówiłem ludziom, że to się stanie, że problemy pojawią się w przypadku autonomicznej jazdy. I rzeczywiście są. Jeżeli ktoś w samochód samojezdny społeczność jest zaskoczona, to ich wina”.

Okazuje się, że służba w Marynarce Wojennej to bardzo dobry sposób na przygotowanie się do napływającego gniewu Moskali. W swoich wspomnieniach z 1999 r.Szerszeń Nest” – Cummings wspomina, jak uwielbiała latać odrzutowcami, i twierdzi, że ekscytacja związana z katapultowaniem się z lotniskowca lub lądowaniem na nim nigdy mi się nie znudziła. Ale otoczenie było dalekie od przyjaznego. Molestowanie seksualne w marynarce wojennej było na porządku dziennym, a koledzy wielokrotnie powtarzali Cummings, że nie ma kwalifikacji do latania myśliwcami tylko dlatego, że jest kobietą. Kiedy ona i inna funkcjonariuszka pojawiła się w bazie na turnieju golfowym, kazano im założyć mundury Hooters i prowadzić wózki z piwem. Cummings odmówił.

Latające taktyczne machiny zniszczenia dostarczyły także Cummingsowi lekcji z pierwszej ręki na temat ukrytych niebezpieczeństw związanych z maszynami, automatyzacją i interfejsami użytkownika. Pierwszego dnia szkolenia zginęło dwóch pilotów. Ostatniego dnia Marynarka Wojenna doświadczyła najgorszej katastrofy szkoleniowej, jaka kiedykolwiek miała miejsce na pokładzie lotniskowca. W sumie w ciągu trzech lat lotu Cummingsa w wypadkach zginęło 36 osób.

W 2011 roku, prowadząc badania nad helikopterami-robotami dla Marynarki Wojennej, Cummings doznał objawienia. Nawet otoczone samym powietrzem te helikoptery były dalekie od doskonałości — i działały w oparciu o te same czujniki, co samochody autonomiczne, gdy działały tuż obok samochodów i ludzi. „Kiedy głębiej zapoznałem się z możliwościami tych czujników” – mówi Cummings – „wtedy się obudziłem i powiedziałem: och, mamy poważny problem z samochodami”.

Niektóre zagrożenia mają charakter techniczny. Ludzie się rozpraszają, systemy autonomiczne gubią się w skomplikowanych środowiskach i tak dalej. Cummings twierdzi jednak, że inne zagrożenia są bardziej subtelne – „socjotechniczne”, jak to określa. To, co nazywa „kulturą hipermęską w Dolinie Krzemowej”, przeplata się z misją Big Tech, która brzmi: „działać szybko i niszczyć rzeczy”. Zarówno kultura braterska, jak i przełomowy sposób myślenia, jej zdaniem, zachęcają firmy do ukrywania zagrożeń dla bezpieczeństwa.

Wszystko to sprawia, że kobietom jest jeszcze trudniej, gdy krytykują tego rodzaju krytykę, jaką ma Cummings. „Kiedy Elon Musk obrzucał mnie swoimi sługusami, mizoginią związaną ze mną jako kobietą i moim imieniem – bardzo szybko zrobiło się ciemno” – wspomina. "Myślę że wojsko poczyniło duże postępy, ale uważam, że to, co dzieje się w firmach z Doliny Krzemowej, przypomina tylko, że w naszym społeczeństwie nie zaszliśmy tak daleko, jak myślałem”.

Przykład: w zeszłym miesiącu szef ds. bezpieczeństwa w Waymo pochwalił się na LinkedIn nowym badaniem przeprowadzonym w swojej firmie. Badanie nie zostało opublikowane i nie zostało poddane recenzji naukowej. Ale Waymo wykorzystał to badanie argumentować to jego samochody-roboty w rzeczywistości ulegały wypadkom znacznie rzadziej niż samochody prowadzone przez organizmy biologiczne, takie jak ty i ja.

Samobieżna taksówka Waymo blokuje ruch w San Francisco. „Wpadli w samozadowolenie” – mówi Cummings. „Stracili kulturę bezpieczeństwa”. Terry’ego Chea/AP

Cummingsowi to nie przeszkadzało. Miała nowe wyniki – również jeszcze w przygotowaniu – które wykazały, że taksówki autonomiczne są znacznie bardziej podatne na wypadki. Więc ona też weszła na LinkedIn i to powiedziała.

Odpowiedź znała z czasów, gdy służyła w marynarce wojennej. Kyle Vogt, dyrektor generalny Cruise, wkradło się do komentarzy. „Chciałbym pomóc ci w tej analizie” – napisał do Cummings, kwestionując jej analizowanie liczb. „Byłoby wspaniale nawiązać kontakt i omówić tę kwestię dalej”.

Cummings odpowiedział w podobny sposób. „Chciałbym pomóc Ci w zrozumieniu podstawowych statystyk, korzystania z wizji komputerowej oraz tego, co to znaczy być bezpiecznym i odpowiedzialnym dyrektorem generalnym firmy” Ona napisała. „Zadzwoń o każdej porze.”

Uważa, że kobiety wyczuwały jej klimat. „Każda kobieta, która to przeczytała, mówiła: Mmm, hmm, jedziesz” – mówi Cummings. Ale mężczyźni – przyjaciele z Doliny Krzemowej – nie. Myśleli, że była zbyt niemiła dla Vogta. „Chciał ci tylko pomóc” – powiedzieli jej.

„Wszyscy faceci to czytali w ten sposób: „Ona jest taka złośliwa!” Cummings mówi. Ale jako pilot myśliwca była niewzruszona. „W ten sposób otrzymałam swój znak wywoławczy” – mówi. „Więc z tym żyję.”

Kto więc ma rację: Cummings czy samolubni ludzie z Waymo, Cruise'a i Tesli? Trudno to stwierdzić z prostego powodu: dane dotyczące bezpieczeństwa samochodów-robotów są do niczego.

Weźmy podejście Cummings w jej nowym artykule. Najpierw musiała się z nią zmagać NHTSA ogólnokrajowe dane dotyczące wypadków, w których nie doszło do skutku śmiertelnego z udziałem ludzkich kierowców, aby uzyskać liczby, które mogłaby porównać z Kalifornią, jedynym miejscem, gdzie samochody-roboty poruszają się swobodnie. Następnie musiała ustalić porównywalną liczbę wypadków bez ofiar śmiertelnych oraz liczbę przebytych kilometrów w przypadku Waymo i Cruise’a, według rozbieżnych źródeł. Jej wniosek: Cruise ma osiem wypadków bez ofiar śmiertelnych na każdego człowieka, a Waymo ma cztery – porównywalne ze wskaźnikiem wypadków wśród zmęczonych i przepracowanych kierowców w przewoźnikach takich jak Uber i LYFT.

Dostawcy robotycznych taksówek twierdzą, że Cummings nie ma racji z kilku powodów. Mówią, że przede wszystkim liczby wypadków z udziałem ludzi są w rzeczywistości zaniżone. (Na przykład wiele przypadków wyginania się błotników nie jest zgłaszanych). Ponadto liczby wypadków w całym kraju, a nawet w samej Kalifornii, nie można porównywać z tymi, które miały miejsce w San Francisco, które jest znacznie gęstsze i bardziej pagórkowate niż cały stan. . Patrząc z tej strony, jak stwierdził Cruise w niedawnym poście na blogu, taksówki tej firmy brały udział w o 54% mniejszej liczbie wypadków niż samochody prowadzone przez ludzi. Firma utrzymuje również, że na każde przejechane 85,027 74 km zdarza się jednemu wypadkowi bez skutku śmiertelnego, co stanowi o XNUMX% więcej kolizji niż w przypadku robotów Cruise’a.

Cummings tego nie kupuje. Wpis na blogu nie jest nauką; to informacja prasowa. „W interesie finansowym każdej firmy jest wydawanie gazety, która będzie dobrze wyglądać, a w przypadku Cruise'a sprawia, że kierowcy korzystający z wspólnych przejazdów wyglądają źle” – mówi. „Więc to właśnie robią.” To jest dokładnie ten rodzaj kultury socjotechnicznej, którą Cummings krytykuje – do krytykowania której ma wyjątkowe kwalifikacje.

Inni eksperci również lekceważą twierdzenia Cruise'a, ponieważ pochodzą od ludzi, którzy są zachęcani do powitania naszych nowych robotycznych władców. „Gdybyśmy wierzyli liczbom, jakie Cruise przedstawia kierowcom przewożącym pasażerów, to kierowcy ci mieliby średnio dwa wypadki rocznie” – mówi Steven Shladover, inżynier ds. badań w Instytucie Studiów nad Transportem na Uniwersytecie Kalifornijskim w Berkeley. „Ilu kierowców ma dwa wypadki rocznie? To dość ekstremalne.”

Ale Shladover jest również sceptyczny co do liczb przedstawionych przez Cummingsa. „Missy zakłada, że wskaźnik wypadków z udziałem ludzi jest zbyt niski jak na San Francisco, a Cruise wykazuje, że wskaźnik wypadków z udziałem ludzi jest zbyt wysoki” – mówi. „Rzeczywistość prawdopodobnie leży gdzieś pośrodku.”

Może więc Cummings ma rację i samochody autonomiczne stanowią zagrożenie. A może nie jest tak źle, jak sugeruje jej nowy artykuł. Dopóki samochody-roboty nie przebędą setek milionów mil, nie można wyciągnąć statystycznie istotnych i jednoznacznych wniosków. Ale konkluzja jest taka: to nie powinno mieć znaczenia. Kiedy dane na temat bezpieczeństwa produktu lub urządzenia są niejednoznaczne, organy regulacyjne mają obowiązek tworzyć i egzekwować zasady chroniące konsumentów, tak jak ma to miejsce w innych branżach. Jeśli dane dotyczące samochodów-robotów są niejednoznaczne lub niekompletne, zasady te powinny trzymać je z dala od dróg. Ciężar dowodu spoczywa na Waymo, Cruise i Tesli, a nie na Missy Cummings. A jeśli te firmy chcą umieścić 2-tonowe roboty na ulicach publicznych, blogowanie na temat testów porównawczych danych nie jest sposobem na pokazanie ludziom, że są gotowe.

„Jedną z najważniejszych rzeczy, o których teraz mówię, czerpiąc z lat spędzonych w lotnictwie, jest to, że wszystkie te firmy potrzebują głównego pilota AI” – mówi Cummings. „Muszą mieć kogoś, jedną osobę, która wstanie i powie: «Jestem odpowiedzialny». Robimy to teraz dla lotnictwa. Dlatego tak wiele głów pokręciło się od problemów, które przydarzyły się Boeingowi 737 Max. Popadli w samozadowolenie. Stracili kulturę bezpieczeństwa.”

Cummings jest uważnym badaczem. Jest także, jak prywatnie ujął to jeden z badaczy bezpieczeństwa transportu, „prowokujący”. Jest więcej niż szczęśliwa, że może atakować takie firmy jak Tesla, Waymo i Cruise i argumentować, że braci technologicznych należy objąć bardziej rygorystycznymi ramami regulacyjnymi. W pewnym sensie jest najgorszym koszmarem Elona Muska. Wielokrotnie i rutynowo ryzykowała życie, aby przetestować niesamowite możliwości – i śmiertelne ograniczenia – interfejsów człowiek-maszyna. I zrobiła to w środowisku, w którym stawka jest znacznie wyższa niż na polach bitew Twittera i LinkedIn. Dla niej bezpieczeństwo samochodów autonomicznych nie jest kwestią abstrakcyjną. To sprawa życia i śmierci.

„Jestem profesorem etatowym. Moja praca mówi sama za siebie. Próbuję ocalić ci życie, prawda?" Cummings mówi. „I jest taka część mnie, w której jestem jak Don Kichot na sterydach. Nie ma wiatraka, przy którym nie chciałbym się przechylić.

Adama Rogersa jest starszym korespondentem Insidera.

Przeczytaj oryginalny artykuł na Insider Biznes