Elon Musk의 최악의 악몽 Missy Cummings는 이제 Waymo와 Cruise도 괴롭히고 있습니다 - Autoblog

플라톤에 의해 재발행

팔로워 : 0

미시 커밍스(Missy Cummings)는 해군용 전투기를 조종했습니다. 이제는 자동화와 AI 분야의 선도적인 전문가로서 자율주행차를 목표로 삼고 있습니다. 첼시 지아 펑/인사이더

2021년에는 Missy Cummings라는 엔지니어가 엘론 머스크 소셜 네트워크에서 Twitter라고 불렀습니다. 듀크대학교 교수인 Cummings는 자율주행차의 안전성에 대한 연구를 수행했으며, 그 결과 그녀는 자율주행차에 대해 몇 가지 엄중한 경고를 내렸습니다. Tesla의 운전자 지원 기술. 그녀는 자동차가 "다양하고 종종 안전하지 않은 행동"을 했다고 썼습니다. 더 많은 테스트가 필요했습니다 "그런 기술이 인간의 직접적인 통제 없이 작동하는 것이 허용되기 전에는 말이죠." 그녀의 연구에 힘입어 Cummings는 국립 고속도로 교통 안전 관리 — 규제를 돕기 위해 로봇 차.

테슬라 팬들은 평소의 평정심과 관점으로 반응했는데, 이는 그들이 완전히 정신을 잃었다는 뜻입니다. Cummings가 아들 Elon을 부당하게 규제하려고 시도할 것이라는 그들의 주장은 곧 Musk 자신도 이 스레드에 합류하게 만들었습니다. 그는 "객관적으로" 트위트 된, "그녀의 실적은 Tesla에 대해 극도로 편향되어 있습니다." 이에 대해 머스크의 스탠스는 커밍스의 업무, 외모, 동기 등 모든 면에서 분노를 표출했습니다. 그들은 그녀를 이해상충 혐의로 비난하고, 그녀의 해임을 요구하는 청원서에 서명했으며, 살해 위협을 이메일로 보냈습니다.

하지만 문제는 머스크의 전쟁 동료들이 잘못된 엔지니어와 장난을 치고 있다는 것입니다. 해군 최초의 여성 전투기 조종사 중 한 명인 Cummings는 F/A-18을 조종하곤 했습니다. (호출부호: Shrew.) 그녀는 애니메이션 프로필 사진을 가지고 트위터에서 몇몇 사람들의 성기를 흔드는 행동에 겁먹지 않았습니다. 그녀는 LinkedIn에 최악의 위협을 게시하고 개인 보안을 고용하고 계속해서 싸웠습니다. “나는 정말 이걸 할 건가요?” 그녀 회상 생각. “나는 두 배로 줄였습니다. 내 안의 전투기 조종사가 나온다. 나는 좋은 싸움을 좋아합니다.”

그녀는 그 특별한 약혼에서 정확히 이기지 못했습니다. Tesla로부터 많은 징징거림 NHTSA를 압박하여 Cummings가 자신을 기피하도록 강요했습니다. 회사와 관련된 모든 것에서. 그러나 당신은 당신이 떠날 수 있는 착륙에 대해 그들이 말하는 것을 알고 있습니다. Cummings는 George Mason University에서 새로운 연구를 시작하여 Tesla에서 더 넓은 세계로 연구 범위를 넓혔습니다. 모든 자율 주행 차량. 크루즈 같은 회사와 웨이 샌프란시스코와 다른 도시의 거리에서 완전히 로봇화된 택시를 선보이면서 기계의 등장이 시작되었으며 Cummings는 저항의 최전선에 있습니다. 논쟁의 여지가 있는 새로운 논문에서 그녀는 새로운 로봇 택시가 인간이 운전하는 자동차보다 충돌 사고를 당할 확률이 4~8배 높다고 결론지었습니다. 그리고 그것은 자율주행차가 야기하는 방식에는 포함되지 않습니다. 이상한 교통체증, 긴급 차량 차단, 심지어 사람 위에 멈춰서다 이미 인간이 운전하는 자동차에 치인 사람.

Cummings는 "모든 Tesla 트롤들을 정말 화나게 한 신문에서 저는 이것이 단순한 Tesla 문제가 아니라 Tesla가 문제를 경험한 최초의 회사라고 말했습니다."라고 말했습니다. “수년 동안 나는 사람들에게 이런 일이 일어날 것이며 자율주행에서 이러한 문제가 나타날 것이라고 말해왔습니다. 그리고 실제로 그렇습니다. 만약에 누구든지 자율 주행 차 커뮤니티는 놀랐습니다. 그건 그들 몫입니다.”

해군에서 복무하는 것은 Muskovites의 인바운드 분노에 대해 훈련하는 아주 좋은 방법이라는 것이 밝혀졌습니다. 그녀의 1999년 회고록에서 “호넷의 Nest”라고 Cummings는 비행 제트기를 얼마나 좋아했는지 회상하며 항공모함에서 발사되거나 착륙하는 즐거움이 결코 오래되지 않았다고 말합니다. 그러나 환경은 환영받지 못했습니다. 해군에서 성희롱은 일상적이었고, 남성 동료들은 커밍스에게 단지 여성이라는 이유만으로 전투기를 조종할 자격이 없다고 반복해서 말했습니다. 그녀와 다른 여성 장교가 기지 내 골프 토너먼트에 나타났을 때 그들은 후터스 유니폼을 입고 맥주 카트를 운전하라는 지시를 받았습니다. 커밍스는 거절했다.

또한 비행 전술 파괴 엔진은 Cummings에게 기계, 자동화 및 사용자 인터페이스의 숨겨진 위험에 대한 직접적인 교훈을 제공했습니다. 훈련 첫날, 두 명의 조종사가 사망했습니다. 마지막 날, 해군은 항공모함에서 일어난 최악의 훈련 참사를 경험했습니다. 커밍스가 비행한 36년 동안 모두 XNUMX명이 사고로 사망했다.

2011년, 커밍스는 해군용 로봇 헬리콥터에 대한 연구를 수행하던 중 깨달음을 얻었습니다. 공기 외에는 아무것도 없는 환경에서도 헬로는 완벽하지 않았습니다. 그리고 자율주행차가 자동차와 사람 바로 옆에서 작동하는 것과 동일한 센서에 의존했습니다. Cummings는 "이러한 센서의 기능에 대해 깊이 알아봤을 때 잠에서 깨어나 '와, 자동차에 심각한 문제가 있다'고 말했습니다."라고 말했습니다.

위험 중 일부는 기술적입니다. 사람들은 주의가 산만해지고, 자율주행 시스템은 복잡한 환경에서 혼란을 겪는 등의 일이 발생합니다. 그러나 Cummings는 다른 위험은 더 미묘하다고 말합니다. 그녀가 표현한 대로 "사회기술적"입니다. 그녀가 "실리콘 밸리의 하이퍼남성 문화"라고 부르는 것은 "빠르게 움직이고 파괴하라"는 Big Tech의 사명 선언문과 얽혀 있습니다. 그녀가 보기에 형제 문화와 파괴적인 사고방식은 기업이 안전 위험을 무시하도록 장려합니다.

이 모든 것이 Cummings가 가지고 있는 종류의 비판을 평준화할 때 여성을 더욱 힘들게 만듭니다. “엘론 머스크가 자신의 부하들을 비난했을 때, 여성으로서의 나에 대한 여성혐오, 내 이름은 매우 빠르게 어두워졌습니다.”라고 그녀는 회상합니다. "내 생각 엔 군 많은 진전을 이루었지만 실리콘밸리 기업에서 일어나고 있는 일은 우리가 생각했던 것만큼 우리 사회에서 멀리 나아오지 못했다는 사실을 상기시켜주는 것이라고 생각합니다.”

예: 지난 달 Waymo의 안전 책임자는 LinkedIn에서 자신의 회사의 새로운 연구를 홍보했습니다. 해당 연구는 출판되지 않았으며 동료 검토를 거치지 않았습니다. 하지만 Waymo는 이 연구를 다음과 같이 활용했습니다. 그것을 주장한다. 실제로 그 로봇 자동차는 당신이나 나 같은 생물학적 유기체가 운전하는 자동차보다 충돌할 가능성이 훨씬 적었습니다.

Waymo의 자율주행 택시가 샌프란시스코에서 교통을 차단하고 있습니다. Cummings는 “그들은 안주했습니다.”라고 말합니다. “그들은 안전 문화를 잃었습니다.” 테리 체어/AP

커밍스는 그것을 갖고 있지 않았습니다. 그녀는 자율주행 택시가 충돌 위험이 훨씬 더 높다는 것을 보여주는 새로운 결과를 얻었습니다. 그래서 그 사람도 링크드인에 들어가서 그렇게 말하더군요.

그 반응은 해군 시절부터 그녀에게 친숙했습니다. 크루즈 CEO 카일 보그트(Kyle Vogt)는 댓글에 떴다. 그는 Cummings에게 그녀의 수치 분석에 의문을 제기하면서 “이 분석에 도움을 주고 싶습니다.”라고 썼습니다. "이 문제에 대해 연결하고 논의하면 좋을 것 같습니다."

Cummings는 친절하게 응답했습니다. “기본 통계, 컴퓨터 비전의 사용, 회사의 안전하고 책임감 있는 CEO가 된다는 것이 무엇을 의미하는지 이해하는 데 도움을 주고 싶습니다.” 그녀가 적었다. “언제든지 전화하세요.”

그녀는 여성들이 그녀의 분위기를 사로잡았다고 생각합니다. Cummings는 "이 글을 읽은 모든 여성은 다음과 같이 말했습니다. 음-흠, 가세요."라고 말했습니다. 그러나 실리콘 밸리의 친구들인 남자들은 그렇지 않았습니다. 그들은 그녀가 보그트에게 너무 못되게 굴었다고 생각했습니다. “그는 단지 당신을 도우려고 한 것뿐이에요.” 그들은 그녀에게 말했습니다.

"남자들은 다 이렇게 읽었어: 그녀는 정말 말괄량이야!" 커밍스는 말한다. 그러나 전투기 조종사로서 그녀는 동요하지 않았습니다. “그것이 바로 제가 호출 부호를 얻은 방법입니다.”라고 그녀는 말합니다. “그래서 나는 그걸로 산다.”

그러면 누가 옳습니까? Cummings, 아니면 Waymo, Cruise, Tesla의 자기 주도적인 사람들입니까? 간단한 이유로 말하기는 어렵습니다. 로봇 자동차의 안전에 관한 데이터가 형편없기 때문입니다.

그녀의 새 논문에서 Cummings의 접근 방식을 살펴보세요. 먼저 그녀는 씨름을 해야 했어 NHTSA의 로봇 자동차가 무료로 달리는 유일한 곳인 캘리포니아와 비교할 수 있는 수치를 얻기 위해 인간 운전자에 의한 치명적이지 않은 충돌에 대한 전국 데이터를 수집했습니다. 그런 다음 그녀는 다양한 소스에서 추적한 Waymo와 Cruise의 비교 가능한 치명적이지 않은 충돌 횟수와 이동 거리를 파악해야 했습니다. 그녀의 결론: Cruise는 사람 한 명당 치명적이지 않은 충돌 사고가 8건이고 Waymo는 4건입니다. 동네 짱 및 Lyft.

로봇택시 납품업체들은 여러 가지 이유로 커밍스가 틀렸다고 주장한다. 주로 인간 충돌 사고 건수는 실제로 과소 집계됐다고 그들은 말합니다. (예를 들어 많은 펜더 벤더는 보고되지 않습니다.) 또한 전국 또는 심지어 캘리포니아의 충돌 사고 수는 주 전체보다 밀도가 훨씬 높고 언덕이 많은 샌프란시스코의 사고 수와 비교할 수 없습니다. . 크루즈는 최근 블로그 게시물에서 크루즈의 택시가 사람이 운전하는 자동차보다 충돌 사고가 54% 적다고 주장했습니다. 회사는 또한 승용차 운전자가 85,027마일을 운전할 때마다 치명적이지 않은 충돌 사고가 한 번 발생한다고 주장합니다. 이는 Cruise의 로봇보다 74% 더 많은 충돌 사고입니다.

Cummings는 그것을 사지 않을 것입니다. 블로그 게시물은 과학이 아닙니다. 보도자료입니다. "모든 회사는 자신을 좋게 보이게 하는 서류를 발행하는 데 재정적인 관심을 갖고 있으며 크루즈의 경우 공유 운전자를 나쁘게 보이게 만듭니다."라고 그녀는 말합니다. “그래서 그들이 하는 일이 바로 그것이다.” 이것이 바로 Cummings가 비판하고 있는 일종의 사회기술적 문화입니다. 그녀는 비판할 수 있는 고유한 자격을 갖추고 있습니다.

다른 전문가들도 새로운 로봇 대군주를 환영하도록 인센티브를 받은 사람들의 주장과 마찬가지로 Cruise의 주장을 무시합니다. UC Berkeley 교통 연구소의 연구 엔지니어인 Steven Shladover는 "Cruise가 차량 공유 운전자를 위해 발표한 수치를 믿는다면 해당 운전자는 연간 평균 2번의 충돌 사고를 당할 것입니다."라고 말합니다. “매년 두 번의 충돌 사고를 겪는 운전자는 몇 명입니까? 그건 꽤 극단적이에요.”

그러나 Shladover는 Cummings가 계산한 수치에도 회의적입니다. “Missy는 샌프란시스코에 비해 인간 운전자의 충돌 사고율이 너무 낮다고 가정하고 있으며 Cruise의 인간 충돌 사고율은 너무 높습니다.”라고 그는 말합니다. "현실은 아마도 그 사이 어딘가에 있을 것입니다."

그렇다면 Cummings의 말이 맞을 수도 있고, 자율주행차는 위협이 될 수도 있습니다. 아니면 그녀의 새 논문이 제안하는 것만큼 나쁘지 않을 수도 있습니다. 로봇 자동차가 수억 마일을 이동할 때까지 통계적으로 유의미하고 명확한 결론을 얻을 수 있는 방법은 없습니다. 그러나 결론은 이것이 중요하지 않다는 것입니다. 제품이나 장치의 안전성에 대한 데이터가 모호한 경우 규제 기관은 다른 산업과 마찬가지로 소비자를 보호하는 규칙을 만들고 시행해야 합니다. 로봇 자동차에 대한 데이터가 모호하거나 불완전한 경우 이러한 규칙은 로봇 자동차가 도로에서 벗어나는 것을 막아야 합니다. 입증 책임은 Missy Cummings가 아닌 Waymo, Cruise 및 Tesla에 있습니다. 그리고 해당 회사가 2톤 로봇을 공공 거리에 배치하려는 경우 데이터 벤치마크에 대한 블로그를 작성하는 것은 사람들에게 준비가 되었음을 보여주는 방법이 아닙니다.

Cummings는 "제가 항공 경력을 쌓으면서 지금 하고 있는 가장 큰 일 중 하나는 모든 회사에 수석 AI 조종사가 필요하다는 것입니다."라고 말합니다. “그들은 일어서서 '내 책임은 있습니다'라고 말하는 누군가, 한 사람이 필요합니다. 우리는 지금 항공 분야에서 그렇게 하고 있습니다. 이것이 바로 Boeing 737 Max에서 발생한 문제로 많은 사람들이 고개를 끄덕이는 이유입니다. 그들은 안주했습니다. 안전문화를 잃어버렸어요.”

커밍스는 주의 깊은 연구자이다. 그녀는 또한 한 교통 안전 연구원이 개인적으로 말했듯이 "도발적"입니다. 그녀는 Tesla, Waymo, Cruise와 같은 회사를 비난하고 기술 형제가 더 엄격한 규제 프레임워크에 들어가야 한다고 주장하는 것을 매우 기쁘게 생각합니다. 어떤 의미에서 그녀는 Elon Musk의 최악의 악몽입니다. 그녀는 인간-기계 인터페이스의 놀라운 기능과 치명적인 한계를 테스트하기 위해 반복적으로 일상적으로 목숨을 걸었습니다. 그리고 그녀는 Twitter와 LinkedIn의 전쟁터보다 위험이 훨씬 더 높은 환경에서 이를 수행했습니다. 그녀에게 자율주행차의 안전성은 추상적인 문제가 아니다. 그것은 삶과 죽음의 문제입니다.

“저는 종신 교수입니다. 내 작품은 그 자체로 말해줍니다. 난 당신의 생명을 구하려고 노력하고 있는 거죠, 그렇죠?" 커밍스는 말한다. “그리고 제가 스테로이드를 복용한 돈키호테와 같은 측면도 있습니다. 기울어지고 싶지 않은 풍차는 없어요.”

아담 로저스 Insider의 선임 특파원입니다.

에 대한 원본 기사 읽기 사업 내부자