Худший кошмар Илона Маска, Мисси Каммингс, теперь мучает Уэймо и Круза - Автоблог

Переиздано Платоном

Читают: 0

Мисси Каммингс летала на истребителях ВМФ. Теперь, будучи ведущим экспертом в области автоматизации и искусственного интеллекта, она занимается созданием беспилотных автомобилей. Челси Цзя Фэн/Инсайдер

В 2021 году инженер по имени Мисси Каммингс вызвала гнев Elon Musk в социальной сети тогда под названием Twitter. Профессор Университета Дьюка, Каммингс провела исследование безопасности беспилотных автомобилей, и полученные результаты побудили ее сделать несколько резких предупреждений о безопасности беспилотных автомобилей. Технология помощи водителю Tesla. Автомобили, написала она, «вели себя по-разному и часто небезопасно», что требовалось дополнительное тестирование «прежде чем такой технологии будет разрешено работать без прямого контроля человека». На основании своих исследований Каммингс была назначена Национальная администрация безопасности дорожного движения - помочь с регулированием робот легковые автомобили.

Tesla фанаты отреагировали со своей обычной невозмутимостью и чувством перспективы, то есть я имею в виду, что они полностью потеряли это чувство. Их настойчивые заявления о том, что Каммингс попытается несправедливо регулировать их сына Илона, вскоре побудили самого Маска присоединиться к этой теме. «Объективно», — сказал он. чирикнул, «ее послужной список крайне предвзят в отношении Теслы». В ответ сторонники Маска обрушили всю свою ярость на Каммингс — ее работу, ее внешний вид, ее мотивы. Они обвинили ее в конфликте интересов, подписали петиции с требованием ее отстранения и отправили по электронной почте угрозы смертью.

Но дело в том, что военные братья Маска связались не с тем инженером. Будучи одной из первых женщин-пилотов-истребителей ВМФ, Каммингс летала на F/A-18. (Позывной: Строптивая.) Ее не напугало виляние членами в Твиттере с аватарками в аниме. Она разместила самые страшные угрозы в LinkedIn, наняла личную охрану и продолжила борьбу. «Я такой: ты действительно собираешься это сделать?» она вспоминает мышление. «Я удваиваю ставку. Летчик-истребитель во мне выходит наружу. Я люблю хороший бой».

Эту конкретную помолвку она точно не выиграла. Много нытья от Теслы подтолкнуло НАБДД заставить Каммингс взять самоотвод от всего, что связано с компанией. Но вы знаете, что говорят о любой площадке, от которой можно уйти. Каммингс устроилась на новую работу в Университет Джорджа Мейсона и расширила свои исследования от Теслы до более широкого мира. Найти беспилотные транспортные средства. С такими компаниями, как Cruise и Waymo выпустив полностью роботизированные такси на улицы Сан-Франциско и других городов, начался подъем машин — и Каммингс находится на передовой линии сопротивления. В своей скандальной новой статье она приходит к выводу, что новые роботизированные такси в четыре-восемь раз чаще попадают в аварию, чем автомобили, управляемые человеком. И это не считая того, как беспилотные автомобили вызывают странные пробки, блокировка машин скорой помощи, И даже остановиться на человеке которого уже сбила машина, управляемая человеком.

«В статье, которая действительно разозлила всех троллей Теслы, я на самом деле говорю, что это не просто проблема Теслы — что Тесла — первая, кто столкнулся с этими проблемами», — говорит мне Каммингс. «В течение многих лет я говорил людям, что это должно было произойти, что эти проблемы проявятся при беспилотном вождении. И это действительно так. Если кто-нибудь в автомобиль с автоматическим управлением сообщество удивлено, это их вина».

Оказывается, служба на флоте — очень хороший способ подготовиться к гневу москвичей. В своих мемуарах 1999 года: «Шершень Гнездо», - Каммингс вспоминает, как она любила летать на самолетах, и говорит, что волнение от катапультирования с авианосца или приземления на него никогда не надоедает. Но обстановка была далеко не гостеприимной. Сексуальные домогательства на флоте были обычным явлением, и коллеги-мужчины неоднократно говорили Каммингс, что она не имеет права летать на истребителях просто потому, что она женщина. Когда она и еще одна женщина-офицер появились на турнире по гольфу на базе, им сказали надеть форму Hooters и водить тележки с пивом. Каммингс отказался.

Летающие тактические машины разрушения также предоставили Каммингсу урок из первых рук о скрытых опасностях машин, автоматизации и пользовательских интерфейсов. В первый день ее обучения погибли два пилота. В свой последний день ВМФ пережил самую страшную катастрофу во время учений, которая когда-либо случалась на борту авианосца. Всего за три года полета Каммингса в авариях погибло 36 человек.

В 2011 году, когда Каммингс проводил исследования роботизированных вертолетов для ВМФ, его осенило. Даже окруженные ничем, кроме воздуха, эти вертолеты были далеки от совершенства — и они полагались на те же датчики, что и беспилотные автомобили, работающие в непосредственной близости от автомобилей и людей. «Когда я углубился в возможности этих датчиков, — говорит Каммингс, — тогда я проснулся и сказал: эй, у нас серьезная проблема с автомобилями».

Некоторые опасности носят технический характер. Люди отвлекаются, системы беспилотного вождения путаются в сложных условиях и так далее. Но другие опасности, по словам Каммингс, более тонкие — «социотехнические», как она это называет. То, что она называет «сверхмужской культурой в Кремниевой долине», переплетается с миссией Big Tech «двигаться быстро и ломать вещи». И братская культура, и разрушительное мышление, по ее мнению, стимулируют компании замалчивать риски безопасности.

Все это еще больше усложняет положение женщин, когда они высказывают подобную критику, которую высказывает Каммингс. «Когда Илон Маск натравил на меня своих приспешников, женоненавистничество обо мне как о женщине, о моем имени — все очень быстро потемнело», — вспоминает она. "Я думаю военный добился больших успехов, но я думаю, что то, что происходит в компаниях Кремниевой долины, является всего лишь напоминанием о том, что мы не продвинулись в нашем обществе так далеко, как я думал».

Пример: в прошлом месяце руководитель службы безопасности Waymo рекламировал в LinkedIn новое исследование своей компании. Исследование не было опубликовано и не прошло рецензирование. Но Waymo использовала исследование, чтобы утверждает, что их автомобили-роботы на самом деле гораздо реже попадали в аварии, чем автомобили, управляемые биологическими организмами, такими как вы и я.

Беспилотное такси Waymo блокирует движение в Сан-Франциско. «Они успокоились», — говорит Каммингс. «Они потеряли культуру безопасности». Терри Чеа/AP

Каммингсу это было не по душе. У нее были новые результаты (также все еще в предварительной печати), которые показали, что беспилотные такси гораздо более подвержены авариям. Поэтому она тоже зашла на LinkedIn и сказала об этом.

Ответ был ей знаком еще со времен службы на флоте. Кайл Фогт, генеральный директор Cruise, залез в комментарии. «Я хотел бы помочь вам с этим анализом», — написал он Каммингс, подвергая сомнению ее умение подсчитывать цифры. «Было бы здорово пообщаться и обсудить это дальше».

Каммингс ответил тем же. «Я хотел бы помочь вам разобраться в основах статистики, использовании компьютерного зрения и о том, что значит быть безопасным и ответственным генеральным директором компании», она написала. «Звоните в любое время».

Женщины, полагает она, уловили ее атмосферу. «Каждая женщина, которая это читала, говорила: «Ммм-хмм, иди», — говорит Каммингс. Но мужчины — друзья в Кремниевой долине — этого не сделали. Они думали, что она была слишком жестока с Фогтом. «Он просто пытался помочь тебе», — сказали они ей.

«Все ребята читали это так: Она такая мегера!» — говорит Каммингс. Но, будучи летчиком-истребителем, она была невозмутима. «Вот так я получила свой позывной», — говорит она. «Так что я с этим живу».

Так кто же прав: Каммингс или самостоятельные люди из Waymo, Cruise и Tesla? Трудно сказать по одной простой причине: данные о безопасности автомобилей-роботов отстойные.

Возьмите подход Каммингс в ее новой статье. Сначала ей пришлось бороться с НАБДД общенациональные данные о авариях с участием водителей-людей без смертельного исхода, чтобы получить цифры, которые она могла бы сравнить с Калифорнией, единственным местом, где автомобили-роботы ездят бесплатно. Затем ей пришлось выяснить сопоставимое количество аварий без смертельного исхода и количество пройденных миль для Waymo и Cruise, отслеживаемых разными источниками. Ее вывод: у Круза на каждого человека приходится восемь аварий без смертельного исхода, а у Waymo — четыре, что сопоставимо с частотой аварий утомленных и переутомленных водителей в таких службах такси, как Uber и Lyft.

Поставщики роботов-такси утверждают, что Каммингс не прав по ряду причин. В основном, говорят они, цифры человеческих аварий на самом деле занижены. (Например, о многих сгибаниях крыльев не сообщается.) Кроме того, количество аварий по всей стране или даже только по Калифорнии нельзя сравнивать с показателями в Сан-Франциско, который намного плотнее и холмистее, чем штат в целом. . С этой точки зрения, как утверждает компания Cruise в недавнем сообщении в блоге, ее такси попадают в аварии на 54% меньше, чем автомобили, управляемые людьми. Компания также утверждает, что водители такси попадают в одну несмертельную аварию на каждые 85,027 74 миль вождения — на XNUMX% больше столкновений, чем у роботов Круза.

Каммингс на это не купится. Сообщение в блоге — это не наука; это пресс-релиз. «Каждая компания финансово заинтересована в выпуске газеты, которая выставит их в хорошем свете, а в случае с Cruise это выставит водителей совместных поездок в плохом свете», — говорит она. «Так вот что они делают». Это именно та социотехническая культура, которую критикует Каммингс — которую она имеет уникальную право критиковать.

Другие эксперты также не принимают во внимание заявления Круза, поскольку они исходят от людей, которые заинтересованы приветствовать наших новых повелителей роботов. «Если бы мы поверили цифрам, которые Круз приводит в отношении водителей, вызывающих такси, с этими водителями в среднем попадало бы две аварии в год», — говорит Стивен Шладовер, инженер-исследователь из Института транспортных исследований Калифорнийского университета в Беркли. «Сколько водителей попадают в две аварии каждый год? Это довольно экстремально».

Но Шладовер также скептически относится к цифрам, подсчитанным Каммингсом. «Мисси предполагает, что уровень аварийности с участием людей-водителей слишком низок для Сан-Франциско, а Круз показывает, что уровень аварийности с участием людей слишком высок», — говорит он. «Реальность, вероятно, находится где-то посередине».

Так что, возможно, Каммингс прав и беспилотные автомобили представляют собой угрозу. Или, может быть, все не так плохо, как предполагает ее новая статья. Пока автомобили-роботы не проедут сотни миллионов миль, невозможно сделать статистически значимый и однозначный вывод. Но суть в том, что это не должно иметь значения. Когда данные о безопасности продукта или устройства неоднозначны, регулирующие органы должны устанавливать и обеспечивать соблюдение правил, защищающих потребителей, как они это делают в других отраслях. Если данные об автомобилях-роботах сомнительны или неполны, то эти правила должны держать их подальше от дорог. Бремя доказывания лежит на Уэймо, Крузе и Тесле, а не на Мисси Каммингс. И если эти компании хотят разместить 2-тонных роботов на общественных улицах, ведение блога о тестировании данных — не способ показать людям, что они готовы.

«Одна из важных вещей, о которых я сейчас говорю, исходя из моих лет авиации, заключается в том, что всем этим компаниям нужен главный пилот с искусственным интеллектом», — говорит Каммингс. «Им нужен кто-то, один человек, который встанет и скажет: «Я несу ответственность». Мы делаем это прямо сейчас для авиации. Именно поэтому столько голов покатилось из-за проблем, случившихся с Боингом 737 Макс. Они успокоились. Они потеряли культуру безопасности».

Каммингс — тщательный исследователь. Она также, как выразился в частной беседе один исследователь транспортной безопасности, «провокационная». Она более чем рада критиковать такие компании, как Tesla, Waymo и Cruise, и утверждать, что технических братьев необходимо ввести в более строгую нормативную базу. В каком-то смысле она худший кошмар Илона Маска. Она неоднократно и регулярно рисковала своей жизнью, чтобы проверить невероятные возможности (и смертельные пределы) человеко-машинных интерфейсов. И она сделала это в среде, где ставки намного выше, чем на полях сражений Twitter и LinkedIn. Для нее безопасность беспилотных автомобилей не является абстрактным вопросом. Это вопрос жизни и смерти.

«Я штатный профессор. Моя работа говорит сама за себя. Я пытаюсь спасти тебе жизнь, да? — говорит Каммингс. «И есть такая сторона меня, где я похож на Дон Кихота на стероидах. Нет такой ветряной мельницы, против которой я не хотел бы сражаться».

Адам Роджерс старший корреспондент Insider.

Прочтите оригинальную статью о Business Insider