Найгірший кошмар Ілона Маска, Міссі Каммінгс, тепер мучить Waymo та Cruise також - Autoblog

Перевидано Платоном

читають: 0

Міссі Каммінгс літала на винищувачах для ВМС. Тепер, як провідний експерт з автоматизації та ШІ, вона націлена на безпілотні автомобілі. Челсі Цзя Фен/Інсайдер

У 2021 році інженер на ім’я Міссі Каммінгс викликала гнів Елон Маск у соціальній мережі, яка тоді називалася Twitter. Професор Університету Дьюка, Каммінгс провела дослідження безпеки безпілотних автомобілів, і результати змусили її висловити кілька різких попереджень про Технологія допомоги водієві Tesla. Автомобілі, як вона написала, мали «змінну та часто небезпечну поведінку». вимагало додаткового тестування «до того, як такій технології дозволять працювати без прямого контролю людини». На основі своїх досліджень Каммінгс була призначена Національна адміністрація з безпеки дорожнього руху — допомогти з регулюванням робот автомобілі.

Tesla шанувальники відреагували зі своєю звичайною незворушністю та відчуттям перспективи, під яким я маю на увазі, що вони її абсолютно втратили. Їхнє наполягання на тому, що Каммінгс спробує несправедливо регулювати їх хлопчика Ілона, незабаром спонукало Маска приєднатися до теми. «Об'єктивно, - сказав він твір, «її послужний список надзвичайно упереджений проти Tesla». У відповідь представники Маска обрушилися на Каммінгс — її роботу, зовнішній вигляд, мотиви. Вони звинувачували її в конфлікті інтересів, підписували петиції з вимогою її звільнення та погрожували вбивством електронною поштою.

Але справа в тому, що військові брати Маска возилися з не тим інженером. Будучи однією з перших жінок-пілотів винищувачів ВМС, Каммінгс літала на F/A-18. (Позивний: Норовлива.) Її не злякало виляння членом кількох людей у Twitter із фотографіями профілю аніме. Вона опублікувала найгірші погрози на LinkedIn, найняла особисту охорону та продовжувала битися. «Я думаю, ти справді збираєшся це зробити?» вона нагадує мислення. «Я подвоював. Пілот винищувача в мені виходить. Я люблю хороший бій».

Вона точно не виграла цю конкретну участь. Багато скиглить від Tesla підштовхнула NHTSA змусити Каммінгс залишити себе самовідвід від усього, що стосується компанії. Але ви знаєте, що кажуть про будь-яку посадку, з якої можна піти. Каммінгс взяла новий концерт в Університеті Джорджа Мейсона та розширила свої дослідження з Tesla на широкий світ всі самокеровані транспортні засоби. З такими компаніями, як Cruise і Веймо Випустивши повністю роботизовані таксі на вулиці Сан-Франциско та інших міст, почалося зростання машин — і Каммінгс на передовій опору. У суперечливій новій статті вона робить висновок, що нові роботи-таксі мають у чотири-вісім разів більше шансів потрапити в аварію, ніж автомобіль, яким керує людина. І це не враховуючи те, як спричиняють безпілотні транспортні засоби дивні пробки, блокування автомобілів швидкої допомоги, І навіть зупиняючись на людині якого вже збила машина, керована людьми.

«У статті, яка розлютила всіх тролів Tesla, я насправді кажу, що це не просто проблема Tesla — що Tesla перша, хто зіткнувся з проблемами», — каже мені Каммінгс. «Роками я говорив людям, що це мало статися, що ці проблеми виявлятимуться в безпілотному керуванні. І справді вони є. Якщо хтось у автошкола спільнота здивована, це на них».

Виявляється, служба на флоті - це дуже хороший спосіб тренуватися на вхідний гнів москалів. У своїх мемуарах 1999 року «Шершня Гніздо», — згадує Каммінгс, як вона любила літати на реактивних літаках, і каже, що хвилювання від катапультування з авіаносця — або приземлення на нього — ніколи не минуло. Але середовище було далеко не привітним. Сексуальні домагання у ВМС були звичним явищем, і колеги-чоловіки неодноразово казали Каммінгс, що вона не кваліфікована для керування винищувачами просто тому, що вона жінка. Коли вона з іншою жінкою-офіцером з'явилася на турнірі з гольфу на базі, їм наказали одягнути уніформу Hooters і керувати візками з пивом. Каммінгс відмовився.

Літаючі тактичні двигуни руйнування також дали Каммінгсу урок з перших вуст про приховані небезпеки машин, автоматизації та інтерфейсів користувача. У перший день її навчання двоє пілотів загинули. В останній день військово-морський флот пережив найгіршу навчальну катастрофу, яка коли-небудь мала місце на борту авіаносця. Всього за три роки польотів Каммінгса в аваріях загинуло 36 осіб.

У 2011 році, проводячи дослідження роботів-вертольотів для ВМС, Каммінгс мав прозріння. Навіть оточені лише повітрям, ці вертольоти були далекі від досконалості — і вони покладалися на ті самі датчики, що й безпілотні автомобілі, коли вони працюють поруч з автомобілями та людьми. «Коли я глибше ознайомився з можливостями цих датчиків, — каже Каммінгс, — тоді я прокинувся й сказав: ой, у нас серйозна проблема з автомобілями».

Деякі з небезпек є технічними. Люди відволікаються, системи автономного керування заплутуються в складних умовах і так далі. Але інші небезпеки, каже Каммінгс, є більш непомітними — «соціотехнічні», як вона каже. Те, що вона називає «гіпермаскулінною культурою в Кремнієвій долині», переплітається з місією Big Tech «рухатися швидко і ламати речі». І братська культура, і підривний спосіб мислення, як вона вважає, спонукають компанії замовчувати ризики безпеки.

Усе це робить жінкам ще важчим, коли вони висловлюють таку критику, як Каммінгс. «Коли Ілон Маск накинув на мене своїх прихильників, женоненависництво про мене як про жінку, моє ім’я — це стало дуже темно дуже швидко», — згадує вона. «Я думаю, що військовий досягла багатьох успіхів, але я вважаю, що те, що відбувається в цих компаніях Кремнієвої долини, є лише нагадуванням про те, що ми не просунулися в нашому суспільстві так далеко, як я думав».

Приклад: минулого місяця керівник служби безпеки Waymo рекламував нове дослідження своєї компанії на LinkedIn. Дослідження не було опубліковано та не пройшло рецензування. Але компанія Waymo використала це дослідження стверджують, що його автомобілі-роботи насправді набагато рідше потрапляють у аварії, ніж автомобілі, якими керують біологічні організми, як ми з вами.

Безпілотне таксі від Waymo блокує рух у Сан-Франциско. «Вони заспокоїлися, — каже Каммінгс. «Вони втратили культуру безпеки». Террі Чеа/AP

У Каммінгса цього не було. У неї були нові результати — також все ще в препринті — які показали, що безпілотні таксі набагато більш схильні до аварій. Тож вона також зайшла на LinkedIn і сказала це.

Відповідь була знайома їй ще з часів служби на флоті. Кайл Фогт, генеральний директор Cruise, ковзнув у коментарях. «Я хотів би допомогти тобі з цим аналізом», — написав він Каммінгсу, ставлячи під сумнів її хибність. «Було б чудово зв’язатися та обговорити це далі».

Каммінгс відповів тим же. «Я хотів би допомогти вам зрозуміти основні статистичні дані, використання комп’ютерного зору та зрозуміти, що означає бути безпечним і відповідальним генеральним директором компанії», вона написала. «Дзвоніть у будь-який час».

Жінки, як вона вважає, вловили її атмосферу. «Кожна жінка, яка прочитала це, сказала: «Ммм-хм, ти йди», — каже Каммінгс. Але чоловіки — друзі в Кремнієвій долині — ні. Вони вважали, що вона була надто зла до Фогта. «Він просто намагався тобі допомогти», — сказали вони їй.

«Усі хлопці читають це так: «Вона така норовлива!» Каммінгс каже. Але, будучи пілотом винищувача, вона не бентежилася. «Так я отримала свій позивний», — каже вона. «Тож я живу з цим».

Отже, хто правий: Каммінгс чи самокеровані люди Waymo, Cruise і Tesla? Важко сказати з простої причини: дані про безпеку автомобілів-роботів погані.

Скористайтеся підходом Каммінгс у її новій статті. Спочатку їй довелося поборотися NHTSA загальнонаціональні дані щодо несмертельних ДТП водіїв, щоб отримати цифри, які вона могла б порівняти з Каліфорнією, єдиним місцем, де автомобілі-роботи їздять вільно. Потім їй довелося з’ясувати порівнянну кількість аварій без летальних наслідків і пройдені милі для Waymo та Cruise, відстежувані різними джерелами. Її висновок: у Cruise припадає вісім несмертельних аварій на кожну людину, а у Waymo чотири — це можна порівняти з частотою аварій у втомлених і перевтомлених водіїв у таких службах, як Убер та Lyft.

Постачальники роботів-таксі стверджують, що Каммінгс помиляється з кількох причин. В основному, кажуть вони, кількість аварій, пов’язаних із людьми, насправді є заниженою. (Наприклад, не повідомляється про багато гілок крил.) Крім того, кількість аварій у всій країні чи навіть у Каліфорнії не можна порівняти з кількістю аварій у Сан-Франциско, яке набагато щільніше та горбистіше, ніж штат загалом. . Якщо дивитися з цього боку, Cruise стверджував у нещодавній публікації в блозі, його таксі потрапили в аварії на 54% менше, ніж автомобілі, якими керували люди. Компанія також стверджує, що водії, які їздять на автомобілі, потрапляють в одну несмертельну аварію на кожні 85,027 74 миль водіння — на XNUMX% більше зіткнень, ніж у роботів Cruise.

Каммінгс на це не повірить. Публікація в блозі – це не наука; це прес-реліз. «Кожна компанія має фіскальний інтерес у тому, щоб отримати документ, який би виглядав добре, а у випадку з Cruise водії, які користуються спільною поїздкою, виглядають погано», — каже вона. «Отже, це те, що вони роблять». Це саме та соціотехнічна культура, яку Каммінгс критикує — вона має унікальну кваліфікацію для критики.

Інші експерти також відхиляють твердження Круза, оскільки вони походять від людей, які заохочені вітати наших нових володарів роботів. «Якби ми вірили цифрам, які Круз наводить щодо водіїв, які викликають поїздку, то ці водії потрапляли б у середньому по дві аварії на рік», — каже Стівен Шладовер, інженер-дослідник з Інституту транспортних досліджень Каліфорнійського університету в Берклі. «Скільки водіїв двічі потрапляють у ДТП щороку? Це досить екстремально».

Але Шладовер також скептично ставиться до цифр, отриманих Каммінгсом. «Міссі припускає, що для Сан-Франциско кількість аварій серед водіїв є занадто низькою, а Круз показує, що кількість аварій серед людей надто висока», — каже він. «Реальність, мабуть, десь посередині».

Тож, можливо, Каммінгс правий, і безпілотні автомобілі є загрозою. А може, все не так погано, як показує її нова стаття. Поки роботи-автомобілі не проїдуть сотні мільйонів миль, неможливо отримати статистично значущий однозначний висновок. Але суть така: це не повинно мати значення. Якщо дані про безпеку продукту чи пристрою є сумнівними, регуляторні органи повинні розробляти та вводити в дію правила, які захищають споживачів, як це роблять в інших галузях. Якщо дані про автомобілі-роботи є неоднозначними або неповними, тоді ці правила не повинні тримати їх на дорозі. Тягар доведення лежить на Waymo, Cruise і Tesla, а не на Міссі Каммінгс. І якщо ці компанії хочуть розмістити 2-тонних роботів на громадських вулицях, блоги про контрольні показники даних не є способом показати людям, що вони готові.

«Одна з важливих речей, про які я зараз беру участь у моїх авіаційних роках, полягає в тому, що всім цим компаніям потрібен головний пілот ШІ», — каже Каммінгс. «Їм потрібен хтось, одна людина, яка встане і скаже: «Я відповідальний». Ми робимо це прямо зараз для авіації. Ось чому так багато голов покотилися про проблеми, які трапилися з Boeing 737 Max. Вони заспокоїлися. Вони втратили культуру безпеки».

Каммінгс — ретельний дослідник. Вона також, як приватно сказав один дослідник транспортної безпеки, «провокаційна». Вона із задоволенням кидає удари по таким компаніям, як Tesla, Waymo і Cruise, і стверджує, що технічних братів потрібно ввести в більш сувору нормативну базу. У певному сенсі вона — найгірший кошмар Ілона Маска. Вона постійно ризикувала своїм життям, щоб випробувати неймовірні можливості — і смертоносні межі — інтерфейсу людина-машина. І вона зробила це в середовищі, де ставки набагато вищі, ніж на полях битв Twitter і LinkedIn. Для неї безпека безпілотних автомобілів не є абстрактним питанням. Це питання життя і смерті.

«Я штатний професор. Моя робота говорить сама за себе. Я намагаюся врятувати твоє життя, правда?" Каммінгс каже. «І з іншого боку я схожий на Дон Кіхота на стероїдах. Немає такого вітряка, до якого я б не хотів нахилитися».

Адам Роджерс є старшим кореспондентом Insider.

Прочитайте оригінальну статтю Business Insider