Elon Musks schlimmster Albtraum, Missy Cummings, quält jetzt auch Waymo und Cruise – Autoblog

Neuauflage von Plato

Verfolger: 0

Missy Cummings flog Kampfjets für die Marine. Als führende Expertin für Automatisierung und KI nimmt sie nun selbstfahrende Autos ins Visier. Chelsea Jia Feng/Insider

Im Jahr 2021 zog eine Ingenieurin namens Missy Cummings den Zorn auf sich Elon Musk im sozialen Netzwerk namens Twitter. Cummings, Professorin an der Duke University, hatte Untersuchungen zur Sicherheit selbstfahrender Autos durchgeführt und die Ergebnisse veranlassten sie, einige deutliche Warnungen auszusprechen Teslas Fahrerassistenztechnologie. Die Autos hätten, schrieb sie, „veränderliches und oft unsicheres Verhalten“ gezeigt erforderte weitere Tests „Bevor diese Technologie ohne direkte Kontrolle durch den Menschen funktionieren darf.“ Aufgrund ihrer Forschung wurde Cummings zum ernannt Nationale Autobahn Verkehrssicherheit Verwaltung – um bei der Regulierung zu helfen Roboter Autos.

Tesla Die Fans reagierten mit ihrem gewohnten Gleichmut und Sinn für Perspektive, womit ich meine, dass sie völlig die Fassung verloren haben. Ihr Beharren darauf, dass Cummings versuchen würde, ihren Jungen Elon unfair zu regulieren, veranlasste Musk bald selbst, sich dem Thread anzuschließen. „Objektiv“, sagte er twitterte, „Ihre Erfolgsbilanz ist extrem voreingenommen gegenüber Tesla.“ Als Reaktion darauf ließen Musks Stans ihre ganze Wut auf Cummings los – ihre Arbeit, ihr Aussehen, ihre Motive. Sie warfen ihr Interessenkonflikte vor, unterzeichneten Petitionen, in denen sie ihre Absetzung forderte, und schickten Morddrohungen per E-Mail.

Aber die Sache ist die: Musks Kriegsbrüder hatten sich mit dem falschen Ingenieur angelegt. Als eine der ersten weiblichen Kampfpiloten der Marine flog Cummings früher F/A-18. (Rufzeichen: Shrew.) Sie ließ sich von dem schwanzwedelnden Verhalten einiger Leute auf Twitter mit Anime-Profilbildern nicht einschüchtern. Sie veröffentlichte die schlimmsten Drohungen auf LinkedIn, engagierte einen persönlichen Sicherheitsdienst und kämpfte weiter. „Ich frage mich: Wirst du das wirklich tun?“ sie , erinnert sich Denken. „Ich verdoppele mich. Der Kampfpilot in mir kommt zum Vorschein. Ich liebe einen guten Kampf.“

Sie hat dieses besondere Engagement nicht gerade gewonnen. Viel Gejammer von Tesla drängte die NHTSA, Cummings zu zwingen, sich zurückzuziehen von allem, was das Unternehmen betrifft. Aber Sie wissen, was man über jede Landung sagt, von der man weggehen kann. Cummings nahm einen neuen Job an der George Mason University an und weitete ihre Forschung von Tesla auf die weitere Welt aus alle selbstfahrende Fahrzeuge. Mit Unternehmen wie Cruise und Waymo Mit dem Einsatz vollständig robotisierter Taxis auf den Straßen von San Francisco und anderen Städten hat der Siegeszug der Maschinen begonnen – und Cummings steht an vorderster Front des Widerstands. In einer kontroversen neuen Arbeit kommt sie zu dem Schluss, dass die Wahrscheinlichkeit, in einen Unfall zu geraten, bei den neuen Robotertaxis vier- bis achtmal höher ist als bei einem von Menschen gesteuerten Auto. Und das gilt noch nicht für die Folgen, die selbstfahrende Fahrzeuge verursachen seltsame Staus, Blockieren von EinsatzfahrzeugenUnd sogar auf einer Person stehen bleiben der bereits von einem von Menschen gesteuerten Auto angefahren worden war.

„In der Zeitung, die alle Tesla-Trolle wirklich verärgert hat, sage ich tatsächlich, dass dies nicht nur ein Tesla-Problem ist – dass Tesla der erste ist, der die Probleme erlebt“, erzählt mir Cummings. „Seit Jahren sage ich den Leuten, dass dies passieren würde, dass diese Probleme beim autonomen Fahren auftreten würden. Und tatsächlich sind sie es. Wenn jemand in der selbstfahrendes Auto Die Community ist überrascht, das liegt an ihnen.“

Es stellt sich heraus, dass der Dienst in der Marine eine sehr gute Möglichkeit ist, sich auf den Zorn der Muskoviten vorzubereiten. In ihren Memoiren von 1999 heißt es: „Hornisse Nest“, erinnert sich Cummings, wie sehr sie das Fliegen von Jets liebte, und sagt, die Aufregung, von einem Flugzeugträger katapultiert zu werden – oder auf einem zu landen – sei nie langweilig geworden. Aber die Umgebung war alles andere als einladend. Sexuelle Belästigung war in der Marine an der Tagesordnung, und männliche Kollegen sagten Cummings wiederholt, sie sei nicht für das Fliegen von Kampfflugzeugen qualifiziert, nur weil sie eine Frau sei. Als sie und eine andere Beamtin bei einem Golfturnier auf dem Stützpunkt auftauchten, wurde ihnen gesagt, sie sollten Hooters-Uniformen anziehen und die Bierkarren fahren. Cummings lehnte ab.

Das Fliegen taktischer Zerstörungsmaschinen lieferte Cummings auch eine Lektion aus erster Hand über die verborgenen Gefahren von Maschinen, Automatisierung und Benutzeroberflächen. An ihrem ersten Ausbildungstag kamen zwei Piloten ums Leben. An ihrem letzten Tag erlebte die Marine die schlimmste Trainingskatastrophe, die sich jemals an Bord eines Flugzeugträgers ereignet hatte. Insgesamt starben in den drei Jahren, in denen Cummings flog, 36 Menschen bei Unfällen.

Im Jahr 2011 hatte Cummings eine Offenbarung, als er Forschungen zu Roboterhubschraubern für die Marine durchführte. Selbst wenn sie nur von Luft umgeben waren, waren diese Helikopter alles andere als perfekt – und sie stützten sich auf die gleichen Sensoren wie selbstfahrende Autos, wenn sie direkt neben Autos und Menschen operierten. „Als ich mich eingehend mit den Fähigkeiten dieser Sensoren befasste“, sagt Cummings, „wachte ich auf und sagte: Wow, wir haben ein ernstes Problem bei Autos.“

Einige der Gefahren sind technischer Natur. Menschen werden abgelenkt, selbstfahrende Systeme geraten in komplizierten Umgebungen durcheinander und so weiter. Aber andere Gefahren, sagt Cummings, seien subtiler – „soziotechnischer Natur“, wie sie es nennt. Was sie die „hypermaskuline Kultur im Silicon Valley“ nennt, ist mit dem Leitbild von Big Tech verknüpft, „schnell zu handeln und Dinge kaputt zu machen“. Sowohl die Bro-Kultur als auch eine disruptive Denkweise schaffen ihrer Meinung nach einen Anreiz für Unternehmen, Sicherheitsrisiken zu vertuschen.

All das macht es für Frauen noch schwieriger, wenn sie die Art von Kritik üben, die Cummings übt. „Als Elon Musk seine Schergen auf mich hetzte, wurde die Frauenfeindlichkeit gegenüber mir als Frau, meinem Namen, sehr schnell sehr düster“, erinnert sie sich. "Ich denke der Militär hat viele Fortschritte gemacht, aber ich denke, dass das, was in diesen Unternehmen im Silicon Valley passiert, nur eine Erinnerung daran ist, dass wir in unserer Gesellschaft noch nicht so weit gekommen sind, wie ich dachte.“

Ein Beispiel: Letzten Monat hat der Sicherheitschef von Waymo auf LinkedIn eine neue Studie seines Unternehmens angepriesen. Die Forschung war unveröffentlicht und wurde keinem Peer-Review unterzogen. Aber Waymo nutzte die Studie dazu argumentieren, dass Bei seinen Roboterautos war die Wahrscheinlichkeit, in Unfälle zu geraten, deutlich geringer als bei Autos, die von biologischen Organismen wie Ihnen und mir angetrieben wurden.

Ein selbstfahrendes Taxi von Waymo blockiert den Verkehr in San Francisco. „Sie wurden selbstgefällig“, sagt Cummings. „Sie haben ihre Sicherheitskultur verloren.“ Terry Chea/AP

Cummings hatte es nicht drauf. Sie hatte ihre neuen Ergebnisse – ebenfalls noch im Vordruck –, die zeigten, dass selbstfahrende Taxis viel anfälliger für Unfälle sind. Also ging sie auch auf LinkedIn und sagte es.

Die Reaktion war ihr aus ihrer Zeit bei der Marine bekannt. Kyle Vogt, der CEO von Cruise, in die Kommentare gerutscht. „Ich würde Ihnen gerne bei dieser Analyse helfen“, schrieb er an Cummings und stellte ihre Zahlenkalkulation in Frage. „Es wäre toll, Kontakte zu knüpfen und dies weiter zu besprechen.“

Cummings antwortete in gleicher Weise. „Ich würde Ihnen gerne dabei helfen, grundlegende Statistiken und den Einsatz von Computer Vision zu verstehen und zu erfahren, was es bedeutet, ein sicherer und verantwortungsbewusster CEO eines Unternehmens zu sein.“ Sie schrieb. „Rufen Sie jederzeit an.“

Frauen, so vermutet sie, haben ihre Stimmung erfasst. „Jede Frau, die das las, sagte: Mmm-hmm, geh mal“, sagt Cummings. Aber Männer – Freunde im Silicon Valley – taten das nicht. Sie dachten, sie sei zu gemein zu Vogt gewesen. „Er hat nur versucht, dir zu helfen“, sagten sie ihr.

„Alle Jungs lesen es so: Sie ist so ein Mistkerl!“ Cummings sagt. Aber als Kampfpilotin ließ sie sich davon nicht beeindrucken. „So habe ich mein Rufzeichen bekommen“, sagt sie. „Also lebe ich damit.“

Wer hat also Recht: Cummings oder die selbstfahrenden Männer von Waymo, Cruise und Tesla? Das ist aus einem einfachen Grund schwer zu sagen: Die Daten zur Sicherheit von Roboterautos sind miserabel.

Nehmen Sie Cummings‘ Ansatz in ihrer neuen Arbeit auf. Zuerst musste sie mit ringen NHTSAs Sie sammelte landesweite Daten über nicht tödliche Unfälle durch menschliche Fahrer, um Zahlen zu erhalten, die sie mit Kalifornien vergleichen konnte, dem einzigen Ort, an dem die Roboterautos frei fahren. Dann musste sie vergleichbare Zahlen nicht tödlicher Unfälle und zurückgelegte Meilen für Waymo und Cruise ermitteln, die von unterschiedlichen Quellen erfasst wurden. Ihr Fazit: Auf einen menschlichen Unfall kommen bei Cruise acht nicht tödliche Unfälle, bei Waymo sind es vier – vergleichbar mit den Unfallraten ermüdeter und überarbeiteter Fahrer bei Fahrdiensten wie z Uber und Lyft.

Die Anbieter von Robotertaxis argumentieren, dass Cummings aus mehreren Gründen falsch liege. Vor allem seien die Zahlen für menschliche Unfälle tatsächlich zu niedrig angesetzt, sagen sie. (Beispielsweise werden viele verbogene Kotflügel nicht gemeldet.) Außerdem können die Unfallzahlen für das ganze Land oder auch nur für Kalifornien nicht mit denen für San Francisco verglichen werden, wo es viel dichter und hügeliger ist als im gesamten Bundesstaat . Aus dieser Perspektive argumentierte Cruise in einem kürzlich erschienenen Blogbeitrag, dass seine Taxis in 54 % weniger Unfälle verwickelt seien als von Menschen gefahrene Autos. Das Unternehmen behauptet außerdem, dass Hagelfahrer pro 85,027 gefahrenen Meilen einen nicht tödlichen Unfall erleiden – 74 % mehr Kollisionen als die Roboter von Cruise.

Cummings glaubt es nicht. Ein Blogbeitrag ist keine Wissenschaft; Es ist eine Pressemitteilung. „Jedes Unternehmen hat ein steuerliches Interesse daran, ein Papier herauszubringen, das es gut aussehen lässt, und im Fall von Cruise lässt es Fahrgemeinschaftsfahrer schlecht aussehen“, sagt sie. „Das ist es also, was sie tun.“ Dies ist genau die Art von soziotechnischer Kultur, die Cummings kritisiert – zu deren Kritik sie in einzigartiger Weise qualifiziert ist.

Andere Experten lehnen Cruises Behauptungen ebenfalls ab, da sie von Leuten kommen, die einen Anreiz haben, unsere neuen Roboter-Oberherren willkommen zu heißen. „Wenn wir den Zahlen glauben würden, die Cruise für Mitfahrgelegenheiten von Fahrern veröffentlicht, würden diese Fahrer durchschnittlich zwei Unfälle pro Jahr erleiden“, sagt Steven Shladover, Forschungsingenieur am Institute of Transportation Studies der UC Berkeley. „Wie viele Autofahrer haben jedes Jahr zwei Unfälle? Das ist ziemlich extrem.“

Aber Shladover ist auch skeptisch gegenüber den von Cummings ermittelten Zahlen. „Missy geht davon aus, dass die Unfallrate menschlicher Fahrer für San Francisco zu niedrig ist, und Cruise weist eine zu hohe Unfallrate menschlicher Fahrer auf“, sagt er. „Die Realität liegt wahrscheinlich irgendwo dazwischen.“

Vielleicht hat Cummings also Recht und selbstfahrende Autos sind eine Bedrohung. Oder vielleicht ist es nicht ganz so schlimm, wie ihre neue Arbeit vermuten lässt. Solange Roboterautos nicht Hunderte Millionen Kilometer zurückgelegt haben, gibt es keine Möglichkeit, eine statistisch signifikante, eindeutige Schlussfolgerung zu ziehen. Aber das Fazit ist: Es sollte keine Rolle spielen. Wenn die Daten zur Sicherheit eines Produkts oder Geräts nicht eindeutig sind, sollen Regulierungsbehörden Regeln zum Schutz der Verbraucher erlassen und durchsetzen, genau wie sie es in anderen Branchen auch tun. Wenn die Daten zu Roboterautos nicht eindeutig oder unvollständig sind, sollten diese Regeln sie von der Straße fernhalten. Die Beweislast liegt bei Waymo, Cruise und Tesla, nicht bei Missy Cummings. Und wenn diese Unternehmen 2-Tonnen-Roboter auf öffentlichen Straßen einsetzen wollen, ist das Bloggen über Datenbenchmarks nicht der Weg, den Leuten zu zeigen, dass sie dazu bereit sind.

„Eines der großen Dinge, mit denen ich mich jetzt aufgrund meiner Flugjahre auseinandersetze, ist, dass alle diese Unternehmen einen Chef-KI-Piloten brauchen“, sagt Cummings. „Sie brauchen jemanden, eine Person, die aufsteht und sagt: ‚Ich bin verantwortlich.‘ Das machen wir gerade für die Luftfahrt. Deshalb rollten so viele Köpfe über die Probleme, die mit der Boeing 737 Max passiert sind. Sie wurden selbstgefällig. Sie haben ihre Sicherheitskultur verloren.“

Cummings ist ein sorgfältiger Forscher. Außerdem ist sie, wie es ein Verkehrssicherheitsforscher privat ausdrückte, „provokativ“. Sie ist mehr als glücklich, Unternehmen wie Tesla, Waymo und Cruise zu bestrafen und zu argumentieren, dass Technologieunternehmen in einen strengeren Regulierungsrahmen eingebunden werden müssen. In gewisser Weise ist sie Elon Musks schlimmster Albtraum. Sie hat wiederholt und routinemäßig ihr Leben riskiert, um die unglaublichen Fähigkeiten – und die tödlichen Grenzen – von Mensch-Maschine-Schnittstellen zu testen. Und sie tat es in einem Umfeld, in dem viel mehr auf dem Spiel steht als auf den Schlachtfeldern von Twitter und LinkedIn. Für sie ist die Sicherheit selbstfahrender Autos keine abstrakte Frage. Es geht um Leben und Tod.

„Ich bin Professor auf Lebenszeit. Meine Arbeit spricht für sich. Ich versuche, dein Leben zu retten, oder?" Cummings sagt. „Und es gibt eine Seite von mir, bei der ich wie Don Quijote auf Steroiden bin. Es gibt keine Windmühle, gegen die ich nicht kippen möchte.“

Adam Rogers ist leitende Korrespondentin bei Insider.

Lesen Sie den Originalartikel auf Business Insider