Elon Musk’s Worst Nightmare, Missy Cummings, Is Now Tormenting Waymo And Cruise Too - Autoblog

Republié par Platon

Suiveurs: 0

Missy Cummings a piloté des avions de combat pour la Marine. Aujourd’hui, en tant qu’experte de premier plan en automatisation et en IA, elle s’intéresse aux voitures autonomes. Chelsea Jia Feng/initié

En 2021, une ingénieure nommée Missy Cummings a suscité la colère de Elon Musk sur le réseau social alors appelé Twitter. Professeur à l'Université Duke, Cummings a mené des recherches sur la sécurité des voitures autonomes, et les résultats l'ont amenée à émettre de sévères avertissements concernant La technologie d’aide à la conduite de Tesla. Les voitures, écrit-elle, avaient « des comportements variables et souvent dangereux » qui il a fallu plus de tests "avant qu'une telle technologie puisse fonctionner sans contrôle direct par les humains." Forte de ses recherches, Cummings a été nommée au Administration nationale de la sécurité routière — pour aider à la réglementation de systèmes de robot voitures.

Tesla les fans ont réagi avec leur sérénité et leur sens de la perspective habituels, ce par quoi je veux dire qu'ils l'ont absolument perdu. Leur insistance sur le fait que Cummings tenterait de réglementer injustement leur fils Elon a rapidement incité Musk lui-même à se joindre au fil. «Objectivement», il tweeté, "son bilan est extrêmement biaisé contre Tesla." En réponse, les hommes de Musk ont déchaîné toute leur fureur contre Cummings – son travail, son apparence, ses motivations. Ils l'ont accusée de conflits d'intérêts, ont signé des pétitions exigeant son renvoi et lui ont envoyé des menaces de mort par courrier électronique.

Mais le fait est que les frères de guerre de Musk se sont trompés d’ingénieur. En tant que l’une des premières femmes pilotes de chasse de la Marine, Cummings pilotait des F/A-18. (Indicatif d'appel : Shrew.) Elle n'a pas été intimidée par le comportement agité de quelques personnes sur Twitter avec des photos de profil d'anime. Elle a publié les pires menaces sur LinkedIn, a embauché des agents de sécurité et a continué à se battre. « Je me dis, est-ce que tu vas vraiment faire ça ? elle rappelle pensée. «Je double la mise. Le pilote de chasse en moi sort. J’aime un bon combat.

Elle n’a pas exactement gagné cet engagement particulier. Beaucoup de pleurnicheries de la part de Tesla a poussé la NHTSA à forcer Cummings à se récuser de tout ce qui concerne l'entreprise. Mais vous savez ce qu’on dit à propos de tout atterrissage dont vous pouvez vous éloigner. Cummings a accepté un nouveau poste à l'Université George Mason et a élargi ses recherches de Tesla au monde plus large de TOUTE véhicules autonomes. Avec des sociétés comme Cruise et Waymo En lançant des taxis entièrement robotisés dans les rues de San Francisco et d’autres villes, l’essor des machines a commencé – et Cummings est en première ligne de la résistance. Dans un nouvel article controversé, elle conclut que les nouveaux taxis robots sont quatre à huit fois plus susceptibles d'avoir un accident qu'une voiture conduite par un humain. Et cela ne compte pas la manière dont les véhicules autonomes provoquent des embouteillages bizarres, bloquer les véhicules d'urgence, Et même s'arrêter au-dessus d'une personne qui avait déjà été heurté par une voiture conduite par un humain.

"Dans le journal qui a vraiment énervé tous les trolls de Tesla, je dis en fait qu'il ne s'agit pas seulement d'un problème de Tesla - que Tesla est la première à rencontrer ces problèmes", me dit Cummings. « Depuis des années, je dis aux gens que cela allait se produire, que ces problèmes se manifesteraient dans la conduite autonome. Et effectivement, ils le sont. Si quelqu'un dans le voiture autonome la communauté est surprise, c’est de leur faute.

Il s’avère que servir dans la Marine est un très bon moyen de s’entraîner à la colère des Muskovites. Dans ses mémoires de 1999, «Le frelon Nest", Cummings se souvient à quel point elle aimait voler à réaction et dit que l'excitation d'être catapultée depuis un porte-avions - ou d'atterrir sur un porte-avions - n'a jamais vieilli. Mais l’environnement était loin d’être accueillant. Le harcèlement sexuel dans la Marine était monnaie courante et des collègues masculins répétaient à plusieurs reprises à Cummings qu'elle n'était pas qualifiée pour piloter des chasseurs simplement parce qu'elle était une femme. Lorsqu'elle et une autre policière se sont présentées à un tournoi de golf sur la base, on leur a dit d'enfiler l'uniforme des Hooters et de conduire les chariots à bière. Cummings a refusé.

Les moteurs tactiques de destruction volants ont également fourni à Cummings une leçon de première main sur les dangers cachés des machines, de l’automatisation et des interfaces utilisateur. Lors de son premier jour de formation, deux pilotes ont été tués. Lors de son dernier jour, la Marine a connu le pire désastre d’entraînement jamais survenu à bord d’un porte-avions. Au total, au cours des trois années de vol de Cummings, 36 personnes sont mortes dans des accidents.

En 2011, alors qu’il menait des recherches sur les hélicoptères robots pour la Marine, Cummings a eu une révélation. Même entourés de rien d’autre que de l’air, ces hélicoptères étaient loin d’être parfaits – et ils s’appuyaient sur les mêmes capteurs que les voitures autonomes lorsqu’elles fonctionnent juste à côté des voitures et des personnes. "Quand j'ai approfondi les capacités de ces capteurs", dit Cummings, "c'est à ce moment-là que je me suis réveillé et que je me suis dit : oh, nous avons un sérieux problème dans les voitures."

Certains des dangers sont d’ordre technique. Les gens sont distraits, les systèmes de conduite autonomes sont confus dans des environnements complexes, etc. Mais d’autres dangers, dit Cummings, sont plus subtils – « sociotechniques », comme elle le dit. Ce qu’elle appelle la « culture hypermasculine de la Silicon Valley » s’entremêle avec l’énoncé de mission des Big Tech : « aller vite et casser les choses ». Selon elle, la culture des frères et un état d’esprit disruptif incitent les entreprises à passer sous silence les risques en matière de sécurité.

Tout cela rend la tâche encore plus difficile pour les femmes lorsqu’elles formulent le genre de critiques que Cummings a formulées. «Quand Elon Musk m'a lancé ses sbires, la misogynie à mon sujet en tant que femme, mon nom – tout est devenu très sombre très rapidement», se souvient-elle. "Je pense que le militaire a fait beaucoup de progrès, mais je pense que ce qui se passe dans ces entreprises de la Silicon Valley ne fait que nous rappeler que nous ne sommes pas allés aussi loin dans notre société que je le pensais.

Un exemple : le mois dernier, le responsable de la sécurité chez Waymo a vanté une nouvelle étude de son entreprise sur LinkedIn. La recherche n’était pas publiée et n’avait pas fait l’objet d’un examen par les pairs. Mais Waymo a utilisé l'étude pour valoir que ses voitures robotisées étaient en réalité beaucoup moins susceptibles d'avoir des accidents que les voitures conduites par des organismes biologiques comme vous et moi.

Un taxi autonome de Waymo bloque la circulation à San Francisco. «Ils ont fait preuve de complaisance», explique Cummings. "Ils ont perdu leur culture de sécurité." Terry Chea/AP

Cummings ne l’avait pas. Elle avait ses nouveaux résultats – également encore en prépublication – qui montraient que les taxis autonomes étaient beaucoup plus sujets aux accidents. Alors elle est allée aussi sur LinkedIn et l'a dit.

Cette réponse lui était familière depuis ses années dans la Marine. Kyle Vogt, le PDG de Cruise, glissé dans les commentaires. «J'aimerais vous aider dans cette analyse», a-t-il écrit à Cummings, remettant en question ses calculs. "Ce serait formidable de se connecter et d'en discuter davantage."

Cummings a répondu de la même manière. "J'aimerais vous aider à comprendre les statistiques de base, l'utilisation de la vision par ordinateur et ce que signifie être un PDG sûr et responsable d'une entreprise", elle a écrit. "Appelle à tout moment."

Les femmes, pense-t-elle, ont capté son ambiance. "Chaque femme qui lisait cela disait: Mmm-hmm, allez-y", dit Cummings. Mais les hommes – amis de la Silicon Valley – ne l’ont pas fait. Ils pensaient qu'elle avait été trop méchante avec Vogt. «Il essayait juste de t'aider», lui dirent-ils.

"Tous les gars l'ont lu comme : C'est une telle mégère !" dit Cummings. Mais, toujours pilote de chasse, elle était imperturbable. « C’est comme ça que j’ai obtenu mon indicatif d’appel », dit-elle. "Alors je vis avec."

Alors, qui a raison : Cummings, ou les hommes autonomes de Waymo, Cruise et Tesla ? C’est difficile à dire, pour une raison simple : les données sur la sécurité des voitures robotisées sont nulles.

Prenez l’approche de Cummings dans son nouvel article. Elle a d'abord dû lutter avec NHTSA des données nationales sur les accidents non mortels causés par des conducteurs humains, pour obtenir des chiffres qu'elle pourrait comparer à ceux de la Californie, le seul endroit où les voitures robotisées roulent librement. Ensuite, elle a dû déterminer des nombres comparables d’accidents non mortels et des kilomètres parcourus pour Waymo et Cruise, suivis par des sources divergentes. Sa conclusion : Cruise compte huit accidents non mortels pour chaque humain, et Waymo en a quatre – comparables aux taux d'accidents des conducteurs fatigués et surmenés des services de covoiturage comme Uber et les Lyft.

Les fournisseurs de robots-taxis affirment que Cummings a tort pour plusieurs raisons. Surtout, disent-ils, les chiffres des accidents humains sont en réalité sous-estimés. (De nombreux accrochages, par exemple, ne sont pas signalés.) De plus, les chiffres d'accidents pour l'ensemble du pays, ou même seulement pour la Californie, ne peuvent pas être comparés à ceux de San Francisco, qui est bien plus dense et plus vallonné que l'État dans son ensemble. . Vu sous cet angle, Cruise a soutenu dans un récent article de blog que ses taxis ont été impliqués dans 54 % d'accidents en moins que les voitures conduites par des humains. La société affirme également que les conducteurs de véhicules de transport sont impliqués dans un accident non mortel tous les 85,027 74 miles parcourus, soit XNUMX % de collisions en plus que les robots de Cruise.

Cummings ne l’achètera pas. Un article de blog n’est pas de la science ; c'est un communiqué de presse. "Chaque entreprise a un intérêt financier à publier un document qui lui donne une bonne image, et dans le cas de Cruise, cela donne une mauvaise image aux conducteurs de covoiturage", dit-elle. "C'est donc ce qu'ils font." C’est exactement le genre de culture sociotechnique que Cummings critique – et qu’elle est particulièrement qualifiée pour critiquer.

D’autres experts rejettent également les affirmations de Cruise, venant de personnes incitées à accueillir nos nouveaux suzerains robots. "Si nous devions croire les chiffres publiés par Cruise concernant les conducteurs de VTC, ces conducteurs auraient en moyenne deux accidents par an", explique Steven Shladover, ingénieur de recherche à l'Institute of Transportation Studies de l'UC Berkeley. « Combien de conducteurs ont deux accidents chaque année ? C’est assez extrême.

Mais Shladover est également sceptique quant aux chiffres avancés par Cummings. "Missy suppose un taux d'accidents impliquant des conducteurs humains trop faible pour San Francisco, et Cruise indique un taux d'accidents humains trop élevé", dit-il. "La réalité se situe probablement quelque part entre les deux."

Alors peut-être que Cummings a raison et que les voitures autonomes sont une menace. Ou peut-être que ce n’est pas aussi grave que le suggère son nouvel article. Tant que les voitures robotisées n’auront pas parcouru des centaines de millions de kilomètres, il n’y aura aucun moyen de tirer une conclusion statistiquement significative et sans équivoque. Mais l’essentiel est le suivant : cela ne devrait pas avoir d’importance. Lorsque les données sur la sécurité d’un produit ou d’un appareil sont équivoques, les agences de régulation sont censées élaborer et appliquer des règles qui protègent les consommateurs, tout comme elles le font dans d’autres secteurs. Si les données sur les voitures robotisées sont équivoques ou incomplètes, alors ces règles devraient les exclure de la route. La charge de la preuve incombe à Waymo, Cruise et Tesla, pas à Missy Cummings. Et si ces entreprises veulent installer des robots de 2 tonnes dans la rue, bloguer sur des données de référence n’est pas le moyen de montrer aux gens qu’ils sont prêts.

"L'une des grandes choses sur lesquelles je me concentre maintenant, tiré de mes années d'aviation, est que toutes ces entreprises ont besoin d'un pilote en chef de l'IA", explique Cummings. « Ils ont besoin d’avoir quelqu’un, une personne, qui se lève et dit : « Je suis responsable ». Nous le faisons actuellement pour l’aviation. C’est pourquoi tant de têtes ont roulé face aux problèmes survenus avec le Boeing 737 Max. Ils sont devenus complaisants. Ils ont perdu leur culture de sécurité.

Cummings est un chercheur attentif. Elle est aussi, comme l’a dit en privé un chercheur en sécurité des transports, « provocatrice ». Elle est plus qu’heureuse de mitrailler des entreprises comme Tesla, Waymo et Cruise, et de faire valoir que les entreprises technologiques doivent être soumises à un cadre réglementaire plus strict. Dans un sens, elle est le pire cauchemar d’Elon Musk. Elle a risqué sa vie à plusieurs reprises et régulièrement pour tester les incroyables capacités – et les limites mortelles – des interfaces homme-machine. Et elle l’a fait dans un environnement où les enjeux sont bien plus élevés que les champs de bataille de Twitter et LinkedIn. Pour elle, la sécurité des voitures autonomes n’est pas une question abstraite. C’est une question de vie ou de mort.

« Je suis professeur titulaire. Mon travail parle de lui-même. J'essaie de te sauver la vie, n'est-ce pas ? » dit Cummings. « Et il y a un côté de moi où je suis comme Don Quichotte sous stéroïdes. Il n’y a pas de moulin à vent sur lequel je ne veuille pas m’incliner.

Adam Rogers est correspondant principal chez Insider.

Lire l'article original sur Business Insider