Elon Musk'un en kötü kabusu Missy Cummings artık Waymo ve Cruise'a da eziyet ediyor - Autoblog

2021'de Missy Cummings adında bir mühendis öfkesini üzerine çekti. Elon Musk sosyal ağda daha sonra Twitter olarak adlandırıldı. Duke Üniversitesi'nden bir profesör olan Cummings, sürücüsüz araçların güvenliği üzerine bir araştırma yürütmüştü ve bulgular onu bu konuda bazı sert uyarılarda bulunmaya yöneltmişti. Tesla'nın sürücü destek teknolojisi. Arabaların "değişken ve genellikle güvensiz davranışlara" sahip olduğunu yazdı. daha fazla test gerekliydi "Böyle bir teknolojinin insanların doğrudan kontrolünde olmadan çalışmasına izin verilmeden önce." Cummings, araştırmasının gücüyle göreve atandı. Ulusal Karayolu Trafik Güvenliği İdaresi - düzenlenmesine yardımcı olmak robot arabalar.

Tesla hayranlar her zamanki sakinlik ve bakış açısıyla tepki gösterdiler, yani bunu kesinlikle kaybettiler. Cummings'in çocukları Elon'u adil olmayan bir şekilde düzenlemeye çalışacağı konusundaki ısrarları, çok geçmeden Musk'un da konuya katılmasına neden oldu. "Nesnel olarak" dedi tweeted, "geçmiş performansı Tesla'ya karşı son derece önyargılı." Buna yanıt olarak Musk'un hayranlığı tüm öfkesini Cummings'e - işine, görünüşüne, amaçlarına - yöneltti. Onu çıkar çatışmasıyla suçladılar, görevden alınmasını talep eden dilekçeler imzaladılar ve e-postayla ölüm tehditleri gönderdiler.

Ama gerçek şu ki, Musk'un savaş arkadaşları yanlış mühendisle uğraşıyordu. Donanmanın ilk kadın savaş pilotlarından biri olan Cummings, F/A-18'leri uçuruyordu. (Çağrı işareti: Shrew.) Twitter'da anime profil resimleri olan birkaç kişinin sallama davranışlarından korkmamıştı. LinkedIn'de en kötü tehditleri paylaştı, kişisel güvenlik kiraladı ve savaşmaya devam etti. “Ben şöyle düşünüyorum, bunu gerçekten yapacak mısın?” o hatırlatır Düşünme. “İki katına çıkıyorum. İçimdeki savaş pilotu ortaya çıkıyor. İyi bir dövüşü seviyorum.”

O özel nişanı tam olarak kazanamadı. Tesla'dan çok fazla sızlanma NHTSA'yı Cummings'i kendisini geri çekmeye zorlamaya zorladı şirketle ilgili herhangi bir şeyden. Ama yürüyüp gidebileceğin herhangi bir iniş hakkında ne derler bilirsin. Cummings, George Mason Üniversitesi'nde yeni bir göreve başladı ve araştırmasını Tesla'dan daha geniş dünyaya genişletti. herşey sürücüsüz araçlar. Cruise gibi şirketlerle Waymo Tamamen robotize taksilerin San Francisco ve diğer şehirlerin sokaklarında serbest bırakılmasıyla birlikte makinelerin yükselişi başladı ve Cummings direnişin ön saflarında yer alıyor. Tartışmalı yeni bir makalesinde, yeni robot taksilerin kaza yapma olasılığının insan güdümlü bir arabaya göre dört ila sekiz kat daha fazla olduğu sonucuna varıyor. Ve bu, sürücüsüz araçların yol açtığı sonuçları hesaba katmıyor garip trafik sıkışıklıkları, acil durum araçlarının engellenmesiVe hatta bir kişinin üstünde durmak Zaten insan gücüyle çalışan bir araba ona çarpmıştı.

Cummings bana, "Tüm Tesla trollerini gerçekten sinirlendiren makalemde, aslında bunun sadece bir Tesla sorunu olmadığını, sorunları ilk deneyimleyen kişinin Tesla olduğunu söylüyorum" dedi. "Yıllardır insanlara bunun olacağını, bu sorunların otonom sürüşte ortaya çıkacağını anlatıyordum. Ve gerçekten de öyleler. Eğer kimse varsa kendi kendini süren araba toplum şaşırdı, bu onlara kalmış.”

Donanmada hizmet etmenin, Muskovitlerden gelen öfkeye karşı eğitim almanın çok iyi bir yolu olduğu ortaya çıktı. 1999 tarihli anılarında “Hornet'in Nest,” diyen Cummings, jetleri uçurmayı ne kadar sevdiğini hatırlıyor ve bir uçak gemisinden fırlatılmanın veya bir uçak gemisine inmenin heyecanının asla eskimediğini söylüyor. Ancak ortam pek hoş karşılanmadı. Donanmada cinsel taciz rutin bir olaydı ve erkek meslektaşları Cummings'e sırf kadın olduğu için savaş uçaklarını uçurmaya yetkili olmadığını defalarca söylediler. O ve başka bir kadın memur üstteki bir golf turnuvasına geldiklerinde onlara Hooters üniformalarını giymeleri ve bira arabalarını sürmeleri söylendi. Cummings reddetti. 

Uçan taktik imha motorları aynı zamanda Cummings'e makinelerin, otomasyonun ve kullanıcı arayüzlerinin gizli tehlikeleri konusunda ilk elden bir ders sağladı. Eğitimin ilk gününde iki pilot öldürüldü. Donanma, son gününde bir gemide şimdiye kadar meydana gelen en kötü eğitim felaketini yaşadı. Cummings'in uçtuğu üç yıl boyunca kazalarda toplam 36 kişi öldü.

Cummings, 2011 yılında Donanma için robot helikopterler üzerine araştırma yaparken bir aydınlanma yaşadı. Etrafı havadan başka hiçbir şeyle çevrili olmasa bile bu helolar mükemmel olmaktan çok uzaktı ve otonom araçların, arabaların ve insanların hemen yanında çalışırken kullandığı sensörlerin aynısına güveniyorlardı. Cummings, "Bu sensörlerin yeteneklerini derinlemesine incelediğimde, işte o zaman uyandım ve dedim ki, arabalarda ciddi bir sorunumuz var."

Tehlikelerin bazıları tekniktir. İnsanların dikkati dağılıyor, otonom sistemler karmaşık ortamlarda kafa karıştırıyor, vb. Ancak Cummings, diğer tehlikelerin daha incelikli, kendi deyimiyle "sosyoteknik" olduğunu söylüyor. "Silikon Vadisi'ndeki aşırı erkeksi kültür" olarak adlandırdığı şey, Big Tech'in "hızlı hareket etme ve işleri kırma" misyonuyla iç içe geçiyor. Ona göre hem kardeşlik kültürü hem de yıkıcı zihniyet, şirketleri güvenlik risklerini görmezden gelmeye teşvik ediyor. 

Bütün bunlar, Cummings'in yaptığı türden eleştirileri aynı seviyeye getiren kadınların işini daha da zorlaştırıyor. "Elon Musk yardakçılarını üzerime saldığında, bir kadın olarak benimle ilgili kadın düşmanlığı, adım; her şey çok çabuk karardı" diye anımsıyor. "Bence askeri çok ilerleme kaydetti, ancak Silikon Vadisi şirketlerinde olup bitenlerin, toplumumuzda sandığım kadar ilerlemediğimizi hatırlattığını düşünüyorum.”

Bir örnek: Geçen ay Waymo'nun güvenlik şefi, LinkedIn'de kendi şirketinin yeni bir çalışmasının tanıtımını yaptı. Araştırma yayınlanmamıştı ve hakem değerlendirmesinden geçmemişti. Ancak Waymo bu çalışmayı kullanarak şunu tartış robot arabalarının kaza yapma olasılığı sizin ve benim gibi biyolojik organizmaların kullandığı arabalara göre çok daha azdı.

Cummings'in buna niyeti yoktu. Sürücüsüz taksilerin kazalara çok daha yatkın olduğunu gösteren yeni sonuçları da vardı (yine basım aşamasındaydı). O da LinkedIn'e girdi ve öyle söyledi.

Cevap ona Donanmadaki günlerinden tanıdık geliyordu. Cruise'un CEO'su Kyle Vogt, yorumlara kaydım. Cummings'e "Bu analizde size yardımcı olmayı çok isterim" diye yazdı ve onun hesaplamalarını sorguladı. "Bu konuyu daha fazla bağlantı kurmak ve tartışmak harika olurdu."

Cummings de aynı şekilde karşılık verdi. "Temel istatistikler, bilgisayarlı görü kullanımı ve bir şirketin güvenli ve sorumlu CEO'su olmanın ne anlama geldiği konularında size yardımcı olmayı çok isterim." yazdı. "İstediğin zaman arayabilirsin."

Kadınların onun havasını yakaladığını düşünüyor. Cummings, "Bunu okuyan her kadın şöyle dedi: Hımm-hmm, sen git" diyor. Ancak Silikon Vadisi'ndeki arkadaşları olan erkekler bunu yapmadı. Vogt'a karşı çok kaba davrandığını düşünüyorlardı. Ona, "Sadece sana yardım etmeye çalışıyordu" dediler.

"Bütün erkekler bunu şöyle okuyor: O tam bir kurnaz!" Cummings'in söylediğine göre. Ama savaş pilotu olmasına rağmen etkilenmemişti. "Çağrı işaretimi bu şekilde aldım" diyor. “Yani bununla yaşıyorum.”

Peki kim haklı: Cummings mi, yoksa Waymo, Cruise ve Tesla'nın kendi kendine yeten adamları mı? Basit bir nedenden dolayı bunu söylemek zor: Robot arabaların güvenliğine ilişkin veriler berbat. 

Cummings'in yeni makalesindeki yaklaşımını ele alalım. İlk önce onunla güreşmek zorunda kaldı NHTSA'lar Robot arabaların serbest çalıştığı tek yer olan Kaliforniya ile karşılaştırabileceği rakamları elde etmek için insan sürücülerin yaptığı ölümcül olmayan kazalara ilişkin ülke çapındaki veriler. Daha sonra, farklı kaynaklar tarafından izlenen karşılaştırılabilir ölümcül olmayan kaza sayılarını ve Waymo ve Cruise için kat edilen kilometreleri hesaplaması gerekiyordu. Vardığı sonuç: Cruise'da her insan başına sekiz ölümcül olmayan kaza yaşanıyor ve Waymo'da dört tane var; bu, dolu servislerindeki yorgun ve aşırı çalışan sürücülerin kaza oranlarıyla karşılaştırılabilir. Uber ve Lyft.

Robot taksi tedarikçileri Cummings'in birçok nedenden dolayı hatalı olduğunu savunuyor. Esas olarak, insanlı kazalara ilişkin sayıların aslında eksik sayıldığını söylüyorlar. (Örneğin pek çok çamurluk bükücü rapor edilmiyor.) Ayrıca, tüm ülke için, hatta sadece Kaliforniya için olan kaza sayıları, eyaletin tamamından çok daha yoğun ve engebeli olan San Francisco ile karşılaştırılamaz. . Cruise, yakın tarihli bir blog yazısında bu açıdan bakıldığında, taksilerin insanların kullandığı arabalara göre %54 daha az kazaya karıştığını savundu. Şirket ayrıca, araç dolusu sürücülerinin her 85,027 mil sürüşte ölümcül olmayan bir kazaya maruz kaldığını, yani Cruise'un robotlarına kıyasla %74 daha fazla çarpışma olduğunu belirtiyor.

Cummings bunu yutmuyor. Bir blog yazısı bilim değildir; bu bir basın açıklamasıdır. "Her şirketin, kendilerini iyi gösterecek bir belge çıkarmak konusunda mali çıkarı vardır ve Cruise söz konusu olduğunda bu, araç paylaşımı sürücülerinin kötü görünmesine neden olur" diyor. "Demek onların yaptığı da bu." Bu tam da Cummings'in eleştirdiği türden bir sosyoteknik kültür; onun eleştirme konusunda benzersiz bir yetkinliğe sahip olduğu bir şey.

Diğer uzmanlar da Cruise'un yeni robot efendilerimizi karşılamaya teşvik edilen insanlardan gelen iddialarını dikkate almıyorlar. UC Berkeley Ulaştırma Araştırmaları Enstitüsü'nde araştırma mühendisi olan Steven Shladover, "Cruise'ın araç çağıran sürücüler için ortaya koyduğu rakamlara inansaydık, bu sürücüler yılda ortalama iki kaza yaşıyor olurdu" diyor. “Her yıl kaç sürücü iki kaza yapıyor? Bu oldukça aşırı bir durum.”

Ancak Shladover, Cummings'in belirlediği rakamlara da şüpheyle yaklaşıyor. "Missy, insan sürücülü kaza oranının San Francisco için çok düşük olduğunu varsayıyor ve Cruise da insanlı kaza oranının çok yüksek olduğunu gösteriyor" diyor. “Gerçek muhtemelen ikisinin arasında bir yerde.”

Belki de Cummings haklıdır ve sürücüsüz arabalar bir tehdittir. Ya da belki yeni makalesinin önerdiği kadar kötü değildir. Robot arabalar yüz milyonlarca kilometre yol kat edene kadar istatistiksel olarak anlamlı, kesin bir sonuca varmanın yolu yok. Ancak sonuç şu: Önemli olmamalı. Bir ürünün veya cihazın güvenliğine ilişkin veriler şüpheli olduğunda, düzenleyici kurumların tıpkı diğer sektörlerde olduğu gibi tüketicileri koruyan kurallar koyması ve bunları uygulaması gerekir. Robot arabalara ilişkin veriler şüpheli veya eksikse, bu kurallar onları yoldan uzak tutmalıdır. Kanıt yükü Missy Cummings'e değil, Waymo'ya, Cruise'a ve Tesla'ya ait. Ve eğer bu şirketler halka açık sokaklara 2 tonluk robotlar koymak istiyorlarsa, veri kıyaslamaları hakkında blog yazmak insanlara hazır olduklarını göstermenin yolu değil.

Cummings, "Havacılık yıllarımdan yola çıkarak şu anda üzerinde durduğum en önemli şeylerden biri, tüm bu şirketlerin bir yapay zeka baş pilotuna ihtiyaç duymasıdır" diyor. “Ayağa kalkıp 'Ben sorumluyum' diyen birine, bir kişiye ihtiyaçları var. Şu anda bunu havacılık için yapıyoruz. Boeing 737 Max'te yaşanan sorunlar bu kadar çok kişinin kafasını karıştırmasının nedenidir. Rehavete kapıldılar. Güvenlik kültürlerini kaybettiler.”

Cummings dikkatli bir araştırmacıdır. Aynı zamanda bir ulaşım güvenliği araştırmacısının özel olarak söylediği gibi “kışkırtıcı”. Tesla, Waymo ve Cruise gibi şirketlere saldırmaktan ve teknoloji kardeşlerinin daha katı bir düzenleyici çerçeveye dahil edilmesi gerektiğini savunmaktan fazlasıyla mutlu. Bir anlamda Elon Musk'un en kötü kabusu. İnsan-makine arayüzlerinin inanılmaz yeteneklerini ve ölümcül sınırlarını test etmek için defalarca ve rutin olarak hayatını riske attı. Ve bunu, risklerin Twitter ve LinkedIn'in savaş alanlarından çok daha yüksek olduğu bir ortamda yaptı. Ona göre sürücüsüz araçların güvenliği soyut bir soru değil. Bu bir ölüm kalım meselesi.

“Ben kadrolu bir profesörüm. Çalışmam kendi adına konuşuyor. Hayatını kurtarmaya çalışıyorum, değil mi?başlıklı bir kılavuz yayınladı Cummings'in söylediğine göre. “Bir de steroid kullanan Don Kişot gibi olduğum bir yanım var. Eğilmek istemediğim bir yel değirmeni yok.”

Adam Rogers Insider'da kıdemli bir muhabirdir.

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
• Kaynak: https://www.autoblog.com/2023/10/14/elon-musk-s-worst-nightmare/