הסיוט הגרוע ביותר של אילון מאסק, מיסי קאמינגס, מייסר כעת גם את ווימו וקרוז - Autoblog

בשנת 2021, מהנדסת בשם מיסי קאמינגס עוררה את זעמם של אלון מאסק ברשת החברתית שנקראה אז טוויטר. פרופסור באוניברסיטת דיוק, קאמינגס ערכה מחקר על הבטיחות של מכוניות בנהיגה עצמית, והממצאים הובילו אותה לפרסם כמה אזהרות נוקבות לגבי טכנולוגיית הסיוע לנהג של טסלה. למכוניות, כתבה, היו "התנהגויות משתנות ולעתים קרובות לא בטוחות". דרשו עוד בדיקות "לפני שמאפשרים לטכנולוגיה כזו לפעול ללא בני אדם בשליטה ישירה." על בסיס המחקר שלה, קמינגס מונתה לתפקיד המינהל הלאומי האמריקני לבטיחות כביש - לעזור בהסדרה של רובוט מכוניות.

טסלה המעריצים הגיבו בשוויון נפש ובתחושת הפרספקטיבה הרגילים שלהם, כלומר הם איבדו את זה לחלוטין. ההתעקשות שלהם שקאמינגס ינסה להסדיר באופן לא הוגן את בנם אילון, גרמה עד מהרה למאסק עצמו להצטרף לשרשור. "באופן אובייקטיבי," הוא צייץ, "הרקורד שלה מוטה מאוד נגד טסלה." בתגובה, הסטנים של מאסק שחררו את חמתם המלאה על קאמינגס - העבודה שלה, המראה שלה, המניעים שלה. הם האשימו אותה בניגוד עניינים, חתמו על עצומות שדרשו את הסרתה ושלחו איומי מוות באימייל.

אבל העניין הוא שהאחים למלחמה של מאסק התעסקו עם המהנדס הלא נכון. כאחת מטייסות הקרב הראשונות של הצי, קאמינגס נהגה להטיס F/A-18. (סימן קריאה: שריו.) היא לא נבהלה מהתנהגותם של כמה אנשים בטוויטר עם תמונות פרופיל אנימה. היא פרסמה את האיומים הגרועים ביותר בלינקדאין, שכרה קצת אבטחה אישית והמשיכה ממש להילחם. "אני כאילו, אתה באמת מתכוון לעשות את זה?" היא מספר חושב. "אני מכפיל את עצמו. טייס הקרב שבי יוצא החוצה. אני אוהב קרב טוב".

היא לא בדיוק זכתה באירוסין הספציפי הזה. הרבה התבכיינות מטסלה דחפה את NHTSA לאלץ את קאמינגס להתפטר מכל דבר הקשור לחברה. אבל אתה יודע מה אומרים על כל נחיתה שאתה יכול להתרחק ממנה. קאמינגס לקחה הופעה חדשה באוניברסיטת ג'ורג' מייסון והרחיבה את המחקר שלה מטסלה לעולם הרחב של את כל רכבים בנהיגה עצמית. עם חברות כמו קרוז ו Waymo שחרור מוניות רובוטיזציה מלאה ברחובות סן פרנסיסקו וערים אחרות, עליית המכונות החלה - וקאמינגס נמצא בחזית ההתנגדות. במאמר חדש שנוי במחלוקת, היא מסיקה שלמוניות הרובוט החדשות יש סיכוי גבוה פי ארבעה עד שמונה ממכונית מונעת על ידי אדם להיכנס לתאונה. וזה לא נחשב לדרך שבה כלי רכב נהיגה עצמית גורמים פקקים מוזרים, חסימת רכבי חירום, ואפילו עצירה על גבי אדם שכבר נפגע ממכונית מונעת על ידי אדם.

"בעיתון שבאמת עצבן את כל הטרולים של טסלה, אני בעצם אומר שזו לא רק בעיה של טסלה - שטסלה היא הראשונה שחווה את הבעיות", אומר לי קאמינגס. "במשך שנים אני אומר לאנשים שזה עומד לקרות, שהבעיות האלה יופיעו בנהיגה עצמית. ואכן כך הם. אם מישהו ב מכונית בנהיגה עצמית הקהילה מופתעת, זה עליהם".

מסתבר ששירות בחיל הים הוא דרך טובה מאוד להתאמן על כעסים נכנסים ממוסקוביטים. בספר זיכרונותיה משנת 1999, "של הורנט קן", נזכרת קאמינגס איך היא אהבה מטוסים מעופפים, ואומרת שההתרגשות להיעדר מנושאת מטוסים - או לנחות על נושאת מטוסים - מעולם לא הזדקנה. אבל הסביבה הייתה רחוקה מלהיות מסבירת פנים. הטרדה מינית בחיל הים הייתה דבר שבשגרה, ועמיתים גברים אמרו לקאמינגס שוב ושוב שהיא לא כשירה להטיס לוחמים רק בגלל שהיא אישה. כשהיא וקצינה נוספת הופיעו בטורניר גולף בבסיס, נאמר להם ללבוש את מדי הוטרס ולנהוג בעגלות הבירה. קאמינגס סירב. 

מנועי הרס טקטיים מעופפים גם סיפקו לקאמינגס שיעור ממקור ראשון בסכנות הנסתרות של מכונות, אוטומציה וממשקי משתמש. ביום הראשון להכשרתה נהרגו שני טייסים. ביומה האחרון, חווה חיל הים את אסון האימונים החמור ביותר שאי פעם התרחש על גבי נושאת. בסך הכל, במהלך שלוש השנים שבהן טס קאמינגס, 36 אנשים מתו בתאונות.

בשנת 2011, בזמן שביצע מחקר על מסוקי רובוטים עבור חיל הים, לקאמינגס הייתה התגלות. אפילו כשהם מוקפים רק באוויר, ההלו האלה היו רחוקים מלהיות מושלמים - והם הסתמכו על אותם חיישנים שמכוניות בנהיגה עצמית עושות כשהן פועלות ממש ליד מכוניות ואנשים. "כשנכנסתי לעומק היכולות של החיישנים האלה", אומר קאמינגס, "אז התעוררתי ואמרתי, וואו, יש לנו בעיה רצינית במכוניות".

חלק מהסכנות הן טכניות. אנשים מוסחים, מערכות נהיגה עצמית מתבלבלות בסביבות מסובכות, וכן הלאה. אבל סכנות אחרות, אומרת קאמינגס, עדינות יותר - "סוציוטכניות", כדבריה. מה שהיא מכנה "התרבות ההיפר-גברית בעמק הסיליקון" משתלב בהצהרת המשימה של ביג טק "להתקדם מהר ולשבור דברים". גם תרבות אחי וגם חשיבה משבשת, כפי שהיא רואה זאת, מעודדים חברות להעלים סיכוני בטיחות. 

כל זה מקשה עוד יותר על נשים כשהן מעבירות את סוג הביקורת שיש לקאמינגס. "כאשר אילון מאסק ליטף את המיניים שלו עליי, המיזוגניה עלי כאישה, השם שלי - החשיך מאוד מהר", היא נזכרת. "אני חושב שה צבאי עשה הרבה צעדים, אבל אני כן חושב שזה מה שקורה בחברות האלה בעמק הסיליקון הוא רק תזכורת לכך שלא הגענו רחוק בחברה שלנו כמו שחשבתי שנגיע".

דוגמה: בחודש שעבר, ראש מחלקת הבטיחות ב-Waymo העלה מחקר חדש של החברה שלו בלינקדאין. המחקר לא פורסם ולא עבר ביקורת עמיתים. אבל Waymo השתמש במחקר כדי לטעון את זה מכוניות הרובוט שלה היו למעשה הרבה פחות סיכויים להיתקל בתאונות מאשר מכוניות מונעות על ידי אורגניזמים ביולוגיים כמוך וכמוני.

לקאמינגס לא היה את זה. היו לה התוצאות החדשות שלה - גם הן עדיין בהדפסה מוקדמת - שהראו כי מוניות נהיגה עצמית מועדות הרבה יותר להתרסקות. אז היא נכנסה גם ללינקדאין ואמרה את זה.

התגובה הייתה מוכרת לה מימיה בחיל הים. קייל ווגט, מנכ"ל קרוז, גלש לתוך ההערות. "אשמח לעזור לך בניתוח הזה," הוא כתב לקאמינגס, תוך שהוא מטיל ספק במספרים שלה. "יהיה נהדר להתחבר ולדון בזה הלאה."

קאמינגס הגיב בעין. "אשמח לעזור לך עם ההבנה שלך בסטטיסטיקה בסיסית, שימוש בראייה ממוחשבת, ומה זה אומר להיות מנכ"ל בטוח ואחראי של חברה", היא כתבה. "תתקשר בכל עת."

נשים, היא מספרת, תפסו את האווירה שלה. "כל אישה שקראה את זה הייתה כמו: מממממ, לך", אומרת קאמינגס. אבל גברים - חברים בעמק הסיליקון - לא. הם חשבו שהיא הייתה רעה מדי כלפי פוגט. "הוא רק ניסה לעזור לך," הם אמרו לה.

"כל החבר'ה קראו את זה כמו: היא כזו שרמוטה!" אומר קאמינגס. אבל, אי פעם כטייס הקרב, היא לא הייתה מופתעת. "כך קיבלתי את סימן הקריאה שלי", היא אומרת. "אז אני חי עם זה."

אז מי צודק: קאמינגס, או הגברים המונעים בעצמם של Waymo וקרוז וטסלה? קשה לדעת, מסיבה פשוטה: הנתונים על בטיחות מכוניות רובוט מבאסים. 

קח את הגישה של קאמינגס במאמר החדש שלה. ראשית היא נאלצה להיאבק של NHTSA נתונים ארציים על תאונות לא קטלניות על ידי נהגים אנושיים, כדי לקבל מספרים שהיא יכולה להשוות לקליפורניה, המקום היחיד שבו מכוניות הרובוטים רצות חופשיות. אחר כך היא נאלצה להבין מספרי תאונות דומים לא קטלניים וקילומטרים שנסעו עבור Waymo וקרוז, במעקב אחר מקורות שונים. המסקנה שלה: לקרוז יש שמונה תאונות לא קטלניות לכל אדם, ול-Waymo יש ארבע - השווים לשיעורי ההתרסקות של הנהגים העייפים והעמוסים מדי בשירותי נסיעה-ברד כמו סופר ו Lyft.

הספקים של מוניות רובוטים טוענים שקאמינגס טועה מכמה סיבות. בעיקר, הם אומרים, המספרים של תאונות אנוש הם למעשה ספירה נמוכה. (הרבה מכופפי פגושים, למשל, אינם מדווחים.) בנוסף, לא ניתן להשוות את מספרי ההתרסקות בכל המדינה, או אפילו רק בקליפורניה, לאלה של סן פרנסיסקו, שהיא הרבה יותר צפופה והררית מהמדינה כולה. . כשמסתכלים על זה, טען קרוז בפוסט האחרון בבלוג, המוניות שלה היו מעורבות ב-54% פחות תאונות מאשר מכוניות שנהגו על ידי בני אדם. החברה גם טוענת כי נהגי ברד נקלעים לתאונה אחת לא קטלנית על כל 85,027 מייל של נסיעה - 74% יותר התנגשויות מאשר הרובוטים של קרוז.

קאמינגס לא קונה את זה. פוסט בבלוג אינו מדע; זו הודעה לעיתונות. "לכל חברה יש אינטרס פיסקלי להוציא נייר שגורם להם להיראות טוב, ובמקרה של קרוז זה גורם לנהגי הנסיעות להיראות רע", היא אומרת. "אז זה מה שהם עושים." זה בדיוק סוג התרבות הסוציוטכנית שקמינגס מבקרת אותה - שהיא מוסמכת במיוחד לבקר.

מומחים אחרים גם מתעלמים מהטענות של קרוז, שמגיעות כפי שהם מגיעים מאנשים שמתמריצים לקבל את פניהם של אדוני הרובוט החדשים שלנו. "אם היינו מאמינים למספרים שקרוז מציגה שם עבור נהגי נסיעה, נהגים אלה היו סובלים בממוצע של שתי תאונות בשנה", אומר סטיבן שלאדובר, מהנדס מחקר במכון למחקרי תחבורה של UC ברקלי. "לכמה נהגים יש שתי תאונות בכל שנה? זה די קיצוני".

אבל שלאדובר גם סקפטי לגבי המספרים שצמצם קאמינגס. "מיסי מניחה ששיעור תאונות נהג אנושי נמוך מדי עבור סן פרנסיסקו, וקרוז מראה שיעור תאונות אנושי גבוה מדי", הוא אומר. "המציאות כנראה נמצאת איפשהו באמצע."

אז אולי קאמינגס צודק, ומכוניות בנהיגה עצמית הן איום. או אולי זה לא כל כך גרוע כפי שהעיתון החדש שלה מציע. עד שמכוניות רובוטים לא נסעו מאות מיליוני קילומטרים, אין דרך להגיע למסקנה מובהקת סטטיסטית וחד משמעית. אבל השורה התחתונה היא: זה לא אמור לעניין. כאשר הנתונים על בטיחות מוצר או מכשיר מעורפלים, סוכנויות רגולטוריות אמורות לקבוע ולאכוף כללים המגנים על הצרכנים, בדיוק כפי שהם עושים בתעשיות אחרות. אם הנתונים על מכוניות רובוטים מעורפלים או לא שלמים, אזי הכללים האלה צריכים להרחיק אותם מהכביש. חובת ההוכחה היא על Waymo וקרוז וטסלה, לא על מיסי קאמינגס. ואם החברות האלה רוצות לשים רובוטים במשקל 2 טון ברחובות ציבוריים, בלוגים על מדדי נתונים היא לא הדרך להראות לאנשים שהם מוכנים.

"אחד הדברים הגדולים שאני מדבר עליהם עכשיו, בעקבות שנות התעופה שלי, הוא שכל החברות האלה צריכות טייס AI ראשי", אומר קאמינגס. "צריך שיהיה להם מישהו, אדם אחד, שיקום ואומר, 'אני אחראי'. אנחנו עושים את זה עכשיו עבור התעופה. זו הסיבה שכל כך הרבה ראשים התגלגלו עם הבעיות שקרו עם הבואינג 737 מקס. הם נעשו שאננים. הם איבדו את תרבות הבטיחות שלהם".

קאמינגס הוא חוקר זהיר. היא גם, כפי שניסח זאת חוקר בטיחות תחבורה באופן פרטי, "פרובוקטיבית". היא יותר משמחה להפציץ חברות כמו טסלה ווימו וקרוז, ולטעון שצריך להכניס את האחים הטכנולוגיים למסגרת רגולטורית מחמירה יותר. במובן מסוים, היא הסיוט הגרוע ביותר של אילון מאסק. היא סיכנה שוב ושוב את חייה כדי לבדוק את היכולות המדהימות - ואת הגבולות הקטלניים - של ממשקי אדם-מכונה. והיא עשתה את זה בסביבה שבה ההימור גבוה בהרבה משדות הקרב של טוויטר ולינקדאין. מבחינתה, הבטיחות של מכוניות בנהיגה עצמית אינה שאלה מופשטת. זה עניין של חיים ומוות.

"אני פרופסור קבוע. העבודה שלי מדברת בעד עצמה. אני מנסה להציל את חייך, נכון?" אומר קאמינגס. "ויש את הצד שלי שבו אני כמו דון קישוט על סטרואידים. אין טחנת רוח שאני לא רוצה להטות אליה".

אדם רוג'רס הוא כתב בכיר באינסיידר.

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
• PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
• PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
• PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
• מקור: https://www.autoblog.com/2023/10/14/elon-musk-s-worst-nightmare/