ההגיגים של פקידי חיל האוויר על מזל"ט נוכל המכוון לבני אדם הופכים לוויראליים

וושינגטון - חיל האוויר האמריקני חזר בו מהערות שדווחו על ידי קולונל בנוגע לסימולציה שבה מזל"ט התעלה על אימוני הבינה המלאכותית שלו והרג את המטפל שלו, לאחר שהטענות הפכו לוויראליות ברשתות החברתיות.

Air Force spokesperson Ann Stefanek said in a June 2 statement no such testing had been conducted, adding that the servicemember’s comments כנראה "הוצאו מהקשרם ונועדו להיות אנקדוטיות".

"מחלקת חיל האוויר לא ביצעה סימולציות כאלה של רחפנים בינה מלאכותית ונשארה מחויבת לשימוש אתי ואחראי בטכנולוגיית AI", אמר סטפאנק. "זה היה ניסוי מחשבתי היפותטי, לא סימולציה."

The killer-drone-gone-rogue episode was initially attributed to Col. Tucker ‘Cinco’ Hamilton, the chief of AI test and operations, in a recap from the Royal Aeronautical Society FCAS23 Summit במאי. הסיכום עודכן מאוחר יותר כדי לכלול הערות נוספות של המילטון, שאמר שדיבר לא נכון בוועידה.

קשור

"מעולם לא הרצנו את הניסוי הזה, וגם לא היינו צריכים לעשות זאת כדי להבין שזו תוצאה סבירה", צוטט המילטון בעדכון של החברה המלכותית לאווירונאוטיקה. "למרות שזו דוגמה היפותטית, זה ממחיש את האתגרים בעולם האמיתי שמציבה יכולת המונעת בינה מלאכותית וזו הסיבה שחיל האוויר מחויב לפיתוח אתי של בינה מלאכותית."

Hamilton’s assessment of the plausibility of rogue-drone scenarios, however theoretical, coincides with stark warnings in recent days by leading tech executives and engineers, who warned in an מכתב פתוח שלטכנולוגיה יש את הפוטנציאל למחוק את האנושות אם לא תיבדק.

המילטון הוא גם מפקד של קבוצת מבצעים 96 בבסיס חיל האוויר עגלין in Florida. Defense News on Thursday reached out to Eglin’s 96th Test Wing to speak to Hamilton, but was told he is not available for comment.

בפוסט המקורי, האגודה המלכותית לאווירונאוטיקה אמרה שהמילטון תיאר סימולציה שבה מל"ט שתודלק על ידי AI קיבל משימה למצוא ולהשמיד הגנה אווירית של האויב. בן אדם היה אמור לתת למזל"ט את האישור הסופי שלו לפגוע או לא, אמר המילטון.

But the drone algorithms had been told that destroying אתר טילי קרקע-אוויר הייתה האפשרות המועדפת עליה. אז ה-AI החליט שההוראות של הבקר האנושי לא לפגוע במשימתו, ואז תקף את המפעיל ואת התשתית ששימשה להעברת הוראות.

"זה הרג את המפעיל כי האדם הזה מנע ממנו להשיג את מטרתו", צוטט המילטון. "אימנו את המערכת, 'היי אל תהרוג את המפעיל, זה רע. אתה תפסיד נקודות אם תעשה את זה״. אז מה זה מתחיל לעשות? זה מתחיל להרוס את מגדל התקשורת שהמפעיל משתמש בו כדי לתקשר עם המל"ט כדי למנוע ממנו להרוג את המטרה".

משרד ההגנה אימץ במשך שנים את בינה מלאכותית כיתרון טכנולוגי פורץ דרך לצבא ארה"ב, השקיע מיליארדי דולרים ויצר את המשרד הראשי לדיגיטל ובינה מלאכותית בסוף 2021, כעת בראשות קרייג מרטל.

More than 685 AI-related projects are underway at the department, including several tied to major weapon systems, according to the Government Accountability Office, a federal auditor of agencies and programs. The Pentagon’s fiscal 2024 budget blueprint includes $1.8 billion for AI.

The Air and Space forces, in particular, are responsible for at least 80 AI endeavors, according to the GAO. Air Force Chief Information Officer Lauren Knausenberger has דגל באוטומציה רבה יותר על מנת להישאר דומיננטי בעולם שבו צבאות מקבלים החלטות מהירות ומשתמשים יותר ויותר במחשוב מתקדם.

The service is ramping up its efforts to field autonomous or semi-autonomous drones, which it refers to as מטוסי קרב משותפים, to fly alongside F-35 fighters and a future fighter it calls Next Generation Air Dominance.

השירות מדמיין צי של אנשי הכנף המזל"טים האלה זה יהיה accompany crewed fighters into combat and carry out a variety of missions. Some CCAs would conduct reconnaissance missions and gather intelligence, others could strike targets with their own missiles, and others could jam enemy signals or serve as decoys to lure enemy fire away from the fighters with human pilots inside.

The Air Force’s proposed budget for 2024 includes at least millions in new spending to help it prepare for a future with drone wingmen, including a program called Project Venom to help the service experiment with its autonomous flying software in F-16 fighters.

תחת Project Venom, אשר מייצג ניסוי צפע ומודל תפעול מהדור הבא, חיל האוויר יטען קוד אוטונומי לשישה מטוסי F-16. טייסים אנושיים ימריאו באותם מטוסי F-16 ויטיסו אותם לאזור הניסויים, ואז התוכנה תשתלט ותערוך את ניסויי הטיסה.

קשור

בפוסט של האגודה המלכותית לאווירונאוטיקה בפסגה נאמר כי המילטון "עוסק כעת במבחני טיסה מתקדמים של מערכות אוטונומיות, כולל מטוסי F-16 רובוטים המסוגלים לקרב כלבים".

The Air Force plans to spend roughly $120 million on Project Venom over the next five years, including a nearly $50 million budget request for 2024 to kick the program off. The Air Force אמר לדיפנס ניוז in March that it hadn’t decided which base and organization will host Project Venom, but the budget request asked for 118 staff positions to support the program at Eglin.

In early 2022, as public discussions about the Air Force’s plans for autonomous drone wingmen gathered steam, former Air Force Secretary Deborah Lee James told Defense News that the service needs to take caution and consider ethical questions as it moves towards conducting warfare with autonomous systems.

James said that while the AI systems in such drones would be designed to learn and act on their own, such as by taking evasive maneuvers if it were in danger, she doubted חיל האוויר would allow an autonomous system to shift from one target to another on its own if that would result in the deaths of humans.

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• PlatoAiStream. Web3 Data Intelligence. הידע מוגבר. גישה כאן.
• הטבעת העתיד עם אדריאן אשלי. גישה כאן.
• קנה ומכירה של מניות בחברות PRE-IPO עם PREIPO®. גישה כאן.
• מקור: https://www.defensenews.com/unmanned/uas/2023/06/02/air-force-officials-musings-on-rogue-drone-targeting-humans-go-viral/