Gândirile oficialilor din Forțele Aeriene despre drona necinstită care vizează oameni devin virale

WASHINGTON — Forțele aeriene americane au renunțat la comentariile făcute de un colonel cu privire la o simulare în care o dronă și-a depășit antrenamentul de inteligență artificială și și-a ucis mânuitorul, după ce afirmațiile au devenit virale pe rețelele de socializare.

Air Force spokesperson Ann Stefanek said in a June 2 statement no such testing had been conducted, adding that the servicemember’s comments au fost probabil „luate din context și au fost menite să fie anecdotice”.

„Departamentul Forțelor Aeriene nu a efectuat astfel de simulări de drone AI și rămâne angajat în utilizarea etică și responsabilă a tehnologiei AI”, a spus Stefanek. „Acesta a fost un experiment de gândire ipotetic, nu o simulare.”

The killer-drone-gone-rogue episode was initially attributed to Col. Tucker ‘Cinco’ Hamilton, the chief of AI test and operations, in a recap from the Royal Aeronautical Society FCAS23 Summit în Mai. Rezumatul a fost actualizat ulterior pentru a include comentarii suplimentare de la Hamilton, care a spus că a vorbit greșit la conferință.

LEGATE DE

„Nu am desfășurat niciodată acel experiment și nici nu ar fi nevoie pentru a realiza că acesta este un rezultat plauzibil”, a spus Hamilton în actualizarea Societății Regale Aeronautice. „În ciuda faptului că acesta este un exemplu ipotetic, acesta ilustrează provocările din lumea reală reprezentate de capacitatea alimentată de AI și este motivul pentru care Forțele Aeriene se angajează în dezvoltarea etică a AI.”

Hamilton’s assessment of the plausibility of rogue-drone scenarios, however theoretical, coincides with stark warnings in recent days by leading tech executives and engineers, who warned in an scrisoare deschisă că tehnologia are potențialul de a șterge umanitatea dacă este lăsată necontrolată.

Hamilton este, de asemenea, comandantul Grupul 96 de operațiuni de la baza forțelor aeriene Eglin in Florida. Defense News on Thursday reached out to Eglin’s 96th Test Wing to speak to Hamilton, but was told he is not available for comment.

În postarea inițială, Royal Aeronautical Society a spus că Hamilton a descris o simulare în care o dronă alimentată cu inteligență artificială a primit misiunea de a găsi și distruge apărarea antiaeriană inamicului. Un om ar fi trebuit să dea dronei autorizația finală de a lovi sau nu, a spus Hamilton.

But the drone algorithms had been told that destroying amplasamentul rachetelor sol-aer era varianta sa preferata. Așa că AI a decis că instrucțiunile controlorului uman de a nu lovi îi împiedicau misiunea și apoi a atacat operatorul și infrastructura folosită pentru a transmite instrucțiunile.

„A ucis operatorul pentru că acea persoană îl împiedica să-și atingă obiectivul”, a spus Hamilton. „Am instruit sistemul, „Hei, nu ucideți operatorul, asta e rău. Vei pierde puncte dacă faci asta. Deci, ce începe să facă? Începe să distrugă turnul de comunicații pe care operatorul îl folosește pentru a comunica cu drona pentru a o împiedica să omoare ținta.”

Departamentul Apărării a îmbrățișat de ani de zile AI ca un avantaj tehnologic inovator pentru armata SUA, investind miliarde de dolari și creând the Chief Digital and AI Office la sfârșitul anului 2021, acum condus de Craig Martell.

More than 685 AI-related projects are underway at the department, including several tied to major weapon systems, according to the Government Accountability Office, a federal auditor of agencies and programs. The Pentagon’s fiscal 2024 budget blueprint includes $1.8 billion for AI.

The Air and Space forces, in particular, are responsible for at least 80 AI endeavors, according to the GAO. Air Force Chief Information Officer Lauren Knausenberger has a pledat pentru o mai mare automatizare pentru a rămâne dominant într-o lume în care militarii iau decizii rapide și folosesc din ce în ce mai mult computere avansate.

The service is ramping up its efforts to field autonomous or semi-autonomous drones, which it refers to as avioane de luptă colaborative, to fly alongside F-35 fighters and a future fighter it calls Next Generation Air Dominance.

Serviciul prevede o flotă a acelor oameni cu aripi de drone care ar accompany crewed fighters into combat and carry out a variety of missions. Some CCAs would conduct reconnaissance missions and gather intelligence, others could strike targets with their own missiles, and others could jam enemy signals or serve as decoys to lure enemy fire away from the fighters with human pilots inside.

The Air Force’s proposed budget for 2024 includes at least millions in new spending to help it prepare for a future with drone wingmen, including a program called Project Venom to help the service experiment with its autonomous flying software in F-16 fighters.

Sub Project Venom, care înseamnă Experimentarea Viper și modelul operațiunilor de nouă generație, Forțele Aeriene vor încărca cod autonom în șase F-16. Piloții umani vor decola cu acele F-16 și le vor zbura către zona de testare, moment în care software-ul va prelua și va conduce experimentele de zbor.

LEGATE DE

Postarea Societății Regale Aeronautice la summit a spus că Hamilton „este acum implicat în testele de zbor de ultimă oră ale sistemelor autonome, inclusiv roboții F-16 care sunt capabili să lupte.

The Air Force plans to spend roughly $120 million on Project Venom over the next five years, including a nearly $50 million budget request for 2024 to kick the program off. The Air Force a spus Defense News in March that it hadn’t decided which base and organization will host Project Venom, but the budget request asked for 118 staff positions to support the program at Eglin.

In early 2022, as public discussions about the Air Force’s plans for autonomous drone wingmen gathered steam, former Air Force Secretary Deborah Lee James told Defense News that the service needs to take caution and consider ethical questions as it moves towards conducting warfare with autonomous systems.

James said that while the AI systems in such drones would be designed to learn and act on their own, such as by taking evasive maneuvers if it were in danger, she doubted Forțelor Aeriene would allow an autonomous system to shift from one target to another on its own if that would result in the deaths of humans.

• Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
• PlatoAiStream. Web3 Data Intelligence. Cunoștințe amplificate. Accesați Aici.
• Mintând viitorul cu Adryenn Ashley. Accesați Aici.
• Cumpărați și vindeți acțiuni în companii PRE-IPO cu PREIPO®. Accesați Aici.
• Sursa: https://www.defensenews.com/unmanned/uas/2023/06/02/air-force-officials-musings-on-rogue-drone-targeting-humans-go-viral/