A légierő tisztviselőjének az embereket célzó szélhámos drónokról szóló töprengései terjednek

Washington – Az amerikai légierő visszautasította egy ezredes megjegyzéseit egy olyan szimuláció kapcsán, amelyben egy drón túljárt a mesterséges intelligencia kiképzésén, és megölte a kezelőjét, miután az állítások elterjedtek a közösségi médiában.

Air Force spokesperson Ann Stefanek said in a June 2 statement no such testing had been conducted, adding that the servicemember’s comments valószínűleg „kiragadták a szövegkörnyezetből, és anekdotáknak szánták őket”.

"A légierő minisztériuma nem végzett ilyen mesterséges intelligencia-drón szimulációkat, és továbbra is elkötelezett a mesterséges intelligencia technológia etikus és felelős használata mellett" - mondta Stefanek. "Ez egy hipotetikus gondolatkísérlet volt, nem szimuláció."

The killer-drone-gone-rogue episode was initially attributed to Col. Tucker ‘Cinco’ Hamilton, the chief of AI test and operations, in a recap from the Royal Aeronautical Society FCAS23 Summit májusban. Az összefoglalót később frissítették, és további megjegyzéseket is tartalmazott Hamilton, aki azt mondta, hogy tévedett a konferencián.

KAPCSOLÓDÓ

"Soha nem futtattuk le ezt a kísérletet, és nem is kellett volna ahhoz, hogy belássuk, ez elfogadható eredmény" - idézte Hamiltont a Királyi Repülési Társaság frissítése. "Annak ellenére, hogy ez egy hipotetikus példa, ez jól illusztrálja az AI-alapú képesség által támasztott valós kihívásokat, és ezért elkötelezett a légierő az AI etikus fejlesztése mellett."

Hamilton’s assessment of the plausibility of rogue-drone scenarios, however theoretical, coincides with stark warnings in recent days by leading tech executives and engineers, who warned in an nyílt levél hogy a technológiában megvan a lehetőség az emberiség kiirtására, ha nem ellenőrzik.

Hamilton egyben a parancsnoka is 96. hadműveleti csoport az Eglini Légibázison in Florida. Defense News on Thursday reached out to Eglin’s 96th Test Wing to speak to Hamilton, but was told he is not available for comment.

Az eredeti bejegyzésben a Royal Aeronautical Society elmondta, hogy Hamilton egy olyan szimulációt írt le, amelyben egy mesterséges intelligencia által üzemeltetett drónnak az volt a küldetése, hogy megtalálja és megsemmisítse az ellenséges légvédelmet. Egy embernek kellett volna megadnia a végső felhatalmazást a drónnak, hogy lecsapjon vagy sem – mondta Hamilton.

But the drone algorithms had been told that destroying a föld-levegő rakétatelep volt a preferált lehetőség. Ezért az AI úgy döntött, hogy az emberi irányító utasításai, hogy ne ütjenek, akadályozzák a küldetését, majd megtámadta a kezelőt és az utasítások továbbítására használt infrastruktúrát.

„Megölte az operátort, mert az megakadályozta, hogy elérje célját” – idézte Hamiltont. „Megtanítottuk a rendszert: „Hé, ne öld meg a kezelőt, ez rossz. Pontokat veszítesz, ha így teszel.’ Szóval mit kezd? Elkezdi tönkretenni a kommunikációs tornyot, amelyet a kezelő a drónnal való kommunikációhoz használ, hogy megakadályozza a célpont megölését."

A Védelmi Minisztérium évek óta az AI-t, mint áttörést jelentő technológiai előnyt az Egyesült Államok hadserege számára, dollármilliárdokat fektet be, és the Chief Digital and AI Office 2021 végén, jelenleg Craig Martell vezetésével.

More than 685 AI-related projects are underway at the department, including several tied to major weapon systems, according to the Government Accountability Office, a federal auditor of agencies and programs. The Pentagon’s fiscal 2024 budget blueprint includes $1.8 billion for AI.

The Air and Space forces, in particular, are responsible for at least 80 AI endeavors, according to the GAO. Air Force Chief Information Officer Lauren Knausenberger has nagyobb automatizálást szorgalmaztak annak érdekében, hogy domináns maradhasson egy olyan világban, ahol a katonaságok gyors döntéseket hoznak, és egyre inkább fejlett számítástechnikát alkalmaznak.

The service is ramping up its efforts to field autonomous or semi-autonomous drones, which it refers to as kollaboratív harci repülőgépek, to fly alongside F-35 fighters and a future fighter it calls Next Generation Air Dominance.

A szolgáltatás elképzeli azoknak a drónszárnyasoknak a flottája Ez lenne accompany crewed fighters into combat and carry out a variety of missions. Some CCAs would conduct reconnaissance missions and gather intelligence, others could strike targets with their own missiles, and others could jam enemy signals or serve as decoys to lure enemy fire away from the fighters with human pilots inside.

The Air Force’s proposed budget for 2024 includes at least millions in new spending to help it prepare for a future with drone wingmen, including a program called Project Venom to help the service experiment with its autonomous flying software in F-16 fighters.

A Project Venom alatt, ami azt jelenti Viper Experimentation és Next-gen Operations Model, a légierő hat F-16-ba tölt be autonóm kódot. Az emberi pilóták felszállnak azokkal az F-16-osokkal, és a tesztterületre repítik őket, ekkor a szoftver átveszi és elvégzi a repülési kísérleteket.

KAPCSOLÓDÓ

A Royal Aeronautical Society csúcstalálkozóról írt bejegyzése szerint Hamilton „most részt vesz az autonóm rendszerek legmodernebb repülési tesztjeiben, beleértve az F-16-os robotokat, amelyek képesek kutyaharcra”.

The Air Force plans to spend roughly $120 million on Project Venom over the next five years, including a nearly $50 million budget request for 2024 to kick the program off. The Air Force – mondta a Defense Newsnak in March that it hadn’t decided which base and organization will host Project Venom, but the budget request asked for 118 staff positions to support the program at Eglin.

In early 2022, as public discussions about the Air Force’s plans for autonomous drone wingmen gathered steam, former Air Force Secretary Deborah Lee James told Defense News that the service needs to take caution and consider ethical questions as it moves towards conducting warfare with autonomous systems.

James said that while the AI systems in such drones would be designed to learn and act on their own, such as by taking evasive maneuvers if it were in danger, she doubted a légierő would allow an autonomous system to shift from one target to another on its own if that would result in the deaths of humans.

• SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
• PlatoAiStream. Web3 adatintelligencia. Felerősített tudás. Hozzáférés itt.
• A jövő pénzverése – Adryenn Ashley. Hozzáférés itt.
• Részvények vásárlása és eladása PRE-IPO társaságokban a PREIPO® segítségével. Hozzáférés itt.
• Forrás: https://www.defensenews.com/unmanned/uas/2023/06/02/air-force-officials-musings-on-rogue-drone-targeting-humans-go-viral/