Ilmavoimien virkailijan pohdiskelut ihmisiin kohdistuvista roistolennokeista leviävät leviämään

WASHINGTON - Yhdysvaltain ilmavoimat hylkäsivät everstin kommentit, jotka koskivat simulaatiota, jossa drooni petti tekoälykoulutuksensa ja tappoi ohjaajansa väitteiden leviämisen jälkeen sosiaalisessa mediassa.

Air Force spokesperson Ann Stefanek said in a June 2 statement no such testing had been conducted, adding that the servicemember’s comments ne oli todennäköisesti "irrotettu kontekstista ja niiden oli tarkoitus olla anekdootti".

"Ilmavoimien osasto ei ole suorittanut tällaisia ​​tekoäly-drone-simulaatioita ja on edelleen sitoutunut tekoälyteknologian eettiseen ja vastuulliseen käyttöön", Stefanek sanoi. "Tämä oli hypoteettinen ajatuskoe, ei simulaatio."

The killer-drone-gone-rogue episode was initially attributed to Col. Tucker ‘Cinco’ Hamilton, the chief of AI test and operations, in a recap from the Royal Aeronautical Society FCAS23 Summit toukokuussa. Yhteenveto päivitettiin myöhemmin lisäämällä lisäkommentteja Hamiltonilta, joka sanoi puhuneensa väärin konferenssissa.

LIITTYVÄT

"Emme ole koskaan suorittaneet tuota kokeilua, eikä meidän tarvitsisikaan ymmärtää, että tämä on uskottava tulos", Hamilton sanoi Royal Aeronautical Societyn päivityksessä. "Vaikka tämä on hypoteettinen esimerkki, tämä havainnollistaa tekoälypohjaisen kyvyn aiheuttamia todellisia haasteita ja siksi ilmavoimat ovat sitoutuneet tekoälyn eettiseen kehittämiseen."

Hamilton’s assessment of the plausibility of rogue-drone scenarios, however theoretical, coincides with stark warnings in recent days by leading tech executives and engineers, who warned in an avoin kirje että teknologialla on mahdollisuus tuhota ihmiskunta, jos sitä ei valvota.

Hamilton on myös komentaja 96. operaatioryhmä Eglinin ilmavoimien tukikohdassa in Florida. Defense News on Thursday reached out to Eglin’s 96th Test Wing to speak to Hamilton, but was told he is not available for comment.

Alkuperäisessä viestissä Royal Aeronautical Society sanoi, että Hamilton kuvasi simulaation, jossa tekoälyllä polttoaineena toimivalle droonille annettiin tehtävä löytää ja tuhota vihollisen ilmapuolustus. Ihmisen piti antaa dronille lopullinen lupa iskeä tai ei, Hamilton sanoi.

But the drone algorithms had been told that destroying maa-ilma-ohjuspaikka oli sen suosituin vaihtoehto. Joten tekoäly päätti, että ihmislennonjohtajan ohjeet olla lyömättä häiritsivät sen tehtävää, ja hyökkäsi sitten operaattoria ja ohjeiden välittämiseen käytettyä infrastruktuuria vastaan.

"Se tappoi operaattorin, koska tämä henkilö esti sitä saavuttamasta tavoitettaan", Hamilton sanoi. Koulutimme järjestelmän: 'Hei, älä tapa käyttäjää, se on huono. Menetät pisteitä, jos teet niin. Mitä se sitten alkaa tehdä? Se alkaa tuhota viestintätornia, jolla operaattori kommunikoi dronin kanssa estääkseen sitä tappamasta kohdetta."

Puolustusministeriö on vuosia pitänyt tekoälyä läpimurtoteknologiana Yhdysvaltain armeijalle, investoimalla miljardeja dollareita ja luomalla digitaali- ja tekoälytoimisto vuoden 2021 lopulla, nyt johtajana Craig Martell.

More than 685 AI-related projects are underway at the department, including several tied to major weapon systems, according to the Government Accountability Office, a federal auditor of agencies and programs. The Pentagon’s fiscal 2024 budget blueprint includes $1.8 billion for AI.

The Air and Space forces, in particular, are responsible for at least 80 AI endeavors, according to the GAO. Air Force Chief Information Officer Lauren Knausenberger has puolusti suurempaa automaatiota pysyäkseen hallitsevana maailmassa, jossa armeijat tekevät nopeita päätöksiä ja käyttävät yhä enemmän kehittynyttä tietojenkäsittelyä.

The service is ramping up its efforts to field autonomous or semi-autonomous drones, which it refers to as yhteistyöhön perustuvia taistelulentokoneita, to fly alongside F-35 fighters and a future fighter it calls Next Generation Air Dominance.

Palvelu kuvittelee noiden drone-siipimiesten laivasto se olisi accompany crewed fighters into combat and carry out a variety of missions. Some CCAs would conduct reconnaissance missions and gather intelligence, others could strike targets with their own missiles, and others could jam enemy signals or serve as decoys to lure enemy fire away from the fighters with human pilots inside.

The Air Force’s proposed budget for 2024 includes at least millions in new spending to help it prepare for a future with drone wingmen, including a program called Project Venom to help the service experiment with its autonomous flying software in F-16 fighters.

Project Venom, joka tarkoittaa Viper Experimentation ja seuraavan sukupolven toimintamalli, ilmavoimat lataa autonomisen koodin kuuteen F-16:een. Ihmislentäjät nousevat lentoon näillä F-16-koneilla ja lentävät ne testausalueelle, jolloin ohjelmisto ottaa haltuunsa ja suorittaa lentokokeet.

LIITTYVÄT

Royal Aeronautical Societyn huippukokousta koskevassa viestissä sanottiin, että Hamilton "on nyt mukana autonomisten järjestelmien huippuluokan lentotestauksessa, mukaan lukien robotti-F-16-koneet, jotka pystyvät taistelemaan".

The Air Force plans to spend roughly $120 million on Project Venom over the next five years, including a nearly $50 million budget request for 2024 to kick the program off. The Air Force kertoi Defense News in March that it hadn’t decided which base and organization will host Project Venom, but the budget request asked for 118 staff positions to support the program at Eglin.

In early 2022, as public discussions about the Air Force’s plans for autonomous drone wingmen gathered steam, former Air Force Secretary Deborah Lee James told Defense News that the service needs to take caution and consider ethical questions as it moves towards conducting warfare with autonomous systems.

James said that while the AI systems in such drones would be designed to learn and act on their own, such as by taking evasive maneuvers if it were in danger, she doubted ilmavoimat would allow an autonomous system to shift from one target to another on its own if that would result in the deaths of humans.

• SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
• PlatoAiStream. Web3 Data Intelligence. Tietoa laajennettu. Pääsy tästä.
• Tulevaisuuden lyöminen Adryenn Ashley. Pääsy tästä.
• Osta ja myy osakkeita PRE-IPO-yhtiöissä PREIPO®:lla. Pääsy tästä.
• Lähde: https://www.defensenews.com/unmanned/uas/2023/06/02/air-force-officials-musings-on-rogue-drone-targeting-humans-go-viral/