De overpeinzingen van luchtmachtfunctionarissen over malafide drones die op mensen zijn gericht, gaan viraal

WASHINGTON - De Amerikaanse luchtmacht heeft opmerkingen van een kolonel over een simulatie waarin een drone zijn kunstmatige-intelligentietraining te slim af was en zijn handler doodde, teruggedraaid, nadat de beweringen viraal gingen op sociale media.

Woordvoerder van de luchtmacht, Ann Stefanek, zei in een verklaring van 2 juni dat dergelijke tests niet zijn uitgevoerd, en voegde daaraan toe de opmerkingen van het servicelid waren waarschijnlijk "uit hun verband gerukt en waren bedoeld als anekdotisch."

"Het ministerie van de luchtmacht heeft dergelijke AI-drone-simulaties niet uitgevoerd en blijft zich inzetten voor ethisch en verantwoord gebruik van AI-technologie", zei Stefanek. "Dit was een hypothetisch gedachte-experiment, geen simulatie."

De killer-drone-gone-schurkenaflevering werd aanvankelijk toegeschreven aan kolonel Tucker ‘Cinco’ Hamilton, het hoofd van de AI-test en -operaties, in een samenvatting van de Royal Aeronautical Society FCAS23-top in mei. De samenvatting werd later bijgewerkt met aanvullende opmerkingen van Hamilton, die zei dat hij zich tijdens de conferentie had vergist.

VERBAND

"We hebben dat experiment nooit uitgevoerd en dat zou ook niet nodig zijn om te beseffen dat dit een plausibele uitkomst is", zei Hamilton in de update van de Royal Aeronautical Society. "Ondanks dat dit een hypothetisch voorbeeld is, illustreert dit de echte uitdagingen van AI-aangedreven mogelijkheden en is het de reden waarom de luchtmacht zich inzet voor de ethische ontwikkeling van AI."

Hamilton’s inschatting van de plausibiliteit van rogue-drone-scenario’s, hoe theoretisch ook, valt samen met scherpe waarschuwingen van de afgelopen dagen door vooraanstaande tech-managers en ingenieurs, die waarschuwden in een open brief dat de technologie het potentieel heeft om de mensheid uit te roeien als er niets aan gedaan wordt.

Hamilton is ook commandant van de 96e Operations Group op Eglin Air Force Base in Florida. Defense News nam donderdag contact op met de 96e Test Wing van Eglin om met Hamilton te praten, maar kreeg te horen dat hij niet beschikbaar is voor commentaar.

In de oorspronkelijke post zei de Royal Aeronautical Society dat Hamilton een simulatie beschreef waarin een drone aangedreven door AI een missie kreeg om vijandelijke luchtverdediging te vinden en te vernietigen. Een mens moest de drone zijn definitieve toestemming geven om toe te slaan of niet, zei Hamilton naar verluidt.

Maar de drone-algoritmen hadden te horen gekregen dat ze vernietigen de locatie voor luchtdoelraketten was de voorkeursoptie. Dus besloot de AI dat de instructies van de menselijke controller om niet aan te vallen zijn missie in de weg stonden, en viel vervolgens de operator en de infrastructuur aan die werd gebruikt om instructies door te geven.

"Het doodde de operator omdat die persoon het ervan weerhield zijn doel te bereiken", zei Hamilton. “We hebben het systeem getraind: 'Hé, dood de operator niet, dat is slecht. Als je dat doet, verlies je punten.' Dus wat begint het te doen? Het begint de communicatietoren te vernietigen die de operator gebruikt om met de drone te communiceren om te voorkomen dat deze het doelwit doodt.

Het ministerie van Defensie heeft AI jarenlang omarmd als een baanbrekend technologisch voordeel voor het Amerikaanse leger, miljarden dollars geïnvesteerd en de het Chief Digital en AI Office eind 2021, nu geleid door Craig Martell.

Volgens het Government Accountability Office, een federale auditor van agentschappen en programma's, lopen er op het departement meer dan 685 AI-gerelateerde projecten, waaronder een aantal die verband houden met grote wapensystemen. De begrotingsblauwdruk voor 2024 van het Pentagon omvat 1.8 miljard dollar voor AI.

Volgens de GAO zijn vooral de lucht- en ruimtestrijdkrachten verantwoordelijk voor minstens 80 AI-inspanningen. Hoofdinformatieofficier van de luchtmacht, Lauren Knausenberger, heeft dat gedaan gepleit voor meer automatisering om dominant te blijven in een wereld waarin militairen snelle beslissingen nemen en steeds meer gebruik maken van geavanceerde computers.

De dienst voert zijn inspanningen op om autonome of semi-autonome drones in te zetten, waarnaar zij verwijzen samenwerkende gevechtsvliegtuigen, om naast F-35-jagers te vliegen en een toekomstige jager die hij Next Generation Air Dominance noemt.

De dienst voorziet een vloot van die drone wingmen dat zou bemande gevechtsvliegtuigen vergezellen in de strijd en voer een verscheidenheid aan missies uit. Sommige CCA's voerden verkenningsmissies uit en verzamelden inlichtingen, andere konden doelen aanvallen met hun eigen raketten, en weer andere konden vijandelijke signalen blokkeren of als lokvogels dienen om vijandelijk vuur weg te lokken van de jagers met menselijke piloten erin.

Het voorgestelde budget van de luchtmacht voor 2024 omvat ten minste miljoenen aan nieuwe uitgaven om haar te helpen zich voor te bereiden op een toekomst met drone-wingmen, waaronder een programma genaamd Project Venom om de dienst te helpen experimenteren met zijn autonome vliegsoftware in F-16-jagers.

Onder Project Venom, wat staat voor Viper-experimenten en next-gen operations-model, zal de luchtmacht autonome code in zes F-16's laden. Menselijke piloten zullen opstijgen in die F-16's en ze naar het testgebied vliegen, waarna de software het overneemt en de vliegexperimenten uitvoert.

VERBAND

De post van de Royal Aeronautical Society op de top zei dat Hamilton "nu betrokken is bij geavanceerde testvluchten van autonome systemen, waaronder robot F-16's die in staat zijn tot luchtgevechten."

De luchtmacht is van plan de komende vijf jaar ongeveer $ 120 miljoen aan Project Venom te besteden, inclusief een budgetaanvraag van bijna $ 50 miljoen voor 2024 om het programma van start te laten gaan. De luchtmacht vertelde Defense News in maart dat het nog niet had besloten welke basis en organisatie Project Venom zal hosten, maar in de begrotingsaanvraag werd gevraagd om 118 stafposities ter ondersteuning van het programma bij Eglin.

Begin 2022, toen de publieke discussies over de plannen van de luchtmacht voor autonome drone-wingmen op stoom kwamen, vertelde voormalig luchtmachtsecretaris Deborah Lee James aan Defense News dat de dienst voorzichtig moet zijn en ethische vragen moet overwegen terwijl het op weg is naar oorlogvoering met autonome systemen.

James zei dat hoewel de AI-systemen in dergelijke drones ontworpen zouden zijn om zelfstandig te leren en te handelen, bijvoorbeeld door ontwijkingsmanoeuvres uit te voeren als er gevaar dreigt, ze betwijfelde de luchtmacht zou een autonoom systeem in staat stellen om op eigen kracht van het ene doelwit naar het andere te gaan als dat tot de dood van mensen zou leiden.

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• PlatoAiStream. Web3 gegevensintelligentie. Kennis versterkt. Toegang hier.
• De toekomst slaan met Adryenn Ashley. Toegang hier.
• Koop en verkoop aandelen in PRE-IPO-bedrijven met PREIPO®. Toegang hier.
• Bron: https://www.defensenews.com/unmanned/uas/2023/06/02/air-force-officials-musings-on-rogue-drone-targeting-humans-go-viral/