Роздуми офіційного представника ВВС про шахрайський дрон, націлений на людей, стають вірусними

Роздуми офіційного представника ВВС про шахрайський дрон, націлений на людей, стають вірусними

Мітка часу: 2 червня 2023 11:41
Вихідний вузол: 2694938

ВАШИНГТОН. ВПС США відхилили коментарі полковника щодо симуляції, під час якої безпілотник перехитрив систему навчання штучного інтелекту та вбив свого оператора, після того, як ці заяви стали вірусними в соціальних мережах.

Air Force spokesperson Ann Stefanek said in a June 2 statement no such testing had been conducted, adding that the servicemember’s comments ймовірно, були «вирвані з контексту та мали бути анекдотичними».

«Департамент військово-повітряних сил не проводив жодних подібних симуляцій ШІ-дронів і залишається відданим етичному та відповідальному використанню технологій ШІ», — сказав Стефанек. «Це був гіпотетичний уявний експеримент, а не симуляція».

The killer-drone-gone-rogue episode was initially attributed to Col. Tucker ‘Cinco’ Hamilton, the chief of AI test and operations, in a recap from the Royal Aeronautical Society FCAS23 Summit у травні. Пізніше резюме було оновлено, щоб включити додаткові коментарі Гамільтона, який сказав, що неправильно висловився на конференції.

В ЗВ'ЯЗКУ

«Ми ніколи не проводили цей експеримент, і нам це не знадобиться, щоб зрозуміти, що це правдоподібний результат», — цитує Гамільтона слова Королівського аеронавігаційного товариства. «Незважаючи на те, що це гіпотетичний приклад, він ілюструє реальні проблеми, пов’язані з можливостями штучного інтелекту, і саме тому ВПС віддані етичному розвитку ШІ».

Hamilton’s assessment of the plausibility of rogue-drone scenarios, however theoretical, coincides with stark warnings in recent days by leading tech executives and engineers, who warned in an відкритий лист що технологія має потенціал знищити людство, якщо її не контролювати.

Гамільтон також є командиром 96-та оперативна група на авіабазі Еглін in Florida. Defense News on Thursday reached out to Eglin’s 96th Test Wing to speak to Hamilton, but was told he is not available for comment.

У оригінальному дописі Королівське аеронавігаційне товариство повідомило, що Гамільтон описав симуляцію, в якій безпілотник, що працює на штучному інтелекті, отримав завдання знайти та знищити протиповітряну оборону противника. За словами Гамільтона, людина повинна була дати дрону остаточний дозвіл на нанесення чи ні.

But the drone algorithms had been told that destroying місце розміщення ракет земля-повітря був його кращим варіантом. Тож ШІ вирішив, що вказівки диспетчера-людини не завдавати ударів заважають його місії, а потім атакував оператора та інфраструктуру, яка використовується для передачі вказівок.

«Це вбило оператора, тому що ця людина заважала йому досягти своєї мети», — цитують слова Гамільтона. «Ми навчили систему: «Гей, не вбивайте оператора, це погано. Ви втратите очки, якщо це зробите». Отже, що воно починає робити? Він починає руйнувати комунікаційну вежу, яку оператор використовує для зв’язку з дроном, щоб не дати йому вбити ціль».

Міністерство оборони протягом багатьох років сприймало ШІ як проривну технологічну перевагу для армії США, інвестуючи мільярди доларів і створюючи Головний офіс цифрових технологій та ШІ наприкінці 2021 року, тепер її очолює Крейг Мартелл.

The Pentagon is seen from Air Force One as it flies over Washington on March 2, 2022. (Patrick Semansky/AP, File)

More than 685 AI-related projects are underway at the department, including several tied to major weapon systems, according to the Government Accountability Office, a federal auditor of agencies and programs. The Pentagon’s fiscal 2024 budget blueprint includes $1.8 billion for AI.

The Air and Space forces, in particular, are responsible for at least 80 AI endeavors, according to the GAO. Air Force Chief Information Officer Lauren Knausenberger has виступав за більшу автоматизацію щоб залишатися домінуючим у світі, де військові приймають швидкі рішення та все більше використовують передові обчислювальні засоби.

The service is ramping up its efforts to field autonomous or semi-autonomous drones, which it refers to as спільної бойової авіації, to fly alongside F-35 fighters and a future fighter it calls Next Generation Air Dominance.

Служба передбачає флот цих дронів це було б accompany crewed fighters into combat and carry out a variety of missions. Some CCAs would conduct reconnaissance missions and gather intelligence, others could strike targets with their own missiles, and others could jam enemy signals or serve as decoys to lure enemy fire away from the fighters with human pilots inside.

The Air Force’s proposed budget for 2024 includes at least millions in new spending to help it prepare for a future with drone wingmen, including a program called Project Venom to help the service experiment with its autonomous flying software in F-16 fighters.

Під Project Venom, що означає Експеримент Viper і операційна модель наступного покоління, ВПС завантажать автономний код у шість F-16. Пілоти-люди злетять на цих F-16 і доставлять їх до зони випробувань, після чого програмне забезпечення візьме на себе контроль і проведе експерименти з польотом.

В ЗВ'ЯЗКУ

У повідомленні Королівського аеронавігаційного товариства на саміті сказано, що Гамільтон «тепер бере участь у передових льотних випробуваннях автономних систем, у тому числі роботів F-16, здатних вести повітряний бій».

The Air Force plans to spend roughly $120 million on Project Venom over the next five years, including a nearly $50 million budget request for 2024 to kick the program off. The Air Force сказав Defense News in March that it hadn’t decided which base and organization will host Project Venom, but the budget request asked for 118 staff positions to support the program at Eglin.

In early 2022, as public discussions about the Air Force’s plans for autonomous drone wingmen gathered steam, former Air Force Secretary Deborah Lee James told Defense News that the service needs to take caution and consider ethical questions as it moves towards conducting warfare with autonomous systems.

James said that while the AI systems in such drones would be designed to learn and act on their own, such as by taking evasive maneuvers if it were in danger, she doubted ВПС would allow an autonomous system to shift from one target to another on its own if that would result in the deaths of humans.

Стівен Лоузі — репортер Defense News про повітряну війну. Раніше він висвітлював питання керівництва та персоналу на Air Force Times, а також Пентагон, спеціальні операції та повітряну війну на Military.com. Він їздив на Близький Схід, щоб висвітлювати операції ВПС США.

Колін Демарест є репортером у C4ISRNET, де він висвітлює військові мережі, кібернетичні та інформаційні технології. Колін раніше висвітлював Департамент енергетики та його Національну адміністрацію з ядерної безпеки, а саме ліквідацію холодної війни та розробку ядерної зброї, для щоденної газети в Південній Кароліні. Колін також є фотографом, удостоєним нагород.

Часова мітка:

Більше від Defense News Air