人間を標的とする不正ドローンに関する空軍当局者の発言が急速に広まる

ワシントン - 米空軍は、ドローンが人工知能の訓練を裏切り、ハンドラーを殺害したというシミュレーションに関して大佐が述べたとされる発言がソーシャルメディアで拡散した後、撤回した。

空軍報道官アン・ステファネク氏は2月XNUMX日の声明で、そのような実験は行われていないと述べ、次のように付け加えた。 軍人のコメント おそらく「文脈を無視して逸話的なものにするつもりだった」のでしょう。

ステファネク氏は、「空軍省はそのようなAIドローンシミュレーションを行っておらず、今後もAI技術の倫理的かつ責任ある使用に努めていく」と述べた。 「これは仮説的な思考実験であり、シミュレーションではありません。」

キラー・ドローン・ゴーン・ローグのエピソードは当初、AIのテストと運用の責任者であるタッカー・'シンコ'・ハミルトン大佐によるものとされていた。 英国王立航空協会 FCAS23 サミット XNUMX月。 概要は後に更新され、会議で失言したと述べたハミルトン氏からの追加コメントが含まれた。

関連

英国王立航空協会の最新情報の中で、ハミルトン氏は「我々はその実験を一度も行ったことはないし、これがもっともらしい結果であると認識するためにそのような実験を行う必要もないだろう」と述べたと伝えられている。 「これは仮説的な例ですが、これは AI を活用した機能によってもたらされる現実世界の課題を示しており、空軍が AI の倫理的開発に注力している理由です。」

不正ドローンのシナリオの妥当性に関するハミルトン氏の評価は、たとえ理論的であっても、主要なテクノロジー企業幹部やエンジニアによるここ数日の厳しい警告と一致する。 公開書簡 このテクノロジーは放っておけば人類を滅ぼす可能性があるということです。

ハミルトンは司令官でもある エグリン空軍基地の第96作戦グループ フロリダにて。ディフェンス・ニュースは木曜日、ハミルトンと話をするためにエグリンの第96試験航空団に連絡を取ったが、コメントはできないと言われた。

英国王立航空協会は元の投稿で、ハミルトン氏がAIを搭載したドローンに敵の防空を発見し破壊する任務を与えられたシミュレーションについて説明したと述べた。 ハミルトン氏は、無人機に攻撃するかどうかの最終的な権限を人間が与えることになっていたと伝えられている。

しかし、ドローンのアルゴリズムは、 地対空ミサイル基地 が好ましいオプションでした。 そこで AI は、人間のコントローラーによる攻撃しないようにという指示が任務の邪魔になっていると判断し、オペレーターと、指示を中継するために使用されるインフラストラクチャを攻撃しました。

ハミルトン氏は「オペレーターが死亡したのは、その人物がオペレーターの目的達成を妨げたからである」と述べたという。 「私たちはシステムに『オペレーターを殺さないでください、それは悪いことです』と訓練しました。 そんなことしたら減点されますよ。』 それで、何が始まりますか？ オペレーターがドローンと通信してターゲットを殺害するのを阻止するために使用する通信塔の破壊を開始します。」

国防総省は何年もの間、米軍にとって画期的な技術的優位性として AI を受け入れ、数十億ドルを投資し、 デジタル・AI 最高責任者室 2021年後半に、現在はクレイグ・マーテルが率いる。

政府機関やプログラムの連邦監査役である政府会計検査院によると、同省では685以上のAI関連プロジェクトが進行しており、その中には主要兵器システムに関連したプロジェクトも含まれている。国防総省の2024年度予算案には、AI向けに1.8億ドルが含まれている。

GAO によると、特に空軍と宇宙軍は少なくとも 80 件の AI の取り組みを担当しているという。空軍最高情報責任者のローレン・クナウセンバーガー氏は、 さらなる自動化を提唱した 軍が迅速な意思決定を行い、高度なコンピューティングの導入が進む世界で優位性を維持するためです。

このサービスは、自律型または半自律型ドローンと呼ばれる分野への取り組みを強化しています。 協力戦闘機、F-35戦闘機や次世代制空軍と呼ばれる将来の戦闘機と並んで飛行する。

サービスが想定しているのは、 無人機の僚機の艦隊 それだろう 有人戦闘機に同行する 戦闘に参加し、さまざまなミッションを遂行します。一部のCCAは偵察任務を遂行して情報を収集し、他のCCAは独自のミサイルで目標を攻撃することができ、また他のCCAは敵の信号を妨害したり、人間のパイロットが搭乗している戦闘機から敵の砲撃を遠ざけるおとりとして機能したりすることができる。

空軍の2024年予算案には、F-16戦闘機の自律飛行ソフトウェアによるサービス実験を支援する「プロジェクト・ヴェノム」と呼ばれるプログラムなど、ドローン僚機の将来への備えを支援するための新たな支出が少なくとも数百万ドル含まれている。

プロジェクト・ヴェノムのもと、 Viper の実験と次世代運用モデル、空軍は16機のF-16に自律コードを搭載する予定だ。 人間のパイロットがF-XNUMXに乗って離陸し、試験エリアまで飛行させます。その時点でソフトウェアが引き継いで飛行実験を実施します。

関連

英国王立航空協会のサミットに関する投稿によると、ハミルトン氏は「現在、空中戦が可能なロボットのF-16を含む自律システムの最先端の飛行試験に携わっている」という。

空軍は今後120年間でプロジェクト・ヴェノムに約50億2024万ドルを費やす予定で、その中にはプログラム開始のためのXNUMX年の予算要求約XNUMX万ドルも含まれている。空軍 防衛ニュースに語った 118月には、プロジェクト・ヴェノムをどの基地と組織が主催するかはまだ決定していないと発表したが、予算要求ではエグリンでのプログラムをサポートするXNUMX​​XNUMX人のスタッフのポジションを求めていた。

2022年初頭、空軍の自律型無人機僚機計画に関する公の議論が盛り上がる中、元空軍長官デボラ・リー・ジェームスは防衛ニュースに対し、空軍は自律型システムによる戦闘の実施に向けて慎重に行動し、倫理的な問題を考慮する必要があると語った。

ジェームズ氏は、こうしたドローンのAIシステムは、危険にさらされた場合に回避行動をとるなど、自ら学習して行動するように設計されているが、疑問を抱いていると述べた。 空軍 それが人間の死につながる場合、自律システムが自動的にある標的から別の標的に移動することを可能にするでしょう。

• SEO を活用したコンテンツと PR 配信。 今日増幅されます。
• プラトアイストリーム。 Web3 データ インテリジェンス。 知識増幅。 こちらからアクセスしてください。
• 未来を鋳造する w エイドリエン・アシュリー。 こちらからアクセスしてください。
• PREIPO® を使用して PRE-IPO 企業の株式を売買します。 こちらからアクセスしてください。
• 情報源： https://www.defensenews.com/unmanned/uas/2023/06/02/air-force-officials-musings-on-rogue-drone-targeting-humans-go-viral/