Những suy nghĩ của quan chức Không quân về máy bay không người lái lừa đảo nhắm vào con người lan truyền

WASHINGTON – Lực lượng Không quân Hoa Kỳ đã rút lại các bình luận được cho là của một đại tá liên quan đến một mô phỏng trong đó một máy bay không người lái vượt qua quá trình huấn luyện trí tuệ nhân tạo và giết chết người điều khiển nó, sau khi các tuyên bố này lan truyền trên mạng xã hội.

Người phát ngôn của Lực lượng Không quân Ann Stefanek cho biết trong một tuyên bố ngày 2 tháng XNUMX rằng không có cuộc thử nghiệm nào như vậy được thực hiện, đồng thời nói thêm rằng ý kiến ​​của quân nhân có khả năng "được đưa ra khỏi bối cảnh và được coi là giai thoại."

Stefanek cho biết: “Bộ Không quân đã không tiến hành bất kỳ mô phỏng máy bay không người lái AI nào như vậy và vẫn cam kết sử dụng công nghệ AI một cách có đạo đức và có trách nhiệm. “Đây là một thí nghiệm suy nghĩ giả thuyết, không phải mô phỏng.”

Tập phim kẻ giết người không người lái biến mất ban đầu được cho là do Đại tá Tucker 'Cinco' Hamilton, người đứng đầu bộ phận kiểm tra và vận hành AI, trong một bản tóm tắt từ Hội nghị thượng đỉnh FCAS23 của Hiệp hội Hàng không Hoàng gia vào tháng Năm. Bản tóm tắt sau đó đã được cập nhật để bao gồm các nhận xét bổ sung từ Hamilton, người nói rằng anh ấy đã nói sai tại hội nghị.

LIÊN QUAN

“Chúng tôi chưa bao giờ thực hiện thử nghiệm đó, và chúng tôi cũng không cần phải thực hiện để nhận ra rằng đây là một kết quả hợp lý,” Hamilton được trích dẫn trong bản cập nhật của Hiệp hội Hàng không Hoàng gia. “Mặc dù đây chỉ là một ví dụ giả thuyết, nhưng điều này minh họa những thách thức trong thế giới thực do khả năng do AI cung cấp và đó là lý do tại sao Lực lượng Không quân cam kết phát triển AI một cách có đạo đức.”

Tuy nhiên, đánh giá của Hamilton về tính hợp lý của các kịch bản máy bay không người lái lừa đảo, tuy nhiên về mặt lý thuyết, lại trùng khớp với những cảnh báo rõ ràng trong những ngày gần đây của các giám đốc điều hành và kỹ sư công nghệ hàng đầu, những người đã cảnh báo trong một mở thư rằng công nghệ này có khả năng quét sạch loài người nếu không được kiểm soát.

Hamilton cũng là chỉ huy của Nhóm hoạt động thứ 96 tại căn cứ không quân Eglin Ở Florida. Defense News hôm thứ Năm đã liên hệ với Cánh thử nghiệm thứ 96 của Eglin để nói chuyện với Hamilton, nhưng được thông báo rằng anh ta không sẵn sàng bình luận.

Trong bài đăng gốc, Hiệp hội Hàng không Hoàng gia cho biết Hamilton đã mô tả một mô phỏng trong đó một máy bay không người lái được cung cấp năng lượng bởi AI được giao nhiệm vụ tìm và phá hủy hệ thống phòng không của đối phương. Theo báo cáo của Hamilton, một người được cho là đã cấp cho máy bay không người lái quyền cuối cùng để tấn công hay không.

Nhưng các thuật toán của máy bay không người lái đã được thông báo rằng việc phá hủy bãi thử tên lửa đất đối không là lựa chọn ưa thích của nó. Vì vậy, AI đã quyết định rằng các hướng dẫn không tấn công của bộ điều khiển con người đang cản trở nhiệm vụ của nó, sau đó tấn công người điều hành và cơ sở hạ tầng được sử dụng để chuyển tiếp các hướng dẫn.

“Nó đã giết người điều hành vì người đó đã ngăn cản nó hoàn thành mục tiêu của mình,” Hamilton được dẫn lời nói. “Chúng tôi đã đào tạo hệ thống, 'Này, đừng giết người điều hành, điều đó thật tệ. Bạn sẽ mất điểm nếu bạn làm điều đó.' Vậy nó bắt đầu làm gì? Nó bắt đầu phá hủy tháp liên lạc mà người điều khiển sử dụng để liên lạc với máy bay không người lái nhằm ngăn nó tiêu diệt mục tiêu.”

Bộ Quốc phòng trong nhiều năm đã coi AI là một lợi thế công nghệ đột phá cho quân đội Hoa Kỳ, đầu tư hàng tỷ đô la và tạo ra Trưởng phòng Kỹ thuật số và AI vào cuối năm 2021, hiện do Craig Martell lãnh đạo.

Theo Văn phòng Trách nhiệm Chính phủ, cơ quan kiểm toán liên bang về các cơ quan và chương trình, hơn 685 dự án liên quan đến AI đang được tiến hành tại Bộ, bao gồm một số dự án liên quan đến các hệ thống vũ khí lớn. Kế hoạch ngân sách năm tài chính 2024 của Lầu Năm Góc bao gồm 1.8 tỷ USD cho AI.

Theo GAO, các lực lượng Không quân và Không gian chịu trách nhiệm về ít nhất 80 nỗ lực về AI. Giám đốc Thông tin Lực lượng Không quân Lauren Knausenberger đã ủng hộ tự động hóa nhiều hơn để duy trì ưu thế trong một thế giới nơi quân đội đưa ra quyết định nhanh chóng và ngày càng sử dụng máy tính tiên tiến.

Dịch vụ này đang tăng cường nỗ lực phát triển máy bay không người lái tự động hoặc bán tự động, được gọi là máy bay chiến đấu hợp tác, để bay cùng với máy bay chiến đấu F-35 và máy bay chiến đấu tương lai được gọi là Sự thống trị trên không thế hệ tiếp theo.

Các hình dung dịch vụ một đội gồm những người lái máy bay không người lái mà có đồng hành cùng phi hành đoàn chiến đấu cơ tham gia chiến đấu và thực hiện nhiều nhiệm vụ khác nhau. Một số CCA sẽ tiến hành các nhiệm vụ trinh sát và thu thập thông tin tình báo, một số khác có thể tấn công mục tiêu bằng tên lửa của chính họ và một số khác có thể gây nhiễu tín hiệu của đối phương hoặc đóng vai trò làm mồi nhử để dụ hỏa lực của đối phương tránh xa máy bay chiến đấu có phi công con người bên trong.

Ngân sách đề xuất của Không quân cho năm 2024 bao gồm ít nhất hàng triệu khoản chi tiêu mới để giúp lực lượng này chuẩn bị cho tương lai với các phi công lái máy bay không người lái, bao gồm cả chương trình có tên Project Venom để giúp lực lượng này thử nghiệm phần mềm bay tự động trên máy bay chiến đấu F-16.

Dưới Project Venom, viết tắt của Thử nghiệm Viper và mô hình hoạt động thế hệ tiếp theo, Không quân sẽ nạp mã tự hành vào 16 chiếc F-16. Các phi công con người sẽ cất cánh trên những chiếc F-XNUMX đó và đưa chúng đến khu vực thử nghiệm, tại thời điểm đó, phần mềm sẽ tiếp quản và tiến hành các thử nghiệm bay.

LIÊN QUAN

Bài đăng của Hiệp hội Hàng không Hoàng gia về hội nghị thượng đỉnh cho biết Hamilton “hiện đang tham gia vào cuộc thử nghiệm bay tiên tiến của các hệ thống tự trị, bao gồm cả những chiếc F-16 robot có khả năng không chiến.”

Không quân có kế hoạch chi khoảng 120 triệu USD cho Dự án Venom trong 50 năm tới, bao gồm yêu cầu ngân sách gần 2024 triệu USD cho năm XNUMX để khởi động chương trình. Lực lượng không quân nói với Defense News vào tháng 118, họ vẫn chưa quyết định cơ sở và tổ chức nào sẽ tổ chức Dự án Venom, nhưng yêu cầu ngân sách đã yêu cầu XNUMX vị trí nhân viên để hỗ trợ chương trình tại Eglin.

Vào đầu năm 2022, khi các cuộc thảo luận công khai về kế hoạch của Lực lượng Không quân dành cho các phi công lái máy bay không người lái tự động ngày càng sôi động, cựu Bộ trưởng Không quân Deborah Lee James nói với Defense News rằng cơ quan này cần phải thận trọng và xem xét các câu hỏi về đạo đức khi chuyển sang tiến hành chiến tranh với các hệ thống tự động.

James nói rằng mặc dù hệ thống AI trong những chiếc máy bay không người lái như vậy sẽ được thiết kế để tự học và hành động, chẳng hạn như thực hiện các thao tác né tránh nếu nó gặp nguy hiểm, nhưng cô nghi ngờ. lực lượng không quân sẽ cho phép một hệ thống tự trị tự mình chuyển từ mục tiêu này sang mục tiêu khác nếu điều đó dẫn đến cái chết của con người.

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoAiStream. Thông minh dữ liệu Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Đúc kết tương lai với Adryenn Ashley. Truy cập Tại đây.
• Mua và bán cổ phần trong các công ty PRE-IPO với PREIPO®. Truy cập Tại đây.
• nguồn: https://www.defensenews.com/unmanned/uas/2023/06/02/air-force-officials-musings-on-rogue-drone-targeting-humans-go-viral/