«Змагальний штучний інтелект» є загрозою для військових систем, каже Лоспіносо з Shift5

Перший стартап Джоша Лоспіносо з кібербезпеки був придбаний у 2017 році компанією Raytheon/Forcepoint. Його другий, Shift5, працює з американськими військовими, залізничними операторами та авіакомпаніями, включаючи JetBlue. Випускник Вест-Пойнта 2009 року та стипендіат Роудса, 36-річний колишній капітан армії провів більше десяти років створення інструментів злому для Агентства національної безпеки та Кіберкомандування США.

Нещодавно Лоспіносо розповів підкомітету з питань збройних сил Сенату, як штучний інтелект може допомогти захистити військові операції. Генеральний директор/програміст обговорив цю тему з Associated Press, а також те, що уразливості програмного забезпечення в системах озброєнь є головною загрозою для американських військових. Інтерв’ю було відредаговано для чіткості та тривалості.

З: У своїх свідченнях ви описали дві основні загрози технологіям із підтримкою штучного інтелекту: одна — крадіжка. Це зрозуміло само собою. Інший – отруєння даними. Ви можете це пояснити?

A: Один із способів сприймати отруєння даних – це цифрова дезінформація. Якщо зловмисники зможуть створювати дані, які бачать технології з підтримкою ШІ, вони можуть суттєво вплинути на роботу цієї технології.

З: Чи відбувається отруєння даних?

A: Ми не бачимо це широко. але це сталося. Один із найвідоміших випадків стався у 2016 році. Microsoft випустила чат-бота Twitter під назвою Tay, який вивчав розмови в мережі. Зловмисники змовилися написати в Twitter образливі та образливі слова. Тей почав генерувати запальний контент. Microsoft перевела його в автономний режим.

З: ШІ — це не лише чат-боти. Це вже давно є невід’ємною частиною кібербезпеки, чи не так?

A: AI використовується у фільтрах електронної пошти, щоб спробувати позначити та відокремити небажану пошту та фішингові приманки. Іншим прикладом є кінцеві точки, як-от антивірусна програма на вашому ноутбуці або програмне забезпечення для виявлення шкідливих програм, яке працює в мережах. Звичайно, атакуючі хакери також використовують штучний інтелект, щоб спробувати перемогти ці системи класифікації. Це називається змагальний ШІ.

З: Давайте поговоримо про військові програмні системи. Тривожний 2018 рік Звіт Урядового управління підзвітності сказав, що майже всі нещодавно розроблені системи озброєнь мали критичні вразливості. І Пентагон думає про використання ШІ в таких системах?

A: Тут є дві проблеми. По-перше, ми повинні належним чином убезпечити існуючі системи озброєння. У нас є технічний борг, який буде виплачуватися дуже довго. Крім того, є новий рубіж захисту алгоритмів штучного інтелекту – нові речі, які ми б встановили. У звіті GAO насправді не говорилося про ШІ. Тож забудьте про ШІ на секунду. Якби ці системи просто залишилися такими, як вони є, вони все ще дуже вразливі.

Ми обговорюємо розширення можливостей і додавання можливостей з підтримкою штучного інтелекту для таких речей, як покращення технічного обслуговування та операційного інтелекту. Все супер. Але ми будуємо на вершині карткового будиночка. Багатьом системам десятки років, вони модернізовані цифровими технологіями. Літаки, наземна техніка, космічні засоби, підводні човни. Тепер вони взаємопов’язані. Ми обмінюємося даними. Системи є пористими, їх важко оновити, і їх можна атакувати. Коли зловмисник отримує доступ, гра закінчується.

Іноді простіше створити нову платформу, ніж переробляти цифрові компоненти існуючих систем. Але ШІ відіграє певну роль у захисті цих систем. ШІ можна використовувати для захисту, якщо хтось намагається скомпрометувати їх.

З: Ви свідчили, що призупинення досліджень штучного інтелекту, як дехто наполягав, було б поганою ідеєю, оскільки це сприяло б Китаю та іншим конкурентам. Але ви також маєте занепокоєння щодо стрімкого пориву на продукти ШІ. чому

Відповідь: Я не хочу звучати фаталістично, але так званий випадок «спалювання-використання», здається, застосовний. Продукт, який поспішно виходить на ринок, часто загоряється (зламується, виходить з ладу, завдає ненавмисної шкоди). І ми кажемо: «Хлопче, ми повинні були створити охорону». Я очікую, що темпи розвитку штучного інтелекту прискоряться, і ми можемо не зупинитися достатньо, щоб зробити це безпечним і відповідальним способом. Принаймні Білий дім і Конгрес обговорюють ці питання.

З: Схоже, купа компаній, у тому числі в оборонному секторі, поспішає анонсувати недороблені продукти ШІ.

A: Кожна технологічна компанія та багато нетехнологічних компаній зробили майже різкий поворот у бік ШІ. Наближаються економічні потрясіння. Бізнес-моделі кардинально зміняться. Вивихи вже відбуваються або назрівають — і керівники підприємств намагаються не потрапити на плоскостопість.

З: А як щодо використання штучного інтелекту у прийнятті військових рішень, таких як націлювання?

Відповідь: Я не думаю, категорично не думаю, що алгоритми штучного інтелекту — дані, які ми збираємо — готові до того, щоб смертоносна система зброї приймала рішення в найкращий час. Ми просто так далекі від цього.

• Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
• PlatoAiStream. Web3 Data Intelligence. Розширення знань. Доступ тут.
• Карбування майбутнього з Адріенн Ешлі. Доступ тут.
• Купуйте та продавайте акції компаній, які вийшли на IPO, за допомогою PREIPO®. Доступ тут.
• джерело: https://www.defensenews.com/artificial-intelligence/2023/05/29/adversarial-ai-a-threat-to-military-systems-shift5s-lospinoso-says/