ChatGPT створює нові ризики для національної безпеки

ChatGPT створює нові ризики для національної безпеки

Мітка часу: 20 липня 2023 р., 2:10
Вихідний вузол: 2776182

Великі мовні моделі, як ChatGPT і Клод пропонують широкий вибір корисних продуктів застосування. Проте існують значні ризики, пов’язані з їх використанням, які вимагають узгоджених зусиль між країнами-партнерами для створення надійного інтегрованого захисту від загрози зловмисних інформаційних операцій.

Великі мовні моделі можуть допомогти у створенні креативних сюжетів, розробці маркетингових кампаній і навіть створенні персоналізованих рекомендацій щодо ресторанів. Однак вони часто створюють текст, який є впевнено помилковим. Цей дизайн має глибокі наслідки не лише для звичайного використання штучного інтелекту, але й для національної безпеки США.

Контент, створений ШІ, може демонструвати феномен, відомий як «правдивість” — фраза, придумана телеведучим Стівеном Колбертом на початку 2000-х років, щоб описати, як інформація може здаватися правильною. Ця концепція підкреслює, що, незважаючи на відсутність фактичної точності, вміст із високоузгодженою логічною структурою може впливати на те, наскільки розумні та досвідчені люди вирішують, правдиве щось чи ні.

Наші когнітивні упередження означають, що добре написаний вміст або переконливі візуальні ефекти мають силу зробити заяви більш правдивими, ніж вони є. Як один учений, який досліджував «істинність» описує це: «Коли речі легко обробляти, вони заслуговують на довіру».

Противники США можуть маніпулювати потенціалом моделей штучного інтелекту, щоб вони звучали «правдиво» — створюючи зв’язні, добре структуровані та переконливі речення, які можуть імітувати людське письмо — щоб отримати перевагу. Інтернет з його глобальним охопленням створив потужне середовище для іноземного втручання через підривні вторгнення в правду.

Державні актори використовують цифрові технології для проведення ворожих інформаційних кампаній, використовуючи онлайн-інструменти та інформаційні операції для просування своїх інтересів. Державні суб’єкти можуть маніпулювати когнітивними упередженнями та правдивістю, щоб сформувати соціально-політичну арену, розширюючи потенційне зловживання мовними моделями, керованими штучним інтелектом, для зловмисних інформаційних операцій, широкомасштабних фішингових кампаній і все більш правдоподібних глибоких фейків.

Експлуатація упередженості когнітивної швидкості в інформаційних операціях може надати дезінформації оманливий вигляд достовірності, сприяючи дестабілізації політичних систем і соціальної злагодженості.

Бред Сміт, президент Microsoft, сказав під час виступу 25 травня США «повинні звернути увагу, зокрема, на те, що нас найбільше хвилює [від] іноземних операцій кібервпливу, тих видів діяльності, які вже здійснюються урядом Росії, Китаю, Ірану».

російські хакери груба спроба глибокого фейку на зображенні президента України Володимира Зеленського, який закликає українців скласти зброю, було легко впізнати. Але тепер очевидно, що це питання більше не є академічним. Реальність виглядає так, що зневажливі відео, підроблені документи та підроблені облікові записи в соціальних мережах можуть перетворитися з вигляду грубих на передачу оманливої ​​видимості автентичності.

Сплеск підривних кампаній, які залежать від дезінформації, і активізація зусиль зловмисників підкреслюють необхідність стратегічної відповіді з боку США та їхніх союзників. Для боротьби з цими тенденціями політикам США потрібна комплексна стратегія, побудована на ретельному моніторингу, проактивних попередженнях і міжнародній співпраці.

Наріжним каменем цієї стратегії має бути ретельний моніторинг інформаційного середовища. Посилений прогресом у сфері штучного інтелекту та машинного навчання, постійний моніторинг є життєво важливим для раннього виявлення та нейтралізації кампаній дезінформації.

Ця позиція перегукується із закликом Міністерства оборони США покращити можливості «моніторингу, аналізу, характеристики, оцінки, прогнозування та візуалізації» інформаційного середовища, як докладно у своїй «Стратегії операцій в інформаційному середовищі» 2016 року. Для цього військовим і розвідувальним службам знадобляться спеціалізовані підрозділи інформаційна війна, який може надати важливу експертизу, необхідну для інтерпретації та дій на основі зібраних даних.

Уряд США також потребує надійної системи попередження, яка одночасно пропагує правду та викриває дезінформацію. Своєчасні та ефективні попередження можуть допомогти захистити громадськість від неправдивих наративів, значно зменшуючи вплив кампаній з дезінформації. Сила істини є потужним інструментом у цьому контексті; воно служить ефективним засобом протидії роз'їдальному впливу брехні.

Нарешті, існує потреба у зміцненні стратегічного партнерства з міжнародними союзниками. Глобальний характер зловмисних кампаній дезінформації вимагає, щоб контрзаходи були настільки ж далекосяжними. Ці партнерства надають безцінні місцеві знання та зміцнюють довіру, що може значно підвищити довіру до попереджень і зміцнити стійкість суспільства проти дезінформації.

Крістофер Мутон — старший інженер мозкового центру Rand і професор Вищої школи Pardee RAND.

Часова мітка:

Більше від Пентагон Defense News