Генеративний штучний інтелект (ШІ) вже мав значний вплив на наше життя, і багато експертів діляться своїми думками щодо комерційного потенціалу галузі, що змінює технологію, і того, як її можна використовувати в майбутньому. Нещодавно я поділився своїм
думки про те, як технологія змінить платіжну індустрію, але хоча в нашому секторі є багато позитивних застосувань для генеративного ШІ; На жаль, є також багато людей, які прагнуть використовувати технологію для шахрайських цілей. Ось кілька способів, як шахраї вже використовують генеративний штучний інтелект, про які варто знати колегам із платіжної галузі:
Більш складні фішингові загрози. Ми вже бачимо більш витончені атаки. Дійсно, як нещодавно виявив
Cyble, шахраї навіть створюють підроблені веб-сайти, які пропонують безкоштовне завантаження інструменту ChatGPT. Цей тип гіперреактивного підходу типовий для шахраїв, які часто використовують нові тенденції, щоб привернути увагу людей. У цьому випадку шахраї пропонують фальшиві завантаження ChatGPT як прикриття для встановлення зловмисного програмного забезпечення на пристрій або машину жертви, що дасть їм доступ до особистих даних, паролів або навіть готівки.
Можливо, у цьому прикладі не використовується генеративний штучний інтелект, але ця технологія також підвищує ефективність цих типів шахрайства, покращуючи здатність шахраїв набагато точніше створювати справжні фальшиві електронні листи, веб-сайти та інші форми спілкування. Шахраї можуть генерувати справжні електронні листи, використовуючи генеративні моделі штучного інтелекту, навчені на основі офіційної інформації, щоб краще імітувати підхід, мову, граматику та навіть спосіб керування посиланнями в цих електронних листах, щоб зробити їхні спроби фішингу більш законними. Чим переконливіша підробка, тим вищий відсоток успіху. Якщо шахрай отримує доступ до чиєїсь електронної пошти, він може фішингувати інформацію, розгортати зловмисне програмне забезпечення або завдати подальшої шкоди, навчаючи свої інструменти на справжніх електронних листах, щоб будь-яке майбутнє спілкування було схоже на справжнє.
Збір конфіденційних даних. Шахраї вже використовують величезні бібліотеки інструментів для збору конфіденційної інформації, але тепер вони використовують генеративне шахрайство на основі штучного інтелекту, щоб покращити свою здатність отримати доступ до облікових записів соціальних мереж, а потім захопити їх. Заволодіння обліковим записом дає змогу шахраю націлитися на контакти жертви в надійному середовищі, де вони можуть попросити грошей у близьких друзів або сім’ї жертви в синтезованій атаці авторизованого Push Payment. Вони також можуть спробувати використати методи соціальної інженерії для доступу до додаткової конфіденційної інформації, натякаючи на можливі паролі та секретні відповіді на запитання, які використовуються, наприклад, для входу в онлайн-банкінг. У кожному сценарії генеративний ШІ постійно вивчає стиль спілкування жертви, що робить будь-які майбутні атаки ще ефективнішими та складнішими для виявлення.
Шахраї також використовують генеративний штучний інтелект, щоб створювати та публікувати надзвичайно переконливі заявки на роботу на офіційних дошках вакансій. Резюме містять дуже особисту інформацію, і подібне шахрайство зазвичай використовується для націлювання на вразливих людей, особливо на тих, хто був звільнений або тільки починає свою кар’єру, і, швидше за все, надасть особисту інформацію рекрутерам. Успішно «найнявши» працівника, шахраї могли навіть попросити посвідчення особи жертви та банківські реквізити, знаючи, що до виплати зарплати знадобиться щонайменше місяць — достатньо часу, щоб клонувати особу та використовувати її.
Генерація синтетичної ідентичності. Шахрайство з використанням штучної ідентифікаційної інформації вже є серйозною проблемою для багатьох банків і фінансових установ, але шахраї використовують генеративний штучний інтелект і синтетичні дані, щоб допомогти їм обійти контрольні перевірки. Тепер шахраї мають можливість створювати вражаючі підроблені документи, що засвідчують особу, які є достатньо реалістичними, щоб пройти багато стандартних перевірок, пов’язаних, наприклад, із створенням банківського рахунку. Після надання фальшивого банківського рахунку шахраї можуть подати заявку на отримання кредиту або скористатися пропозиціями «купити зараз», «оплатити пізніше» або ще гірше.
Generative AI допомагає зробити цей вид шахрайства легшим, швидшим і більш масштабованим. Шахраї можуть запускати кілька шахрайських атак одним натисканням кнопки. Автоматизація процесу створення підроблених ідентифікацій і персон і різке підвищення їхніх шансів на успіх. Кожна атака додає до великого масиву реальних даних шахраїв, що покращує здатність моделі самонавчатися та підвищує точність будь-якої наступної атаки. Деякі шахраї навіть використовують генеративні інструменти штучного інтелекту для створення синтетичних ідентифікаційних даних для продажу в темній мережі, замість того, щоб використовувати їх самі.
Детальні відповіді на питання розслідування шахрайства. Здатність розмовного ШІ відповідати на запитання так само, як і більшість людей, створює унікальну проблему для дослідників шахрайства, а генеративний ШІ покращує здатність шахраїв розробляти моделі, які діють і звучать як реальні особи. Ці моделі також можуть навчатися та швидко розуміти контекст та історію будь-якої розмови, покращуючи здатність шахраїв проходити, наприклад, більш суворі перевірки. Гіпотетично, скориставшись перевагами викраденої особи, генеративний штучний інтелект може бути використаний для подання шахрайської страхової претензії, а потім використаний для аргументації справи.
Експлуатація великих катастроф. Шахраї завжди намагалися скористатися природними катаклізмами, такими як нещодавні землетруси в Туреччині та Сирії, але ці атаки стали більш витонченими з використанням генерації зображень ШІ. Шахраї використовують генеративний штучний інтелект для створення підроблених зображень реальних ситуацій як фону для підроблених благодійних сторінок. Недавній землетрус швидко
привернув увагу шахраїв, який почав створювати підроблені сторінки для пожертв у TikTok та інших каналах. Багато з цих сторінок використовували ШІ для створення підроблених зображень і створення переконливих повідомлень, щоб виманити гроші у своїх жертв.
Generative AI є дуже потужним інструментом для шахраїв, і зрозуміло, що всі розслідування справ про шахрайство, кредитні заявки та страхові претензії тепер вимагатимуть значно вищого рівня перевірки. Багато фірм, включаючи OpenAI, запускають
інструментs для виявлення створеного штучним інтелектом контенту, який може допомогти виявити використання генеративного штучного інтелекту в шахрайстві.
Швидке навчання щодо нечесного використання генеративного штучного інтелекту та попередження компаній і окремих осіб про загрози зараз є важливими для захисту індустрії платежів від цієї потужної нової технології.
- Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
- Платоблокчейн. Web3 Metaverse Intelligence. Розширені знання. Доступ тут.
- джерело: https://www.finextra.com/blogposting/23862/darktrace-is-correct—six-ways-generative-ai-enabled-fraud-threatens-the-payments-industry?utm_medium=rssfinextra&utm_source=finextrablogs
- :є
- $UP
- a
- здатність
- МЕНЮ
- доступ
- рахунки
- Рахунки
- точність
- точно
- Діяти
- Додає
- Перевага
- проти
- AI
- Можливість
- ВСІ
- вже
- завжди
- та
- відповідь
- з'являтися
- застосування
- Застосовувати
- підхід
- ЕСТЬ
- сперечатися
- штучний
- штучний інтелект
- Штучний інтелект (AI)
- AS
- At
- атака
- нападки
- Спроби
- увагу
- автоматизація
- фони
- Банк
- рахунок у банку
- Banking
- Банки
- BBC
- BE
- ставати
- перед тим
- почалася
- буття
- Краще
- підвищення
- підприємства
- button
- купити
- by
- CAN
- кар'єра
- випадок
- готівкові гроші
- Викликати
- шанси
- зміна
- заміна
- канали
- ChatGPT
- Перевірки
- стверджувати
- претензій
- ясно
- клацання
- близько
- тісно
- CO
- колеги
- Збір
- збір
- комерційний
- Комунікація
- постійно
- Наші контакти
- зміст
- контекст
- Розмова
- може
- обкладинка
- створювати
- створення
- кредит
- CVS
- темно
- Dark Web
- дані
- розгортання
- деталі
- розвивати
- пристрій
- лиха
- відкритий
- документація
- пожертвування
- завантажень
- різко
- кожен
- землетрус
- легше
- Освіта
- Ефективний
- ефективність
- повідомлення електронної пошти
- Співробітник
- включіть
- включений
- дозволяє
- Машинобудування
- підвищення
- досить
- Навколишнє середовище
- особливо
- істотний
- Навіть
- приклад
- experts
- надзвичайно
- підроблений
- сім'я
- кілька
- фінансовий
- Фінансові установи
- Фінекстра
- фірми
- для
- форми
- шахрайство
- шахраї
- шахрайський
- Безкоштовна
- друзі
- від
- далі
- майбутнє
- Отримувати
- прибуток
- породжувати
- генерується
- покоління
- генеративний
- Генеративний ШІ
- Давати
- Граматика
- надається
- Мати
- допомога
- допомогу
- тут
- вище
- дуже
- історія
- Як
- HTTPS
- величезний
- Людей
- i
- ID
- тотожності
- Особистість
- зображення
- генерація зображень
- зображень
- Impact
- вражаючий
- удосконалювати
- поліпшується
- поліпшення
- in
- У тому числі
- зростаючий
- осіб
- промисловість
- інформація
- установка
- установи
- інструментальний
- страхування
- Інтелект
- дослідження
- Дослідження
- Слідчі
- залучений
- IT
- сам
- робота
- JPG
- Знання
- мова
- великий
- запуск
- запущений
- запуск
- УЧИТЬСЯ
- вивчення
- рівень
- libraries
- як
- Ймовірно
- зв'язку
- Місце проживання
- шукати
- машина
- made
- основний
- зробити
- РОБОТИ
- шкідливих програм
- вдалося
- багато
- багато людей
- Медіа
- обмін повідомленнями
- може бути
- Моделі
- гроші
- місяць
- більше
- найбільш
- множинний
- Природний
- Нові
- of
- пропонувати
- пропонує
- Пропозиції
- офіційний
- Офіційно
- on
- онлайн
- онлайн Банкінг
- OpenAI
- Думки
- Можливість
- протистояли
- Інше
- Паролі
- Платити
- оплата
- платежі
- платіжна галузь
- Люди
- народний
- людина
- персонал
- особисті дані
- фіш
- phishing
- plato
- Інформація про дані Платона
- PlatoData
- позах
- позитивний
- це можливо
- пошта
- потенціал
- Харчування
- потужний
- Проблема
- процес
- виробляти
- Вироблений
- захищає
- цілей
- Штовхати
- питань
- швидше
- швидко
- ставка
- реальний
- Реальний світ
- реалістичний
- останній
- нещодавно
- вимагати
- походить
- Реагувати
- sale
- масштабовані
- шахрайство
- сценарій
- секрет
- сектор
- бачачи
- чутливий
- установка
- загальні
- поділ
- Повинен
- аналогічний
- ситуацій
- SIX
- So
- соціальна
- Соціальна інженерія
- соціальні медіа
- деякі
- складний
- Звучати
- standard
- Починаючи
- вкрали
- стиль
- наступні
- успіх
- Успішно
- такі
- синтетичний
- синтетичні дані
- Сирія
- Приймати
- взяття
- Мета
- методи
- Технологія
- Що
- Команда
- їх
- Їх
- самі
- Ці
- річ
- загрожує
- загрози
- Tik Tok
- час
- до
- сьогодні
- інструмент
- інструменти
- поїзд
- навчений
- Навчання
- Тенденції
- Довірений
- Туреччина
- Типи
- типовий
- типово
- розуміти
- створеного
- використання
- перевірка
- жертви
- Вразливий
- попередження
- шлях..
- способи
- Web
- веб-сайти
- який
- в той час як
- ВООЗ
- волі
- з
- б
- зефірнет