Generatywna sztuczna inteligencja (AI) wywarła już wszechobecny wpływ na nasze życie, a wielu ekspertów dzieli się swoimi opiniami na temat zmieniającego się potencjału komercyjnego tej technologii oraz tego, jak można ją wykorzystać w przyszłości. Niedawno udostępniłem swoje
myśli o tym, jak technologia zmieni branżę płatniczą, ale chociaż istnieje wiele pozytywnych zastosowań generatywnej sztucznej inteligencji w naszym sektorze; niestety jest też wiele osób, które chcą wykorzystać tę technologię do nieuczciwych celów. Oto kilka sposobów, w jakie oszuści już dziś wykorzystują generatywną sztuczną inteligencję, o których koledzy z branży płatniczej powinni wiedzieć:
Bardziej wyrafinowane zagrożenia typu phishing. Już obserwujemy uruchamianie bardziej wyrafinowanych ataków. Rzeczywiście, jak niedawno odkrył
Cyble, oszuści tworzą nawet fałszywe strony internetowe oferujące bezpłatne pobieranie narzędzia ChatGPT. Tego typu hiperreaktywne podejście jest typowe dla oszustów, którzy często wykorzystują nowe trendy, aby przyciągnąć uwagę ludzi. W tym przypadku oszuści oferują fałszywe pobrania ChatGPT jako przykrywkę do zainstalowania złośliwego oprogramowania na urządzeniu lub komputerze ofiary, co umożliwi im dostęp do danych osobowych, haseł, a nawet gotówki.
Ten przykład może nie wykorzystywać generatywnej sztucznej inteligencji jako takiej, ale technologia ta zwiększa również skuteczność tego typu oszustw, poprawiając zdolność oszusta do znacznie dokładniejszego tworzenia autentycznie wyglądających fałszywych e-maili, stron internetowych i innych form komunikacji. Oszuści mogą generować wiadomości e-mail w dobrej wierze, korzystając z generatywnych modeli sztucznej inteligencji, które zostały wyszkolone przy użyciu oficjalnie opracowanych informacji, aby lepiej naśladować podejście, język, gramatykę, a nawet sposób zarządzania linkami w tych wiadomościach e-mail, aby ich próby phishingu wyglądały na bardziej uzasadnione. Im bardziej przekonująca podróbka, tym wyższy wskaźnik sukcesu. Jeśli oszust uzyska dostęp do czyjejś poczty e-mail, może wyłudzić informacje, wdrożyć złośliwe oprogramowanie lub wyrządzić dalsze szkody, trenując swoje narzędzia na prawdziwych wiadomościach e-mail, aby wszelka przyszła komunikacja bardziej przypominała rzeczywistą.
Gromadzenie danych wrażliwych. Oszuści już korzystają z ogromnych bibliotek narzędzi do zbierania poufnych informacji, ale teraz używają generatywnych oszustw opartych na sztucznej inteligencji, aby poprawić swoje możliwości uzyskiwania dostępu do kont w mediach społecznościowych, a następnie przejmowania ich. Przejęcie konta umożliwia oszustowi atakowanie kontaktów ofiary w zaufanym środowisku, w którym mogą oni mieć możliwość poproszenia bliskich przyjaciół lub rodziny ofiary o pieniądze w zsyntetyzowanym ataku typu „autoryzowana płatność push”. Mogą również próbować użyć technik socjotechnicznych, aby uzyskać dostęp do dalszych poufnych informacji, na przykład podpowiadając możliwe hasła i tajne odpowiedzi na pytania używane do logowania do bankowości internetowej. W każdym scenariuszu generatywna sztuczna inteligencja stale uczy się stylu komunikacji ofiary, co sprawia, że przyszłe ataki są jeszcze skuteczniejsze i trudniejsze do wykrycia.
Oszuści wykorzystują również generatywną sztuczną inteligencję do generowania i publikowania niezwykle przekonujących podań o pracę na oficjalnych tablicach ogłoszeń. CV zawierają bardzo osobiste informacje, a tego rodzaju oszustwa są zwykle wykorzystywane do atakowania osób szczególnie narażonych, zwłaszcza tych, które zostały zwolnione lub dopiero rozpoczynają karierę zawodową i są bardziej skłonne do przekazywania danych osobowych rekruterom. Po pomyślnym „zatrudnieniu” pracownika oszuści mogą nawet poprosić o identyfikator i dane bankowe swojej ofiary, wiedząc, że minie co najmniej miesiąc przed wypłatą – to wystarczająco dużo czasu, aby sklonować tożsamość i użyć jej.
Syntetyczne generowanie tożsamości. Oszustwa związane z syntetyczną tożsamością już teraz stanowią poważny problem dla wielu banków i instytucji finansowych, ale oszuści wykorzystują generatywną sztuczną inteligencję i dane syntetyczne, aby pomóc im ominąć kontrole weryfikacyjne. Oszuści mają teraz możliwość generowania imponującej dokumentacji fałszywej tożsamości, która jest wystarczająco realistyczna, aby przejść wiele standardowych kontroli związanych na przykład z założeniem konta bankowego. Po przyznaniu fałszywego konta bankowego oszuści mogą ubiegać się o kredyt lub skorzystać z ofert kup teraz, zapłać później lub gorzej.
Generative AI pomaga uczynić tego rodzaju oszustwa łatwiejszymi, szybszymi i bardziej skalowalnymi. Oszuści mogą przeprowadzać wiele oszukańczych ataków jednym kliknięciem. Automatyzacja procesu tworzenia fałszywych tożsamości i person oraz radykalne zwiększenie ich szans na sukces. Każdy atak dodaje do dużego zbioru rzeczywistych danych oszustów, co poprawia zdolność ich modelu do samouczenia się i zwiększa dokładność każdego kolejnego ataku. Niektórzy oszuści używają nawet generatywnych narzędzi sztucznej inteligencji do generowania syntetycznych danych tożsamości na sprzedaż w ciemnej sieci, zamiast używać ich samodzielnie.
Szczegółowe odpowiedzi na pytania dotyczące dochodzenia w sprawie oszustwa. Zdolność konwersacyjnej sztucznej inteligencji do odpowiadania na pytania w podobny sposób, jak większość ludzi, stanowi wyjątkowy problem dla śledczych, a generatywna sztuczna inteligencja zwiększa zdolność oszustów do opracowywania modeli, które zachowują się i brzmią jak prawdziwa osoba. Modele te mogą również uczyć się i szybko rozumieć kontekst i historię każdej rozmowy, poprawiając na przykład zdolność oszusta do przejścia bardziej rygorystycznych kontroli weryfikacyjnych. Hipotetycznie, wykorzystując skradzioną tożsamość, generatywna sztuczna inteligencja mogłaby zostać wykorzystana do złożenia fałszywego roszczenia ubezpieczeniowego, a następnie wykorzystana do argumentowania w tej sprawie.
Eksploatacja poważnych katastrof. Oszuści zawsze próbowali wykorzystać klęski żywiołowe, takie jak niedawne trzęsienia ziemi w Turcji i Syrii, ale ataki te stały się bardziej wyrafinowane dzięki wykorzystaniu generowania obrazów AI. Oszuści wykorzystują generatywną sztuczną inteligencję do tworzenia fałszywych obrazów rzeczywistych sytuacji jako tła dla fałszywych stron charytatywnych. Ostatnie trzęsienie ziemi szybko
zwróciła uwagę oszustów, który zaczął tworzyć fałszywe strony darowizn na TikTok i innych kanałach. Wiele z tych stron wykorzystywało sztuczną inteligencję do generowania fałszywych obrazów i tworzenia przekonujących komunikatów w celu wyłudzenia pieniędzy od swoich ofiar.
Generatywna sztuczna inteligencja jest bardzo potężnym narzędziem dla oszustów i jasne jest, że wszystkie dochodzenia w sprawie oszustwa, wnioski kredytowe i roszczenia ubezpieczeniowe będą teraz wymagały znacznie wyższego poziomu kontroli. Wiele firm, w tym OpenAI, rozpoczyna działalność
narzędzies do wykrywania treści generowanych przez sztuczną inteligencję, które mogą być pomocne w wykrywaniu wykorzystania generatywnej sztucznej inteligencji w oszustwach.
Szybka edukacja na temat nikczemnych zastosowań generatywnej sztucznej inteligencji oraz ostrzeganie firm i osób prywatnych przed zagrożeniami jest obecnie niezbędne do ochrony branży płatniczej przed tą potężną nową technologią.
- Dystrybucja treści i PR oparta na SEO. Uzyskaj wzmocnienie już dziś.
- Platoblockchain. Web3 Inteligencja Metaverse. Wzmocniona wiedza. Dostęp tutaj.
- Źródło: https://www.finextra.com/blogposting/23862/darktrace-is-correct—six-ways-generative-ai-enabled-fraud-threatens-the-payments-industry?utm_medium=rssfinextra&utm_source=finextrablogs
- :Jest
- $W GÓRĘ
- a
- zdolność
- O nas
- dostęp
- Konto
- Konta
- precyzja
- dokładnie
- działać
- Dodaje
- Korzyść
- przed
- AI
- Zasilany AI
- Wszystkie kategorie
- już
- zawsze
- i
- odpowiedź
- zjawić się
- aplikacje
- Aplikuj
- podejście
- SĄ
- argumentować
- sztuczny
- sztuczna inteligencja
- Sztuczna inteligencja (AI)
- AS
- At
- atakować
- Ataki
- Próby
- Uwaga
- automatyzacja
- tła
- Bank
- konto bankowe
- Bankowość
- Banki
- bbc
- BE
- stają się
- zanim
- rozpoczął
- jest
- Ulepsz Swój
- pobudzanie
- biznes
- przycisk
- kupować
- by
- CAN
- Kariera
- walizka
- Gotówka
- Spowodować
- duża szansa,
- zmiana
- wymiana pieniędzy
- kanały
- ChatGPT
- Wykrywanie urządzeń szpiegujących
- roszczenie
- roszczenia
- jasny
- kliknij
- Zamknij
- dokładnie
- CO
- koledzy
- Zbieranie
- kolekcja
- handlowy
- Komunikacja
- stale
- łączność
- zawartość
- kontekst
- Rozmowa
- mógłby
- pokrywa
- Stwórz
- Tworzenie
- kredyt
- CVS
- Ciemny
- Mroczny WWW
- dane
- rozwijać
- detale
- rozwijać
- urządzenie
- Klęski
- odkryty
- dokumentacja
- darowizna
- pliki do pobrania
- dramatycznie
- każdy
- trzęsienie ziemi
- łatwiej
- Edukacja
- Efektywne
- skuteczność
- e-maile
- Pracownik
- umożliwiać
- włączony
- Umożliwia
- Inżynieria
- wzmocnienie
- dość
- Środowisko
- szczególnie
- niezbędny
- Parzyste
- przykład
- eksperci
- niezwykle
- imitacja
- członków Twojej rodziny
- kilka
- budżetowy
- Instytucje finansowe
- Finextra
- firmy
- W razie zamówieenia projektu
- formularze
- oszustwo
- oszuści
- nieuczciwy
- Darmowy
- przyjaciele
- od
- dalej
- przyszłość
- Wzrost
- Zyski
- Generować
- wygenerowane
- generacja
- generatywny
- generatywna sztuczna inteligencja
- Dać
- Gramatyka
- udzielony
- Have
- pomoc
- pomoc
- tutaj
- wyższy
- wysoko
- historia
- W jaki sposób
- HTTPS
- olbrzymi
- Ludzie
- i
- ID
- tożsamości
- tożsamość
- obraz
- generowanie obrazu
- zdjęcia
- Rezultat
- imponujący
- podnieść
- poprawia
- poprawy
- in
- Włącznie z
- wzrastający
- osób
- przemysł
- Informacja
- Instalacja
- instytucje
- instrumentalny
- ubezpieczenie
- Inteligencja
- śledztwo
- Dochodzenia
- Śledczy
- zaangażowany
- IT
- samo
- Praca
- jpg
- Wiedząc
- język
- duży
- uruchomić
- uruchomiona
- wodowanie
- UCZYĆ SIĘ
- nauka
- poziom
- biblioteki
- lubić
- Prawdopodobnie
- linki
- Zyje
- poszukuje
- maszyna
- zrobiony
- poważny
- robić
- WYKONUJE
- malware
- zarządzane
- wiele
- wielu ludzi
- Media
- wiadomości
- może
- modele
- pieniądze
- Miesiąc
- jeszcze
- większość
- wielokrotność
- Naturalny
- Nowości
- of
- oferta
- oferuje
- Oferty
- urzędnik
- Oficjalnie
- on
- Online
- bankowości online
- OpenAI
- Opinie
- Okazja
- przeciwny
- Inne
- hasła
- Zapłacić
- płatność
- płatności
- przemysł płatniczy
- Ludzie
- Ludzie na
- osoba
- osobisty
- dane personalne
- phish
- phishing
- plato
- Analiza danych Platona
- PlatoDane
- stwarza
- pozytywny
- możliwy
- Post
- potencjał
- powered
- mocny
- Problem
- wygląda tak
- produkować
- Wytworzony
- ochrony
- cele
- Naciskać
- pytania
- szybciej
- szybko
- Kurs
- real
- Prawdziwy świat
- realistyczny
- niedawny
- niedawno
- wymagać
- przypomina
- Odpowiadać
- sprzedaż
- skalowalny
- oszustwa
- scenariusz
- Tajemnica
- sektor
- widzenie
- wrażliwy
- ustawienie
- shared
- dzielenie
- powinien
- podobny
- sytuacje
- SIX
- So
- Obserwuj Nas
- Inżynieria społeczna
- Media społecznościowe
- kilka
- wyrafinowany
- Dźwięk
- standard
- Startowy
- skradziony
- styl
- kolejny
- sukces
- Z powodzeniem
- taki
- syntetyczny
- dane syntetyczne
- Syria
- Brać
- biorąc
- cel
- Techniki
- Technologia
- że
- Połączenia
- ich
- Im
- sami
- Te
- rzecz
- Grozi
- zagrożenia
- TIK Tok
- czas
- do
- już dziś
- narzędzie
- narzędzia
- Pociąg
- przeszkolony
- Trening
- Trendy
- zaufany
- Turcja
- typy
- typowy
- zazwyczaj
- zrozumieć
- wyjątkowy
- posługiwać się
- Weryfikacja
- Ofiary
- Wrażliwy
- ostrzeżenie
- Droga..
- sposoby
- sieć
- strony internetowe
- który
- Podczas
- KIM
- będzie
- w
- by
- zefirnet