L'intelligenza artificiale generativa (AI) ha già avuto un impatto pervasivo sulle nostre vite, con molti esperti che condividono le loro opinioni sul potenziale commerciale in evoluzione del settore tecnologico e su come potrebbe essere utilizzato in futuro. Di recente ho condiviso il mio
pensieri su come la tecnologia cambierebbe il settore dei pagamenti, ma mentre ci sono molte applicazioni positive per l'IA generativa nel nostro settore; ci sono, purtroppo, anche molte persone che cercano di utilizzare la tecnologia per scopi fraudolenti. Ecco alcuni modi in cui i truffatori stanno già utilizzando l'IA generativa oggi di cui i colleghi nel settore dei pagamenti dovrebbero essere a conoscenza:
Minacce di phishing più sofisticate. Stiamo già assistendo al lancio di attacchi più sofisticati. Infatti, come recentemente scoperto da
Cyble, i truffatori stanno persino creando siti Web fasulli che offrono download gratuiti dello strumento ChatGPT. Questo tipo di approccio iperreattivo è tipico dei truffatori, che spesso approfittano delle nuove tendenze per attirare l'attenzione della gente. In questo caso, i truffatori offrono falsi download di ChatGPT come copertura per l'installazione di malware sul dispositivo o sulla macchina della vittima, che consentirà loro di accedere a dati personali, password o persino contanti.
Questo esempio potrebbe non utilizzare l'IA generativa stessa, ma la tecnologia sta anche aumentando l'efficacia di questi tipi di truffe migliorando la capacità di un truffatore di comporre e-mail, siti Web e altre forme di comunicazione falsi dall'aspetto autentico in modo molto più accurato. I truffatori possono generare e-mail in buona fede utilizzando modelli di intelligenza artificiale generativa che sono stati addestrati utilizzando informazioni prodotte ufficialmente per imitare meglio l'approccio, la lingua, la grammatica e persino il modo in cui i collegamenti vengono gestiti in queste e-mail, per far apparire più legittimi i loro tentativi di phishing. Più convincente è il falso, maggiore è il tasso di successo. Se un truffatore ottiene l'accesso all'e-mail di qualcuno, può quindi eseguire il phishing delle informazioni, distribuire malware o causare ulteriori danni addestrando i propri strumenti su e-mail reali, in modo che qualsiasi comunicazione futura assomigli più da vicino alla realtà.
Raccolta dati sensibili. I truffatori utilizzano già enormi librerie di strumenti per la raccolta di informazioni sensibili, ma ora utilizzano truffe generative alimentate dall'intelligenza artificiale per migliorare la loro capacità di accedere e quindi assumere il controllo degli account dei social media. L'acquisizione di un account consente a un truffatore di prendere di mira i contatti di una vittima in un ambiente fidato, dove potrebbe avere l'opportunità di chiedere denaro agli amici intimi o alla famiglia di una vittima in un attacco di pagamento push autorizzato sintetizzato. Potrebbero anche tentare di utilizzare tecniche di ingegneria sociale per accedere a ulteriori informazioni sensibili, ad esempio suggerendo possibili password e domande a risposta segreta utilizzate per gli accessi bancari online. In ogni scenario, l'IA generativa apprende costantemente lo stile di comunicazione della vittima, il che rende eventuali attacchi futuri ancora più efficaci e difficili da rilevare.
I truffatori utilizzano anche l'intelligenza artificiale generativa per generare e pubblicare domande di lavoro estremamente convincenti nelle bacheche di lavoro ufficiali. I CV contengono informazioni altamente personali e truffe come questa sono generalmente utilizzate per prendere di mira le persone vulnerabili, in particolare quelle che sono state licenziate o sono appena agli inizi della loro carriera e sono più propense a fornire informazioni personali ai reclutatori. Dopo aver "assunto" con successo un dipendente, i truffatori potrebbero persino chiedere l'ID e le coordinate bancarie della vittima, sapendo che ci vorrebbe almeno un mese prima del giorno di paga, tempo sufficiente per clonare l'identità e utilizzarla.
Generazione di identità sintetica. La frode dell'identità sintetica è già un grave problema per molte banche e istituzioni finanziarie, ma i truffatori utilizzano l'intelligenza artificiale generativa e i dati sintetici per aggirare i controlli di verifica. I truffatori ora hanno la possibilità di generare un'impressionante documentazione di identità falsa, che è abbastanza realistica da superare molti dei controlli standard coinvolti nella creazione di un conto bancario, ad esempio. Una volta concesso un conto bancario falso, i truffatori possono richiedere un credito o approfittare di offerte compra ora, paga dopo o peggio.
L'IA generativa sta contribuendo a rendere questo tipo di frode più facile, veloce e scalabile. I truffatori possono lanciare più attacchi fraudolenti con il clic di un pulsante. Automatizzare il processo di produzione di identità e personaggi falsi e aumentare notevolmente le loro possibilità di successo. Ogni attacco si aggiunge all'ampio corpus di dati reali dei truffatori, che migliora la capacità del loro modello di addestrarsi e aumenta la precisione di qualsiasi attacco successivo. Alcuni truffatori utilizzano persino strumenti di intelligenza artificiale generativa per generare dati di identità sintetici da vendere sul dark web, invece di utilizzarli essi stessi.
Risposte dettagliate alle domande sulle indagini sulle frodi. La capacità dell'IA conversazionale di rispondere alle domande in modo simile alla maggior parte degli umani pone un problema unico per gli investigatori di frodi e l'IA generativa sta migliorando la capacità dei truffatori di sviluppare modelli che agiscono e suonano come una persona reale. Questi modelli possono anche apprendere e comprendere rapidamente il contesto e la cronologia di qualsiasi conversazione, migliorando ad esempio la capacità di un truffatore di superare controlli di verifica più rigorosi. Ipoteticamente, approfittando di un'identità rubata, l'IA generativa potrebbe essere utilizzata per presentare una richiesta assicurativa fraudolenta, quindi essere utilizzata per discutere il caso.
Sfruttamento di grandi catastrofi. I truffatori hanno sempre cercato di trarre vantaggio dai disastri naturali, come i recenti terremoti in Turchia e Siria, ma questi attacchi sono diventati più sofisticati con l'utilizzo della generazione di immagini AI. I truffatori utilizzano l'intelligenza artificiale generativa per creare immagini false di situazioni del mondo reale come sfondi per pagine di beneficenza false. Il recente terremoto rapidamente
attirato l'attenzione dei truffatori, che ha iniziato a creare pagine di donazioni false su TikTok e altri canali. Molte di queste pagine hanno utilizzato l'intelligenza artificiale per generare immagini false e produrre messaggi convincenti per convincere le loro vittime a ottenere denaro.
L'IA generativa è uno strumento molto potente per i truffatori ed è chiaro che tutte le indagini sui casi di frode, le richieste di credito e le richieste di risarcimento richiedono ora un livello di controllo molto più elevato. Molte aziende, tra cui OpenAI, stanno lanciando
s per rilevare i contenuti generati dall'IA che potrebbero essere fondamentali per rilevare l'uso dell'IA generativa nelle frodi.
Una rapida formazione sugli usi nefasti dell'IA generativa e l'avvertimento di aziende e individui sulle minacce è ora essenziale per proteggere il settore dei pagamenti da questa nuova potente tecnologia.
- Distribuzione di contenuti basati su SEO e PR. Ricevi amplificazione oggi.
- Platoblockchain. Web3 Metaverse Intelligence. Conoscenza amplificata. Accedi qui.
- Fonte: https://www.finextra.com/blogposting/23862/darktrace-is-correct—six-ways-generative-ai-enabled-fraud-threatens-the-payments-industry?utm_medium=rssfinextra&utm_source=finextrablogs
- :È
- $ SU
- a
- capacità
- WRI
- accesso
- Il mio account
- conti
- precisione
- con precisione
- Legge
- Aggiunge
- Vantaggio
- contro
- AI
- AI-alimentato
- Tutti
- già
- sempre
- ed
- rispondere
- apparire
- applicazioni
- APPLICA
- approccio
- SONO
- discutere
- artificiale
- intelligenza artificiale
- Intelligenza artificiale (AI)
- AS
- At
- attacco
- attacchi
- Tentativi
- attenzione
- Automatizzare
- sfondi
- Banca
- conto bancario
- Settore bancario
- Banche
- bbc
- BE
- diventare
- prima
- ha iniziato
- essendo
- Meglio
- potenziamento
- aziende
- pulsante
- Acquistare
- by
- Materiale
- Career
- Custodie
- Contanti
- Causare
- probabilità
- il cambiamento
- cambiando
- canali
- ChatGPT
- Controlli
- rivendicare
- pulire campo
- clicca
- Chiudi
- strettamente
- CO
- colleghi
- Raccolta
- collezione
- Comunicazione
- costantemente
- contatti
- contenuto
- contesto
- Conversazione
- potuto
- coprire
- creare
- Creazione
- credito
- CVS
- Scuro
- Web Scuro
- dati
- schierare
- dettagli
- sviluppare
- dispositivo
- disastri
- scoperto
- documentazione
- donazione
- download
- drammaticamente
- ogni
- terremoto
- più facile
- Istruzione
- Efficace
- efficacia
- Dipendente
- enable
- abilitato
- Abilita
- Ingegneria
- migliorando
- abbastanza
- Ambiente
- particolarmente
- essential
- Anche
- esempio
- esperti
- estremamente
- falso
- famiglia
- pochi
- finanziario
- Istituzioni finanziarie
- Finextra
- Aziende
- Nel
- forme
- frode
- truffatori
- fraudolenti
- Gratis
- amici
- da
- ulteriormente
- futuro
- Guadagno
- Guadagni
- generare
- generato
- ELETTRICA
- generativo
- AI generativa
- Dare
- Grammatica
- concesso
- Avere
- Aiuto
- aiutare
- qui
- superiore
- vivamente
- storia
- Come
- HTTPS
- Enorme
- Gli esseri umani
- i
- ID
- identità
- Identità
- Immagine
- generazione di immagini
- immagini
- Impact
- impressionante
- competenze
- migliora
- miglioramento
- in
- Compreso
- crescente
- individui
- industria
- informazioni
- installazione
- istituzioni
- strumentale
- assicurazione
- Intelligence
- indagine
- Indagini
- Investigatori
- coinvolto
- IT
- stessa
- Lavoro
- jpg
- Conoscere
- Lingua
- grandi
- lanciare
- lanciato
- lancio
- IMPARARE
- apprendimento
- Livello
- biblioteche
- piace
- probabile
- Collegamento
- Lives
- cerca
- macchina
- fatto
- maggiore
- make
- FA
- il malware
- gestito
- molti
- molte persone
- Media
- di messaggistica
- forza
- modelli
- soldi
- Mese
- Scopri di più
- maggior parte
- multiplo
- Naturale
- New
- of
- offrire
- offerta
- Offerte
- ufficiale
- Ufficialmente
- on
- online
- online banking
- OpenAI
- Opinioni
- Opportunità
- opposto
- Altro
- Le password
- Paga le
- Pagamento
- pagamenti
- industria dei pagamenti
- Persone
- persone
- persona
- cronologia
- dati personali
- phishing
- phishing
- Platone
- Platone Data Intelligence
- PlatoneDati
- pone
- positivo
- possibile
- Post
- potenziale
- alimentato
- potente
- Problema
- processi
- produrre
- Prodotto
- proteggere
- fini
- Spingi
- Domande
- più veloce
- rapidamente
- tasso
- di rose
- mondo reale
- realistico
- recente
- recentemente
- richiedere
- assomiglia
- Rispondere
- vendita
- scalabile
- truffe
- scenario
- Segreto
- settore
- vedendo
- delicata
- regolazione
- condiviso
- compartecipazione
- dovrebbero
- simile
- situazioni
- SIX
- So
- Social
- Ingegneria sociale
- Social Media
- alcuni
- sofisticato
- Suono
- Standard
- Di partenza
- rubare
- style
- successivo
- il successo
- Con successo
- tale
- sintetico
- dati sintetici
- Siria
- Fai
- presa
- Target
- tecniche
- Tecnologia
- che
- Il
- loro
- Li
- si
- Strumenti Bowman per analizzare le seguenti finiture:
- cosa
- minaccia
- minacce
- tic toc
- tempo
- a
- oggi
- strumenti
- Treni
- allenato
- Training
- tendenze
- di fiducia
- Turchia
- Tipi di
- tipico
- tipicamente
- capire
- unico
- uso
- Convalida
- vittime
- Vulnerabile
- identificazione dei warning
- Modo..
- modi
- sito web
- siti web
- quale
- while
- OMS
- volere
- con
- sarebbe
- zefiro