Generatieve kunstmatige intelligentie (AI) heeft al een alomtegenwoordige impact op ons leven gehad, met veel experts die hun mening deelden over de veranderende commerciële mogelijkheden van de technologie-industrie en hoe deze in de toekomst zou kunnen worden gebruikt. Onlangs deelde ik mijn
gedachten over hoe de technologie de betalingssector zou veranderen, maar terwijl er veel positieve toepassingen zijn voor generatieve AI in onze sector; er zijn helaas ook veel mensen die de technologie willen gebruiken voor frauduleuze doeleinden. Hier zijn een paar manieren waarop fraudeurs tegenwoordig al generatieve AI gebruiken waarvan collega's in de betalingssector op de hoogte moeten zijn:
Meer geavanceerde phishing-bedreigingen. We zien al dat er meer geavanceerde aanvallen worden gelanceerd. Inderdaad, zoals onlangs ontdekt door
Fiets, maken fraudeurs zelfs nepwebsites die gratis downloads van de ChatGPT-tool aanbieden. Dit soort hyperreactieve benadering is typerend voor fraudeurs, die vaak profiteren van nieuwe trends om de aandacht van mensen te trekken. In dit geval bieden fraudeurs valse ChatGPT-downloads aan als dekmantel voor het installeren van malware op het apparaat of de machine van hun slachtoffer, waardoor ze toegang krijgen tot persoonlijke gegevens, wachtwoorden of zelfs contant geld.
Dit voorbeeld maakt misschien zelf geen gebruik van generatieve AI, maar de technologie vergroot ook de effectiviteit van dit soort oplichting door het vermogen van een fraudeur te verbeteren om echt ogende nep-e-mails, websites en andere vormen van communicatie veel nauwkeuriger samen te stellen. Fraudeurs kunnen bonafide e-mails genereren door generatieve AI-modellen te gebruiken die zijn getraind met behulp van officieel geproduceerde informatie om de aanpak, taal, grammatica en zelfs hoe links in deze e-mails worden beheerd beter na te bootsen, om hun phishing-pogingen legitiemer te laten lijken. Hoe overtuigender de nep, hoe hoger het slagingspercentage. Als een oplichter toegang krijgt tot iemands e-mail, kunnen ze informatie phishen, malware inzetten of verdere schade aanrichten door hun tools te trainen op echte e-mails, zodat toekomstige communicatie meer op het echte werk lijkt.
Gevoelige gegevensverzameling. Fraudeurs gebruiken al enorme bibliotheken met tools voor het verzamelen van gevoelige informatie, maar nu gebruiken ze generatieve AI-aangedreven zwendel om hun vermogen om toegang te krijgen tot sociale media-accounts te verbeteren en deze vervolgens over te nemen. Door een account over te nemen, kan een fraudeur de contacten van een slachtoffer aanvallen in een vertrouwde omgeving, waar ze de kans krijgen om de goede vrienden of familie van het slachtoffer om geld te vragen in een gesynthetiseerde, geautoriseerde pushbetalingsaanval. Ze kunnen ook proberen social engineering-technieken te gebruiken om toegang te krijgen tot meer gevoelige informatie, bijvoorbeeld door hints te geven naar mogelijke wachtwoorden en geheime antwoordvragen die worden gebruikt voor aanmeldingen bij online bankieren. In elk scenario leert generatieve AI voortdurend de communicatiestijl van het slachtoffer, waardoor toekomstige aanvallen nog effectiever en moeilijker te detecteren zijn.
Fraudeurs gebruiken ook generatieve AI om uiterst overtuigende sollicitaties te genereren en op officiële vacaturesites te plaatsen. Cv's bevatten zeer persoonlijke informatie en dit soort zwendelpraktijken wordt doorgaans gebruikt om kwetsbare mensen aan te vallen, met name degenen die zijn ontslagen of net aan het begin van hun carrière staan, en geven eerder persoonlijke informatie door aan recruiters. Nadat ze met succes een werknemer hadden 'aangeworven', konden fraudeurs zelfs om de identiteitskaart en bankgegevens van hun slachtoffer vragen, wetende dat het minstens een maand zou duren voordat betaaldag zou komen - ruimschoots de tijd om de identiteit te klonen en te gebruiken.
Generatie van synthetische identiteiten. Synthetische identiteitsfraude is al een groot probleem voor veel banken en financiële instellingen, maar fraudeurs gebruiken generatieve AI en synthetische data om verificatiecontroles te omzeilen. Fraudeurs hebben nu de mogelijkheid om indrukwekkende valse identiteitsdocumenten te genereren, die realistisch genoeg zijn om bijvoorbeeld veel van de standaardcontroles te doorstaan die nodig zijn voor het aanmaken van een bankrekening. Zodra een valse bankrekening is toegekend, kunnen fraudeurs krediet aanvragen, of profiteren van koop nu, betaal later aanbiedingen, of erger.
Generatieve AI helpt dit soort fraude eenvoudiger, sneller en schaalbaarder te maken. Fraudeurs kunnen met één druk op de knop meerdere frauduleuze aanvallen uitvoeren. Het automatiseren van het proces van het produceren van valse identiteiten en persona's, en het drastisch vergroten van hun kansen op succes. Elke aanval draagt bij aan het grote corpus van echte gegevens van fraudeurs, waardoor het vermogen van hun model om zichzelf te trainen verbetert en de nauwkeurigheid van elke volgende aanval toeneemt. Sommige fraudeurs gebruiken zelfs generatieve AI-tools om synthetische identiteitsgegevens te genereren voor verkoop op het dark web, in plaats van deze zelf te gebruiken.
Gedetailleerde antwoorden op vragen over fraudeonderzoek. Het vermogen van gespreks-AI om vragen op dezelfde manier te beantwoorden als de meeste mensen, vormt een uniek probleem voor fraudeonderzoekers, en generatieve AI verbetert het vermogen van fraudeurs om modellen te ontwikkelen die zich gedragen en klinken als een echt persoon. Die modellen kunnen ook leren van en snel de context en geschiedenis van elk gesprek begrijpen, waardoor bijvoorbeeld een fraudeur beter in staat is om strengere verificatiecontroles te doorstaan. Door misbruik te maken van een gestolen identiteit, zou generatieve AI hypothetisch kunnen worden gebruikt om een frauduleuze verzekeringsclaim in te dienen en vervolgens worden gebruikt om de zaak te bepleiten.
Exploitatie van grote rampen. Fraudeurs hebben altijd geprobeerd te profiteren van natuurrampen, zoals de recente aardbevingen in Turkije en Syrië, maar deze aanvallen zijn geavanceerder geworden door het gebruik van AI-beeldgeneratie. Fraudeurs gebruiken generatieve AI om nepafbeeldingen van situaties in de echte wereld te maken als achtergrond voor nep-liefdadigheidspagina's. De recente aardbeving snel
trok de aandacht van fraudeurs, die begonnen met het opzetten van valse donatiepagina's op TikTok en andere kanalen. Veel van deze pagina's gebruikten AI om nepafbeeldingen te genereren en overtuigende berichten te produceren om geld uit hun slachtoffers te lokken.
Generatieve AI is een zeer krachtige tool voor fraudeurs en het is duidelijk dat alle onderzoeken naar fraudegevallen, kredietaanvragen en verzekeringsclaims nu een veel hoger niveau van controle vereisen. Veel bedrijven, waaronder OpenAI, lanceren
toolss om door AI gegenereerde inhoud te detecteren die een belangrijke rol zou kunnen spelen bij het opsporen van het gebruik van generatieve AI bij fraude.
Snel onderwijs over het snode gebruik van generatieve AI en het waarschuwen van bedrijven en individuen voor de bedreigingen is nu essentieel om de betalingsindustrie te beschermen tegen deze krachtige nieuwe technologie.
- Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
- Platoblockchain. Web3 Metaverse Intelligentie. Kennis versterkt. Toegang hier.
- Bron: https://www.finextra.com/blogposting/23862/darktrace-is-correct—six-ways-generative-ai-enabled-fraud-threatens-the-payments-industry?utm_medium=rssfinextra&utm_source=finextrablogs
- :is
- $UP
- a
- vermogen
- Over
- toegang
- Account
- accounts
- nauwkeurigheid
- nauwkeurig
- Handelen
- Voegt
- Voordeel
- tegen
- AI
- AI-powered
- Alles
- al
- altijd
- en
- beantwoorden
- verschijnen
- toepassingen
- Solliciteer
- nadering
- ZIJN
- argumenteren
- kunstmatig
- kunstmatige intelligentie
- Kunstmatige intelligentie (AI)
- AS
- At
- aanvallen
- Aanvallen
- pogingen
- aandacht
- automatiseren
- achtergronden
- Bank
- bankrekening
- Bankieren
- Banken
- bbc
- BE
- worden
- vaardigheden
- begon
- wezen
- Betere
- het stimuleren
- ondernemingen
- kopen
- by
- CAN
- Carrière
- geval
- Contant geld
- Veroorzaken
- kansen
- verandering
- veranderende
- kanalen
- ChatGPT
- Controles
- aanspraak maken op
- vorderingen
- duidelijk
- Klik
- Sluiten
- van nabij
- CO
- collega's
- Het verzamelen van
- Collectie
- commercieel
- Communicatie
- permanent
- contacten
- content
- verband
- Gesprek
- kon
- deksel
- en je merk te creëren
- Wij creëren
- Credits
- CVS
- Donker
- Dark Web
- gegevens
- implementeren
- gegevens
- ontwikkelen
- apparaat
- rampen
- ontdekt
- documentatie
- schenking
- downloads
- dramatisch
- elk
- Aardbeving
- gemakkelijker
- Onderwijs
- effectief
- effectiviteit
- e-mails
- Werknemer
- in staat stellen
- ingeschakeld
- maakt
- Engineering
- verbeteren
- genoeg
- Milieu
- vooral
- essentieel
- Zelfs
- voorbeeld
- deskundigen
- uiterst
- nep
- familie
- weinig
- financieel
- Financiële instellingen
- Fijnextra
- bedrijven
- Voor
- formulieren
- bedrog
- fraudeurs
- frauduleus
- Gratis
- vrienden
- oppompen van
- verder
- toekomst
- Krijgen
- verdiensten
- voortbrengen
- gegenereerde
- generatie
- generatief
- generatieve AI
- Geven
- Grammatica
- verleend
- Hebben
- hulp
- het helpen van
- hier
- hoger
- zeer
- geschiedenis
- Hoe
- HTTPS
- reusachtig
- Mensen
- i
- ID
- identiteiten
- Identiteit
- beeld
- beeldgeneratie
- afbeeldingen
- Impact
- indrukwekkend
- verbeteren
- verbetert
- het verbeteren van
- in
- Inclusief
- meer
- individuen
- -industrie
- informatie
- installeren
- instellingen
- instrumentaal
- verzekering
- Intelligentie
- onderzoek
- onderzoeken
- Onderzoekers
- betrokken zijn
- IT
- zelf
- Jobomschrijving:
- jpg
- Weten
- taal
- Groot
- lancering
- gelanceerd
- lancering
- LEARN
- leren
- Niveau
- bibliotheken
- als
- Waarschijnlijk
- links
- Lives
- op zoek
- machine
- gemaakt
- groot
- maken
- MERKEN
- malware
- beheerd
- veel
- veel mensen
- Media
- messaging
- macht
- modellen
- geld
- Maand
- meer
- meest
- meervoudig
- Naturel
- New
- of
- bieden
- het aanbieden van
- Aanbod
- officieel
- Officieel
- on
- online.
- online bankieren
- OpenAI
- Meningen
- kansen
- gekant tegen
- Overige
- wachtwoorden
- Betaal
- betaling
- betalingen
- betalingssector
- Mensen
- mensen
- persoon
- persoonlijk
- persoonlijke gegevens
- phish
- Phishing
- Plato
- Plato gegevensintelligentie
- PlatoData
- vormt
- positief
- mogelijk
- Post
- potentieel
- aangedreven
- krachtige
- probleem
- produceren
- geproduceerd
- beschermen
- doeleinden
- Duwen
- Contact
- sneller
- snel
- tarief
- vast
- echte wereld
- realistisch
- recent
- onlangs
- vereisen
- lijkt op
- Reageren
- sale
- schaalbare
- oplichting
- scenario
- Geheim
- sector
- te zien
- gevoelig
- het instellen van
- gedeeld
- delen
- moet
- gelijk
- situaties
- ZES
- So
- Social
- Social engineering
- social media
- sommige
- geraffineerd
- Geluid
- standaard
- Start
- gestolen
- stijl
- volgend
- succes
- Met goed gevolg
- dergelijk
- synthetisch
- synthetische gegevens
- Syrië
- Nemen
- het nemen
- doelwit
- technieken
- Technologie
- dat
- De
- hun
- Ze
- zich
- Deze
- ding
- bedreigt
- bedreigingen
- tiktok
- niet de tijd of
- naar
- vandaag
- tools
- tools
- Trainen
- getraind
- Trainingen
- Trends
- vertrouwde
- Turkije
- types
- typisch
- typisch
- begrijpen
- unieke
- .
- Verificatie
- slachtoffers
- Kwetsbaar
- waarschuwing
- Manier..
- manieren
- web
- websites
- welke
- en
- WIE
- wil
- Met
- zou
- zephyrnet