Generativ kunstig intelligens (AI) har allerede haft en gennemgribende indvirkning på vores liv, hvor mange eksperter deler deres meninger om teknologiens industris skiftende kommercielle potentiale, og hvordan den kan bruges i fremtiden. Jeg delte for nylig min
tanker om, hvordan teknologien ville ændre betalingsindustrien, men mens der er mange positive anvendelser for generativ kunstig intelligens i vores sektor; der er desværre også mange mennesker, der ønsker at bruge teknologien til svigagtige formål. Her er et par måder, hvorpå svindlere allerede bruger generativ kunstig intelligens i dag, som kolleger i betalingsindustrien bør være opmærksomme på:
Mere sofistikerede phishing-trusler. Vi ser allerede mere sofistikerede angreb blive lanceret. Faktisk, som for nylig opdaget af
Cyble, skaber svindlere endda falske websteder, der tilbyder gratis downloads af ChatGPT-værktøjet. Denne type hyperreaktiv tilgang er typisk for svindlere, som ofte vil drage fordel af nye trends for at tiltrække folks opmærksomhed. I dette tilfælde tilbyder svindlere falske ChatGPT-downloads som dækning for at installere malware på deres ofres enhed eller maskine, hvilket vil give dem adgang til personlige data, adgangskoder eller endda kontanter.
Dette eksempel bruger muligvis ikke selv generativ AI, men teknologien øger også effektiviteten af disse typer svindel ved at forbedre en svindleres evne til at komponere ægte falske e-mails, websteder og andre former for kommunikation meget mere præcist. Svindlere kan generere overbevisende e-mails ved at bruge generative AI-modeller, der er blevet trænet ved hjælp af officielt produceret information til bedre at efterligne tilgangen, sproget, grammatikken og endda hvordan links administreres i disse e-mails, for at få deres phishing-forsøg til at fremstå mere legitime. Jo mere overbevisende den falske, jo højere succesrate. Hvis en svindler får adgang til en persons e-mail, kan de derefter phishe information, implementere malware eller forårsage yderligere skade ved at træne deres værktøjer på rigtige e-mails, så enhver fremtidig kommunikation mere ligner den ægte vare.
Følsom dataindsamling. Svindlere bruger allerede enorme biblioteker af værktøjer til at indsamle følsom information, men nu bruger de generative AI-drevne svindelnumre til at forbedre deres evne til at få adgang til og derefter overtage konti på sociale medier. At overtage en konto gør det muligt for en svindler at målrette et offers kontakter i et betroet miljø, hvor de kan have mulighed for at bede et offers nære venner eller familie om penge i et syntetisk, Autoriseret Push Payment-angreb. De kan også forsøge at bruge social engineering-teknikker til at få adgang til yderligere følsom information, antydning af mulige adgangskoder og hemmelige svarspørgsmål, der bruges til f.eks. netbank-log-in. I hvert scenarie lærer generativ AI konstant ofrets kommunikationsstil, hvilket gør fremtidige angreb endnu mere effektive og sværere at opdage.
Svindlere bruger også generativ kunstig intelligens til at generere og sende ekstremt overbevisende jobansøgninger til officielle jobtavler. CV'er indeholder meget personlige oplysninger, og svindel som denne bruges typisk til at målrette mod sårbare mennesker, især dem, der er blevet overflødige eller lige er startet i deres karriere, og som er mere tilbøjelige til at udlevere personlige oplysninger til rekrutterere. Efter at have 'ansat' en medarbejder, kunne svindlere endda bede om deres offers id og bankoplysninger, velvidende at det ville tage mindst en måned før lønningsdagen – god tid til at klone identiteten og bruge den.
Syntetisk identitetsgenerering. Syntetisk identitetsbedrageri er allerede et stort problem for mange banker og finansielle institutioner, men svindlere bruger generativ kunstig intelligens og syntetiske data for at hjælpe dem med at omgå verifikationstjek. Svindlere har nu muligheden for at generere imponerende falsk identitetsdokumentation, som er realistisk nok til at bestå mange af de standardchecks, der er involveret i at oprette en bankkonto, for eksempel. Når en falsk bankkonto er blevet tildelt, kan svindlere ansøge om kredit eller for at drage fordel af køb nu, betale senere tilbud eller endnu værre.
Generativ AI er med til at gøre denne form for svindel nemmere, hurtigere og mere skalerbar. Svindlere kan iværksætte flere svigagtige angreb med et klik på en knap. Automatisering af processen med at producere falske identiteter og personas og dramatisk øge deres chancer for succes. Hvert angreb tilføjer en svindleres store korpus af rigtige data, hvilket forbedrer deres models evne til at træne sig selv og øger nøjagtigheden af ethvert efterfølgende angreb. Nogle svindlere bruger endda generative AI-værktøjer til at generere syntetiske identitetsdata til salg på det mørke web, i modsætning til at bruge dem selv.
Detaljerede svar på spørgsmål om svindelundersøgelse. Conversational AI's evne til at svare på spørgsmål på samme måde som de fleste mennesker udgør et unikt problem for svindelefterforskere, og generativ AI forbedrer svindleres evne til at udvikle modeller, der virker og lyder som en rigtig person. Disse modeller kan også lære af og hurtigt forstå konteksten og historien for enhver samtale, hvilket f.eks. forbedrer en svindlers evne til at bestå strengere verifikationstjek. Hypotetisk set ved at drage fordel af en stjålet identitet, kunne generativ AI bruges til at fremsætte et svigagtigt forsikringskrav og derefter bruges til at argumentere for sagen.
Udnyttelse af større katastrofer. Svindlere har altid forsøgt at drage fordel af naturkatastrofer, såsom de seneste jordskælv i Tyrkiet og Syrien, men disse angreb er blevet mere sofistikerede med brugen af AI-billedgenerering. Svindlere bruger generativ kunstig intelligens til at skabe falske billeder af situationer i den virkelige verden som baggrund for falske velgørende sider. Det seneste jordskælv hurtigt
tiltrukket svindleres opmærksomhed, som begyndte at oprette falske donationssider på TikTok og andre kanaler. Mange af disse sider brugte AI til at generere falske billeder og producere overbevisende beskeder for at lokke penge ud af deres ofre.
Generativ AI er et meget kraftfuldt værktøj for svindlere, og det er klart, at alle undersøgelser af svindelsag, kreditansøgninger og forsikringskrav nu vil kræve en meget højere grad af kontrol. Mange firmaer, herunder OpenAI, lancerer
værktøjs at detektere AI-genereret indhold, som kunne være medvirkende til at opdage generativ AI's brug i svindel.
Hurtig uddannelse om den uhyggelige anvendelse af generativ kunstig intelligens og advarsel om truslerne er nu afgørende for at beskytte betalingsindustrien mod denne kraftfulde nye teknologi.
- SEO Powered Content & PR Distribution. Bliv forstærket i dag.
- Platoblokkæde. Web3 Metaverse Intelligence. Viden forstærket. Adgang her.
- Kilde: https://www.finextra.com/blogposting/23862/darktrace-is-correct—six-ways-generative-ai-enabled-fraud-threatens-the-payments-industry?utm_medium=rssfinextra&utm_source=finextrablogs
- :er
- $OP
- a
- evne
- Om
- adgang
- Konto
- Konti
- nøjagtighed
- præcist
- Lov
- Tilføjer
- Fordel
- mod
- AI
- AI-drevne
- Alle
- allerede
- altid
- ,
- besvare
- vises
- applikationer
- Indløs
- tilgang
- ER
- argumentere
- kunstig
- kunstig intelligens
- Kunstig intelligens (AI)
- AS
- At
- angribe
- Angreb
- Forsøg på
- opmærksomhed
- Automatisering
- baggrunde
- Bank
- bankkonto
- Bank
- Banker
- bbc
- BE
- bliver
- før
- begyndte
- være
- Bedre
- fremme
- virksomheder
- .
- købe
- by
- CAN
- Karriere
- tilfælde
- Kontanter
- Årsag
- odds
- lave om
- skiftende
- kanaler
- ChatGPT
- Kontrol
- krav
- fordringer
- klar
- klik
- Luk
- nøje
- CO
- kolleger
- Indsamling
- samling
- kommerciel
- Kommunikation
- konstant
- kontakter
- indhold
- sammenhæng
- Samtale
- kunne
- dæksel
- skabe
- Oprettelse af
- kredit
- CVS
- mørk
- Mørk Web
- data
- indsætte
- detaljer
- udvikle
- enhed
- katastrofer
- opdaget
- dokumentation
- donation
- downloads
- dramatisk
- hver
- jordskælv
- lettere
- Uddannelse
- Effektiv
- effektivitet
- emails
- Medarbejder
- muliggøre
- aktiveret
- muliggør
- Engineering
- styrke
- nok
- Miljø
- især
- væsentlig
- Endog
- eksempel
- eksperter
- ekstremt
- falsk
- familie
- få
- finansielle
- Finansielle institutioner
- Finextra
- firmaer
- Til
- formularer
- bedrageri
- svindlere
- svigagtig
- Gratis
- venner
- fra
- yderligere
- fremtiden
- Gevinst
- gevinster
- generere
- genereret
- generation
- generative
- Generativ AI
- Giv
- Grammatik
- bevilget
- Have
- hjælpe
- hjælpe
- link.
- højere
- stærkt
- historie
- Hvordan
- HTTPS
- kæmpe
- Mennesker
- i
- ID
- identiteter
- Identity
- billede
- billedgenerering
- billeder
- KIMOs Succeshistorier
- imponerende
- Forbedre
- forbedrer
- forbedring
- in
- Herunder
- stigende
- enkeltpersoner
- industrien
- oplysninger
- installation
- institutioner
- medvirkende
- forsikring
- Intelligens
- undersøgelse
- Undersøgelser
- Efterforskere
- involverede
- IT
- selv
- Job
- jpg
- Kendskab til
- Sprog
- stor
- lancere
- lanceret
- lancering
- LÆR
- læring
- Niveau
- biblioteker
- ligesom
- Sandsynlig
- links
- Lives
- leder
- maskine
- lavet
- større
- lave
- maerker
- malware
- lykkedes
- mange
- mange mennesker
- Medier
- messaging
- måske
- modeller
- penge
- Måned
- mere
- mest
- flere
- Natural
- Ny
- of
- tilbyde
- tilbyde
- Tilbud
- officiel
- Officielt
- on
- online
- netbank
- OpenAI
- Udtalelser
- Opportunity
- modsætning
- Andet
- Nulstilling/ændring af adgangskoder
- Betal
- betaling
- betalinger
- betalingsindustri
- Mennesker
- folks
- person,
- personale
- Personlig data
- Phish
- Phishing
- plato
- Platon Data Intelligence
- PlatoData
- udgør
- positiv
- mulig
- Indlæg
- potentiale
- strøm
- vigtigste
- Problem
- behandle
- producere
- produceret
- beskyttelse
- formål
- Skub ud
- Spørgsmål
- hurtigere
- hurtigt
- Sats
- ægte
- virkelige verden
- realistisk
- nylige
- for nylig
- kræver
- Ligner
- Svar
- salg
- skalerbar
- svindel
- scenarie
- Secret
- sektor
- se
- følsom
- indstilling
- delt
- deling
- bør
- lignende
- situationer
- SIX
- So
- Social
- Samfundsteknologi
- sociale medier
- nogle
- sofistikeret
- Lyd
- standard
- Starter
- stjålet
- stil
- efterfølgende
- succes
- Succesfuld
- sådan
- syntetisk
- syntetiske data
- Syrien
- Tag
- tager
- mål
- teknikker
- Teknologier
- at
- deres
- Them
- selv
- Disse
- ting
- truer
- trusler
- TikTok
- tid
- til
- i dag
- værktøj
- værktøjer
- Tog
- uddannet
- Kurser
- Tendenser
- betroet
- Tyrkiet
- typer
- typisk
- typisk
- forstå
- enestående
- brug
- Verifikation
- ofre
- Sårbar
- advarsel
- Vej..
- måder
- web
- websites
- som
- mens
- WHO
- vilje
- med
- ville
- zephyrnet