L'intelligence artificielle générative (IA) a déjà eu un impact considérable sur nos vies, de nombreux experts partageant leurs opinions sur l'évolution du potentiel commercial de l'industrie technologique et sur la manière dont elle pourrait être utilisée à l'avenir. J'ai récemment partagé mon
pensées sur la façon dont la technologie changerait l'industrie des paiements, mais s'il existe de nombreuses applications positives pour l'IA générative dans notre secteur ; il y a, malheureusement, aussi de nombreuses personnes qui cherchent à utiliser la technologie à des fins frauduleuses. Voici quelques façons dont les fraudeurs utilisent déjà l'IA générative aujourd'hui et dont les collègues du secteur des paiements devraient être conscients :
Menaces de phishing plus sophistiquées. Nous assistons déjà au lancement d'attaques plus sophistiquées. En effet, comme l'a récemment découvert
Cyble, les fraudeurs créent même de faux sites Web proposant des téléchargements gratuits de l'outil ChatGPT. Ce type d'approche hyper réactive est typique des fraudeurs, qui profitent souvent des nouvelles tendances pour attirer l'attention des gens. Dans ce cas, les fraudeurs proposent de faux téléchargements ChatGPT comme couverture pour installer des logiciels malveillants sur l'appareil ou la machine de leur victime, ce qui leur permettra d'accéder à des données personnelles, des mots de passe ou même de l'argent.
Cet exemple n'utilise peut-être pas l'IA générative elle-même, mais la technologie renforce également l'efficacité de ces types d'escroqueries en améliorant la capacité d'un fraudeur à composer avec beaucoup plus de précision de faux e-mails, sites Web et autres formes de communication authentiques. Les fraudeurs peuvent générer des e-mails de bonne foi en utilisant des modèles d'IA génératifs qui ont été formés à l'aide d'informations produites officiellement pour mieux imiter l'approche, le langage, la grammaire et même la façon dont les liens sont gérés dans ces e-mails, afin de rendre leurs tentatives de phishing plus légitimes. Plus le faux est convaincant, plus le taux de réussite est élevé. Si un fraudeur accède à l'e-mail de quelqu'un, il peut alors hameçonner des informations, déployer des logiciels malveillants ou causer d'autres dommages en entraînant ses outils sur de vrais e-mails, de sorte que toute communication future ressemble plus à la réalité.
Collecte de données sensibles. Les fraudeurs utilisent déjà d'énormes bibliothèques d'outils pour collecter des informations sensibles, mais ils utilisent désormais des escroqueries génératives alimentées par l'IA pour améliorer leur capacité à accéder aux comptes de réseaux sociaux, puis à s'en emparer. La prise de contrôle d'un compte permet à un fraudeur de cibler les contacts d'une victime dans un environnement de confiance, où ils peuvent avoir la possibilité de demander de l'argent aux amis proches ou à la famille d'une victime dans le cadre d'une attaque synthétique de paiement push autorisé. Ils peuvent également essayer d'utiliser des techniques d'ingénierie sociale pour accéder à d'autres informations sensibles, en faisant allusion à d'éventuels mots de passe et à des questions à réponse secrète utilisées pour les connexions bancaires en ligne, par exemple. Dans chaque scénario, l'IA générative apprend constamment le style de communication de la victime, ce qui rend toute attaque future encore plus efficace et plus difficile à détecter.
Les fraudeurs utilisent également l'IA générative pour générer et publier des candidatures extrêmement convaincantes sur les sites d'emploi officiels. Les CV contiennent des informations hautement personnelles et les escroqueries de ce type sont généralement utilisées pour cibler les personnes vulnérables, en particulier celles qui ont été licenciées ou qui commencent tout juste dans leur carrière, et sont plus susceptibles de fournir des informations personnelles aux recruteurs. Après avoir réussi à « embaucher » un employé, les fraudeurs pourraient même demander l'identité et les coordonnées bancaires de leur victime, sachant qu'il faudrait au moins un mois avant le jour de paie - suffisamment de temps pour cloner l'identité et l'utiliser.
Génération d'identité synthétique. L'usurpation d'identité synthétique est déjà un problème majeur pour de nombreuses banques et institutions financières, mais les fraudeurs utilisent l'IA générative et des données synthétiques pour les aider à contourner les contrôles de vérification. Les fraudeurs ont désormais la possibilité de générer de faux documents d'identité impressionnants, ce qui est suffisamment réaliste pour passer bon nombre des contrôles standard impliqués dans la création d'un compte bancaire, par exemple. Une fois qu'un faux compte bancaire a été accordé, les fraudeurs peuvent demander un crédit, ou profiter d'offres d'achat immédiat, de paiement ultérieur, ou pire.
L'IA générative contribue à rendre ce type de fraude plus facile, plus rapide et plus évolutif. Les fraudeurs peuvent lancer plusieurs attaques frauduleuses d'un simple clic. Automatiser le processus de production de fausses identités et personas, et augmenter considérablement leurs chances de succès. Chaque attaque s'ajoute au vaste corpus de données réelles des fraudeurs, ce qui améliore la capacité de leur modèle à s'entraîner et augmente la précision de toute attaque ultérieure. Certains fraudeurs utilisent même des outils d'IA générative pour générer des données d'identité synthétiques à vendre sur le dark web, au lieu de les utiliser eux-mêmes.
Réponses détaillées aux questions d'enquête sur les fraudes. La capacité de l'IA conversationnelle à répondre aux questions de la même manière que la plupart des humains pose un problème unique pour les enquêteurs de fraude, et l'IA générative améliore la capacité des fraudeurs à développer des modèles qui agissent et sonnent comme une personne réelle. Ces modèles peuvent également apprendre et comprendre rapidement le contexte et l'historique de toute conversation, améliorant ainsi la capacité d'un fraudeur à passer des contrôles de vérification plus stricts, par exemple. Hypothétiquement, en profitant d'une identité volée, l'IA générative pourrait être utilisée pour faire une réclamation d'assurance frauduleuse, puis être utilisée pour plaider l'affaire.
Exploitation des catastrophes majeures. Les fraudeurs ont toujours essayé de profiter des catastrophes naturelles, comme les récents tremblements de terre en Turquie et en Syrie, mais ces attaques sont devenues plus sophistiquées avec l'utilisation de la génération d'images par IA. Les fraudeurs utilisent l'IA générative pour créer de fausses images de situations réelles comme arrière-plan pour de fausses pages caritatives. Le récent tremblement de terre rapidement
attiré l'attention des fraudeurs, qui a commencé à créer de fausses pages de dons sur TikTok et d'autres canaux. Beaucoup de ces pages ont utilisé l'IA pour générer de fausses images et produire des messages convaincants pour soutirer de l'argent à leurs victimes.
L'IA générative est un outil très puissant pour les fraudeurs et il est clair que toutes les enquêtes sur les cas de fraude, les demandes de crédit et les réclamations d'assurance nécessiteront désormais un niveau de contrôle beaucoup plus élevé. De nombreuses entreprises, dont OpenAI, lancent
outils pour détecter le contenu généré par l'IA qui pourrait contribuer à détecter l'utilisation de l'IA générative dans la fraude.
Une éducation rapide sur les utilisations néfastes de l'IA générative et la mise en garde des entreprises et des particuliers contre les menaces sont désormais essentielles pour protéger l'industrie des paiements contre cette puissante nouvelle technologie.
- Contenu propulsé par le référencement et distribution de relations publiques. Soyez amplifié aujourd'hui.
- Platoblockchain. Intelligence métaverse Web3. Connaissance Amplifiée. Accéder ici.
- La source: https://www.finextra.com/blogposting/23862/darktrace-is-correct—six-ways-generative-ai-enabled-fraud-threatens-the-payments-industry?utm_medium=rssfinextra&utm_source=finextrablogs
- :est
- $UP
- a
- capacité
- A Propos
- accès
- Compte
- hybrides
- précision
- avec précision
- Agis
- Ajoute
- Avantage
- à opposer à
- AI
- Alimenté par l'IA
- Tous
- déjà
- toujours
- et les
- répondre
- apparaître
- applications
- Appliquer
- une approche
- SONT
- argumenter
- artificiel
- intelligence artificielle
- Intelligence artificielle (AI)
- AS
- At
- attaquer
- Attaques
- Tentatives
- précaution
- automatiser
- milieux
- Banque
- compte bancaire
- Services bancaires
- Banks
- bbc
- BE
- devenez
- before
- a commencé
- va
- Améliorée
- stimuler
- entreprises
- bouton (dans la fenêtre de contrôle qui apparaît maintenant)
- acheter
- by
- CAN
- Carrière
- maisons
- Argent liquide
- Causes
- chances
- Change
- en changeant
- Voies
- ChatGPT
- Contrôles
- réclamer
- prétentions
- clair
- cliquez
- Fermer
- étroitement
- CO
- collègues
- Collecte
- collection
- commercial
- Communication
- constamment
- Contacts
- contenu
- contexte
- Conversation
- pourriez
- couverture
- engendrent
- La création
- crédit
- CVS
- Foncé
- Places de marché
- données
- déployer
- détails
- développer
- dispositif
- catastrophes
- découvert
- Documentation
- don
- téléchargements
- Dramatiquement
- chacun
- Tremblement de terre
- plus facilement
- Éducation
- Efficace
- efficacité
- emails
- Employés
- permettre
- activé
- permet
- ENGINEERING
- améliorer
- assez
- Environment
- notamment
- essential
- Pourtant, la
- exemple
- de santé
- extrêmement
- faux
- famille
- few
- la traduction de documents financiers
- Institutions financières
- Finextra
- entreprises
- Pour
- document
- fraude
- fraudeurs
- frauduleux
- gratuitement ici
- amis
- De
- plus
- avenir
- Gain
- Gains
- générer
- généré
- génération
- génératif
- IA générative
- Donner
- Grammaire
- accordée
- Vous avez
- vous aider
- aider
- ici
- augmentation
- très
- Histoire
- Comment
- HTTPS
- majeur
- Les êtres humains
- i
- ID
- identités
- Identite
- image
- génération d'image
- satellite
- Impact
- impressionnant
- améliorer
- améliore
- l'amélioration de
- in
- Y compris
- croissant
- individus
- industrie
- d'information
- installer
- les établissements privés
- instrumental
- Assurance
- Intelligence
- enquête
- Enquêtes
- Les enquêteurs ont
- impliqué
- IT
- lui-même
- Emploi
- jpg
- connaissance
- langue
- gros
- lancer
- lancé
- lancement
- APPRENTISSAGE
- apprentissage
- Niveau
- bibliothèques
- comme
- Probable
- Gauche
- Vit
- recherchez-
- click
- LES PLANTES
- majeur
- a prendre une
- FAIT DU
- malware
- gérés
- de nombreuses
- Beaucoup de gens
- Médias
- messagerie
- pourrait
- numériques jumeaux (digital twin models)
- de l'argent
- Mois
- PLUS
- (en fait, presque toutes)
- plusieurs
- Nature
- Nouveauté
- of
- code
- offrant
- Offres Speciales
- officiel
- Officiellement
- on
- en ligne
- services bancaires en ligne
- OpenAI
- Avis
- Opportunités
- opposé
- Autre
- mots de passe
- Payer
- Paiement
- Paiements
- industrie des paiements
- Personnes
- peopleâ € ™ s
- personne
- personnel
- données à caractère personnel
- hameçonnage
- phishing
- Platon
- Intelligence des données Platon
- PlatonDonnées
- pose
- positif
- possible
- Post
- défaillances
- alimenté
- solide
- Problème
- processus
- produire
- Produit
- L'utilisation de sélénite dans un espace est un excellent moyen de neutraliser l'énergie instable ou négative.
- des fins
- Push
- fréquemment posées
- plus rapidement
- vite.
- Tarif
- réal
- monde réel
- réaliste
- récent
- récemment
- exigent
- Ressemble
- Réagir
- SOLDE
- évolutive
- les escroqueries
- scénario
- secret
- secteur
- voir
- sensible
- mise
- commun
- partage
- devrait
- similaires
- situations
- SIX
- So
- Réseaux sociaux
- Ingénierie sociale
- réseaux sociaux
- quelques
- sophistiqué
- Son
- Standard
- Commencez
- volé
- Catégorie
- ultérieur
- succès
- Avec succès
- tel
- haute
- données synthétiques
- Syrie
- Prenez
- prise
- Target
- techniques
- Technologie
- qui
- Le
- leur
- Les
- se
- Ces
- chose
- menace
- des menaces
- TikTok
- fiable
- à
- aujourd'hui
- outil
- les outils
- Train
- qualifié
- Formation
- Trends
- confiance
- Turquie
- types
- débutante
- typiquement
- comprendre
- expérience unique et authentique
- utilisé
- Vérification
- victimes
- Vulnérable
- avertissement
- Façon..
- façons
- web
- sites Internet
- qui
- tout en
- WHO
- sera
- comprenant
- pourra
- zéphyrnet