La cyber-résilience à l'ère de l'intelligence artificielle

Republié par Platon

Suiveurs: 0

Contenu partenaire Il peut y avoir une certaine exubérance irrationnelle dans certains départements informatiques en ce qui concerne la possibilité pour GenAI de faire pencher la balance en leur faveur.

Selon le Dell Technologies 2024 PIBI Selon l'enquête, 52 % des personnes interrogées pensent que GenAI donnera dans un premier temps un avantage aux organisations qui se défendent contre les cybermenaces, tandis que seulement 27 % pensent qu'elle profitera aux cybercriminels.

Cependant, la prudence est de mise. Des experts, dont John Roese, directeur technique de Dell Technologies, suggèrent que les cybercriminels pourraient exploiter GenAI plus tôt que les entreprises, leur offrant ainsi un avantage décisif dans la course aux cyber-armes en cours. Les exemples de résolution de CAPTCHA par GenAI mettent en évidence son utilisation potentielle à des fins malveillantes, créant ainsi de nouvelles opportunités pour les acteurs malveillants. De plus, les capacités d'automatisation rapides de GenAI lui permettent d'intégrer rapidement des outils puissants tels que le ransomware-as-a-service et des techniques de piratage avancées, augmentant ainsi les prouesses des acteurs malveillants en temps réel.

Les capacités de GenAI s’étendent à la création de deepfakes convaincants, présentant une nouvelle frontière dans le combat numérique. Les États-nations intègrent ces tactiques dans leurs stratégies de cyberguerre, exploitant des contenus trompeurs pour diffuser de la propagande, influencer l’opinion publique et potentiellement inciter à la violence. Le risque que les attaques soient utilisées à des fins de trading à haute fréquence, de manipulation de marché ou de violation de la vie privée ajoute à la complexité. À mesure que les frontières s’estompent entre la réalité et le contenu généré par l’IA, la confiance dans le contenu, les communications et les systèmes numériques risque de s’éroder.

Ciblage GenAI

Si les systèmes GenAI offrent des capacités avancées, ils deviennent également la cible d’attaques contradictoires. La sécurisation de ces environnements nécessite des appareils, une infrastructure et des mesures de contrôle d'accès solides. La protection des grandes quantités de données sur lesquelles les systèmes GenAI s'appuient pour l'apprentissage est cruciale, ce qui nécessite des techniques de classification, de cryptage, de stockage sécurisé et de transmission des données.

Il est également important de noter que les systèmes GenAI peuvent être influencés par les biais de leurs données de formation, ce qui pourrait conduire à des décisions injustes ou discriminatoires. La mise en place d’audits réguliers, de techniques d’atténuation des préjugés et de directives éthiques est nécessaire pour atténuer ces préjugés.

Les charges de travail GenAI devraient également générer de grandes quantités de nouvelles données. 88 % des personnes interrogées dans le cadre de l'enquête GDPI ont déclaré que certains ensembles de données générés par GenAI seront particulièrement précieux et nécessiteront une protection et une sécurité rigoureuses des données. De plus, étant donné que les charges de travail GenAI devraient être réparties sur site et sur plusieurs cloud publics, cette protection devra s'étendre aux environnements hybrides et multicloud pour garantir que les données sont correctement protégées où qu'elles se trouvent.

Exploiter GenAI

Malgré ces défis, GenAI peut être un allié indispensable dans notre lutte contre les cybercriminels. Alors que plus de la moitié des organisations participant à l'enquête GDPI confirment avoir subi une cyberattaque au cours des 12 derniers mois, GenAI peut aider à inverser la tendance en fournissant des outils prédictifs pour anticiper les attaques, aider à identifier et corriger les vulnérabilités, et améliorer la détection et la réponse aux menaces en analysant de grandes quantités de données pour identifier rapidement des modèles et des comportements anormaux. En outre, cela peut contribuer à une formation plus prescriptive et personnalisée pour les utilisateurs finaux afin de les aider à corriger des comportements involontaires, comme cliquer sur des pages http non sécurisées ou ouvrir des e-mails suspects.

GenAI peut également aider à se remettre des cyberattaques, à grande échelle, en identifiant les systèmes et les données affectés et en automatisant le processus de restauration à partir des sauvegardes. Dans l’ensemble, GenAI aidera les entreprises non seulement à accroître leur efficacité, mais contribuera également à combler le déficit de compétences en matière de sécurité en permettant au personnel de sécurité de se concentrer sur des tâches plus stratégiques et complexes.

Une épée à double tranchant

GenAI représente une arme à double tranchant pour la cybersécurité. D'une part, cela entraîne de nouveaux défis qui nous obligent à repenser et à faire évoluer nos stratégies de cybersécurité et à protéger nos grands modèles de langage (LLM). D’un autre côté, il promet une détection et une réponse améliorées aux menaces, des capacités prédictives et une efficacité opérationnelle améliorées. La clé réside dans l’utilisation de ses avantages tout en abordant les risques de manière proactive, grâce à des mesures de sécurité robustes, une surveillance continue, des mises à jour et des correctifs réguliers, ainsi qu’une approche en constante évolution de la confidentialité des données et de l’éthique.

Nous en sommes aux premières étapes du parcours GenAI, avec seulement 20 % des organisations interrogées dans le Enquête Dell Generative AI Pulse ayant mis en place des solutions GenAI. Les préoccupations qui entravent l'adoption incluent la crainte de compromettre les données et la propriété intellectuelle, ce qui conduit à une hésitation dans la mise en œuvre. Les principaux obstacles concernent la sécurité, la complexité technique et la gouvernance des données. Pour surmonter ces défis, les organisations doivent accéder à des compétences essentielles en matière de protection des données, de cybersécurité et de déploiement de GenAI, essentielles pour minimiser les risques et garantir un délai de rentabilisation rapide.

Aller de l'avant

En naviguant dans ce paysage complexe, Dell Technologies se présente comme un fournisseur complet de solutions et de services, proposant des solutions pour les plates-formes GenAI et des offres de cybersécurité. Dell s'engage à aider les organisations à gérer en toute confiance les complexités liées à l'amélioration de leur posture de cybersécurité. Profiter de trois domaines clés ; réduisant la surface d'attaque, détection et réponse et la reprise, Dell Technologies permet aux entreprises d'aller de l'avant avec des technologies innovantes, accélérant ainsi leurs aspirations numériques. À l'heure du numérique, Dell Technologies et son écosystème de partenaires s'engagent à aider nos clients à combler le fossé entre les technologies innovantes tout en garantissant la résilience et la durabilité de leurs environnements dans les années à venir.

Article rédigé par Dell Technologies.