Cyber Resilience In The Era Of Artificial Intelligence

Republicado por Platão

seguidores: 0

Conteúdo de Parceiro Pode haver um pouco de exuberância irracional em alguns setores de TI no que diz respeito ao potencial da GenAI de inclinar o campo de jogo da defesa cibernética a seu favor.

De acordo com GDPI da Dell Technologies 2024 Na pesquisa, 52% dos entrevistados acreditam que a GenAI inicialmente dará uma vantagem às organizações que se defendem contra ameaças cibernéticas, enquanto apenas 27% acham que beneficiará os criminosos cibernéticos.

No entanto, recomenda-se cautela. Especialistas, incluindo o CTO da Dell Technologies, John Roese, sugerem que os criminosos cibernéticos podem aproveitar a GenAI antes das empresas, proporcionando-lhes uma vantagem decisiva na corrida armamentista cibernética em curso. Instâncias de GenAI resolvendo CAPTCHA destacam seu uso potencial para atividades maliciosas, criando novas oportunidades para malfeitores. Além disso, os rápidos recursos de automação do GenAI permitem incorporar rapidamente ferramentas potentes, como ransomware como serviço e técnicas avançadas de hacking, aumentando a capacidade dos agentes de ameaças em tempo real.

As capacidades da GenAI estendem-se à criação de deepfakes convincentes, apresentando uma nova fronteira no combate digital. Os Estados-nação estão a incorporar estas tácticas nas suas estratégias de guerra cibernética, aproveitando conteúdos enganosos para espalhar propaganda, influenciar a opinião pública e potencialmente incitar à violência. O risco de os ataques serem utilizados para negociações de alta frequência, manipulação de mercado ou violação da privacidade pessoal aumenta a complexidade. À medida que os limites entre a realidade e o conteúdo gerado pela IA se confundem, a confiança nos conteúdos, comunicações e sistemas digitais pode diminuir.

Segmentação GenAI

Embora os sistemas GenAI ofereçam capacidades avançadas, eles também se tornam alvos de ataques adversários. A proteção desses ambientes requer dispositivos confiáveis, infraestrutura e fortes medidas de controle de acesso. Proteger as grandes quantidades de dados dos quais os sistemas GenAI dependem para a aprendizagem é crucial, necessitando de classificação de dados, criptografia, armazenamento seguro e técnicas de transmissão.

É também importante notar que os sistemas GenAI podem ser influenciados pelos preconceitos nos seus dados de formação, o que pode levar a decisões injustas ou discriminatórias. É necessário implementar auditorias regulares, técnicas de mitigação de preconceitos e diretrizes éticas para aliviar esses preconceitos.

Espera-se também que as cargas de trabalho GenAI gerem grandes quantidades de novos dados. 88 por cento dos entrevistados na pesquisa GDPI afirmaram que certos conjuntos de dados gerados pela GenAI serão especialmente valiosos, exigindo proteção e segurança de dados rigorosas. Além disso, com a expectativa de que as cargas de trabalho GenAI sejam distribuídas entre nuvens locais e múltiplas nuvens públicas, essa proteção precisará abranger ambientes híbridos e multicloud para garantir que os dados sejam devidamente protegidos onde quer que residam.

Aproveitando a GenAI

Apesar destes desafios, a GenAI pode ser um aliado indispensável na nossa luta contra os criminosos cibernéticos. Com mais da metade das organizações na pesquisa do GDPI confirmando que sofreram um ataque cibernético nos últimos 12 meses, a GenAI pode ajudar a virar a maré, fornecendo ferramentas preditivas para antecipar ataques, ajudar a identificar e corrigir vulnerabilidades e melhorar a detecção e resposta a ameaças, analisando grandes quantidades de dados rapidamente para identificar padrões e comportamentos anômalos. Além disso, pode ajudar com um treinamento mais prescritivo e personalizado para usuários finais, ajudando a corrigir comportamentos não intencionais, como clicar em páginas http inseguras ou abrir e-mails suspeitos.

A GenAI também pode ajudar na recuperação de ataques cibernéticos, em grande escala, identificando sistemas e dados afetados e automatizando o processo de restauração de backups. No geral, a GenAI ajudará as empresas não só a aumentar a eficiência, mas também a aumentar a lacuna de competências de segurança, libertando o pessoal de segurança para se concentrar em tarefas mais estratégicas e complexas.

Uma espada de dois gumes

GenAI representa uma faca de dois gumes para a segurança cibernética. Por um lado, traz novos desafios que nos obrigam a repensar e evoluir as nossas estratégias de segurança cibernética e a proteger os nossos grandes modelos linguísticos (LLM). Por outro lado, promete melhor detecção e resposta a ameaças, capacidades preditivas e eficiência operacional. A chave reside na utilização dos seus benefícios e, ao mesmo tempo, na abordagem proativa dos riscos, através de medidas de segurança robustas, monitorização contínua, atualizações e correções regulares e uma abordagem em constante evolução à privacidade e à ética dos dados.

Estamos nos estágios iniciais da jornada GenAI, com apenas 20% das organizações pesquisadas no Pesquisa Dell Generative AI Pulse tendo estabelecido soluções GenAI. As preocupações que dificultam a adoção incluem receios de comprometer dados e propriedade intelectual, levando à hesitação na implementação. As principais barreiras envolvem segurança, complexidade técnica e governança de dados. A superação desses desafios exige que as organizações acessem conjuntos de habilidades essenciais em proteção de dados, segurança cibernética e implantação de GenAI, cruciais para minimizar riscos e garantir um rápido retorno do tempo.

Avançando

Ao navegar neste cenário complexo, a Dell Technologies se destaca como um provedor abrangente de soluções e serviços, oferecendo soluções para plataformas GenAI e ofertas de segurança cibernética. A Dell está empenhada em ajudar as organizações a navegar com confiança pelas complexidades do avanço da sua postura de segurança cibernética. Aproveitando três áreas principais; reduzindo a superfície de ataque, detecção e resposta e recuperação, a Dell Technologies capacita as empresas a avançarem com tecnologias inovadoras, acelerando suas aspirações digitais. À medida que a era digital avança, a Dell Technologies e o seu ecossistema de parceiros estão empenhados em ajudar os nossos clientes a preencher a lacuna entre tecnologias inovadoras, garantindo ao mesmo tempo a resiliência e a sustentabilidade dos seus ambientes nos próximos anos.

Artigo contribuído pela Dell Technologies.