Resiliencia cibernética en la era de la inteligencia artificial

Reeditado por Platón

seguidores: 0

Contenido de socios Puede haber un poco de exuberancia irracional en algunos rincones de TI con respecto al potencial de GenAI para inclinar el campo de juego de la ciberdefensa a su favor.

Según la PIBI de Dell Technologies para 2024 En la encuesta, el 52 por ciento de los encuestados cree que GenAI inicialmente dará una ventaja a las organizaciones que se defienden contra las amenazas cibernéticas, mientras que sólo el 27 por ciento piensa que beneficiará a los ciberdelincuentes.

Sin embargo, se recomienda precaución. Los expertos, incluido el director tecnológico de Dell Technologies, John Roese, sugieren que los ciberdelincuentes podrían aprovechar la GenAI antes que las empresas, proporcionándoles una ventaja decisiva en la actual carrera armamentista cibernética. Los casos en los que GenAI resuelve CAPTCHA resaltan su uso potencial para actividades maliciosas, creando nuevas oportunidades para los malos actores. Además, las rápidas capacidades de automatización de GenAI le permiten incorporar rápidamente herramientas potentes como ransomware como servicio y técnicas avanzadas de piratería, aumentando la destreza de los actores de amenazas en tiempo real.

Las capacidades de GenAI se extienden a la creación de deepfakes convincentes, presentando una nueva frontera en el combate digital. Los Estados-nación están incorporando estas tácticas en sus estrategias de guerra cibernética, aprovechando contenido engañoso para difundir propaganda, influir en la opinión pública y potencialmente incitar a la violencia. El riesgo de que los ataques se utilicen para operaciones comerciales de alta frecuencia, manipulación del mercado o infracción de la privacidad personal aumenta la complejidad. A medida que se difuminan las líneas entre la realidad y el contenido generado por IA, la confianza en el contenido, las comunicaciones y los sistemas digitales puede erosionarse.

Orientación GenAI

Si bien los sistemas GenAI ofrecen capacidades avanzadas, también se convierten en objetivos de ataques adversarios. Proteger estos entornos requiere dispositivos confiables, infraestructura y sólidas medidas de control de acceso. Proteger las grandes cantidades de datos de los que dependen los sistemas GenAI para el aprendizaje es crucial, lo que requiere clasificación de datos, cifrado, almacenamiento seguro y técnicas de transmisión.

También es importante señalar que los sistemas GenAI pueden verse influenciados por los sesgos en sus datos de entrenamiento, lo que podría conducir a decisiones injustas o discriminatorias. Es necesario implementar auditorías periódicas, técnicas de mitigación de sesgos y pautas éticas para aliviar estos sesgos.

También se espera que las cargas de trabajo de GenAI generen grandes cantidades de datos nuevos. El 88 por ciento de los que respondieron a la encuesta GDPI afirmaron que ciertos conjuntos de datos generados por GenAI serán especialmente valiosos y requerirán una estricta protección y seguridad de los datos. Además, dado que se espera que las cargas de trabajo de GenAI se distribuyan en las instalaciones y en múltiples nubes públicas, esta protección deberá abarcar entornos híbridos y multinube para garantizar que los datos estén protegidos adecuadamente dondequiera que residan.

Aprovechando la GenAI

A pesar de estos desafíos, GenAI puede ser un aliado indispensable en nuestra lucha contra los ciberdelincuentes. Dado que más de la mitad de las organizaciones en la encuesta GDPI confirman que han experimentado un ciberataque en los últimos 12 meses, GenAI puede ayudar a cambiar el rumbo al proporcionar herramientas predictivas para anticipar ataques, ayudar a identificar y parchear vulnerabilidades y mejorar la detección y respuesta a amenazas mediante el análisis. grandes cantidades de datos rápidamente para identificar patrones y comportamientos anómalos. Además, puede ayudar con una capacitación más prescriptiva y personalizada para los usuarios finales para ayudar a corregir comportamientos no deseados, como hacer clic en páginas http inseguras o abrir correos electrónicos sospechosos.

GenAI también puede ayudar a recuperarse de ataques cibernéticos, a escala, identificando los sistemas y datos afectados y automatizando el proceso de restauración a partir de copias de seguridad. En general, GenAI ayudará a las empresas no solo a aumentar la eficiencia, sino también a aumentar la brecha de habilidades de seguridad al liberar al personal de seguridad para que se centre en tareas más estratégicas y complejas.

Una espada de doble filo

GenAI representa un arma de doble filo para la ciberseguridad. Por un lado, trae nuevos desafíos que nos exigen repensar y evolucionar nuestras estrategias de ciberseguridad y proteger nuestros grandes modelos lingüísticos (LLM). Por otro lado, promete una mejor detección y respuesta a amenazas, capacidades predictivas y eficiencia operativa. La clave radica en utilizar sus beneficios y al mismo tiempo abordar los riesgos de manera proactiva, a través de sólidas medidas de seguridad, monitoreo continuo, actualizaciones y parches periódicos, y un enfoque en constante evolución hacia la privacidad y la ética de los datos.

Estamos en las etapas iniciales del viaje GenAI, con solo el 20 por ciento de las organizaciones encuestadas en el Encuesta Dell Generative AI Pulse haber establecido soluciones GenAI. Las preocupaciones que obstaculizan la adopción incluyen el temor de comprometer los datos y la propiedad intelectual, lo que genera dudas en la implementación. Las principales barreras involucran la seguridad, la complejidad técnica y la gobernanza de datos. Superar estos desafíos requiere que las organizaciones accedan a conjuntos de habilidades esenciales en protección de datos, ciberseguridad e implementación de GenAI, cruciales para minimizar los riesgos y garantizar una rápida obtención de valor.

Avanzando

Al navegar por este complejo panorama, Dell Technologies se destaca como un proveedor integral de soluciones y servicios, que ofrece soluciones para plataformas GenAI y ofertas de ciberseguridad. Dell se compromete a ayudar a las organizaciones a navegar con confianza las complejidades de mejorar su postura de ciberseguridad. Aprovechando tres áreas clave; reduciendo la superficie de ataque, detección y respuesta y recuperación, Dell Technologies permite a las empresas avanzar con tecnologías innovadoras, acelerando sus aspiraciones digitales. A medida que avanza la era digital, Dell Technologies y su ecosistema de socios se comprometen a ayudar a nuestros clientes a cerrar la brecha entre tecnologías innovadoras y, al mismo tiempo, garantizar la resiliencia y la sostenibilidad de sus entornos en los años venideros.

Artículo aportado por Dell Technologies.