IA y seguridad: es complicado pero no tiene por qué serlo | Noticias e informes de IoT Now

IA y seguridad: es complicado pero no tiene por qué serlo | Noticias e informes de IoT Now

Marca de tiempo: 19 de enero de 2024 5:48 a. M.
Nodo de origen: 3071147

La IA está ganando popularidad y esta tendencia continuará. Esto es apoyado por Gartner que afirma que aproximadamente el 80% de las empresas habrán utilizado inteligencia artificial generativa (GenAI) interfaces o modelos de programación de aplicaciones (API) para 2026. Sin embargo, IA es un término amplio y ubicuo y, en muchos casos, cubre una variedad de tecnologías. Sin embargo, la IA presenta avances en la capacidad de procesar la lógica de manera diferente, lo que está atrayendo la atención tanto de las empresas como de los consumidores que están experimentando con diversas formas de IA en la actualidad. Al mismo tiempo, esta tecnología está atrayendo una atención similar por parte de actores de amenazas que se están dando cuenta de que podría ser una debilidad en la seguridad de una empresa y, al mismo tiempo, podría ser una herramienta que ayude a las empresas a identificar estas debilidades y abordarlas.

Desafíos de seguridad de la IA

Una forma en que las empresas utilizan la IA es revisar grandes conjuntos de datos para identificar patrones y secuenciar los datos en consecuencia. Esto se logra mediante la creación de conjuntos de datos tabulares que normalmente contienen filas y filas de datos. Si bien esto tiene importantes beneficios para las empresas, desde mejorar la eficiencia hasta identificar patrones y conocimientos, también aumenta los riesgos de seguridad, ya que, en caso de que se produzca una infracción, estos datos se clasifican de una manera que sea fácil de usar para los actores de amenazas.

Una mayor amenaza surge cuando se utilizan tecnologías de modelo de lenguaje grande (LLM), que eliminan las barreras de seguridad, ya que los datos se colocan en un dominio público para que cualquiera que utilice la tecnología pueda tropezar con ella y utilizarla. Como LLM es efectivamente un robot que no comprende los detalles, produce la respuesta más probable basada en la probabilidad utilizando la información que tiene a mano. Como tal, muchas empresas impiden que los empleados coloquen datos de la empresa en herramientas como ChatGPT para mantener los datos seguros dentro de los límites de la empresa.

Beneficios de seguridad de la IA

Si bien la IA puede presentar un riesgo potencial para las empresas, también podría ser parte de la solución. Como la IA procesa la información de manera diferente a los humanos, puede ver los problemas de manera diferente y encontrar soluciones innovadoras. Por ejemplo, la IA produce mejores algoritmos y puede resolver problemas matemáticos con los que los humanos han luchado durante muchos años. Como tal, cuando se trata de seguridad de la información, los algoritmos son el rey y IA, aprendizaje automático (ML) o una tecnología de computación cognitiva similar, podría encontrar una forma de proteger los datos.

Este es un beneficio real de la IA, ya que no solo puede identificar y clasificar cantidades masivas de información, sino que también puede identificar patrones que permiten a las organizaciones ver cosas que nunca antes habían notado. Esto aporta un elemento completamente nuevo a la seguridad de la información. Si bien los actores de amenazas utilizarán la IA como una herramienta para mejorar su eficacia a la hora de piratear sistemas, los piratas informáticos éticos también la utilizarán como herramienta para tratar de descubrir cómo mejorar la seguridad, lo que será muy beneficioso para las empresas.

El desafío de los empleados y la seguridad

Los empleados, que están viendo los beneficios de la IA en sus vidas personales, están utilizando herramientas como ChatGPT para mejorar su capacidad para realizar funciones laborales. Al mismo tiempo, estos empleados aumentan la complejidad de la seguridad de los datos. Las empresas deben ser conscientes de la información que los empleados colocan en estas plataformas y las amenazas asociadas a ellas.

Dado que estas soluciones traerán beneficios al lugar de trabajo, las empresas pueden considerar incluir datos no confidenciales en los sistemas para limitar la exposición de conjuntos de datos internos y al mismo tiempo impulsar la eficiencia en toda la organización. Sin embargo, las organizaciones deben darse cuenta de que no pueden tener ambas cosas y que los datos que introduzcan en dichos sistemas no seguirán siendo privados. Por esta razón, las empresas deberán revisar sus políticas de seguridad de la información e identificar cómo salvaguardar los datos confidenciales y, al mismo tiempo, garantizar que los empleados tengan acceso a los datos críticos.

Datos no sensibles pero útiles

Las empresas son conscientes del valor que la IA puede aportar y, al mismo tiempo, añade un riesgo de seguridad en la mezcla. Para obtener valor de esta tecnología y al mismo tiempo mantener la privacidad de los datos, están explorando formas de implementar datos anónimos utilizando, por ejemplo, la seudonimización, que reemplaza la información identificable con un seudónimo o un valor y no permite identificar directamente al individuo.

Otra forma en que las empresas pueden proteger los datos es con IA generativa para datos sintéticos. Por ejemplo, si una empresa tiene un conjunto de datos de clientes y necesita compartirlo con un tercero para análisis e información, apunta un modelo de generación de datos sintéticos al conjunto de datos. Este modelo aprenderá todo sobre el conjunto de datos, identificará patrones a partir de la información y luego producirá un conjunto de datos con individuos ficticios que no representan a nadie en los datos reales, pero permite al destinatario analizar todo el conjunto de datos y proporcionar información precisa. Esto significa que las empresas pueden compartir información falsa pero precisa sin exponer datos confidenciales o privados. TEste enfoque permite que los modelos de aprendizaje automático utilicen cantidades masivas de información para realizar análisis y, en algunos casos, probar datos para el desarrollo.

Con varios métodos de protección de datos disponibles para las empresas en la actualidad, el valor de las tecnologías de inteligencia artificial se puede aprovechar con la tranquilidad de que los datos personales permanecen seguros y protegidos. Esto es importante para las empresas, ya que experimentan los verdaderos beneficios que aportan los datos para mejorar la eficiencia, la toma de decisiones y la experiencia general del cliente.

Artículo de Clyde Williamson, arquitecto jefe de seguridad y Nathan Vega, vicepresidente de estrategia y marketing de productos de Protegrity.

Comenta este artículo a continuación o vía X: @IoTNow_

Sello de tiempo:

Mas de IoT ahora