IA e segurança: é complicado, mas não precisa ser | Notícias e relatórios sobre IoT Now

A popularidade da IA ​​está crescendo e essa tendência deve continuar. Isto é apoiado por Gartner que afirma que aproximadamente 80% das empresas terão utilizado inteligência artificial generativa (GenAI) interfaces ou modelos de programação de aplicativos (APIs) até 2026. No entanto, IA é um termo amplo e onipresente e, em muitos casos, abrange uma gama de tecnologias. No entanto, a IA apresenta avanços na capacidade de processar a lógica de forma diferente, o que está a atrair a atenção tanto das empresas como dos consumidores que hoje experimentam várias formas de IA. Ao mesmo tempo, esta tecnologia está a atrair atenção semelhante por parte dos agentes de ameaças que estão a perceber que pode ser um ponto fraco na segurança de uma empresa, ao mesmo tempo que pode ser uma ferramenta que ajuda as empresas a identificar esses pontos fracos e a resolvê-los.

Desafios de segurança da IA

Uma maneira pela qual as empresas estão usando a IA é revisar grandes conjuntos de dados para identificar padrões e sequenciar os dados de acordo. Isso é conseguido criando conjuntos de dados tabulares que normalmente contêm linhas e mais linhas de dados. Embora isto traga benefícios significativos para as empresas, desde a melhoria da eficiência até à identificação de padrões e insights, também aumenta os riscos de segurança, uma vez que, caso ocorra uma violação, estes dados são classificados de uma forma que é fácil de utilizar pelos agentes da ameaça.

Outras ameaças evoluem ao usar tecnologias Large Language Model (LLM), que removem barreiras de segurança à medida que os dados são colocados em domínio público para qualquer pessoa que use a tecnologia. Como o LLM é efetivamente um bot que não entende os detalhes, ele produz a resposta mais provável com base na probabilidade usando as informações que tem em mãos. Como tal, muitas empresas estão impedindo os funcionários de colocar quaisquer dados da empresa em ferramentas como o ChatGPT para manter os dados seguros dentro dos limites da empresa.

Benefícios de segurança da IA

Embora a IA possa representar um risco potencial para as empresas, também pode ser parte da solução. Como a IA processa a informação de forma diferente dos humanos, pode encarar os problemas de forma diferente e encontrar soluções inovadoras. Por exemplo, a IA produz algoritmos melhores e pode resolver problemas matemáticos com os quais os humanos têm lutado durante muitos anos. Como tal, quando se trata de segurança da informação, os algoritmos são reis e IA, aprendizado de máquina (ML) ou uma tecnologia de computação cognitiva semelhante, poderia criar uma forma de proteger os dados.

Este é um benefício real da IA, pois ela não só pode identificar e classificar grandes quantidades de informações, mas também identificar padrões que permitem às organizações ver coisas que nunca haviam notado antes. Isso traz um elemento totalmente novo para a segurança da informação. Embora a IA seja utilizada pelos agentes de ameaças como uma ferramenta para melhorar a sua eficácia na invasão de sistemas, também será utilizada como uma ferramenta por hackers éticos para tentar descobrir como melhorar a segurança, o que será altamente benéfico para as empresas.

O desafio dos funcionários e da segurança

Os funcionários, que estão percebendo os benefícios da IA ​​em suas vidas pessoais, estão usando ferramentas como ChatGPT para melhorar sua capacidade de desempenhar funções de trabalho. Ao mesmo tempo, esses funcionários aumentam a complexidade da segurança dos dados. As empresas precisam estar cientes das informações que os funcionários colocam nessas plataformas e das ameaças a elas associadas.

Como estas soluções trarão benefícios para o local de trabalho, as empresas podem considerar a colocação de dados não sensíveis em sistemas para limitar a exposição de conjuntos de dados internos e, ao mesmo tempo, impulsionar a eficiência em toda a organização. No entanto, as organizações precisam perceber que não podem ter as duas coisas e que os dados que colocam nesses sistemas não permanecerão privados. Por esta razão, as empresas terão de rever as suas políticas de segurança da informação e identificar como proteger dados sensíveis e, ao mesmo tempo, garantir que os funcionários tenham acesso a dados críticos.

Dados não confidenciais, mas úteis

As empresas estão cientes do valor que a IA pode trazer e, ao mesmo tempo, adicionar um risco de segurança na mistura. Para obter valor desta tecnologia e, ao mesmo tempo, manter a privacidade dos dados, estão a explorar formas de implementar dados anonimizados recorrendo, por exemplo, à pseudonimização, que substitui a informação identificável por um pseudónimo ou um valor e não permite que o indivíduo seja diretamente identificado.

Outra forma de as empresas protegerem os dados é com IA generativa para dados sintéticos. Por exemplo, se uma empresa tem um conjunto de dados de clientes e precisa compartilhá-lo com terceiros para análise e insights, ela aponta um modelo de geração de dados sintéticos para o conjunto de dados. Este modelo aprenderá tudo sobre o conjunto de dados, identificará padrões a partir das informações e, em seguida, produzirá um conjunto de dados com indivíduos fictícios que não representam ninguém nos dados reais, mas permitirá ao destinatário analisar todo o conjunto de dados e fornecer informações precisas. Isso significa que as empresas podem compartilhar informações falsas, mas precisas, sem expor dados confidenciais ou privados. Testa abordagem permite que grandes quantidades de informações sejam usadas por modelos de aprendizado de máquina para análise e, em alguns casos, para testar dados para desenvolvimento.

Com vários métodos de proteção de dados disponíveis atualmente para as empresas, o valor das tecnologias de IA pode ser aproveitado com a tranquilidade de que os dados pessoais permanecem seguros e protegidos. Isto é significativo para as empresas, pois elas experimentam os verdadeiros benefícios que os dados trazem para melhorar a eficiência, a tomada de decisões e a experiência geral do cliente.

Artigo de Clyde Williamson, arquiteto-chefe de segurança e Nathan Vega, vice-presidente de marketing de produto e estratégia da Protegrity.

Comente este artigo abaixo ou via X: @IoTNow_

• Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
• PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
• PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
• PlatãoESG. Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
• PlatoHealth. Inteligência em Biotecnologia e Ensaios Clínicos. Acesse aqui.
• Fonte: https://www.iot-now.com/2024/01/19/141963-ai-and-security-it-is-complicated-but-doesnt-need-to-be/