A disseminação desenfreada de deepfakes traz riscos significativos – desde a criação imagens nuas de menores para enganar indivíduos com promoções fraudulentas usando deepfakes de celebridades-a capacidade de distinguir conteúdos gerados por IA (AIGC) daqueles criados por humanos nunca foi tão crucial.
A marca d’água, uma medida antifalsificação comum observada em documentos e moedas, é um método para identificar esse conteúdo, com a adição de informações que ajudam a diferenciar uma imagem gerada por IA de uma imagem não gerada por IA. Mas um recente trabalho de pesquisa concluiu que simples ou mesmo avançado métodos de marca d'água pode não ser realmente suficiente para prevenir os riscos associados à libertação de material de IA como sendo produzido pelo homem.
A pesquisa foi conduzida por uma equipe de cientistas da Universidade Tecnológica de Nanyang, S-Lab, NTU, Universidade de Chongqing, Shannon.AI e Universidade de Zhejiang.
Um dos autores, Li Guanlin, disse Descifrar que “a marca d'água pode ajudar as pessoas a saber se o conteúdo é gerado por IA ou por humanos”. Mas, acrescentou, “se a marca d’água no AIGC for fácil de remover ou falsificar, podemos livremente fazer com que outros acreditem que uma obra de arte é gerada pela IA adicionando uma marca d’água, ou que um AIGC é criado por humanos removendo a marca d’água”.
O artigo explorou várias vulnerabilidades nos métodos atuais de marca d'água.
“Os esquemas de marca d’água para AIGC são vulneráveis a ataques adversários, que podem remover a marca d’água sem conhecer a chave secreta”, diz. Esta vulnerabilidade apresenta implicações no mundo real, especialmente no que diz respeito à desinformação ou ao uso malicioso de conteúdo gerado por IA.
"EuSe alguns usuários mal-intencionados espalharem imagens falsas de algumas celebridades geradas por IA após remover as marcas d’água, é impossível provar que as imagens são geradas por IA, pois não temos evidências suficientes”, disse Li. Descifrar.
Li e sua equipe conduziram uma série de experimentos testando a resiliência e a integridade dos métodos atuais de marca d'água em conteúdo gerado por IA. Eles aplicaram diversas técnicas para remover ou falsificar as marcas d'água, avaliando a facilidade e a eficácia de cada método. Os resultados mostraram consistentemente que as marcas d'água poderiam ser comprometidas com relativa facilidade.
Além disso, avaliaram as possíveis implicações dessas vulnerabilidades no mundo real, especialmente em cenários que envolvem desinformação ou uso malicioso de conteúdo gerado por IA. As descobertas cumulativas destas experiências e análises levaram-nos a concluir que existe uma necessidade premente de mecanismos de marca d'água mais robustos.
Embora empresas como a OpenAI tenham anunciado que desenvolveram métodos para detectar conteúdo gerado por IA com 99% de precisão, o desafio geral permanece. Os métodos de identificação atuais, como metadados e marcas d'água invisíveis, têm suas limitações.
Li sugere que “é melhor combinar alguns métodos de criptografia, como a assinatura digital, com os esquemas de marca d'água existentes para proteger o AIGC”, embora a implementação exata ainda não esteja clara.
Outros pesquisadores apresentaram uma abordagem mais extrema. Como recentemente relatado pela Descifrar, uma equipe do MIT propôs transformar imagens em “veneno” para modelos de IA. Se uma imagem “envenenada” for usada como entrada em um conjunto de dados de treinamento, o modelo final produziria resultados ruins porque captaria detalhes que não são visíveis ao olho humano, mas que são altamente influentes no processo de treinamento. Seria como uma marca d'água mortal que mata o modelo que treina.
Os rápidos avanços na IA, como destacado pelo CEO da OpenAI, Sam Altman, sugerem um futuro onde os processos de pensamento inerentes à IA poderiam espelhar a lógica e a intuição humanas. Com esses avanços, a necessidade de medidas de segurança robustas, como marcas d’água, torna-se ainda mais importante.
Li acredita que “as marcas d'água e o governo de conteúdo são essenciais porque, na verdade, não influenciarão os usuários normais”, mas o conflito entre criadores e adversários persiste. “Será sempre um jogo de gato e rato… É por isso que precisamos continuar atualizando nossos esquemas de marcas d’água.”
Fique por dentro das notícias sobre criptomoedas, receba atualizações diárias em sua caixa de entrada.
Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.