Marcar conteúdo com marca d'água ainda não é suficiente para distinguir entre conteúdo real e conteúdo gerado por IA, pois os cibercriminosos também podem ignorar os recursos de segurança.
Isto ocorre num momento em que tem havido uma adoção crescente de tecnologias de IA, especialmente IA generativa, criando um terreno fértil para que indivíduos sem escrúpulos a utilizem para espalhar desinformação, ódio e outras formas de conteúdo malicioso.
E a marca d'água emergiu como uma das principais soluções para distinguir entre conteúdo gerado por IA e conteúdo da vida real. No entanto, também tem as suas deficiências.
Veja também: Audio2Photoreal da Meta agora permite avatares fotorrealistas alimentados por voz
A manipulação
Especialistas dizem que o crescimento da IA também vem com maus atores aproveitando a tecnologia para espalhar desinformação e malícia e causar pânico com notícias falsas.
Embora a marca d’água tenha sido identificada para permitir aos usuários distinguir entre conteúdo gerado por IA e conteúdo real produzido pelo homem, ela também é propensa à manipulação.
De acordo com o O registro, algumas assinaturas visíveis, como o modelo de texto para imagem Dall-E, são uma das mais fáceis de contornar a ferramenta de detecção de IA. O artigo afirma ainda que indivíduos sem escrúpulos podem cortar as marcas d'água ou copiar a imagem de forma a evitar o download direto.
Um professor de ciência da computação da Universidade de Buffalo, nos EUA, Siwei Lyu, disse que também há especialistas quando se trata de quebrar barreiras.
“A tecnologia de marca d’água tem sido usada com cautela porque não é tão difícil para alguém com conhecimento de marcas d’água e IA ser capaz de quebrá-la e remover a marca d’água ou fabricar uma”, disse Lyu.
Especialista em IA e diretor executivo de uma organização sem fins lucrativos que ajuda as pessoas a usar a tecnologia para promover os direitos humanos, Sam Gregory, pensa a marca d’água ainda pode ser manipulada por malfeitores.
Para ele, é “uma ferramenta de triagem para redução de danos”, acrescentando que “não é uma solução 100%”.
Os tipos de marcas d'água
No entanto, nem tudo é bom para maus atores inescrupulosos. Algumas marcas d'água invisíveis, como a do Google DeepMind SynthID, são difíceis de eliminar porque estão “incorporados diretamente nas saídas do sistema do Imagen”.
Este tipo de marca d'água não pode ser vista a olho nu, mas pode ser detectada usando software ou algoritmos especiais.
Lyu, no entanto, ainda acha que é possível que canalhas com algum “conhecimento técnico eliminem isso”.
“Acho que as marcas d'água atuam principalmente com o desconhecimento das pessoas sobre sua existência. Então, se eles souberem que podem, encontrarão uma maneira de quebrá-lo”, disse Lyu.
Outro tipo de marca d'água é a visível, que é adicionada a vídeos, textos ou imagens por empresas como Google, Getty e OpenAI para verificar a validade do conteúdo.
O terceiro tipo de marca d’água são os metadados criptográficos. Este mostra quando o conteúdo foi criado e como foi editado.
Marcas d’água “lavando”
Um estudo da Universidade de Maryland liderado por Soheil Feizi, professor de ciência da computação, disse que marcas d'água de IA não eram infalíveis. Eles testaram todos os tipos de marcas d’água e “quebraram todas”.
“Não temos nenhuma marca d'água confiável neste momento”, disse ele.
O professor também explicou como é fácil para maus atores manipularem marcas d’água, no que ele descreveu como “lavar” a marca d'água.
Outro estudo de coautoria de pesquisadores da Universidade da Califórnia, Santa Bárbara, e da Carnegie Mellon também apresentou as mesmas descobertas.
“Todas as marcas d'água visíveis não são confiáveis” lê o papel.
Problema urgente
Um funcionário do Senado dos EUA envolvido na elaboração de legislação relativa à IA disse ao Fedscope sobre a necessidade de “acompanhar o ritmo dos maus actores”, acrescentando que o Senado estava actualmente numa era de “educação e definição do problema”.
“É como os atletas olímpicos – agora que sei que vocês estão procurando essa droga, vou tomar outra droga.”
Com o muitos países indo às urnas este ano, a necessidade de medidas para minimizar deepfakes e desinformação não pode ser ignorada. Em setembro passado, o líder da maioria no Senado, Chuck Schumer, disse que abordar a autenticidade do conteúdo era uma tarefa difícil. questão urgente dado que as eleições estão ao virar da esquina em muitos países.
“Há a questão de realmente haver deepfakes, onde as pessoas realmente acreditam… que um candidato está dizendo algo quando é totalmente uma criação da IA”, disse ele após seu primeiro insights de IA a portas fechadas fórum.
Empresas de tecnologia assumem o desafio
Entretanto, a Coligação para a Proveniência e Autenticidade do Conteúdo (C2PA), ideia de empresas de comunicação social e tecnologia, já está em vigor. Isso identifica a origem da imagem, seja uma câmera ou um programa de IA usado para criá-la.
Também fornece detalhes sobre a hora, local e método de criação da imagem, permitindo que as pessoas verifiquem sua procedência. A TikTok está supostamente entre as principais empresas de tecnologia a assumir a liderança em marcas d'água.
“TikTok mostra a faixa de áudio que foi usada; mostra o ponto que foi feito; mostra os efeitos de IA usados”, disse Gregory.
Outros grandes empresas de tecnologia como Alphabet, Amazon, Meta e OpenAI se comprometeram no ano passado a desenvolver tecnologia de marca d'água para combater a desinformação.
- Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
- PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
- PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
- PlatãoESG. Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
- PlatoHealth. Inteligência em Biotecnologia e Ensaios Clínicos. Acesse aqui.
- Fonte: https://metanews.com/bad-actors-can-still-bypass-watermarks/
- :tem
- :é
- :não
- :onde
- 8
- 9
- a
- Capaz
- atores
- adicionado
- acrescentando
- Adoção
- Vantagem
- Depois de
- AI
- algoritmos
- Todos os Produtos
- Permitindo
- permite
- Alfabeto
- tb
- Amazon
- entre
- an
- e
- Outro
- qualquer
- SOMOS
- por aí
- artigo
- AS
- At
- auditivo
- autenticidade
- Mau
- barreiras
- BE
- Porque
- sido
- entre
- Grande
- Break
- Quebra
- Búfalo
- mas a
- by
- ignorar
- Califórnia
- Câmera
- CAN
- candidato
- não podes
- Carnegie Mellon
- Causar
- mandril
- aliança
- vem
- Empresas
- computador
- Ciência da Computação
- conteúdo
- Canto
- países
- crio
- criado
- Criar
- criação
- colheita
- criptografia
- Atualmente
- cibercriminosos
- dall's
- deepfakes
- definição
- descrito
- detalhes
- detectou
- Detecção
- desenvolver
- difícil
- diretamente
- diretamente
- Diretor
- desinformação
- distinguir
- não
- droga
- maneira mais fácil é
- fácil
- efeitos
- Eleições
- emergiu
- permitir
- suficiente
- Era
- especialmente
- executivo
- Diretora Executiva
- especialista
- especialistas
- explicado
- olho
- falsificação
- notícias falsas
- Funcionalidades
- Encontre
- descobertas
- empresas
- Primeiro nome
- Escolha
- formas
- Fórum
- mais distante
- generativo
- IA generativa
- ter
- dado
- dá
- vai
- Solo
- Crescente
- Growth
- tinha
- Queijos duros
- prejudicar
- odiar
- Ter
- ter
- he
- ajuda
- ele
- sua
- Como funciona o dobrador de carta de canal
- Contudo
- HTTPS
- humano
- direitos humanos
- i
- EU VOU
- identificado
- identifica
- if
- imagem
- imagens
- in
- indivíduos
- para dentro
- invisível
- envolvido
- emitem
- IT
- ESTÁ
- apenas por
- Chave
- Tipo
- Saber
- Conhecimento
- Sobrenome
- Ano passado
- conduzir
- líder
- levou
- Legislação
- como
- localização
- procurando
- moldadas
- Maioria
- malicioso
- manipulado
- Manipulação
- muitos
- Maryland
- enquanto isso
- medidas
- Mídia
- Mellon
- Meta
- metadados
- método
- minimizar
- Desinformação
- modelo
- na maioria das vezes
- você merece...
- notícias
- sem fins lucrativos,
- organização sem fins lucrativos
- agora
- of
- Olímpico
- on
- ONE
- OpenAI
- or
- organização
- Outros
- Fora
- outputs
- Paz
- Pânico
- Papel
- Pessoas
- pessoas
- Fotorrealista
- Lugar
- platão
- Inteligência de Dados Platão
- PlatãoData
- Jogar
- ponto
- possível
- Professor
- Agenda
- a promover
- proveniência
- Leia
- reais
- clientes
- redução
- confiável
- remover
- alegadamente
- pesquisadores
- Livrar
- direitos
- rosado
- Dito
- sal
- Sam
- mesmo
- Santa
- Santa Barbara
- dizer
- dizendo
- Ciência
- segurança
- visto
- Senado
- Setembro
- falhas
- Shows
- Assinaturas
- So
- Software
- solução
- Soluções
- alguns
- Alguém
- algo
- fonte
- especial
- software especial
- propagação
- Unidos
- Ainda
- Estudo
- tal
- .
- equipamento
- abordando
- Tire
- tomar
- tecnologia
- empresas de tecnologia
- Tecnologias
- Tecnologia
- testado
- texto
- que
- A
- A fonte
- deles
- Eles
- Lá.
- deles
- think
- Acha
- Terceiro
- isto
- este ano
- Através da
- TikTok
- tempo
- para
- disse
- também
- ferramenta
- topo
- TOTALMENTE
- pista
- triagem
- tipo
- tipos
- universidade
- Universidade da Califórnia
- University of Maryland
- us
- Senado dos EUA
- usar
- usava
- usuários
- utilização
- verificar
- VÍDEOS
- visível
- foi
- marca d'água
- Watermarking
- marcas d'água
- Caminho..
- maneiras
- O Quê
- quando
- se
- qual
- precisarão
- de
- ano
- ainda
- Você
- zefirnet