El contenido con marcas de agua aún no es suficiente para distinguir entre contenido real y generado por IA, ya que los ciberdelincuentes también pueden eludir las funciones de seguridad.
Esto se produce cuando ha habido una creciente adopción de tecnologías de inteligencia artificial, especialmente la IA generativa, creando un terreno fértil para que personas sin escrúpulos la utilicen para difundir información errónea, odio y otras formas de contenido malicioso.
Y las marcas de agua se han convertido en una de las soluciones clave para distinguir entre el contenido generado por IA y el contenido de la vida real. Sin embargo, también tiene sus defectos.
Lea también: Audio2Photoreal de Meta ahora permite avatares fotorrealistas impulsados por voz
la manipulación
Los expertos dicen que el crecimiento de la IA también viene acompañado de malos actores que aprovechan la tecnología para difundir desinformación y malicia y causar pánico con noticias falsas.
Aunque se ha identificado la marca de agua para permitir a los usuarios distinguir entre contenido generado por IA y contenido real creado por humanos, eso también es propenso a la manipulación.
Según la El registro, algunas firmas visibles, como el modelo de texto a imagen de Dall-E, son una de las más fáciles de eludir la herramienta de detección de IA. El artículo afirma además que personas sin escrúpulos pueden recortar las marcas de agua o copiar la imagen de manera que eviten la descarga directa.
Siwei Lyu, profesor de informática de la Universidad de Buffalo, en Estados Unidos, afirmó que también hay expertos cuando se trata de romper barreras.
"La tecnología de marcas de agua se ha utilizado con cautela porque no es tan difícil para alguien con conocimientos sobre marcas de agua e inteligencia artificial poder romperlas y eliminarlas o fabricar una", dijo Lyu.
Sam Gregory, experto en inteligencia artificial y director ejecutivo de una organización sin fines de lucro que ayuda a las personas a utilizar la tecnología para promover los derechos humanos, piensa las marcas de agua aún pueden ser manipuladas por malos actores.
Para él, es "una herramienta de clasificación para la reducción de daños", y añade que "no es una solución al 100%".
Los tipos de marcas de agua.
Sin embargo, no todo es color de rosa para los malos actores sin escrúpulos. Algunas marcas de agua que son invisibles, como la de Google DeepMind SinthID, son difíciles de eliminar porque están "integrados directamente en las salidas del sistema de Imagen".
Este tipo de marca de agua no se puede ver a simple vista, pero se puede detectar mediante software o algoritmos especiales.
Lyu, sin embargo, todavía cree que es posible que los sinvergüenzas con algunos “conocimientos técnicos eliminen eso”.
“Creo que las marcas de agua juegan principalmente con el desconocimiento de la gente sobre su existencia. Entonces, si saben que pueden, encontrarán una manera de romperlo”, dijo Lyu.
Otro tipo de marca de agua es la visible, que empresas como Google, Getty y OpenAI agregan a videos, texto o imágenes para verificar la validez del contenido.
El tercer tipo de marca de agua son los metadatos criptográficos. Éste muestra cuándo se creó el contenido y cómo se editó.
Marcas de agua "lavadas"
Un estudio de la Universidad de Maryland dirigido por Soheil Feizi, profesor de informática, afirma que las marcas de agua de IA no eran infalibles. Probaron todos los tipos de marcas de agua y “las rompieron todas”.
"No tenemos ninguna marca de agua confiable en este momento", dijo.
El profesor también explicó lo fácil que es para los malos actores manipular las marcas de agua en lo que describió como "lavar" la marca de agua.
Otro estudio en coautoría con investigadores de la Universidad de California, Santa Bárbara y Carnegie Mellon también arrojó los mismos hallazgos.
"No todas las marcas de agua visibles son confiables" lee el papel.
Problema urgente
Un miembro del personal del Senado de los Estados Unidos involucrado en la redacción de legislación relacionada con la IA dijo a Fedscope sobre la necesidad de “seguir el ritmo de los malos actores”, y agregó que el Senado se encontraba actualmente en una era de “educación y definición del problema”.
"Es como los atletas olímpicos: ahora que sé que están buscando este fármaco, simplemente tomaré otro fármaco".
Con Muchos países van a las urnas. Este año, no se puede pasar por alto la necesidad de medidas para minimizar los deepfakes y la desinformación. En septiembre pasado, el líder de la mayoría del Senado, Chuck Schumer, dijo que abordar la autenticidad del contenido era una tarea difícil. cuestión urgente dado que en muchos países las elecciones están a la vuelta de la esquina.
"Está el problema de tener deepfakes, donde la gente realmente cree... que un candidato está diciendo algo cuando es totalmente una creación de IA", dijo después de su primera Información de IA a puerta cerrada foro.
Las empresas tecnológicas asumen el desafío
Mientras tanto, ya existe la Coalición para la Procedencia y Autenticidad del Contenido (C2PA), una creación de empresas de medios y tecnología. Esto identifica la fuente de la imagen, ya sea una cámara o un programa de inteligencia artificial que se utilizó para crearla.
También brinda detalles sobre la hora, la ubicación y el método de creación de la imagen, lo que permite a las personas verificar su procedencia. Según se informa, TikTok se encuentra entre las principales empresas de tecnología que han tomado la delantera en materia de marcas de agua.
“TikTok te muestra la pista de audio que se utilizó; te muestra la puntada que se hizo; muestra los efectos de la IA utilizados”, dijo Gregory.
Otros grandes empresas de tecnología como Alphabet, Amazon, Meta y OpenAI se comprometieron el año pasado a desarrollar tecnología de marcas de agua para abordar la desinformación.
- Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
- PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
- PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
- PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
- PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
- Fuente: https://metanews.com/bad-actors-can-still-bypass-watermarks/
- :posee
- :es
- :no
- :dónde
- 8
- 9
- a
- Poder
- los actores
- adicional
- la adición de
- Adopción
- Ventaja
- Después
- AI
- algoritmos
- Todos
- Permitir
- permite
- Alphabet
- también
- Amazon
- entre
- an
- y
- Otra
- cualquier
- somos
- en torno a
- artículo
- AS
- At
- audio
- autenticidad
- Malo
- las barreras
- BE
- porque
- esto
- entre
- Big
- Descanso
- Ruptura
- Buffalo
- pero
- by
- evitar
- California
- cámara
- PUEDEN
- candidato
- no puede
- Carnegie Mellon
- Causa
- Chuck
- coalición
- proviene
- Empresas
- computadora
- Ciencias de la Computación
- contenido
- Esquina
- países
- Para crear
- creado
- Creamos
- creación
- cultivo
- criptográfico
- En la actualidad
- ciberdelincuentes
- de dall
- deepfakes
- definir
- descrito
- detalles
- detectado
- Detección
- desarrollar
- difícil
- de reservas
- directamente
- Director
- desinformación
- distinguir
- No
- droga
- fácil
- de forma sencilla
- los efectos
- Elecciones
- surgido
- habilitar
- suficientes
- Era
- especialmente
- ejecutivos
- Directora Ejecutiva
- experto
- expertos
- explicado
- ojos
- falso
- noticias falsas
- Caracteristicas
- Encuentre
- Los resultados
- empresas
- Nombre
- Formularios
- Foro
- promover
- generativo
- IA generativa
- obtener
- dado
- da
- va
- Polo a Tierra
- Creciendo
- Crecimiento
- tenido
- Difícil
- daño
- odio
- Tienen
- es
- he
- ayuda
- su
- Cómo
- Sin embargo
- HTTPS
- humana
- derechos humanos
- i
- ENFERMO
- no haber aun identificado una solucion para el problema
- identifica
- if
- imagen
- imágenes
- in
- individuos
- dentro
- invisible
- involucra
- IT
- SUS
- solo
- Clave
- Tipo
- Saber
- especialistas
- Apellido
- El año pasado
- Lead
- líder
- LED
- Legislación
- como
- Ubicación
- mirando
- hecho
- Mayoría
- malicioso
- manipulado
- Manipulación
- muchos
- Maryland
- mientras tanto
- medidas
- Medios
- Mellon
- Meta
- metadatos
- Método
- minimizar
- Desinformación
- modelo
- cuales son las que reflejan
- ¿ Necesita ayuda
- noticias
- sin fines de lucro
- sin fines de lucro
- ahora
- of
- Olímpico
- on
- ONE
- OpenAI
- or
- organización
- Otro
- salir
- salidas
- Paz
- Pánico
- Papel
- (PDF)
- Personas
- de las personas
- Fotorrealista
- Colocar
- Platón
- Inteligencia de datos de Platón
- PlatónDatos
- Jugar
- punto
- posible
- Profesor
- Programa
- promover
- procedencia
- Leer
- real
- realmente
- reducción
- confianza
- remove
- según se informa
- investigadores
- Eliminar
- derechos
- Rosado
- Said
- sal
- Diana
- mismo
- Santa
- santa barbara
- dices
- decir
- Ciencia:
- EN LINEA
- visto
- Senado
- Septiembre
- deficiencias
- Shows
- Firmas
- So
- Software
- a medida
- Soluciones
- algo
- Alguien
- algo
- Fuente
- especial
- software especial
- propagación
- Zonas
- Sin embargo
- ESTUDIO
- tal
- te
- entrada
- abordando
- ¡Prepárate!
- toma
- tecnología
- empresas de tecnología
- Tecnologías
- Tecnología
- probado
- texto
- esa
- La
- La Fuente
- su
- Les
- Ahí.
- ellos
- pensar
- piensa
- Código
- así
- este año
- A través de esta formación, el personal docente y administrativo de escuelas y universidades estará preparado para manejar los recursos disponibles que derivan de la diversidad cultural de sus estudiantes. Además, un mejor y mayor entendimiento sobre estas diferencias y similitudes culturales permitirá alcanzar los objetivos de inclusión previstos.
- TikTok
- equipo
- a
- les dijo a
- demasiado
- del IRS
- parte superior
- TOTALMENTE
- seguir
- triaje
- tipo
- tipos
- universidad
- equipo de Manejo Integrado de Plagas de la Universidad de California
- Universidad de Maryland
- us
- Senado de EE.UU.
- utilizan el
- usado
- usuarios
- usando
- verificar
- Videos
- visibles
- fue
- filigrana
- marcas de agua
- marcas de agua
- Camino..
- formas
- ¿
- cuando
- sean
- que
- seguirá
- año
- aún
- Usted
- zephyrnet