ECONOMÉTRICOS Abordar la desinformación sobre IA es más crucial que nunca para las empresas de tecnología este año mientras se preparan para las próximas elecciones presidenciales de Estados Unidos.
Sin embargo, combatir la información falsa y los deepfakes se ha vuelto más difícil dado que las herramientas para generar contenido sintético son más accesibles que nunca.
ChatGPT de OpenAI se ha vuelto cada vez más capaz desde su lanzamiento por primera vez en noviembre de 2022. El año pasado, actualizado su sistema GPT-4 para producir audio e imágenes sobre texto. Ahora, la startup ha desatado el Tienda GPT, una plataforma que aloja bots personalizados basados en ChatGPT que pueden adoptar personalidades particulares o realizar tareas específicas.
"Todavía estamos trabajando para comprender qué tan efectivas podrían ser nuestras herramientas para la persuasión personalizada"
El lunes, OpenAI dijo que estaba prohibido crear GPT para campañas políticas y cabildeo, y que usar sus modelos para impulsar cualquier chatbot que se haga pasar por personas, empresas o gobiernos reales es un abuso de su tecnología. También están prohibidas todas las aplicaciones que interfieran con los procesos democráticos, como por ejemplo la votación.
"Esperamos y aspiramos a que la gente utilice nuestras herramientas de forma segura y responsable, y las elecciones no son diferentes". decía. "Trabajamos para anticipar y prevenir abusos relevantes, como 'deepfakes' engañosos, operaciones de influencia a gran escala o chatbots que se hacen pasar por candidatos".
Aclarar las reglas está muy bien, pero hacerlas cumplir es otra cuestión. Es difícil controlar la Tienda GPT y OpenAI depende de los usuarios para informar sobre aplicaciones que van en contra de sus políticas. La gente ya ha roto sus reglas de no crear GPT "dedicadas a fomentar el compañerismo romántico o realizar actividades reguladas". La plataforma tiene muchas “novias” de IA y también hay muchos chatbots políticos.
Algunos están diseñados para imitar a políticos como Donald Trump, por ejemplo, aunque no sean imitaciones convincentes, mientras que otros apoyan ciertas ideologías políticas. En una conversación con “The Real Trump Bot”, por ejemplo, dijo que estaba en contra del voto por correo. “Oh, ni siquiera me hables del voto por correo. Es como si estuvieran buscando problemas. Está tan abierto al abuso que es increíble”.
¿Eso va en contra de las políticas de OpenAI? ¿Podría disuadir a alguien de enviar su voto por correo? "Todavía estamos trabajando para comprender qué tan efectivas podrían ser nuestras herramientas para la persuasión personalizada", admitió OpenAI.
OpenAI también ha tomado otras precauciones. Las barreras de seguridad implementadas para su modelo de texto a imagen DALL-E impiden que los usuarios generen imágenes de políticos para tratar de evitar falsificaciones profundas. Pero las barreras de seguridad permiten editar imágenes, lo que significa que las personas aún pueden manipular fotografías de los candidatos sin la ayuda de una IA.
Además de prohibir o bloquear contenido, otras estrategias que las empresas están adoptando para combatir la desinformación incluyen la implementación de marcas de agua digitales y exigir a los usuarios que sean transparentes sobre las imágenes o videos generados por IA.
Microsoft es miembro de la Coalición para la procedencia y autenticidad del contenido (C2PA) y apoya la iniciativa Credenciales de contenido. Está implementando una función que incorpora una marca de agua para el contenido generado por Bing Image Creator, que contiene metadatos que describen cómo se creó la imagen, cuándo y quién, que pueden inspeccionarse para demostrar su falta de autenticidad. OpenAI planea hacer lo mismo e implementar el CP2ALas credenciales digitales también. Pero la función de marcas de agua y metadatos no es infalible. Sin embargo, la información sobre la procedencia de una imagen solo se puede ver en aplicaciones o sitios web que admitan el formato Credenciales de contenido.
Los usuarios pueden extraer la información de una imagen generada por las herramientas de Microsoft o OpenAI y abrirla en algo como Google Chrome, por ejemplo, que no es compatible con CP2A. Entonces no habría metadatos asociados con sus imágenes y, en su lugar, serían libres de distribuir esa versión.
La plataforma YouTube de Google ha adoptado un enfoque diferente y, en cambio, exige a los creadores que revelen si sus videos contienen imágenes generadas por IA, representan eventos falsos o contienen personas que dicen cosas que no han dicho. Mientras tanto, Meta y Google han pedido a los anunciantes que declaren si sus anuncios contienen contenido sintético, ya sean imágenes, videos o audio falsos.
Las reglas son más estrictas para los políticos. Varios estados, como California, Texas, Michigan, Washington y Minnesota, han aprobado legislación prohibir a los candidatos políticos crear deepfakes para influir en los votantes. Sin embargo, no existe una ley federal. La Comisión Federal Electoral aún tiene que decidir si su política contra “la tergiversación fraudulenta de otros candidatos o partidos políticos” se aplica al contenido generado por IA.
La IA todavía no está regulada en su mayor parte y las diversas leyes aplicables en todo el mundo no cubren todos los casos de desinformación política. Aunque las empresas de tecnología están intensificando sus esfuerzos para impedir que los usuarios generen desinformación mediante IA, sus métodos no son perfectos y los usuarios a menudo encuentran formas de eludir sus medidas de seguridad. ®
- Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
- PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
- PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
- PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
- PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
- Fuente: https://go.theregister.com/feed/www.theregister.com/2024/01/17/ai_political_disinformation/
- :posee
- :es
- :no
- $ UP
- 2022
- a
- Nuestra Empresa
- abuso
- accesible
- actividades
- aceptado
- adoptar
- Anuncios
- los anunciantes
- en contra
- AI
- objetivo
- Todos
- permitir
- ya haya utilizado
- también
- Aunque
- an
- y
- Otra
- anticiparse a
- cualquier
- aplicable
- aplicaciones
- se aplica
- enfoque
- somos
- en torno a
- AS
- pidiendo
- asociado
- audio
- autenticidad
- prohibido
- BE
- a las que has recomendado
- antes
- Bing
- bloqueo
- Bot
- los robots
- Roto
- Construir la
- negocios
- pero
- by
- California
- haciendo campaña
- PUEDEN
- candidatos
- capaz
- llevar
- a ciertos
- Chatbots
- ChatGPT
- Chrome
- CO
- coalición
- luchar contra la
- referencia
- Empresas
- que no contengo
- contenido
- Conversación
- podría
- Protectora
- Elaborado
- Creamos
- creador
- creadores
- Referencias
- crucial
- Custom-construido
- de dall
- decidir
- a dedicados
- deepfakes
- democrático
- describiendo
- una experiencia diferente
- difícil
- digital
- Revelar
- desinformación
- disuadir
- distribuir
- do
- doesn
- don
- Donald
- Donald Trump
- .
- Eficaz
- esfuerzos
- Elección
- Elecciones
- hacer cumplir
- Éter (ETH)
- Incluso
- Eventos
- NUNCA
- ejemplo
- esperar
- falso
- false
- Feature
- Federal
- ley Federal
- Encuentre
- Nombre
- seguir
- formato
- el fomento de
- Gratis
- Desde
- generado
- la generación de
- obtener
- dado
- Go
- candidato
- Google Chrome
- Gobiernos
- crecido
- Tienen
- refugio
- ayuda
- hosting
- Cómo
- Sin embargo
- HTTPS
- Enormemente
- ideologías
- if
- imagen
- imágenes
- implementar
- importante
- in
- incluir
- cada vez más
- influir
- información
- Iniciativa
- instancias
- ISN
- IT
- SUS
- jpg
- Label
- Apellidos
- El año pasado
- de derecho criminal
- leyes
- como
- cabildeo
- hecho
- envío
- muchos
- Materia
- me
- sentido
- Mientras tanto
- medidas
- miembro
- metadatos
- métodos
- Michigan
- Microsoft
- podría
- Minnesota
- engañoso
- modelo
- modelos
- Lunes
- más,
- cuales son las que reflejan
- múltiples
- no
- Noviembre
- ahora
- of
- a menudo
- oh
- on
- , solamente
- habiertos
- OpenAI
- Operaciones
- or
- Otro
- Otros
- "nuestr
- salir
- particular
- partes
- pasado
- Personas
- perfecto
- realizar
- Personalidades
- Personalizado
- fotografías
- Colocar
- planificar
- plataforma
- Platón
- Inteligencia de datos de Platón
- PlatónDatos
- Mucho
- Policía
- políticas
- política
- político
- candidatos politicos
- los partidos políticos
- Los políticos
- industria
- presidencial
- elecciones presidenciales
- evitar
- en costes
- producir
- prohibidos
- Demostrar.
- procedencia
- rampa
- RE
- real
- regulados
- liberado
- confiando
- reporte
- responsablemente
- Rolling
- reglas
- s
- de manera segura
- Safety
- Said
- decir
- visto
- desde
- So
- Alguien
- algo
- soluciones y
- fundó
- inicio
- Zonas
- Sin embargo
- tienda
- estrategias
- más estricto
- Strip
- tal
- siguiente
- SOPORTE
- Apoyar
- sintético
- te
- T
- abordando
- toma
- toma
- tareas
- tecnología
- empresas de tecnología
- Tecnología
- Texas
- texto
- que
- esa
- La
- la información
- el mundo
- su
- Les
- luego
- Ahí.
- ellos
- cosas
- así
- este año
- ¿aunque?
- a
- demasiado
- parte superior
- transparente
- problema
- triunfo
- try
- entender
- soltado
- próximos
- us
- utilizan el
- usuarios
- usando
- diversos
- versión
- Videos
- Votar
- votantes
- Votar
- fue
- Washington
- filigrana
- marcas de agua
- marcas de agua
- formas
- we
- sitios web
- WELL
- cuando
- sean
- que
- mientras
- quién
- extensamente
- sin
- Actividades:
- trabajando
- mundo
- se
- año
- aún
- Youtube
- zephyrnet