X busca moderadores de contenido después del caos de Taylor Swift

X está buscando moderadores de contenido para abordar la explotación sexual infantil y otro contenido explícito después de que las imágenes con clasificación X de Taylor Swift generadas por IA se volvieran virales en la plataforma.

La empresa de redes sociales contratará a 100 empleados a tiempo completo para abordar la proliferación de contenido deepfake que ahora prevalece no solo en X sino en todas las plataformas de redes sociales.

Centro de Confianza y Seguridad

Con el personal adicional, la empresa propiedad de Elon Musk también está considerando desarrollar un “centro de confianza y seguridad” en Austin, Texas. Aquí, los agentes serán responsables de revisar el contenido de acuerdo con las normas de seguridad de la empresa.

Los acontecimientos también se producen cuando los malos actores están utilizando las plataformas de redes sociales para perpetrar violencia, racismo, fraude y explotación sexual infantil.

"X no tiene una línea de negocios centrada en los niños, pero es importante que hagamos estas inversiones para seguir evitando que los delincuentes utilicen nuestra plataforma para cualquier distribución o interacción con contenido CSE". dijo Joe Benarroch, jefe de operaciones comerciales de X.

La plataforma ha sido criticada tras la proliferación de contenido antisemita y neonazi. Esto ha dado lugar a que muchos anunciantes difundan la plataforma.

En 2022, Almizcle adquirió la plataforma de redes sociales (entonces Twitter) por 44 mil millones de dólares para permitir la libertad de expresión en la plataforma. Esto no ha salido bien, ya que el multimillonario tecnológico ha sido criticado después de recortar "la plantilla de las operaciones de confianza y seguridad de la empresa".

Lea también: La industria tecnológica se ve afectada por recortes masivos de empleos a medida que las empresas reemplazan a los trabajadores con IA

medidas temporales

En las últimas semanas, la plataforma se ha visto inundada de imágenes explícitas de Taylor Swift, lo que llevó a su legión de fans a contrarrestar esto con su propia campaña con imágenes más positivas de la cantante. Los fanáticos corrieron con el hashtag #ProtectTaylorSwift.

Para X, la plataforma bloqueó nuevas búsquedas del músico. De acuerdo con la New York Post, los usuarios que intentaron buscar su nombre el lunes obtuvieron un error mensaje pidiéndoles que lo vuelvan a intentar y agregando: "No te preocupes, no es tu culpa".

Pero, sin embargo, aparecían publicaciones con su nombre cada vez que los usuarios añadían comillas alrededor de su nombre, y algunos expertos argumentaban que el enfoque de X para manejar el problema dejaba mucho que desear.

"Esta es una acción temporal y se hace con mucha precaución, ya que priorizamos la seguridad en este tema", dijo Benarroch en un comunicado.

Sin embargo, algunos de los fanáticos de Taylor Swift comenzaron a denunciar cuentas que compartían las imágenes deepfake.

Rastreando los problemas

Dado que la IA generativa sigue ganando terreno en todo el mundo, ahora existen herramientas sofisticadas que también están disponibles para difundir contenido malicioso. Con el incidente de Taylor Swift, Reality Defender, un grupo de detección de deepfake, rastreó numerosos materiales pornográficos que mostraban a la estrella del pop, especialmente en X, mientras que otros estaban en Facebook y otras plataformas de redes sociales.

Según Ben Decker, del grupo de inteligencia de amenazas Memetica, las imágenes de Taylor Swift Provino por primera vez de una campaña llamada Lewd DALL-E, que se especializa en imágenes sexualmente explícitas de mujeres famosas generadas por IA.

"Es parte de una relación de confrontación de larga data entre trolls y plataformas", dijo Decker.

“Mientras existan plataformas, los trolls intentarán perturbarlas. Y mientras existan trolls, las plataformas se verán perturbadas. Entonces la pregunta realmente es: ¿cuántas veces más va a suceder esto antes de que haya algún cambio serio?

El De la Casa Blanca el viernes intervino sobre el asunto, calificando las imágenes falsas como “alarmantes” y pidiendo a las plataformas de redes sociales que asumir la responsabilidad para evitar la difusión de información errónea.

• Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
• PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
• PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
• PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
• PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
• Fuente: https://metanews.com/x-hunts-for-content-moderators-after-taylor-swift-chaos/