X procura moderadores de conteúdo após Taylor Swift Chaos

X está caçando moderadores de conteúdo para combater a exploração sexual infantil e outros conteúdos explícitos depois que imagens de Taylor Swift geradas por IA e classificadas como menores se tornaram virais na plataforma.

A empresa de mídia social contratará 100 funcionários em tempo integral para combater a proliferação de conteúdo deepfake que agora prevalece não apenas no X, mas em todas as plataformas de mídia social.

Centro de Confiança e Segurança

Com a equipe adicional, a empresa de propriedade de Elon Musk também pretende desenvolver um “centro de confiança e segurança” em Austin, Texas. Aqui, os agentes serão responsáveis ​​por revisar o conteúdo de acordo com as regras de segurança da empresa.

Os desenvolvimentos também ocorrem num momento em que as plataformas de redes sociais estão agora a ser utilizadas por maus intervenientes para perpetrar violência, racismo, fraude e exploração sexual infantil.

“X não tem uma linha de negócios focada em crianças, mas é importante que façamos esses investimentos para continuar impedindo que infratores usem nossa plataforma para qualquer distribuição ou envolvimento com conteúdo CSE”, dito Joe Benarroch, chefe de operações comerciais da X.

A plataforma foi criticada após a proliferação de conteúdo antissemita e neonazista. Isso resultou na divulgação da plataforma por muitos anunciantes.

Em 2022, Almíscar adquiriu a plataforma de mídia social – então Twitter – por US$ 44 bilhões para permitir a liberdade de expressão na plataforma. Isso não deu certo, já que o bilionário da tecnologia foi criticado depois de cortar “o número de funcionários das operações de confiança e segurança da empresa”.

Veja também: Indústria de tecnologia atingida por cortes massivos de empregos à medida que as empresas substituem trabalhadores por IA

Medidas temporárias

Nas últimas semanas, a plataforma foi inundada com imagens explícitas de Taylor Swift, levando sua legião de fãs a contrariar isso com sua própria campanha com imagens mais positivas da cantora. Os fãs correram com a hashtag #ProtectTaylorSwift.

Para X, a plataforma bloqueou novas buscas pelo músico. De acordo com New York Post, os usuários que tentaram pesquisar o nome dela na segunda-feira receberam uma erro mensagem pedindo que tentem novamente, acrescentando: “Não se preocupe - não é sua culpa”.

Mas postagens com o nome dela apareciam sempre que os usuários adicionavam citações ao nome dela, com alguns especialistas argumentando que a abordagem de X para lidar com o problema deixava muito a desejar.

“Esta é uma ação temporária e feita com muita cautela, pois priorizamos a segurança nesta questão”, disse Benarroch em comunicado.

No entanto, alguns fãs de Taylor Swift começaram a denunciar contas que compartilhavam as imagens deepfake.

Rastreando os problemas

Com a IA generativa continuando a ganhar força em todo o mundo, existem agora ferramentas sofisticadas que também estão disponíveis para espalhar conteúdo malicioso. Com o incidente de Taylor Swift, o Reality Defender, um grupo de detecção de deepfake, rastreou vários materiais pornográficos que retratavam a estrela pop, especialmente no X, enquanto outros estavam no Facebook e outras plataformas de mídia social.

De acordo com Ben Decker, do grupo de inteligência de ameaças Memetica, as imagens de Taylor Swift O primeiro veio de uma campanha chamada Lewd DALL-E, especializada em imagens sexualmente explícitas de mulheres celebridades geradas por IA.

“Faz parte de uma relação antagônica de longa data entre trolls e plataformas”, disse Decker.

“Enquanto existirem plataformas, os trolls tentarão interrompê-las. E enquanto existirem trolls, as plataformas serão interrompidas. Então a questão realmente é: quantas vezes mais isso vai acontecer antes que haja qualquer mudança séria?”

A a Casa Branca na sexta-feira opinou sobre o assunto, chamando as imagens falsas de “alarmantes” e apelando às plataformas de mídia social para assumir a responsabilidade para evitar a propagação de desinformação.

• Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
• PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
• PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
• PlatãoESG. Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
• PlatoHealth. Inteligência em Biotecnologia e Ensaios Clínicos. Acesse aqui.
• Fonte: https://metanews.com/x-hunts-for-content-moderators-after-taylor-swift-chaos/