Twitch Bans AI-generated Seinfeld Show For Making Transphobic Jokes

Republicado por Platão

seguidores: 0

Vídeo A paródia de Seinfeld Nothing, Forever – uma sitcom desenvolvida usando IA generativa – foi temporariamente banida do Twitch depois que um dos personagens acidentalmente vomitou palavrões transfóbicos.

O show bizarro fez manchetes na semana passada por usar IA para improvisar visuais e roteiro de um episódio interminável de Seinfeld. Na comédia que imita a arte, sitcom 30 Rock previsto algo assim há mais de 15 anos.

Os personagens, modelados a partir dos personagens icônicos da série de comédia Jerry, George, Elaine e Kramer, proferem um diálogo totalmente criado usando os modelos de linguagem GPT-3 da OpenAI. O texto é traduzido para áudio usando algoritmos de conversão de texto em fala e os planos de fundo e cenas também são gerados por IA. Nothing, Forever foi transmitido no Twitch 24 horas por dia, 7 dias por semana e atraiu muitos seguidores desde que começou a ser exibido em dezembro do ano passado.

Mas o canal apresentar o show foi retirado na segunda-feira para violando Políticas de conteúdo do Twitch. Skyler Hartle, co-fundadora da Mismatch Media e uma das criadoras de Nothing, Forever, disse O registro a proibição foi emitida devido ao personagem principal, Larry Feinberg, fazer comentários ofensivos dizendo que os transgêneros estão "arruinando o tecido da sociedade", ser transgênero é uma doença mental e que "todos os liberais são secretamente gays".

Você pode assistir a cena de stand-up ruim abaixo.

Youtube Video

Hartle disse que o roteiro do programa saiu do rumo quando seus criadores mudaram de usar o modelo Davinci modelo GPT-3 da OpenAI para uma versão menos poderosa e mais barata chamada Curie, e não implementou recursos de software para moderar seu conteúdo.

“Tivemos um problema com nossa conexão com Davinci ontem à noite e tivemos que mudar para o modelo Curie enquanto o problema se resolvia. Foi quando o texto impróprio foi gerado e imediatamente o encerramos. Investigamos o problema mais a fundo e descobrimos que não estávamos aproveitando corretamente as ferramentas de moderação de conteúdo da OpenAI”, ele nos disse.

Hartle confirmou que a proibição é temporária e deve durar 14 dias. A Mismatch Media agora está trabalhando para implantar as ferramentas de moderação de conteúdo da OpenAI e também está considerando um sistema secundário para rastrear as saídas do modelo.

“O texto que geramos foi um equívoco, estamos super constrangidos, e que o conteúdo generativo criado não reflete de forma alguma os valores ou opiniões de nossa equipe. Lamentamos muito que isso tenha acontecido e esperamos voltar ao ar em breve, com todas as salvaguardas apropriadas”, disse ele.

Grandes modelos de linguagem, como o GPT-3, são treinados a partir de textos extraídos da Internet e podem gerar linguagem ofensiva e inapropriada. Os filtros de conteúdo podem minimizar o pior texto, mas os snippets ainda serão exibidos mesmo com as proteções em vigor.

Um porta-voz do Twitch enviou O registro as diretrizes da comunidade da empresa que lidam com conduta odiosa e disse:

“Não comentamos violações específicas por motivos de privacidade, mas tomamos as medidas apropriadas quando temos evidências de que um canal agiu violando nossas diretrizes da comunidade ou termos de serviço.” ®