Twitch interdit l'émission Seinfeld générée par l'IA pour faire des blagues transphobes

Republié par Platon

Suiveurs: 0

Vidéo La parodie de Seinfeld Nothing, Forever – une sitcom développée à l'aide de l'IA générative – a été temporairement interdite sur Twitch après que l'un des personnages ait accidentellement craché des grossièretés transphobes.

Le spectacle bizarre fait la une des journaux la semaine dernière pour avoir utilisé l'IA pour improviser les visuels et le scénario d'un épisode sans fin de Seinfeld. Dans la comédie imitant l'art, sitcom 30 Rock prédit quelque chose comme ça il y a plus de 15 ans.

Les personnages, inspirés des personnages emblématiques de la série comique Jerry, George, Elaine et Kramer, prononcent un dialogue entièrement composé à l'aide des modèles de langage GPT-3 d'OpenAI. Le texte est traduit en audio à l'aide d'algorithmes de synthèse vocale et les arrière-plans et les scènes sont également générés par l'IA. Nothing, Forever a été diffusé sur Twitch 24h/7 et XNUMXj/XNUMX et a attiré de nombreux abonnés depuis sa diffusion l'année dernière en décembre.

Mais chaine l'animation de l'émission a été supprimée lundi pour violer Politiques de contenu de Twitch. Skyler Hartle, co-fondateur de Mismatch Media et l'un des créateurs de Nothing, Forever, a déclaré Le registre l'interdiction a été émise en raison du personnage principal, Larry Feinberg, qui a fait des commentaires offensants disant que les personnes transgenres « ruinent le tissu de la société », qu'être transgenre est une maladie mentale et que « tous les libéraux sont secrètement homosexuels ».

Vous pouvez regarder la mauvaise scène de stand-up ci-dessous.

Youtube Video

Hartle a déclaré que le script de l'émission avait dérapé lorsque ses créateurs sont passés du modèle Davinci du modèle GPT-3 d'OpenAI à une version moins puissante et moins chère nommée Curie, et n'ont pas implémenté de fonctionnalités logicielles pour modérer son contenu.

"Nous avons rencontré un problème avec notre connexion à Davinci la nuit dernière et avons dû passer au modèle Curie pendant que le problème se résolvait de lui-même. C'est à ce moment-là que le texte inapproprié a été généré et nous l'avons immédiatement fermé. Nous avons approfondi le problème et découvert que nous n'utilisions pas correctement les outils de modération de contenu d'OpenAI », nous a-t-il dit.

Hartle a confirmé que l'interdiction est temporaire et devrait durer 14 jours. Mismatch Media travaille actuellement au déploiement des outils de modération de contenu d'OpenAI et envisage également un système secondaire pour suivre les sorties du modèle.

"Le texte que nous avons généré était une erreur, nous sommes super gênés, et que le contenu génératif créé ne reflète en aucun cas les valeurs ou les opinions de notre personnel. Nous regrettons beaucoup que cela se soit produit et espérons être bientôt de retour en ondes, avec toutes les garanties appropriées en place », a-t-il déclaré.

Les grands modèles de langage comme GPT-3 sont formés à partir de texte extrait d'Internet et peuvent générer un langage inapproprié et offensant. Les filtres de contenu peuvent minimiser le pire texte, mais les extraits continueront de se faufiler même avec des protections en place.

Un porte-parole de Twitch a envoyé Le registre les directives communautaires de l'entreprise traitant des comportements haineux, et a déclaré :

"Nous ne commentons pas les violations spécifiques pour des raisons de confidentialité, mais nous prenons les mesures appropriées lorsque nous avons des preuves qu'une chaîne a agi en violation de nos directives communautaires ou de nos conditions d'utilisation." ®