Twitch förbjuder AI-genererad Seinfeld-show för att göra transfobiska skämt

Återutgiven av Platon

anhängare: 0

Video Seinfeld-spoofen Nothing, Forever – en sitcom utvecklad med generativ AI – har tillfälligt förbjudits på Twitch efter att en av karaktärerna av misstag spydde ut transfobiska svordomar.

Den bisarra showen skapade rubriker förra veckan för att ha använt AI för att improvisera bilder och manus av ett aldrig sinande avsnitt av Seinfeld. I komedi som imiterar konst, sitcom 30 Rock förutsagda något liknande för över 15 år sedan.

Karaktärerna, modellerade efter den ikoniska komediseriens karaktärer Jerry, George, Elaine och Kramer, yttrar en dialog helt påhittad med OpenAI:s GPT-3-språkmodeller. Texten översätts till ljud med hjälp av text-till-tal-algoritmer och bakgrunderna och scenerna är också AI-genererade. Ingenting, Forever streamade på Twitch 24/7 och har lockat många följare sedan den började sändas förra året i december.

Men kanalisera värd för showen togs ner på måndagen för kränka Twitchs innehållspolicy. Skyler Hartle, medgrundare av Mismatch Media och en av skaparna bakom Nothing, Forever, berättade Registret förbudet utfärdades på grund av att huvudkaraktären, Larry Feinberg, kom med kränkande kommentarer om att transpersoner "förstör samhällets struktur", att vara transpersoner är en psykisk sjukdom och att "alla liberaler i hemlighet är homosexuella".

Du kan se den dåliga stand-up-scenen nedan.

Youtube Video

Hartle sa att showens manus vek av spåret när dess skapare bytte från att använda OpenAI:s GPT-3-modell Davinci-modell till en mindre kraftfull och billigare version vid namn Curie, och inte implementerade mjukvarufunktioner för att moderera dess innehåll.

"Vi upplevde ett problem med vår anslutning till Davinci i går kväll och var tvungna att byta till Curie-modellen medan problemet löste sig. Det var då den olämpliga texten genererades och vi stängde omedelbart ner den. Vi undersökte problemet ytterligare och upptäckte att vi inte utnyttjade OpenAI:s verktyg för innehållsmoderering på rätt sätt”, berättade han för oss.

Hartle bekräftade att förbudet är tillfälligt och bör pågå i 14 dagar. Mismatch Media arbetar nu med att distribuera OpenAI:s verktyg för innehållsmoderering och överväger även ett sekundärt system för att spåra modellens utdata.

"Texten vi skapade var ett misstag, vi är super generade och att det generativa innehållet som skapas inte på något sätt återspeglar värderingarna eller åsikterna hos vår personal. Vi beklagar mycket att detta hände och hoppas att snart vara tillbaka i luften, med alla lämpliga skyddsåtgärder på plats, säger han.

Stora språkmodeller som GPT-3 tränas från text skrapad från internet och kan generera olämpligt, stötande språk. Innehållsfilter kan minimera den värsta texten, men utdrag kommer fortfarande att smyga igenom även med säkerhetsåtgärder på plats.

En talesperson från Twitch skickade Registret företagets riktlinjer för communityn som handlar om hatiskt beteende och sa:

"Vi kommenterar inte specifika kränkningar av integritetsskäl, men vi vidtar lämpliga åtgärder när vi har bevis för att en kanal har agerat i strid med våra riktlinjer för communityn eller användarvillkor." ®