Twitch forbyder AI-genereret Seinfeld-show for at lave transfobiske vittigheder

Genudgivet af Platon

Abonnenter: 0

video Seinfeld-spoofet Nothing, Forever – en sitcom udviklet ved hjælp af generativ AI – er blevet midlertidigt forbudt på Twitch, efter at en af karaktererne ved et uheld udslyngede transfobiske bandeord.

Det bizarre show lavet overskrifter sidste uge for at bruge kunstig intelligens til at improvisere billeder og manuskript til en uendelig episode af Seinfeld. I komedie, der imiterer kunst, sitcom 30 Rock forudsagde sådan noget for over 15 år siden.

Karaktererne, der er modelleret efter ikoniske komedieseriefigurer Jerry, George, Elaine og Kramer, udtaler en dialog, der er fuldstændig opdigtet ved hjælp af OpenAI's GPT-3 sprogmodeller. Teksten oversættes til lyd ved hjælp af tekst-til-tale-algoritmer, og baggrunde og scener er også AI-genereret. Intet, Forever streamede på Twitch 24/7 og har tiltrukket mange følgere, siden det begyndte at blive sendt sidste år i december.

Men kanal vært for showet blev taget ned i mandags for overtræde Twitchs indholdspolitikker. Skyler Hartle, medstifter af Mismatch Media og en af skaberne bag Nothing, Forever, fortalte Registret forbuddet blev udstedt på grund af hovedpersonen, Larry Feinberg, der kom med stødende kommentarer om, at transkønnede "ødelægger samfundets struktur", at være transkønnet er en psykisk sygdom, og at "alle liberale er hemmeligt homoseksuelle".

Du kan se den dårlige stand-up scene nedenfor.

Youtube Video

Hartle sagde, at showets manuskript gik af sporet, da dets skabere skiftede fra at bruge OpenAIs GPT-3-model Davinci-model til en mindre kraftfuld og billigere version ved navn Curie, og ikke implementerede softwarefunktioner for at moderere indholdet.

"Vi oplevede et problem med vores forbindelse til Davinci i går aftes og var nødt til at skifte til Curie-modellen, mens problemet løste sig selv. Det var da den upassende tekst blev genereret, og vi lukkede den straks ned. Vi undersøgte problemet yderligere og opdagede, at vi ikke udnyttede OpenAIs indholdsmodereringsværktøjer korrekt,” fortalte han os.

Hartle bekræftede, at forbuddet er midlertidigt og bør vare 14 dage. Mismatch Media arbejder nu på at implementere OpenAIs indholdsmodereringsværktøjer og overvejer også et sekundært system til at spore modellens output.

"Den tekst, vi genererede, var en fejl, vi er super flove, og at det generative indhold, der er skabt, på ingen måde afspejler vores medarbejderes værdier eller meninger. Vi beklager meget, at dette skete, og håber snart at være tilbage i luften med alle de passende sikkerhedsforanstaltninger på plads,” sagde han.

Store sprogmodeller som GPT-3 trænes fra tekst skrabet fra internettet og kan generere upassende, stødende sprogbrug. Indholdsfiltre kan minimere den værste tekst, men uddrag vil stadig snige sig igennem selv med sikkerhedsforanstaltninger på plads.

En talsmand fra Twitch sendte Registret virksomhedens retningslinjer for fællesskabet, der omhandler hadefuld adfærd, og sagde:

"Vi kommenterer ikke specifikke krænkelser af hensyn til privatlivets fred, men vi træffer passende foranstaltninger, når vi har beviser for, at en kanal har handlet i strid med vores retningslinjer for fællesskabet eller servicevilkår." ®