Twitch forbyr AI-generert Seinfeld-show for å lage transfobiske vitser

Publisert av Platon

Følgere: 0

video Seinfeld-forfalskningen Nothing, Forever – en sitcom utviklet med generativ AI – har blitt midlertidig forbudt på Twitch etter at en av karakterene ved et uhell spydde ut transfobiske banning.

Det bisarre showet skapte overskrifter forrige uke for å bruke kunstig intelligens til å improvisere bilder og manus til en uendelig episode av Seinfeld. I komedie som imiterer kunst, sitcom 30 Rock spådd noe slikt for over 15 år siden.

Karakterene, modellert etter den ikoniske komedieseriens karakterer Jerry, George, Elaine og Kramer, ytrer en dialog fullstendig oppfunnet ved hjelp av OpenAIs GPT-3-språkmodeller. Teksten er oversatt til lyd ved hjelp av tekst-til-tale-algoritmer, og bakgrunnene og scenene er også AI-generert. Ingenting, Forever strømmet på Twitch 24/7 og har tiltrukket seg mange følgere siden den begynte å sendes i fjor i desember.

Men kanal vert for showet ble tatt ned på mandag for brudd Twitchs retningslinjer for innhold. Skyler Hartle, medgründer av Mismatch Media og en av skaperne bak Nothing, Forever, fortalte Registeret forbudet ble utstedt på grunn av at hovedpersonen, Larry Feinberg, kom med støtende kommentarer om at transpersoner "ødelegger samfunnets struktur", å være transpersoner er en psykisk sykdom, og at "alle liberale i hemmelighet er homofile".

Du kan se den dårlige stand-up-scenen nedenfor.

Youtube Video

Hartle sa at showets manus gikk av sporet da skaperne byttet fra å bruke OpenAIs GPT-3-modell Davinci-modell til en mindre kraftig og billigere versjon kalt Curie, og ikke implementerte programvarefunksjoner for å moderere innholdet.

"Vi opplevde et problem med forbindelsen vår til Davinci i går kveld og måtte bytte til Curie-modellen mens problemet løste seg selv. Det var da den upassende teksten ble generert, og vi stengte den umiddelbart. Vi undersøkte problemet videre og oppdaget at vi ikke utnyttet OpenAIs innholdsmodereringsverktøy på riktig måte,» fortalte han oss.

Hartle bekreftet at forbudet er midlertidig og bør vare i 14 dager. Mismatch Media jobber nå med å distribuere OpenAIs innholdsmodereringsverktøy og vurderer også et sekundært system for å spore modellens utganger.

"Teksten vi genererte var en feil, vi er veldig flaue, og at det generative innholdet som er laget på ingen måte gjenspeiler verdiene eller meningene til våre ansatte. Vi beklager veldig at dette skjedde, og håper å være tilbake på lufta snart, med alle passende sikkerhetstiltak på plass, sa han.

Store språkmodeller som GPT-3 er trent fra tekst som er skrapet fra internett og kan generere upassende, støtende språk. Innholdsfiltre kan minimere den verste teksten, men utdrag vil fortsatt snike seg gjennom selv med sikkerhetstiltak på plass.

En talsperson fra Twitch sendte Registeret selskapets retningslinjer for fellesskapet som omhandler hatefull oppførsel, og sa:

"Vi kommenterer ikke spesifikke brudd av personvernhensyn, men vi iverksetter passende tiltak når vi har bevis på at en kanal har handlet i strid med retningslinjene våre eller vilkårene for bruk." ®