Twitch keelab AI-ga loodud Seinfeldi saate transfoobsete naljade tegemise eest

Twitch keelab AI-ga loodud Seinfeldi saate transfoobsete naljade tegemise eest

Ajatempel: 6. veebruar 2023 8:03
Allikasõlm: 1944150

Video Seinfeldi pettus Nothing, Forever – generatiivse AI abil välja töötatud sitcom – on Twitchis ajutiselt keelatud pärast seda, kui üks tegelastest kogemata transfoobseid roppusi välja pani.

Kummaline saade tehtud pealkirjad eelmisel nädalal AI kasutamise eest Seinfeldi lõputu episoodi visuaalide ja stsenaariumi improviseerimiseks. Kunsti jäljendavas komöödias sitcom 30 Rock ennustada midagi sellist rohkem kui 15 aastat tagasi.

Ikoonilise komöödiasarja tegelaste Jerry, George'i, Elaine'i ja Krameri järgi modelleeritud tegelased kõnelevad dialoogi, mis on täielikult välja mõeldud OpenAI GPT-3 keelemudelite abil. Tekst tõlgitakse heliks, kasutades kõneks muutmise algoritme ning ka taustad ja stseenid on AI loodud. Mitte midagi, Forever edastas Twitchis 24/7 ja on kogunud palju jälgijaid alates eelmise aasta detsembris eetrisse jõudmisest.

Kuid kanal saate võõrustamine võeti esmaspäeval maha rikub Twitchi sisueeskirjad. Skyler Hartle, Mismatch Media kaasasutaja ja üks Nothing, Foreveri loojatest, rääkis Register keeld anti välja selle tõttu, et peategelane Larry Feinberg tegi solvavaid kommentaare, öeldes, et transsoolised inimesed "rikuvad ühiskonna struktuuri", transseksuaalsus on vaimuhaigus ja et "kõik liberaalid on salaja geid".

Halba stand-up-stseeni saate vaadata allpool.

Youtube'i video

Hartle ütles, et saate stsenaarium kaldus rööbastelt kõrvale, kui selle loojad läksid OpenAI GPT-3 mudeli Davinci mudelilt üle vähem võimsale ja odavamale versioonile nimega Curie ega rakendanud selle sisu modereerimiseks tarkvarafunktsioone.

„Meil tekkis eile õhtul probleem seoses ühendusega Davinciga ja pidime üle minema Curie mudelile, kuni probleem lahenes iseenesest. See oli siis, kui loodi sobimatu tekst ja me sulgesime selle kohe. Uurisime probleemi edasi ja avastasime, et me ei kasutanud OpenAI sisu modereerimise tööriistu õigesti, ”rääkis ta meile.

Hartle kinnitas, et keeld on ajutine ja peaks kestma 14 päeva. Mismatch Media töötab nüüd OpenAI sisu modereerimise tööriistade juurutamise nimel ja kaalub ka teisejärgulist süsteemi mudeli väljundite jälgimiseks. 

„Meie loodud tekst oli viga, meil on ülipiinlik ja loodud generatiivne sisu ei peegelda kuidagi meie töötajate väärtusi ega arvamusi. Meil on väga kahju, et see juhtus, ja loodame, et oleme peagi eetris tagasi koos kõigi vajalike kaitsemeetmetega, ”sõnas ta.

Suured keelemudelid, nagu GPT-3, on välja õpetatud Internetist kraabitud teksti põhjal ja võivad tekitada sobimatut ja solvavat keelt. Sisufiltrid võivad halvimat teksti minimeerida, kuid väljavõtted hiilivad siiski läbi isegi siis, kui kaitsemeetmed on paigas. 

Twitchi pressiesindaja saatis Register ettevõtte vihkamist õhutavat käitumist käsitlevad juhised ja ütles:

"Me ei kommenteeri konkreetseid rikkumisi privaatsuskaalutlustel, kuid võtame asjakohased meetmed, kui meil on tõendeid selle kohta, et kanal on tegutsenud meie kogukonna juhiseid või teenusetingimusi rikkudes." ®

Ajatempel:

Veel alates Register