Twitch kieltää tekoälyn luoman Seinfeld-ohjelman transfobisten vitsien tekemisen vuoksi

Twitch kieltää tekoälyn luoman Seinfeld-ohjelman transfobisten vitsien tekemisen vuoksi

Aikaleima: 6. helmikuuta 2023 8
Lähdesolmu: 1944150

Video Seinfeld-huijaus Nothing, Forever – generatiivisella tekoälyllä kehitetty sitcom – on väliaikaisesti kielletty Twitchissä sen jälkeen, kun yksi hahmoista sylki vahingossa transfobisia kirouksia.

Outo esitys pääsi otsikoihin viime viikolla tekoälyn avulla improvisoida visuaalisuutta ja käsikirjoitusta loputtomasta Seinfeld-jaksosta. Taidetta jäljittelevässä komediassa sitcom 30 Rock ennusti jotain tällaista yli 15 vuotta sitten.

Hahmot, jotka on mallinnettu ikonisen komediasarjan hahmojen Jerryn, Georgen, Elainen ja Kramerin mukaan, puhuvat dialogia, joka on täysin keksitty käyttämällä OpenAI:n GPT-3-kielimalleja. Teksti käännetään ääneksi tekstistä puheeksi -algoritmeilla, ja myös taustat ja kohtaukset ovat tekoälyn luomia. Ei mitään, Forever striimattiin Twitchissä 24/7 ja on kerännyt monia seuraajia sen jälkeen, kun se aloitettiin viime vuoden joulukuussa.

Mutta kanava näyttelyn isäntä lopetettiin maanantaina rikkoo Twitchin sisältökäytännöt. Skyler Hartle, Mismatch Median perustaja ja yksi Nothingin, Foreverin tekijöistä, kertoi. Rekisteri kielto myönnettiin, koska päähenkilö Larry Feinberg kommentoi loukkaavaa, että transsukupuoliset ihmiset "pilaavat yhteiskunnan rakenteen", transsukupuolisuus on mielisairaus ja että "kaikki liberaalit ovat salaa homoja".

Voit katsoa huonon stand up -kohtauksen alta.

Youtube Video

Hartle sanoi, että ohjelman käsikirjoitus poikkesi raiteilta, kun sen tekijät vaihtoivat OpenAI:n GPT-3-mallin Davinci-mallin käytöstä vähemmän tehokkaaseen ja halvempaan versioon nimeltä Curie, eivätkä ottaneet käyttöön ohjelmistoominaisuuksia sen sisällön moderointiin.

”Koimme eilen illalla ongelman yhteydessämme Davinciin ja jouduimme vaihtamaan Curie-malliin, kun ongelma ratkesi itsestään. Tämä oli silloin, kun sopimaton teksti luotiin, ja suljimme sen välittömästi. Tutkimme asiaa tarkemmin ja huomasimme, että emme käyttäneet OpenAI:n sisällönvalvontatyökaluja oikein", hän kertoi.

Hartle vahvisti, että kielto on väliaikainen ja sen pitäisi kestää 14 päivää. Mismatch Media työskentelee nyt ottaakseen käyttöön OpenAI:n sisällönvalvontatyökaluja ja harkitsee myös toissijaista järjestelmää mallin tulosten seuraamiseksi. 

”Luomaamamme teksti oli virhe, olemme erittäin hämmentyneet, ja luotu generatiivinen sisältö ei millään tavalla kuvasta henkilöstömme arvoja tai mielipiteitä. Olemme erittäin pahoillamme tästä tapahtuneesta ja toivomme, että pääsemme pian takaisin televisioon, kun kaikki asianmukaiset suojatoimet ovat käytössä”, hän sanoi.

Suuret kielimallit, kuten GPT-3, on koulutettu Internetistä hakatun tekstin perusteella, ja ne voivat tuottaa sopimatonta, loukkaavaa kieltä. Sisältösuodattimet voivat minimoida pahimman tekstin, mutta katkelmat pääsevät silti läpi, vaikka suojatoimet olisivat käytössä. 

Twitchin tiedottaja lähetti Rekisteri yrityksen vihamielistä toimintaa koskevat yhteisön säännöt ja sanoi:

"Emme kommentoi tiettyjä rikkomuksia tietosuojasyistä, mutta ryhdymme tarvittaviin toimiin, kun meillä on todisteita siitä, että kanava on toiminut yhteisön sääntöjemme tai käyttöehtojemme vastaisesti." ®

Aikaleima:

Lisää aiheesta Rekisteri