A Twitch betiltja a mesterséges intelligencia által generált Seinfeld-show-t a transzfóbiás viccek készítéséhez

Újra kiadta Platón

Követő: 0

videó A Seinfeld hamis Nothing, Forever – egy generatív mesterséges intelligencia felhasználásával kifejlesztett komédia – ideiglenesen betiltották a Twitch-en, miután az egyik szereplő véletlenül transzfób trágárságokat szórt ki.

A bizarr show készült címsorok múlt héten, amiért mesterséges intelligencia segítségével improvizálták a Seinfeld egy véget nem érő epizódjának látványvilágát és forgatókönyvét. Művészetutánzó vígjátékban, a 30 Rock című sitcomban jósolt valami ilyesmi több mint 15 évvel ezelőtt.

A karakterek, akiket az ikonikus vígjátéksorozat karakterei, Jerry, George, Elaine és Kramer mintájára alakítottak, egy teljesen az OpenAI GPT-3 nyelvi modelljeiből kitalált párbeszédet folytatnak. A szöveget szövegfelolvasó algoritmusok segítségével hangra fordítják, és a háttereket és a jeleneteket is mesterséges intelligencia generálja. Semmi, a Forever a nap 24 órájában közvetített a Twitch-en, és sok követőt vonzott a tavaly decemberi adás óta.

De a csatorna a műsor házigazdáját hétfőn levették megsértése A Twitch tartalmi irányelvei. Skyler Hartle, a Mismatch Media társalapítója és a Nothing, Forever egyik alkotója elmondta. A regisztráció A tilalmat a főszereplő, Larry Feinberg sértő megjegyzései miatt adták ki, akik szerint a transzneműek „tönkreteszik a társadalom szövetét”, a transzneműnek lenni mentális betegség, és „titkon minden liberális meleg”.

Alább megtekintheti a rossz stand-up jelenetet.

Youtube Video

Hartle szerint a műsor forgatókönyve elfordult, amikor az alkotók az OpenAI GPT-3 Davinci modelljéről egy kevésbé hatékony és olcsóbb, Curie nevű verzióra váltottak, és nem alkalmaztak szoftveres funkciókat a tartalom moderálására.

„Tegnap este problémát tapasztaltunk a Davincivel való kapcsolatunkkal kapcsolatban, és át kellett váltanunk a Curie-modellre, amíg a probléma magától megoldódott. Ekkor keletkezett a nem megfelelő szöveg, és azonnal leállítottuk. Tovább vizsgáltuk a problémát, és rájöttünk, hogy nem használjuk megfelelően az OpenAI tartalommoderáló eszközeit” – mondta nekünk.

Hartle megerősítette, hogy a tilalom ideiglenes, és 14 napig tart. A Mismatch Media jelenleg az OpenAI tartalommoderáló eszközeinek telepítésén dolgozik, és egy másodlagos rendszert is fontolgat a modell kimeneteinek nyomon követésére.

„Az általunk generált szöveg tévedés volt, rendkívül zavarban vagyunk, és hogy a létrehozott generatív tartalom semmiképpen sem tükrözi munkatársaink értékeit vagy véleményét. Nagyon sajnáljuk, hogy ez megtörtént, és reméljük, hogy hamarosan újra műsorra tűzhetjük, minden megfelelő biztosíték mellett” – mondta.

Az olyan nagy nyelvi modelleket, mint a GPT-3, az internetről lemásolt szövegből képezik ki, és nem megfelelő, sértő nyelvezetet generálhatnak. A tartalomszűrők minimalizálhatják a legrosszabb szöveget, de a töredékek még akkor is besurrannak, ha biztosítékok vannak.

A Twitch szóvivője küldte A regisztráció a vállalat gyűlöletkeltő magatartással foglalkozó közösségi irányelveit, és azt mondta:

„Adatvédelmi okokból nem kommentálunk konkrét jogsértéseket, de megtesszük a megfelelő lépéseket, ha bizonyítékunk van arra, hogy egy csatorna megsértette közösségi irányelveinket vagy Általános Szerződési Feltételeinket.” ®