Twitch prepoveduje oddajo Seinfeld, ki jo ustvari umetna inteligenca, zaradi transfobnih šal

Ponovno objavil Platon

Spremljevalci: 0

Video Seinfeldova prevara Nothing, Forever – sitcom, razvit z uporabo generativne umetne inteligence – je bila začasno prepovedana na Twitchu, potem ko je eden od likov pomotoma bruhal transfobične kletvice.

Bizarna predstava naslovi prejšnji teden za uporabo umetne inteligence za improvizacijo vizualnih podob in scenarija neskončne epizode Seinfelda. V komediji, ki posnema umetnost, sitcom 30 Rock napovedano nekaj takega pred več kot 15 leti.

Liki, oblikovani po likih Jerryja, Georgea, Elaine in Kramerja iz legendarnih humorističnih serij, izgovarjajo dialog, ki je v celoti sestavljen z uporabo jezikovnih modelov OpenAI GPT-3. Besedilo je prevedeno v zvok z uporabo algoritmov za pretvorbo besedila v govor, ozadja in prizore pa prav tako ustvari umetna inteligenca. Nič, Forever se je predvajal na Twitchu 24/7 in je pritegnil veliko sledilcev, odkar so ga začeli predvajati lani decembra.

Vendar kanal vodenje oddaje v ponedeljek ukinili zaradi krši Twitch pravilnik o vsebini. Skyler Hartle, soustanovitelj Mismatch Media in eden od ustvarjalcev Nothing, Forever, je povedal Register prepoved je bila izdana zaradi žaljivih komentarjev glavnega junaka Larryja Feinberga, češ da transspolni ljudje "uničujejo tkivo družbe", da je biti transspolna oseba duševna bolezen in da so "vsi liberalci na skrivaj geji".

Spodaj si lahko ogledate slabo stand-up sceno.

Youtube Video

Hartle je dejal, da je scenarij oddaje zašel s tira, ko so njeni ustvarjalci prešli z uporabe OpenAI-jevega modela GPT-3 modela Davinci na manj zmogljivo in cenejšo različico, imenovano Curie, in niso implementirali funkcij programske opreme za moderiranje njene vsebine.

»Sinoči smo imeli težavo z našo povezavo z Davincijem in morali smo preklopiti na model Curie, medtem ko se je težava rešila sama. Takrat je nastalo neprimerno besedilo in takoj smo ga zaprli. Težavo smo dodatno raziskali in ugotovili, da orodij OpenAI za moderiranje vsebine nismo pravilno izkoriščali,« nam je povedal.

Hartle je potrdil, da je prepoved začasna in naj bi trajala 14 dni. Mismatch Media zdaj dela na uvajanju orodij OpenAI za moderiranje vsebine in razmišlja tudi o sekundarnem sistemu za sledenje izhodom modela.

»Besedilo, ki smo ga ustvarili, je bila napaka, zelo smo osramočeni in da ustvarjena generativna vsebina nikakor ne odraža vrednot ali mnenj našega osebja. Zelo obžalujemo, da se je to zgodilo, in upamo, da se bomo kmalu vrnili v eter z vsemi ustreznimi zaščitnimi ukrepi,« je dejal.

Veliki jezikovni modeli, kot je GPT-3, se učijo iz besedila, postrganega iz interneta, in lahko ustvarijo neprimeren, žaljiv jezik. Vsebinski filtri lahko minimizirajo najslabše besedilo, vendar se bodo izrezki še vedno prikradli skozi, tudi če so vzpostavljeni zaščitni ukrepi.

Poslal je tiskovni predstavnik podjetja Twitch Register smernice skupnosti družbe, ki obravnavajo sovražno vedenje, in dejal:

"Ne komentiramo posebnih kršitev zaradi zasebnosti, vendar ustrezno ukrepamo, ko imamo dokaze, da je kanal deloval v nasprotju z našimi smernicami skupnosti ali pogoji storitve." ®