Kitajska prepoveduje globoke ponaredke, ustvarjene brez dovoljenja ali za zlo

Kitajska uprava za kibernetski prostor je izdala smernice o tem, kako narediti deepfake na pravi način.

Deepfakes uporabljajo umetno inteligenco za ustvarjanje realističnih upodobitev – običajno videoposnetkov – ljudi, ki govorijo in/ali delajo stvari, ki jih niso rekli in/ali naredili. Zunaj Kitajske so sporni zaradi njihovega potenciala zavajanja občinstva in ustvarjanja težav prikazanim ljudem.

Peking očitno skrbi tudi glede tehnike, kot je izdala uprava za kibernetski prostor (CAC). predpisi ki prepovedujejo njihovo ustvarjanje brez dovoljenja subjekta ali upodabljanje ali izrekanje česar koli, kar bi lahko veljalo za nasprotno nacionalnemu interesu. Vse, kar je v nasprotju s socialističnimi vrednotami, spada pod ta opis, tako kot katera koli oblika "nezakonitih in škodljivih informacij" ali uporaba ljudi, ki jih je ustvarila umetna inteligenca, za poskus zavajanja ali obrekovanja.

Toda pravila tudi kažejo, da Kitajska pričakuje, da bodo sintetični ljudje široko uporabljeni. Na primer, dovoljujejo uporabo globokih ponaredkov v aplikacijah, kot so chatboti. V takšnih scenarijih je treba globoke ponaredke označiti kot digitalne stvaritve.

Dokument tudi predvideva, da bodo deepfake uporabljali spletni založniki, ki morajo upoštevati nešteto drugih kitajskih pravila o sprejemljivi spletni vsebini.

Vključno s tistim, ki je na spletu cenzuriral slike Medvedka Puja, ko je bil ljubljeni medved – kot ga je upodobil ilustrator EH Shepard – podoben in se norčeval iz kitajskega predsednika, verjetno dosmrtnega, Xi Jinpinga.

Register zato nakazuje, da bo zelo, zelo pogumen kitajski razvijalec, ki bo ustvaril fotorealističnega klepetalnega robota ali avatarja ursin.

Predpisi tudi določajo, kako morajo ustvarjalci globokih ponaredkov – ki se imenujejo »ponudniki storitev globoke sinteze« – poskrbeti, da so njihovi modeli in algoritmi AI/ML točni in redno revidirani, ter zagotoviti varnost podatkov, ki jih zbirajo.

Pravila vključujejo tudi zahtevo po registraciji uporabnikov – vključno z njihovimi pravimi imeni. Ker dovoliti neznani osebi, da se zapleta z deepfaki, ne bi ustrezalo.

Pravila so zastavljena tako, da zagotavljajo, da se tehnologija sinteze izogne ​​slabim stranem in prinaša koristi Kitajski. Ali, kot pravi Peking (čeprav v prevodu), morajo globoke ponaredke »spodbujati zdrav razvoj internetnih informacijskih storitev in vzdrževati dobro ekologijo kibernetskega prostora«.

Pravilnik začne veljati 10. januarja 2023. ®