Hiina keelab ilma loata või kurja jaoks loodud süvavõltsingud

Hiina küberruumi administratsioon on välja andnud juhised, kuidas süvavõltsinguid õigesti teha.

Deepfakes kasutavad tehisintellekti, et luua realistlikke kujutisi – tavaliselt videoid – inimestest, kes ütlevad ja/või teevad asju, mida nad pole öelnud ja/või teinud. Need on väljaspool Hiinat vastuolulised, kuna võivad publikut eksitada ja kujutatud inimestele probleeme tekitada.

Pekingil on ilmselgelt mures ka selle tehnika pärast, nagu on välja andnud küberruumi administratsioon (CAC). määrused mis keelavad nende loomise ilma subjekti loata või kujutavad või lausuvad midagi, mida võiks pidada rahvuslike huvidega vastuolus olevaks. Kõik, mis on vastuolus sotsialistlike väärtustega, kuulub selle kirjelduse alla, nagu ka igasugune "illegaalne ja kahjulik teave" või tehisintellekti loodud inimeste kasutamine petmise või laimamise katseks.

Kuid reeglid viitavad ka sellele, et Hiina eeldab, et sünteetilisi inimesi kasutatakse laialdaselt. Näiteks võimaldavad need kasutada süvavõltsinguid sellistes rakendustes nagu vestlusrobotid. Selliste stsenaariumide korral tuleb sügavvõltsingud märgistada digitaalse loominguna.

Dokumendis nähakse ka ette, et veebikirjastajad hakkavad kasutama süvavõltsinguid, mis peavad arvestama Hiina lugematute muude vastuvõetava veebisisu reeglid.

Kaasa arvatud see, mis tsenseeris Internetis Karupoeg Puhhi pilte, kuna armastatud karu – nagu kujutas illustraator EH Shepard – tundus sarnanevat Hiina tõenäoliselt eluaegse presidendi Xi Jinpingiga ja pilkanud teda.

Register seetõttu soovitab see olla väga-väga vapper Hiina arendaja, kes loob fotorealistliku ursine'i vestlusroti või avatari.

Määrustes on ka kirjas, kuidas süvavõltsingute loojad – keda nimetatakse sünteesiteenuse pakkujateks – peavad hoolitsema selle eest, et nende AI/ML mudelid ja algoritmid oleksid täpsed ja korrapäraselt üle vaadatud ning tagama kogutavate andmete turvalisuse.

Reeglid sisaldavad ka kasutajate registreerimise nõuet – sealhulgas nende pärisnimesid. Sest kui lubada tundmatul inimesel deepfake’idega jamada, see ei sobiks.

Reeglite eesmärk on tagada, et sünteesitehnoloogia väldib negatiivseid külgi ja toob Hiinale kasu. Või nagu Peking ütleb (ehkki tõlkes), peavad sügavad võltsingud "edendama Interneti-teabeteenuste tervislikku arengut ja säilitama küberruumi head ökoloogiat."

Määrused jõustuvad 10. jaanuaril 2023. ®