Kiina kieltää ilman lupaa tai pahaa varten luodut syväväärennökset

Kiinan kyberavaruushallinto on julkaissut ohjeet syväväärennösten tekemiseen oikealla tavalla.

Deepfakes käyttää tekoälyä luodakseen realistisia kuvauksia – yleensä videoita – ihmisistä, jotka sanovat ja/tai tekevät asioita, joita he eivät sanoneet ja/tai tehneet. Ne ovat kiistanalaisia ​​Kiinan ulkopuolella, koska ne voivat johtaa yleisöä harhaan ja aiheuttaa ongelmia kuvatuille ihmisille.

Pekingillä on selvästi myös huolia tekniikasta, kuten Cyberspace Administration (CAC) on julkaissut määräykset jotka kieltävät niiden luomisen ilman subjektin lupaa tai kuvata tai lausua mitään, mitä voidaan pitää kansallisen edun vastaisena. Kaikki sosialististen arvojen vastainen kuuluu tämän kuvauksen piiriin, kuten myös kaikenlainen "laiton ja haitallinen tieto" tai tekoälyn tuottamien ihmisten käyttäminen pettämis- tai panetteluyrityksessä.

Mutta säännöt viittaavat myös siihen, että Kiina odottaa synteettisten ihmisten olevan laajalti käytössä. Ne mahdollistavat esimerkiksi syväväärennösten käytön sovelluksissa, kuten chatboteissa. Tällaisissa skenaarioissa syväväärennökset on merkittävä digitaalisiksi luomuksiksi.

Asiakirjassa ennakoidaan myös, että verkkojulkaisijat käyttävät syväväärennöksiä, joiden on otettava huomioon Kiinan lukemattomat muut hyväksyttävää verkkosisältöä koskevat säännöt.

Mukaan lukien se, joka sensuroi kuvia Nalle Puhista verkossa, sillä rakastettu karhu – kuten kuvittaja EH Shepard on kuvannut – tuntui muistuttavan Kiinan luultavasti elinikäistä presidenttiä Xi Jinpingiä ja pilkannut häntä.

Rekisteri Siksi ehdottaa, että se on erittäin, erittäin rohkea kiinalainen kehittäjä, joka luo fotorealistisen ursine-chatbotin tai avatarin.

Säännöissä täsmennetään myös, kuinka syväväärennösten tekijöiden, joita kutsutaan "syväsynteesipalveluntarjoajiksi", on huolehdittava siitä, että heidän AI/ML-mallinsa ja -algoritminsa ovat tarkkoja ja säännöllisesti tarkistettavia, sekä varmistettava keräämiensä tietojen turvallisuus.

Säännöt sisältävät myös vaatimuksen käyttäjien rekisteröinnistä – mukaan lukien heidän oikeat nimensä. Koska se, että tuntemattoman henkilön sallittaisiin sotkea syväväärennöksiä, ei auta.

Säännöt on suunniteltu varmistamaan, että synteesitekniikka välttää haittapuolet ja tuottaa etuja Kiinalle. Tai kuten Peking sanoo (tosin käännöksenä), syväväärennösten on "edistettävä Internetin tietopalvelujen tervettä kehitystä ja ylläpidettävä hyvää kyberavaruuden ekologiaa".

Säännöt astuvat voimaan 10. ®