China verbiedt deepfakes die zonder toestemming of met kwaad opzet zijn gemaakt

De Chinese cyberspace-administratie heeft richtlijnen uitgevaardigd voor het op de juiste manier uitvoeren van deepfakes.

Deepfakes maken gebruik van kunstmatige intelligentie om realistische afbeeldingen – meestal video’s – te creëren van mensen die dingen zeggen en/of doen die ze niet zeggen en/of doen. Ze zijn controversieel buiten China vanwege hun potentieel om het publiek te misleiden en problemen te veroorzaken voor de afgebeelde mensen.

Beijing maakt zich duidelijk ook zorgen over de techniek zoals de Cyberspace Administration (CAC) heeft bekendgemaakt reglement die hun creatie verbieden zonder de toestemming van het onderwerp, of om iets af te beelden of te uiten dat zou kunnen worden beschouwd als in strijd met het nationale belang. Alles wat in strijd is met socialistische waarden valt onder die omschrijving, evenals elke vorm van "illegale en schadelijke informatie" of het gebruik van door AI gegenereerde mensen in een poging tot misleiding of laster.

Maar de regels suggereren ook dat China verwacht dat synthetische mensen op grote schaal zullen worden gebruikt. Ze staan ​​bijvoorbeeld het gebruik van deepfakes toe in toepassingen zoals chatbots. In dergelijke scenario's moeten deepfakes worden gemarkeerd als digitale creaties.

Het document voorziet ook in het gebruik van deepfakes door online uitgevers, die rekening moeten houden met de talloze andere Chinese regels over acceptabele online-inhoud.

Waaronder degene die afbeeldingen van Winnie de Poeh online censureerde, aangezien de geliefde beer - zoals afgebeeld door illustrator EH Shepard - werd gevoeld als lijkend op, en bespottend, de Chinese president-voor-waarschijnlijk-leven Xi Jinping.

Het register suggereert daarom dat het een heel, heel dappere Chinese ontwikkelaar zal zijn die een fotorealistische Ursine-chatbot of -avatar maakt.

De regelgeving beschrijft ook hoe de makers van deepfakes – die “deep-synthese-serviceproviders” worden genoemd – ervoor moeten zorgen dat hun AI/ML-modellen en algoritmen nauwkeurig zijn en regelmatig worden herzien, en de veiligheid van de gegevens die ze verzamelen waarborgen.

De regels bevatten ook een vereiste voor registratie van gebruikers – inclusief hun echte naam. Want een onbekende laten rotzooien met deepfakes zou niet volstaan.

De regels zijn bedoeld om ervoor te zorgen dat synthesetechnologie de nadelen vermijdt en voordelen oplevert voor China. Of, zoals Beijing het stelt (zij het in vertaling), deepfakes moeten "de gezonde ontwikkeling van internetinformatiediensten bevorderen en een goede ecologie van cyberspace in stand houden."

De regelgeving treedt in werking op 10 januari 2023. ®