Kina forbyder deepfakes skabt uden tilladelse eller for det onde

Kinas cyberspace-administration har udstedt retningslinjer for, hvordan man laver deepfakes på den rigtige måde.

Deepfakes bruger kunstig intelligens til at skabe realistiske skildringer – som regel videoer – af mennesker, der siger og/eller gør ting, de ikke sagde og/eller gjorde. De er kontroversielle uden for Kina for deres potentiale til at vildlede publikum og skabe problemer for de afbildede mennesker.

Beijing har tydeligvis også bekymringer om teknikken, som Cyberspace Administration (CAC) har udstedt regler der forbyder deres oprettelse uden subjektets tilladelse, eller for at afbilde eller ytre noget, der kunne anses for at være i modstrid med den nationale interesse. Alt i modstrid med socialistiske værdier falder ind under denne beskrivelse, ligesom enhver form for "Ulovlig og skadelig information" eller brug af AI-genererede mennesker i et forsøg på at bedrage eller bagvaske.

Men reglerne tyder også på, at Kina forventer, at syntetiske mennesker vil blive meget brugt. For eksempel tillader de brug af deepfakes i applikationer som chatbots. I sådanne scenarier skal deepfakes markeres som digitale kreationer.

Dokumentet forudser også, at deepfakes vil blive brugt af online-udgivere, som skal tage højde for Kinas utallige andre regler om acceptabelt onlineindhold.

Inklusiv den, der censporede billeder af Peter Plys online, da den elskede bjørn – som afbildet af illustrator EH Shepard – føltes at ligne og håne Kinas præsident-for-sandsynligvis-liv Xi Jinping.

Registret foreslår derfor, at det vil være en meget, meget, modig kinesisk udvikler, der skaber en fotorealistisk ursine chatbot eller avatar.

Reglerne præciserer også, hvordan skaberne af deepfakes - som kaldes "deepsynthesis service providers" - skal sørge for, at deres AI/ML-modeller og algoritmer er nøjagtige og regelmæssigt revideret, og sikre sikkerheden af ​​data, de indsamler.

Reglerne indeholder også et krav om registrering af brugere – herunder deres rigtige navne. Fordi at tillade en ukendt person at rode med deepfakes ville ikke gøre det.

Reglerne er opstillet som at sikre, at synteseteknologi undgår ulemperne og leverer fordele til Kina. Eller, som Beijing udtrykker det (omend i oversættelse), deepfakes skal "fremme den sunde udvikling af internetinformationstjenester og opretholde en god økologi i cyberspace."

Reglerne træder i kraft den 10. januar 2023. ®