La Chine interdit les deepfakes créés sans autorisation ou pour le mal

L'administration chinoise du cyberespace a publié des directives sur la façon de faire des deepfakes de la bonne manière.

Les deepfakes utilisent l'intelligence artificielle pour créer des représentations réalistes - généralement des vidéos - d'humains disant et/ou faisant des choses qu'ils n'ont pas dites et/ou faites. Ils sont controversés en dehors de la Chine pour leur potentiel à induire le public en erreur et à créer des problèmes pour les personnes représentées.

Pékin a clairement aussi des inquiétudes à propos de la technique, car la Cyberspace Administration (CAC) a publié règlements qui interdisent leur création sans l'autorisation du sujet, ou de représenter ou de dire quoi que ce soit qui puisse être considéré comme contraire à l'intérêt national. Tout ce qui va à l'encontre des valeurs socialistes relève de cette description, tout comme toute forme d '«information illégale et nuisible» ou l'utilisation d'humains générés par l'IA dans le but de tromper ou de calomnier.

Mais les règles suggèrent également que la Chine s'attend à ce que les humains synthétiques soient largement utilisés. Par exemple, ils permettent l'utilisation de deepfakes dans des applications telles que les chatbots. Dans de tels scénarios, les deepfakes doivent être signalés comme des créations numériques.

Le document envisage également que les deepfakes seront utilisés par les éditeurs en ligne, qui doivent tenir compte de la myriade d'autres règles sur le contenu en ligne acceptable.

Y compris celui qui censurait les images de Winnie l'ourson en ligne, car l'ours bien-aimé – tel que représenté par l'illustrateur EH Shepard – était ressenti comme ressemblant et se moquant du président chinois à vie Xi Jinping.

Le registre suggère donc que ce sera un développeur chinois très, très courageux qui créera un chatbot ou un avatar ursine photoréaliste.

La réglementation précise également comment les créateurs de deepfakes - qui sont appelés "fournisseurs de services de synthèse profonde" - doivent veiller à ce que leurs modèles et algorithmes d'IA/ML soient précis et régulièrement révisés, et assurer la sécurité des données qu'ils collectent.

Les règles incluent également une exigence d'enregistrement des utilisateurs - y compris leurs vrais noms. Parce que permettre à une personne inconnue de jouer avec les deepfakes ne ferait pas l'affaire.

Les règles sont présentées comme garantissant que la technologie de synthèse évite les inconvénients et offre des avantages à la Chine. Ou, comme le dit Pékin (bien qu'en traduction), les deepfakes doivent "promouvoir le développement sain des services d'information sur Internet et maintenir une bonne écologie du cyberespace".

Le règlement entre en vigueur le 10 janvier 2023. ®