China verbietet Deepfakes, die ohne Erlaubnis oder für das Böse erstellt wurden

Chinas Cyberspace Administration hat Richtlinien herausgegeben, wie man Deepfakes richtig macht.

Deepfakes verwenden künstliche Intelligenz, um realistische Darstellungen – normalerweise Videos – von Menschen zu erstellen, die Dinge sagen und/oder tun, die sie nicht gesagt und/oder getan haben. Außerhalb Chinas sind sie wegen ihres Potenzials, das Publikum in die Irre zu führen und den abgebildeten Personen Ärger zu bereiten, umstritten.

Peking hat offensichtlich auch Bedenken wegen der Technik, wie die Cyberspace Administration (CAC) herausgegeben hat Vorschriften die ihre Erstellung ohne die Erlaubnis des Subjekts verbieten, oder etwas darzustellen oder zu äußern, das als gegen das nationale Interesse erachtet werden könnte. Alles, was den sozialistischen Werten zuwiderläuft, fällt unter diese Beschreibung, ebenso wie jede Form von „illegalen und schädlichen Informationen“ oder die Verwendung von KI-generierten Menschen, um zu täuschen oder zu verleumden.

Aber die Regeln deuten auch darauf hin, dass China erwartet, dass synthetische Menschen weit verbreitet sein werden. Sie ermöglichen beispielsweise die Verwendung von Deepfakes in Anwendungen wie Chatbots. In solchen Szenarien müssen Deepfakes als digitale Kreationen gekennzeichnet werden.

Das Dokument sieht auch vor, dass Deepfakes von Online-Publishern verwendet werden, die Chinas unzählige andere berücksichtigen müssen Regeln über akzeptable Online-Inhalte.

Einschließlich der, die Bilder von Winnie the Pooh online zensierte, da der geliebte Bär – wie vom Illustrator EH Shepard dargestellt – Chinas wahrscheinlich lebenslangem Präsidenten Xi Jinping ähnelte und ihn verspottete.

Das Register schlägt daher vor, dass es ein sehr, sehr mutiger chinesischer Entwickler sein wird, der einen fotorealistischen Bären-Chatbot oder -Avatar erstellt.

Die Vorschriften legen auch fest, wie die Urheber von Deepfakes – die als „Deep-Synthese-Dienstleister“ bezeichnet werden – darauf achten müssen, dass ihre KI/ML-Modelle und -Algorithmen korrekt sind und regelmäßig überarbeitet werden, und die Sicherheit der von ihnen gesammelten Daten gewährleisten müssen.

Die Regeln beinhalten auch eine Verpflichtung zur Registrierung von Benutzern – einschließlich ihrer echten Namen. Weil es nicht ausreichen würde, einer unbekannten Person zu erlauben, mit Deepfakes herumzuspielen.

Die Regeln sollen sicherstellen, dass die Synthesetechnologie die Nachteile vermeidet und China Vorteile bringt. Oder, wie Peking es ausdrückt (wenn auch in Übersetzung), müssen Deepfakes „die gesunde Entwicklung von Internet-Informationsdiensten fördern und eine gute Ökologie des Cyberspace aufrechterhalten“.

Das Reglement tritt am 10. Januar 2023 in Kraft. ®