China melarang deepfake yang dibuat tanpa izin atau untuk kejahatan

Administrasi Dunia Maya China telah mengeluarkan pedoman tentang cara melakukan deepfake dengan cara yang benar.

Deepfakes menggunakan kecerdasan buatan untuk membuat gambaran realistis – biasanya video – tentang manusia yang mengatakan dan/atau melakukan hal-hal yang tidak mereka katakan dan/atau lakukan. Mereka kontroversial di luar China karena berpotensi menyesatkan penonton dan membuat masalah bagi orang-orang yang digambarkan.

Beijing jelas juga memiliki kekhawatiran tentang teknik yang dikeluarkan oleh Cyberspace Administration (CAC). peraturan yang melarang kreasi mereka tanpa izin subjek, atau untuk menggambarkan atau mengucapkan sesuatu yang dapat dianggap bertentangan dengan kepentingan nasional. Apa pun yang bertentangan dengan nilai-nilai sosialis termasuk dalam deskripsi itu, seperti halnya segala bentuk "informasi ilegal dan berbahaya" atau menggunakan manusia yang dihasilkan oleh AI dalam upaya untuk menipu atau memfitnah.

Namun aturan tersebut juga menyarankan China mengharapkan manusia sintetis akan digunakan secara luas. Misalnya, mereka mengizinkan penggunaan deepfake dalam aplikasi seperti chatbots. Dalam skenario seperti itu, deepfake harus ditandai sebagai kreasi digital.

Dokumen tersebut juga membayangkan bahwa deepfake akan digunakan oleh penerbit online, yang harus mempertimbangkan banyak negara lain di China. aturan tentang konten online yang dapat diterima.

Termasuk salah satu yang menyensor gambar Winnie the Pooh secara online, sebagai beruang kesayangan - seperti yang digambarkan oleh ilustrator EH Shepard - dianggap mirip, dan mengejek, Xi Jinping, presiden seumur hidup China.

Pendaftaran oleh karena itu menyarankan itu akan menjadi pengembang Cina yang sangat, sangat, berani yang membuat chatbot atau avatar ursine fotorealistik.

Peraturan tersebut juga menjelaskan bagaimana pembuat deepfake – yang disebut “penyedia layanan sintesis mendalam” – harus berhati-hati agar model dan algoritme AI/ML mereka akurat dan direvisi secara berkala, serta memastikan keamanan data yang mereka kumpulkan.

Aturan juga mencakup persyaratan untuk pendaftaran pengguna – termasuk nama asli mereka. Karena membiarkan orang tak dikenal mengotak-atik deepfake tidak akan berhasil.

Aturan dibuat untuk memastikan bahwa teknologi sintesis menghindari kerugian dan memberikan manfaat bagi China. Atau, seperti yang dikatakan Beijing (meskipun dalam terjemahan), deepfake harus "Mempromosikan perkembangan layanan informasi internet yang sehat dan menjaga ekologi dunia maya yang baik."

Peraturan tersebut mulai berlaku pada tanggal 10 Januari 2023. ®