China prohíbe deepfakes creados sin permiso o con fines maliciosos

La Administración del Ciberespacio de China ha emitido pautas sobre cómo hacer deepfakes de la manera correcta.

Deepfakes usa inteligencia artificial para crear representaciones realistas, generalmente videos, de humanos que dicen y/o hacen cosas que no dijeron y/o no hicieron. Son controvertidos fuera de China por su potencial para engañar al público y crear problemas para las personas representadas.

Beijing claramente también tiene preocupaciones sobre la técnica, ya que la Administración del Ciberespacio (CAC) ha emitido reglamentos que prohíban su creación sin el permiso del sujeto, o que representen o pronuncien cualquier cosa que pueda considerarse contraria al interés nacional. Cualquier cosa contraria a los valores socialistas cae bajo esa descripción, al igual que cualquier forma de "información ilegal y dañina" o el uso de humanos generados por IA en un intento de engañar o calumniar.

Pero las reglas también sugieren que China espera que los humanos sintéticos sean ampliamente utilizados. Por ejemplo, permiten el uso de deepfakes en aplicaciones como chatbots. En tales escenarios, los deepfakes deben marcarse como creaciones digitales.

El documento también prevé que los editores en línea utilizarán deepfakes, lo que debe tener en cuenta la miríada de otros reglas sobre el contenido en línea aceptable.

Incluyendo el que censuró las imágenes de Winnie the Pooh en línea, ya que se sintió que el amado oso, representado por el ilustrador EH Shepard, se parecía y se burlaba del presidente de China, probablemente de por vida, Xi Jinping.

El registro por lo tanto, sugiere que será un desarrollador chino muy, muy valiente el que cree un chatbot o avatar ursino fotorrealista.

Las regulaciones también explican cómo los creadores de deepfakes, que se denominan "proveedores de servicios de síntesis profunda", deben cuidar de que sus modelos y algoritmos AI/ML sean precisos y revisados ​​periódicamente, y garantizar la seguridad de los datos que recopilan.

Las reglas también incluyen un requisito para el registro de usuarios, incluidos sus nombres reales. Porque permitir que una persona desconocida se meta con deepfakes no sería suficiente.

Las reglas se presentan para garantizar que la tecnología de síntesis evite las desventajas y brinde beneficios a China. O, como dice Beijing (aunque traducido), los deepfakes deben “promover el desarrollo saludable de los servicios de información de Internet y mantener una buena ecología del ciberespacio”.

La normativa entra en vigor el 10 de enero de 2023. ®