La Cina vieta i deepfake creati senza permesso o per il male

La China's Cyberspace Administration ha pubblicato linee guida su come eseguire i deepfake nel modo giusto.

I deepfake utilizzano l'intelligenza artificiale per creare rappresentazioni realistiche, solitamente video, di esseri umani che dicono e/o fanno cose che non hanno detto e/o fatto. Sono controversi al di fuori della Cina per il loro potenziale di fuorviare il pubblico e creare problemi alle persone raffigurate.

Pechino ha chiaramente anche preoccupazioni per la tecnica, come ha emesso la Cyberspace Administration (CAC). normativa che ne vietano la creazione senza il permesso del soggetto, o di raffigurare o pronunciare qualsiasi cosa che possa essere considerata contraria all'interesse nazionale. Qualsiasi cosa contraria ai valori socialisti rientra in tale descrizione, così come qualsiasi forma di "informazione illegale e dannosa" o l'utilizzo di esseri umani generati dall'intelligenza artificiale nel tentativo di ingannare o calunniare.

Ma le regole suggeriscono anche che la Cina prevede che gli esseri umani sintetici saranno ampiamente utilizzati. Ad esempio, consentono l'uso di deepfake in applicazioni come i chatbot. In tali scenari, i deepfake devono essere contrassegnati come creazioni digitali.

Il documento prevede anche che i deepfake vengano utilizzati dagli editori online, che devono tenere conto della miriade di altri regole sui contenuti online accettabili.

Compreso quello che ha censurato le immagini di Winnie the Pooh online, poiché l'amato orso - come rappresentato dall'illustratore EH Shepard - sembrava assomigliare e deridere il presidente cinese a vita Xi Jinping.

Il registro suggerisce quindi che sarà uno sviluppatore cinese molto, molto, coraggioso a creare un chatbot o un avatar ursino fotorealistico.

I regolamenti spiegano anche come i creatori di deepfake – che sono definiti “fornitori di servizi di sintesi profonda” – devono assicurarsi che i loro modelli e algoritmi AI/ML siano accurati e regolarmente rivisti e garantire la sicurezza dei dati che raccolgono.

Le regole includono anche un requisito per la registrazione degli utenti, compresi i loro veri nomi. Perché permettere a una persona sconosciuta di pasticciare con i deepfake non andrebbe bene.

Le regole sono presentate per garantire che la tecnologia di sintesi eviti gli svantaggi e offra vantaggi alla Cina. Oppure, come afferma Pechino (anche se in traduzione), i deepfake devono "promuovere il sano sviluppo dei servizi di informazione su Internet e mantenere una buona ecologia del cyberspazio".

I regolamenti entrano in vigore il 10 gennaio 2023. ®