Η Κίνα απαγορεύει τα deepfakes που δημιουργούνται χωρίς άδεια ή για κακό

Η Διοίκηση Κυβερνοχώρου της Κίνας εξέδωσε οδηγίες για το πώς να κάνετε deepfakes με τον σωστό τρόπο.

Τα Deepfakes χρησιμοποιούν τεχνητή νοημοσύνη για να δημιουργήσουν ρεαλιστικές απεικονίσεις –συνήθως βίντεο– ανθρώπων που λένε ή/και κάνουν πράγματα που δεν είπαν και/ή έκαναν. Είναι αμφιλεγόμενοι εκτός Κίνας για τις δυνατότητές τους να παραπλανήσουν το κοινό και να δημιουργήσουν προβλήματα στους εικονιζόμενους ανθρώπους.

Το Πεκίνο έχει επίσης σαφώς ανησυχίες για την τεχνική όπως εξέδωσε η Διοίκηση Κυβερνοχώρου (CAC) κανονισμοί που απαγορεύουν τη δημιουργία τους χωρίς την άδεια του υποκειμένου ή να απεικονίζουν ή να εκφέρουν οτιδήποτε θα μπορούσε να θεωρηθεί αντίθετο προς το εθνικό συμφέρον. Οτιδήποτε αντίκειται στις σοσιαλιστικές αξίες εμπίπτει σε αυτήν την περιγραφή, όπως και κάθε μορφή «Παράνομης και επιβλαβούς πληροφορίας» ή η χρήση ανθρώπων που δημιουργούνται από την τεχνητή νοημοσύνη σε μια προσπάθεια εξαπάτησης ή συκοφαντίας.

Αλλά οι κανόνες υποδηλώνουν επίσης ότι η Κίνα αναμένει ότι οι συνθετικοί άνθρωποι θα χρησιμοποιηθούν ευρέως. Για παράδειγμα, επιτρέπουν τη χρήση deepfakes σε εφαρμογές όπως τα chatbots. Σε τέτοια σενάρια, τα deepfakes πρέπει να επισημαίνονται ως ψηφιακές δημιουργίες.

Το έγγραφο προβλέπει επίσης ότι τα deepfakes θα χρησιμοποιηθούν από διαδικτυακούς εκδότες, οι οποίοι πρέπει να λαμβάνουν υπόψη τους μυριάδες άλλους κανόνες σχετικά με το αποδεκτό διαδικτυακό περιεχόμενο.

Συμπεριλαμβανομένης αυτής που λογοκρίνει τις εικόνες του Winnie the Pooh στο διαδίκτυο, καθώς η αγαπημένη αρκούδα –όπως απεικονίζεται από τον εικονογράφο EH Shepard– έμοιαζε και κοροϊδεύει τον ισόβιο πρόεδρο της Κίνας Xi Jinping.

Το μητρώο Ως εκ τούτου, προτείνει ότι θα είναι ένας πολύ, πολύ, γενναίος Κινέζος προγραμματιστής που θα δημιουργήσει ένα φωτορεαλιστικό chatbot ή avatar ursine.

Οι κανονισμοί διευκρινίζουν επίσης πώς οι δημιουργοί των deepfakes – που αποκαλούνται «πάροχοι υπηρεσιών βαθιάς σύνθεσης» – πρέπει να φροντίζουν ώστε τα μοντέλα και οι αλγόριθμοί τους AI/ML να είναι ακριβή και να αναθεωρούνται τακτικά και να διασφαλίζουν την ασφάλεια των δεδομένων που συλλέγουν.

Οι κανόνες περιλαμβάνουν επίσης απαίτηση για εγγραφή των χρηστών – συμπεριλαμβανομένων των πραγματικών τους ονομάτων. Γιατί το να επιτρέψεις σε ένα άγνωστο άτομο να μπλέξει με τα deepfakes δεν θα έκανε.

Οι κανόνες παρουσιάζονται ως διασφάλιση ότι η τεχνολογία σύνθεσης αποφεύγει τα μειονεκτήματα και προσφέρει οφέλη στην Κίνα. Ή, όπως το θέτει το Πεκίνο (αν και σε μετάφραση), τα deepfakes πρέπει να «προωθούν την υγιή ανάπτυξη των διαδικτυακών υπηρεσιών πληροφόρησης και να διατηρούν μια καλή οικολογία του κυβερνοχώρου».

Οι κανονισμοί τίθενται σε ισχύ στις 10 Ιανουαρίου 2023. ®