Chiny zakazują deepfake'ów stworzonych bez pozwolenia lub w złych celach

Chińska administracja cyberprzestrzeni wydała wytyczne dotyczące prawidłowego wykonywania deepfake'ów.

Deepfake wykorzystuje sztuczną inteligencję do tworzenia realistycznych przedstawień – zwykle filmów – ludzi mówiących i/lub robiących rzeczy, których nie powiedzieli i/lub nie zrobili. Są kontrowersyjne poza Chinami ze względu na ich potencjał wprowadzania w błąd odbiorców i stwarzania problemów przedstawionym ludziom.

Pekin wyraźnie ma również obawy co do techniki, którą wydała Administracja Cyberprzestrzeni (CAC). regulamin które zabraniają ich tworzenia bez zgody podmiotu, lub przedstawiają lub wypowiadają wszystko, co można uznać za sprzeczne z interesem narodowym. Wszystko, co jest sprzeczne z wartościami socjalistycznymi, mieści się w tym opisie, podobnie jak każda forma „nielegalnych i szkodliwych informacji” lub wykorzystywanie ludzi generowanych przez sztuczną inteligencję w celu oszukania lub oszczerstwa.

Ale zasady sugerują również, że Chiny spodziewają się, że syntetyczni ludzie będą szeroko wykorzystywani. Pozwalają na przykład na wykorzystanie deepfake'ów w aplikacjach takich jak chatboty. W takich scenariuszach deepfake'i muszą być oznaczane jako kreacje cyfrowe.

Dokument przewiduje również, że deepfake będą wykorzystywane przez wydawców internetowych, co musi uwzględniać niezliczone inne chińskie zasady dotyczące dopuszczalnych treści online.

W tym ten, który ocenzurował zdjęcia Kubusia Puchatka w Internecie, ponieważ ukochany miś – przedstawiony przez ilustratora EH Sheparda – miał przypominać i kpić z prawdopodobnie dożywotniego prezydenta Chin Xi Jinpinga.

Rejestr sugeruje zatem, że będzie to bardzo, bardzo odważny chiński programista, który stworzy fotorealistycznego chatbota lub awatara niedźwiedzia.

Przepisy określają również, w jaki sposób twórcy deepfake’ów – nazywani „dostawcami usług głębokiej syntezy” – muszą dbać o to, aby ich modele i algorytmy AI/ML były dokładne i regularnie weryfikowane oraz zapewniać bezpieczeństwo gromadzonych danych.

Zasady zawierają również wymóg rejestracji użytkowników – w tym ich prawdziwych imion. Ponieważ pozwolenie nieznanej osobie na majstrowanie przy deepfake'ach nie wystarczy.

Zasady mają na celu zapewnienie, że technologia syntezy pozwoli uniknąć wad i przyniesie korzyści Chinom. Lub, jak to ujął Pekin (choć w tłumaczeniu), deepfake musi „Promować zdrowy rozwój internetowych usług informacyjnych i utrzymywać dobrą ekologię cyberprzestrzeni”.

Regulamin wchodzi w życie z dniem 10 stycznia 2023 r. ®