У Китаї заборонені дипфейки, створені без дозволу або на зло

Управління кіберпростору Китаю випустило вказівки щодо того, як правильно робити дипфейки.

Deepfakes використовує штучний інтелект для створення реалістичних зображень – зазвичай відео – людей, які говорять і/або роблять те, чого вони не говорили і/або не робили. Вони викликають суперечки за межами Китаю через те, що вони здатні вводити в оману аудиторію та створювати проблеми для зображених людей.

Очевидно, що Пекін також хвилюється щодо цієї техніки, як повідомила Адміністрація кіберпростору (CAC). правила які забороняють їх створення без дозволу суб’єкта, або зображувати чи виголошувати будь-що, що може вважатися таким, що суперечить національним інтересам. Усе, що суперечить соціалістичним цінностям, підпадає під цей опис, як і будь-яка форма «незаконної та шкідливої ​​інформації» або використання людей, створених штучним інтелектом, для спроби обману чи наклепу.

Але правила також свідчать про те, що Китай очікує, що синтетичні люди будуть широко використовуватися. Наприклад, вони дозволяють використовувати глибокі фейки в таких програмах, як чат-боти. У таких сценаріях дипфейки потрібно позначати як цифрові витвори.

Документ також передбачає, що дипфейки будуть використовуватися онлайн-видавцями, які повинні враховувати безліч інших китайських правила щодо прийнятного онлайн-контенту.

Включно з тим, у якому переглядалися зображення Вінні-Пуха в Інтернеті, оскільки улюблений ведмідь, зображений ілюстратором Е. Х. Шепардом, був схожий на ймовірно довічного президента Китаю Сі Цзіньпіна.

Реєстр тому припускає, що це буде дуже, дуже, хоробрий китайський розробник, який створить фотореалістичний чат-бот або аватар ursine.

У правилах також пояснюється, як творці глибоких фейків, які називаються «постачальниками послуг глибокого синтезу», повинні дбати про те, щоб їхні моделі та алгоритми AI/ML були точними та регулярно переглядалися, а також забезпечувати безпеку даних, які вони збирають.

Правила також містять вимогу щодо реєстрації користувачів, включаючи їхні справжні імена. Тому що дозволити невідомій особі возитися з deepfakes не підійде.

Ці правила спрямовані на те, щоб технологія синтезу уникала недоліків і приносила переваги Китаю. Або, як каже Пекін (хоча й у перекладі), дипфейки повинні «сприяти здоровому розвитку інформаційних інтернет-сервісів і підтримувати хорошу екологію кіберпростору».

Регламент набирає чинності з 10 січня 2023 року ®