Trung Quốc cấm deepfakes được tạo mà không được phép hoặc vì mục đích xấu

Cơ quan quản lý không gian mạng của Trung Quốc đã ban hành hướng dẫn về cách thực hiện deepfake đúng cách.

Deepfakes sử dụng trí tuệ nhân tạo để tạo ra những mô tả chân thực - thường là video - về con người nói và/hoặc làm những điều họ không nói và/hoặc làm. Chúng đang gây tranh cãi bên ngoài Trung Quốc vì có khả năng đánh lừa khán giả và gây rắc rối cho những người được miêu tả.

Bắc Kinh rõ ràng cũng có những lo lắng về kỹ thuật này như Cục quản lý không gian mạng (CAC) đã ban hành quy định cấm việc tạo ra chúng mà không có sự cho phép của chủ thể hoặc mô tả hay phát ngôn bất cứ điều gì có thể được coi là đi ngược lại lợi ích quốc gia. Bất cứ điều gì đi ngược lại các giá trị xã hội chủ nghĩa đều thuộc mô tả đó, cũng như bất kỳ hình thức “Thông tin bất hợp pháp và có hại” hoặc sử dụng con người do AI tạo ra nhằm mục đích lừa dối hoặc vu khống.

Nhưng các quy tắc cũng cho thấy Trung Quốc hy vọng con người tổng hợp sẽ được sử dụng rộng rãi. Chẳng hạn, chúng cho phép sử dụng deepfakes trong các ứng dụng như chatbot. Trong những tình huống như vậy, deepfakes phải được gắn cờ là sáng tạo kỹ thuật số.

Tài liệu này cũng dự tính rằng deepfake sẽ được các nhà xuất bản trực tuyến sử dụng, điều này phải tính đến vô số các vấn đề khác của Trung Quốc. quy tắc về nội dung trực tuyến được chấp nhận.

Bao gồm cả hình ảnh bị kiểm duyệt trực tuyến về Winnie the Pooh, vì chú gấu yêu quý - do họa sĩ minh họa EH Shepard miêu tả - được cho là giống và chế nhạo Chủ tịch Trung Quốc có lẽ là cả đời Tập Cận Bình.

Đăng ký do đó, gợi ý rằng sẽ có một nhà phát triển Trung Quốc rất, rất, dũng cảm tạo ra một chatbot hoặc hình đại diện hình ảnh giống như thật.

Các quy định cũng nêu rõ cách những người tạo ra deepfake – những người được gọi là “nhà cung cấp dịch vụ tổng hợp sâu” – phải đảm bảo rằng các mô hình và thuật toán AI/ML của họ phải chính xác và được sửa đổi thường xuyên cũng như đảm bảo tính bảo mật của dữ liệu họ thu thập.

Các quy tắc cũng bao gồm yêu cầu đăng ký người dùng – bao gồm cả tên thật của họ. Bởi vì việc cho phép một người không quen biết gây rối với các tác phẩm sâu sẽ không phù hợp.

Các quy tắc được đưa ra nhằm đảm bảo rằng công nghệ tổng hợp tránh được những nhược điểm và mang lại lợi ích cho Trung Quốc. Hoặc, như Bắc Kinh nói (mặc dù trong bản dịch), deepfake phải “Thúc đẩy sự phát triển lành mạnh của các dịch vụ thông tin internet và duy trì một hệ sinh thái tốt cho không gian mạng”.

Các quy định có hiệu lực vào ngày 10 tháng 2023 năm XNUMX. ®