Çin, izinsiz veya kötülük için oluşturulan derin sahteleri yasaklıyor

Çin Siber Uzay İdaresi, derin sahtekarlığın doğru şekilde nasıl yapılacağına dair yönergeler yayınladı.

Deepfakes, insanların söylemediği ve/veya yapmadığı şeyleri söylediği ve/veya yaptığının gerçekçi tasvirlerini (genellikle videolar) oluşturmak için yapay zekayı kullanır. İzleyicileri yanıltma ve tasvir edilen insanlar için sorun yaratma potansiyelleri nedeniyle Çin dışında tartışmalılar.

Siber Uzay İdaresi'nin (CAC) yayınladığı bilgiye göre Pekin'in de bu teknikle ilgili endişeleri olduğu açık. yönetmelik kişinin izni olmadan bunların yaratılmasını yasaklayan veya ulusal çıkarlara aykırı sayılabilecek herhangi bir şeyi tasvir eden veya söyleyen. Sosyalist değerlere aykırı olan her şey, her türlü "Yasadışı ve zararlı bilgi" veya aldatma veya iftira amacıyla yapay zeka tarafından üretilen insanların kullanılması gibi, bu tanımlamaya girer.

Ancak kurallar aynı zamanda Çin'in sentetik insanların yaygın olarak kullanılmasını beklediğini de gösteriyor. Örneğin, chatbot gibi uygulamalarda deepfake kullanımına izin veriyorlar. Bu tür senaryolarda deepfake'lerin dijital yaratımlar olarak işaretlenmesi gerekir.

Belge ayrıca deepfake'lerin çevrimiçi yayıncılar tarafından kullanılacağını da öngörüyor; bu da Çin'in sayısız diğer özelliklerini de hesaba katmalı. kabul edilebilir çevrimiçi içerikle ilgili kurallar.

İllüstratör EH Shepard'ın tasvir ettiği gibi, Winnie the Pooh'un internette sansürlenen görselleri de dahil olmak üzere, sevilen ayının Çin'in muhtemelen ömür boyu başkanı Xi Jinping'e benzediği ve onunla alay ettiği düşünülüyordu.

Kayıt bu nedenle fotogerçekçi bir ursine sohbet robotu veya avatarı yaratanın çok çok cesur bir Çinli geliştirici olacağını öne sürüyor.

Düzenlemeler ayrıca, "derin sentez hizmet sağlayıcıları" olarak adlandırılan deepfake yaratıcılarının, AI/ML modellerinin ve algoritmalarının doğru olduğundan ve düzenli olarak revize edildiğinden nasıl emin olmaları ve topladıkları verilerin güvenliğini sağlamaları gerektiğini de açıklıyor.

Kurallar aynı zamanda kullanıcıların gerçek isimleri de dahil olmak üzere kayıt olma zorunluluğunu da içeriyor. Çünkü bilinmeyen bir kişinin deepfake'lerle uğraşmasına izin vermek işe yaramaz.

Kurallar, sentez teknolojisinin olumsuzluklardan kaçınmasını ve Çin'e fayda sağlamasını sağlayacak şekilde belirlendi. Veya, Pekin'in (çeviride de olsa) belirttiği gibi, deepfake'lerin "İnternet bilgi hizmetlerinin sağlıklı gelişimini desteklemesi ve siber uzayın iyi bir ekolojisini sürdürmesi" gerekiyor.

Düzenlemeler 10 Ocak 2023'te yürürlüğe giriyor. ®