סין אוסרת על זיופים עמוקים שנוצרו ללא רשות או לרוע

מינהל מרחב הסייבר של סין פרסם הנחיות כיצד לבצע זיופים עמוקים בדרך הנכונה.

Deepfakes משתמש בבינה מלאכותית כדי ליצור תיאורים מציאותיים - בדרך כלל סרטונים - של בני אדם אומרים ו/או עושים דברים שהם לא אמרו ו/או עשו. הם שנויים במחלוקת מחוץ לסין בשל הפוטנציאל שלהם להטעות את הקהל וליצור צרות לאנשים המתוארים.

ברור שגם לבייג'ינג יש דאגות לגבי הטכניקה כפי שפרסמה מינהל מרחב הסייבר (CAC). תקנון האוסרים על יצירתם ללא רשות הנבדק, או על הצגת או השמעת כל דבר שעלול להיחשב כמנוגד לאינטרס הלאומי. כל דבר המנוגד לערכים סוציאליסטיים נופל תחת התיאור הזה, כמו כל צורה של "מידע לא חוקי ומזיק" או שימוש בבני אדם שנוצרו בינה מלאכותית בניסיון להונות או להשמיץ.

אבל הכללים גם מראים שסין מצפה שבני אדם סינתטיים יהיו בשימוש נרחב. למשל, הם מאפשרים שימוש בזיופים עמוקים ביישומים כמו צ'אטבוטים. בתרחישים כאלה, יש לסמן זיופים עמוקים כיצירות דיגיטליות.

המסמך גם צופה שזיופים עמוקים ישמשו את המפרסמים המקוונים, שחייבים לקחת בחשבון את שלל הנוספים האחרים של סין כללים לגבי תוכן מקוון מקובל.

כולל זו שצנזרה תמונות של פו הדוב באינטרנט, כשהדוב האהוב - כפי שתואר על ידי המאייר EH שפרד - הרגיש כמו דומה, ולעג לנשיא סין, כנראה לכל החיים שי ג'ינפינג.

הקופה לכן מציע שזה יהיה מפתח סיני אמיץ מאוד, מאוד, שיוצר צ'אטבוט או אווטאר ursine פוטוריאליסטי.

התקנות גם מפרטות כיצד יוצרי הזיופים העמוקים - המכונים "ספקי שירותי סינתזה עמוקים" - חייבים לדאוג שהמודלים והאלגוריתמים של AI/ML שלהם יהיו מדויקים ומתוקנים באופן קבוע, ולהבטיח את אבטחת הנתונים שהם אוספים.

הכללים כוללים גם דרישה לרישום משתמשים - כולל שמם האמיתי. כי לאפשר לאדם אלמוני להתעסק עם זיופים עמוקים לא יעזור.

הכללים מוגדרים כמבטיחים שטכנולוגיית סינתזה נמנעת מהחסרונות ומספקת יתרונות לסין. או, כפי שמנסחת זאת בייג'ין (אם כי בתרגום), זיופים עמוקים חייבים "לקדם את הפיתוח הבריא של שירותי מידע באינטרנט ולשמור על אקולוגיה טובה של מרחב הסייבר."

התקנות נכנסות לתוקף ב-10 בינואר 2023. ®