האם 2023 תהיה השנה של דינמיט דיסאינפו Deepfakes, שנרקמו על ידי מדינות נוכלות?

הועלה מחדש על ידי אפלטון

עוקב: 0

יריבים זרים צפויים להשתמש באלגוריתמי AI כדי ליצור זיופים עמוקים יותר ויותר מציאותיים ולזרוע דיסאינפורמציה כחלק מפעולות צבא ומודיעין ככל שהטכנולוגיה משתפרת.

Deepfakes מתארים סוג של תוכן שנוצר על ידי מודלים של למידת מכונה המסוגלים להדביק פנים של מישהו על גופו של אדם אחר בצורה מציאותית. הם יכולים להיות בצורת תמונות או סרטונים, והם נועדו לגרום לאנשים להאמין שמישהו אמר או עשה משהו שהם לא אמרו. הטכנולוגיה משמשת לעתים קרובות ליצירת סרטונים פורנוגרפיים כוזבים של ידועניות.

עם זאת, ככל שהטכנולוגיה מתקדמת, נעשה שימוש במדיה הסינתטית גם להפצת דיסאינפורמציה כדי לתדלק סכסוכים פוליטיים. סרטון של נשיא אוקראינה וולודימיר זלנסקי קורא לחיילים להניח את נשקם ולהיכנע, למשל, עלה זמן קצר לאחר שרוסיה פלשה למדינה, בשנה שעברה.

זלנסקי הכחיש שאמר דברים כאלה בסרטון שפורסם בפייסבוק. חברות מדיה חברתית הסירו את הסרטונים בניסיון למנוע את התפשטות המידע הכוזב.

אבל המאמצים ליצור זיופים עמוקים ימשיכו לגדול מצד מדינות אויב, על פי חוקרי בינה מלאכותית ומדיניות חוץ מאוניברסיטת נורת'ווסטרן וממכון ברוקינגס באמריקה.

צוות של מדעני מחשבים מאוניברסיטת נורת'ווסטרן פיתח בעבר את אלגוריתם הפחתת הטרור עם בינה מלאכותית Deepfakes (TREAD) המדגים סרטון מזויף בהשתתפות מחבל דאעש ההרוג מוחמד אל עדנאני.

"הקלות שבה ניתן לפתח זיופים עמוקים עבור אנשים ומטרות ספציפיות, כמו גם התנועה המהירה שלהם - לאחרונה באמצעות צורה של בינה מלאכותית הידועה בשם דיפוזיה יציבה - מצביעות על עולם שבו לכל המדינות והשחקנים הלא-מדינתיים תהיה היכולת לפרוס זיופים עמוקים בפעולות האבטחה והמודיעין שלהם", מחברי הדו"ח אמר. "פקידי ביטחון וקובעי מדיניות יצטרכו להיערך בהתאם".

מודלים של דיפוזיה יציבים כיום מפעילים מודלים של טקסט לתמונה, היוצרים תמונות מזויפות המתוארות בטקסט על ידי משתמש. כעת הם מותאמים לזיוף סרטונים שקריים ומייצרים תוכן יותר ויותר ריאליסטי ומשכנע למראה. יריבים זרים ללא ספק ישתמשו בטכנולוגיה הזו כדי להקים קמפיינים של דיסאינפורמציה, להפיץ חדשות מזויפות כדי לזרוע בלבול, להפיץ תעמולה ולערער את האמון באינטרנט, לפי הדו"ח.

החוקרים דחקו בממשלות ברחבי העולם ליישם מדיניות המסדירה את השימוש בזיופים עמוקים. "בטווח הארוך, אנחנו צריכים הסכם עולמי על השימוש בזיופים עמוקים על ידי סוכנויות הגנה ומודיעין", אמר VS Subrahmanian, מחבר שותף של הדו"ח ופרופסור למדעי המחשב באוניברסיטת נורת'ווסטרן. הקופה.

"להשיג הסכם כזה יהיה קשה, במיוחד ממדינות לאום בעלות וטו. גם אם יושג הסכם כזה, סביר להניח שמדינות מסוימות יפרו אותו. הסכם כזה צריך אפוא לכלול מנגנון סנקציות כדי להרתיע ולהעניש את המפרים".

פיתוח טכנולוגיות המסוגלות לזהות זיופים עמוקים לא יספיק להתמודד עם דיסאינפורמציה. "התוצאה תהיה משחק חתול ועכבר דומה לזה שנראה עם תוכנות זדוניות: כשחברות אבטחת סייבר מגלות סוג חדש של תוכנה זדונית ומפתחות חתימות כדי לזהות אותה, מפתחי תוכנות זדוניות מבצעות 'שינויים' כדי להתחמק מהגלאי", נכתב בדו"ח. .

"המחזור של זיהוי-התחמק-זהה-התחמק מתנגן עם הזמן... בסופו של דבר, אנו עשויים להגיע לנקודת קצה שבה הזיהוי הופך לבלתי אפשרי או אינטנסיבי מדי מבחינה חישובית לביצוע במהירות ובקנה מידה". ®