תמונה על ידי טימה מירושניצ'נקו
Deepfakes הם נושא חשוב לשיחה בקהילת מדעי הנתונים כבר כמה שנים. עוד בשנת 2020, סקירת הטכנולוגיה של MIT טען שזיופים עמוקים הגיעו ל"נקודת המפנה שלהם לשימוש מיינסטרים".
הנתונים בהחלט מגבים את זה. ה Wall Street Journal דיווח כי פחות מ-10,000 זיופים עמוקים נמצאו באינטרנט בשנת 2018. המספרים הללו מגיעים כעת למיליונים, וישנן דוגמאות רבות מהחיים האמיתיים של זיופים עמוקים המשמשים הן כדי לבלבל ולהודיע לא נכון והן כדי להנציח הונאה פיננסית.
טכניקות Deepfake בסך הכל מספקות לפושעי סייבר אפשרויות מתוחכמות רבות.
הם חורגים הרבה מעבר ליכולת להכניס את דמותו של ידוען לחומר פרסומי עבור הצעת ביטקוין "שלא ניתן לפספס", מה שמתברר – כמובן – כהונאה. סרטוני Deepfake, במיוחד, נמצאים על הרדאר של הרמאים. הם מספקים להם דרך לעבור בדיקות אוטומטיות של תעודות זהות ו-KYC והוכחו כיעילים בצורה מפחידה.
בחודש מאי 2022, הסף דיווח כי "מבחני חיים" המשמשים בנקים ומוסדות אחרים כדי לעזור לאמת את זהות המשתמשים יכולים להיות שולל בקלות על ידי זיופים עמוקים. המחקר הקשור מצא כי 90% ממערכות אימות הזיהוי שנבדקו היו פגיעות.
אז מה התשובה? האם אנו נכנסים לעידן שבו פושעי סייבר יכולים להשתמש בקלות בטכנולוגיה מזויפת עמוקה כדי להערים על אמצעי האבטחה בהם משתמשים מוסדות פיננסיים? האם עסקים כאלה יצטרכו לבטל את המערכות האוטומטיות שלהם ולחזור לבדיקות אנושיות ידניות?
התשובה הפשוטה היא "כנראה שלא". בדיוק כפי שפושעים יכולים לעשות שימוש בגלישה פנימה התקדמות בינה מלאכותית, כך גם יכולות החברות שאליהן הם מכוונים. כעת נראה כיצד עסקים פגיעים יכולים להילחם בבינה מלאכותית עם בינה מלאכותית.
זיופים עמוקים מיוצרים באמצעות מגוון טכניקות של בינה מלאכותית, כגון:
- רשתות יריבות גנריות (GAN)
- זוגות מקודד/מפענחים
- דגמי תנועה מסדר ראשון
טכניקות אלו עשויות, על פניו, להישמע כמו הנחלה הבלעדית של קהילת למידת המכונה, עם חסמי כניסה גבוהים וצורך בידע טכני מומחה. עם זאת, כמו אלמנטים אחרים של AI, הם הפכו נגישים הרבה יותר עם הזמן.
כלים מדף במחירים נמוכים מאפשרים כעת למשתמשים שאינם טכניים ליצור זיופים עמוקים, בדיוק כפי שכל אחד יכול להירשם ל-OpenAI ולבדוק את היכולות של ChatGPT.
כבר ב-2020, הפורום הכלכלי העולמי דיווח כי העלות של ייצור "חדיש"זיוף עמוק הוא מתחת ל-30,000 דולר. אבל בשנת 2023, פרופסור מבית הספר וורטון איתן מוליק חשף, באמצעות פוסט טוויטר ויראלי, שהוא הפיק סרטון מזויף עמוק של עצמו מעביר הרצאה תוך פחות משש דקות.
ההוצאה הכוללת של מוליק הייתה 10.99 דולר. הוא השתמש בשירות בשם ElevenLabs כדי לחקות את הקול שלו כמעט בצורה מושלמת, בעלות של $5. שירות נוסף בשם D-ID, במחיר של 5.99 דולר לחודש, יצר סרטון המבוסס על תסריט ותצלום בודד בלבד. הוא אפילו השתמש ב-ChatGPT כדי ליצור את התסריט עצמו.
כאשר החלו להופיע זיופים עמוקים, ההתמקדות העיקרית הייתה בסרטונים פוליטיים מזויפים (ופורנוגרפיה מזויפת). מאז, העולם ראה:
- BuzzFeedVideos יוצרים הודעת שירות ציבורית מזויפת "בהשתתפות" ברק אובמה, המתחזה על ידי השחקן ג'ורדון פיל.
- סרטון YouTube מזויף עמוק שמתיימר להראות את דונלד טראמפ מספר סיפור על אייל.
- סרטון מזויף עמוק של הילארי קלינטון שהוצג בסאטרדיי נייט לייב, כשהיא למעשה התחזתה על ידי חבר שחקנים.
בעוד שהדוגמאות הללו מראות את הצד ה"מהנה" של זיופים עמוקים, ואולי מספקות טלטלה של מציאות באשר ליכולות הטכנולוגיה, הרמאים לא בזבזו זמן בשימוש בהם למטרות מרושעות.
דוגמאות מהחיים האמיתיים להונאה, המונצחת באמצעות טכניקות זיוף עמוק, הן רבות.
הפסדים עקב הונאות מזויפות עמוקות נעים בין מאות אלפים למיליונים רבים. בשנת 2021, נעשה שימוש בהונאת שיבוט קול בינה מלאכותית כדי לארגן העברות בנקאיות הונאה של 35 מיליון דולר. זה היה תמורה כספית עצומה שאפילו לא לדרוש השימוש בוידאו.
איכות פלט AI, במיוחד וידאו, יכולה להשתנות מאוד. חלק מהסרטונים מזויפים ללא ספק לבני אדם. אבל, כאמור לעיל, מערכות אוטומטיות, כמו אלו המשמשות בנקים ופינטק, התגלו בעבר בקלות שולל.
האיזון עשוי להשתנות עוד יותר ככל שיכולות הבינה המלאכותית ימשיכו להשתפר. התפתחות עדכנית היא שילוב של "זיהוי פלילי נגדי", שבו "רעש" בלתי נראה ממוקד מתווסף לזיופים עמוקים, בניסיון לרמות מנגנוני זיהוי.
אז מה אפשר לעשות?
בדיוק כפי שרמאים מבקשים להשתמש בטכנולוגיית הבינה המלאכותית העדכנית ביותר למען רווח כספי, עסקים כמו חברות טכנולוגיה עובדים קשה במציאת דרכים להשתמש בטכנולוגיה כדי לתפוס פושעים.
הנה כמה דוגמאות לחברות המשתמשות בבינה מלאכותית כדי להילחם בבינה מלאכותית:
בסוף 2022 השיקה אינטל כלי מבוסס בינה מלאכותית בשם "FakeCatcher". עם שיעור האמינות המדווח של אינטל של 96%, היא משתמשת בטכנולוגיה המכונה photoplethysmography (PPG).
הטכנולוגיה עושה שימוש במשהו שאינו קיים בסרטונים שנוצרו באופן מלאכותי: זרימת דם. מיומן על סרטונים לגיטימיים, אלגוריתם הלמידה העמוקה שלו מודד את האור שנספג או מוחזר על ידי כלי דם, אשר משנים את צבעם כאשר הדם נע בגוף.
FakeCatcher, חלק מיוזמת הבינה המלאכותית האחראית של אינטל, מתוארת כ"גלאי הזיוף העמוק הראשון בעולם בזמן אמת שמחזיר תוצאות באלפיות שניות". זוהי טכנולוגיה חדשנית שמחפשת סימנים לכך שהאדם המוצג בסרטון הוא אנושי באמת. הוא מחפש משהו שהוא "נכון", במקום לנתח נתונים כדי להדגיש משהו שהוא "שגוי". כך זה מעיד על הסבירות לזיוף.
בינתיים, מדעני המחשב של אוניברסיטת באפלו (UB) עבדו על טכנולוגיית זיהוי של זיוף עמוק משלהם. הוא משתמש במשהו ששחקני מחשב נלהבים יודעים שדורש כוח עיבוד עצום כדי לחקות: אור.
UB טוענים כי יעיל ב-94% בתמונות מזויפות, כלי הבינה המלאכותית בוחן כיצד האור משתקף בעיני המצולם. פני הקרנית פועלים כמראה, ומייצרים "דפוסים רפלקטיביים".
מחקרם של המדענים, שכותרתו "חשיפת פנים שנוצרו על ידי GAN באמצעות הבהרה לא עקבית של הקרנית", מצביע על כך ש"פרצופים מסונתזים של GAN יכולים להיחשף עם הבהרה לא עקבית של הקרנית בין שתי עיניים".
זה מציע שזה יהיה "לא טריוויאלי" עבור מערכות AI לחקות את הדגשים האמיתיים. שחקני מחשב, שלעתים קרובות משקיעים בכרטיסים הגרפיים העדכניים ביותר למעקב אחר קרניים כדי לחוות אפקטי תאורה מציאותיים, יזהו באופן אינסטינקטיבי את האתגרים כאן.
אולי האתגר הגדול ביותר לגילוי הונאה הוא משחק ה"חתול והעכבר" האינסופי בין רמאים לאלה שפועלים לסכל אותם. סביר מאוד, בעקבות הכרזות כמו אלו לעיל, שאנשים כבר עובדים על בניית טכנולוגיות שיכולות לעקוף ולנצח מנגנוני זיהוי כאלה.
זה גם דבר אחד שקיימים מנגנונים כאלה, אבל דבר אחר לראות אותם משולבים באופן שגרתי בפתרונות שבהם משתמשים עסקים. קודם לכן, התייחסנו לנתון שהציע ש-90% מהפתרונות ניתנים ל"לטעות בקלות". הסבירות היא שלפחות חלק מהמוסדות הפיננסיים עדיין משתמשים במערכות כאלה.
חכם ניטור הונאה האסטרטגיה מחייבת חברות להסתכל מעבר לזיהוי הזיופים העמוקים בעצמן. אפשר לעשות הרבה לפני רמאי מגיע מספיק רחוק למערכת כדי להשתתף בתהליך אימות מזהה מבוסס וידאו או KYC. אמצעי זהירות שמוצאים מקום מוקדם יותר בתהליך עשויים לכלול גם אלמנט של AI ולמידת מכונה.
לדוגמה, למידת מכונה יכולה לשמש הן לניטור הונאות בזמן אמת והן ליצירת ערכות כללים. אלה יכולים להסתכל על אירועי הונאה היסטוריים, לזהות דפוסים שעלולים להחמיץ בקלות על ידי אדם. עסקאות הנחשבות לסיכון גבוה יכולות להידחות על הסף, או לעבור לבדיקה ידנית עוד לפני שהגיע שלב שבו עשויה להיות בדיקת תעודת זהות - ולכן הזדמנות לרמאי לעשות שימוש בטכנולוגיית Deepfake.
ככל שמערכת מזהה פושע רשת מוקדם יותר, כך ייטב. יש פחות סיכוי שהם יכולים להנציח פשע ופחות לעסק להוציא על בדיקות נוספות. בדיקות זיהוי מבוססות וידאו הן יקרות, אפילו ללא שילוב של טכנולוגיית AI לזיהוי זיופים עמוקים.
אם ניתן יהיה לזהות רמאים לפני שהם מגיעים כל כך רחוק, עם טכניקות כמו טביעת רגל דיגיטלית, יישארו יותר משאבים זמינים כדי לייעל את הבדיקות של מקרים גבוליים יותר.
עצם טבעה של למידת מכונה צריכה להכתיב שעם הזמן היא משתפרת באיתור חריגות ובמלחמה בהונאה. מערכות המופעלות על ידי בינה מלאכותית יכולות ללמוד מדפוסים חדשים ועלולים לסנן עסקאות הונאה בשלב מוקדם בתהליך.
כשמדובר בזיופים עמוקים במיוחד, הדוגמה למעלה נותנת סיבה מסוימת לתקווה. מדענים מצאו דרך לזהות את הרוב המכריע של זיופים עמוקים באמצעות החזרי אור. התפתחויות מסוג זה מהוות צעד ניכר קדימה במניעת הונאות וחסימה ניכרת עבור פושעי סייבר.
בתיאוריה, הרבה יותר קל לפרוס טכנולוגיית זיהוי כזו מאשר לרמאים למצוא דרך לעקוף אותה - לשכפל את התנהגות האור, למשל, במהירות ובקנה מידה. נראה שמשחק ה"חתול והעכבר" יימשך לנצח, אבל לטכנולוגיה הגדולה ולפיננסים הגדולים יש את המשאבים ואת הכיסים העמוקים כדי - בתיאוריה לפחות - להישאר צעד אחד קטן קדימה.
ג'ימי פונג הוא ה-CCO של SEON ומביא את הניסיון המעמיק שלו במאבק בהונאה כדי לסייע לצוותי הונאה בכל מקום.
- הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
- PlatoAiStream. Web3 Data Intelligence. הידע מוגבר. גישה כאן.
- הטבעת העתיד עם אדריאן אשלי. גישה כאן.
- קנה ומכירה של מניות בחברות PRE-IPO עם PREIPO®. גישה כאן.
- מקור: https://www.kdnuggets.com/2023/05/fighting-ai-ai-fraud-monitoring-deepfake-applications.html?utm_source=rss&utm_medium=rss&utm_campaign=fighting-ai-with-ai-fraud-monitoring-for-deepfake-applications
- :יש ל
- :הוא
- :לֹא
- :איפה
- $ למעלה
- 000
- 10
- 2018
- 2020
- 2021
- 2022
- 2023
- a
- יכולת
- אודות
- מֵעַל
- נגיש
- מעשים
- הוסיף
- -
- קדימה
- AI
- מערכות AI
- מונע AI
- אַלגוֹרִיתְם
- להתיר
- כְּבָר
- גם
- בסך הכל
- an
- ניתוח
- ו
- הַכרָזָה
- הודעות
- אחר
- לענות
- כל
- יישומים
- ARE
- סביב
- מלאכותי
- בינה מלאכותית
- AS
- לעזור
- At
- אוטומטי
- זמין
- בחזרה
- איזון
- בנק
- בנקים
- ברק אובמה
- מחסומים
- מבוסס
- BE
- להיות
- הופך להיות
- היה
- לפני
- החל
- להיות
- מוטב
- בֵּין
- מעבר
- גָדוֹל
- ביג טק
- ביטקוין
- דם
- גוּף
- שניהם
- מביא
- תאו
- בִּניָן
- עסקים
- עסקים
- אבל
- by
- נקרא
- CAN
- יכולות
- כרטיסים
- מקרים
- היאבקות
- סלבריטאים
- בהחלט
- לאתגר
- האתגרים
- סיכוי
- שינוי
- ChatGPT
- לבדוק
- בדיקות
- צֶבַע
- מגיע
- קהילה
- חברות
- להשלים
- המחשב
- רב
- להמשיך
- שיחה
- עלות
- יקר
- יכול
- זוג
- קורס
- לִיצוֹר
- יצירה
- פשע
- פושעים
- פושע רשת
- עברייני אינטרנט
- נתונים
- מדע נתונים
- נחשב
- עמוק
- עמוק זיופים
- deepfakes
- אספקה
- לפרוס
- מְתוּאָר
- איתור
- צעצועי התפתחות
- התפתחויות
- דיגיטלי
- דונלד
- דונלד טראמפ
- עשה
- ראוי
- מוקדם יותר
- מוקדם
- בשלב מוקדם
- קל יותר
- בקלות
- כַּלְכָּלִי
- פורום כלכלי
- אפקטיבי
- תופעות
- אלמנט
- אלמנטים
- לצאת
- אין סופי
- מספיק
- הזנת
- רשאי
- כניסה
- תקופה
- במיוחד
- אֲפִילוּ
- אירועים
- דוגמה
- דוגמאות
- בלעדי
- להתקיים
- ניסיון
- מומחה
- חשוף
- עיניים
- פָּנִים
- פנים
- עובדה
- מְזוּיָף
- רחוק
- להלחם
- לְחִימָה
- לסנן
- לממן
- כספי
- הונאה כספית
- גופים פיננסיים
- מציאת
- fintech
- חברות
- ראשון
- תזרים
- להתמקד
- בעד
- פוֹרוּם
- קדימה
- מצא
- הונאה
- גילוי הונאה
- מניעת הונאה
- רמאים
- רמאי
- החל מ-
- נוסף
- לְהַשִׂיג
- מִשְׂחָק
- גיימרים
- GANs
- נוצר
- מייצר
- אמיתי
- לקבל
- נותן
- Go
- גרפיקה
- הגדול ביותר
- היה
- קשה
- יש
- he
- לעזור
- כאן
- גָבוֹהַ
- להבליט
- פסים
- מאוד
- שֶׁלוֹ
- היסטורי
- מכה
- לקוות
- איך
- אולם
- HTML
- HTTPS
- עצום
- הַרבֵּה מְאוֹד
- בן אנוש
- בני אדם
- מאות
- ID
- מזוהה
- זהויות
- תמונה
- עָצוּם
- לשפר
- in
- מעמיק
- מצביע על
- יוזמה
- חדשני
- טכנולוגיה חדשנית
- מוסדות
- משולב
- אינטל
- מוֹדִיעִין
- אל תוך
- להשקיע
- לערב
- IT
- שֶׁלָה
- עצמו
- כתב עת
- jpg
- רק
- KDnuggets
- לדעת
- ידע
- ידוע
- KYC
- מְאוּחָר
- האחרון
- הושק
- לִלמוֹד
- למידה
- הכי פחות
- קריאה
- עזבו
- לגיטימי
- פחות
- אוֹר
- תְאוּרָה
- כמו
- סביר
- לינקדין
- לחיות
- נראה
- נראה
- מכונה
- למידת מכונה
- זרם מרכזי
- הרוב
- לעשות
- עושה
- מדריך ל
- רב
- חוֹמֶר
- מאי..
- אמצעים
- מנגנוני
- חבר
- מִילִיוֹן
- מיליונים
- דקות
- ראי
- החטיא
- MIT
- מודלים
- ניטור
- חוֹדֶשׁ
- יותר
- תנועה
- מהלכים
- הרבה
- טבע
- צורך
- רשתות
- חדש
- לילה
- לא טכני
- עַכשָׁיו
- מספרים
- אובמה
- of
- הַצָעָה
- לעתים קרובות
- on
- ONE
- באינטרנט
- רק
- OpenAI
- הזדמנות
- מטב
- אפשרויות
- or
- להזמין
- אחר
- הַחוּצָה
- תפוקה
- יותר
- שֶׁלוֹ
- זוגות
- חלק
- להשתתף
- מסוים
- עבר
- עבר
- דפוסי
- PC
- אֲנָשִׁים
- אוּלַי
- אדם
- תמונות
- מקום
- אפלטון
- מודיעין אפלטון
- אפלטון נתונים
- כיסים
- נקודה
- פוליטי
- פורנוגרפיה
- הודעה
- פוטנציאל
- כּוֹחַ
- להציג
- מניעה
- יְסוֹדִי
- תהליך
- תהליך
- כוח עיבוד
- מיוצר
- פרופסור
- קידום מכירות
- הוכיח
- לספק
- מתן
- ציבורי
- למטרות
- איכות
- מכ"ם
- רכס
- ציון
- במקום
- זמן אמת
- מציאותי
- מציאות
- טעם
- לאחרונה
- לאחרונה
- להכיר
- מכונה
- משתקף
- הרהורים
- משקף
- קָשׁוּר
- אמינות
- דווח
- לייצג
- דורש
- משאבים
- אחראי
- תוצאות
- החזרות
- גילה
- לחזור
- סקירה
- הסיכון
- באופן שגרתי
- הפעלה
- יום שבת
- סולם
- הונאה
- הונאות
- בית ספר
- מדע
- מדענים
- אבטחה
- אמצעי אבטחה
- לִרְאוֹת
- לחפש
- נראה
- לראות
- סיאון
- שרות
- היא
- משמרת
- צריך
- לְהַצִיג
- הראה
- צד
- סִימָן
- שלטים
- פָּשׁוּט
- since
- יחיד
- שישה
- קטן
- So
- פתרונות
- כמה
- משהו
- מתוחכם
- קול
- במיוחד
- מְהִירוּת
- לבלות
- התמחות
- אמור
- להשאר
- שלב
- עוד
- סיפור
- אִסטרָטֶגִיָה
- רְחוֹב
- לימוד
- נושא
- כזה
- מציע
- משטח
- לְהִתְנַחְשֵׁל
- מערכת
- מערכות
- יעד
- צוותי
- טק
- טכני
- טכניקות
- טכנולוגיות
- טכנולוגיה
- מבחן
- מֵאֲשֶׁר
- זֶה
- השמיים
- העולם
- שֶׁלָהֶם
- אותם
- עצמם
- אז
- התאוריה
- שם.
- לכן
- אלה
- הֵם
- דבר
- זֶה
- אלה
- אלפים
- דרך
- זמן
- ל
- גַם
- כלי
- כלים
- נושא
- סה"כ
- מְאוּמָן
- עסקות
- העברות
- באמת
- טראמפ
- פונה
- שתיים
- תחת
- אוניברסיטה
- להשתמש
- מְשׁוּמָשׁ
- משתמשים
- באמצעות
- לנצל
- Vast
- סף
- אימות
- לאמת
- מאוד
- באמצעות
- וִידֵאוֹ
- וידאו
- נגיפי
- קול
- פגיע
- שרות
- היה
- דֶרֶך..
- דרכים
- we
- היו
- וורטון
- מה
- מתי
- אשר
- מי
- יצטרך
- עם
- לְלֹא
- תיק עבודות
- עובד
- עוֹלָם
- פורום הכלכלי עולמי
- של העולם
- היה
- שנים
- YouTube
- זפירנט