תוכן סימון מים עדיין לא מספיק כדי להבחין בין תוכן אמיתי לבין תוכן שנוצר בינה מלאכותית, שכן פושעי סייבר יכולים גם לעקוף את תכונות האבטחה.
זה בא בעקבות אימוץ הולך וגובר של טכנולוגיות בינה מלאכותית, במיוחד בינה מלאכותית גנרטיבית, ויוצרת קרקע פורייה לאנשים חסרי מצפון להשתמש בה כדי להפיץ מידע שגוי, שנאה וצורות אחרות של תוכן זדוני.
וסימון מים התגלה כאחד הפתרונות העיקריים להבחין בין תוכן שנוצר בינה מלאכותית לתוכן מהחיים האמיתיים. ובכל זאת יש לו גם חסרונות.
גם לקרוא: Audio2Photoreal של Meta מאפשר כעת אווטרים פוטוריאליסטיים המופעלים על ידי קול
המניפולציה
מומחים טוענים שהצמיחה בבינה מלאכותית מגיעה גם עם שחקנים גרועים המנצלים את הטכנולוגיה כדי להפיץ דיסאינפורמציה וזדון ולגרום לבהלה עם חדשות מזויפות.
למרות שסימון מים זוהה כדי לאפשר למשתמשים להבחין בין תוכן שנוצר בינה מלאכותית לתוכן אמיתי מעשה ידי אדם, גם זה נוטה למניפולציות.
לפי הקופה, כמה חתימות גלויות, כגון מודל הטקסט לתמונה של Dall-E, הן אחת הקלות לעקוף את כלי זיהוי הבינה המלאכותית. עוד נכתב במאמר שאנשים חסרי מצפון יכולים לחתוך את סימני המים או להעתיק את התמונה בדרכים שעוקפות הורדה ישירה.
פרופסור למדעי המחשב באוניברסיטת באפלו בארה"ב, Siwei Lyu, אמר שיש מומחים גם בכל הנוגע לשבירת המחסומים.
"השתמשו בטכנולוגיית סימון מים עם גרגר מלח כי לא כל כך קשה למישהו עם ידע בסימני מים ובינה מלאכותית להיות מסוגל לשבור אותו ולהסיר את סימן המים או לייצר אחד", אמר ליו.
מומחה בינה מלאכותית ומנהל בכיר של ארגון ללא מטרות רווח שעוזר לאנשים להשתמש בטכנולוגיה כדי לקדם זכויות אדם, סם גרגורי, חושב עדיין ניתן לתמרן סימני מים על ידי שחקנים גרועים.
בעיניו, זה "כלי טריאז' להפחתת נזקים", והוסיף כי "זה לא פתרון של 100%".
סוגי סימני המים
עם זאת, לא הכל ורוד עבור שחקנים חסרי מצפון ורעים. כמה סימני מים שאינם נראים, כמו של Google DeepMind SynthID, קשה להיפטר מהם מכיוון שהם "מוטמעים ישירות בפלטי המערכת של Imagen."
סוג זה של סימן מים לא ניתן לראות בעין בלתי מזוינת אך ניתן לזהות באמצעות תוכנה או אלגוריתמים מיוחדים.
ליו, לעומת זאת, עדיין חושב שזה אפשרי עבור נבלות עם קצת "ידע טכני לקרצף את זה".
"אני חושב שסימני מים משחקים בעיקר על חוסר המודעות של אנשים לקיומם. אז אם הם יודעים שהם יכולים, הם ימצאו דרך לשבור את זה", אמר ליו.
סוג נוסף של סימן מים הוא זה הגלוי, שמתווסף לסרטונים, טקסט או תמונות על ידי חברות כמו Google, Getty ו-OpenAI כדי לאמת את תקפות התוכן.
הסוג השלישי של סימן מים הוא מטא נתונים קריפטוגרפיים. זה מראה מתי נוצר תוכן וכיצד הוא נערך.
סימני מים "לשטוף".
מחקר של אוניברסיטת מרילנד בראשות סוהיל פייזי, פרופסור למדעי המחשב, אמר כי סימני מים בינה מלאכותית לא היו חסינים בפני תקלות. הם בדקו את כל סוגי סימני המים ו"שברו את כולם".
"אין לנו שום סימן מים אמין בשלב זה", אמר.
הפרופסור גם הסביר כמה קל לשחקנים גרועים לתמרן סימני מים במה שהוא תיאר כ"שטיפה" של סימן המים.
גם מחקר אחר שנערך על ידי חוקרים מאוניברסיטת קליפורניה, סנטה ברברה וקרנגי מלון, גילו את אותם ממצאים.
"כל סימני המים הגלויים אינם אמינים," קורא הנייר.
בעיה רגישה לזמן
עובד בסנאט האמריקאי המעורב בניסוח חקיקה הקשורה לבינה מלאכותית אמר לפדסקופ על הצורך "לעמוד בקצב עם השחקנים הרעים", והוסיף שהסנאט נמצא כעת בעידן "חינוך והגדרת הבעיה".
"זה כמו ספורטאים אולימפיים - עכשיו כשאני יודע שאתה מחפש את התרופה הזו, אני פשוט אקח תרופה אחרת".
עם מדינות רבות הולכות לקלפיות השנה, לא ניתן להתעלם מהצורך בצעדים כדי למזער זיופים עמוקים ומידע מוטעה. בספטמבר האחרון, מנהיג הרוב בסנאט, צ'אק שומר, אמר שההתמודדות עם האותנטיות של התוכן היא א נושא רגיש לזמן בהתחשב בכך שהבחירות ממש מעבר לפינה במדינות רבות.
"יש את העניין של בעצם זיופים עמוקים, שבו אנשים באמת מאמינים... שמועמד אומר משהו כשהוא לגמרי יצירה של בינה מלאכותית", אמר לאחר הראשון שלו. תובנה של AI בדלת סגורה פורום.
חברות טכנולוגיה לוקחות על עצמן את האתגר
בינתיים, הקואליציה למקור ואותנטיות של תוכן (C2PA), פרי יצירתן של חברות מדיה וטכנולוגיה, נמצאת כעת במקום. זה מזהה את מקור התמונה, בין אם זו מצלמה או תוכנית בינה מלאכותית ששימשה ליצירתה.
זה גם נותן פרטים על הזמן, המיקום ושיטת היצירה של התמונה, ומאפשר לאנשים לאמת את מקורה. לפי הדיווחים, TikTok היא בין חברות הטכנולוגיה המובילות המובילות בתחום סימון המים.
"TikTok מראה לך את רצועת האודיו שבה נעשה שימוש; זה מראה לך את התפר שנוצר; זה מראה לך את אפקטי הבינה המלאכותית בשימוש", אמר גרגורי.
אחר גדול טק כמו Alphabet, Amazon, Meta ו-OpenAI התחייבו בשנה שעברה לפתח טכנולוגיית סימון מים כדי להתמודד עם מידע מוטעה.
- הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
- PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
- PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
- PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
- PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
- מקור: https://metanews.com/bad-actors-can-still-bypass-watermarks/
- :יש ל
- :הוא
- :לֹא
- :איפה
- 8
- 9
- a
- יכול
- שחקנים
- למעשה
- הוסיף
- מוסיף
- אימוץ
- יתרון
- לאחר
- AI
- אלגוריתמים
- תעשיות
- מאפשר
- מאפשר
- אלפבית
- גם
- אמזון בעברית
- בין
- an
- ו
- אחר
- כל
- ARE
- סביב
- מאמר
- AS
- At
- אודיו
- אותנטיות
- רע
- מחסומים
- BE
- כי
- היה
- בֵּין
- גָדוֹל
- לשבור
- שבירה
- תאו
- אבל
- by
- לעקוף
- קליפורניה
- חדר
- CAN
- מועמד
- לא יכול
- קרנגי מלון
- לגרום
- צ'אק
- קוֹאָלִיצִיָה
- מגיע
- חברות
- המחשב
- מדעי מחשב
- תוכן
- בפינה
- מדינות
- לִיצוֹר
- נוצר
- יוצרים
- יצירה
- יבול
- קריפטוגרפי
- כיום
- עברייני אינטרנט
- של דאל
- deepfakes
- הגדרה
- מְתוּאָר
- פרטים
- זוהה
- איתור
- לפתח
- קשה
- ישיר
- ישירות
- מְנַהֵל
- מֵידָע מַטעֶה
- לְהַבחִין
- לא
- תרופה
- הקל ביותר
- קל
- תופעות
- הבחירות
- יצא
- לאפשר
- מספיק
- תקופה
- במיוחד
- מנהלים
- מנכ"ל
- מומחה
- מומחים
- מוסבר
- עין
- מְזוּיָף
- חדשות מזויפות
- תכונות
- ממצאים
- חברות
- ראשון
- בעד
- צורות
- פוֹרוּם
- נוסף
- גנרטטיבית
- AI Generative
- לקבל
- נתן
- נותן
- הולך
- קרקע
- גדל
- צמיחה
- היה
- קשה
- לפגוע
- לשנוא
- יש
- יש
- he
- עוזר
- לו
- שֶׁלוֹ
- איך
- אולם
- HTTPS
- בן אנוש
- זכויות האדם
- i
- חולה
- מזוהה
- מזהה
- if
- תמונה
- תמונות
- in
- אנשים
- אל תוך
- בלתי נראה
- מעורב
- סוגיה
- IT
- שֶׁלָה
- רק
- מפתח
- סוג
- לדעת
- ידע
- אחרון
- שנה שעברה
- עוֹפֶרֶת
- מנהיג
- הוביל
- חֲקִיקָה
- כמו
- מיקום
- הסתכלות
- עשוי
- הרוב
- זדוני
- מניפולציות
- מניפולציה
- רב
- מרילנד
- בינתיים
- אמצעים
- מדיה
- מלון
- meta
- מידע נוסף
- שיטה
- לצמצם
- מידע שגוי
- מודל
- בעיקר
- צורך
- חדשות
- ללא כוונת רווח
- עמותה
- עַכשָׁיו
- of
- אוֹלִימְפִּי
- on
- ONE
- OpenAI
- or
- ארגון
- אחר
- הַחוּצָה
- פלטים
- שלום
- בהלה
- מאמר
- אֲנָשִׁים
- אנשיו של
- פוטוריאליסטי
- מקום
- אפלטון
- מודיעין אפלטון
- אפלטון נתונים
- לְשַׂחֵק
- נקודה
- אפשרי
- פרופסור
- תָכְנִית
- לקדם
- מוֹצָא
- חומר עיוני
- ממשי
- בֶּאֱמֶת
- הפחתה
- אָמִין
- להסיר
- לפי הדיווחים
- חוקרים
- להיפטר
- זכויות
- ורוד
- אמר
- מלח
- סם
- אותו
- סנטה
- סנטה ברברה
- לומר
- אמר
- מדע
- אבטחה
- לראות
- הסנאט
- סֶפּטֶמבֶּר
- חסרונות
- הופעות
- חתימות
- So
- תוכנה
- פִּתָרוֹן
- פתרונות
- כמה
- מישהו
- משהו
- מָקוֹר
- מיוחד
- תוכנה מיוחדת
- התפשטות
- הברית
- עוד
- לימוד
- כזה
- מערכת
- לְהִתְמוֹדֵד
- התמודדות
- לקחת
- נטילת
- טק
- טק
- טכנולוגיות
- טכנולוגיה
- נבדק
- טֶקסט
- זֶה
- השמיים
- המקור
- שֶׁלָהֶם
- אותם
- שם.
- הֵם
- לחשוב
- חושב
- שְׁלִישִׁי
- זֶה
- השנה
- דרך
- טיק טוק
- זמן
- ל
- אמר לי
- גַם
- כלי
- חלק עליון
- לְגַמרֵי
- לעקוב
- טריוויה
- סוג
- סוגים
- אוניברסיטה
- אוניברסיטת קליפורניה
- אוניברסיטת מרילנד
- us
- הסנאט האמריקאי
- להשתמש
- מְשׁוּמָשׁ
- משתמשים
- באמצעות
- לאמת
- וידאו
- נראה
- היה
- סימן מים
- watermarking
- סימני מים
- דֶרֶך..
- דרכים
- מה
- מתי
- אם
- אשר
- יצטרך
- עם
- שנה
- עוד
- אתה
- זפירנט