אָנָלִיזָה התמודדות עם דיסאינפורמציה בינה מלאכותית חיונית יותר מאי פעם עבור חברות טכנולוגיה השנה, כאשר הן מתכוננות לקראת הבחירות הקרובות לנשיאות ארה"ב.
אולם, המאבק במידע כוזב ובזיופים עמוקים רק הפך לקשה יותר בהתחשב בכך שהכלים להפקת תוכן סינתטי נגישים יותר מאי פעם.
ה-ChatGPT של OpenAI גדל יותר ויותר מסוגל מאז שיצא לראשונה בנובמבר 2022. בשנה שעברה, הוא משודרג מערכת ה-GPT-4 שלה להפקת אודיו ותמונות על גבי טקסט. כעת, הסטארט-אפ שיחרר את חנות GPT, פלטפורמה המארחת בוטים מבוססי ChatGPT בהתאמה אישית שיכולים לאמץ אישיות מסוימת או לבצע משימות ספציפיות.
"אנחנו עדיין עובדים כדי להבין עד כמה הכלים שלנו יכולים להיות יעילים לשכנוע מותאם אישית"
ביום שני, OpenAI אמרה כי בניית GPTs עבור קמפיין פוליטי ולובי אסורה, ושימוש במודלים שלה כדי להפעיל כל צ'טבוט שמתחזה לאנשים אמיתיים, עסקים או ממשלות הוא ניצול לרעה של הטכנולוגיה שלה. גם כל אפליקציה שמתערבת בתהליכים דמוקרטיים, כמו הצבעה למשל, אסורה.
"אנחנו מצפים ומכוונים שאנשים ישתמשו בכלים שלנו בבטחה ובאחריות, והבחירות אינן שונות", זה אומר. "אנחנו פועלים כדי לצפות ולמנוע ניצול לרעה רלוונטי - כמו 'זיופים עמוקים' מטילים, פעולות השפעה מוקטנות או צ'אטבוטים המתחזות למועמדים".
בירור הכללים טוב ויפה, אבל אכיפתם היא עניין אחר. קשה לשלוט בחנות GPT, ו-OpenAI מסתמכת על המשתמשים שידווחו על יישומים הנוגדים את המדיניות שלה. אנשים כבר הפרו את הכללים שלה לגבי אי יצירת GPTs "המוקדשים לטפח זוגיות רומנטית או ביצוע פעילויות מוסדרות". לפלטפורמה יש הרבה "חברות" בינה מלאכותית, ויש גם צ'אטבוטים פוליטיים רבים.
חלקם נועדו לחקות פוליטיקאים כמו דונלד טראמפ, למשל, למרות שהם אינם משכנעים התחזות, בעוד שאחרים תומכים באידיאולוגיות פוליטיות מסוימות. בשיחה עם "The Real Trump Bot", למשל, הוא אמר שהוא נגד הצבעה בדואר. "הו, אל תביא אותי אפילו להתחיל בהצבעה בדואר. זה כאילו הם מבקשים צרות. זה כל כך פתוח להתעללות, שזה לא ייאמן".
האם זה נוגד את המדיניות של OpenAI? האם זה יכול להניא מישהו מלשלוח את ההצבעה שלו?. "אנחנו עדיין עובדים כדי להבין עד כמה הכלים שלנו יכולים להיות יעילים לשכנוע מותאם אישית", הודתה OpenAI.
OpenAI נקטה גם באמצעי זהירות אחרים. מעקות בטיחות המוצבים עבור דגם הטקסט לתמונה DALL-E מונעים ממשתמשים ליצור תמונות של פוליטיקאים כדי לנסות ולמנוע זיופים עמוקים. אבל מעקות הבטיחות כן מאפשרים עריכה של תמונות, כלומר אנשים עדיין יכולים לתפעל תמונות של מועמדים ללא עזרה של AI.
בנוסף לאיסור או חסימת תוכן, האסטרטגיות האחרות שחברות נוקטות כדי להילחם בדיסאינפורמציה כוללות פרסום סימני מים דיגיטליים ודרישה מהמשתמשים להיות שקופים לגבי תמונות או סרטונים שנוצרו בינה מלאכותית.
מיקרוסופט חברה בקואליציה למקור ואותנטיות של תוכן (C2PA) ותומכת ביוזמת ה-Content Credentials. זה משיק פיצ'ר שמטמיע סימן מים לתוכן שנוצר על ידי Bing Image Creator, המכיל מטא נתונים המתארים כיצד נוצרה התמונה, מתי ועל ידי מי, שניתן לבדוק כדי להוכיח את חוסר האותנטיות שלה. OpenAI מתכננת ללכת בעקבותיו וליישם את CP2Aגם האישורים הדיגיטליים של. אבל תכונת סימון המים והמטא-נתונים אינה חסינת תקלות. עם זאת, ניתן לראות את המידע על מקור התמונה רק ביישומים או באתרי אינטרנט התומכים בפורמט ה-Content Credentials.
משתמשים יכולים להסיר את המידע מתמונה שנוצרה על ידי הכלים של Microsoft או OpenAI ולפתוח אותו במשהו כמו Google Chrome, למשל, שאינו תומך ב-CP2A. לא יהיו מטא נתונים הקשורים לתמונות שלהם אז, והם יהיו חופשיים להפיץ את הגרסה הזו במקום זאת.
פלטפורמת היוטיוב של גוגל נקטה בגישה שונה ובמקום זאת דורשת מהיוצרים לחשוף אם הסרטונים שלהם מכילים קטעי בינה מלאכותית, מתארים אירועים מזויפים או שהם מכילים אנשים שאומרים דברים שהם לא אמרו. בינתיים, meta ו Google ביקשו ממפרסמים להצהיר אם המודעות שלהם מכילות תוכן סינתטי, בין אם מדובר בתמונות מזויפות, סרטונים או אודיו.
החוקים מחמירים יותר לפוליטיקאים. מספר מדינות, כמו קליפורניה, טקסס, מישיגן, וושינגטון ומינסוטה עברו חֲקִיקָה איסור על מועמדים פוליטיים להמציא זיופים עמוקים כדי להשפיע על הבוחרים. עם זאת, אין חוק פדרלי. ועדת הבחירות הפדרלית עדיין לא החליטה אם המדיניות שלה נגד "הצגת שווא במרמה של מועמדים אחרים או מפלגות פוליטיות" חלה על תוכן שנוצר בינה מלאכותית.
בינה מלאכותית עדיין אינה מוסדרת ברובה, והחוקים השונים החלים ברחבי העולם אינם מכסים את כל המקרים של דיסאינפורמציה פוליטית. למרות שחברות טכנולוגיה מגבירות את המאמצים למנוע מהמשתמשים לייצר דיסאינפורמציה של AI, השיטות שלהן אינן מושלמות והמשתמשים מוצאים לעתים קרובות דרכים לעקוף את אמצעי הבטיחות שלהם. ®
- הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
- PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
- PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
- PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
- PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
- מקור: https://go.theregister.com/feed/www.theregister.com/2024/01/17/ai_political_disinformation/
- :יש ל
- :הוא
- :לֹא
- $ למעלה
- 2022
- a
- אודות
- התעללות
- נגיש
- פעילויות
- הודה
- לְאַמֵץ
- מודעות
- מפרסמים
- נגד
- AI
- המטרה
- תעשיות
- להתיר
- כְּבָר
- גם
- למרות
- an
- ו
- אחר
- לצפות
- כל
- ישים
- יישומים
- חל
- גישה
- ARE
- סביב
- AS
- לשאול
- המשויך
- אודיו
- אותנטיות
- אסר
- BE
- להיות
- לפני
- בינג
- חסימה
- בוט
- בוטים
- שבור
- בִּניָן
- עסקים
- אבל
- by
- קליפורניה
- מסע פרסום
- CAN
- מועמדים
- מסוגל
- לשאת
- מסוים
- chatbots
- ChatGPT
- Chrome
- CO
- קוֹאָלִיצִיָה
- להילחם
- עמלה
- חברות
- להכיל
- תוכן
- שיחה
- יכול
- לכסות
- מעוצב
- יוצרים
- יוצר
- יוצרים
- אישורים
- מכריע
- שהותקן
- של דאל
- להחליט
- מוקדש
- deepfakes
- דֵמוֹקרָטִי
- המתאר
- אחר
- קשה
- דיגיטלי
- לחשוף
- מֵידָע מַטעֶה
- להניא
- לְהָפִיץ
- do
- לא איכפת
- דון
- דונלד
- דונלד טראמפ
- עריכה
- אפקטיבי
- מַאֲמָצִים
- בחירה
- הבחירות
- אכיפה
- Ether (ETH)
- אֲפִילוּ
- אירועים
- אי פעם
- דוגמה
- לצפות
- מְזוּיָף
- שקר
- מאפיין
- פדרלי
- חוק פדרלי
- ראשון
- לעקוב
- בעד
- פוּרמָט
- טיפוח
- חופשי
- החל מ-
- נוצר
- יצירת
- לקבל
- נתן
- Go
- טוב
- Google Chrome
- ממשלות
- מְגוּדָל
- יש
- מִקְלָט
- לעזור
- אירוח
- איך
- אולם
- HTTPS
- הַרבֵּה מְאוֹד
- אידיאולוגיות
- if
- תמונה
- תמונות
- ליישם
- חשוב
- in
- לכלול
- יותר ויותר
- להשפיע
- מידע
- יוזמה
- מקרים
- במקום
- J States
- IT
- שֶׁלָה
- jpg
- תווית
- אחרון
- שנה שעברה
- חוק
- חוקים
- כמו
- שתדלנות
- עשוי
- דיוור
- רב
- דבר
- me
- משמעות
- בינתיים
- אמצעים
- חבר
- מידע נוסף
- שיטות
- מישיגן
- מיקרוסופט
- יכול
- מינסוטה
- מַטעֶה
- מודל
- מודלים
- יום שני
- יותר
- בעיקר
- מספר
- לא
- נוֹבֶמבֶּר
- עַכשָׁיו
- of
- לעתים קרובות
- oh
- on
- רק
- לפתוח
- OpenAI
- תפעול
- or
- אחר
- אחרים
- שלנו
- הַחוּצָה
- מסוים
- צדדים
- עבר
- אֲנָשִׁים
- ביצוע
- אישים
- אישית
- תמונות
- מקום
- תכנון
- פלטפורמה
- אפלטון
- מודיעין אפלטון
- אפלטון נתונים
- שפע
- מִשׁטָרָה
- מדיניות
- מדיניות
- פוליטי
- מועמדים פוליטיים
- מפלגות פוליטיות
- פוליטיקאים
- כּוֹחַ
- נשיאותי
- בחירות לנשיאות
- למנוע
- תהליכים
- לייצר
- אסור
- להוכיח
- מוֹצָא
- משתולל
- RE
- ממשי
- מוסדר
- שוחרר
- רלוונטי
- הסתמכות
- לדווח
- באחריות
- גִלגוּל
- כללי
- s
- בבטחה
- בְּטִיחוּת
- אמר
- אמר
- לראות
- since
- So
- מישהו
- משהו
- ספציפי
- החל
- סטארט - אפ
- הברית
- עוד
- חנות
- אסטרטגיות
- מחמיר
- לְהִתְפַּשֵׁט
- כזה
- כדלקמן
- תמיכה
- מסייע
- סינטטי
- מערכת
- T
- התמודדות
- משימות
- נטילת
- משימות
- טק
- טק
- טכנולוגיה
- טקסס
- טֶקסט
- מֵאֲשֶׁר
- זֶה
- השמיים
- המידע
- העולם
- שֶׁלָהֶם
- אותם
- אז
- שם.
- הֵם
- דברים
- זֶה
- השנה
- אם כי?
- ל
- גַם
- כלים
- חלק עליון
- שָׁקוּף
- צרה
- טראמפ
- לנסות
- להבין
- שוחרר
- בקרוב ב
- us
- להשתמש
- משתמשים
- באמצעות
- שונים
- גרסה
- וידאו
- הַצבָּעָה
- הבוחר
- הצבעה
- היה
- וושינגטון
- סימן מים
- watermarking
- סימני מים
- דרכים
- we
- אתרים
- טוֹב
- מתי
- אם
- אשר
- בזמן
- מִי
- באופן נרחב
- עם
- לְלֹא
- תיק עבודות
- עובד
- עוֹלָם
- היה
- שנה
- עוד
- YouTube
- זפירנט