Twitch אוסר על תוכנית סיינפלד שנוצרה על ידי בינה מלאכותית לבדיחות טרנספוביות

הועלה מחדש על ידי אפלטון

עוקב: 0

וִידֵאוֹ הזיוף של סיינפלד Nothing, Forever - סיטקום שפותח באמצעות AI גנרטיבי - נאסר זמנית ב-Twitch לאחר שאחת הדמויות פלטה בטעות ניבולי פה טרנספוביים.

המופע המוזר כותרות בשבוע שעבר על השימוש בבינה מלאכותית כדי לאלתר חזותיים ותסריט של פרק בלתי נגמר של סיינפלד. בקומדיה המחקה אמנות, סיטקום 30 רוק חזה משהו כזה לפני יותר מ-15 שנה.

הדמויות, שעוצבו על פי דמויות סדרת הקומדיה האיקונית ג'רי, ג'ורג', איליין וקרמר, משמיעות דיאלוג מורכב לחלוטין באמצעות מודלים של שפות GPT-3 של OpenAI. הטקסט מתורגם לאודיו באמצעות אלגוריתמי טקסט לדיבור וגם הרקעים והסצנות נוצרות בינה מלאכותית. כלום, Forever זרם ב-Twitch 24/7 ומשך עוקבים רבים מאז שהחל לשדר בשנה שעברה בדצמבר.

אבל ערוץ אירוח התוכנית הוסר ביום שני עבור המפר מדיניות התוכן של Twitch. Skyler Hartle, מייסד שותף של Mismatch Media ואחד היוצרים מאחורי Nothing, Forever, סיפר הקופה האיסור הוצא בגלל הדמות הראשית, לארי פיינברג, שהשמיע הערות פוגעניות שאומרים שטרנסג'נדרים "הורסים את מרקם החברה", היותו טרנסג'נדר זו מחלת נפש, וכי "כל הליברלים הם הומואים בסתר".

אתה יכול לצפות בסצנת הסטנד-אפ הגרועה למטה.

וידאו Youtube

הארטל אמר שהתסריט של התוכנית סטה מהמסלול כאשר יוצריה עברו משימוש במודל GPT-3 של OpenAI של Davinci לגרסה פחות חזקה וזולה יותר בשם Curie, ולא יישמו תכונות תוכנה כדי למתן את התוכן שלה.

"חווינו בעיה בחיבור שלנו ל-Davinci אתמול בלילה ונאלצנו לעבור למודל Curie בזמן שהבעיה נפתרה מעצמה. זה היה כשהטקסט הלא הולם נוצר, ומיד סגרנו אותו. חקרנו את הנושא עוד יותר וגילינו שלא מינפנו נכון את כלי ניהול התוכן של OpenAI", אמר לנו.

הארטל אישר שהאיסור הוא זמני ואמור להימשך 14 ימים. Mismatch Media פועלת כעת לפריסת כלי ניהול התוכן של OpenAI ושוקלת גם מערכת משנית למעקב אחר התפוקות של המודל.

"הטקסט שיצרנו היה טעות, אנחנו מאוד נבוכים, ושהתוכן היצירתי שנוצר בשום אופן לא משקף את הערכים או הדעות של הצוות שלנו. אנחנו מאוד מצטערים שזה קרה ומקווים לחזור לאוויר בקרוב, עם כל אמצעי ההגנה המתאימים", אמר.

דגמי שפה גדולים כמו GPT-3 מאומנים מטקסט שנגרד מהאינטרנט ויכולים ליצור שפה לא הולמת ופוגענית. מסנני תוכן יכולים למזער את הטקסט הגרוע ביותר, אבל קטעי טקסט עדיין יחליקו אפילו עם אמצעי הגנה במקום.

דובר מ-Twitch שלח הקופה הנחיות הקהילה של החברה העוסקות בהתנהלות שנאה, ואמרו:

"איננו מגיבים על הפרות ספציפיות מטעמי פרטיות, אך אנו נוקטים בפעולה מתאימה כאשר יש לנו ראיות לכך שערוץ פעל תוך הפרה של הנחיות הקהילה או תנאי השירות שלנו." ®