Twitch Bans AI-generated Seinfeld Show For Making Transphobic Jokes

افلاطون کے ذریعہ دوبارہ شائع کیا گیا۔

فالونگ: 0

ویڈیو سین فیلڈ سپوف کچھ بھی نہیں، ہمیشہ کے لیے – جنریٹیو AI کا استعمال کرتے ہوئے تیار کیا گیا ایک سیٹ کام – ایک کردار کے حادثاتی طور پر ٹرانس فوبک گستاخیاں کرنے کے بعد Twitch پر عارضی طور پر پابندی لگا دی گئی ہے۔

عجیب و غریب شو خبروں کی تعداد سین فیلڈ کے کبھی نہ ختم ہونے والے ایپی سوڈ کے ویژول اور اسکرپٹ کو بہتر بنانے کے لیے AI کا استعمال کرنے کے لیے پچھلے ہفتے۔ کامیڈی نقل کرنے والے آرٹ میں، سیٹ کام 30 راک پیش گوئی کچھ اس طرح 15 سال پہلے.

مشہور کامیڈی سیریز کے کرداروں جیری، جارج، ایلین اور کریمر کے بعد بنائے گئے کردار، OpenAI کے GPT-3 زبان کے ماڈلز کا استعمال کرتے ہوئے مکمل طور پر مکالمہ کرتے ہیں۔ ٹیکسٹ ٹو اسپیچ الگورتھم کا استعمال کرتے ہوئے متن کا آڈیو میں ترجمہ کیا جاتا ہے اور پس منظر اور مناظر بھی AI سے تیار ہوتے ہیں۔ کچھ بھی نہیں، ہمیشہ کے لیے ٹویچ 24/7 پر سٹریم ہوا اور پچھلے سال دسمبر میں نشر ہونے کے بعد سے اس نے بہت سے پیروکاروں کو اپنی طرف متوجہ کیا ہے۔

لیکن چینل شو کی میزبانی کو پیر کے روز ہٹا دیا گیا تھا۔ خلاف ورزی کرنا Twitch کی مواد کی پالیسیاں۔ Skyler Hartle، Mismatch Media کے شریک بانی اور Nothing, Forever کے تخلیق کاروں میں سے ایک نے بتایا رجسٹر یہ پابندی مرکزی کردار، لیری فینبرگ کی وجہ سے جاری کی گئی تھی، جس نے جارحانہ تبصرے کرتے ہوئے کہا تھا کہ ٹرانس جینڈر لوگ "معاشرے کے تانے بانے کو برباد کر رہے ہیں"، ٹرانس جینڈر ہونا ایک ذہنی بیماری ہے، اور یہ کہ "تمام لبرل خفیہ طور پر ہم جنس پرست ہیں"۔

آپ نیچے اسٹینڈ اپ کا برا منظر دیکھ سکتے ہیں۔

Youtube ویڈیوز

ہارٹل نے کہا کہ جب اس کے تخلیق کاروں نے OpenAI کے GPT-3 ماڈل Davinci ماڈل کو استعمال کرنے سے Curie نامی کم طاقتور اور سستے ورژن میں تبدیل کیا، اور اس کے مواد کو معتدل کرنے کے لیے سافٹ ویئر کی خصوصیات کو نافذ نہیں کیا۔

"ہمیں گزشتہ رات ڈیونچی سے اپنے کنکشن کے ساتھ ایک مسئلہ کا سامنا کرنا پڑا اور کیوری ماڈل میں تبدیل ہونا پڑا جب یہ مسئلہ خود ہی حل ہوگیا۔ یہ تب تھا جب نامناسب متن تیار کیا گیا تھا، اور ہم نے اسے فوری طور پر بند کر دیا تھا۔ ہم نے اس مسئلے کی مزید چھان بین کی اور دریافت کیا کہ ہم OpenAI کے مواد کی اعتدال پسندی کے ٹولز کا صحیح طریقے سے فائدہ نہیں اٹھا رہے تھے،" اس نے ہمیں بتایا۔

ہارٹل نے تصدیق کی کہ یہ پابندی عارضی ہے اور اسے 14 دن جاری رہنا چاہیے۔ Mismatch Media اب OpenAI کے مواد کی اعتدال پسندی کے ٹولز کو تعینات کرنے کے لیے کام کر رہا ہے اور ماڈل کے آؤٹ پٹس کو ٹریک کرنے کے لیے ایک ثانوی نظام پر بھی غور کر رہا ہے۔

"ہم نے جو متن تیار کیا وہ ایک غلطی تھی، ہم انتہائی شرمندہ ہیں، اور یہ کہ تخلیق کردہ مواد کسی بھی طرح سے ہمارے عملے کی اقدار یا آراء کی عکاسی نہیں کرتا ہے۔ ہمیں اس کے ہونے پر بہت افسوس ہے اور امید ہے کہ تمام مناسب حفاظتی انتظامات کے ساتھ جلد ہی دوبارہ آن ایئر ہو جائیں گے،‘‘ انہوں نے کہا۔

GPT-3 جیسے بڑے زبان کے ماڈلز کو انٹرنیٹ سے سکریپ کیے گئے متن سے تربیت دی جاتی ہے اور یہ نامناسب، جارحانہ زبان پیدا کر سکتے ہیں۔ مواد کے فلٹرز بدترین متن کو کم سے کم کر سکتے ہیں، لیکن جگہ جگہ حفاظتی اقدامات کے باوجود اسنیپٹس اب بھی چھپ جائیں گے۔

Twitch سے ایک ترجمان نے بھیجا رجسٹر نفرت انگیز طرز عمل سے نمٹنے کے لیے کمپنی کی کمیونٹی رہنما خطوط، اور کہا:

"ہم رازداری کی وجوہات کی بنا پر مخصوص خلاف ورزیوں پر تبصرہ نہیں کرتے ہیں، لیکن جب ہمارے پاس اس بات کا ثبوت ہوتا ہے کہ کسی چینل نے ہماری کمیونٹی گائیڈلائنز یا سروس کی شرائط کی خلاف ورزی کی ہے تو ہم مناسب کارروائی کرتے ہیں۔" ®