تجزیہ AI کی غلط معلومات سے نمٹنا اس سال ٹیک کمپنیوں کے لیے پہلے سے کہیں زیادہ اہم ہے کیونکہ وہ آئندہ امریکی صدارتی انتخابات کے لیے تیار ہیں۔
جھوٹی معلومات اور ڈیپ فیکس کا مقابلہ کرنا، تاہم، صرف اس وجہ سے زیادہ مشکل ہو گیا ہے کہ مصنوعی مواد تیار کرنے کے اوزار پہلے سے کہیں زیادہ وسیع پیمانے پر قابل رسائی ہیں۔
اوپن اے آئی کا چیٹ جی پی ٹی نومبر 2022 میں پہلی بار ریلیز ہونے کے بعد سے تیزی سے قابل ہو گیا ہے۔ پچھلے سال، یہ اعلی درجے کی اس کا GPT-4 سسٹم متن کے اوپر آڈیو اور تصاویر تیار کرتا ہے۔ اب، سٹارٹ اپ نے جاری کر دیا ہے۔ جی پی ٹی اسٹور، ایک پلیٹ فارم جو اپنی مرضی کے مطابق بلٹ ChatGPT پر مبنی بوٹس کی میزبانی کرتا ہے جو مخصوص شخصیات کو اپنا سکتا ہے یا مخصوص کام انجام دے سکتا ہے۔
'ہم ابھی تک یہ سمجھنے کے لیے کام کر رہے ہیں کہ ہمارے ٹولز ذاتی قائل کرنے کے لیے کتنے موثر ہو سکتے ہیں'
پیر کو، OpenAI نے کہا کہ سیاسی مہم اور لابنگ کے لیے GPTs بنانا ممنوع ہے، اور اس کے ماڈلز کو کسی بھی چیٹ بوٹس کو طاقت دینے کے لیے استعمال کرنا جو حقیقی لوگوں، کاروباروں، یا حکومتوں کی نقالی کرتا ہے، اس کی ٹیکنالوجی کا غلط استعمال ہے۔ مثال کے طور پر ووٹنگ جیسے جمہوری عمل میں مداخلت کرنے والی کسی بھی درخواست پر بھی پابندی ہے۔
"ہم توقع کرتے ہیں اور چاہتے ہیں کہ لوگ ہمارے ٹولز کو محفوظ اور ذمہ داری کے ساتھ استعمال کریں، اور انتخابات اس سے مختلف نہیں ہیں۔" اس نے کہا. "ہم متعلقہ بدسلوکی کا اندازہ لگانے اور روکنے کے لیے کام کرتے ہیں—جیسے کہ گمراہ کن 'ڈیپ فیکس'، اثر انداز ہونے والی کارروائیاں، یا امیدواروں کی نقالی کرنے والے چیٹ بوٹس۔"
اصولوں کی وضاحت اچھی اور اچھی بات ہے، لیکن ان کا نفاذ دوسری بات ہے۔ GPT اسٹور کی پولیس کرنا مشکل ہے، اور OpenAI ان ایپلی کیشنز کی رپورٹ کرنے کے لیے صارفین پر انحصار کر رہا ہے جو اس کی پالیسیوں کے خلاف ہیں۔ لوگوں نے پہلے ہی GPTs نہ بنانے کے بارے میں اس کے قواعد کو توڑ دیا ہے "رومانٹک صحبت کو فروغ دینے یا باقاعدہ سرگرمیاں انجام دینے کے لئے وقف"۔ پلیٹ فارم میں بہت ساری AI "گرل فرینڈز" ہیں اور بہت سے سیاسی چیٹ بوٹس بھی ہیں۔
کچھ کو ڈونلڈ ٹرمپ جیسے سیاست دانوں کی نقل کرنے کے لیے تیار کیا گیا ہے، مثال کے طور پر، اگرچہ وہ نقالی کے قائل نہیں ہیں، جبکہ دیگر بعض سیاسی نظریات کی حمایت کرتے ہیں۔ مثال کے طور پر "The Real Trump Bot" کے ساتھ بات چیت میں، اس نے کہا کہ یہ میل ان ووٹنگ کے خلاف ہے۔ "اوہ، یہاں تک کہ مجھے میل ان ووٹنگ شروع نہ کریں۔ ایسا لگتا ہے جیسے وہ پریشانی کے لیے پوچھ رہے ہوں۔ یہ زیادتی کے لیے اتنا کھلا ہے، یہ ناقابل یقین ہے۔‘‘
کیا یہ OpenAI کی پالیسیوں کے خلاف ہے؟ کیا یہ کسی کو اپنا ووٹ بھیجنے سے روک سکتا ہے؟ "ہم ابھی تک یہ سمجھنے کے لیے کام کر رہے ہیں کہ ذاتی قائل کرنے کے لیے ہمارے ٹولز کتنے موثر ہو سکتے ہیں،" OpenAI نے اعتراف کیا۔
اوپن اے آئی نے دیگر احتیاطی تدابیر بھی اختیار کی ہیں۔ اس کے ٹیکسٹ ٹو امیج ماڈل DALL-E کے لیے جگہ جگہ حفاظتی گڑھے صارفین کو سیاستدانوں کی تصاویر بنانے سے روکتے ہیں تاکہ ڈیپ فیکس کو آزمایا جا سکے۔ لیکن گارڈریلز تصاویر میں ترمیم کی اجازت دیتے ہیں، یعنی لوگ اب بھی AI کی مدد کے بغیر امیدواروں کی تصویروں میں ہیرا پھیری کر سکتے ہیں۔
مواد پر پابندی لگانے یا مسدود کرنے کے علاوہ، کمپنیاں غلط معلومات سے نمٹنے کے لیے جو دیگر حکمت عملی اختیار کر رہی ہیں ان میں ڈیجیٹل واٹر مارکس کو رول آؤٹ کرنا اور صارفین سے AI سے تیار کردہ تصاویر یا ویڈیوز کے بارے میں شفافیت کا تقاضا کرنا شامل ہے۔
Microsoft Coalition for Content Provenance and Authenticity (C2PA) کا رکن ہے اور مواد کی اسناد کے اقدام کی حمایت کر رہا ہے۔ یہ ایک ایسی خصوصیت تیار کر رہا ہے جو Bing امیج کریٹر کے ذریعہ تیار کردہ مواد کے لیے واٹر مارک کو سرایت کرتا ہے، جس میں میٹا ڈیٹا شامل ہوتا ہے جس میں یہ بیان کیا جاتا ہے کہ تصویر کیسے، کب، اور کس کے ذریعے بنائی گئی، جس کا معائنہ کیا جا سکتا ہے تاکہ اس کی عدم صداقت کو ثابت کیا جا سکے۔ OpenAI اس کی پیروی کرنے اور اسے نافذ کرنے کا منصوبہ بنا رہا ہے۔ سی پی 2 اےکی ڈیجیٹل اسناد بھی۔ لیکن واٹر مارکنگ اور میٹا ڈیٹا کی خصوصیت فول پروف نہیں ہے۔ تاہم، کسی تصویر کی اصلیت کے بارے میں معلومات صرف ان ایپلی کیشنز یا ویب سائٹس میں دیکھی جا سکتی ہیں جو مواد کی اسناد کے فارمیٹ کو سپورٹ کرتی ہیں۔
صارفین مائیکروسافٹ یا اوپن اے آئی کے ٹولز کے ذریعے تیار کردہ تصویر سے معلومات کو چھین سکتے ہیں اور اسے گوگل کروم جیسی کسی چیز میں کھول سکتے ہیں، مثال کے طور پر، جو CP2A کو سپورٹ نہیں کرتا ہے۔ تب ان کی تصاویر کے ساتھ کوئی میٹا ڈیٹا منسلک نہیں ہوگا، اور وہ اس کے بجائے اس ورژن کو تقسیم کرنے کے لیے آزاد ہوں گے۔
گوگل کے یوٹیوب پلیٹ فارم نے ایک مختلف طریقہ اختیار کیا ہے اور اس کے بجائے تخلیق کاروں سے یہ انکشاف کرنے کی ضرورت ہے کہ آیا ان کی ویڈیوز میں AI سے تیار کردہ فوٹیج ہے، جعلی واقعات کی عکاسی کی گئی ہے، یا ان میں ایسے لوگ شامل ہیں جو انہوں نے نہیں کہی ہیں۔ اسی دوران، میٹا اور گوگل مشتہرین سے کہا ہے کہ وہ اعلان کریں کہ آیا ان کے اشتہارات میں مصنوعی مواد ہے، چاہے اس کی جعلی تصاویر، ویڈیوز یا آڈیو ہوں۔
سیاست دانوں کے لیے قوانین زیادہ سخت ہیں۔ کیلیفورنیا، ٹیکساس، مشی گن، واشنگٹن اور مینیسوٹا جیسی متعدد ریاستیں گزر چکی ہیں قانون سازی سیاسی امیدواروں کو ووٹروں کو متاثر کرنے کے لیے ڈیپ فیکس بنانے سے منع کرنا۔ تاہم، کوئی وفاقی قانون نہیں ہے۔ فیڈرل الیکشن کمیشن نے ابھی یہ فیصلہ کرنا ہے کہ آیا "دوسرے امیدواروں یا سیاسی جماعتوں کو دھوکہ دہی سے غلط طریقے سے پیش کرنے" کے خلاف اس کی پالیسی AI سے تیار کردہ مواد پر لاگو ہوتی ہے۔
AI اب بھی زیادہ تر غیر منظم ہے، اور دنیا بھر میں لاگو ہونے والے مختلف قوانین سیاسی غلط معلومات کے تمام واقعات کا احاطہ نہیں کرتے ہیں۔ اگرچہ ٹیک کمپنیاں صارفین کو AI ڈس انفارمیشن پیدا کرنے سے روکنے کے لیے کوششیں تیز کر رہی ہیں، لیکن ان کے طریقے کامل نہیں ہیں اور صارفین اکثر اپنے حفاظتی اقدامات کو حاصل کرنے کے طریقے تلاش کرتے ہیں۔ ®
- SEO سے چلنے والا مواد اور PR کی تقسیم۔ آج ہی بڑھا دیں۔
- پلیٹو ڈیٹا ڈاٹ نیٹ ورک ورٹیکل جنریٹو اے آئی۔ اپنے آپ کو بااختیار بنائیں۔ یہاں تک رسائی حاصل کریں۔
- پلیٹوآئ اسٹریم۔ ویب 3 انٹیلی جنس۔ علم میں اضافہ۔ یہاں تک رسائی حاصل کریں۔
- پلیٹو ای ایس جی۔ کاربن، کلین ٹیک، توانائی ، ماحولیات، شمسی، ویسٹ مینجمنٹ یہاں تک رسائی حاصل کریں۔
- پلیٹو ہیلتھ۔ بائیوٹیک اینڈ کلینیکل ٹرائلز انٹیلی جنس۔ یہاں تک رسائی حاصل کریں۔
- ماخذ: https://go.theregister.com/feed/www.theregister.com/2024/01/17/ai_political_disinformation/
- : ہے
- : ہے
- : نہیں
- $UP
- 2022
- a
- ہمارے بارے میں
- بدسلوکی
- قابل رسائی
- سرگرمیوں
- اعتراف کیا
- اپنانے
- اشتھارات
- میں اشتہار
- کے خلاف
- AI
- مقصد
- تمام
- کی اجازت
- پہلے ہی
- بھی
- اگرچہ
- an
- اور
- ایک اور
- اندازہ
- کوئی بھی
- قابل اطلاق
- ایپلی کیشنز
- لاگو ہوتا ہے
- نقطہ نظر
- کیا
- ارد گرد
- AS
- سے پوچھ
- منسلک
- آڈیو
- صداقت
- پر پابندی لگا دی
- BE
- بن
- اس سے پہلے
- بنگ
- مسدود کرنے میں
- بوٹ
- خودکار صارف دکھا ئیں
- ٹوٹ
- عمارت
- کاروبار
- لیکن
- by
- کیلی فورنیا
- مہم چلانا
- کر سکتے ہیں
- امیدواروں
- صلاحیت رکھتا
- لے جانے کے
- کچھ
- چیٹ بٹس
- چیٹ جی پی ٹی
- کروم
- CO
- اتحاد
- کی روک تھام
- کمیشن
- کمپنیاں
- پر مشتمل ہے
- مواد
- بات چیت
- سکتا ہے
- احاطہ
- تیار کیا
- تخلیق
- خالق
- تخلیق کاروں
- اسناد
- اہم
- اپنی مرضی کے مطابق بلٹ
- dall-e
- فیصلہ کرنا
- وقف
- deepfakes
- جمہوری
- بیان
- مختلف
- مشکل
- ڈیجیٹل
- ظاہر
- بے چینی
- تحلیل کرنا۔
- تقسیم کرو
- do
- نہیں
- ڈان
- ڈونالڈ
- ڈونالڈ ٹرمپ
- ترمیم
- موثر
- کوششوں
- الیکشن
- انتخابات
- نافذ کرنا
- Ether (ETH)
- بھی
- واقعات
- کبھی نہیں
- مثال کے طور پر
- توقع ہے
- جعلی
- جھوٹی
- نمایاں کریں
- وفاقی
- وفاقی قانون
- مل
- پہلا
- پر عمل کریں
- کے لئے
- فارمیٹ
- فروغ
- مفت
- سے
- پیدا
- پیدا کرنے والے
- حاصل
- دی
- Go
- اچھا
- گوگل
- گوگل کروم
- حکومتیں
- اضافہ ہوا
- ہے
- جنت
- مدد
- ہوسٹنگ
- کس طرح
- تاہم
- HTTPS
- بھاری
- نظریات
- if
- تصویر
- تصاویر
- پر عملدرآمد
- اہم
- in
- شامل
- دن بدن
- اثر و رسوخ
- معلومات
- انیشی ایٹو
- واقعات
- کے بجائے
- نہیں
- IT
- میں
- فوٹو
- لیبل
- آخری
- آخری سال
- قانون
- قوانین
- کی طرح
- لابنگ
- بنا
- میلنگ
- بہت سے
- معاملہ
- me
- مطلب
- دریں اثناء
- اقدامات
- رکن
- میٹا ڈیٹا
- طریقوں
- مشی گن
- مائیکروسافٹ
- شاید
- منیسوٹا
- گمراہ کرنا
- ماڈل
- ماڈل
- پیر
- زیادہ
- زیادہ تر
- ایک سے زیادہ
- نہیں
- نومبر
- اب
- of
- اکثر
- oh
- on
- صرف
- کھول
- اوپنائی
- آپریشنز
- or
- دیگر
- دیگر
- ہمارے
- باہر
- خاص طور پر
- جماعتوں
- منظور
- لوگ
- کامل
- کارکردگی کا مظاہرہ
- شخصیات
- نجیکرت
- تصاویر
- مقام
- منصوبہ بندی
- پلیٹ فارم
- پلاٹا
- افلاطون ڈیٹا انٹیلی جنس
- پلیٹو ڈیٹا
- کافی مقدار
- پولیس
- پالیسیاں
- پالیسی
- سیاسی
- سیاسی امیدواروں
- سیاسی جماعتیں
- سیاستدان
- طاقت
- صدارتی
- صدارتی انتخابات
- کی روک تھام
- عمل
- پیدا
- ممنوع
- ثابت کریں
- provenance کے
- ریمپنگ
- RE
- اصلی
- باضابطہ
- جاری
- متعلقہ
- یقین ہے
- رپورٹ
- ذمہ داری سے
- رولنگ
- قوانین
- s
- محفوظ طریقے سے
- سیفٹی
- کہا
- یہ کہہ
- دیکھا
- بعد
- So
- کسی
- کچھ
- مخصوص
- شروع
- شروع
- امریکہ
- ابھی تک
- ذخیرہ
- حکمت عملیوں
- سخت
- پٹی
- اس طرح
- سوٹ
- حمایت
- امدادی
- مصنوعی
- کے نظام
- T
- سے نمٹنے
- لیا
- لینے
- کاموں
- ٹیک
- ٹیک کمپنیوں
- ٹیکنالوجی
- ٹیکساس
- متن
- سے
- کہ
- ۔
- کے بارے میں معلومات
- دنیا
- ان
- ان
- تو
- وہاں.
- وہ
- چیزیں
- اس
- اس سال
- اگرچہ؟
- کرنے کے لئے
- بھی
- اوزار
- سب سے اوپر
- شفاف
- مصیبت
- ٹرمپ
- کوشش
- سمجھ
- اچھال
- آئندہ
- us
- استعمال کی شرائط
- صارفین
- کا استعمال کرتے ہوئے
- مختلف
- ورژن
- ویڈیوز
- ووٹ
- ووٹر
- ووٹنگ
- تھا
- واشنگٹن
- آبی نشان
- Watermarking
- کے watermarks
- طریقوں
- we
- ویب سائٹ
- اچھا ہے
- جب
- چاہے
- جس
- جبکہ
- کون ہے
- بڑے پیمانے پر
- ساتھ
- بغیر
- کام
- کام کر
- دنیا
- گا
- سال
- ابھی
- یو ٹیوب پر
- زیفیرنیٹ