واٹر مارکنگ مواد ابھی بھی حقیقی اور AI سے تیار کردہ مواد میں فرق کرنے کے لیے کافی نہیں ہے، کیونکہ سائبر کرائمینلز سیکیورٹی فیچرز کو بھی نظرانداز کر سکتے ہیں۔
یہ اس وقت سامنے آیا ہے جب AI ٹیکنالوجیز کو اپنانے میں اضافہ ہو رہا ہے، خاص طور پر جنریٹیو AI، جس سے بےایمان افراد کے لیے اسے غلط معلومات، نفرت اور دیگر قسم کے بدنیتی پر مبنی مواد پھیلانے کے لیے استعمال کرنے کے لیے زرخیز زمین پیدا ہو رہی ہے۔
اور واٹر مارکنگ AI سے تیار کردہ مواد اور حقیقی زندگی کے مواد میں فرق کرنے کے کلیدی حل میں سے ایک کے طور پر ابھرا ہے۔ اس کے باوجود اس کی خامیاں بھی ہیں۔
مزید پڑھئے: میٹا کا آڈیو 2 فوٹووریل اب آواز سے چلنے والے فوٹو ریئلسٹک اوتاروں کی اجازت دیتا ہے
جوڑ توڑ
ماہرین کا کہنا ہے کہ AI کی نمو اس وقت بھی آتی ہے جب خراب اداکار ٹیکنالوجی کا فائدہ اٹھاتے ہوئے غلط معلومات اور بددیانتی پھیلاتے ہیں اور جعلی خبروں سے خوف و ہراس پھیلاتے ہیں۔
اگرچہ واٹر مارکنگ کی نشاندہی کی گئی ہے تاکہ صارفین AI سے تیار کردہ مواد اور حقیقی انسانی ساختہ مواد کے درمیان فرق کر سکیں، لیکن وہ بھی ہیرا پھیری کا شکار ہے۔
کے مطابق رجسٹرکچھ نظر آنے والے دستخط، جیسے Dall-E ٹیکسٹ ٹو امیج ماڈل، AI کا پتہ لگانے والے ٹول کو نظرانداز کرنے کے لیے سب سے آسان ہیں۔ مضمون میں مزید کہا گیا ہے کہ بےایمان افراد واٹر مارکس کو کاٹ سکتے ہیں یا تصویر کو ایسے طریقوں سے کاپی کرسکتے ہیں جو براہ راست ڈاؤن لوڈنگ کو نظرانداز کرتے ہیں۔
امریکہ کی یونیورسٹی آف بفیلو میں کمپیوٹر سائنس کے پروفیسر سیوئی لیو نے کہا کہ جب رکاوٹوں کو توڑنے کی بات آتی ہے تو ماہرین بھی ہوتے ہیں۔
لیو نے کہا، "واٹر مارکنگ ٹیکنالوجی کو نمک کے ایک دانے کے ساتھ استعمال کیا گیا ہے کیونکہ واٹر مارکس اور AI کا علم رکھنے والے کسی کے لیے اسے توڑنا اور واٹر مارک کو ہٹانا یا تیار کرنا اتنا مشکل نہیں ہے،" لیو نے کہا۔
AI ماہر اور ایک غیر منافع بخش تنظیم کے ایگزیکٹو ڈائریکٹر جو لوگوں کو انسانی حقوق کے فروغ کے لیے ٹیکنالوجی کے استعمال میں مدد کرتی ہے، سیم گریگوری، سوچتا ہے کہ واٹر مارکنگ اب بھی برے اداکاروں کے ذریعہ ہیرا پھیری کی جا سکتی ہے۔
اس کے نزدیک، یہ "نقصان کم کرنے کا ایک ٹریج ٹول ہے،" انہوں نے مزید کہا کہ "یہ 100% حل نہیں ہے۔"
واٹر مارکس کی اقسام
تاہم، یہ سب کچھ بےایمان، برے اداکاروں کے لیے گلابی نہیں ہے۔ کچھ واٹر مارکس جو پوشیدہ ہیں، جیسے گوگل ڈیپ مائنڈ SynthID، ان سے چھٹکارا حاصل کرنا مشکل ہے کیونکہ وہ "براہ راست امیجین کے سسٹم آؤٹ پٹس میں سرایت شدہ ہیں۔"
اس قسم کا واٹر مارک ننگی آنکھ سے نہیں دیکھا جا سکتا لیکن خاص سافٹ ویئر یا الگورتھم کے ذریعے اس کا پتہ لگایا جا سکتا ہے۔
لیو، تاہم، اب بھی سوچتا ہے کہ یہ کچھ "تکنیکی جانکاری کے ساتھ اس کو ختم کرنے کا طریقہ" والے بدمعاشوں کے لیے ممکن ہے۔
"میرے خیال میں واٹر مارکس زیادہ تر لوگوں کے اپنے وجود سے لاعلمی پر کھیلتے ہیں۔ لہذا، اگر وہ جانتے ہیں کہ وہ کر سکتے ہیں، تو وہ اسے توڑنے کا راستہ تلاش کریں گے،" لیو نے کہا۔
واٹر مارک کی ایک اور قسم مرئی ہے، جسے گوگل، گیٹی، اور اوپن اے آئی جیسی کمپنیوں کے ذریعے مواد کی درستگی کی تصدیق کے لیے ویڈیوز، متن یا تصاویر میں شامل کیا جاتا ہے۔
واٹر مارک کی تیسری قسم کرپٹوگرافک میٹا ڈیٹا ہے۔ یہ دکھاتا ہے کہ مواد کب بنایا گیا اور اس میں ترمیم کیسے کی گئی۔
"دھونے" واٹر مارکس
کمپیوٹر سائنس کے پروفیسر سہیل فیضی کی سربراہی میں یونیورسٹی آف میری لینڈ کی ایک تحقیق نے کہا کہ اے آئی واٹر مارکس فول پروف نہیں تھے۔. انہوں نے تمام قسم کے واٹر مارکس کا تجربہ کیا اور "ان سب کو توڑ دیا۔"
"ہمارے پاس اس وقت کوئی قابل اعتماد واٹر مارکنگ نہیں ہے،" انہوں نے کہا۔
پروفیسر نے یہ بھی بتایا کہ برے اداکاروں کے لیے واٹر مارکس میں ہیرا پھیری کرنا کتنا آسان ہے جسے اس نے واٹر مارک کو "دھونے" کے طور پر بیان کیا ہے۔
یونیورسٹی آف کیلیفورنیا، سانتا باربرا، اور کارنیگی میلن کے محققین کی مشترکہ تصنیف کردہ ایک اور تحقیق میں بھی یہی نتائج برآمد ہوئے۔
"تمام نظر آنے والے واٹر مارکس قابل اعتماد نہیں ہیں،" پڑھتا ہے کاغذ.
وقت کا حساس مسئلہ
اے آئی سے متعلق قانون سازی کے مسودے میں شامل امریکی سینیٹ کے ایک عملے نے فیڈسکوپ کو "برے اداکاروں کے ساتھ رفتار برقرار رکھنے" کی ضرورت کے بارے میں بتایا، انہوں نے مزید کہا کہ سینیٹ اس وقت "تعلیم اور مسئلہ کی وضاحت" کے دور میں ہے۔
"یہ اولمپک کھلاڑیوں کی طرح ہے - اب جب میں جانتا ہوں کہ آپ اس دوا کی تلاش کر رہے ہیں، میں صرف ایک اور دوا لوں گا۔"
ساتھ بہت سے ممالک انتخابات میں جا رہے ہیں۔ اس سال ڈیپ فیکس اور غلط معلومات کو کم کرنے کے لیے اقدامات کی ضرورت کو نظر انداز نہیں کیا جا سکتا۔ گزشتہ ستمبر میں، سینیٹ کے اکثریتی رہنما چک شومر نے کہا کہ مواد کی صداقت سے نمٹنا ایک وقت کا حساس مسئلہ یہ دیکھتے ہوئے کہ بہت سے ممالک میں انتخابات بالکل قریب ہیں۔
"واقعی ڈیپ فیکس رکھنے کا مسئلہ ہے، جہاں لوگ واقعی یقین رکھتے ہیں… کہ ایک امیدوار کچھ کہہ رہا ہے جب وہ مکمل طور پر AI کی تخلیق ہو،" انہوں نے اپنے پہلے کے بعد کہا۔ بند دروازے AI بصیرت فورم.
ٹیک فرمیں چیلنج کا مقابلہ کرتی ہیں۔
اس دوران، کولیشن فار کنٹینٹ پرووینس اینڈ آتھنٹیسیٹی (C2PA)، جو میڈیا اور ٹیک کمپنیوں کا دماغ ہے، اب اپنی جگہ پر ہے۔ یہ تصویر کے ماخذ کی شناخت کرتا ہے، چاہے یہ کیمرہ ہو یا کوئی AI پروگرام جو اسے بنانے کے لیے استعمال کیا گیا ہو۔
یہ تصویر کی تخلیق کے وقت، مقام اور طریقہ کے بارے میں بھی تفصیلات فراہم کرتا ہے، جس سے لوگ اس کی اصلیت کی تصدیق کر سکتے ہیں۔ ٹِک ٹِک مبینہ طور پر واٹر مارکنگ پر برتری حاصل کرنے والی ٹاپ ٹیک فرموں میں شامل ہے۔
"TikTok آپ کو وہ آڈیو ٹریک دکھاتا ہے جو استعمال کیا گیا تھا۔ یہ آپ کو وہ سلائی دکھاتا ہے جو بنایا گیا تھا۔ یہ آپ کو استعمال شدہ AI اثرات دکھاتا ہے،" گریگوری نے کہا۔
دوسرے بڑے ٹیک کمپنیوں جیسے الفابیٹ، ایمیزون، میٹا، اور اوپن اے آئی نے گزشتہ سال غلط معلومات سے نمٹنے کے لیے واٹر مارکنگ ٹیکنالوجی تیار کرنے کا وعدہ کیا۔
- SEO سے چلنے والا مواد اور PR کی تقسیم۔ آج ہی بڑھا دیں۔
- پلیٹو ڈیٹا ڈاٹ نیٹ ورک ورٹیکل جنریٹو اے آئی۔ اپنے آپ کو بااختیار بنائیں۔ یہاں تک رسائی حاصل کریں۔
- پلیٹوآئ اسٹریم۔ ویب 3 انٹیلی جنس۔ علم میں اضافہ۔ یہاں تک رسائی حاصل کریں۔
- پلیٹو ای ایس جی۔ کاربن، کلین ٹیک، توانائی ، ماحولیات، شمسی، ویسٹ مینجمنٹ یہاں تک رسائی حاصل کریں۔
- پلیٹو ہیلتھ۔ بائیوٹیک اینڈ کلینیکل ٹرائلز انٹیلی جنس۔ یہاں تک رسائی حاصل کریں۔
- ماخذ: https://metanews.com/bad-actors-can-still-bypass-watermarks/
- : ہے
- : ہے
- : نہیں
- :کہاں
- 8
- 9
- a
- قابلیت
- اداکار
- اصل میں
- شامل کیا
- انہوں نے مزید کہا
- منہ بولابیٹا بنانے
- فائدہ
- کے بعد
- AI
- یلگوردمز
- تمام
- اجازت دے رہا ہے
- کی اجازت دیتا ہے
- الفابیٹ
- بھی
- ایمیزون
- کے درمیان
- an
- اور
- ایک اور
- کوئی بھی
- کیا
- ارد گرد
- مضمون
- AS
- At
- آڈیو
- صداقت
- برا
- راہ میں حائل رکاوٹیں
- BE
- کیونکہ
- رہا
- کے درمیان
- بگ
- توڑ
- توڑ
- بھینس
- لیکن
- by
- بائی پاس
- کیلی فورنیا
- کیمرہ
- کر سکتے ہیں
- امیدوار
- نہیں کر سکتے ہیں
- کارنیگی میلون
- کیونکہ
- چک
- اتحاد
- آتا ہے
- کمپنیاں
- کمپیوٹر
- کمپیوٹر سائنس
- مواد
- کونے
- ممالک
- تخلیق
- بنائی
- تخلیق
- مخلوق
- فصل
- cryptographic
- اس وقت
- cybercriminals
- dall-e
- deepfakes
- وضاحت
- بیان کیا
- تفصیلات
- پتہ چلا
- کھوج
- ترقی
- مشکل
- براہ راست
- براہ راست
- ڈائریکٹر
- بے چینی
- ممتاز
- نہیں
- منشیات کی
- سب سے آسان
- آسان
- اثرات
- انتخابات
- ابھرتی ہوئی
- کو چالو کرنے کے
- کافی
- دور
- خاص طور پر
- ایگزیکٹو
- ایگزیکٹو ڈائریکٹر
- ماہر
- ماہرین
- وضاحت کی
- آنکھ
- جعلی
- جعلی خبر کے
- خصوصیات
- مل
- نتائج
- فرم
- پہلا
- کے لئے
- فارم
- فورم
- مزید
- پیداواری
- پیداواری AI۔
- حاصل
- دی
- فراہم کرتا ہے
- جا
- گوگل
- گراؤنڈ
- بڑھتے ہوئے
- ترقی
- تھا
- ہارڈ
- نقصان پہنچانے
- نفرت
- ہے
- ہونے
- he
- مدد کرتا ہے
- اسے
- ان
- کس طرح
- تاہم
- HTTPS
- انسانی
- انسانی حقوق
- i
- میں ہوں گے
- کی نشاندہی
- شناخت
- if
- تصویر
- تصاویر
- in
- افراد
- میں
- پوشیدہ
- ملوث
- مسئلہ
- IT
- میں
- صرف
- کلیدی
- بچے
- جان
- علم
- آخری
- آخری سال
- قیادت
- رہنما
- قیادت
- قانون سازی
- کی طرح
- محل وقوع
- تلاش
- بنا
- اکثریت
- بدقسمتی سے
- جوڑی
- ہیرا پھیری
- بہت سے
- میری لینڈ
- اس دوران
- اقدامات
- میڈیا
- میلن
- میٹا
- میٹا ڈیٹا
- طریقہ
- کم سے کم
- غلط معلومات
- ماڈل
- زیادہ تر
- ضرورت ہے
- خبر
- غیر منافع بخش
- تنظیم غیر منافع بخش
- اب
- of
- اولمپک
- on
- ایک
- اوپنائی
- or
- تنظیم
- دیگر
- باہر
- نتائج
- امن
- خوف و ہراس
- کاغذ.
- لوگ
- عوام کی
- فوٹووریالسٹک
- مقام
- پلاٹا
- افلاطون ڈیٹا انٹیلی جنس
- پلیٹو ڈیٹا
- کھیلیں
- پوائنٹ
- ممکن
- ٹیچر
- پروگرام
- کو فروغ دینا
- provenance کے
- پڑھیں
- اصلی
- واقعی
- کمی
- قابل اعتماد
- ہٹا
- مبینہ طور پر
- محققین
- چھٹکارا
- حقوق
- گلابی
- کہا
- نمک
- سیم
- اسی
- سانتا
- سانتا بارارا
- کا کہنا ہے کہ
- یہ کہہ
- سائنس
- سیکورٹی
- دیکھا
- سینیٹ
- ستمبر
- مختصریاں
- شوز
- دستخط
- So
- سافٹ ویئر کی
- حل
- حل
- کچھ
- کسی
- کچھ
- ماخذ
- خصوصی
- خصوصی سافٹ ویئر
- پھیلانے
- امریکہ
- ابھی تک
- مطالعہ
- اس طرح
- کے نظام
- ٹیکل
- سے نمٹنے
- لے لو
- لینے
- ٹیک
- ٹیک کمپنیوں
- ٹیکنالوجی
- ٹیکنالوجی
- تجربہ
- متن
- کہ
- ۔
- ماخذ
- ان
- ان
- وہاں.
- وہ
- لگتا ہے کہ
- سوچتا ہے
- تھرڈ
- اس
- اس سال
- کے ذریعے
- ٹکیٹک
- وقت
- کرنے کے لئے
- بتایا
- بھی
- کے آلے
- سب سے اوپر
- مکمل طور پر
- ٹریک
- triage
- قسم
- اقسام
- یونیورسٹی
- یونیورسٹی آف کیلی فورنیا
- مریم لینڈ یونیورسٹی
- us
- امریکی سینیٹ
- استعمال کی شرائط
- استعمال کیا جاتا ہے
- صارفین
- کا استعمال کرتے ہوئے
- اس بات کی تصدیق
- ویڈیوز
- نظر
- تھا
- آبی نشان
- Watermarking
- کے watermarks
- راستہ..
- طریقوں
- کیا
- جب
- چاہے
- جس
- گے
- ساتھ
- سال
- ابھی
- آپ
- زیفیرنیٹ