لا يزال محتوى العلامات المائية غير كافٍ للتمييز بين المحتوى الحقيقي والمحتوى الناتج عن الذكاء الاصطناعي، حيث يمكن لمجرمي الإنترنت أيضًا تجاوز ميزات الأمان.
يأتي هذا مع تزايد اعتماد تقنيات الذكاء الاصطناعي، وخاصة الذكاء الاصطناعي التوليدي، مما يخلق أرضًا خصبة للأفراد عديمي الضمير لاستخدامها لنشر المعلومات الخاطئة والكراهية وأشكال أخرى من المحتوى الضار.
وبرزت العلامات المائية كأحد الحلول الرئيسية للتمييز بين المحتوى الذي ينشئه الذكاء الاصطناعي والمحتوى الواقعي. ومع ذلك، فإن لها عيوبها أيضًا.
اقرأ أيضا: يتيح برنامج Audio2Photoreal من Meta الآن استخدام الصور الرمزية الواقعية التي تعمل بالصوت
التلاعب
ويقول الخبراء إن نمو الذكاء الاصطناعي يأتي أيضًا مع استغلال الجهات الفاعلة السيئة للتكنولوجيا لنشر المعلومات المضللة والحقد والتسبب في الذعر من خلال الأخبار المزيفة.
على الرغم من أنه تم تحديد العلامة المائية لتمكين المستخدمين من التمييز بين المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي والمحتوى الحقيقي من صنع الإنسان، إلا أن هذا أيضًا عرضة للتلاعب.
وفقًا السجل، تعد بعض التوقيعات المرئية، مثل نموذج Dall-E لتحويل النص إلى صورة، واحدة من الأسهل لتجاوز أداة الكشف بالذكاء الاصطناعي. تنص المقالة أيضًا على أنه يمكن للأفراد عديمي الضمير قطع العلامات المائية أو نسخ الصورة بطرق تتجاوز التنزيل المباشر.
وقال أستاذ علوم الكمبيوتر في جامعة بوفالو بالولايات المتحدة، سيوي ليو، إن هناك خبراء أيضًا عندما يتعلق الأمر بكسر الحواجز.
قال ليو: "لقد تم استخدام تقنية العلامات المائية مع قليل من الملح لأنه ليس من الصعب على شخص لديه معرفة بالعلامات المائية والذكاء الاصطناعي أن يتمكن من كسرها وإزالتها أو تصنيع علامة مائية".
خبير الذكاء الاصطناعي والمدير التنفيذي لمنظمة غير ربحية تساعد الأشخاص على استخدام التكنولوجيا لتعزيز حقوق الإنسان، سام غريغوري، يعتقد لا يزال من الممكن التلاعب بالعلامات المائية من قبل الجهات الفاعلة السيئة.
فهو بالنسبة له "أداة فرز للحد من الضرر"، مضيفا أنه "ليس حلا 100%".
أنواع العلامات المائية
ومع ذلك، ليس كل شيء ورديًا بالنسبة للممثلين السيئين عديمي الضمير. بعض العلامات المائية غير المرئية، مثل Google DeepMind معرف سينثيد، يصعب التخلص منها لأنها "مضمنة مباشرة في مخرجات نظام Imagen".
لا يمكن رؤية هذا النوع من العلامات المائية بالعين المجردة ولكن يمكن اكتشافه باستخدام برامج أو خوارزميات خاصة.
ومع ذلك، لا يزال ليو يعتقد أنه من الممكن للأوغاد الذين لديهم بعض "المعرفة الفنية أن يتخلصوا من ذلك".
"أعتقد أن العلامات المائية تلعب في الغالب دورًا في عدم وعي الناس بوجودها. لذلك، إذا عرفوا أنهم قادرون على ذلك، فسوف يجدون طريقة لكسرها.
نوع آخر من العلامات المائية هو العلامة المرئية، والتي تتم إضافتها إلى مقاطع الفيديو أو النصوص أو الصور بواسطة شركات مثل Google وGetty وOpenAI للتحقق من صحة المحتوى.
النوع الثالث من العلامات المائية هو البيانات الوصفية المشفرة. يوضح هذا متى تم إنشاء المحتوى وكيف تم تحريره.
العلامات المائية "الغسل".
وقالت دراسة أجرتها جامعة ميريلاند بقيادة سهيل فيزي، أستاذ علوم الكمبيوتر، إن العلامات المائية للذكاء الاصطناعي لم تكن مضمونة. لقد اختبروا جميع أنواع العلامات المائية و"كسروها جميعًا".
وقال: "ليس لدينا أي علامة مائية موثوقة في هذه المرحلة".
وأوضح الأستاذ أيضًا مدى سهولة قيام الجهات الفاعلة السيئة بالتلاعب بالعلامات المائية فيما وصفه بـ "غسل" العلامة المائية.
كما توصلت دراسة أخرى شارك في تأليفها باحثون في جامعة كاليفورنيا وسانتا باربرا وكارنيجي ميلون إلى نفس النتائج.
"جميع العلامات المائية المرئية غير موثوقة" يقرأ الورقة.
مشكلة حساسة للوقت
أخبر أحد موظفي مجلس الشيوخ الأمريكي المشاركين في صياغة التشريعات المتعلقة بالذكاء الاصطناعي موقع "فيدسكوب" عن الحاجة إلى "مواكبة الجهات الفاعلة السيئة"، مضيفًا أن مجلس الشيوخ يمر حاليًا بعصر "التثقيف وتحديد المشكلة".
"الأمر مثل الرياضيين الأولمبيين - الآن بعد أن علمت أنك تبحث عن هذا الدواء، سأتناول عقارًا آخر."
بدافع العديد من الدول تذهب إلى صناديق الاقتراع وفي هذا العام، لا يمكن التغاضي عن الحاجة إلى اتخاذ تدابير للحد من التزييف العميق والمعلومات المضللة. في سبتمبر الماضي، قال زعيم الأغلبية في مجلس الشيوخ، تشاك شومر، إن معالجة صحة المحتوى كانت بمثابة خطوة مسألة حساسة للوقت نظراً لأن الانتخابات أصبحت قاب قوسين أو أدنى في العديد من البلدان.
وقال بعد أول انتخابات له: "هناك مسألة التزييف العميق، حيث يعتقد الناس حقًا... أن المرشح يقول شيئًا ما عندما يكون من صنع الذكاء الاصطناعي". رؤية الذكاء الاصطناعي المغلقة المنتدى.
شركات التكنولوجيا تواجه هذا التحدي
وفي هذه الأثناء، أصبح التحالف من أجل مصدر المحتوى والأصالة (C2PA)، وهو من بنات أفكار شركات الإعلام والتكنولوجيا، قائماً الآن. يحدد هذا مصدر الصورة، سواء كانت كاميرا أو برنامج الذكاء الاصطناعي الذي تم استخدامه في إنشائها.
كما أنه يقدم تفاصيل عن الوقت والموقع وطريقة إنشاء الصورة، مما يسمح للأشخاص بالتحقق من مصدرها. يقال إن TikTok من بين أفضل شركات التكنولوجيا التي أخذت زمام المبادرة في وضع العلامات المائية.
“يعرض لك TikTok المسار الصوتي الذي تم استخدامه؛ ويبين لك الغرزة التي صنعت؛ قال غريغوري: "يُظهر لك تأثيرات الذكاء الاصطناعي المستخدمة".
كبيرة أخرى شركات التكنولوجيا وتعهدت شركات مثل Alphabet وAmazon وMeta وOpenAI العام الماضي بتطوير تقنية العلامات المائية لمعالجة المعلومات الخاطئة.
- محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
- PlatoData.Network Vertical Generative Ai. تمكين نفسك. الوصول هنا.
- أفلاطونايستريم. ذكاء Web3. تضخيم المعرفة. الوصول هنا.
- أفلاطون كربون، كلينتك ، الطاقة، بيئة، شمسي، إدارة المخلفات. الوصول هنا.
- أفلاطون هيلث. التكنولوجيا الحيوية وذكاء التجارب السريرية. الوصول هنا.
- المصدر https://metanews.com/bad-actors-can-still-bypass-watermarks/
- :لديها
- :يكون
- :ليس
- :أين
- 8
- 9
- a
- ماهرون
- الجهات الفاعلة
- في الواقع
- وأضاف
- مضيفا
- تبني
- مميزات
- بعد
- AI
- خوارزميات
- الكل
- السماح
- يسمح
- Alphabet
- أيضا
- أمازون
- من بين
- an
- و
- آخر
- أي وقت
- هي
- حول
- البند
- AS
- At
- سمعي
- أصالة
- سيئة
- الحواجز
- BE
- لان
- كان
- ما بين
- كبير
- استراحة
- كسر
- اسود احمر
- لكن
- by
- تجنب
- كاليفورنيا
- وكاميرا
- CAN
- مرشح
- لا تستطيع
- كارنيجي ميلون
- سبب
- سنفرق
- الائتلاف
- يأتي
- الشركات
- الكمبيوتر
- علوم الكمبيوتر
- محتوى
- زاوية
- دولة
- خلق
- خلق
- خلق
- خلق
- محصول
- التشفير
- حاليا
- مجرمو الإنترنت
- دال
- deepfakes
- تحديد
- وصف
- تفاصيل
- الكشف عن
- كشف
- تطوير
- صعبة
- مباشرة
- مباشرة
- مدير المدارس
- التضليل
- تميز
- لا
- عقار
- أسهل
- سهل
- الآثار
- انتخابات
- ظهرت
- تمكين
- كاف
- عصر
- خاصة
- تنفيذي
- المدير التنفيذي
- خبير
- خبرائنا
- شرح
- عين
- زائف
- أخبار وهمية
- المميزات
- النتائج
- الشركات
- الاسم الأول
- في حالة
- أشكال
- المنتدى
- إضافي
- توليدي
- الذكاء الاصطناعي التوليدي
- دولار فقط واحصل على خصم XNUMX% على جميع
- معطى
- يعطي
- الذهاب
- شراء مراجعات جوجل
- أرض
- متزايد
- التسويق
- كان
- الثابت
- ضرر
- كراهية
- يملك
- وجود
- he
- يساعد
- وسلم
- له
- كيفية
- لكن
- HTTPS
- الانسان
- حقوق الانسان
- i
- سوف
- محدد
- يحدد
- if
- صورة
- صور
- in
- الأفراد
- إلى
- غير مرئى
- المشاركة
- قضية
- IT
- انها
- م
- القفل
- نوع
- علم
- المعرفة
- اسم العائلة
- العام الماضي
- قيادة
- زعيم
- ليد
- تشريع
- مثل
- موقع
- أبحث
- صنع
- أغلبية
- خبيث
- التلاعب
- تلاعب
- كثير
- ميريلاند
- غضون ذلك
- الإجراءات
- الوسائط
- ميلون
- مييتااا
- البيانات الوصفية
- طريقة
- تقليل
- معلومات خاطئة
- نموذج
- خاصة
- حاجة
- أخبار
- غير هادفة للربح
- منظمة غير ربحية
- الآن
- of
- الأولمبية
- on
- ONE
- OpenAI
- or
- منظمة
- أخرى
- خارج
- النتائج
- سلام
- ذعر
- ورق
- مجتمع
- الشعب
- واقعي
- المكان
- أفلاطون
- الذكاء افلاطون البيانات
- أفلاطون داتا
- بلايستشن
- البوينت
- ممكن
- البروفيسور
- البرنامج
- تعزيز
- مصدر
- عرض
- حقيقي
- في الحقيقة
- تخفيض
- الخدمة الموثوقة
- إزالة
- يقال
- الباحثين
- تخلص من
- حقوق
- Rosy
- قال
- ملح
- سام
- نفسه
- سانتا
- سانتا باربارا
- قول
- قول
- علوم
- أمن
- رأيت
- مجلس الشيوخ
- سبتمبر
- نقائص
- يظهر
- التوقيعات
- So
- تطبيقات الكمبيوتر
- حل
- الحلول
- بعض
- شخص ما
- شيء
- مصدر
- تختص
- برنامج خاص
- انتشار
- المحافظة
- لا يزال
- دراسة
- هذه
- نظام
- معالجة
- العرقلة
- أخذ
- مع الأخذ
- التكنولوجيا
- شركات التكنولوجيا
- التكنولوجيا
- تكنولوجيا
- اختبار
- نص
- أن
- •
- المصدر
- من مشاركة
- منهم
- هناك.
- هم
- اعتقد
- يعتقد
- الثالث
- هذا العام
- عبر
- TikTok
- الوقت
- إلى
- قال
- جدا
- أداة
- تيشرت
- تماما
- مسار
- الفرز
- نوع
- أنواع
- جامعة
- جامعة كاليفورنيا
- جامعة ميريلاند
- us
- مجلس الشيوخ الأمريكي
- تستخدم
- مستعمل
- المستخدمين
- استخدام
- تحقق من
- مقاطع فيديو
- مرئي
- وكان
- العلامة المائية
- بالماء
- علامات مائية
- طريق..
- طرق
- ابحث عن
- متى
- سواء
- التي
- سوف
- مع
- عام
- حتى الآن
- لصحتك!
- زفيرنت