محتوای واترمارک هنوز برای تمایز بین محتوای واقعی و تولید شده توسط هوش مصنوعی کافی نیست، زیرا مجرمان سایبری می توانند ویژگی های امنیتی را نیز دور بزنند.
این امر در حالی اتفاق میافتد که پذیرش فزاینده فناوریهای هوش مصنوعی، بهویژه هوش مصنوعی مولد، ایجاد شده است که زمینه مناسبی را برای افراد بیوجدان ایجاد میکند تا از آن برای انتشار اطلاعات نادرست، نفرت و سایر اشکال محتوای مخرب استفاده کنند.
و واترمارک به عنوان یکی از راه حل های کلیدی برای تمایز بین محتوای تولید شده توسط هوش مصنوعی و محتوای واقعی ظاهر شده است. با این حال کاستی های خود را نیز دارد.
همچنین بخوانید: Meta's Audio2Photoreal اکنون آواتارهای فوتورئالیستی با قدرت صوتی را امکان پذیر می کند
دستکاری
کارشناسان می گویند رشد هوش مصنوعی با سوء استفاده بازیگران بد از این فناوری برای انتشار اطلاعات نادرست و بدخواهی و ایجاد وحشت با اخبار جعلی همراه است.
اگرچه واترمارکینگ شناسایی شده است که کاربران را قادر می سازد بین محتوای تولید شده توسط هوش مصنوعی و محتوای واقعی ساخته شده توسط انسان تمایز قائل شوند، اما این نیز مستعد دستکاری است.
مطابق با ثبت نام، برخی از امضاهای قابل مشاهده، مانند مدل متن به تصویر Dall-E، یکی از ساده ترین موارد برای دور زدن ابزار تشخیص هوش مصنوعی هستند. این مقاله همچنین بیان میکند که افراد بیوجدان میتوانند واترمارکها را برش دهند یا تصویر را به روشی کپی کنند که دانلود مستقیم را دور بزند.
سیوی لیو، استاد علوم کامپیوتر در دانشگاه بوفالو در ایالات متحده، گفت که در مورد شکستن موانع نیز متخصصانی وجود دارند.
لیو میگوید: «فناوری واترمارک با مقداری نمک مورد استفاده قرار گرفته است، زیرا برای کسی که از واترمارک و هوش مصنوعی آگاه است چندان سخت نیست که بتواند آن را بشکند و واترمارک را حذف کند یا آن را بسازد.
کارشناس هوش مصنوعی و مدیر اجرایی یک سازمان غیرانتفاعی که به مردم کمک می کند از فناوری برای ارتقای حقوق بشر استفاده کنند، سم گرگوری، فکر می کند هنوز هم می توان واترمارکینگ را توسط بازیگران بد دستکاری کرد.
از نظر او، این یک "ابزار تریاژ برای کاهش آسیب" است و اضافه کرد که "این یک راه حل 100٪ نیست."
انواع واترمارک
با این حال، همه چیز برای بازیگران بداخلاق و بدبین نیست. برخی از واترمارکها که نامرئی هستند، مانند Google DeepMind SynthID، خلاص شدن از شر آنها دشوار است زیرا "مستقیماً در خروجی های سیستم Imagen تعبیه شده اند."
این نوع واترمارک با چشم غیرمسلح قابل مشاهده نیست، اما با استفاده از نرم افزار یا الگوریتم های خاص قابل تشخیص است.
لیو، با این حال، هنوز فکر میکند که این امکان برای افراد شرور با "دانش فنی" وجود دارد که آن را از بین ببرند.
«فکر میکنم واترمارکها بیشتر بر ناآگاهی مردم از وجودشان بازی میکنند. بنابراین، اگر آنها بدانند که می توانند، راهی برای شکستن آن پیدا خواهند کرد.
نوع دیگری از واترمارک، علامت قابل مشاهده است که توسط شرکت هایی مانند Google، Getty و OpenAI به فیلم ها، متن ها یا تصاویر اضافه می شود تا اعتبار محتوا را تأیید کند.
سومین نوع واترمارک ابرداده رمزنگاری است. این یکی نشان می دهد که محتوا چه زمانی ایجاد شده و چگونه آن را ویرایش کرده است.
واترمارک "شستشو".
یک مطالعه توسط دانشگاه مریلند به رهبری سهیل فیضی، استاد علوم کامپیوتر، نشان داد که واترمارک های هوش مصنوعی بی خطا نبودند. آنها همه انواع واترمارک ها را آزمایش کردند و "همه آنها را شکستند".
او گفت: «در حال حاضر هیچ واترمارکی مطمئنی نداریم.
پروفسور همچنین توضیح داد که برای بازیگران بد چقدر آسان است که واترمارک ها را در آنچه که او به عنوان "شستن واترمارک" توصیف می کند، دستکاری کنند.
مطالعه دیگری که توسط محققان دانشگاه کالیفرنیا، سانتا باربارا و کارنگی ملون انجام شد نیز همین یافته ها را داشت.
"همه واترمارک های قابل مشاهده قابل اعتماد نیستند" می خواند کاغذ.
مشکل حساس به زمان
یکی از کارکنان سنای ایالات متحده که در تهیه پیش نویس قانون مربوط به هوش مصنوعی شرکت داشت، به فدسکوپ از نیاز به "همگامی با بازیگران بد" گفت و افزود که سنا در حال حاضر در دوره "آموزش و تعریف مشکل" است.
"این مانند ورزشکاران المپیک است - حالا که می دانم شما به دنبال این دارو هستید، من فقط یک داروی دیگر مصرف می کنم."
با بسیاری از کشورها به پای صندوق های رای می روند امسال، نیاز به اقداماتی برای به حداقل رساندن دیپفیک و اطلاعات نادرست را نمیتوان نادیده گرفت. در سپتامبر گذشته، چاک شومر، رهبر اکثریت سنا، گفت که پرداختن به اصالت محتوا یک مشکل است. موضوع حساس به زمان با توجه به اینکه انتخابات در بسیاری از کشورها نزدیک است.
او پس از اولین کار خود گفت: «مساله در واقع داشتن دیپفیک وجود دارد، جایی که مردم واقعاً معتقدند ... که یک نامزد در حالی چیزی میگوید که کاملاً ساختهشده از هوش مصنوعی است. بینش هوش مصنوعی درهای بسته انجمن.
شرکت های فناوری این چالش را پذیرفته اند
در این میان، ائتلاف برای منشأ و اعتبار محتوا (C2PA)، زاییده فکر شرکتهای رسانهای و فناوری، اکنون ایجاد شده است. این منبع تصویر را مشخص می کند، خواه دوربین باشد یا یک برنامه هوش مصنوعی که برای ایجاد آن استفاده شده است.
همچنین جزئیات مربوط به زمان، مکان و روش ایجاد تصویر را ارائه میکند و به افراد امکان میدهد منشأ آن را تأیید کنند. طبق گزارشها، TikTok در میان شرکتهای فناوری برتر است که در زمینه واترمارکینگ پیشرو است.
TikTok آهنگ صوتی استفاده شده را به شما نشان می دهد. بخیه ساخته شده را به شما نشان می دهد. گرگوری گفت: این افکتهای هوش مصنوعی استفاده شده را به شما نشان میدهد.
بزرگ دیگر شرکت های فن آوری مانند آلفابت، آمازون، متا و OpenAI سال گذشته متعهد شدند که فناوری واترمارکینگ را برای مقابله با اطلاعات نادرست توسعه دهند.
- محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
- PlatoData.Network Vertical Generative Ai. به خودت قدرت بده دسترسی به اینجا.
- PlatoAiStream. هوش وب 3 دانش تقویت شده دسترسی به اینجا.
- PlatoESG. کربن ، CleanTech، انرژی، محیط، خورشیدی، مدیریت پسماند دسترسی به اینجا.
- PlatoHealth. هوش بیوتکنولوژی و آزمایشات بالینی. دسترسی به اینجا.
- منبع: https://metanews.com/bad-actors-can-still-bypass-watermarks/
- : دارد
- :است
- :نه
- :جایی که
- 8
- 9
- a
- قادر
- بازیگران
- واقعا
- اضافه
- اضافه کردن
- اتخاذ
- مزیت - فایده - سود - منفعت
- پس از
- AI
- الگوریتم
- معرفی
- اجازه دادن
- اجازه می دهد تا
- الفبا
- همچنین
- آمازون
- در میان
- an
- و
- دیگر
- هر
- هستند
- دور و بر
- مقاله
- AS
- At
- سمعی
- صحت
- بد
- موانع
- BE
- زیرا
- بوده
- میان
- بزرگ
- شکستن
- شکستن
- گاو وحشی
- اما
- by
- گذرگاه
- کالیفرنیا
- دوربین
- CAN
- نامزد
- نمی توان
- کارنگی ملون
- علت
- دور انداختن
- ائتلاف
- می آید
- شرکت
- کامپیوتر
- علم کامپیوتر
- محتوا
- گوشه
- کشور
- ایجاد
- ایجاد شده
- ایجاد
- ایجاد
- محصول
- رمزنگاری
- در حال حاضر
- مجرمان سایبری
- دل-ه
- deepfakes
- تعریف کردن
- شرح داده شده
- جزئیات
- شناسایی شده
- کشف
- توسعه
- مشکل
- مستقیم
- مستقیما
- مدیر
- اطلاعات غلط
- تمیز دادن
- آیا
- دارو
- آسان ترین
- ساده
- اثرات
- انتخابات
- ظهور
- قادر ساختن
- کافی
- عصر
- به خصوص
- اجرایی
- مدیر اجرایی
- کارشناس
- کارشناسان
- توضیح داده شده
- چشم
- جعلی
- اخبار جعلی
- امکانات
- پیدا کردن
- یافته ها
- شرکت ها
- نام خانوادگی
- برای
- اشکال
- انجمن
- بیشتر
- مولد
- هوش مصنوعی مولد
- دریافت کنید
- داده
- می دهد
- رفتن
- گوگل
- زمین
- در حال رشد
- رشد
- بود
- سخت
- صدمه
- نفرت
- آیا
- داشتن
- he
- کمک می کند
- او را
- خود را
- چگونه
- اما
- HTTPS
- انسان
- حقوق بشر
- i
- من می خواهم
- شناسایی
- شناسایی می کند
- if
- تصویر
- تصاویر
- in
- افراد
- به
- مخفی
- گرفتار
- موضوع
- IT
- ITS
- تنها
- کلید
- نوع
- دانستن
- دانش
- نام
- پارسال
- رهبری
- رهبر
- رهبری
- قانون
- پسندیدن
- محل
- به دنبال
- ساخته
- اکثریت
- مخرب
- دستکاری شده
- دست کاری
- بسیاری
- مریلند
- در ضمن
- معیارهای
- رسانه ها
- ملون
- متا
- متاداده
- روش
- به حداقل رساندن
- اطلاعات غلط
- مدل
- اغلب
- نیاز
- اخبار
- غیرانتفاعی
- سازمان غیر انتفاعی
- اکنون
- of
- المپیک
- on
- ONE
- OpenAI
- or
- کدام سازمان ها
- دیگر
- خارج
- خروجی
- سرعت
- هراس
- مقاله
- مردم
- مردم
- عکاسی
- محل
- افلاطون
- هوش داده افلاطون
- PlatoData
- بازی
- نقطه
- ممکن
- معلم
- برنامه
- ترویج
- منشاء
- خواندن
- واقعی
- واقعا
- کاهش
- قابل اعتماد
- برداشتن
- گزارش شده است
- محققان
- خلاص شدن از شر
- حقوق
- گلگون
- سعید
- نمک
- سام
- همان
- سانتا
- سانتا باربارا
- گفتن
- گفته
- علم
- تیم امنیت لاتاری
- مشاهده گردید
- مجلس سنا
- سپتامبر
- کاستی ها
- نشان می دهد
- امضا
- So
- نرم افزار
- راه حل
- مزایا
- برخی از
- کسی
- چیزی
- منبع
- ویژه
- نرم افزار ویژه
- گسترش
- ایالات
- هنوز
- مهاجرت تحصیلی
- چنین
- سیستم
- برخورد با
- مقابله با
- گرفتن
- مصرف
- فن آوری
- شرکت های فن آوری
- فن آوری
- پیشرفته
- آزمایش
- متن
- که
- La
- منبع
- شان
- آنها
- آنجا.
- آنها
- فکر می کنم
- فکر می کند
- سوم
- این
- در این سال
- از طریق
- تاکسی
- زمان
- به
- گفته شده
- هم
- ابزار
- بالا
- کاملا
- مسیر
- تریاژ
- نوع
- انواع
- دانشگاه
- دانشگاه کالیفرنیا
- دانشگاه مریلند
- us
- مجلس سنای ایالات متحده
- استفاده کنید
- استفاده
- کاربران
- با استفاده از
- بررسی
- فیلم های
- قابل رویت
- بود
- علامت گذاری به عنوان
- علامت گذاری به عنوان
- متن
- مسیر..
- راه
- چی
- چه زمانی
- چه
- که
- اراده
- با
- سال
- هنوز
- شما
- زفیرنت