تحلیل و بررسی مقابله با اطلاعات نادرست هوش مصنوعی در سال جاری برای شرکتهای فناوری که برای انتخابات ریاستجمهوری آتی ایالات متحده آماده میشوند، حیاتیتر از همیشه است.
با این حال، مبارزه با اطلاعات نادرست و جعلیهای عمیق با توجه به اینکه ابزار تولید محتوای مصنوعی بیش از هر زمان دیگری در دسترس است، دشوارتر شده است.
ChatGPT OpenAI از زمانی که برای اولین بار در نوامبر 2022 منتشر شد، به طور فزاینده ای رشد کرده است. سال گذشته، آن به روز رسانی سیستم GPT-4 آن برای تولید صدا و تصاویر در بالای متن. در حال حاضر، استارت آپ راه اندازی کرده است فروشگاه GPT، یک پلتفرم میزبان رباتهای مبتنی بر ChatGPT که میتوانند شخصیتهای خاصی را بپذیرند یا وظایف خاصی را انجام دهند.
"ما هنوز در حال کار هستیم تا بفهمیم ابزارهای ما چقدر ممکن است برای متقاعدسازی شخصی موثر باشد"
روز دوشنبه، OpenAI گفت که ساخت GPT برای مبارزات سیاسی و لابی ممنوع است و استفاده از مدل های آن برای قدرت بخشیدن به ربات های چت که جعل هویت افراد، مشاغل یا دولت های واقعی هستند، سوء استفاده از فناوری آن است. هر برنامهای که در فرآیندهای دموکراتیک دخالت کند، مانند رأیگیری، برای مثال، ممنوع است.
ما انتظار داریم و هدف آن این است که مردم از ابزارهای ما به طور ایمن و مسئولانه استفاده کنند و انتخابات نیز تفاوتی ندارد.» آن گفت. ما برای پیشبینی و جلوگیری از سوءاستفادههای مرتبط کار میکنیم - مانند «دیپفیکهای» گمراهکننده، عملیات نفوذ مقیاسپذیر، یا چتباتهایی که جعل هویت نامزدها هستند.»
شفاف سازی قوانین خوب و خوب است اما اجرای آن موضوع دیگری است. نظارت بر فروشگاه GPT دشوار است، و OpenAI برای گزارش برنامههایی که برخلاف خطمشیهایش هستند، به کاربران متکی است. مردم قبلاً قوانین آن را در مورد ایجاد نکردن GPTهای «متخصص به تقویت معاشرت عاشقانه یا انجام فعالیت های تنظیم شده» زیر پا گذاشته اند. این پلتفرم "دوست دختر" زیادی با هوش مصنوعی دارد و چت ربات های سیاسی زیادی نیز وجود دارد.
برخی از آنها برای تقلید از سیاستمدارانی مانند دونالد ترامپ ساخته شده اند، برای مثال، حتی اگر جعل هویت قانع کننده ای نیستند، در حالی که برخی دیگر از ایدئولوژی های سیاسی خاصی حمایت می کنند. به عنوان مثال، در گفتگو با "ربات واقعی ترامپ"، گفت که مخالف رای گیری از طریق پست است. اوه، حتی من را در رای گیری از طریق پست شروع نکنید. مثل این است که آنها درخواست مشکل می کنند. این بسیار در معرض سوء استفاده است، باور نکردنی است.»
آیا این برخلاف سیاستهای OpenAI است؟ آیا می تواند کسی را از ارسال رای خود منصرف کند؟ OpenAI اذعان کرد: «ما هنوز در حال کار هستیم تا بفهمیم ابزارهای ما چقدر ممکن است برای متقاعدسازی شخصی مؤثر باشد.
OpenAI اقدامات احتیاطی دیگری نیز انجام داده است. نرده های ایمنی در جای خود برای مدل DALL-E متن به تصویر آن، از ایجاد تصاویری از سیاستمداران برای جلوگیری از جعل عمیق توسط کاربران جلوگیری می کند. اما نردههای محافظ امکان ویرایش تصاویر را فراهم میکنند، به این معنی که مردم همچنان میتوانند عکسهای نامزدها را بدون کمک هوش مصنوعی دستکاری کنند.
علاوه بر ممنوعیت یا مسدود کردن محتوا، استراتژیهای دیگری که شرکتها برای مبارزه با اطلاعات نادرست در پیش میگیرند شامل انتشار واترمارک دیجیتال و الزام کاربران به شفافیت در مورد تصاویر یا ویدیوهای تولید شده توسط هوش مصنوعی است.
مایکروسافت یکی از اعضای ائتلاف برای منشأ و اعتبار محتوا (C2PA) است و از ابتکار Content Credentials حمایت می کند. این در حال ارائه یک ویژگی است که یک واترمارک برای محتوای تولید شده توسط Bing Image Creator تعبیه می کند که حاوی ابرداده است که توضیح می دهد چگونه تصویر، چه زمانی و توسط چه کسی ساخته شده است، که می تواند برای اثبات صحت آن بررسی شود. OpenAI در حال برنامه ریزی برای پیروی و اجرای آن است CP2Aاعتبار دیجیتال نیز. اما ویژگی واترمارک و ابرداده بیخطا نیست. با این حال، اطلاعات مربوط به منشأ تصویر را فقط میتوان در برنامهها یا وبسایتهایی مشاهده کرد که از فرمت Content Credentials پشتیبانی میکنند.
کاربران میتوانند اطلاعات تصویری را که توسط ابزارهای مایکروسافت یا OpenAI تولید میشود حذف کنند و آن را در چیزی مانند Google Chrome باز کنند که از CP2A پشتیبانی نمیکند. در این صورت هیچ ابرداده ای با تصاویر آنها مرتبط نخواهد بود و آنها می توانند به جای آن نسخه را توزیع کنند.
پلتفرم یوتیوب گوگل رویکرد متفاوتی در پیش گرفته است و در عوض از سازندگان میخواهد که فاش کنند که آیا ویدیوهایشان حاوی فیلمهای تولید شده توسط هوش مصنوعی است، رویدادهای جعلی را به تصویر میکشد یا حاوی افرادی است که چیزهایی را که نگفتهاند میگویند. در همین حال، متا و گوگل از تبلیغکنندگان خواستهاند که اعلام کنند آیا تبلیغاتشان حاوی محتوای مصنوعی است، خواه تصاویر، ویدیوها یا صداهای جعلی باشد.
قوانین برای سیاستمداران سختتر است. ایالت های متعددی مانند کالیفرنیا، تگزاس، میشیگان، واشنگتن و مینه سوتا گذشته اند قانون گذاری منع کاندیداهای سیاسی از ساختن دیپ فیک برای تأثیرگذاری بر رأی دهندگان. با این حال، یک قانون فدرال وجود ندارد. کمیسیون انتخابات فدرال هنوز تصمیم نگرفته است که آیا سیاست خود در برابر «تقلب تقلب در معرفی نامزدها یا احزاب سیاسی دیگر» برای محتوای تولید شده توسط هوش مصنوعی اعمال میشود یا خیر.
هوش مصنوعی هنوز عمدتاً تنظیم نشده است، و قوانین مختلف قابل اجرا در سراسر جهان همه موارد اطلاعات نادرست سیاسی را پوشش نمی دهد. اگرچه شرکتهای فناوری تلاشهای خود را برای محدود کردن کاربران از تولید اطلاعات نادرست هوش مصنوعی افزایش میدهند، روشهای آنها کامل نیست و کاربران اغلب راههایی برای دور زدن اقدامات ایمنی خود پیدا میکنند. ®
- محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
- PlatoData.Network Vertical Generative Ai. به خودت قدرت بده دسترسی به اینجا.
- PlatoAiStream. هوش وب 3 دانش تقویت شده دسترسی به اینجا.
- PlatoESG. کربن ، CleanTech، انرژی، محیط، خورشیدی، مدیریت پسماند دسترسی به اینجا.
- PlatoHealth. هوش بیوتکنولوژی و آزمایشات بالینی. دسترسی به اینجا.
- منبع: https://go.theregister.com/feed/www.theregister.com/2024/01/17/ai_political_disinformation/
- : دارد
- :است
- :نه
- $UP
- 2022
- a
- درباره ما
- سو استفاده کردن
- در دسترس
- فعالیت ها
- پذیرفته
- اتخاذ
- آگهی
- تبلیغ
- در برابر
- AI
- هدف
- معرفی
- اجازه دادن
- قبلا
- همچنین
- هر چند
- an
- و
- دیگر
- سبقت جستن
- هر
- مربوط
- برنامه های کاربردی
- اعمال میشود
- روش
- هستند
- دور و بر
- AS
- خواهان
- مرتبط است
- سمعی
- صحت
- توقیف شده
- BE
- شدن
- قبل از
- بینگ
- انسداد
- ربات
- رباتها
- شکسته
- بنا
- کسب و کار
- اما
- by
- کالیفرنیا
- مبارزات انتخاباتی
- CAN
- نامزد
- توانا
- حمل
- معین
- chatbots
- GPT چت
- کروم
- CO
- ائتلاف
- مبارزه با
- کمیسیون
- شرکت
- شامل
- محتوا
- گفتگو
- میتوانست
- پوشش
- طراحی شده
- ایجاد
- خالق
- سازندگان
- مجوزها و اعتبارات
- بسیار سخت
- سفارشی
- دل-ه
- تصمیم گیری
- اختصاصی
- deepfakes
- دموکراتیک
- توصیف
- مختلف
- مشکل
- دیجیتال
- افشای
- اطلاعات غلط
- منصرف کردن
- توزیع کردن
- do
- ندارد
- دان
- دونالد
- دونالد مغلوب ساختن پیشی جستن
- ویرایش
- موثر
- تلاش
- انتخاب
- انتخابات
- اجرای قانون
- اتر (ETH)
- حتی
- حوادث
- تا کنون
- مثال
- انتظار
- جعلی
- غلط
- ویژگی
- فدرال
- قانون فدرال
- پیدا کردن
- نام خانوادگی
- به دنبال
- برای
- قالب
- پرورش دادن
- رایگان
- از جانب
- تولید
- مولد
- دریافت کنید
- داده
- Go
- خوب
- گوگل
- گوگل کروم
- دولت ها
- رشد کرد
- آیا
- پناهگاه
- کمک
- میزبانی وب
- چگونه
- اما
- HTTPS
- به شدت
- ایدئولوژی ها
- if
- تصویر
- تصاویر
- انجام
- مهم
- in
- شامل
- به طور فزاینده
- نفوذ
- اطلاعات
- ابتکار عمل
- نمونه ها
- در عوض
- نیست
- IT
- ITS
- JPG
- برچسب
- نام
- پارسال
- قانون
- قوانین
- پسندیدن
- لابی
- ساخته
- پستی
- بسیاری
- ماده
- me
- معنی
- در ضمن
- معیارهای
- عضو
- متاداده
- روش
- میشیگان
- مایکروسافت
- قدرت
- مینه سوتا
- گمراه کننده
- مدل
- مدل
- دوشنبه
- بیش
- اغلب
- چندگانه
- نه
- نوامبر
- اکنون
- of
- غالبا
- oh
- on
- فقط
- باز کن
- OpenAI
- عملیات
- or
- دیگر
- دیگران
- ما
- خارج
- ویژه
- احزاب
- گذشت
- مردم
- کامل
- انجام
- شخصیت ها
- شخصی
- عکس
- محل
- برنامه ریزی
- سکو
- افلاطون
- هوش داده افلاطون
- PlatoData
- بسیاری
- پلیس
- سیاست
- سیاست
- سیاسی
- نامزدهای سیاسی
- احزاب سیاسی
- سیاستمداران
- قدرت
- ریاست جمهوری
- انتخابات ریاست جمهوری
- جلوگیری از
- فرآیندهای
- تولید کردن
- ممنوع
- ثابت كردن
- منشاء
- رمپینگ
- RE
- واقعی
- تنظیم
- منتشر شد
- مربوط
- تکیه بر
- گزارش
- مسئولانه
- نورد
- قوانین
- s
- با خیال راحت
- ایمنی
- سعید
- گفته
- مشاهده گردید
- پس از
- So
- کسی
- چیزی
- خاص
- آغاز شده
- شروع
- ایالات
- هنوز
- opbevare
- استراتژی ها
- محکم تر
- نوار
- چنین
- کت و شلوار
- پشتیبانی
- حمایت از
- ترکیبی
- سیستم
- T
- مقابله با
- صورت گرفته
- مصرف
- وظایف
- فن آوری
- شرکت های فن آوری
- پیشرفته
- وابسته به تکزاس
- متن
- نسبت به
- که
- La
- اطلاعات
- جهان
- شان
- آنها
- سپس
- آنجا.
- آنها
- اشیاء
- این
- در این سال
- اگر چه؟
- به
- هم
- ابزار
- بالا
- شفاف
- زحمت
- صدای شیپور
- امتحان
- فهمیدن
- رها شده
- نزدیک
- us
- استفاده کنید
- کاربران
- با استفاده از
- مختلف
- نسخه
- فیلم های
- رای
- رای دهندگان
- رای گیری
- بود
- واشنگتن
- علامت گذاری به عنوان
- علامت گذاری به عنوان
- متن
- راه
- we
- وب سایت
- خوب
- چه زمانی
- چه
- که
- در حین
- چه کسی
- به طور گسترده ای
- با
- بدون
- مهاجرت کاری
- کارگر
- جهان
- خواهد بود
- سال
- هنوز
- یوتیوب
- زفیرنت