تحليل الأداء أصبحت معالجة المعلومات المضللة المتعلقة بالذكاء الاصطناعي أكثر أهمية من أي وقت مضى بالنسبة لشركات التكنولوجيا هذا العام في الوقت الذي تستعد فيه للانتخابات الرئاسية الأمريكية المقبلة.
ومع ذلك، أصبحت مكافحة المعلومات الكاذبة والتزييف العميق أكثر صعوبة نظرًا لأن أدوات إنشاء المحتوى الاصطناعي يمكن الوصول إليها على نطاق أوسع من أي وقت مضى.
لقد تطورت قدرة ChatGPT من OpenAI بشكل متزايد منذ إصدارها لأول مرة في نوفمبر 2022. وفي العام الماضي، أصبحت ترقية نظام GPT-4 الخاص به لإنتاج الصوت والصور أعلى النص. الآن، أطلقت الشركة الناشئة العنان لـ متجر جي بي تي، منصة تستضيف روبوتات ChatGPT المصممة خصيصًا والتي يمكنها تبني شخصيات معينة أو تنفيذ مهام محددة.
"ما زلنا نعمل على فهم مدى فعالية أدواتنا في الإقناع الشخصي"
قالت OpenAI يوم الاثنين إن بناء GPTs للحملات السياسية وممارسة الضغط محظور، وأن استخدام نماذجها لتشغيل أي روبوتات دردشة تنتحل شخصية أشخاص أو شركات أو حكومات حقيقية يعد إساءة استخدام لتقنيتها. كما يتم حظر أي تطبيقات تتعارض مع العمليات الديمقراطية، مثل التصويت، على سبيل المثال.
"نحن نتوقع ونهدف إلى أن يستخدم الناس أدواتنا بأمان ومسؤولية، والانتخابات ليست مختلفة عن ذلك" وقال انه. "نحن نعمل على توقع حالات إساءة الاستخدام ذات الصلة ومنعها - مثل "التزييف العميق" المضلل، أو عمليات التأثير واسعة النطاق، أو برامج الدردشة الآلية التي تنتحل شخصية المرشحين."
إن توضيح القواعد أمر جيد وجيد، لكن تطبيقها أمر آخر. من الصعب مراقبة متجر GPT، وتعتمد OpenAI على المستخدمين للإبلاغ عن التطبيقات التي تتعارض مع سياساتها. لقد انتهك الناس بالفعل قواعدها بشأن عدم إنشاء GPTs "المخصصة لتعزيز الرفقة الرومانسية أو أداء أنشطة منظمة". تحتوي المنصة على الكثير من "صديقات الذكاء الاصطناعي"، وهناك العديد من روبوتات الدردشة السياسية أيضًا.
تم تصميم بعضها لتقليد سياسيين مثل دونالد ترامب، على سبيل المثال، على الرغم من أنها ليست انتحالًا مقنعًا لشخصياتهم، بينما يدعم البعض الآخر أيديولوجيات سياسية معينة. في محادثة مع "The Real Trump Bot"، على سبيل المثال، قالت إنها ضد التصويت عبر البريد. "أوه، لا تجعلني أبدأ بالتصويت عبر البريد. يبدو الأمر كما لو أنهم يطلبون المتاعب. إنه عرضة للإساءة، إنه أمر لا يصدق”.
هل يتعارض هذا مع سياسات OpenAI؟ هل يمكن أن يثني شخص ما عن إرسال أصواته بالبريد؟ واعترف OpenAI قائلاً: "ما زلنا نعمل على فهم مدى فعالية أدواتنا في الإقناع الشخصي".
اتخذت OpenAI احتياطات أخرى أيضًا. تمنع حواجز الأمان الموجودة في نموذج تحويل النص إلى صورة DALL-E المستخدمين من إنشاء صور للسياسيين لمحاولة منع التزييف العميق. لكن حواجز الحماية تسمح بتحرير الصور، مما يعني أنه لا يزال بإمكان الأشخاص التعامل مع صور المرشحين دون مساعدة الذكاء الاصطناعي.
علاوة على حظر المحتوى أو حظره، تشمل الاستراتيجيات الأخرى التي تتخذها الشركات لمكافحة المعلومات المضللة طرح علامات مائية رقمية ومطالبة المستخدمين بالشفافية بشأن الصور أو مقاطع الفيديو التي يتم إنشاؤها بواسطة الذكاء الاصطناعي.
تعد Microsoft عضوًا في Coalition for Content Provenance and Authenticity (C2PA) وتدعم مبادرة بيانات اعتماد المحتوى. إنها تطرح ميزة تتضمن علامة مائية للمحتوى الذي تم إنشاؤه بواسطة Bing Image Creator، والتي تحتوي على بيانات وصفية تصف كيفية إنشاء الصورة ومتى ومن قام بفحصها، والتي يمكن فحصها لإثبات عدم صحتها. تخطط OpenAI أن تحذو حذوها وتنفذ CP2Aبيانات الاعتماد الرقمية أيضًا. لكن ميزة العلامات المائية والبيانات الوصفية ليست مضمونة. ومع ذلك، لا يمكن رؤية المعلومات المتعلقة بمصدر الصورة إلا في التطبيقات أو مواقع الويب التي تدعم تنسيق بيانات اعتماد المحتوى.
يمكن للمستخدمين تجريد المعلومات من صورة تم إنشاؤها بواسطة أدوات Microsoft أو OpenAI وفتحها في شيء مثل Google Chrome، على سبيل المثال، والذي لا يدعم CP2A. لن تكون هناك بيانات وصفية مرتبطة بصورهم بعد ذلك، وسيكون لهم الحرية في توزيع هذا الإصدار بدلاً من ذلك.
اتبعت منصة يوتيوب التابعة لشركة جوجل نهجًا مختلفًا، وبدلاً من ذلك تطلب من منشئي المحتوى الكشف عما إذا كانت مقاطع الفيديو الخاصة بهم تحتوي على لقطات تم إنشاؤها بواسطة الذكاء الاصطناعي، أو تصور أحداثًا مزيفة، أو تحتوي على أشخاص يقولون أشياء لم يقولوها. في أثناء، مييتااا و شراء مراجعات جوجل طلبوا من المعلنين الإعلان عما إذا كانت إعلاناتهم تحتوي على محتوى اصطناعي، سواء كان صورًا أو مقاطع فيديو أو صوتًا زائفًا.
القواعد أكثر صرامة بالنسبة للسياسيين. لقد مرت ولايات متعددة، مثل كاليفورنيا وتكساس وميشيغان وواشنطن ومينيسوتا تشريع منع المرشحين السياسيين من إنتاج مواد مزيفة للتأثير على الناخبين. ومع ذلك، لا يوجد قانون اتحادي. لم تقرر لجنة الانتخابات الفيدرالية بعد ما إذا كانت سياستها ضد "تحريف تمثيل المرشحين أو الأحزاب السياسية الأخرى عن طريق الاحتيال" تنطبق على المحتوى الذي ينشئه الذكاء الاصطناعي.
لا يزال الذكاء الاصطناعي غير منظم في الغالب، ولا تغطي القوانين المختلفة المطبقة في جميع أنحاء العالم جميع حالات التضليل السياسي. على الرغم من أن شركات التكنولوجيا تكثف جهودها لمنع المستخدمين من توليد معلومات مضللة تعتمد على الذكاء الاصطناعي، إلا أن أساليبها ليست مثالية وغالبًا ما يجد المستخدمون طرقًا للالتفاف على إجراءات السلامة الخاصة بهم. ®
- محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
- PlatoData.Network Vertical Generative Ai. تمكين نفسك. الوصول هنا.
- أفلاطونايستريم. ذكاء Web3. تضخيم المعرفة. الوصول هنا.
- أفلاطون كربون، كلينتك ، الطاقة، بيئة، شمسي، إدارة المخلفات. الوصول هنا.
- أفلاطون هيلث. التكنولوجيا الحيوية وذكاء التجارب السريرية. الوصول هنا.
- المصدر https://go.theregister.com/feed/www.theregister.com/2024/01/17/ai_political_disinformation/
- :لديها
- :يكون
- :ليس
- $ UP
- 2022
- a
- من نحن
- سوء المعاملة
- يمكن الوصول
- أنشطة
- اعترف
- تبنى
- المعلنين
- ضد
- AI
- هدف
- الكل
- السماح
- سابقا
- أيضا
- بالرغم ان
- an
- و
- آخر
- توقع
- أي وقت
- ذو صلة
- التطبيقات
- ينطبق
- نهج
- هي
- حول
- AS
- يسأل
- أسوشيتد
- سمعي
- أصالة
- المحظورة
- BE
- أصبح
- قبل
- بنج
- حجب
- أحذية طويلة
- البوتات
- مكسورة
- ابني
- الأعمال
- لكن
- by
- كاليفورنيا
- الحملة الانتخابية
- CAN
- المرشحين
- قادر على
- حمل
- معين
- chatbots
- شات جي بي تي
- الكروم
- CO
- الائتلاف
- مكافحة
- عمولة
- الشركات
- تحتوي على
- محتوى
- محادثة
- استطاع
- بهيكل
- وضعت
- خلق
- الخالق
- المبدعين
- أوراق اعتماد
- حاسم
- مبنية خصيصا
- دال
- تقرر
- مخصصة
- deepfakes
- ديمقراطي
- تصف
- مختلف
- صعبة
- رقمي
- كشف
- التضليل
- ثنى
- نشر
- do
- لا توجد الآن
- دون
- دونالد
- دونالد ترامب
- التحرير
- الطُرق الفعّالة
- جهود
- انتخابات
- انتخابات
- فرض
- الأثير (ETH)
- حتى
- أحداث
- EVER
- مثال
- توقع
- زائف
- زائف
- الميزات
- اتحادي
- القانون الاتحادي
- الاسم الأول
- اتباع
- في حالة
- شكل
- تعزيز
- مجانا
- تبدأ من
- ولدت
- توليد
- دولار فقط واحصل على خصم XNUMX% على جميع
- معطى
- Go
- خير
- شراء مراجعات جوجل
- جوجل كروم
- الحكومات
- نابعة
- يملك
- ملاذ
- مساعدة
- استضافة
- كيفية
- لكن
- HTTPS
- بشكل هائل
- الأيديولوجيات
- if
- صورة
- صور
- تنفيذ
- أهمية
- in
- تتضمن
- على نحو متزايد
- تأثير
- معلومات
- مبادرة
- حالات
- بدلًا من ذلك
- يسن
- IT
- انها
- JPG
- تُشير
- اسم العائلة
- العام الماضي
- القانون
- القوانين
- مثل
- ضغط
- صنع
- البريدية
- كثير
- أمر
- me
- معنى
- في غضون
- الإجراءات
- عضو
- البيانات الوصفية
- طرق
- ميشيغان
- مایکروسافت
- ربما
- مينيسوتا
- مضلل
- نموذج
- عارضات ازياء
- الإثنين
- الأكثر من ذلك
- خاصة
- متعدد
- لا
- نوفمبر
- الآن
- of
- غالبا
- oh
- on
- فقط
- جاكيت
- OpenAI
- عمليات
- or
- أخرى
- أخرى
- لنا
- خارج
- خاص
- الأحزاب
- مرت
- مجتمع
- أداء
- الشخصيات
- مخصصه
- الصور
- المكان
- تخطيط
- المنصة
- أفلاطون
- الذكاء افلاطون البيانات
- أفلاطون داتا
- وفرة
- Police
- سياسات الخصوصية والبيع
- سياسة
- سياسي
- المرشحين السياسيين
- احزاب سياسية
- الساسة
- قوة
- رئاسي
- الانتخابات الرئاسية
- منع
- العمليات
- إنتاج
- ممنوع
- إثبات
- مصدر
- منحدر
- RE
- حقيقي
- ما هو مقنن
- صدر
- ذات الصلة
- الاعتماد
- تقرير
- مسؤول
- المتداول
- القواعد
- s
- بسلام
- السلامة
- قال
- قول
- رأيت
- منذ
- So
- شخص ما
- شيء
- محدد
- بدأت
- بدء التشغيل
- المحافظة
- لا يزال
- متجر
- استراتيجيات
- أكثر صرامة
- قطاع
- هذه
- بدلة
- الدعم
- دعم
- اصطناعي
- نظام
- T
- العرقلة
- اتخذت
- مع الأخذ
- المهام
- التكنولوجيا
- شركات التكنولوجيا
- تكنولوجيا
- تكساس
- نص
- من
- أن
- •
- المعلومات
- العالم
- من مشاركة
- منهم
- then
- هناك.
- هم
- الأشياء
- هذا العام
- على الرغم من؟
- إلى
- جدا
- أدوات
- تيشرت
- شفاف
- مشكلة
- ورقة رابحة
- محاولة
- فهم
- العنان
- المقبلة
- us
- تستخدم
- المستخدمين
- استخدام
- مختلف
- الإصدار
- مقاطع فيديو
- تصويت
- الناخبين
- تصويت
- وكان
- واشنطن
- العلامة المائية
- بالماء
- علامات مائية
- طرق
- we
- المواقع
- حسن
- متى
- سواء
- التي
- في حين
- من
- على نحو واسع
- مع
- بدون
- للعمل
- عامل
- العالم
- سوف
- عام
- حتى الآن
- موقع YouTube
- زفيرنت