أصدرت شركة OpenAI أداة مجانية عبر الإنترنت مصممة للتنبؤ بما إذا كان مقطع النص قد تم إنشاؤه بواسطة الذكاء الاصطناعي أم أنه كتبه إنسان.
يُطلق على البرنامج اسم "AI Text Classifier" ، ويتم تشغيل البرنامج بواسطة نموذج لغة ويقيم احتمالية إنشاء جزء كبير من النص بواسطة نموذج AI على مقياس من خمس نقاط ينتقل من "غير محتمل جدًا" إلى "غير واضح" إلى "محتمل جدًا" . " لقد جربنا ذلك في بعض مقالاتنا منذ عقد أو نحو ذلك ، وقد ينزعج العديد من النسور لمعرفة أن نسختهم قد صُنفت بأنها "غير واضحة ما إذا كانت من إنتاج الذكاء الاصطناعي."
الأداة ، التي تم الكشف عنها يوم الثلاثاء ، ظهرت لأول مرة بعد أشهر من بدء التشغيل أطلقت ChatGPT ، روبوت محادثة يقوم تلقائيًا بإنشاء نص عندما يُطلب منه ذلك ، مثل الإجابة على سؤال أو إلقاء نكتة أو كتابة قصيدة. في الواقع ، ساعدت أوبن إيه آي في زيادة عدد روبوتات بث الثرثرة ، وهي تقدم الآن أداة نصف متقنة لاكتشاف هذا النوع من الأشياء.
المدارس والجامعات في الولايات المتحدة وفرنسا والهند ، على الأقل ، لديها منذ ذلك الحين المحظورة الطلاب من الوصول إلى ChatGPT باستخدام شبكاتهم أو من إرسال المقالات التي تم إنشاؤها بواسطة البرنامج.
المصنف في بعض الأحيان واثق للغاية في التنبؤ الخاطئ
ويخشى الخبراء أيضًا من إمكانية استخدام نماذج إنشاء النصوص لإرسال أطنان من المعلومات المضللة ورسائل البريد الإلكتروني التصيدية ورِّدًا من الهراء لإغراق الإنترنت. عديد المنظمات ولذلك بدأ علماء الكمبيوتر العمل على أدوات التصنيف الخاصة بهم لاكتشاف المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي.
مصنف AI للنصوص من OpenAI ليس مثاليًا. "الغرض من استخدامنا لمصنف النص AI هو تعزيز المحادثة حول التمييز بين المحتوى المكتوب بواسطة الإنسان والمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي ،" مختبر Microsoft الممول محمد.
وأضافت المنظمة: "قد تساعد النتائج ، ولكن لا ينبغي أن تكون الدليل الوحيد ، عند تقرير ما إذا تم إنشاء مستند باستخدام الذكاء الاصطناعي". "النموذج مُدرب على نص مكتوب بشريًا من مجموعة متنوعة من المصادر ، والتي قد لا تكون ممثلة لجميع أنواع النصوص المكتوبة بواسطة الإنسان."
تم تصميم مُصنف النص بالذكاء الاصطناعي لاكتشاف النص المصنوع آليًا من مصادر مختلفة ، وليس فقط ChatGPT المبالغة فيه. تم تدريبه على نص مكتوب بالذكاء الاصطناعي من 34 نموذجًا تم إنشاؤها بواسطة خمس منظمات ، ونص مكتوب بشريًا مأخوذ من الإنترنت مأخوذ من مجموعة بيانات داخلية للشركة.
تتطلب الأداة عينات نصية من 1,000 حرف ، ولا تعمل بشكل جيد مع لغات أخرى غير الإنجليزية. رئيس محاذاة أوبن إيه آي يان لايكي قال يمكن أن تنتج تنبؤات Axios نتائج إيجابية زائفة أو سلبيات كاذبة.
لن يكون المصنف مفيدًا حتى للمعلمين الذين يتطلعون إلى تقييم ما إذا كان الطالب قد أرسل مهمة تم إنشاؤها بواسطة برنامج مثل ChatGPT. لا يعتبر مُصنف النص بالذكاء الاصطناعي حساسًا بما يكفي لمعرفة الجمل أو المقتطفات التي قد تكون من عمل الذكاء الاصطناعي ، لذا فإن أي نص تم إنتاجه بواسطة الكمبيوتر وتعديله بواسطة الإنسان قد يتجنب الاكتشاف.
"نحذر من أن النموذج لم يتم تقييمه بعناية على العديد من الأهداف الأساسية المتوقعة - بما في ذلك مقالات الطلاب أو حملات التضليل الآلية أو نصوص الدردشة. في الواقع ، من المعروف أن المصنفات القائمة على الشبكات العصبية لم تتم معايرتها بشكل جيد خارج بيانات التدريب الخاصة بها. بالنسبة للمدخلات التي تختلف تمامًا عن النص الموجود في مجموعة التدريب الخاصة بنا ، يكون المصنف في بعض الأحيان واثقًا للغاية في التنبؤ الخاطئ "، حذر المعمل.
أوبن إيه آي أيضًا يقال استكشاف طرق أخرى لاكتشاف النص الذي تم إنشاؤه بواسطة الذكاء الاصطناعي بما في ذلك تقنية العلامة المائية التي قد تكون مضمنة في منتجاتها المستقبلية.
السجل طلبت من OpenAI مزيدًا من التعليقات ، ويفضل أن لا تكون من إنشاء الذكاء الاصطناعي. ®
- محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
- بلاتوبلوكشين. Web3 Metaverse Intelligence. تضخيم المعرفة. الوصول هنا.
- المصدر https://go.theregister.com/feed/www.theregister.com/2023/01/31/openai_tool_chatgpt_detection/
- 000
- 1
- a
- من نحن
- الوصول
- وأضاف
- بعد
- AI
- الكل
- وسط
- و
- اقتراب
- مقالات
- الآلي
- تلقائيا
- أكسيوس
- على أساس
- ما بين
- البوتات
- بنيت
- الحملات
- بعناية
- الأحرف
- chatbot
- شات جي بي تي
- التعليق
- حول الشركة
- الكمبيوتر
- واثق
- محتوى
- محادثة
- استطاع
- البيانات
- لاول مرة
- عقد
- اتخاذ القرار
- تصميم
- كشف
- مختلف
- التضليل
- وثيقة
- تأثير
- رسائل البريد الإلكتروني
- انجليزي
- كاف
- الأثير (ETH)
- تقييم
- حتى
- دليل
- متوقع
- استكشاف
- جدا
- خوف
- المخاوف
- فوستر
- فرنسا
- مجانًا
- تبدأ من
- وقود
- إضافي
- مستقبل
- ولدت
- يولد
- يذهب
- رئيس
- مساعدة
- ساعد
- HTTPS
- الانسان
- in
- بما فيه
- الهند
- داخلي
- Internet
- IT
- يناير
- نوع
- معروف
- مختبر
- لغة
- اللغات
- تعلم
- على الأرجح
- أبحث
- كثير
- معلومات خاطئة
- نموذج
- عارضات ازياء
- المقبلة.
- الشبكات
- عصبي
- الشبكات العصبية
- عروض
- online
- OpenAI
- منظمة
- المنظمات
- أخرى
- في الخارج
- الخاصة
- التصيد
- قطعة
- أفلاطون
- الذكاء افلاطون البيانات
- أفلاطون داتا
- مدعوم
- تنبأ
- تنبؤ
- تنبؤات
- مبدأ
- إنتاج
- أنتج
- المنتجات
- سؤال
- الأجور
- صدر
- ممثل
- يتطلب
- النتائج
- ارتفاع
- حجم
- العلماء
- حساس
- طقم
- عدة
- ينبغي
- منذ
- So
- تطبيقات الكمبيوتر
- بعض
- مصادر
- بدأت
- بدء التشغيل
- طالب
- عدد الطلبة
- المقدمة
- هذه
- الأهداف
- المعلمون
- •
- من مشاركة
- وبالتالي
- إلى
- نغمة
- أداة
- أدوات
- متدرب
- قادة الإيمان
- الثلاثاء
- الجامعات
- كشف النقاب
- us
- تستخدم
- تشكيلة
- مختلف
- سواء
- التي
- من الذى
- سوف
- للعمل
- مكتوب
- خاطئ
- زفيرنت