OpenAI ने यह भविष्यवाणी करने के लिए डिज़ाइन किया गया एक मुफ्त ऑनलाइन टूल जारी किया है कि पाठ का एक मार्ग AI द्वारा उत्पन्न किया गया था या मानव द्वारा लिखा गया था।
"एआई टेक्स्ट क्लासिफायरियर" को डब किया गया, सॉफ्टवेयर एक भाषा मॉडल द्वारा संचालित है और संभावना है कि पाठ का एक हिस्सा एआई मॉडल द्वारा पांच-बिंदु पैमाने पर उत्पन्न किया गया था जो "बहुत असंभावित" से "अस्पष्ट" से "संभावना" तक जाता है। ।” हमने इसे एक दशक पहले अपने कुछ लेखों पर आजमाया था, और कई गिद्धों को यह जानने के लिए उकसाया जा सकता है कि उनकी प्रति को "अस्पष्ट अगर यह एआई-जेनरेट किया गया है" का दर्जा दिया गया था।
उपकरण, मंगलवार को अनावरण किया गया, स्टार्टअप के महीनों बाद शुरू हुआ शुभारंभ चैटजीपीटी, एक चैटबॉट जो निर्देश दिए जाने पर स्वचालित रूप से पाठ उत्पन्न करता है, जैसे किसी प्रश्न का उत्तर देना, चुटकुला सुनाना या कविता लिखना। वास्तव में, OpenAI ने प्रैटल-स्ट्रीमिंग बॉट्स में वृद्धि को बढ़ावा देने में मदद की और अब इस तरह की चीजों का पता लगाने के लिए एक आधा-गधा उपकरण प्रदान करता है।
अमेरिका, फ्रांस और भारत के स्कूलों और विश्वविद्यालयों में कम से कम तब से है प्रतिबंधित छात्रों को अपने नेटवर्क का उपयोग करके चैटजीपीटी तक पहुंचने या सॉफ्टवेयर द्वारा उत्पन्न निबंध जमा करने से।
क्लासिफायरियर कभी-कभी गलत भविष्यवाणी में बेहद आश्वस्त होता है
विशेषज्ञों को यह भी डर है कि पाठ-पीढ़ी के मॉडल का उपयोग इंटरनेट पर बाढ़ लाने के लिए गलत सूचना, फ़िशिंग ईमेल, रीम्स और बकवास के रीम्स को उत्सर्जित करने के लिए किया जा सकता है। अनेक संगठनों और इसलिए कंप्यूटर वैज्ञानिकों ने एआई-जनित सामग्री का पता लगाने के लिए अपने स्वयं के क्लासिफायर टूल पर काम करना शुरू कर दिया है।
OpenAI का AI टेक्स्ट क्लासिफायर सही नहीं है। Microsoft-बैंकरोल लैब ने कहा, "AI टेक्स्ट क्लासिफायर के लिए हमारा इरादा मानव-लिखित और AI-जनित सामग्री के बीच अंतर के बारे में बातचीत को बढ़ावा देना है।" कहा.
संगठन ने कहा, "परिणाम मदद कर सकते हैं, लेकिन एआई के साथ एक दस्तावेज तैयार किया गया था या नहीं, यह तय करते समय सबूत का एकमात्र टुकड़ा नहीं होना चाहिए।" "मॉडल को विभिन्न स्रोतों से मानव-लिखित पाठ पर प्रशिक्षित किया जाता है, जो सभी प्रकार के मानव-लिखित पाठ का प्रतिनिधि नहीं हो सकता है।"
एआई टेक्स्ट क्लासिफायरियर को विभिन्न स्रोतों से मशीन-निर्मित टेक्स्ट का पता लगाने के लिए डिज़ाइन किया गया है, न कि केवल इसके अति-प्रचारित चैटजीपीटी से। इसे पांच संगठनों द्वारा बनाए गए 34 मॉडलों से एआई-लिखित पाठ और इंटरनेट से स्क्रैप किए गए मानव-लिखित पाठ दोनों पर प्रशिक्षित किया गया था और आंतरिक कंपनी डेटासेट से लिया गया था।
टूल के लिए 1,000 अक्षरों के टेक्स्ट सैंपल की आवश्यकता होती है, और यह अंग्रेजी के अलावा अन्य भाषाओं के लिए अच्छी तरह से काम नहीं करता है। OpenAI के अलाइनमेंट के प्रमुख जान लेइके बोला था Axios इसकी भविष्यवाणियां झूठी सकारात्मक या झूठी नकारात्मकता उत्पन्न कर सकती हैं।
क्लासिफायरियर उन शिक्षकों के लिए भी उपयोगी नहीं होगा जो यह आकलन करना चाहते हैं कि छात्र ने चैटजीपीटी जैसे सॉफ़्टवेयर द्वारा उत्पन्न असाइनमेंट जमा किया है या नहीं। AI टेक्स्ट क्लासिफायरियर यह बताने के लिए पर्याप्त संवेदनशील नहीं है कि कौन से वाक्य या स्निपेट AI का काम हो सकते हैं, इसलिए कंप्यूटर द्वारा निर्मित और मानव द्वारा ट्वीक किया गया कोई भी टेक्स्ट पता लगाने से बच सकता है।
"हम सावधान करते हैं कि मॉडल का कई अपेक्षित सिद्धांत लक्ष्यों पर सावधानीपूर्वक मूल्यांकन नहीं किया गया है - जिसमें छात्र निबंध, स्वचालित गलत सूचना अभियान, या चैट ट्रांसक्रिप्ट शामिल हैं। दरअसल, तंत्रिका नेटवर्क पर आधारित क्लासिफायरियर को उनके प्रशिक्षण डेटा के बाहर खराब तरीके से कैलिब्रेट करने के लिए जाना जाता है। हमारे प्रशिक्षण सेट में पाठ से बहुत अलग इनपुट के लिए, क्लासिफायरियर कभी-कभी गलत भविष्यवाणी में बेहद आश्वस्त होता है, "प्रयोगशाला ने चेतावनी दी।
ओपनएआई भी है कथित तौर पर वॉटरमार्किंग तकनीक सहित एआई-जनित पाठ का पता लगाने के लिए अन्य तरीकों की खोज करना जो इसके भविष्य के उत्पादों में निर्मित हो सकते हैं।
रजिस्टर ने OpenAI से आगे, अधिमानतः गैर-AI-जनित, टिप्पणी के लिए कहा है। ®
- एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
- प्लेटोब्लॉकचैन। Web3 मेटावर्स इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
- स्रोत: https://go.theregister.com/feed/www.theregister.com/2023/01/31/openai_tool_chatgpt_detection/
- 000
- 1
- a
- About
- तक पहुँचने
- जोड़ा
- बाद
- AI
- सब
- के बीच
- और
- दृष्टिकोण
- लेख
- स्वचालित
- स्वतः
- Axios
- आधारित
- के बीच
- बॉट
- बनाया गया
- अभियान
- सावधानी से
- अक्षर
- chatbot
- ChatGPT
- टिप्पणी
- कंपनी
- कंप्यूटर
- आश्वस्त
- सामग्री
- कन्वर्सेशन (Conversation)
- सका
- तिथि
- शुरू हुआ
- दशक
- निर्णय लेने से
- बनाया गया
- खोज
- विभिन्न
- दुष्प्रचार
- दस्तावेज़
- प्रभाव
- ईमेल
- अंग्रेज़ी
- पर्याप्त
- ईथर (ईटीएच)
- मूल्यांकित
- और भी
- सबूत
- अपेक्षित
- तलाश
- अत्यंत
- डर
- भय
- पोषण
- फ्रांस
- मुक्त
- से
- ईंधन
- आगे
- भविष्य
- उत्पन्न
- उत्पन्न करता है
- चला जाता है
- सिर
- मदद
- मदद की
- HTTPS
- मानव
- in
- सहित
- इंडिया
- आंतरिक
- इंटरनेट
- IT
- जॉन
- बच्चा
- जानने वाला
- प्रयोगशाला
- भाषा
- भाषाऐं
- जानें
- संभावित
- देख
- बहुत
- झूठी खबर
- आदर्श
- मॉडल
- महीने
- नेटवर्क
- तंत्रिका
- तंत्रिका जाल
- ऑफर
- ऑनलाइन
- OpenAI
- संगठन
- संगठनों
- अन्य
- बाहर
- अपना
- उत्तम
- फ़िशिंग
- टुकड़ा
- प्लेटो
- प्लेटो डेटा इंटेलिजेंस
- प्लेटोडाटा
- संचालित
- भविष्यवाणी करना
- भविष्यवाणी
- भविष्यवाणियों
- सिद्धांत
- उत्पादन
- प्रस्तुत
- उत्पाद
- प्रश्न
- दरें
- रिहा
- प्रतिनिधि
- की आवश्यकता होती है
- परिणाम
- वृद्धि
- स्केल
- वैज्ञानिकों
- संवेदनशील
- सेट
- कई
- चाहिए
- के बाद से
- So
- सॉफ्टवेयर
- कुछ
- सूत्रों का कहना है
- शुरू
- स्टार्टअप
- छात्र
- छात्र
- प्रस्तुत
- ऐसा
- लक्ष्य
- शिक्षकों
- RSI
- लेकिन हाल ही
- इसलिये
- सेवा मेरे
- टन
- साधन
- उपकरण
- प्रशिक्षित
- प्रशिक्षण
- मंगलवार
- विश्वविद्यालयों
- अनावरण किया
- us
- उपयोग
- विविधता
- विभिन्न
- या
- कौन कौन से
- कौन
- मर्जी
- काम
- लिखा हुआ
- गलत
- जेफिरनेट