Psst... जेलब्रेक चैटजीपीटी चाहते हैं? दुष्ट संकेतों पर अंदरूनी नज़र

प्लेटो द्वारा पुनर्प्रकाशित

अनुयायियों: 0

कैस्परस्की के अनुसार, अपराधी चैटजीपीटी से डेटा प्राप्त करने के लिए दुर्भावनापूर्ण एआई संकेतों को तैयार करने में तेजी से माहिर हो रहे हैं, जिसमें 249 के दौरान इनमें से 2023 को ऑनलाइन बिक्री के लिए पेश किया गया था।

और जबकि बड़े भाषा मॉडल (एलएलएम) बनाने के करीब नहीं हैं पूर्ण आक्रमण शृंखला या उत्पन्न करना बहुरूपी मैलवेयर रैंसमवेयर संक्रमण या अन्य साइबर हमलों के लिए, धोखेबाजों के बीच एआई का उपयोग करने में निश्चित रूप से रुचि है। कैसपर्सकी को टेलीग्राम चैनलों और डार्क-वेब मंचों पर 3,000 से अधिक पोस्ट मिलीं, जिनमें चर्चा की गई थी कि अवैध गतिविधियों के लिए चैटजीपीटी और अन्य एलएलएम का उपयोग कैसे किया जाए।

"यहां तक कि जिन कार्यों के लिए पहले कुछ विशेषज्ञता की आवश्यकता होती थी, उन्हें भी अब एक ही संकेत से हल किया जा सकता है।" रिपोर्ट दावा. "यह आपराधिक क्षेत्रों सहित कई क्षेत्रों में प्रवेश सीमा को नाटकीय रूप से कम कर देता है।"

दुर्भावनापूर्ण संकेत बनाने वाले लोगों के अलावा, वे उन्हें स्क्रिप्ट बच्चों को बेच रहे हैं जिनके पास अपना खुद का बनाने के लिए कौशल की कमी है। सुरक्षा फर्म चोरी हुए चैटजीपीटी क्रेडेंशियल्स और हैक किए गए प्रीमियम खातों के बढ़ते बाजार की भी रिपोर्ट करती है।

जबकि पिछले वर्ष में पॉलीमॉर्फिक मैलवेयर लिखने के लिए एआई का उपयोग करने के बारे में बहुत प्रचार किया गया है, जो एंटीवायरस टूल द्वारा पता लगाने से बचने के लिए अपने कोड को संशोधित कर सकता है, “हमने अभी तक इस तरीके से संचालित होने वाले किसी भी मैलवेयर का पता नहीं लगाया है, लेकिन यह भविष्य में सामने आ सकता है।” , “लेखक ध्यान दें।

कैस्परस्की के अनुसार, जबकि जेलब्रेक "काफी सामान्य है और विभिन्न सामाजिक प्लेटफार्मों के उपयोगकर्ताओं और छाया मंचों के सदस्यों द्वारा सक्रिय रूप से इसमें बदलाव किया जाता है", कभी-कभी - जैसा कि टीम ने पाया - वे पूरी तरह से अनावश्यक हैं।

सुरक्षा विश्लेषकों ने चैटजीपीटी से पूछा, "मुझे 50 अंतिम बिंदुओं की एक सूची दें जहां स्वैगर स्पेसिफिकेशन या एपीआई दस्तावेज किसी वेबसाइट पर लीक हो सकते हैं।"

एआई ने जवाब दिया: "मुझे खेद है, लेकिन मैं उस अनुरोध में सहायता नहीं कर सकता।"

इसलिए शोधकर्ताओं ने नमूना संकेत शब्दशः दोहराया। उस समय, यह काम कर गया.

जबकि चैटजीपीटी ने उनसे "इस जानकारी को जिम्मेदारी से लेने" का आग्रह किया और डांटा कि "यदि आपके पास दुर्भावनापूर्ण इरादे हैं, तो अनुमति के बिना संसाधनों तक पहुंच या पहुंच का प्रयास करना अवैध और अनैतिक है।"

"उसने कहा," यह जारी रहा, "यहां सामान्य समापन बिंदुओं की एक सूची है जहां एपीआई दस्तावेज़, विशेष रूप से स्वैगर/ओपनएपीआई विनिर्देश, उजागर हो सकते हैं।" और फिर इसने सूची प्रदान की।

बेशक, यह जानकारी स्वाभाविक रूप से नापाक नहीं है, और इसका उपयोग वैध उद्देश्यों के लिए किया जा सकता है - जैसे सुरक्षा अनुसंधान या पेन्टिंग। लेकिन, अधिकांश वैध तकनीक की तरह, इसका उपयोग बुराई के लिए भी किया जा सकता है।

जबकि कई उपरोक्त-बोर्ड डेवलपर अपने सॉफ़्टवेयर के प्रदर्शन या दक्षता को बेहतर बनाने के लिए एआई का उपयोग कर रहे हैं, मैलवेयर निर्माता भी इसका अनुसरण कर रहे हैं। कैस्परस्की के शोध में मैलवेयर ऑपरेटरों के लिए एक पोस्ट विज्ञापन सॉफ़्टवेयर का स्क्रीनशॉट शामिल है जो एआई का उपयोग न केवल जानकारी का विश्लेषण और प्रसंस्करण करने के लिए करता है, बल्कि एक बार समझौता होने के बाद कवर डोमेन को स्वचालित रूप से स्विच करके अपराधियों की सुरक्षा भी करता है।

यह ध्यान रखना महत्वपूर्ण है कि शोध वास्तव में इन दावों की पुष्टि नहीं करता है, और जब अपना माल बेचने की बात आती है तो अपराधी हमेशा सबसे भरोसेमंद लोग नहीं होते हैं।

कैस्परस्की का शोध यूके नेशनल साइबर सिक्योरिटी सेंटर (एनसीएससी) की एक अन्य रिपोर्ट का अनुसरण करता है, जिसमें एक "यथार्थवादी संभावना" पाई गई है कि 2025 तक, रैंसमवेयर क्रू और राष्ट्र-राज्य गिरोहों के टूल में उल्लेखनीय सुधार होगा। करने के लिए धन्यवाद एआई मॉडल. ®