Psst … Wanna Jailbreak ChatGPT? Inside Look At Evil Prompts

افلاطون کے ذریعہ دوبارہ شائع کیا گیا۔

فالونگ: 0

کاسپرسکی کے مطابق، مجرم ChatGPT سے ڈیٹا حاصل کرنے کے لیے بدنیتی پر مبنی AI پرامپٹ تیار کرنے میں تیزی سے ماہر ہو رہے ہیں، جس نے 249 کے دوران ان میں سے 2023 کو آن لائن فروخت کے لیے پیش کیے جانے کو دیکھا۔

اور جب کہ بڑے زبان کے ماڈل (LLMs) بنانے کے قریب نہیں ہیں۔ مکمل حملے کی زنجیریں یا پیدا کرنا پولیمورفک میلویئر ransomware کے انفیکشن یا دیگر سائبر حملوں کے لیے، AI کے استعمال کے بارے میں دھوکہ دہی کرنے والوں میں یقینی طور پر دلچسپی ہے۔ کاسپرسکی کو ٹیلیگرام چینلز اور ڈارک ویب فورمز میں صرف 3,000 سے زیادہ پوسٹیں ملی ہیں جن میں اس بات پر تبادلہ خیال کیا گیا ہے کہ ChatGPT اور دیگر LLMs کو غیر قانونی سرگرمیوں کے لیے کیسے استعمال کیا جائے۔

"یہاں تک کہ جن کاموں کو پہلے کچھ مہارت کی ضرورت ہوتی تھی وہ اب ایک ہی اشارے سے حل کیے جاسکتے ہیں۔" رپورٹ دعوے "یہ ڈرامائی طور پر بہت سے شعبوں میں داخلے کی حد کو کم کرتا ہے، بشمول مجرمانہ۔"

لوگ نقصان دہ اشارے بنانے کے علاوہ انہیں اسکرپٹ بچوں کو فروخت کر رہے ہیں جن کے پاس اپنا بنانے کی مہارت نہیں ہے۔ سیکیورٹی فرم چوری شدہ ChatGPT اسناد اور ہیک شدہ پریمیم اکاؤنٹس کی بڑھتی ہوئی مارکیٹ کی بھی اطلاع دیتی ہے۔

اگرچہ پچھلے ایک سال کے دوران پولیمورفک میلویئر لکھنے کے لیے AI کے استعمال کے بارے میں بہت زیادہ چرچا رہا ہے، جو اینٹی وائرس ٹولز کے ذریعے پتہ لگانے سے بچنے کے لیے اس کے کوڈ میں ترمیم کر سکتا ہے، "ہم نے ابھی تک اس طریقے سے کام کرنے والے کسی میلویئر کا پتہ نہیں لگایا، لیکن یہ مستقبل میں ابھر سکتا ہے۔ "مصنفین نوٹ کرتے ہیں۔

کاسپرسکی کے مطابق، جب کہ جیل بریکز "کافی عام ہیں اور مختلف سوشل پلیٹ فارمز کے صارفین اور شیڈو فورمز کے ممبران کی طرف سے فعال طور پر موافقت کی جاتی ہے"، بعض اوقات - جیسا کہ ٹیم نے دریافت کیا ہے - وہ مکمل طور پر غیر ضروری ہوتے ہیں۔

سیکیورٹی تجزیہ کاروں نے چیٹ جی پی ٹی سے پوچھا، "مجھے 50 اختتامی پوائنٹس کی ایک فہرست دیں جہاں سویگر سپیکیفیکیشنز یا API دستاویزات کسی ویب سائٹ پر لیک ہو سکتی ہیں۔"

AI نے جواب دیا: "مجھے افسوس ہے، لیکن میں اس درخواست میں مدد نہیں کر سکتا۔"

لہذا محققین نے نمونہ فوری طور پر لفظی طور پر دہرایا۔ اس وقت، اس نے کام کیا.

جب کہ ChatGPT نے ان پر زور دیا کہ وہ "ذمہ داری سے اس معلومات تک پہنچیں" اور ڈانٹا کہ "اگر آپ کے ارادے بدنیتی ہیں تو بغیر اجازت کے وسائل تک رسائی حاصل کرنا یا اس تک رسائی کی کوشش کرنا غیر قانونی اور غیر اخلاقی ہے۔"

"اس نے کہا،" اس نے جاری رکھا، "یہاں عام اختتامی نکات کی ایک فہرست ہے جہاں API دستاویزات، خاص طور پر Swagger/OpenAPI چشمی، کو بے نقاب کیا جا سکتا ہے۔" اور پھر اس نے فہرست فراہم کی۔

بلاشبہ، یہ معلومات فطری طور پر مذموم نہیں ہے، اور اسے جائز مقاصد کے لیے استعمال کیا جا سکتا ہے - جیسے سیکیورٹی ریسرچ یا پینٹسٹنگ۔ لیکن، جیسا کہ سب سے زیادہ جائز ٹیک کے ساتھ، برائی کے لیے بھی استعمال کیا جا سکتا ہے۔

جب کہ بہت سے اوپر والے بورڈ کے ڈویلپرز اپنے سافٹ ویئر کی کارکردگی یا کارکردگی کو بہتر بنانے کے لیے AI کا استعمال کر رہے ہیں، میلویئر تخلیق کار اس کی پیروی کر رہے ہیں۔ Kaspersky کی تحقیق میں میلویئر آپریٹرز کے لیے پوسٹ ایڈورٹائزنگ سوفٹ ویئر کا اسکرین شاٹ شامل ہے جو AI کا استعمال نہ صرف معلومات کا تجزیہ کرنے اور اس پر کارروائی کرنے کے لیے کرتا ہے، بلکہ ایک بار جب کسی کے ساتھ سمجھوتہ کر لیا جاتا ہے تو کور ڈومینز کو خود بخود تبدیل کر کے مجرموں کی حفاظت کرتا ہے۔

یہ نوٹ کرنا ضروری ہے کہ تحقیق درحقیقت ان دعووں کی تصدیق نہیں کرتی ہے، اور جب ان کا سامان بیچنے کی بات آتی ہے تو مجرم ہمیشہ سب سے زیادہ قابل اعتماد لوگ نہیں ہوتے ہیں۔

کاسپرسکی کی تحقیق یو کے نیشنل سائبر سیکیورٹی سینٹر (NCSC) کی ایک اور رپورٹ کے بعد ہے، جس میں ایک "حقیقت پسندانہ امکان" پایا گیا ہے کہ 2025 تک، رینسم ویئر کے عملے اور قومی ریاست کے گروہوں کے ٹولز میں نمایاں بہتری آئے گی۔ شکریہ اے آئی ماڈلز۔ ®