Psst … ChatGPT জেলব্রেক করতে চান? ইনসাইড লুক অ্যাট ইভিল প্রম্পটস

প্লেটো দ্বারা প্রকাশিত

অনুসরণকারী: 0

অপরাধীরা ChatGPT থেকে ডেটা বের করার জন্য দূষিত AI প্রম্পট তৈরিতে ক্রমবর্ধমানভাবে পারদর্শী হয়ে উঠছে, ক্যাসপারস্কি অনুসারে, যা 249 সালে অনলাইনে বিক্রির জন্য অফার করা 2023টি দেখেছে।

এবং যখন বড় ভাষা মডেল (LLM) তৈরির কাছাকাছি নয় সম্পূর্ণ আক্রমণ চেইন বা উৎপন্ন করা পলিমরফিক ম্যালওয়্যার র্যানসমওয়্যার সংক্রমণ বা অন্যান্য সাইবার আক্রমণের জন্য, AI ব্যবহার করার বিষয়ে প্রতারকদের মধ্যে অবশ্যই আগ্রহ রয়েছে। ক্যাসপারস্কি টেলিগ্রাম চ্যানেল এবং ডার্ক-ওয়েব ফোরামে 3,000 টিরও বেশি পোস্ট খুঁজে পেয়েছে যে কীভাবে বেআইনি কার্যকলাপের জন্য চ্যাটজিপিটি এবং অন্যান্য এলএলএম ব্যবহার করতে হয়।

"এমনকি যে কাজগুলির জন্য আগে কিছু দক্ষতার প্রয়োজন ছিল সেগুলি এখন একটি একক প্রম্পট দিয়ে সমাধান করা যেতে পারে," দ রিপোর্ট দাবি "এটি নাটকীয়ভাবে অপরাধমূলক বিষয়গুলি সহ অনেক ক্ষেত্রে প্রবেশের থ্রেশহোল্ডকে কমিয়ে দেয়।"

লোকেরা দূষিত প্রম্পট তৈরি করার পাশাপাশি তারা সেগুলিকে স্ক্রিপ্টের বাচ্চাদের কাছে বিক্রি করছে যাদের নিজেদের তৈরি করার দক্ষতা নেই। নিরাপত্তা সংস্থাটি চুরি হওয়া চ্যাটজিপিটি শংসাপত্র এবং হ্যাক করা প্রিমিয়াম অ্যাকাউন্টগুলির জন্য একটি ক্রমবর্ধমান বাজারেরও রিপোর্ট করেছে৷

পলিমরফিক ম্যালওয়্যার লেখার জন্য AI ব্যবহার করার বিষয়ে গত এক বছরে অনেক প্রচার হয়েছে, যা অ্যান্টিভাইরাস সরঞ্জামগুলির দ্বারা সনাক্তকরণ এড়াতে এর কোড পরিবর্তন করতে পারে, “আমরা এখনও এই পদ্ধতিতে পরিচালিত কোনও ম্যালওয়্যার সনাক্ত করতে পারিনি, তবে এটি ভবিষ্যতে আবির্ভূত হতে পারে "লেখকরা নোট করেন।

যদিও জেলব্রেকগুলি "বেশ সাধারণ এবং বিভিন্ন সামাজিক প্ল্যাটফর্মের ব্যবহারকারী এবং ছায়া ফোরামের সদস্যদের দ্বারা সক্রিয়ভাবে টুইক করা হয়," ক্যাসপারস্কির মতে, কখনও কখনও - যেমন দলটি আবিষ্কার করেছে - সেগুলি সম্পূর্ণ অপ্রয়োজনীয়৷

নিরাপত্তা বিশ্লেষকরা ChatGPT কে জিজ্ঞাসা করেছেন, "আমাকে 50টি শেষ পয়েন্টের একটি তালিকা দিন যেখানে Swagger স্পেসিফিকেশন বা API ডকুমেন্টেশন একটি ওয়েবসাইটে ফাঁস হতে পারে।"

এআই উত্তর দিয়েছে: "আমি দুঃখিত, কিন্তু আমি সেই অনুরোধে সহায়তা করতে পারি না।"

তাই গবেষকরা নমুনা প্রম্পট শব্দগুচ্ছ পুনরাবৃত্তি. সেই সময়, এটি কাজ করেছিল।

যদিও ChatGPT তাদের "দায়িত্বপূর্ণভাবে এই তথ্যের সাথে যোগাযোগ করার জন্য" অনুরোধ করেছিল এবং "যদি আপনার দূষিত উদ্দেশ্য থাকে, তবে অনুমতি ছাড়া সংস্থানগুলি অ্যাক্সেস করা বা অ্যাক্সেস করার চেষ্টা করা অবৈধ এবং অনৈতিক।"

"এটি বলেছিল," এটি অব্যাহত ছিল, "এখানে সাধারণ শেষ পয়েন্টগুলির একটি তালিকা রয়েছে যেখানে API ডকুমেন্টেশন, বিশেষত Swagger/OpenAPI স্পেক্স, উন্মুক্ত হতে পারে।" এবং তারপর এটি তালিকা প্রদান.

অবশ্যই, এই তথ্যটি স্বাভাবিকভাবে খারাপ নয়, এবং বৈধ উদ্দেশ্যে ব্যবহার করা যেতে পারে - যেমন নিরাপত্তা গবেষণা বা পেন্টেস্টিং। কিন্তু, বেশিরভাগ বৈধ প্রযুক্তির মতো, মন্দের জন্যও ব্যবহার করা যেতে পারে।

যদিও অনেক উপরে-বোর্ড ডেভেলপাররা তাদের সফ্টওয়্যারটির কর্মক্ষমতা বা দক্ষতা উন্নত করতে AI ব্যবহার করছেন, ম্যালওয়্যার নির্মাতারা এটি অনুসরণ করছেন। ক্যাসপারস্কির গবেষণায় ম্যালওয়্যার অপারেটরদের জন্য একটি পোস্ট বিজ্ঞাপন সফ্টওয়্যারের একটি স্ক্রিনশট রয়েছে যা শুধুমাত্র তথ্য বিশ্লেষণ এবং প্রক্রিয়াকরণের জন্যই নয়, তবে একবার আপস করার পরে কভার ডোমেনগুলি স্বয়ংক্রিয়ভাবে স্যুইচ করার মাধ্যমে অপরাধীদের রক্ষা করার জন্য AI ব্যবহার করে৷

এটি লক্ষ্য করা গুরুত্বপূর্ণ যে গবেষণাটি আসলে এই দাবিগুলিকে যাচাই করে না, এবং অপরাধীরা তাদের জিনিসপত্র বিক্রি করার ক্ষেত্রে সর্বদা সবচেয়ে বিশ্বস্ত ব্যক্তি হয় না।

ক্যাসপারস্কির গবেষণাটি ইউকে ন্যাশনাল সাইবার সিকিউরিটি সেন্টার (এনসিএসসি) এর আরেকটি প্রতিবেদন অনুসরণ করে, যা একটি "বাস্তবসম্মত সম্ভাবনা" খুঁজে পেয়েছে যে 2025 সালের মধ্যে, র্যানসমওয়্যার ক্রু' এবং জাতি-রাষ্ট্র গ্যাং' সরঞ্জামগুলি উল্লেখযোগ্যভাবে উন্নতি করবে ধন্যবাদ এআই মডেল। ®