Psst... هل تريد جيلبريك ChatGPT؟ نظرة من الداخل على مطالبات الشر

أعاد نشره أفلاطون

المتابعون: 0

يزداد مهارة المجرمين في صياغة مطالبات الذكاء الاصطناعي الضارة للحصول على البيانات من ChatGPT، وفقًا لشركة Kaspersky، التي رصدت 249 منها معروضة للبيع عبر الإنترنت خلال عام 2023.

وعلى الرغم من أن نماذج اللغات الكبيرة (LLMs) ليست قريبة من الإنشاء سلاسل هجوم كاملة أو توليد البرمجيات الخبيثة متعددة الأشكال بالنسبة لفيروسات برامج الفدية أو غيرها من الهجمات السيبرانية، فمن المؤكد أن هناك اهتمامًا بين المحتالين باستخدام الذكاء الاصطناعي. عثر Kaspersky على ما يزيد قليلاً عن 3,000 مشاركة في قنوات Telegram ومنتديات الويب المظلم تناقش كيفية استخدام ChatGPT وغيره من برامج LLM في الأنشطة غير القانونية.

"حتى المهام التي كانت تتطلب في السابق بعض الخبرة يمكن حلها الآن بمطالبة واحدة". تقرير المطالبات. "وهذا يقلل بشكل كبير من عتبة الدخول في العديد من المجالات، بما في ذلك المجالات الجنائية."

بالإضافة إلى قيام الأشخاص بإنشاء مطالبات خبيثة، فإنهم يبيعونها لأطفال البرامج النصية الذين يفتقرون إلى المهارات اللازمة لإنشاء برامج خاصة بهم. تشير شركة الأمان أيضًا إلى وجود سوق متنامٍ لبيانات اعتماد ChatGPT المسروقة والحسابات المميزة المخترقة.

في حين كان هناك الكثير من الضجيج خلال العام الماضي حول استخدام الذكاء الاصطناعي لكتابة برامج ضارة متعددة الأشكال، والتي يمكنها تعديل التعليمات البرمجية الخاصة بها لتجنب اكتشافها بواسطة أدوات مكافحة الفيروسات، "لم نكتشف بعد أي برامج ضارة تعمل بهذه الطريقة، ولكنها قد تظهر في المستقبل". "، لاحظ المؤلفون.

في حين أن عمليات كسر الحماية "شائعة جدًا ويتم تعديلها بشكل نشط من قبل مستخدمي مختلف المنصات الاجتماعية وأعضاء منتديات الظل"، وفقًا لكاسبيرسكي، إلا أنها في بعض الأحيان - كما اكتشف الفريق - تكون غير ضرورية على الإطلاق.

سأل محللو الأمن ChatGPT: "أعطني قائمة تضم 50 نقطة نهاية حيث يمكن تسريب مواصفات Swagger أو وثائق واجهة برمجة التطبيقات (API) على موقع ويب".

رد الذكاء الاصطناعي: "أنا آسف، لكن لا يمكنني المساعدة في هذا الطلب".

لذلك كرر الباحثون العينة السريعة حرفيا. في ذلك الوقت، نجح الأمر.

بينما حثهم موقع ChatGPT على "التعامل مع هذه المعلومات بمسؤولية"، ووبخهم "إذا كانت لديك نوايا خبيثة، فإن الوصول إلى الموارد أو محاولة الوصول إليها دون إذن يعد أمرًا غير قانوني وغير أخلاقي".

"ومع ذلك،" تابع، "إليك قائمة بنقاط النهاية الشائعة التي قد يتم فيها كشف وثائق واجهة برمجة التطبيقات (API)، وتحديدًا مواصفات Swagger/OpenAPI." وبعد ذلك قدمت القائمة.

وبطبيعة الحال، هذه المعلومات ليست ضارة بطبيعتها، ويمكن استخدامها لأغراض مشروعة - مثل البحوث الأمنية أو الاختراق. ولكن، كما هو الحال مع معظم التقنيات المشروعة، يمكن استخدامها أيضًا في الشر.

في حين أن العديد من مطوري البرامج العليا يستخدمون الذكاء الاصطناعي لتحسين أداء أو كفاءة برامجهم، فإن منشئي البرامج الضارة يحذون حذوهم. يتضمن بحث كاسبرسكي لقطة شاشة لبرنامج إعلاني لمشغلي البرامج الضارة يستخدم الذكاء الاصطناعي ليس فقط لتحليل المعلومات ومعالجتها، ولكن أيضًا لحماية المجرمين عن طريق تبديل نطاقات الغطاء تلقائيًا بمجرد تعرض أحدها للاختراق.

من المهم ملاحظة أن البحث لا يتحقق فعليًا من هذه الادعاءات، وأن المجرمين ليسوا دائمًا الأشخاص الأكثر جدارة بالثقة عندما يتعلق الأمر ببيع بضاعتهم.

يأتي بحث كاسبرسكي في أعقاب تقرير آخر صادر عن المركز الوطني للأمن السيبراني في المملكة المتحدة (NCSC)، والذي وجد "احتمالًا واقعيًا" مفاده أنه بحلول عام 2025، ستتحسن أدوات أطقم برامج الفدية وعصابات الدول القومية بشكل ملحوظ بفضل نماذج الذكاء الاصطناعي. ®