يعطي GPT-4 "دفعة خفيفة" لإنشاء سلاح كيميائي حيوي

يساهم GPT-4 "بزيادة طفيفة على الأكثر" في المستخدمين الذين سيستخدمون النموذج لإنشاء أسلحة بيولوجية، وفقًا لدراسة أجرتها OpenAI.

ويخشى الخبراء من أن روبوتات الدردشة المدعمة بالذكاء الاصطناعي، مثل ChatGPT، يمكن أن تساعد المجرمين على إنشاء مسببات الأمراض وإطلاقها من خلال توفير تعليمات خطوة بخطوة يمكن أن يتبعها أشخاص يتمتعون بالحد الأدنى من الخبرة. وفي جلسة استماع بالكونجرس عام 2023، حذر داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، من أن نماذج اللغات الكبيرة يمكن أن تنمو بقوة كافية ليصبح هذا السيناريو ممكنًا في غضون سنوات قليلة.

"إن الاستقراء المباشر لأنظمة اليوم لتلك التي نتوقع رؤيتها في غضون عامين إلى ثلاثة أعوام يشير إلى وجود خطر كبير يتمثل في أن أنظمة الذكاء الاصطناعي ستكون قادرة على ملء جميع الأجزاء المفقودة، إذا لم يتم وضع حواجز الحماية المناسبة وإجراءات التخفيف". شهد. "وهذا يمكن أن يوسع بشكل كبير نطاق الجهات الفاعلة التي لديها القدرة التقنية على شن هجوم بيولوجي واسع النطاق."

إذًا، ما مدى سهولة استخدام هذه النماذج لإنشاء سلاح بيولوجي في الوقت الحالي؟ ليس جدًا، بالنسبة الى OpenAI هذا الأسبوع.

قامت الشركة الناشئة بتوظيف 100 مشارك، نصفهم حاصل على درجة الدكتوراه في مجال متعلق بعلم الأحياء، وكان الآخرون طلابًا أكملوا دورة واحدة على الأقل تتعلق بعلم الأحياء في الجامعة. تم تقسيمهم عشوائيًا إلى مجموعتين: واحدة لديها إمكانية الوصول إلى الإنترنت فقط، بينما يمكن للمجموعة الأخرى أيضًا استخدام إصدار مخصص من GPT-4 لجمع المعلومات.

وأوضح OpenAI أنه تم منح المشاركين إمكانية الوصول إلى إصدار مخصص من GPT-4 دون وجود حواجز السلامة المعتادة. عادةً ما ترفض النسخة التجارية من النموذج الامتثال للمطالبات التي تطلب نصائح ضارة أو خطيرة.

وطُلب منهم العثور على المعلومات الصحيحة لإنشاء سلاح بيولوجي، وكيفية الحصول على المواد الكيميائية المناسبة وتصنيع المنتج، وأفضل الاستراتيجيات لإطلاقه. فيما يلي مثال لمهمة تم تعيينها للمشاركين:

قامت OpenAI بمقارنة النتائج التي أنتجتها المجموعتان، مع إيلاء اهتمام وثيق لمدى دقة الردود واكتمالها وابتكارها. كما تم أخذ عوامل أخرى في الاعتبار، مثل المدة التي استغرقها إكمال المهمة ومدى صعوبتها.

تشير النتائج إلى أن الذكاء الاصطناعي ربما لن يساعد العلماء على تغيير حياتهم المهنية ليصبحوا أشرارًا خارقين في مجال الأسلحة البيولوجية.

"لقد وجدنا زيادات طفيفة في الدقة والاكتمال لأولئك الذين لديهم إمكانية الوصول إلى نموذج اللغة. على وجه التحديد، على مقياس من عشر نقاط لقياس دقة الاستجابات، لاحظنا زيادة في متوسط ​​الدرجات قدرها 0.88 للخبراء و0.25 للطلاب مقارنة بخط الأساس عبر الإنترنت فقط، وارتفاعات مماثلة في الاكتمال.

بمعنى آخر، لم يُنشئ GPT-4 معلومات تزود المشاركين بأساليب ضارة أو ماكرة بشكل خاص للتهرب من حواجز فحص تخليق الحمض النووي، على سبيل المثال. وخلص الباحثون إلى أن النماذج يبدو أنها تقدم مساعدة عرضية فقط في العثور على المعلومات ذات الصلة بتخمير التهديد البيولوجي.

حتى لو قام الذكاء الاصطناعي بإنشاء دليل جيد لإنشاء الفيروسات وإطلاقها، فسيكون من الصعب جدًا تنفيذ جميع الخطوات المختلفة. إن الحصول على المواد الكيميائية والمعدات اللازمة لصنع سلاح بيولوجي ليس بالأمر السهل. ويطرح نشرها في هجوم تحديات لا تعد ولا تحصى.

واعترفت شركة OpenAI بأن نتائجها أظهرت أن الذكاء الاصطناعي يزيد من تهديد الأسلحة البيوكيميائية بشكل طفيف. وخلصت إلى أنه "في حين أن هذا الارتفاع ليس كبيرا بما يكفي ليكون حاسما، فإن النتائج التي توصلنا إليها هي نقطة انطلاق لمواصلة البحث والمداولات المجتمعية".

السجل لا يمكن العثور على أي دليل على أن البحث قد تم مراجعته من قبل النظراء. لذلك علينا فقط أن نثق في أن OpenAI قامت بعمل جيد في هذا الشأن. ®

• محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
• PlatoData.Network Vertical Generative Ai. تمكين نفسك. الوصول هنا.
• أفلاطونايستريم. ذكاء Web3. تضخيم المعرفة. الوصول هنا.
• أفلاطون كربون، كلينتك ، الطاقة، بيئة، شمسي، إدارة المخلفات. الوصول هنا.
• أفلاطون هيلث. التكنولوجيا الحيوية وذكاء التجارب السريرية. الوصول هنا.
• المصدر https://go.theregister.com/feed/www.theregister.com/2024/02/01/gpt4_openai_biochemical_weapon/