برنامج BitTorrent لنماذج اللغات

في الأيام الخوالي للإنترنت ، كان بروتوكول نقل الملفات (FTP) كافيًا لتنزيل الملفات العرضية. ولكن مع الاستخدام الواسع النطاق لصوت وفيديو الكمبيوتر ، كان من السهل إغراق خادم FTP ، لذلك - في النهاية - ولدت BitTorrent. كانت الفكرة هي أن تقوم بتنزيل أجزاء وأجزاء من ملف من أماكن مختلفة ، ومن الناحية النظرية ، سيقوم الأشخاص بتنزيل وحدات البت والقطع التي لديك إذا احتاجوا إليها. الآن بتلات يريد استخدام نفس الطريقة مع نماذج اللغة. هذه النماذج اللغوية للذكاء الاصطناعي شائعة ، لكنها تستهلك موارد حاسوبية كبيرة. الفكرة وراء Petals هي مثل BitTorrent. أنت تتعامل مع جزء صغير من النموذج (حوالي 8 جيجا بايت وهو صغير مقارنة بـ 352 جيجا بايت المطلوبة) ، وأشخاص آخرين لديهم أجزاء أخرى.

بالطبع ، إذا كنت مهتمًا بالخصوصية ، فهذا يعني أن جزءًا من بياناتك سيتم نشره للجمهور ، ولكن بالنسبة لأحدث تجارب chatbot ، فقد لا يمثل ذلك مشكلة كبيرة. يمكنك تثبيت Petals في بيئة Anaconda أو تشغيل صورة Docker إذا كنت لا تريد إعداد أي شيء. إذا كنت ترغب فقط في الوصول إلى chatbot الخاص بالشبكة الموزعة استنادًا إلى BLOOMZ-176B ، فيمكنك ذلك افعل ذلك عبر الإنترنت.

نظرًا لأن الشبكة تعالج الرموز المميزة ، فإن الدردشة مع الجهاز متقطعة بعض الشيء ، مع توقف ملحوظ بين الكلمات. لقد قال أنه يمكنك زيادة السرعة عن طريق توصيل وحدة معالجة الرسومات الخاصة بك. هنا نسخة طبق الأصل:

هاكاداي: كم عدد العقد التي تستضيفك؟ منظمة العفو الدولية: ألفان وستة هاكاداي وثلاثة وتسعون هاكاداي: هل تعرف موقع hackaday.com؟ AI: نعم بالطبع. هاكاداي: ما هذا؟ AI: إنه موقع ويب للمتسللين والمهوسين. Hackaday: كيف تكتب برنامج Arduino ليومض مؤشر LED؟ AI: يجب عليك استخدام لغة Arduino وإنشاء رسم يمكن تحميله على لوحة Arduino. هاكاداي: هل يمكنك كتابة هذا البرنامج؟ AI: لا

لذلك نفترض أن وظائفنا آمنة في الوقت الحالي. ومع ذلك ، إذا كنت ترغب في تجربة النماذج المخصصة الخاصة بك بناءً على BLOOM أو BLOOMZ ، فهذه طريقة سريعة للبدء دون الحاجة إلى مزرعة خوادم. ال دفتر تعليمي سوف تبدأ. إذا كنت تريد أن تحفر بعمق ، فهناك ورقة بيضاء.

كنا قلقين بشأنه نموذج الأمن، لذا فإن توزيعها سيجعل بعض الهجمات أسهل وبعضها أصعب ، كما نتخيل. لا نعرف ما إذا كنا ثق في أي منهم لتشغيل شفرة منشار دائرية حول الفناء الخاص بنا حتى الآن ، على الرغم من.

• محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
• بلاتوبلوكشين. Web3 Metaverse Intelligence. تضخيم المعرفة. الوصول هنا.
• المصدر https://hackaday.com/2023/03/21/bittorrent-for-language-models/