भाषा मॉडल के लिए बिटटोरेंट

इंटरनेट के पुराने दिनों में, कभी-कभी फ़ाइल डाउनलोड करने के लिए एफ़टीपी पर्याप्त था। लेकिन कंप्यूटर ऑडियो और वीडियो के व्यापक उपयोग के साथ, एफ़टीपी सर्वर को स्वैप करना आसान था, इसलिए अंततः बिटटोरेंट का जन्म हुआ। विचार यह था कि आप अलग-अलग जगहों से फ़ाइल के छोटे-छोटे टुकड़े डाउनलोड करेंगे और, सिद्धांत रूप में, लोग आपके पास मौजूद बिट्स और टुकड़ों को डाउनलोड करेंगे यदि उन्हें उनकी आवश्यकता होगी। अब पंखुड़ी भाषा मॉडल के साथ इसी विधि का उपयोग करना चाहता है। ये एआई भाषा मॉडल सभी गुस्से में हैं, लेकिन वे महत्वपूर्ण कंप्यूटर संसाधन लेते हैं। पेटल्स के पीछे का विचार बिटटोरेंट जैसा है। आप मॉडल के एक छोटे से हिस्से को संभालते हैं (लगभग 8 गीगाबाइट जो आवश्यक 352 गीगाबाइट की तुलना में छोटा है), और अन्य लोगों के पास अन्य हिस्से होते हैं।

बेशक, अगर आप निजता के प्रति जागरूक हैं, तो इसका मतलब है कि आपके डेटा की कुछ मात्रा सार्वजनिक हो रही है, लेकिन आपके नवीनतम चैटबॉट प्रयोगों के लिए, यह एक बड़ी समस्या नहीं हो सकती है। यदि आप कुछ भी सेट अप नहीं करना चाहते हैं तो आप एक एनाकोंडा वातावरण में पंखुड़ी स्थापित कर सकते हैं या डॉकर छवि चला सकते हैं। यदि आप केवल BLOOMZ-176B पर आधारित वितरित नेटवर्क के चैटबॉट तक पहुँचना चाहते हैं, तो आप कर सकते हैं वह ऑनलाइन करो.

चूंकि नेटवर्क टोकन को संसाधित करता है, शब्दों के बीच ध्यान देने योग्य ठहराव के साथ, डिवाइस के साथ चैट थोड़ी झटकेदार होती है। इसने कहा कि आप अपने जीपीयू को जोड़कर गति बढ़ा सकते हैं। यहाँ एक प्रतिलेख है:

हैकाडे: कितने नोड्स आपकी मेजबानी करते हैं? ऐ: दो हज़ार छह सौ और तिरानवे हैकाडे: क्या आप hackaday.com के बारे में जानते हैं? एआई: हाँ, बिल्कुल। हैकडे: यह क्या है? एआई: यह हैकर्स और गीक्स के लिए एक वेबसाइट है। हैकाडे: एलईडी को ब्लिंक करने के लिए आप Arduino प्रोग्राम कैसे लिखेंगे? ऐ: आपको Arduino भाषा का उपयोग करना होगा और एक स्केच बनाना होगा जो Arduino बोर्ड पर लोड हो सके। हैकाडे: क्या आप वह प्रोग्राम लिख सकते हैं? ऐ: नहीं

इसलिए हमें लगता है कि हमारी नौकरियां अभी के लिए सुरक्षित हैं। फिर भी, यदि आप BLOOM या BLOOMZ पर आधारित अपने स्वयं के कस्टम मॉडल के साथ प्रयोग करना चाहते हैं, तो सर्वर फ़ार्म की आवश्यकता के बिना प्रारंभ करने का यह एक त्वरित तरीका है। ट्यूटोरियल नोटबुक आपको आरंभ कर देगा। यदि आप गहरी खुदाई करना चाहते हैं, तो है एक श्वेतपत्र.

हमें चिंता हो गई है मॉडल सुरक्षा, इसलिए इसे वितरित करने से कुछ हमले आसान और कुछ कठिन हो जाएंगे, हम कल्पना करते हैं। हम नहीं जानते अगर हम उनमें से किसी पर एक गोलाकार आरा ब्लेड चलाने के लिए भरोसा करें हालांकि, अभी तक हमारे यार्ड के आसपास।

• एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
• प्लेटोब्लॉकचैन। Web3 मेटावर्स इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
• स्रोत: https://hackaday.com/2023/03/21/bittorrent-for-language-models/