ओपनएलएलएम का परिचय: एलएलएम के लिए ओपन सोर्स लाइब्रेरी - केडीनगेट्स

लेखक द्वारा छवि
 

इस समय, हम सभी एक ही बात सोच रहे हैं। क्या एलएलएम की दुनिया सचमुच हावी हो रही है? आपमें से कुछ लोगों ने उम्मीद की होगी कि प्रचार कम हो जाएगा, लेकिन यह अभी भी लगातार बढ़ रहा है। अधिक संसाधन एलएलएम में जा रहे हैं क्योंकि इसकी भारी मांग देखी गई है।

न केवल एलएलएम का प्रदर्शन सफल रहा है, बल्कि अनुवाद और भावना विश्लेषण जैसे विभिन्न एनएलपी कार्यों को अनुकूलित करने में उनकी बहुमुखी प्रतिभा भी सफल रही है। पूर्व-प्रशिक्षित एलएलएम को फाइन-ट्यूनिंग ने विशिष्ट कार्यों को बहुत आसान बना दिया है, जिससे स्क्रैच से मॉडल बनाना कम्प्यूटेशनल रूप से कम महंगा हो गया है। एलएलएम को विभिन्न वास्तविक दुनिया के अनुप्रयोगों में तेजी से लागू किया गया है, जिससे अनुसंधान और विकास की मात्रा में वृद्धि हुई है। 

ओपन-सोर्स मॉडल भी एलएलएम के साथ एक बड़ा लाभ रहे हैं, क्योंकि ओपन-सोर्स मॉडल की उपलब्धता ने शोधकर्ताओं और संगठनों को मौजूदा मॉडलों में लगातार सुधार करने की अनुमति दी है, और उन्हें समाज में सुरक्षित रूप से कैसे एकीकृत किया जा सकता है। 

ओपनएलएलएम उत्पादन में एलएलएम संचालित करने के लिए एक खुला मंच है। ओपनएलएलएम का उपयोग करके, आप किसी भी ओपन-सोर्स एलएलएम पर अनुमान चला सकते हैं, उन्हें फाइन-ट्यून कर सकते हैं, तैनात कर सकते हैं और आसानी से शक्तिशाली एआई ऐप्स बना सकते हैं।

ओपनएलएलएम में अत्याधुनिक एलएलएम शामिल हैं, जैसे स्टेबलएलएम, डॉली, चैटजीएलएम, स्टारकोडर और बहुत कुछ, जो सभी अंतर्निहित समर्थन द्वारा समर्थित हैं। आपको अपना स्वयं का एआई एप्लिकेशन बनाने की भी स्वतंत्रता है, क्योंकि ओपनएलएलएम केवल एक स्टैंडअलोन उत्पाद नहीं है और लैंगचेन, बेंटोएमएल और हगिंग फेस का समर्थन करता है। 

ये सभी सुविधाएं, और यह ओपन-सोर्स है? थोड़ा पागलपन जैसा लगता है ना?

और सबसे बढ़कर, इसे स्थापित करना और उपयोग करना आसान है।

ओपनएलएलएम का उपयोग कैसे करें?

एलएलएम का उपयोग करने के लिए, आपको अपने सिस्टम पर कम से कम पायथन 3.8, साथ ही पाइप स्थापित करना होगा। पैकेज विवादों को रोकने के लिए, यह अनुशंसा की जाती है कि आप वर्चुअल वातावरण का उपयोग करें। 

1. एक बार जब आपके पास ये तैयार हो जाएं, तो आप निम्नलिखित कमांड का उपयोग करके आसानी से ओपनएलएलएम इंस्टॉल कर सकते हैं:

pip install open-llm

1. यह सुनिश्चित करने के लिए कि यह सही ढंग से स्थापित किया गया है, आप निम्न आदेश चला सकते हैं:

$ openllm -h Usage: openllm [OPTIONS] COMMAND [ARGS]... ██████╗ ██████╗ ███████╗███╗ ██╗██╗ ██╗ ███╗ ███╗ ██╔═══██╗██╔══██╗██╔════╝████╗ ██║██║ ██║ ████╗ ████║ ██║ ██║██████╔╝█████╗ ██╔██╗ ██║██║ ██║ ██╔████╔██║ ██║ ██║██╔═══╝ ██╔══╝ ██║╚██╗██║██║ ██║ ██║╚██╔╝██║ ╚██████╔╝██║ ███████╗██║ ╚████║███████╗███████╗██║ ╚═╝ ██║ ╚═════╝ ╚═╝ ╚══════╝╚═╝ ╚═══╝╚══════╝╚══════╝╚═╝ ╚═╝ An open platform for operating large language models in production. Fine-tune, serve, deploy, and monitor any LLMs with ease.

1. एलएलएम सर्वर शुरू करने के लिए, अपनी पसंद के मॉडल सहित निम्नलिखित कमांड का उपयोग करें:

openllm start

उदाहरण के लिए, यदि आप शुरू करना चाहते हैं ऑप्ट सर्वर, निम्न कार्य करें:

openllm start opt

समर्थित मॉडल

OpenLLM में 10 मॉडल समर्थित हैं। आप नीचे इंस्टॉलेशन कमांड भी पा सकते हैं:

1. चैटग्लम

pip install "openllm[chatglm]"

इस मॉडल के लिए GPU की आवश्यकता है.

1. डॉली-वि.2

pip install openllm

इस मॉडल का उपयोग सीपीयू और जीपीयू दोनों पर किया जा सकता है। 

1. बाज़

pip install "openllm[falcon]"

इस मॉडल के लिए GPU की आवश्यकता है.

1. फ़्लान-t5

pip install "openllm[flan-t5]"

इस मॉडल का उपयोग सीपीयू और जीपीयू दोनों पर किया जा सकता है। 

1. gpt-neox

pip install openllm

इस मॉडल के लिए GPU की आवश्यकता है.

1. एमपीटी

pip install "openllm[mpt]"

इस मॉडल का उपयोग सीपीयू और जीपीयू दोनों पर किया जा सकता है। 

1. चुनना

pip install "openllm[opt]"

इस मॉडल का उपयोग सीपीयू और जीपीयू दोनों पर किया जा सकता है। 

1. स्थिर एलएम

pip install openllm

इस मॉडल का उपयोग सीपीयू और जीपीयू दोनों पर किया जा सकता है। 

1. स्टारकोडर

pip install "openllm[starcoder]"

इस मॉडल के लिए GPU की आवश्यकता है.

1. बाइचुआन

pip install "openllm[baichuan]"

इस मॉडल के लिए GPU की आवश्यकता है.

रनटाइम कार्यान्वयन, फ़ाइन-ट्यूनिंग समर्थन, एक नए मॉडल को एकीकृत करने और उत्पादन में तैनात करने के बारे में अधिक जानकारी प्राप्त करने के लिए - कृपया एक नज़र डालें यहाँ उत्पन्न करें उस पर जो आपकी आवश्यकताओं को पूरा करता है। 

यदि आप ओपनएलएलएम का उपयोग करना चाहते हैं या आपको कुछ सहायता की आवश्यकता है, तो आप उनसे संपर्क कर सकते हैं और उनसे जुड़ सकते हैं कलह और सुस्त समुदाय. आप उनका उपयोग करके ओपनएलएलएम के कोडबेस में भी योगदान कर सकते हैं डेवलपर गाइड.

क्या किसी ने अभी तक इसे आज़माया है? यदि आपके पास है, तो हमें बताएं कि आप टिप्पणियों में क्या सोचते हैं!
 
 
निशा आर्य KDnuggets में एक डेटा वैज्ञानिक, स्वतंत्र तकनीकी लेखक और सामुदायिक प्रबंधक हैं। वह विशेष रूप से डेटा साइंस करियर सलाह या ट्यूटोरियल और डेटा साइंस के आसपास सिद्धांत आधारित ज्ञान प्रदान करने में रुचि रखती है। वह उन विभिन्न तरीकों का पता लगाना चाहती हैं जिनसे आर्टिफिशियल इंटेलिजेंस मानव जीवन की दीर्घायु को लाभ पहुंचा सकता है। एक उत्सुक शिक्षार्थी, दूसरों का मार्गदर्शन करने में मदद करते हुए, अपने तकनीकी ज्ञान और लेखन कौशल को व्यापक बनाना चाहती है।
 

• एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
• प्लेटोडेटा.नेटवर्क वर्टिकल जेनरेटिव एआई। स्वयं को शक्तिवान बनाएं। यहां पहुंचें।
• प्लेटोआईस्ट्रीम। Web3 इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
• प्लेटोईएसजी. ऑटोमोटिव/ईवीएस, कार्बन, क्लीनटेक, ऊर्जा, पर्यावरण, सौर, कचरा प्रबंधन। यहां पहुंचें।
• BlockOffsets. पर्यावरणीय ऑफसेट स्वामित्व का आधुनिकीकरण। यहां पहुंचें।
• स्रोत: https://www.kdnuggets.com/2023/07/introducing-openllm-open-source-library-llms.html?utm_source=rss&utm_medium=rss&utm_campaign=introducing-openllm-open-source-library-for-llms