معرفی OpenLLM: کتابخانه منبع باز برای LLM - KDnuggets

تصویر توسط نویسنده
 

در این مرحله، همه ما به یک چیز فکر می کنیم. آیا واقعاً دنیای LLM در دست گرفتن است؟ ممکن است برخی از شما انتظار داشته باشید که هیاهو افزایش یابد، اما همچنان در حال افزایش است. منابع بیشتری برای LLM مصرف می شود زیرا تقاضای زیادی را نشان داده است.

نه تنها عملکرد LLMها موفقیت آمیز بوده است، بلکه تطبیق پذیری آنها با وظایف مختلف NLP مانند ترجمه و تجزیه و تحلیل احساسات نیز بسیار خوب بوده است. تنظیم دقیق LLM های از پیش آموزش دیده کار را برای کارهای خاص بسیار آسان کرده است و ساخت یک مدل از ابتدا از نظر محاسباتی هزینه کمتری دارد. LLM ها به سرعت در برنامه های مختلف دنیای واقعی پیاده سازی شده اند و میزان تحقیق و توسعه را افزایش می دهند. 

مدل‌های منبع باز نیز امتیاز بزرگی برای LLM بوده‌اند، زیرا در دسترس بودن مدل‌های منبع باز به محققان و سازمان‌ها این امکان را می‌دهد تا مدل‌های موجود را به طور مداوم بهبود بخشند، و چگونه می‌توانند به طور ایمن در جامعه ادغام شوند. 

OpenLLM یک پلت فرم باز برای عملیات LLM در تولید است. با استفاده از OpenLLM، می‌توانید استنتاج را روی هر LLM منبع باز اجرا کنید، آن‌ها را به‌خوبی تنظیم کنید، آن‌ها را مستقر کنید و به راحتی برنامه‌های هوش مصنوعی قدرتمند بسازید.

OpenLLM شامل LLM های پیشرفته مانند StableLM، Dolly، ChatGLM، StarCoder و موارد دیگر است که همگی با پشتیبانی داخلی پشتیبانی می شوند. شما همچنین این آزادی را دارید که اپلیکیشن هوش مصنوعی خود را بسازید، زیرا OpenLLM فقط یک محصول مستقل نیست و از LangChain، BentoML و Hugging Face پشتیبانی می کند. 

همه این ویژگی ها، و منبع باز است؟ کمی دیوانه به نظر می رسد درست است؟

و علاوه بر آن، نصب و استفاده از آن آسان است.

چگونه از OpenLLM استفاده کنیم؟

برای استفاده از LLM، باید حداقل پایتون 3.8 و همچنین پیپ را روی سیستم خود نصب کنید. برای جلوگیری از تداخل بسته ها، توصیه می شود از محیط مجازی استفاده کنید. 

1. هنگامی که این موارد را آماده کردید، می توانید به راحتی OpenLLM را با استفاده از دستور زیر نصب کنید:

pip install open-llm

1. برای اطمینان از نصب صحیح آن می توانید دستور زیر را اجرا کنید:

$ openllm -h Usage: openllm [OPTIONS] COMMAND [ARGS]... ██████╗ ██████╗ ███████╗███╗ ██╗██╗ ██╗ ███╗ ███╗ ██╔═══██╗██╔══██╗██╔════╝████╗ ██║██║ ██║ ████╗ ████║ ██║ ██║██████╔╝█████╗ ██╔██╗ ██║██║ ██║ ██╔████╔██║ ██║ ██║██╔═══╝ ██╔══╝ ██║╚██╗██║██║ ██║ ██║╚██╔╝██║ ╚██████╔╝██║ ███████╗██║ ╚████║███████╗███████╗██║ ╚═╝ ██║ ╚═════╝ ╚═╝ ╚══════╝╚═╝ ╚═══╝╚══════╝╚══════╝╚═╝ ╚═╝ An open platform for operating large language models in production. Fine-tune, serve, deploy, and monitor any LLMs with ease.

1. برای راه اندازی یک سرور LLM، از دستور زیر شامل مدل انتخابی خود استفاده کنید:

openllm start

به عنوان مثال، اگر می خواهید شروع کنید انتخاب کردن سرور، موارد زیر را انجام دهید:

openllm start opt

مدل های پشتیبانی شده

10 مدل در OpenLLM پشتیبانی می شود. همچنین می توانید دستورات نصب را در زیر بیابید:

1. chatglm

pip install "openllm[chatglm]"

این مدل به GPU نیاز دارد.

1. Dolly-v2

pip install openllm

این مدل هم روی CPU و هم GPU قابل استفاده است. 

1. شاهین

pip install "openllm[falcon]"

این مدل به GPU نیاز دارد.

1. flan-t5

pip install "openllm[flan-t5]"

این مدل هم روی CPU و هم GPU قابل استفاده است. 

1. gpt-neox

pip install openllm

این مدل به GPU نیاز دارد.

1. mpt

pip install "openllm[mpt]"

این مدل هم روی CPU و هم GPU قابل استفاده است. 

1. انتخاب کردن

pip install "openllm[opt]"

این مدل هم روی CPU و هم GPU قابل استفاده است. 

1. استبلم

pip install openllm

این مدل هم روی CPU و هم GPU قابل استفاده است. 

1. استارکدر

pip install "openllm[starcoder]"

این مدل به GPU نیاز دارد.

1. بایچوان

pip install "openllm[baichuan]"

این مدل به GPU نیاز دارد.

برای کسب اطلاعات بیشتر در مورد پیاده سازی زمان اجرا، پشتیبانی تنظیم دقیق، ادغام یک مدل جدید و استقرار در تولید - لطفا نگاهی بیندازید اینجا کلیک نمایید در موردی که نیازهای شما را برآورده می کند. 

اگر به دنبال استفاده از OpenLLM هستید یا به کمک نیاز دارید، می توانید تماس بگیرید و به آنها بپیوندید اختلاف و جامعه سست. شما همچنین می توانید با استفاده از آنها به پایگاه کد OpenLLM کمک کنید راهنمای توسعه دهنده.

کسی تا حالا امتحانش کرده؟ اگر دارید، نظر خود را در نظرات با ما در میان بگذارید!
 
 
نیشا آریا دانشمند داده، نویسنده فنی آزاد و مدیر انجمن در KDnuggets است. او به ویژه علاقه مند به ارائه مشاوره شغلی یا آموزش های علم داده و دانش مبتنی بر نظریه در مورد علم داده است. او همچنین مایل است راه‌های مختلفی را که هوش مصنوعی می‌تواند به طول عمر انسان کمک کند، کشف کند. یک یادگیرنده مشتاق که به دنبال گسترش دانش فنی و مهارت های نوشتاری خود است و در عین حال به راهنمایی دیگران کمک می کند.
 

• محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
• PlatoData.Network Vertical Generative Ai. به خودت قدرت بده دسترسی به اینجا.
• PlatoAiStream. هوش وب 3 دانش تقویت شده دسترسی به اینجا.
• PlatoESG. خودرو / خودروهای الکتریکی، کربن ، CleanTech، انرژی، محیط، خورشیدی، مدیریت پسماند دسترسی به اینجا.
• BlockOffsets. نوسازی مالکیت افست زیست محیطی. دسترسی به اینجا.
• منبع: https://www.kdnuggets.com/2023/07/introducing-openllm-open-source-library-llms.html?utm_source=rss&utm_medium=rss&utm_campaign=introducing-openllm-open-source-library-for-llms