প্রান্তে ভিত্তিগত মডেল – আইবিএম ব্লগ

ভিত্তি মডেল (FMs) মধ্যে একটি নতুন যুগের সূচনা চিহ্নিত করা হয় মেশিন লার্নিং (এমএল) এবং কৃত্রিম বুদ্ধিমত্তা (এআই), যা এআই-এর দ্রুত বিকাশের দিকে নিয়ে যাচ্ছে যা ডাউনস্ট্রিম কাজের একটি বিস্তৃত পরিসরে মানিয়ে নেওয়া যেতে পারে এবং অ্যাপ্লিকেশনগুলির একটি অ্যারের জন্য সূক্ষ্ম-টিউন করা যেতে পারে। 

যেখানে কাজ করা হচ্ছে সেখানে ডেটা প্রক্রিয়াকরণের ক্রমবর্ধমান গুরুত্বের সাথে, এন্টারপ্রাইজ প্রান্তে AI মডেলগুলি পরিবেশন করা ডেটা সার্বভৌমত্ব এবং গোপনীয়তার প্রয়োজনীয়তা মেনে চলার সময় কাছাকাছি-রিয়েল-টাইম ভবিষ্যদ্বাণী সক্ষম করে। একত্রিত করে আইবিএম ওয়াটসনক্স প্রান্ত কম্পিউটিং সহ এফএমগুলির জন্য ডেটা এবং এআই প্ল্যাটফর্মের ক্ষমতা, এন্টারপ্রাইজগুলি এফএম ফাইন-টিউনিং এবং অপারেশনাল প্রান্তে অনুমান করার জন্য এআই ওয়ার্কলোড চালাতে পারে। এটি এন্টারপ্রাইজগুলিকে প্রান্তে AI স্থাপনার স্কেল করতে সক্ষম করে, দ্রুত প্রতিক্রিয়ার সময়গুলির সাথে স্থাপন করার সময় এবং খরচ কমিয়ে দেয়।

অনুগ্রহ করে এজ কম্পিউটিং-এ ব্লগ পোস্টের এই সিরিজের সমস্ত কিস্তি পরীক্ষা করে দেখুন:

ভিত্তি মডেল কি?

ফাউন্ডেশনাল মডেল (FMs), যা স্কেলে লেবেলবিহীন ডেটার বিস্তৃত সেটে প্রশিক্ষিত, তারা অত্যাধুনিক কৃত্রিম বুদ্ধিমত্তা (AI) অ্যাপ্লিকেশন চালাচ্ছে। এগুলি ডাউনস্ট্রিম কাজের একটি বিস্তৃত পরিসরে অভিযোজিত হতে পারে এবং অ্যাপ্লিকেশনগুলির একটি অ্যারের জন্য সূক্ষ্ম-টিউন করা যেতে পারে। আধুনিক AI মডেলগুলি, যা একটি একক ডোমেনে নির্দিষ্ট কাজগুলি সম্পাদন করে, FM-কে পথ দিচ্ছে কারণ তারা আরও সাধারণভাবে শিখে এবং ডোমেন এবং সমস্যাগুলির মধ্যে কাজ করে। নাম অনুসারে, একটি এফএম এআই মডেলের অনেক অ্যাপ্লিকেশনের ভিত্তি হতে পারে।

এফএম দুটি মূল চ্যালেঞ্জ মোকাবেলা করে যা এন্টারপ্রাইজগুলিকে এআই গ্রহণকে স্কেল করা থেকে বিরত রেখেছে। প্রথমত, এন্টারপ্রাইজগুলি প্রচুর পরিমাণে লেবেলবিহীন ডেটা তৈরি করে, যার একটি ভগ্নাংশই এআই মডেল প্রশিক্ষণের জন্য লেবেলযুক্ত। দ্বিতীয়ত, এই লেবেলিং এবং টীকা করার কাজটি অত্যন্ত মানবিক-নিবিড়, প্রায়শই একজন বিষয় বিশেষজ্ঞের (SME) সময়ের কয়েকশ ঘন্টার প্রয়োজন হয়। এটি ব্যবহারের ক্ষেত্রে স্কেল করা ব্যয়-নিষিদ্ধ করে তোলে কারণ এর জন্য এসএমই এবং ডেটা বিশেষজ্ঞদের সেনাবাহিনীর প্রয়োজন হবে। প্রচুর পরিমাণে লেবেলবিহীন ডেটা গ্রহণ করে এবং মডেল প্রশিক্ষণের জন্য স্ব-তত্ত্বাবধানে থাকা কৌশলগুলি ব্যবহার করে, FMগুলি এই বাধাগুলি দূর করেছে এবং এন্টারপ্রাইজ জুড়ে AI-কে ব্যাপকভাবে গ্রহণের পথ খুলে দিয়েছে। প্রতিটি ব্যবসায় বিদ্যমান এই বিপুল পরিমাণ ডেটা অন্তর্দৃষ্টি চালানোর জন্য প্রকাশের অপেক্ষায় রয়েছে।

বড় ভাষা মডেল কি?

লার্জ ল্যাঙ্গুয়েজ মডেল (এলএলএম) হল ফাউন্ডেশনাল মডেলের (এফএম) একটি শ্রেণী যা স্তরগুলি নিয়ে গঠিত নিউরাল নেটওয়ার্ক এই বিপুল পরিমাণে লেবেলবিহীন ডেটাতে প্রশিক্ষণ দেওয়া হয়েছে। তারা স্ব-তত্ত্বাবধানে শেখার অ্যালগরিদম ব্যবহার করে বিভিন্ন ধরনের কাজ করতে প্রাকৃতিক ভাষা প্রক্রিয়াকরণ (এনএলপি) মানুষ যেভাবে ভাষা ব্যবহার করে তার অনুরূপভাবে কাজগুলি (চিত্র 1 দেখুন)।

AI এর প্রভাবকে স্কেল করুন এবং ত্বরান্বিত করুন

একটি ফাউন্ডেশনাল মডেল (এফএম) তৈরি এবং স্থাপন করার জন্য বেশ কয়েকটি ধাপ রয়েছে। এর মধ্যে রয়েছে ডেটা ইনজেশন, ডেটা সিলেকশন, ডেটা প্রাক-প্রসেসিং, এফএম প্রাক-প্রশিক্ষণ, এক বা একাধিক ডাউনস্ট্রিম টাস্কে মডেল টিউনিং, ইনফারেন্স সার্ভিং এবং ডেটা এবং এআই মডেল গভর্নেন্স এবং লাইফসাইকেল ম্যানেজমেন্ট—যার সবকটি হিসাবে বর্ণনা করা যেতে পারে। FMOps.

এই সমস্ত কিছুতে সাহায্য করার জন্য, IBM উদ্যোগগুলিকে এই FM-এর শক্তির ব্যবহার করার জন্য প্রয়োজনীয় সরঞ্জাম এবং ক্ষমতা প্রদান করছে আইবিএম ওয়াটসনক্স, একটি এন্টারপ্রাইজ-প্রস্তুত AI এবং ডেটা প্ল্যাটফর্ম যা একটি এন্টারপ্রাইজ জুড়ে AI-এর প্রভাবকে বহুগুণ করার জন্য ডিজাইন করা হয়েছে। আইবিএম ওয়াটসনক্স নিম্নলিখিতগুলি নিয়ে গঠিত:

1. IBM watsonx.ai নতুন নিয়ে আসে জেনারেটিভ এআই ক্ষমতাগুলি—এফএম এবং ঐতিহ্যগত মেশিন লার্নিং (এমএল)-এর দ্বারা চালিত—এআই লাইফসাইকেল বিস্তৃত একটি শক্তিশালী স্টুডিওতে৷
2. IBM watsonx.data যেকোন জায়গায় আপনার সমস্ত ডেটার জন্য AI ওয়ার্কলোড স্কেল করার জন্য একটি ওপেন লেকহাউস আর্কিটেকচারে নির্মিত একটি উপযুক্ত-উদ্দেশ্যের ডেটা স্টোর।
3. IBM watsonx.governance এটি একটি এন্ড-টু-এন্ড স্বয়ংক্রিয় এআই লাইফসাইকেল গভর্নেন্স টুলকিট যা দায়ী, স্বচ্ছ এবং ব্যাখ্যাযোগ্য এআই ওয়ার্কফ্লো সক্ষম করার জন্য তৈরি করা হয়েছে।

আরেকটি মূল ভেক্টর হল এন্টারপ্রাইজ প্রান্তে কম্পিউটিংয়ের ক্রমবর্ধমান গুরুত্ব, যেমন শিল্প অবস্থান, উৎপাদন ফ্লোর, খুচরা দোকান, টেলকো এজ সাইট ইত্যাদি। আরও বিশেষভাবে, এন্টারপ্রাইজ প্রান্তে AI ডেটা প্রক্রিয়াকরণকে সক্ষম করে যেখানে কাজ করা হচ্ছে রিয়েল-টাইম বিশ্লেষণের কাছাকাছি। এন্টারপ্রাইজ প্রান্ত হল যেখানে প্রচুর পরিমাণে এন্টারপ্রাইজ ডেটা তৈরি করা হচ্ছে এবং যেখানে AI মূল্যবান, সময়োপযোগী এবং কার্যকর ব্যবসায়িক অন্তর্দৃষ্টি প্রদান করতে পারে।

প্রান্তে AI মডেলগুলি পরিবেশন করা ডেটা সার্বভৌমত্ব এবং গোপনীয়তার প্রয়োজনীয়তা মেনে চলার সময় কাছাকাছি-রিয়েল-টাইম ভবিষ্যদ্বাণী সক্ষম করে। এটি প্রায়শই পরিদর্শন ডেটার অধিগ্রহণ, সংক্রমণ, রূপান্তর এবং প্রক্রিয়াকরণের সাথে যুক্ত বিলম্বকে উল্লেখযোগ্যভাবে হ্রাস করে। প্রান্তে কাজ করা আমাদেরকে সংবেদনশীল এন্টারপ্রাইজ ডেটা রক্ষা করতে এবং দ্রুত প্রতিক্রিয়ার সময়ের সাথে ডেটা স্থানান্তর খরচ কমাতে দেয়।

প্রান্তে এআই স্থাপনার স্কেল করা, যদিও, ডেটা (বিভিন্নতা, আয়তন এবং নিয়ন্ত্রক) এবং সীমাবদ্ধ সংস্থান (গণনা, নেটওয়ার্ক সংযোগ, স্টোরেজ এবং এমনকি আইটি দক্ষতা) সম্পর্কিত চ্যালেঞ্জগুলির মধ্যে একটি সহজ কাজ নয়। এগুলিকে বিস্তৃতভাবে দুটি বিভাগে বর্ণনা করা যেতে পারে:

• স্থাপন করার সময়/খরচ: প্রতিটি স্থাপনায় হার্ডওয়্যার এবং সফ্টওয়্যারের বিভিন্ন স্তর থাকে যা স্থাপনের আগে ইনস্টল, কনফিগার এবং পরীক্ষা করা প্রয়োজন। আজ, একজন পরিষেবা পেশাদার ইনস্টলেশনের জন্য এক বা দুই সপ্তাহ সময় নিতে পারে প্রতিটি অবস্থানে, কত দ্রুত এবং সাশ্রয়ীভাবে এন্টারপ্রাইজগুলি তাদের প্রতিষ্ঠান জুড়ে স্থাপনা বাড়াতে পারে তা গুরুতরভাবে সীমিত করে।                                  
• দিন-২ ব্যবস্থাপনা: মোতায়েন করা প্রান্তের বিশাল সংখ্যক এবং প্রতিটি স্থাপনার ভৌগলিক অবস্থান প্রায়ই এই স্থাপনাগুলি নিরীক্ষণ, রক্ষণাবেক্ষণ এবং আপডেট করার জন্য প্রতিটি অবস্থানে স্থানীয় IT সহায়তা প্রদান করা নিষিদ্ধভাবে ব্যয়বহুল করে তুলতে পারে।

এজ এআই স্থাপনা

আইবিএম একটি এজ আর্কিটেকচার তৈরি করেছে যা AI স্থাপনার জন্য একটি সমন্বিত হার্ডওয়্যার/সফ্টওয়্যার (HW/SW) অ্যাপ্লায়েন্স মডেল এনে এই চ্যালেঞ্জ মোকাবেলা করে। এটিতে বেশ কয়েকটি মূল দৃষ্টান্ত রয়েছে যা এআই স্থাপনার মাপযোগ্যতাকে সহায়তা করে:

• সম্পূর্ণ সফ্টওয়্যার স্ট্যাকের নীতি-ভিত্তিক, জিরো-টাচ বিধান।
• প্রান্ত সিস্টেম স্বাস্থ্য ক্রমাগত পর্যবেক্ষণ
• সফ্টওয়্যার/নিরাপত্তা/কনফিগারেশন আপডেটগুলিকে বহু প্রান্তের অবস্থানে পরিচালনা এবং পুশ করার ক্ষমতা—সবই দিন-2 পরিচালনার জন্য একটি কেন্দ্রীয় ক্লাউড-ভিত্তিক অবস্থান থেকে।

একটি ডিস্ট্রিবিউটেড হাব-এন্ড-স্পোক আর্কিটেকচার প্রান্তে এন্টারপ্রাইজ AI স্থাপনার স্কেল করার জন্য ব্যবহার করা যেতে পারে, যেখানে একটি কেন্দ্রীয় ক্লাউড বা এন্টারপ্রাইজ ডেটা সেন্টার একটি হাব হিসাবে কাজ করে এবং প্রান্ত-ইন-এ-বক্স অ্যাপ্লায়েন্স একটি প্রান্তের অবস্থানে একটি স্পোক হিসাবে কাজ করে।. এই হাব এবং স্পোক মডেল, হাইব্রিড ক্লাউড এবং প্রান্তের পরিবেশ জুড়ে বিস্তৃত, এফএম অপারেশনের জন্য প্রয়োজনীয় সংস্থানগুলিকে সর্বোত্তমভাবে ব্যবহার করার জন্য প্রয়োজনীয় ভারসাম্যকে সর্বোত্তমভাবে চিত্রিত করে (চিত্র 2 দেখুন)।

এই বেস লার্জ ল্যাঙ্গুয়েজ মডেল (LLMs) এবং অন্যান্য ধরণের ফাউন্ডেশন মডেলগুলির প্রাক-প্রশিক্ষণের জন্য বিশাল আনলেবেলবিহীন ডেটাসেটে স্ব-তত্ত্বাবধানে কৌশলগুলি ব্যবহার করে প্রায়শই উল্লেখযোগ্য কম্পিউট (GPU) সংস্থানগুলির প্রয়োজন হয় এবং এটি একটি হাবে সর্বোত্তমভাবে সঞ্চালিত হয়। কার্যত সীমাহীন কম্পিউট রিসোর্স এবং ক্লাউডে সঞ্চিত বৃহৎ ডেটা পাইলগুলি বৃহৎ প্যারামিটার মডেলগুলির প্রাক-প্রশিক্ষণ এবং এই বেস ফাউন্ডেশন মডেলগুলির যথার্থতার ক্রমাগত উন্নতির অনুমতি দেয়।

অন্যদিকে, ডাউনস্ট্রিম কাজের জন্য এই বেস এফএমগুলির টিউনিং - যার জন্য শুধুমাত্র কয়েক দশ বা শত শত লেবেলযুক্ত ডেটা নমুনা এবং অনুমান পরিবেশন প্রয়োজন - এন্টারপ্রাইজ প্রান্তে শুধুমাত্র কয়েকটি জিপিইউ দিয়ে সম্পন্ন করা যেতে পারে। এটি সংবেদনশীল লেবেলযুক্ত ডেটা (বা এন্টারপ্রাইজ ক্রাউন-জুয়েল ডেটা) নিরাপদে এন্টারপ্রাইজ অপারেশনাল পরিবেশের মধ্যে থাকার অনুমতি দেয় এবং ডেটা স্থানান্তর খরচও হ্রাস করে।

প্রান্তে অ্যাপ্লিকেশন স্থাপনের জন্য একটি সম্পূর্ণ-স্ট্যাক পদ্ধতি ব্যবহার করে, একজন ডেটা বিজ্ঞানী মডেলগুলির সূক্ষ্ম-টিউনিং, পরীক্ষা এবং স্থাপনা সম্পাদন করতে পারেন। শেষ ব্যবহারকারীদের কাছে নতুন এআই মডেলগুলি পরিবেশন করার জন্য বিকাশের জীবনচক্রকে সঙ্কুচিত করার সময় এটি একটি একক পরিবেশে সম্পন্ন করা যেতে পারে। Red Hat OpenShift Data Science (RHODS) এবং সম্প্রতি ঘোষিত Red Hat OpenShift AI-এর মতো প্ল্যাটফর্মগুলি দ্রুত বিকাশ ও উৎপাদন-প্রস্তুত AI মডেলগুলি স্থাপন করার জন্য সরঞ্জাম সরবরাহ করে বিতরণ করা মেঘ এবং প্রান্ত পরিবেশ।

অবশেষে, এন্টারপ্রাইজ প্রান্তে সূক্ষ্ম-টিউনড এআই মডেল পরিবেশন করা তথ্যের অধিগ্রহণ, ট্রান্সমিশন, রূপান্তর এবং প্রক্রিয়াকরণের সাথে যুক্ত দেরীকে উল্লেখযোগ্যভাবে হ্রাস করে। প্রান্তে ফাইন-টিউনিং এবং ইনফেরেন্সিং থেকে ক্লাউডে প্রাক-প্রশিক্ষণকে ডিকপলিং করা যেকোনো ইনফারেন্স টাস্কের সাথে যুক্ত প্রয়োজনীয় সময় এবং ডেটা চলাচলের খরচ কমিয়ে সামগ্রিক অপারেশনাল খরচ কমিয়ে দেয় (চিত্র 3 দেখুন)।

এই মান প্রস্তাবটি শেষ-থেকে-এন্ড প্রদর্শনের জন্য, নাগরিক পরিকাঠামোর জন্য একটি আদর্শ দৃষ্টি-ট্রান্সফরমার-ভিত্তিক ভিত্তি মডেল (সর্বজনীন এবং কাস্টম শিল্প-নির্দিষ্ট ডেটাসেট ব্যবহার করে প্রাক-প্রশিক্ষিত) সূক্ষ্ম-সুর করা হয়েছিল এবং একটি তিন-নোড প্রান্তে অনুমানের জন্য স্থাপন করা হয়েছিল। (কথিত) ক্লাস্টার। সফ্টওয়্যার স্ট্যাকের মধ্যে রয়েছে Red Hat OpenShift কন্টেইনার প্ল্যাটফর্ম এবং Red Hat OpenShift ডেটা সায়েন্স। এই প্রান্ত ক্লাস্টারটি ক্লাউডে চলমান কুবারনেটস (RHACM) হাবের জন্য Red Hat Advanced Cluster Management-এর একটি উদাহরণের সাথেও সংযুক্ত ছিল।

জিরো-টাচ বিধান

রেড হ্যাট অ্যাডভান্সড ক্লাস্টার ম্যানেজমেন্ট ফর কুবারনেটস (আরএইচএসিএম) এর মাধ্যমে নীতি-ভিত্তিক, জিরো-টাচ প্রভিশনিং করা হয়েছিল নীতি এবং প্লেসমেন্ট ট্যাগের মাধ্যমে, যা নির্দিষ্ট প্রান্তের ক্লাস্টারগুলিকে সফ্টওয়্যার উপাদান এবং কনফিগারেশনের একটি সেটের সাথে আবদ্ধ করে। এই সফ্টওয়্যার উপাদানগুলি - সম্পূর্ণ স্ট্যাক জুড়ে বিস্তৃত এবং কম্পিউট, স্টোরেজ, নেটওয়ার্ক এবং এআই কাজের চাপ- বিভিন্ন ওপেনশিফ্ট অপারেটর, প্রয়োজনীয় অ্যাপ্লিকেশন পরিষেবাগুলির বিধান এবং S3 বাকেট (স্টোরেজ) ব্যবহার করে ইনস্টল করা হয়েছিল।

সিভিল অবকাঠামোর জন্য প্রাক-প্রশিক্ষিত ভিত্তি মডেল (এফএম) একটি জুপিটার নোটবুকের মাধ্যমে রেড হ্যাট ওপেনশিফ্ট ডেটা সায়েন্স (আরএইচওডিএস) এর মাধ্যমে কংক্রিট সেতুতে পাওয়া ছয় ধরণের ত্রুটিগুলিকে শ্রেণীবদ্ধ করার জন্য লেবেলযুক্ত ডেটা ব্যবহার করে সূক্ষ্ম সুর করা হয়েছিল। একটি ট্রাইটন সার্ভার ব্যবহার করে এই সূক্ষ্ম-টিউনড এফএম-এর অনুমান পরিবেশনও প্রদর্শিত হয়েছিল। তদুপরি, প্রমিথিউসের মাধ্যমে হার্ডওয়্যার এবং সফ্টওয়্যার উপাদানগুলি থেকে ক্লাউডের কেন্দ্রীয় RHACM ড্যাশবোর্ডে পর্যবেক্ষণযোগ্যতা মেট্রিকগুলিকে একত্রিত করে এই প্রান্তের সিস্টেমের স্বাস্থ্যের পর্যবেক্ষণ করা সম্ভব হয়েছিল। সিভিল ইনফ্রাস্ট্রাকচার এন্টারপ্রাইজগুলি এই FMগুলিকে তাদের প্রান্তের স্থানে স্থাপন করতে পারে এবং কাছাকাছি রিয়েল-টাইমে ত্রুটিগুলি সনাক্ত করতে ড্রোন ইমেজরি ব্যবহার করতে পারে - সময়-থেকে-অন্তর্দৃষ্টিকে ত্বরান্বিত করে এবং ক্লাউডে এবং থেকে প্রচুর পরিমাণে হাই-ডেফিনিশন ডেটা সরানোর খরচ কমাতে পারে৷

সারাংশ

মিশ্রন আইবিএম ওয়াটসনক্স এজ-ইন-এ-বক্স অ্যাপ্লায়েন্স সহ ফাউন্ডেশন মডেলের (FMs) জন্য ডেটা এবং AI প্ল্যাটফর্মের ক্ষমতাগুলি এন্টারপ্রাইজগুলিকে এফএম ফাইন-টিউনিং এবং অপারেশনাল প্রান্তে অনুমান করার জন্য AI ওয়ার্কলোড চালানোর অনুমতি দেয়। এই যন্ত্রটি বাক্সের বাইরে জটিল ব্যবহারের ক্ষেত্রে পরিচালনা করতে পারে এবং এটি কেন্দ্রীভূত ব্যবস্থাপনা, অটোমেশন এবং স্ব-পরিষেবার জন্য হাব-এন্ড-স্পোক ফ্রেমওয়ার্ক তৈরি করে। পুনরাবৃত্তিযোগ্য সাফল্য, উচ্চতর স্থিতিস্থাপকতা এবং নিরাপত্তা সহ এজ এফএম স্থাপনাগুলি সপ্তাহ থেকে ঘন্টায় হ্রাস করা যেতে পারে।

ফাউন্ডেশনাল মডেল সম্পর্কে আরও জানুন

অনুগ্রহ করে এজ কম্পিউটিং-এ ব্লগ পোস্টের এই সিরিজের সমস্ত কিস্তি পরীক্ষা করে দেখুন: