Dell এবং Nvidia DIY জেনারেটিভ এআই মডেলের স্বপ্ন দেখে

Dell এবং Nvidia DIY জেনারেটিভ এআই মডেলের স্বপ্ন দেখে

উত্স নোড: 2674711

ডেল ওয়ার্ল্ড ওপেনএআই-এর GPT-এর মতো সাধারণ-উদ্দেশ্য বৃহৎ-ভাষা মডেল (LLMs) দ্বারা ব্যবহৃত সর্বজনীনভাবে উপলব্ধ তথ্যের পরিবর্তে, Dell তাদের নিজস্ব কর্পোরেট ডেটাতে প্রশিক্ষিত জেনারেটিভ AI মডেলগুলি তৈরির সরঞ্জামগুলিতে উদ্যোগগুলিকে পিচ করার জন্য Nvidia-এর সাথে হুক আপ করেছে৷

পিচের চাবিকাঠি হল ডেটা নিরাপত্তা। এনভিডিয়ার এন্টারপ্রাইজ কম্পিউটিং-এর ভাইস প্রেসিডেন্ট মনুবীর দাস সাংবাদিকদের বলেছেন যে একটি এন্টারপ্রাইজ তার নিজস্ব ডোমেন-নির্দিষ্ট ডেটার উপর প্রশিক্ষিত নিজস্ব জেনারেটিভ এআই তৈরি করে “তাদের মালিকানার ডেটা অন্য কোনও কোম্পানির মালিকানাধীন ডেটার সাথে মিশ্রিত হওয়ার বিষয়ে চিন্তা করতে হবে না। প্রশিক্ষণ।"

প্রজেক্ট হেলিক্স, মঙ্গলবার ডেল টেকনোলজিস ওয়ার্ল্ড 2023 এ এনভিডিয়া এবং ডেল দ্বারা চালু করা একটি স্কিম, এতে অন্তর্ভুক্ত রয়েছে পাওয়ারএজ XE9680 এবং R760xa র্যাক সার্ভারগুলি যেগুলি এআই প্রশিক্ষণ এবং কাজের বোঝার জন্য অপ্টিমাইজ করা হয়েছে৷ XE9680, যেখানে এটি ইন্টেলের 4র্থ প্রজন্মের Xeon স্কেলেবল প্রসেসরগুলির দুটি চালায়, এছাড়াও এনভিডিয়ার সর্বশেষ আটটি ধারণ করে H100 টেনসর কোর জিপিইউ Nvidia এর NVLink নেটওয়ার্কিং এর মাধ্যমে সংযুক্ত।

এনভিডিয়া তার এআই এন্টারপ্রাইজ সফ্টওয়্যার, ফ্রেমওয়ার্ক এবং বিকাশকারী সরঞ্জামগুলিকে কাজে লাগানোর পরিকল্পনা করেছে - যার মধ্যে রয়েছে NeMo এবং পূর্বপ্রশিক্ষিত ভিত্তি মডেলগুলি নিমো গার্ডেল - নিরাপদ জেনারেটিভ এআই চ্যাটবট তৈরি করতে। ডেলের পাওয়ারস্কেল এবং ইসিএস এন্টারপ্রাইজ অবজেক্ট স্টোরেজ সিস্টেমগুলি অসংগঠিত ডেটার জন্য পাওয়ারএজ র্যাক সার্ভারগুলির সাথে ব্যবহার করা যেতে পারে, এটি বলে।

দাসের মতে, "এই সমস্ত কিছু আমাদেরকে জেনারেটিভ AI-এর জন্য সত্যিই একটি সম্পূর্ণ সমাধান করতে দেয় যা অন-প্রিম চালানো যেতে পারে, যেটি হার্ডওয়্যার এবং সফ্টওয়্যার দ্বারা সম্পূর্ণরূপে বৈধ, যেটি নিরাপদ [এবং] ব্যক্তিগত," দাসের মতে৷

প্রান্তে বাস করছি

একটি কোম্পানির নিজস্ব ডেটাসেন্টারের মধ্যে প্রশিক্ষণ এবং অনুমান কাজের লোড চালানো হল গুরুত্বপূর্ণ কর্পোরেট ডেটা পাবলিক ডোমেনে শেষ হওয়া থেকে রক্ষা করার জন্য এবং সম্ভবত বলাত্কারী গোপনীয়তা এবং নিরাপত্তা প্রবিধান, Huang অনুযায়ী. জেনারেটিভ এআই-এর ক্ষেত্রে, অন-প্রিম ক্রমবর্ধমানভাবে প্রান্তকে বোঝাবে।

"তাদের এটি অন-প্রিম করতে হবে কারণ সেখানেই তাদের ডেটা রয়েছে, এবং তাদের এটি প্রান্তের কাছাকাছি করতে হবে কারণ এটি আলোর গতির সবচেয়ে কাছাকাছি," হুয়াং বলেছিলেন। "আপনি এটি অবিলম্বে প্রতিক্রিয়া করতে চান. আপনি এটি প্রান্তে থাকতে চান, কারণ ভবিষ্যতে, আপনি একাধিক পদ্ধতি থেকে তথ্য পেতে চান।

“আমরা যত বেশি প্রাসঙ্গিক তথ্য পাই, ততই ভালো … অনুমান আমরা করতে পারি। এই সিদ্ধান্তগুলি যতটা সম্ভব প্রান্তের কাছাকাছি নেওয়ার ক্ষমতা, যেখানে ক্রিয়াকলাপ রয়েছে, যেখানে সমস্ত ডেটা রয়েছে এবং যেখানে প্রতিক্রিয়াশীলতা যতটা সম্ভব উচ্চ হতে পারে, সত্যিই অপরিহার্য।"

এনভিডিয়ার জন্য, যেটি এক দশক বা তারও বেশি আগে AI একটি ভবিষ্যত গ্রোথ ইঞ্জিন হওয়ার জন্য বাজি রেখেছিল, প্রজেক্ট হেলিক্স কর্পোরেশন এবং HPC সংস্থাগুলির জন্য মেশিন লার্নিং এর একটি মূল সক্ষমকারী হিসাবে তার অবস্থানকে আরও শক্তিশালী করতে সাহায্য করে।

এমন সময়ে যখন এলএলএমগুলি বিশাল সাধারণ-উদ্দেশ্য ডেটাসেটগুলিতে প্রশিক্ষণ দেয় - জিপিটি এবং এটিতে তৈরি চ্যাটজিপিটি বটের ক্ষেত্রে, ইন্টারনেট - সংস্থাগুলি জেফরি ক্লার্কের মতে, তাদের নিজস্ব ডেটাতে ছোট মডেলগুলিকে তাদের নিজস্ব নির্দিষ্ট চাহিদাগুলিকে মোকাবেলা করতে প্রশিক্ষণ দিতে চায়৷ , ডেলের ভাইস চেয়ারম্যান এবং সহ-সিওও।

"এই প্রবণতা আমরা গ্রাহকদের মধ্যে দেখতে," ক্লার্ক বলেন. “কিভাবে তারা তাদের ব্যবসার প্রেক্ষাপট, তাদের ডেটা গ্রহণ করে এবং তাদের আরও ভাল ব্যবসায়িক সিদ্ধান্ত নিতে সাহায্য করে? এটি করার জন্য আপনার একটি GPT বড়-ভাষার মডেলের প্রয়োজন নেই৷ … কোম্পানিগুলি একটি কারখানায় ChatGPT স্থাপন করতে যাচ্ছে না যাতে একটি কারখানা আরও ভালভাবে কাজ করে। এটি তাদের ডেটা সহ কোম্পানি X, Y, বা Z দ্বারা একটি স্থানীয় মডেল হবে।"

আরো নিয়ন্ত্রণ প্রদান

এন্টারপ্রাইজগুলিকে তাদের মালিকানাধীন তথ্যের সাথে এবং তাদের নিজস্ব ডেটাসেন্টারে প্রশিক্ষণ মডেলগুলি কাস্টমাইজ করতে সক্ষম করার প্রচেষ্টা গতি পাচ্ছে। এই মাসের শুরুতে, ServiceNow এবং Nvidia একটি অংশীদারিত্ব উন্মোচন প্রজেক্ট হেলিক্সের অনুরূপ। দ্য ধারণা নতুন নয়, কিন্তু জেনারেটিভ AI এবং LLM-এর বিকাশে সাম্প্রতিক ত্বরণের সাথে এটিকে সুপারচার্জ করা হয়েছে।

2022 সালের সেপ্টেম্বরে GTC-এ, Nvidia সেই কথা মাথায় রেখে NeMo LLM পরিষেবা চালু করেছে, যা এন্টারপ্রাইজগুলিকে তাদের নিজস্ব ডেটাতে প্রশিক্ষিত কাস্টমাইজড মডেল তৈরি করার জন্য প্রাক-প্রশিক্ষিত ফাউন্ডেশন মডেলগুলির একটি পরিসর মানিয়ে নেওয়ার একটি উপায় দিয়েছে।

ওপেনএআই-এর জিপিটি-4-এর মতো সাধারণ-উদ্দেশ্য মডেলগুলি কিছু কাজের জন্য কাজ করবে, দাস বলেন, “কিন্তু এমন একটি বড় সংখ্যক এন্টারপ্রাইজ কোম্পানি রয়েছে যাদের তাদের নিজস্ব ডোমেনের জন্য, তাদের নিজস্ব মালিকানাধীন ডেটার জন্য তাদের নিজস্ব কাস্টমাইজ করা বড়-ভাষার মডেল থাকতে হবে। , মডেলগুলি তাদের কোম্পানির পরিপ্রেক্ষিতে যা করা দরকার ঠিক তাই করছে কিনা তা নিশ্চিত করার জন্য।"

"NeMo হল সেইসব গ্রাহকদের জন্য Nvidia-এর একটি প্ল্যাটফর্ম যাদের নিজেদের মডেল তৈরি এবং বজায় রাখতে হবে।"

এনভিডিয়ার সিইও জেনসেন হুয়াং, যিনি মূল বক্তব্যের সময় ক্লার্কের সাথে একটি ভিডিও আলোচনায় উপস্থিত হয়েছিলেন, তিনি বলেছিলেন যে "প্রতিটি সংস্থাই বুদ্ধিমত্তা সম্পর্কে তার মূলে রয়েছে।"

"প্রজেক্ট হেলিক্স … প্রতিটি কোম্পানিকে একটি AI কারখানা হতে সাহায্য করবে এবং তাদের বুদ্ধিমত্তা, তাদের ডোমেন-নির্দিষ্ট বুদ্ধিমত্তা, তাদের দক্ষতা তৈরি করতে সক্ষম হবে, এবং তারপরে এটি হালকা গতিতে এবং স্কেলে করতে পারবে," হুয়াং বলেছেন।

জেনারেটিভ এআই-এর চারপাশে দ্রুত উদ্ভাবন এন্টারপ্রাইজগুলিকে আরও বিকল্প দেবে, ডেলের ক্লার্ক দাবি করেছেন। প্রোজেক্ট হেলিক্সের উপর ভিত্তি করে ডেল যাচাইকৃত ডিজাইনগুলি জুলাইয়ের শুরুতে পাওয়া যাবে। ®

সময় স্ট্যাম্প:

থেকে আরো নিবন্ধনকর্মী