فاؤنڈیشن ماڈلز (FMs) کی تعمیر کے لیے بڑے کلسٹرز کی تعمیر، دیکھ بھال اور اصلاح کی ضرورت ہوتی ہے تاکہ ڈیٹا کی وسیع مقدار پر دسیوں سے اربوں پیرامیٹرز والے ماڈلز کو تربیت دی جا سکے۔ ایک ایسا لچکدار ماحول بنانا جو ناکامیوں اور ماحولیاتی تبدیلیوں کو ماڈل ٹریننگ کی پیشرفت کے دنوں یا ہفتوں کو کھوئے بغیر ہینڈل کر سکے ایک آپریشنل چیلنج ہے جس کے لیے آپ کو کلسٹر اسکیلنگ، فعال صحت کی نگرانی، جاب چیک پوائنٹنگ، اور خود کار طریقے سے تربیت دوبارہ شروع کرنے کی صلاحیتوں کو لاگو کرنے کی ضرورت ہوتی ہے اگر ناکامی یا مسائل پیدا ہوتے ہیں۔ .
ہم اس کا اشتراک کرنے کے لیے پرجوش ہیں۔ ایمیزون سیج میکر ہائپر پوڈ اب عام طور پر ہزاروں ایکسلریٹروں کے ساتھ تربیتی فاؤنڈیشن ماڈلز کو 40% تک تیز تر کرنے کے لیے دستیاب ہے جو ایک انتہائی لچکدار تربیتی ماحول فراہم کرتے ہوئے بڑے پیمانے پر تربیتی کلسٹروں کو چلانے میں شامل غیر متفاوت ہیوی لفٹنگ کو ختم کرتا ہے۔ SageMaker HyperPod کے ساتھ، مشین لرننگ (ML) پریکٹیشنرز بغیر کسی رکاوٹ کے، اور ہارڈ ویئر کی ناکامی کے مسائل سے نمٹنے کے بغیر FMs کو ہفتوں اور مہینوں تک تربیت دے سکتے ہیں۔
سٹیبلٹی AI جیسے صارفین SageMaker HyperPod کو اپنے فاؤنڈیشن ماڈلز بشمول Stable Diffusion کو تربیت دینے کے لیے استعمال کرتے ہیں۔
"سرکردہ اوپن سورس جنریٹیو AI کمپنی کے طور پر، ہمارا مقصد جدید AI کی رسائی کو زیادہ سے زیادہ کرنا ہے۔ ہم دسیوں اربوں پیرامیٹرز کے ساتھ فاؤنڈیشن ماڈل بنا رہے ہیں، جن کے لیے تربیتی کارکردگی کو بہتر انداز میں پیمانہ کرنے کے لیے بنیادی ڈھانچے کی ضرورت ہوتی ہے۔ SageMaker HyperPod کے زیر انتظام انفراسٹرکچر اور آپٹیمائزیشن لائبریریوں کے ساتھ، ہم تربیت کے وقت اور اخراجات کو 50% سے کم کر سکتے ہیں۔ یہ جدید ترین ماڈلز کو تیز تر بنانے کے لیے ہماری ماڈل ٹریننگ کو زیادہ لچکدار اور پرفارمنس بناتا ہے۔
– عماد مصدق، سٹیبلٹی اے آئی کے بانی اور سی ای او۔
ہارڈ ویئر کی ناکامیوں سے لچکدار FM تیار کرنے کے مکمل چکر کو بنانے کے لیے، SageMaker HyperPod آپ کو کلسٹرز بنانے، کلسٹر کی صحت کی نگرانی، فلائی پر ناقص نوڈس کی مرمت اور تبدیلی، بار بار چیک پوائنٹس کو بچانے، اور ترقی کو کھونے کے بغیر خود بخود ٹریننگ دوبارہ شروع کرنے میں مدد کرتا ہے۔ اس کے علاوہ، SageMaker HyperPod کے ساتھ پہلے سے تشکیل شدہ ہے۔ ایمیزون سیج میکر تقسیم شدہ تربیتی لائبریریاں، بشمول سیج میکر ڈیٹا متوازی لائبریری (SMDDP) اور سیج میکر ماڈل متوازی لائبریری (SMP)، کلسٹر کے کمپیوٹ اور نیٹ ورک کے بنیادی ڈھانچے کو مکمل طور پر استعمال کرتے ہوئے، تربیتی ڈیٹا اور ماڈلز کو چھوٹے حصوں میں تقسیم کرنے اور کلسٹر نوڈس کے متوازی طور پر ان پر کارروائی کرتے ہوئے ایف ایم ٹریننگ کی کارکردگی کو بہتر بنانے کے لیے۔ سیج میکر ہائپر پوڈ سلرم ورک لوڈ مینیجر کو کلسٹر اور تربیتی جاب آرکیسٹریشن کے لیے مربوط کرتا ہے۔
سلرم ورک لوڈ مینیجر کا جائزہ
گندگیجو کہ پہلے سادہ لینکس یوٹیلیٹی فار ریسورس مینجمنٹ کے نام سے جانا جاتا تھا، تقسیم شدہ کمپیوٹنگ کلسٹر پر ملازمتیں چلانے کے لیے ایک جاب شیڈولر ہے۔ یہ استعمال کرتے ہوئے متوازی ملازمتوں کو چلانے کے لیے ایک فریم ورک بھی فراہم کرتا ہے۔ NVIDIA اجتماعی مواصلات لائبریری (NCCL) or میسج پاسنگ انٹرفیس (MPI) معیارات سلرم ایک مقبول اوپن سورس کلسٹر ریسورس مینجمنٹ سسٹم ہے جسے ہائی پرفارمنس کمپیوٹنگ (HPC) اور جنریٹیو AI اور FM ٹریننگ ورک بوجھ کے ذریعے بڑے پیمانے پر استعمال کیا جاتا ہے۔ SageMaker HyperPod چند منٹوں میں Slurm کلسٹر کے ساتھ اٹھنے اور چلانے کا ایک سیدھا سا طریقہ فراہم کرتا ہے۔
ذیل میں ایک اعلیٰ سطحی آرکیٹیکچرل خاکہ ہے کہ کس طرح صارفین SageMaker HyperPod کے ساتھ تعامل کرتے ہیں اور کس طرح مختلف کلسٹر اجزاء ایک دوسرے کے ساتھ تعامل کرتے ہیں اور دیگر AWS خدمات، جیسے ایمیزون ایف ایس ایکس لسٹر اور ایمیزون سادہ اسٹوریج سروس (ایمیزون S3)۔
سلم جابز کمانڈ لائن پر کمانڈ کے ذریعہ جمع کرائی جاتی ہیں۔ Slurm جابز کو چلانے کے احکامات یہ ہیں۔ srun
اور sbatch
. srun
کمانڈ انٹرایکٹو اور بلاکنگ موڈ میں تربیتی کام چلاتا ہے، اور sbatch
بیچ پروسیسنگ اور نان بلاکنگ موڈ میں چلتا ہے۔ srun
زیادہ تر فوری ملازمتوں کو چلانے کے لیے استعمال کیا جاتا ہے، جبکہ sbatch
بعد میں ملازمتوں کے لیے استعمال کیا جا سکتا ہے۔
اضافی سلرم کمانڈز اور کنفیگریشن کے بارے میں معلومات کے لیے، ملاحظہ کریں۔ سلرم ورک لوڈ مینیجر کی دستاویزات.
آٹو ریزیومے اور شفا یابی کی صلاحیتیں۔
SageMaker HyperPod کے ساتھ نئی خصوصیات میں سے ایک آپ کی ملازمتوں پر آٹو ریزیومے کی صلاحیت ہے۔ اس سے پہلے، جب کوئی ورکر نوڈ ٹریننگ یا فائن ٹیوننگ جاب رن کے دوران فیل ہو جاتا ہے، تو یہ صارف پر منحصر تھا کہ وہ جاب کی حالت کو چیک کرے، تازہ ترین چیک پوائنٹ سے کام کو دوبارہ شروع کرے، اور پوری دوڑ میں کام کی نگرانی جاری رکھے۔ تربیتی ملازمتوں یا فائن ٹیوننگ ملازمتوں کے لیے ایک وقت میں دنوں، ہفتوں یا مہینوں تک چلانے کی ضرورت ہوتی ہے، یہ اس وجہ سے مہنگا پڑ جاتا ہے کہ صارف کے اضافی انتظامی اوور ہیڈ کو کام کی نگرانی اور برقرار رکھنے کے لیے سائیکل خرچ کرنے کی ضرورت ہوتی ہے۔ نوڈ کریشز، نیز مہنگی تیز رفتار کمپیوٹ مثالوں کے بیکار وقت کی قیمت۔
SageMaker HyperPod خودکار صحت کی جانچ، نوڈ کی تبدیلی، اور ملازمت کی بحالی کا استعمال کرکے ملازمت کی لچک کو حل کرتا ہے۔ SageMaker HyperPod میں Slurm جابز کی نگرانی SageMaker کسٹم Slurm پلگ ان کے ذریعے کی جاتی ہے۔ SPANK فریم ورک. جب کوئی تربیتی کام ناکام ہوجاتا ہے، تو SageMaker HyperPod صحت کی جانچ کے ایک مجموعہ کے ذریعے کلسٹر کی صحت کا معائنہ کرے گا۔ اگر کلسٹر میں کوئی ناقص نوڈ پایا جاتا ہے، تو SageMaker HyperPod خود بخود نوڈ کو کلسٹر سے ہٹا دے گا، اسے صحت مند نوڈ سے بدل دے گا، اور تربیتی کام دوبارہ شروع کر دے گا۔ تربیتی ملازمتوں میں چیک پوائنٹ استعمال کرتے وقت، کوئی بھی رکاوٹ یا ناکام کام تازہ ترین چیک پوائنٹ سے دوبارہ شروع ہو سکتا ہے۔
حل جائزہ
اپنے SageMaker HyperPod کو تعینات کرنے کے لیے، آپ پہلے اپنے ماحول کو ترتیب دے کر تیار کرتے ہیں۔ ایمیزون ورچوئل پرائیویٹ کلاؤڈ (ایمیزون وی پی سی) نیٹ ورک اور سیکیورٹی گروپس، آپ کے وی پی سی میں لسٹر کے لیے FSx جیسی معاون خدمات کی تعیناتی، اور آپ کے سلم لائف سائیکل اسکرپٹس کو S3 بالٹی میں شائع کرنا۔ اس کے بعد آپ اپنے SageMaker HyperPod کو تعینات اور ترتیب دیتے ہیں اور اپنے تربیتی کام شروع کرنے کے لیے ہیڈ نوڈ سے جڑ جاتے ہیں۔
شرائط
اس سے پہلے کہ آپ اپنا SageMaker HyperPod بنائیں، آپ کو پہلے اپنا VPC کنفیگر کرنا ہوگا، Luster فائل سسٹم کے لیے ایک FSx بنانا ہوگا، اور اپنی مطلوبہ کلسٹر لائف سائیکل اسکرپٹس کے ساتھ ایک S3 بالٹی قائم کرنی ہوگی۔ آپ کو کا تازہ ترین ورژن بھی درکار ہے۔ AWS کمانڈ لائن انٹرفیس (AWS CLI) اور CLI پلگ ان کے لیے انسٹال ہے۔ AWS سیشن مینیجرکی صلاحیت AWS سسٹمز مینیجر.
SageMaker HyperPod آپ کے VPC کے ساتھ مکمل طور پر مربوط ہے۔ ایک نیا VPC بنانے کے بارے میں معلومات کے لیے، دیکھیں ڈیفالٹ VPC بنائیں or ایک VPC بنائیں. وسائل کے درمیان اعلیٰ ترین کارکردگی کے ساتھ بغیر کسی رکاوٹ کے کنکشن کی اجازت دینے کے لیے، آپ کو اپنے تمام وسائل کو ایک ہی علاقے اور دستیابی کے علاقے میں بنانا چاہیے، ساتھ ہی اس بات کو یقینی بنانا چاہیے کہ متعلقہ سیکیورٹی گروپ کے قوانین کلسٹر وسائل کے درمیان رابطے کی اجازت دیتے ہیں۔
اگلا، آپ Luster فائل سسٹم کے لیے ایک FSx بنائیں. یہ ہماری ماڈل ٹریننگ کے دوران استعمال کے لیے اعلیٰ کارکردگی والے فائل سسٹم کے طور پر کام کرے گا۔ اس بات کو یقینی بنائیں کہ لسٹر اور کلسٹر سیکیورٹی گروپس کے لیے FSx کلسٹر وسائل اور Luster فائل سسٹم کے لیے FSx کے درمیان ان باؤنڈ اور آؤٹ باؤنڈ مواصلت کی اجازت دیتا ہے۔
اپنے کلسٹر لائف سائیکل اسکرپٹس کو ترتیب دینے کے لیے، جو اس وقت چلائی جاتی ہیں جب کوئی نئی کلسٹر مثال پیش آتی ہے، آپ ایک S3 بالٹی بناتے ہیں اور پھر پہلے سے طے شدہ لائف سائیکل اسکرپٹس کو کاپی اور اختیاری طور پر اپنی مرضی کے مطابق بناتے ہیں۔ اس مثال کے لیے، ہم تمام لائف سائیکل اسکرپٹس کو بالٹی کے سابقہ میں محفوظ کرتے ہیں۔ lifecycle-scripts
.
سب سے پہلے، آپ سے نمونہ لائف سائیکل اسکرپٹس ڈاؤن لوڈ کریں۔ GitHub repo. آپ کو اپنے مطلوبہ کلسٹر طرز عمل کے مطابق ان کو اپنی مرضی کے مطابق بنانا چاہیے۔
اگلا، اپنی مرضی کے مطابق لائف سائیکل اسکرپٹس کو ذخیرہ کرنے کے لیے ایک S3 بالٹی بنائیں۔
اس کے بعد، اپنی مقامی ڈائرکٹری سے پہلے سے طے شدہ لائف سائیکل اسکرپٹس کو اپنی مطلوبہ بالٹی اور سابقہ استعمال کرتے ہوئے کاپی کریں۔ aws s3 sync
:
آخر میں، کلسٹر کے ہیڈ نوڈ سے آسان کنکشن کے لیے کلائنٹ کو ترتیب دینے کے لیے، آپ کو کرنا چاہیے۔ AWS CLI انسٹال یا اپ ڈیٹ کریں۔ اور انسٹال کریں AWS سیشن مینیجر CLI پلگ ان انٹرایکٹو ٹرمینل کنکشن کو کلسٹر کا انتظام کرنے اور تربیتی ملازمتوں کو چلانے کی اجازت دینا۔
آپ یا تو دستیاب آن ڈیمانڈ وسائل کے ساتھ یا SageMaker کے ساتھ صلاحیت کی بکنگ کی درخواست کر کے SageMaker HyperPod کلسٹر بنا سکتے ہیں۔ صلاحیت کی ریزرویشن بنانے کے لیے، آپ سروس کوٹاس ڈیش بورڈ پر مخصوص کمپیوٹ مثال کی اقسام اور صلاحیت مختص کرنے کے لیے کوٹہ بڑھانے کی درخواست بناتے ہیں۔
اپنا ٹریننگ کلسٹر ترتیب دیں۔
اپنا SageMaker HyperPod کلسٹر بنانے کے لیے، درج ذیل مراحل کو مکمل کریں:
- سیج میکر کنسول پر، منتخب کریں۔ کلسٹر مینجمنٹ کے تحت ہائپر پوڈ کلسٹرز نیوی گیشن پین میں.
- میں سے انتخاب کریں ایک کلسٹر بنائیں۔.
- کلسٹر کا نام فراہم کریں اور اختیاری طور پر کلسٹر وسائل پر لاگو کرنے کے لیے کوئی ٹیگ، پھر منتخب کریں۔ اگلے.
- منتخب کریں مثال گروپ بنائیں اور مثال گروپ کا نام، مثال کی قسم کی ضرورت، مطلوبہ مثالوں کی مقدار، اور S3 بالٹی اور پریفکس پاتھ کی وضاحت کریں جہاں آپ نے پہلے اپنے کلسٹر لائف سائیکل اسکرپٹس کو کاپی کیا تھا۔
اس کی سفارش کی جاتی ہے کہ کنٹرولر نوڈس کے لیے مختلف مثالی گروپ ہوں جو کلسٹر کو ایڈمنسٹر کرنے اور جابز جمع کرانے کے لیے استعمال کیے جاتے ہیں اور ورکر نوڈس تیز رفتار کمپیوٹ مثالوں کا استعمال کرتے ہوئے تربیتی جابز چلانے کے لیے استعمال ہوتے ہیں۔ آپ لاگ ان نوڈس کے لیے اختیاری طور پر ایک اضافی مثال گروپ تشکیل دے سکتے ہیں۔
- آپ پہلے کنٹرولر مثال گروپ بنائیں، جس میں کلسٹر ہیڈ نوڈ شامل ہوگا۔
- اس مثال کے طور پر گروپ کے AWS شناخت اور رسائی کا انتظام (IAM) کردار، منتخب کریں۔ ایک نیا کردار بنائیں اور کسی بھی S3 بالٹی کی وضاحت کریں جسے آپ مثال گروپ میں کلسٹر مثالوں تک رسائی حاصل کرنا چاہتے ہیں۔
تیار کردہ کردار کو بطور ڈیفالٹ مخصوص بالٹیوں تک صرف پڑھنے کے لیے رسائی دی جائے گی۔
- میں سے انتخاب کریں کردار بنائیں.
- آن-کریٹ اسکرپٹ پرامپٹ میں ہر ایک مثال کی تخلیق پر چلانے کے لیے اسکرپٹ کا نام درج کریں۔ اس مثال میں، آن تخلیق اسکرپٹ کو کہا جاتا ہے۔
on_create.sh
. - میں سے انتخاب کریں محفوظ کریں.
- میں سے انتخاب کریں مثال گروپ بنائیں اپنا کارکن مثال گروپ بنانے کے لیے۔
- تمام درخواست کردہ تفصیلات فراہم کریں، بشمول مثال کی قسم اور مطلوبہ مقدار۔
یہ مثال ہمارے تربیتی کام کو انجام دینے کے لیے چار ml.trn1.32xl ایکسلریٹڈ مثالوں کا استعمال کرتی ہے۔ آپ پہلے جیسا ہی IAM کردار استعمال کر سکتے ہیں یا کارکن کی مثالوں کے لیے کردار کو حسب ضرورت بنا سکتے ہیں۔ اسی طرح، آپ اس ورکر انسٹینس گروپ کے لیے پچھلے انسٹینس گروپ کے مقابلے مختلف آن تخلیق لائف سائیکل اسکرپٹس استعمال کر سکتے ہیں۔
- میں سے انتخاب کریں اگلے آگے بڑھنے کے لئے.
- اپنے کلسٹر مثالوں کے لیے مطلوبہ VPC، سب نیٹ، اور سیکیورٹی گروپس کا انتخاب کریں۔
ہم کم تاخیر کو یقینی بنانے کے لیے ایک واحد دستیابی زون اور سب نیٹ میں کلسٹر مثالوں کی میزبانی کرتے ہیں۔
نوٹ کریں کہ اگر آپ S3 ڈیٹا تک کثرت سے رسائی حاصل کرتے رہیں گے، تو یہ تجویز کیا جاتا ہے کہ ایک VPC اینڈ پوائنٹ بنایا جائے جو کہ پرائیویٹ سب نیٹ کے روٹنگ ٹیبل سے منسلک ہو تاکہ ڈیٹا کی منتقلی کے کسی بھی ممکنہ اخراجات کو کم کیا جا سکے۔
- میں سے انتخاب کریں اگلے.
- کلسٹر تفصیلات کے خلاصے کا جائزہ لیں، پھر منتخب کریں۔ جمع کرائیں.
متبادل طور پر، AWS CLI کا استعمال کرتے ہوئے اپنا SageMaker HyperPod بنانے کے لیے، پہلے کلسٹر بنانے کے لیے استعمال ہونے والے JSON پیرامیٹرز کو حسب ضرورت بنائیں:
پھر فراہم کردہ ان پٹس کا استعمال کرتے ہوئے کلسٹر بنانے کے لیے درج ذیل کمانڈ کا استعمال کریں:
Llama 2 کے ساتھ اپنا پہلا تربیتی کام چلائیں۔
نوٹ کریں کہ Llama 2 ماڈل کا استعمال میٹا لائسنس کے زیر انتظام ہے۔ ماڈل وزن اور ٹوکنائزر ڈاؤن لوڈ کرنے کے لیے، ملاحظہ کریں۔ ویب سائٹ اور رسائی کی درخواست کرنے سے پہلے لائسنس قبول کریں۔ میٹا کی ہگنگ فیس ویب سائٹ.
کلسٹر کے چلنے کے بعد، کلسٹر آئی ڈی، مثال گروپ کا نام، اور مثال آئی ڈی کا استعمال کرتے ہوئے سیشن مینیجر کے ساتھ لاگ ان کریں۔ اپنے کلسٹر کی تفصیلات دیکھنے کے لیے درج ذیل کمانڈ کا استعمال کریں:
جواب میں کلسٹر ARN کے اندر شامل کلسٹر ID کو نوٹ کریں۔
کلسٹر میں لاگ ان کرنے کے لیے درکار مثال گروپ کا نام اور مثال کی ID بازیافت کرنے کے لیے درج ذیل کمانڈ کا استعمال کریں۔
نوٹ کریں۔ InstanceGroupName
اور InstanceId
جواب میں جیسا کہ یہ سیشن مینیجر کے ساتھ مثال سے جڑنے کے لیے استعمال ہوں گے۔
اب آپ ہیڈ نوڈ، یا لاگ ان نوڈس میں سے کسی ایک میں لاگ ان کرنے کے لیے سیشن مینیجر کا استعمال کرتے ہیں، اور اپنا تربیتی کام چلاتے ہیں:
اگلا، ہم ماحول کو تیار کرنے جا رہے ہیں اور Llama 2 اور RedPajama ڈیٹاسیٹ کو ڈاؤن لوڈ کریں گے۔ مکمل کوڈ اور اس کے قدم بہ قدم واک تھرو کے لیے، پر دی گئی ہدایات پر عمل کریں۔ AWSome تقسیم شدہ تربیت گٹ ہب ریپو۔
میں تفصیلی اقدامات پر عمل کریں۔ 2.test_cases/8.neuronx-nemo-megatron/README.md
فائل ماحول کو تیار کرنے کے اقدامات پر عمل کرنے کے بعد، ماڈل تیار کریں، ڈیٹاسیٹ کو ڈاؤن لوڈ اور ٹوکنائز کریں، اور ماڈل کو پہلے سے مرتب کریں، آپ کو ترمیم کرنی چاہیے۔ 6.pretrain-model.sh
سکرپٹ اور sbatch
ایک پیرامیٹر شامل کرنے کے لیے جاب جمع کرنے کی کمانڈ جو آپ کو SageMaker HyperPod کے آٹو ریزیوم فیچر سے فائدہ اٹھانے کی اجازت دے گی۔
ترمیم کریں sbatch
درج ذیل کی طرح نظر آنے والی لائن:
جاب جمع کرانے کے بعد، آپ کو ایک ملے گا۔ JobID
جسے آپ درج ذیل کوڈ کا استعمال کرتے ہوئے ملازمت کی حیثیت کو چیک کرنے کے لیے استعمال کر سکتے ہیں:
مزید برآں، آپ مندرجہ ذیل کوڈ کا استعمال کرتے ہوئے جاب آؤٹ پٹ لاگ پر عمل کر کے جاب کی نگرانی کر سکتے ہیں۔
صاف کرو
اپنے SageMaker HyperPod کلسٹر کو حذف کرنے کے لیے، یا تو SageMaker کنسول یا درج ذیل AWS CLI کمانڈ استعمال کریں:
نتیجہ
اس پوسٹ نے آپ کو دکھایا کہ آپ اپنے AWS ماحول کو کیسے تیار کریں، اپنا پہلا SageMaker HyperPod کلسٹر کیسے تعینات کریں، اور 7-بلین پیرامیٹر Llama 2 ماڈل کو تربیت دیں۔ SageMaker HyperPod آج عام طور پر امریکہ (N. ورجینیا، اوہائیو، اور اوریگون)، ایشیا پیسفک (سنگاپور، سڈنی، اور ٹوکیو)، اور یورپ (فرینکفرٹ، آئرلینڈ، اور اسٹاک ہوم) کے علاقوں میں دستیاب ہے۔ انہیں SageMaker کنسول، AWS CLI، اور AWS SDKs کے ذریعے تعینات کیا جا سکتا ہے، اور وہ p4d, p4de, p5, trn1, inf2, g5, c5, c5n, m5 اور t3 مثال کے خاندانوں کی حمایت کرتے ہیں۔
SageMaker HyperPod کے بارے میں مزید جاننے کے لیے، ملاحظہ کریں۔ ایمیزون سیج میکر ہائپر پوڈ.
مصنفین کے بارے میں
بریڈ ڈوران ایمیزون ویب سروسز میں ایک سینئر ٹیکنیکل اکاؤنٹ مینیجر ہے، جو جنریٹو AI پر مرکوز ہے۔ وہ ڈیجیٹل مقامی کاروباری مارکیٹ کے حصے میں پیدا کرنے والے AI صارفین کے لیے انجینئرنگ کے چیلنجز کو حل کرنے کا ذمہ دار ہے۔ وہ انفراسٹرکچر اور سافٹ ویئر ڈویلپمنٹ کے پس منظر سے آتا ہے اور فی الحال مصنوعی ذہانت اور مشین لرننگ میں ڈاکٹریٹ کی تعلیم اور تحقیق کر رہا ہے۔
Keita Watanabe Amazon Web Services میں ایک سینئر GenAI سپیشلسٹ سولیوشن آرکیٹیکٹ ہے، جہاں وہ Slurm اور Kubernetes جیسے OSS پروجیکٹس کا استعمال کرتے ہوئے مشین لرننگ سلوشنز تیار کرنے میں مدد کرتا ہے۔ اس کا پس منظر مشین لرننگ ریسرچ اینڈ ڈیولپمنٹ میں ہے۔ AWS میں شامل ہونے سے پہلے، Keita نے ای کامرس انڈسٹری میں ایک ریسرچ سائنسدان کے طور پر کام کیا جو پروڈکٹ کی تلاش کے لیے تصویر کی بازیافت کے نظام کو تیار کرتی ہے۔ کیٹا نے ٹوکیو یونیورسٹی سے سائنس میں پی ایچ ڈی کی ہے۔
جسٹن پرٹل ایمیزون ویب سروسز میں پرنسپل سولیوشن آرکیٹیکٹ ہیں۔ وہ باقاعدگی سے تخلیقی AI صارفین کو ان کے بنیادی ڈھانچے کی ڈیزائننگ، تعیناتی اور اسکیلنگ میں مشورہ دیتا ہے۔ وہ AWS کانفرنسوں میں باقاعدہ مقرر ہے، بشمول re:Invent، اور ساتھ ہی AWS کے دیگر واقعات۔ جسٹن نے آسٹن کی یونیورسٹی آف ٹیکساس سے مینجمنٹ انفارمیشن سسٹمز میں بیچلر ڈگری اور سیٹل یونیورسٹی سے سافٹ ویئر انجینئرنگ میں ماسٹر ڈگری حاصل کی۔
- SEO سے چلنے والا مواد اور PR کی تقسیم۔ آج ہی بڑھا دیں۔
- پلیٹو ڈیٹا ڈاٹ نیٹ ورک ورٹیکل جنریٹو اے آئی۔ اپنے آپ کو بااختیار بنائیں۔ یہاں تک رسائی حاصل کریں۔
- پلیٹوآئ اسٹریم۔ ویب 3 انٹیلی جنس۔ علم میں اضافہ۔ یہاں تک رسائی حاصل کریں۔
- پلیٹو ای ایس جی۔ کاربن، کلین ٹیک، توانائی ، ماحولیات، شمسی، ویسٹ مینجمنٹ یہاں تک رسائی حاصل کریں۔
- پلیٹو ہیلتھ۔ بائیوٹیک اینڈ کلینیکل ٹرائلز انٹیلی جنس۔ یہاں تک رسائی حاصل کریں۔
- ماخذ: https://aws.amazon.com/blogs/machine-learning/introducing-amazon-sagemaker-hyperpod-to-train-foundation-models-at-scale/
- : ہے
- :کہاں
- $UP
- 1
- 100
- 12
- 14
- 24
- 7
- a
- کی صلاحیت
- ہمارے بارے میں
- تیز
- ایکسلریٹر
- قبول کریں
- تک رسائی حاصل
- رسائی پذیری
- تک رسائی حاصل
- اکاؤنٹ
- کے پار
- اس کے علاوہ
- ایڈیشنل
- پتے
- انتظام
- انتظامی
- فائدہ
- کے بعد
- AI
- تمام
- تین ہلاک
- کی اجازت
- کی اجازت دیتا ہے
- بھی
- ایمیزون
- ایمیزون سیج میکر
- ایمیزون ویب سروسز
- امریکہ
- مقدار
- an
- اور
- کوئی بھی
- کا اطلاق کریں
- ارکیٹیکچرل
- کیا
- اٹھتا
- مصنوعی
- مصنوعی ذہانت
- مصنوعی انٹیلی جنس اور مشین سیکھنا
- AS
- ایشیا
- ایشیا پیسیفک
- منسلک
- At
- آسٹن، ٹیکساس
- آٹومیٹڈ
- خود کار طریقے سے
- دستیابی
- دستیاب
- AWS
- پس منظر
- BE
- ہو جاتا ہے
- اس سے پہلے
- کے درمیان
- اربوں
- مسدود کرنے میں
- تعمیر
- عمارت
- کاروبار
- by
- کہا جاتا ہے
- کر سکتے ہیں
- صلاحیتوں
- صلاحیت
- اہلیت
- سی ای او
- چیلنج
- چیلنجوں
- تبدیلیاں
- چیک کریں
- چیک
- میں سے انتخاب کریں
- کلائنٹ
- کلسٹر
- کوڈ
- اجتماعی
- آتا ہے
- مواصلات
- کموینیکیشن
- کمپنی کے
- مکمل
- اجزاء
- کمپیوٹنگ
- کمپیوٹنگ
- کانفرنسوں
- ترتیب
- ترتیب دیں
- رابطہ قائم کریں
- کنکشن
- کنکشن
- کنسول
- جاری
- کنٹرولر
- قیمت
- مہنگی
- اخراجات
- تخلیق
- تخلیق
- مخلوق
- اس وقت
- اپنی مرضی کے
- گاہکوں
- اپنی مرضی کے مطابق
- اپنی مرضی کے مطابق
- سائیکل
- سائیکل
- ڈیش بورڈ
- اعداد و شمار
- دن
- نمٹنے کے
- پہلے سے طے شدہ
- ڈگری
- تعیناتی
- تعینات
- تعینات
- ڈیزائننگ
- مطلوبہ
- تفصیلی
- تفصیلات
- ترقی
- ترقی
- ترقی
- مختلف
- براڈ کاسٹننگ
- ڈیجیٹل
- خلل
- تقسیم کئے
- تقسیم کمپیوٹنگ
- تقسیم کی تربیت
- ڈاؤن لوڈ، اتارنا
- دو
- کے دوران
- ہر ایک
- ای کامرس
- یا تو
- ختم کرنا
- کو چالو کرنے کے
- اختتام پوائنٹ
- انجنیئرنگ
- کو یقینی بنانے کے
- پوری
- ماحولیات
- ماحولیاتی
- قائم کرو
- Ether (ETH)
- یورپ
- بھی
- واقعہ
- واقعات
- مثال کے طور پر
- بہت پرجوش
- مہنگی
- اضافی
- چہرہ
- ناکام
- ناکام رہتا ہے
- ناکامی
- ناکامیوں
- خاندانوں
- تیز تر
- غلط
- نمایاں کریں
- خصوصیات
- فائل
- پہلا
- توجہ مرکوز
- پر عمل کریں
- کے بعد
- کے لئے
- پہلے
- ملا
- فاؤنڈیشن
- بانی
- بانی اور سی ای او
- چار
- فریم ورک
- فرینکفرٹ
- بار بار اس
- اکثر
- سے
- مکمل
- مکمل طور پر
- عام طور پر
- پیدا
- پیداواری
- پیداواری AI۔
- حاصل
- GitHub کے
- مقصد
- جا
- حکومت کی
- عطا کی
- گروپ
- گروپ کا
- ہینڈل
- ہارڈ ویئر
- ہے
- ہونے
- he
- سر
- شفا یابی
- صحت
- صحت مند
- بھاری
- بھاری وزن اٹھانا
- مدد کرتا ہے
- ہائی
- ہائی پرفارمنس کمپیوٹنگ
- اعلی سطحی
- اعلی کارکردگی
- سب سے زیادہ
- انتہائی
- ان
- کی ڈگری حاصل کی
- میزبان
- کس طرح
- کیسے
- ایچ پی سی
- HTML
- HTTP
- HTTPS
- سینکڑوں
- IAM
- ID
- شناختی
- ناقابل یقین
- if
- تصویر
- فوری طور پر
- پر عملدرآمد
- کو بہتر بنانے کے
- in
- شامل
- شامل
- سمیت
- اضافہ
- صنعت
- معلومات
- انفارمیشن سسٹمز
- انفراسٹرکچر
- آدانوں
- انسٹال
- مثال کے طور پر
- واقعات
- ہدایات
- ضم
- انٹیگریٹٹس
- انٹیلی جنس
- بات چیت
- انٹرایکٹو
- انٹرفیس
- میں خلل
- میں
- متعارف کرانے
- ملوث
- آئر لینڈ
- مسائل
- IT
- ایوب
- نوکریاں
- شمولیت
- فوٹو
- JSON
- جسٹن
- جانا جاتا ہے
- Kubernetes
- بڑے
- بڑے پیمانے پر
- تاخیر
- بعد
- تازہ ترین
- معروف
- جانیں
- سیکھنے
- لائبریریوں
- لائبریری
- لائسنس
- زندگی کا دورانیہ
- اٹھانے
- کی طرح
- لائن
- لینکس
- لاما
- مقامی
- لاگ ان کریں
- لاگ ان
- دیکھو
- کی طرح دیکھو
- کھونے
- لو
- مشین
- مشین لرننگ
- برقرار رکھنے کے
- برقرار رکھنے
- بنا
- بناتا ہے
- بنانا
- میں کامیاب
- انتظام
- مینیجمنٹ سسٹم
- مینیجر
- مارکیٹ
- ماسٹر کی
- معاملہ
- زیادہ سے زیادہ
- میٹا
- منٹ
- ML
- موڈ
- ماڈل
- ماڈل
- جدید
- کی نگرانی
- نگرانی کی
- نگرانی
- ماہ
- زیادہ
- زیادہ تر
- نام
- مقامی
- سمت شناسی
- ضرورت ہے
- ضرورت
- ضرورت ہے
- نیٹ ورک
- نئی
- نئی خصوصیات
- نوڈ
- نوڈس
- براہ مہربانی نوٹ کریں
- اب
- NVIDIA
- واقع
- of
- اوہائیو
- on
- ڈیمانڈ
- ایک
- کھول
- اوپن سورس
- کام
- آپریشنل
- اصلاح کے
- اصلاح
- or
- آرکیسٹرا
- وریگن
- ایس. ایس
- دیگر
- ہمارے
- پیداوار
- پر
- پیسیفک
- پین
- متوازی
- پیرامیٹر
- پیرامیٹرز
- پاسنگ
- راستہ
- انجام دینے کے
- کارکردگی
- پی ایچ ڈی
- پلاٹا
- افلاطون ڈیٹا انٹیلی جنس
- پلیٹو ڈیٹا
- رابطہ بحال کرو
- مقبول
- پوسٹ
- ممکنہ
- تیار
- پچھلا
- پہلے
- پرنسپل
- پہلے
- نجی
- چالو
- آگے بڑھو
- پروسیسنگ
- مصنوعات
- پیش رفت
- منصوبوں
- فراہم
- فراہم کرتا ہے
- فراہم کرنے
- پبلشنگ
- تعاقب
- مقدار
- RE
- سفارش کی
- وصولی
- کو کم
- کا حوالہ دیتے ہیں
- خطے
- خطوں
- باقاعدہ
- باقاعدگی سے
- ہٹا
- مرمت
- کی جگہ
- متبادل
- درخواست
- درخواست کی
- کی ضرورت
- کی ضرورت ہے
- تحقیق
- تحقیق اور ترقی
- بکنگ
- ریزرو
- لچکدار
- وسائل
- وسائل
- جواب
- ذمہ دار
- تجربے کی فہرست
- کردار
- روٹنگ
- قوانین
- رن
- چل رہا ہے
- چلتا ہے
- sagemaker
- اسی
- محفوظ کریں
- پیمانے
- سکیلنگ
- سائنس
- سائنسدان
- اسکرپٹ
- سکرپٹ
- sdks
- ہموار
- تلاش کریں
- سیٹل
- سیکورٹی
- دیکھنا
- حصے
- سینئر
- خدمت
- سروس
- سروسز
- اجلاس
- مقرر
- سیکنڈ اور
- ہونا چاہئے
- سے ظاہر ہوا
- اسی طرح
- سادہ
- آسان
- سنگاپور
- ایک
- چھوٹے
- سافٹ ویئر کی
- سوفٹ ویئر کی نشوونما
- سافٹ ویئر انجینئرنگ
- حل
- حل کرنا۔
- ماخذ
- اسپیکر
- ماہر
- مخصوص
- مخصوص
- خرچ
- تقسیم
- استحکام
- مستحکم
- معیار
- شروع کریں
- ریاستی آرٹ
- درجہ
- مراحل
- ذخیرہ
- ذخیرہ
- براہ راست
- مطالعہ
- جمع کرانے
- جمع
- جمع کرائی
- سب نیٹ
- اس طرح
- سوٹ
- سویٹ
- خلاصہ
- حمایت
- امدادی
- اس بات کا یقین
- سڈنی
- ہم آہنگی
- کے نظام
- سسٹمز
- ٹیبل
- لے لو
- ٹیکنیکل
- دہلی
- ٹرمنل
- ٹیکساس
- سے
- کہ
- ۔
- ان
- ان
- تو
- یہ
- وہ
- اس
- ہزاروں
- کے ذریعے
- بھر میں
- وقت
- کرنے کے لئے
- آج
- ٹوکن دینا
- ٹوکیو
- ٹرین
- ٹریننگ
- منتقل
- قسم
- اقسام
- کے تحت
- یونیورسٹی
- ٹوکیو یونیورسٹی
- اپ ڈیٹ کریں
- استعمال کی شرائط
- استعمال کیا جاتا ہے
- رکن کا
- صارفین
- استعمال
- کا استعمال کرتے ہوئے
- کی افادیت
- استعمال کرنا۔
- مختلف
- وسیع
- ورژن
- کی طرف سے
- لنک
- ورجینیا
- مجازی
- دورہ
- واک تھرو
- تھا
- راستہ..
- we
- ویب
- ویب خدمات
- مہینے
- اچھا ہے
- جب
- جس
- جبکہ
- بڑے پیمانے پر
- وکیپیڈیا
- گے
- ساتھ
- کے اندر
- بغیر
- کام کیا
- کارکن
- گا
- آپ
- اور
- زیفیرنیٹ