GDDR6 AI/ML انفرنس کے لیے کارکردگی فراہم کرتا ہے۔

AI/ML بجلی کی رفتار سے تیار ہو رہا ہے۔ فیلڈ میں کچھ نئی اور دلچسپ پیشرفت کے بغیر ابھی ایک ہفتہ بھی نہیں گزرتا ہے، اور ChatGPT جیسی ایپلی کیشنز نے AI کی تخلیقی صلاحیتوں کو مضبوطی سے عوام کی توجہ کے سامنے لایا ہے۔

AI/ML واقعی دو ایپلی کیشنز ہیں: ٹریننگ اور انفرنس۔ ہر ایک میموری کی کارکردگی پر انحصار کرتا ہے، اور ہر ایک کے پاس ضروریات کا ایک منفرد سیٹ ہوتا ہے جو بہترین میموری حل کے لیے انتخاب کو آگے بڑھاتا ہے۔

تربیت کے ساتھ، میموری بینڈوڈتھ اور صلاحیت اہم تقاضے ہیں۔ یہ خاص طور پر نیورل نیٹ ورک ڈیٹا ماڈلز کے سائز اور پیچیدگی کو دیکھتے ہوئے ہے جو ہر سال 10X کی شرح سے بڑھ رہے ہیں۔ عصبی نیٹ ورک کی درستگی کا انحصار تربیتی ڈیٹا سیٹ میں مثالوں کے معیار اور مقدار پر ہوتا ہے جو کہ بہت زیادہ ڈیٹا کی ضرورت میں ترجمہ کرتا ہے، اور اسی وجہ سے میموری کی بینڈوتھ اور صلاحیت۔

تربیت کے ذریعے پیدا ہونے والی قدر کو دیکھتے ہوئے، تربیت کو جلد از جلد مکمل کرنے کے لیے ایک طاقتور ترغیب ہے۔ چونکہ ڈیٹا سینٹرز میں ٹریننگ ایپلی کیشنز چلتی ہیں جو طاقت اور جگہ کے لیے تیزی سے محدود ہوتی ہیں، ایسے حل جو بجلی کی کارکردگی اور چھوٹے سائز کی پیشکش کرتے ہیں۔ ان تمام ضروریات کو دیکھتے ہوئے، HBM3 AI ٹریننگ ہارڈ ویئر کے لیے ایک مثالی میموری حل ہے۔ یہ بہترین بینڈوتھ اور صلاحیت کی صلاحیتیں فراہم کرتا ہے۔

نیورل نیٹ ورک ٹریننگ کا آؤٹ پٹ ایک انفرنس ماڈل ہے جسے وسیع پیمانے پر تعینات کیا جا سکتا ہے۔ اس ماڈل کے ساتھ، ایک انفرنس ڈیوائس تربیتی ڈیٹا کی حدود سے باہر آدانوں پر کارروائی اور تشریح کر سکتی ہے۔ اندازہ لگانے کے لیے، میموری تھرو پٹ کی رفتار اور کم لیٹنسی اہم ہے، خاص طور پر جب ریئل ٹائم ایکشن کی ضرورت ہو۔ ڈیٹا سینٹر کے قلب سے نیٹ ورک کے کنارے پر زیادہ سے زیادہ AI تخمینہ منتقل ہونے کے ساتھ، یہ میموری کی خصوصیات اور بھی اہم ہوتی جارہی ہیں۔

ڈیزائنرز کے پاس AI/ML تخمینہ کے لیے میموری کے بہت سے انتخاب ہوتے ہیں، لیکن بینڈوتھ کے اہم پیرامیٹر پر، GDDR6 میموری واقعی چمکتی ہے۔ 24 گیگا بائٹس فی سیکنڈ (Gb/s) کے ڈیٹا ریٹ پر اور 32 بٹ چوڑے انٹرفیس پر، ایک GDDR6 ڈیوائس 96 گیگا بائٹس فی سیکنڈ (GB/s) میموری بینڈوتھ فراہم کر سکتا ہے، جو کسی بھی متبادل DDR سے دوگنا یا زیادہ ہے۔ ایل پی ڈی ڈی آر حل۔ GDDR6 میموری AI/ML تخمینہ کے لیے رفتار، بینڈوتھ اور لیٹنسی کارکردگی کا ایک بہترین امتزاج پیش کرتی ہے، خاص طور پر کنارے پر اندازہ لگانے کے لیے۔

Rambus GDDR6 میموری انٹرفیس سب سسٹم 24 Gb/s کی کارکردگی پیش کرتا ہے اور یہ 30 سال سے زیادہ ہائی اسپیڈ سگنل انٹیگریٹی اور پاور انٹیگریٹی (SI/PI) مہارت کی بنیاد پر بنایا گیا ہے، جو GDDR6 کو تیز رفتاری سے چلانے کے لیے اہم ہے۔ یہ ایک PHY اور ڈیجیٹل کنٹرولر پر مشتمل ہے - ایک مکمل GDDR6 میموری انٹرفیس سب سسٹم فراہم کرتا ہے۔

اس ماہ "Rambus webinar" میں میرے ساتھ شامل ہوں۔24G GDDR6 میموری کے ساتھ اعلی کارکردگی کا AI/ML اندازہیہ دریافت کرنے کے لیے کہ کس طرح GDDR6 AI/ML انفرنس ورک بوجھ کی میموری اور کارکردگی کی ضروریات کو سپورٹ کرتا ہے اور GDDR6 میموری انٹرفیس سب سسٹمز کے کچھ اہم ڈیزائن اور نفاذ کے بارے میں جانیں۔

وسائل: