کنارے پر AI کے لیے پلیٹ فارم کے انتخاب پر Acronix

کولن الیگزینڈر (Achronix میں پروڈکٹ مارکیٹنگ کے ڈائریکٹر) نے حال ہی میں اس موضوع پر ایک ویبینار جاری کیا۔ صرف 20 منٹ میں ویبنار ایک آسان گھڑی ہے اور ڈیٹا ٹریفک اور عمل درآمد کے اختیارات پر ایک مفید اپ ڈیٹ ہے۔ ڈاؤن لوڈز پر اب بھی ویڈیو کا غلبہ ہے (فیس بک کے لیے 50% سے زیادہ) جو اب بہت زیادہ انحصار کنارے پر یا اس کے قریب کیشنگ پر ہے۔ ان میں سے کون سا لاگو ہوتا ہے اس کا انحصار آپ کی "Edge" کی تعریف پر ہے۔ IoT دنیا خود کو کنارے کے طور پر دیکھتی ہے، کلاؤڈ اور انفراسٹرکچر کی دنیا بظاہر انفراسٹرکچر میں آخری کمپیوٹ نوڈ کو، ان لیف ڈیوائسز سے پہلے، کنارے کے طور پر دیکھتی ہے۔ آلو، آلو۔ کسی بھی صورت میں کنارے کا بنیادی ڈھانچہ وہ جگہ ہے جہاں آپ کو ویڈیو کیشنگ ملے گی، تاکہ سب سے زیادہ مقبول ڈاؤن لوڈز کو مؤثر طریقے سے اور جلد از جلد پیش کیا جا سکے۔

کنارے پر اختیارات کی گنتی کریں (اور کلاؤڈ میں)

کولن ابتدائی طور پر انفراسٹرکچر ایج کے بارے میں بات کرتا ہے جہاں کمپیوٹ اور اے آئی میں کچھ ہارس پاور کی ضرورت ہوتی ہے۔ وہ معیاری اختیارات پیش کرتا ہے: CPU، GPU، ASIC یا FPGA۔ سی پی یو پر مبنی حل میں سب سے زیادہ لچک ہوتی ہے کیونکہ آپ کا حل مکمل طور پر سافٹ ویئر پر مبنی ہوگا۔ اسی وجہ سے، یہ عام طور پر سب سے سست، سب سے زیادہ طاقت کا بھوکا اور سب سے طویل تاخیر کا آپشن بھی ہو گا (لیف نوڈس کے چکر لگانے کے لیے میرے خیال میں)۔ GPUs کارکردگی اور طاقت کے لحاظ سے CPUs کے مقابلے میں قدرے کم لچک کے ساتھ کچھ بہتر ہیں۔ ایک ASIC (کسٹم ہارڈ ویئر) سب سے تیز، سب سے کم طاقت اور سب سے کم لیٹنسی ہو گا، حالانکہ تصور میں کم سے کم لچکدار (تمام اسمارٹ ہارڈ ویئر میں ہیں جنہیں تبدیل نہیں کیا جا سکتا)۔

وہ FPGA (یا ایمبیڈڈ FPGA/eFPGA) کو ان انتہاؤں کے درمیان ایک اچھے سمجھوتے کے طور پر پیش کرتا ہے۔ کارکردگی، طاقت اور تاخیر پر CPU یا GPU سے بہتر ہے اور لچک پر CPU اور GPU کے درمیان کہیں بہتر ہے۔ جب کہ لچک پر ASIC سے بہت بہتر ہے کیونکہ FPGA کو دوبارہ پروگرام کیا جا سکتا ہے۔ جہاں تک یہ سب کچھ میرے لیے سمجھ میں آتا ہے، حالانکہ میرے خیال میں کہانی کو پلیٹ فارم لائن اپ میں ڈی ایس پیز کو شامل کرکے مکمل کیا جانا چاہیے تھا۔ ان میں AI مخصوص ہارڈویئر فوائد (ویکٹرائزیشن، MAC arrays، وغیرہ) ہوسکتے ہیں جو کارکردگی، طاقت اور تاخیر کو فائدہ پہنچاتے ہیں۔ سافٹ ویئر کی لچک کو برقرار رکھتے ہوئے دوسری اہم بات لاگت ہے۔ یقیناً یہ ہمیشہ ایک حساس موضوع ہوتا ہے لیکن AI قابل CPUs، GPUs اور FPGA ڈیوائسز مہنگی ہو سکتی ہیں، جو ایک کنارے نوڈ کے مواد کے بل کے لیے تشویش کا باعث ہے۔

کولن کا استدلال میرے لیے ایک بڑے ایس او سی میں سرایت شدہ eFPGA کے کنارے پر سب سے زیادہ معنی رکھتا ہے۔ کلاؤڈ ایپلی کیشن میں، رکاوٹیں مختلف ہوتی ہیں۔ ایک سمارٹ نیٹ ورک انٹرفیس کارڈ شاید قیمت کے لحاظ سے حساس نہیں ہوتا ہے اور سافٹ ویئر پر مبنی حل کے مقابلے FPGA پر مبنی حل میں کارکردگی کا فائدہ ہوسکتا ہے۔

ای ایف پی جی اے کے ذریعے کمپیوٹ ایج پر AI ایپلی کیشنز کو سپورٹ کرنا ایک آپشن کی طرح لگتا ہے جو مزید تفتیش کے قابل ہے۔ لیف نوڈس کی طرف مزید باہر جانا میرے لیے مبہم ہے۔ لاجسٹک ٹریکر یا مٹی کی نمی کا سینسر یقینی طور پر اہم کمپیوٹ کی میزبانی نہیں کرے گا، لیکن آواز کو چالو کرنے والے ٹی وی ریموٹ کا کیا ہوگا؟ یا ایک سمارٹ مائکروویو؟ دونوں کو AI کی ضرورت ہے لیکن نہ ہی بہت زیادہ ہارس پاور کی ضرورت ہے۔ مائکروویو میں وائرڈ پاور ہے، لیکن ٹی وی ریموٹ یا ریموٹ سمارٹ اسپیکر بیٹریوں پر چلتا ہے۔ یہاں ای ایف پی جی اے ٹریڈ آفس کو جاننا دلچسپ ہوگا۔

AI کے لیے eFPGA کی صلاحیتیں۔

ڈیٹا شیٹ کے مطابق، Speedster 7t مکمل طور پر فریکچر ایبل انٹیجر MACs، لچکدار فلوٹنگ پوائنٹ، bfloat کے لیے مقامی مدد اور موثر میٹرکس ضرب پیش کرتا ہے۔ مجھے TOPS یا TOPS/Watt پر کوئی ڈیٹا نہیں مل سکا۔ مجھے یقین ہے کہ اس کا انحصار نفاذ پر ہے لیکن مثالیں کارآمد ہوں گی۔ یہاں تک کہ کنارے پر بھی، کچھ ایپلی کیشنز کارکردگی کے لحاظ سے بہت حساس ہیں - مثال کے طور پر کاروں میں سمارٹ سرویلنس اور آگے کی طرف آنے والی چیز کا پتہ لگانا۔ یہ جاننا دلچسپ ہوگا کہ ایسی ایپلی کیشنز میں eFPGA کہاں فٹ ہو سکتا ہے۔

فکر انگیز ویبینار۔ آپ اسے دیکھ سکتے ہیں۔ HERE.

اس پوسٹ کو بذریعہ شیئر کریں:

• SEO سے چلنے والا مواد اور PR کی تقسیم۔ آج ہی بڑھا دیں۔
• پلیٹو بلاک چین۔ Web3 Metaverse Intelligence. علم میں اضافہ۔ یہاں تک رسائی حاصل کریں۔
• ماخذ: https://semiwiki.com/efpga/323785-achronix-on-platform-selection-for-ai-at-the-edge/