به‌روزرسانی‌های پنل Synopsys درباره وضعیت سیستم‌های چند قالب - Semiwiki

بازنشر افلاطون

دنبال: 0

Synopsys اخیراً میزبان یک پانل بین‌صنعتی در مورد وضعیت سیستم‌های چند قالبی بود که به نظر من به دلیل ارتباط آن با شتاب سریع در سخت‌افزار مبتنی بر هوش مصنوعی جالب بود. بیشتر در مورد آن در زیر. اعضای پانل که همگی نقش مهمی در سیستم‌های چندگانه داشتند، عبارت بودند از: شکر کاپور (مدیر ارشد مدیریت محصول، سینوپسیس)، چولمین پارک (معاون شرکت، سامسونگ)، لالیتا ایماننی (معاونت معماری، طراحی و راه‌حل‌های فناوری، اینتل)، مایکل شافرت. (معاون ارشد، بوش)، و مورات بسر (معاونت تحقیق و توسعه، Ansys). این پنل توسط مارکو چیاپتا (از بنیانگذاران و تحلیلگر اصلی، چشم انداز و تحلیل هات تک) مدیریت شد.

مولتی دای 525x315 نور

یک محرک تقاضای بزرگ

در این عنوان رایج است که همه مظنونین معمولی (HPC، خودرو، و غیره) را معرفی کنیم، اما این فهرست ممکن است بزرگترین عامل اساسی باشد - تقلای فعلی برای تسلط بر همه چیزهای LLM و هوش مصنوعی مولد. مدل‌های زبان بزرگ سطوح جدیدی از خدمات SaaS را در جستجو، ایجاد سند و سایر قابلیت‌ها ارائه می‌کنند، با مزیت‌های رقابتی عمده برای کسانی که زودتر این کار را انجام دهند. در دستگاه‌های تلفن همراه و در خودرو، کنترل و بازخورد برتر مبتنی بر زبان طبیعی، گزینه‌های مبتنی بر صدا موجود را در مقایسه ابتدایی به نظر می‌رساند. در همین حال، روش‌های تولیدی برای ایجاد تصاویر جدید با استفاده از مدل‌های Diffusion و جریان پواسون می‌توانند نقاشی‌های گرافیکی دیدنی را بر روی متن یا عکسی که با کتابخانه‌های تصویر تکمیل شده است، به نمایش بگذارند. به عنوان یک جذب مصرف کننده، این می تواند چیز بزرگ بعدی برای نسخه های بعدی تلفن باشد.

در حالی که هوش مصنوعی مبتنی بر ترانسفورماتور یک فرصت بزرگ $$$ ارائه می دهد، اما با چالش هایی همراه است. فن‌آوری‌هایی که چنین روش‌هایی را ممکن می‌سازند، قبلاً در فضای ابری اثبات شده‌اند و در لبه‌ها ظاهر می‌شوند، اما به‌طور مشهوری تشنه حافظه هستند. LLM های تولیدی از میلیاردها تا تریلیون ها پارامتر دارند که باید در ترانسفورماتور بارگذاری شوند. تقاضا برای فضای کاری در فرآیند به همان اندازه زیاد است. تصویربرداری مبتنی بر انتشار به تدریج نویز را به یک تصویر کامل اضافه می کند و سپس دوباره از طریق پلتفرم های مبتنی بر ترانسفورماتور به تصویر اصلاح شده باز می گردد.

به غیر از بار اولیه، هیچ یک از این فرآیندها نمی توانند هزینه سربار تعامل با DRAM خارجی را تامین کنند. تأخیر قابل قبول نیست و تقاضای برق باتری تلفن را تخلیه می کند یا بودجه انرژی یک مرکز داده را کاهش می دهد. تمام حافظه باید در نزدیکی - بسیار نزدیک - محاسبات باشد. یک راه حل این است که SRAM را در بالای شتاب دهنده قرار دهید (همانطور که AMD و اکنون اینتل برای تراشه های سرور خود نشان داده اند). حافظه با پهنای باند بالا در بسته گزینه تا حدودی کندتر دیگری را اضافه می کند، اما هنوز به کندی DRAM خارج از تراشه نیست.

همه اینها به سیستم های چند قالبی نیاز دارند. پس ما در کجا هستیم که آن گزینه را آماده تولید کنیم؟

دیدگاه هایی درباره جایی که در آن قرار داریم

من اشتیاق زیادی برای رشد در این حوزه، در پذیرش، برنامه‌های کاربردی و ابزارسازی شنیدم. اینتل، AMD، کوالکام، سامسونگ همه به وضوح در این فضا بسیار فعال هستند. Apple M2 Ultra به عنوان یک طراحی دای دوگانه و AWS Graviton 3 یک سیستم چند دای شناخته شده است. من مطمئن هستم که نمونه های زیادی در میان سیستم های بزرگ و خانه های نیمه هادی وجود دارد. من این تصور را دارم که قالب ها هنوز عمدتاً در داخل تهیه می شوند (به جز احتمالاً پشته های HBM) و در فناوری های بسته بندی ریخته گری از TSMC، سامسونگ یا اینتل مونتاژ می شوند. با این حال، Tenstorrent به تازگی اعلام کرده است که سامسونگ را برای تولید نسل بعدی طراحی هوش مصنوعی خود به عنوان یک چیپلت (قالبی مناسب برای استفاده در یک سیستم چند قالبی) انتخاب کرده است، بنابراین این فضا در حال حاضر به سمت منبع یابی گسترده تر قالب ها نزدیک شده است.

همه اعضای میزگرد طبیعتاً مشتاق مسیر کلی بودند، و به وضوح فناوری‌ها و ابزارها به سرعت در حال پیشرفت هستند که این موضوع باعث ایجاد سر و صدا می‌شود. لالیتا این شور و شوق را با اشاره به اینکه روشی که سیستم‌های چند قالبی در حال حاضر در حال معماری و طراحی هستند، هنوز در مراحل ابتدایی خود است و هنوز آماده راه‌اندازی یک بازار گسترده قابل استفاده مجدد برای قالب‌ها نیست، ثابت کرد. این من را شگفت زده نمی کند. فناوری با این پیچیدگی به نظر می رسد که ابتدا باید در مشارکت های تنگاتنگ بین طراحان سیستم، ریخته گری و شرکت های EDA بالغ شود، شاید در طی چندین سال قبل از اینکه بتواند به مخاطبان بیشتری گسترش یابد.

من مطمئن هستم که ریخته‌گری‌ها، سازندگان سیستم و شرکت‌های EDA همه کارت‌های خود را نشان نمی‌دهند و ممکن است فراتر از آن باشند که برای تبلیغات انتخاب می‌کنند. من مشتاقانه منتظر شنیدن بیشتر هستم. می توانید بحث پنل را تماشا کنید اینجا.

اشتراک گذاری این پست از طریق: