マルチダイシステムの現状に関するシノプシスパネルの最新情報 - Semiwiki

プラトン再発行

フォロワー： 0

シノプシスは最近、マルチダイシステムの状況に関する業界横断的なパネルを主催しました。特に AI 中心のハードウェアの急速な加速との関連性が興味深いと思いました。詳細については以下をご覧ください。パネリストは全員マルチダイシステムで重要な役割を果たしており、Shekhar Kapoor (シノプシス社製品管理シニアディレクター)、Cheolmin Park (サムスン社コーポレート VP)、Lalitha Immaneni (Intel アーキテクチャ、デザイン、テクノロジーソリューション担当副社長)、Michael Schaffert でした。 (上級副社長、ボッシュ)、および Murat Becer (副社長、R&D、Ansys)。このパネルは、Marco Chiappetta (HotTech Vision and Analysis の共同創設者兼主席アナリスト) が司会を務めました。

マルチダイ 525x315 ライト

大きな需要の原動力

この見出しの下では、通常の容疑者 (HPC、自動車など) をすべて展開するのが一般的ですが、そのリストはおそらく最大の根底にある要因、つまりすべての LLM と生成 AI における優位性をめぐる現在の争奪戦を空売りしています。大規模な言語モデルは、検索、ドキュメント作成、その他の機能において新しいレベルの SaaS サービスを提供し、これを最初に適切に実現した人に大きな競争上の利点がもたらされます。モバイルデバイスや車内では、優れた自然言語ベースの制御とフィードバックにより、既存の音声ベースのオプションが原始的なものに見えます。一方、拡散およびポアソン流モデルを使用して新しい画像を作成する生成手法は、画像ライブラリによって補完されたテキストまたは写真上に描画される壮観なグラフィックを汲み出すことができます。消費者を惹きつけるものとして、これは将来の携帯電話のリリースにとって次の大きな目玉となる可能性があります。

トランスベースの AI は莫大な $$$ の機会をもたらしますが、課題も伴います。このような方法を可能にするテクノロジーはクラウドですでに実証されており、エッジでも出現していますが、メモリを大量に消費することはよく知られています。プロダクション LLM は、トランスにロードする必要がある数十億から数兆のパラメータを実行します。インプロセスワークスペースに対する需要も同様に高いです。拡散ベースのイメージングでは、完全な画像に徐々にノイズが追加され、再びトランスベースのプラットフォームを介して修正された画像に戻ります。

初期ロードを除けば、これらのプロセスはいずれも、外部 DRAM との対話によるオーバーヘッドを許容できません。遅延は許容できず、電力需要により電話機のバッテリーが消耗したり、データセンターの電力予算を使い果たしたりする可能性があります。すべてのメモリはコンピューティングの近く、つまり非常に近くにある必要があります。解決策の 1 つは、アクセラレータの上に SRAM をスタックすることです (AMD と現在 Intel がサーバーチップで実証しているように)。パッケージ内の高帯域幅メモリにより、多少遅いオプションが追加されますが、それでもオフチップ DRAM ほど遅くはありません。

そのすべてにマルチダイシステムが必要です。では、そのオプションを本番環境に対応させるという点では、私たちはどの段階にいるのでしょうか?

私たちの現状についての見解

導入、アプリケーション、ツールなど、この分野の成長に対する熱意をたくさん聞きました。 Intel、AMD、Qualcomm、Samsung はすべて、この分野で明らかに非常に積極的です。 Apple M2 Ultra はデュアルダイ設計であり、AWS Graviton 3 はマルチダイシステムであることが知られています。大手システム会社や半導体会社には他にもたくさんの例があると思います。ダイは依然として主に社内で調達され (おそらく HBM スタックを除く)、TSMC、Samsung、または Intel のファウンドリパッケージングテクノロジで組み立てられているという印象を受けます。しかし、Tenstorrent は、次世代 AI 設計をチップレット (マルチダイシステムでの使用に適したダイ) として製造するために Samsung を選択したと発表したばかりであるため、この分野はすでにより広範なダイソーシングに向けて少しずつ進んでいます。

パネリスト全員が当然のことながら全体的な方向性について熱心に話しており、明らかにテクノロジーやツールが急速に進化していることが話題の原因となっています。ラリサ氏は、現在構築および設計されているマルチダイシステムの方法がまだ初期段階にあり、ダイの大規模な再利用可能な市場を立ち上げる準備ができていないことを指摘して、その熱意を根拠づけました。それは驚きません。この複雑なテクノロジーは、まずシステム設計者、ファウンドリ、EDA 企業間の緊密なパートナーシップの中で成熟し、より多くのユーザーに普及できるようになるまでにおそらく数年かかるようです。

ファウンドリ、システムビルダー、EDA 企業はすべてのカードを公開しているわけではなく、宣伝するよりもさらに進んでいる可能性があると私は確信しています。もっと聞くのを楽しみにしています。パネルディスカッションをご覧いただけますこちら.

この投稿を共有する：