エッジでの AI のプラットフォーム選択に関する Achronix

Colin Alexander (Achronix の製品マーケティング担当ディレクター) は最近、このトピックに関するウェビナーをリリースしました。 ウェビナーはわずか 20 分間で、簡単に見ることができ、データ トラフィックと実装オプションに関する有用な最新情報を提供します。 ダウンロードは依然としてビデオが占めており (Facebook の場合は 50% 以上)、エッジまたはその近くのキャッシュに大きく依存しています。 これらのどれが当てはまるかは、「エッジ」の定義によって異なります。 IoT の世界は自らをエッジと見なし、クラウドとインフラストラクチャーの世界は明らかに、インフラストラクチャ内のリーフ デバイスの前にある最後のコンピューティング ノードをエッジと見なします。 ポテト、ポテト。 いずれにせよ、エッジのインフラストラクチャ ビューは、最も人気のあるダウンロードをできるだけ効率的かつ迅速に提供するためのビデオ キャッシングを見つける場所です。

エッジ (およびクラウド) でのコンピューティング オプション

Colin は最初に、コンピューティングと AI である程度の馬力が必要なインフラストラクチャ エッジについて話します。 CPU、GPU、ASIC、または FPGA の標準オプションを提示します。 CPU ベースのソリューションは、ソリューションが完全にソフトウェア ベースであるため、最大の柔軟性を備えています。 同じ理由で、それは一般に、最も遅く、最も電力を消費し、最も長い待ち時間のオプションでもあります（リーフノードへのラウンドトリップの場合）。 GPU は、CPU よりも柔軟性が少し劣りますが、パフォーマンスと電力の点でいくらか優れています。 ASIC (カスタム ハードウェア) は、最速、最小の電力、最小の遅延を実現しますが、概念的には柔軟性が最も低くなります (すべてのスマートはハードウェアにあり、変更することはできません)。

彼は、FPGA (または組み込み FPGA/eFPGA) を、これらの両極端の間の適切な妥協案として提示しています。 CPU や GPU よりもパフォーマンス、電力、レイテンシが優れており、柔軟性では CPU と GPU の間のどこかです。 FPGAは再プログラムできるため、柔軟性の点でASICよりもはるかに優れています。 プラットフォームのラインアップに DSP を追加することで、この話は完結するはずだったのですが。 これらには、AI 固有のハードウェアの利点 (ベクトル化、MAC 配列など) があり、パフォーマンス、消費電力、およびレイテンシにメリットがあります。 ソフトウェアの柔軟性を維持しながら。 もう XNUMX つの重要な考慮事項はコストです。 もちろん、これは常にデリケートなトピックですが、AI 対応の CPU、GPU、および FPGA デバイスは高価になる可能性があり、エッジ ノードの部品表が懸念されます。

Colin の議論は、より大きな SoC に組み込まれた eFPGA のエッジで最も理にかなっています。 クラウド アプリケーションでは、制約が異なります。 スマート ネットワーク インターフェイス カードはおそらく価格に敏感ではなく、FPGA ベースのソリューションはソフトウェア ベースのソリューションよりもパフォーマンスが優れている可能性があります。

eFPGA を介してコンピューティング エッジで AI アプリケーションをサポートすることは、さらに調査する価値のあるオプションのようです。 葉ノードに向かってさらに進むと、私にはあいまいです。 ロジスティクス トラッカーや土壌水分センサーは確かに重要なコンピューティングをホストしませんが、音声で起動するテレビのリモコンはどうでしょうか? それともスマート電子レンジ？ どちらも AI を必要としますが、どちらも多くの馬力を必要としません。 電子レンジの電源は有線ですが、テレビのリモコンやリモコンのスマート スピーカーは電池で動作します。 ここで eFPGA のトレードオフを知ることは興味深いでしょう。

AI 向けの eFPGA 機能

データシートによると、Speedster 7t は、完全にフラクチャ可能な整数 MAC、柔軟な浮動小数点、bfloat のネイティブ サポート、および効率的な行列乗算を提供します。 TOPS や TOPS/Watt のデータは見つかりませんでした。 それは実装に依存すると確信していますが、例は役に立ちます。 エッジであっても、一部のアプリケーションはパフォーマンスに非常に敏感です。たとえば、スマート監視や車内の前向き物体検出などです。 そのようなアプリケーションで eFPGA がどこに適合するかを知ることは興味深いでしょう。

考えさせられるウェビナー。 あなたはそれを見ることができます こちら.

この投稿を共有する：

• SEO を活用したコンテンツと PR 配信。 今日増幅されます。
• Platoblockchain。 Web3メタバースインテリジェンス。 知識の増幅。 こちらからアクセスしてください。
• 情報源： https://semiwiki.com/efpga/323785-achronix-on-platform-selection-for-ai-at-the-edge/