ハイパースケール HW 最適化ニューラル アーキテクチャ検索 (Google)

「ハイパースケール ハードウェアに最適化されたニューラル アーキテクチャ検索」というタイトルの新しい技術論文が、Google、Apple、Waymo の研究者によって発表されました。

「この論文では、最初のハイパースケール ハードウェア最適化ニューラル アーキテクチャ検索 (H₂O-NAS) を使用して、基盤となるハードウェア アーキテクチャに合わせた正確でパフォーマンスの高い機械学習モデルを自動的に設計します。 H₂O-NAS は 3 つの重要なコンポーネントで構成されています。インテリジェントな重み共有を備えた新しい大規模並列「ワンショット」検索アルゴリズムで、空間の検索に合わせて拡張できます。 O（10²⁸⁰) 大量の運用トラフィックを処理します。異種ハードウェア上の多様な ML モデル向けにハードウェアに最適化された検索スペース。そして、新しい 2 フェーズ ハイブリッド パフォーマンス モデルと、大規模な導入向けに最適化された多目的報酬関数です」と論文では述べられています。

見つける テクニカルペーパーはこちら。 2023年XNUMX月公開。

Sheng Li、Garrett Andersen、Tao Chen、Liqun Cheng、Julian Grady、Da Huang、Quoc V. Le、Andrew Li、Xin Li、Yang Li、Chen Liang、Yifeng Lu、Yun Ni、Ruoming Pang、Mingxing Tan、Martin Wicke、 Gang Wu、Shengqi Zhu、Parthasarathy Ranganathan、Norman P. Jouppi。 2023. ハイパースケール ハードウェアに最適化されたニューラル アーキテクチャ検索。プログラミング言語およびオペレーティング システムのアーキテクチャ サポートに関する第 28 回 ACM 国際会議議事録、第 3 巻 (ASPLOS 2023)。 Association for Computing Machinery、米国ニューヨーク州ニューヨーク、343–358。 https://doi.org/10.1145/3582016.3582049

• SEO を活用したコンテンツと PR 配信。 今日増幅されます。
• Platoblockchain。 Web3メタバースインテリジェンス。 知識の増幅。 こちらからアクセスしてください。
• 未来を鋳造する w エイドリエン・アシュリー。 こちらからアクセスしてください。
• 情報源： https://semiengineering.com/hyperscale-hw-optimized-neural-architecture-search-google/