Hyperscale HW Optimized Neural Architecture Search (Google)

Hyperscale HW Optimized Neural Architecture Search (Google)

Forrás csomópont: 2600411

„Hyperscale Hardware Optimized Neural Architecture Search” címmel új technikai cikket tettek közzé a Google, az Apple és a Waymo kutatói.

„Ez a cikk bemutatja az első Hyperscale Hardware Optimized Neural Architecture Search (H2O-NAS), hogy automatikusan pontos és hatékony gépi tanulási modelleket tervezzenek az alapul szolgáló hardverarchitektúrához szabva. H2Az O-NAS három kulcsfontosságú komponensből áll: egy új, masszívan párhuzamos „egyszeri” keresési algoritmus intelligens súlymegosztással, amely méretezhető a keresési területekre. O(10280) és nagy mennyiségű gyártási forgalmat bonyolítanak le; hardverre optimalizált keresési terek különféle ML modellekhez heterogén hardvereken; valamint egy új, kétfázisú hibrid teljesítménymodell és egy többcélú jutalmazási funkció, amelyet nagy léptékű telepítésekre optimalizáltak” – áll a közleményben.

Keresse meg a műszaki papír itt. Közzétéve: 2023. március.

Sheng Li, Garrett Andersen, Tao Chen, Liqun Cheng, Julian Grady, Da Huang, Quoc V. Le, Andrew Li, Xin Li, Yang Li, Chen Liang, Yifeng Lu, Yun Ni, Ruoming Pang, Mingxing Tan, Martin Wicke, Gang Wu, Shengqi Zhu, Parthasarathy Ranganathan és Norman P. Jouppi. 2023. Hyperscale Hardware Optimized Neural Architecture Search. In Proceedings of the 28. ACM International Conference on Architectural Support for Programming Languages ​​and Operating Systems, Volume 3 (ASPLOS 2023). Association for Computing Machinery, New York, NY, USA, 343–358. https://doi.org/10.1145/3582016.3582049


Időbélyeg:

Még több Semi Engineering