超大规模硬件优化神经架构搜索(Google)

超大规模硬件优化神经架构搜索(Google)

源节点: 2600411

谷歌、苹果和 Waymo 的研究人员发表了一篇题为“超大规模硬件优化神经架构搜索”的新技术论文。

“本文介绍了第一个超大规模硬件优化神经架构搜索(H2O-NAS)自动设计适合底层硬件架构的准确且高性能的机器学习模型。 H2O-NAS 由三个关键组件组成:一种具有智能权重共享的新型大规模并行“一次性”搜索算法,可以扩展到 O(10280)并处理大量生产流量;针对异构硬件上的各种机器学习模型的硬件优化搜索空间;以及一种新颖的两阶段混合性能模型和针对大规模部署优化的多目标奖励函数,”该论文指出。

找出 这里的技术论文. 2023 年 XNUMX 月出版。

李盛、Garrett Andersen、陈涛、程立群、Julian Grady、Da Huang、Quoc V. Le、Andrew Li、Xin Li、Yang Li、Chen Liang、Yifeng Lu、Yun Ni、庞若明、Mingxing Tan、Martin Wicke、吴刚、朱胜奇、Parthasarathy Ranganathan 和 Norman P. Jouppi。 2023。超大规模硬件优化神经架构搜索。第 28 届 ACM 国际编程语言和操作系统架构支持会议论文集,第 3 卷 (ASPLOS 2023)。计算机协会,美国纽约州纽约市,343–358。 https://doi.org/10.1145/3582016.3582049

时间戳记:

更多来自 半工程