Hüperskaala HW optimeeritud närviarhitektuuri otsing (Google)

Hüperskaala HW optimeeritud närviarhitektuuri otsing (Google)

Allikasõlm: 2600411

Google'i, Apple'i ja Waymo teadlased avaldasid uue tehnilise dokumendi pealkirjaga "Hyperscale Hardware Optimized Neural Architecture Search".

"See artikkel tutvustab esimest hüperskaala riistvarale optimeeritud närviarhitektuuri otsingut (H2O-NAS), et luua automaatselt täpsed ja toimivad masinõppemudelid, mis on kohandatud aluseks oleva riistvaraarhitektuuriga. H2O-NAS koosneb kolmest põhikomponendist: uus massiliselt paralleelne "ühekordne" otsingualgoritm koos intelligentse kaalujagamisega, mida saab mastaapida vastavalt O(10280) ja tegelema suurte tootmismahtudega; riistvaraliselt optimeeritud otsinguruumid erinevate ML-mudelite jaoks heterogeensel riistvaral; ja uudset kahefaasilist hübriidset jõudlusmudelit ja mitme eesmärgiga tasustamisfunktsiooni, mis on optimeeritud suuremahuliste juurutuste jaoks,“ öeldakse dokumendis.

Leia tehniline paber siin. Avaldatud märtsis 2023.

Sheng Li, Garrett Andersen, Tao Chen, Liqun Cheng, Julian Grady, Da Huang, Quoc V. Le, Andrew Li, Xin Li, Yang Li, Chen Liang, Yifeng Lu, Yun Ni, Ruoming Pang, Mingxing Tan, Martin Wicke, Gang Wu, Shengqi Zhu, Parthasarathy Ranganathan ja Norman P. Jouppi. 2023. Hyperscale Hardware Optimized Neural Architecture Search. In Proceedings of the 28th ACM International Conference on Architectural Support for Programming Languages ​​and Operating Systems, Volume 3 (ASPLOS 2023). Association for Computing Machinery, New York, NY, USA, 343–358. https://doi.org/10.1145/3582016.3582049


Ajatempel:

Veel alates Pooltehnika