Hyperscale HW Optimized Neural Architecture Search (Google)

Hyperscale HW Optimized Neural Architecture Search (Google)

Izvorno vozlišče: 2600411

Nov tehnični dokument z naslovom "Hyperscale Hardware Optimized Neural Architecture Search" so objavili raziskovalci pri Googlu, Appleu in Waymu.

»Ta članek predstavlja prvo iskanje nevronske arhitekture, optimizirane za strojno opremo Hyperscale (H2O-NAS) za samodejno oblikovanje natančnih in zmogljivih modelov strojnega učenja, prilagojenih temeljni arhitekturi strojne opreme. H2O-NAS je sestavljen iz treh ključnih komponent: novega množično vzporednega iskalnega algoritma »en-shot« z inteligentno delitvijo teže, ki se lahko prilagaja iskalnim prostorom O(10280) in upravljajo velike količine proizvodnega prometa; strojno optimizirana iskalna mesta za različne modele ML na heterogeni strojni opremi; in nov dvofazni hibridni model zmogljivosti ter funkcija nagrajevanja z več cilji, optimizirana za obsežne uvedbe,« navaja dokument.

Najdi tehnični papir tukaj. Objavljeno marca 2023.

Sheng Li, Garrett Andersen, Tao Chen, Liqun Cheng, Julian Grady, Da Huang, Quoc V. Le, Andrew Li, Xin Li, Yang Li, Chen Liang, Yifeng Lu, Yun Ni, Ruoming Pang, Mingxing Tan, Martin Wicke, Gang Wu, Shengqi Zhu, Parthasarathy Ranganathan in Norman P. Jouppi. 2023. Hiperscale strojno optimizirana nevronska arhitektura. V zborniku 28. mednarodne konference ACM o arhitekturni podpori za programske jezike in operacijske sisteme, zvezek 3 (ASPLOS 2023). Association for Computing Machinery, New York, NY, ZDA, 343–358. https://doi.org/10.1145/3582016.3582049


Časovni žig:

Več od Semi Engineering