Hyperscale HW Optimized Neural Architecture Search (Google)

Μια νέα τεχνική εργασία με τίτλο «Hyperscale Hardware Optimized Neural Architecture Search» δημοσιεύτηκε από ερευνητές της Google, της Apple και της Waymo.

«Αυτή η εργασία εισάγει την πρώτη Αναζήτηση Βελτιστοποιημένης Νευρικής Αρχιτεκτονικής Υπερκλίμακας Υλικού (H₂O-NAS) για να σχεδιάσει αυτόματα ακριβή και αποδοτικά μοντέλα μηχανικής μάθησης προσαρμοσμένα στην υποκείμενη αρχιτεκτονική υλικού. H₂Το O-NAS αποτελείται από τρία βασικά στοιχεία: έναν νέο μαζικά παράλληλο αλγόριθμο αναζήτησης "one-shot" με έξυπνο μοίρασμα βάρους, ο οποίος μπορεί να κλιμακωθεί σε χώρους αναζήτησης O(10²⁸⁰) και χειρίζεται μεγάλους όγκους κίνησης παραγωγής· Χώροι αναζήτησης βελτιστοποιημένοι για υλικό για διαφορετικά μοντέλα ML σε ετερογενές υλικό. και ένα νέο μοντέλο υβριδικής απόδοσης δύο φάσεων και μια λειτουργία ανταμοιβής πολλαπλών στόχων βελτιστοποιημένη για αναπτύξεις μεγάλης κλίμακας», αναφέρει το έγγραφο.

Βρείτε το τεχνικό έγγραφο εδώ. Δημοσιεύθηκε Μάρτιος 2023.

Sheng Li, Garrett Andersen, Tao Chen, Liqun Cheng, Julian Grady, Da Huang, Quoc V. Le, Andrew Li, Xin Li, Yang Li, Chen Liang, Yifeng Lu, Yun Ni, Ruoming Pang, Mingxing Tan, Martin Wicke, Gang Wu, Shengqi Zhu, Parthasarathy Ranganathan και Norman P. Jouppi. 2023. Υπερκλίμακα Hardware Optimized Neural Architecture Search. In Proceedings of the 28th ACM International Conference on Architectural Support for Programming Languages ​​and Operating Systems, Τόμος 3 (ASPLOS 2023). Association for Computing Machinery, Νέα Υόρκη, Νέα Υόρκη, ΗΠΑ, 343–358. https://doi.org/10.1145/3582016.3582049

• SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
• Platoblockchain. Web3 Metaverse Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
• Minting the Future με την Adryenn Ashley. Πρόσβαση εδώ.
• πηγή: https://semiengineering.com/hyperscale-hw-optimized-neural-architecture-search-google/