Tìm kiếm kiến ​​trúc thần kinh được tối ưu hóa Hyperscale HW (Google)

Một bài báo kỹ thuật mới có tiêu đề “Tìm kiếm kiến ​​trúc thần kinh được tối ưu hóa phần cứng siêu quy mô” đã được xuất bản bởi các nhà nghiên cứu tại Google, Apple và Waymo.

“Bài viết này giới thiệu Tìm kiếm kiến ​​trúc thần kinh được tối ưu hóa phần cứng siêu quy mô đầu tiên (H₂O-NAS) để tự động thiết kế các mô hình học máy chính xác và hiệu quả phù hợp với kiến ​​trúc phần cứng cơ bản. H₂O-NAS bao gồm ba thành phần chính: thuật toán tìm kiếm “một lần” song song rộng rãi mới với tính năng chia sẻ trọng số thông minh, có thể mở rộng theo không gian tìm kiếm của O(10²⁸⁰) và xử lý khối lượng lớn lưu lượng sản xuất; không gian tìm kiếm được tối ưu hóa phần cứng cho các mô hình ML đa dạng trên phần cứng không đồng nhất; và một mô hình hiệu suất kết hợp hai pha mới lạ và chức năng khen thưởng đa mục tiêu được tối ưu hóa cho việc triển khai quy mô lớn,” bài báo nêu rõ.

Tìm giấy kỹ thuật ở đây. Xuất bản tháng 2023 năm XNUMX.

Sheng Li, Garrett Andersen, Tao Chen, Liqun Cheng, Julian Grady, Da Huang, Quốc V. Le, Andrew Li, Xin Li, Yang Li, Chen Liang, Yifeng Lu, Yun Ni, Ruoming Pang, Mingxing Tan, Martin Wicke, Gang Wu, Shengqi Zhu, Parthasarathy Ranganathan và Norman P. Jouppi. 2023. Tìm kiếm kiến ​​trúc thần kinh được tối ưu hóa phần cứng siêu quy mô. Trong Kỷ yếu của Hội nghị quốc tế ACM lần thứ 28 về hỗ trợ kiến ​​trúc cho ngôn ngữ lập trình và hệ điều hành, Tập 3 (ASPLOS 2023). Hiệp hội Máy tính, New York, NY, Hoa Kỳ, 343–358. https://doi.org/10.1145/3582016.3582049

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• Platoblockchain. Web3 Metaverse Intelligence. Khuếch đại kiến ​​thức. Truy cập Tại đây.
• Đúc kết tương lai với Adryenn Ashley. Truy cập Tại đây.
• nguồn: https://semiengineering.com/hyperscale-hw-optimized-neural-architecture-search-google/