하이퍼스케일 HW 최적화된 신경 아키텍처 검색(Google)

하이퍼스케일 HW 최적화된 신경 아키텍처 검색(Google)

소스 노드 : 2600411

Google, Apple, Waymo의 연구원들이 "Hyperscale Hardware Optimized Neural Architecture Search"라는 제목의 새로운 기술 논문을 출판했습니다.

“이 논문은 최초의 하이퍼스케일 하드웨어 최적화 신경 아키텍처 검색(H2O-NAS)를 사용하여 기본 하드웨어 아키텍처에 맞춰 정확하고 성능이 뛰어난 기계 학습 모델을 자동으로 설계합니다. 시간2O-NAS는 세 가지 주요 구성 요소로 구성됩니다. 지능형 가중치 공유 기능을 갖춘 새로운 대규모 병렬 "원샷" 검색 알고리즘으로 다음과 같은 검색 공간으로 확장할 수 있습니다. O(10280) 대량의 프로덕션 트래픽을 처리합니다. 이기종 하드웨어의 다양한 ML 모델을 위한 하드웨어 최적화 검색 공간 그리고 새로운 2단계 하이브리드 성능 모델과 대규모 배포에 최적화된 다중 목표 보상 기능이 있습니다.”라고 논문에서는 설명합니다.

찾기 여기에 기술 문서. 2023년 XNUMX월 게시.

Sheng Li, Garrett Andersen, Tao Chen, Liqun Cheng, Julian Grady, Da Huang, Quoc V. Le, Andrew Li, Xin Li, Yang Li, Chen Liang, Yifeng Lu, Yun Ni, Ruoming Pang, Mingxing Tan, Martin Wicke, Gang Wu, Shengqi Zhu, Parthasarathy Ranganathan 및 Norman P. Jouppi. 2023. 하이퍼스케일 하드웨어 최적화 신경 아키텍처 검색. 프로그래밍 언어 및 운영 체제에 대한 아키텍처 지원에 관한 제28차 ACM 국제 컨퍼런스 진행 중, 3권(ASPLOS 2023). 컴퓨팅 기계 협회, 뉴욕, 뉴욕, 미국, 343–358. https://doi.org/10.1145/3582016.3582049


타임 스탬프 :

더보기 세미 엔지니어링