Microsoft, 컴파일러 '헤비메탈 2.1중주'로 AI 효율성 향상 - Decrypt

플라톤에 의해 재발행

팔로워 : 0

Microsoft는 다양한 AI 모델의 성능을 최적화하도록 설계된 XNUMX개의 새로운 인공 지능 컴파일러 제품군을 공개했습니다. 최첨단 편집 도구의 "중금속 XNUMX중주"에는 Rammer, Roller, Welder 및 Grinder라는 이름이 있습니다.

이 도구는 Microsoft Research가 여러 교육 기관과 협력하여 개발했습니다. 이들은 기본적으로 소스 코드(사람이 읽을 수 있음)에서 기계 코드(컴퓨터를 실행 가능하게 만드는 XNUMX과 XNUMX의 묶음)로 변환하는 주류 AI 모델을 컴파일하고 GPU와 같은 하드웨어 가속기에서 보다 효율적으로 실행하기 위한 고급 솔루션을 제공합니다.

Microsoft 연구에서 블로그 게시물 highlighting their capabilities, the company says the compilers build on Microsoft’s extensive research and development in artificial intelligence.

MSR Asia의 수석 연구원인 Jilong Xue는 "우리가 개발한 AI 컴파일러는 AI 컴파일 효율성이 크게 향상되어 AI 모델의 교육 및 배포가 용이해졌습니다."라고 썼습니다. "미래에는 이러한 대규모 모델 자체가 본질적으로 최적화 및 컴파일을 달성하는 데 도움이 될 수 있습니다."

XNUMX개의 새로운 컴파일러는 각각 AI 워크로드 최적화에 있어 서로 다른 과제를 해결합니다.

다지는 사람 하드웨어 병렬성, 즉 서로 다른 작업을 동시에 수행할 수 있는 하드웨어 용량을 최대화하는 데 중점을 둡니다. 이는 성능의 핵심 요소이며 Rammer는 병렬 리소스 활용도를 향상시켜 런타임 예약 오버헤드를 최소화합니다.

롤러 빠른 구성 알고리즘을 사용하여 솔루션을 찾고 궁극적으로 몇 시간이 아닌 몇 초 만에 최적화된 커널을 생성하는 등 컴파일 속도를 높이기 위해 다른 접근 방식을 취합니다. 즉, Roller는 설계 프로세스를 단순화하여 AI를 위한 효율적인 컴퓨터 프로그램을 더 빠르게 만들 수 있도록 도와줍니다.

용접공 집중된 파이프라인에서 운영자를 연결하여 값비싼 메모리 액세스 트래픽을 줄입니다. 효율성을 높이기 위해 메모리 최적화를 단일 프레임워크로 통합합니다.

마지막으로, 분쇄기 데이터 흐름과 통합하여 가속기에서 제어 흐름 실행을 활성화합니다. 이를 통해 제어 흐름 경계 전반에 걸쳐 최적화가 가능합니다. 견습생의 단계를 안내하고 작업을 더 빨리 완료하기 위해 무엇을 해야 하는지 알려주는 전문가처럼 생각하십시오.

선도적인 기술 대기업 중 하나인 Microsoft는 AI 발전의 최전선에 있었습니다. 이 회사는 ChatGPT 및 Bing Chat을 지원하는 GPT-3.5 및 GPT-4와 같은 대규모 언어 모델에 대해 AI 연구 회사인 OpenAI와 긴밀히 파트너십을 맺었습니다. 최근에는 마이크로소프트 메타와 제휴 LLaMA-2를 클라우드 컴퓨팅 솔루션에 통합하고 생각의 알고리즘 ChatGPT와 같은 모델의 추론을 향상합니다.

테스트 결과 컴파일러는 벤치마크에서 기존 솔루션보다 훨씬 뛰어난 성능을 보였습니다. Rammer는 GPU에서 다른 컴파일러를 최대 20배 능가했습니다. 롤러는 최첨단 성능과 일치하거나 이를 초과하는 동시에 편집 시간을 몇 배나 단축합니다. Welder는 GPU에서 PyTorch와 같은 프레임워크를 최대 21배 능가했습니다. 제어 흐름을 최대 8배까지 향상시키는 그라인더 가속 모델.

헤비메탈 4인조는 혁신적인 AI 시스템을 설계하고 제품에 대한 재미있는 이름을 제시하는 데 있어서 Microsoft의 지속적인 리더십을 보여줍니다. OpenAI와 같은 AI 공간에서의 대규모 파트너십을 통해 헤드라인을 잡아, 회사는 또한 배후에서 AI를 강화하기 위해 중요한 소프트웨어 인프라를 적극적으로 개발합니다.

기존 솔루션에 비해 상당한 성능 향상을 통해 Rammer, Roller, Welder 및 Grinder는 더욱 복잡한 AI 워크로드가 등장함에 따라 주요 경쟁 우위를 제공할 수 있습니다.