멀티다이 시스템 상태에 대한 Synopsys 패널 업데이트 - Semiwiki

플라톤에 의해 재발행

팔로워 : 0

Synopsys는 최근 멀티 다이 시스템의 상태에 대한 업계 간 패널을 주최했는데, 이는 특히 AI 중심 하드웨어의 빠른 가속과의 관련성 때문에 흥미로웠습니다. 자세한 내용은 아래를 참조하세요. 패널리스트로는 모두 멀티다이 시스템에서 중요한 역할을 맡은 Shekhar Kapoor(Synopsys 제품 관리 수석 이사), 박철민(삼성 부사장), Lalitha Immaneni(인텔 아키텍처, 디자인 및 기술 솔루션 부사장), Michael Schaffert가 있었습니다. (Bosch 수석 부사장) 및 Murat Becer (Ansys R&D 부사장). 패널은 Marco Chiappetta(HotTech Vision and Analysis의 공동 창립자 겸 수석 분석가)가 진행했습니다.

멀티 다이 525x315 라이트

큰 수요 동인

이 제목 아래에서는 모든 일반적인 용의자(HPC, 자동차 등)를 출시하는 것이 일반적이지만 해당 목록은 아마도 가장 큰 기본 요소, 즉 모든 LLM 및 생성 AI에서 우위를 차지하기 위한 현재의 쟁탈전일 수 있습니다. 대규모 언어 모델은 검색, 문서 생성 및 기타 기능에서 새로운 수준의 SaaS 서비스를 제공하며 이를 먼저 달성하는 사람에게 큰 경쟁 우위를 제공합니다. 모바일 장치와 자동차에서 우수한 자연어 기반 제어 및 피드백은 기존 음성 기반 옵션을 상대적으로 원시적으로 보이게 만듭니다. 한편 확산 및 포아송 흐름 모델을 사용하여 새로운 이미지를 생성하는 생성 방법은 이미지 라이브러리로 보완된 텍스트나 사진에 멋진 그래픽 그림을 그려낼 수 있습니다. 소비자 입장에서 이는 향후 휴대폰 출시에 있어 다음으로 중요한 일이 될 수 있습니다.

트랜스포머 기반 AI는 엄청난 $$$ 기회를 제공하지만 어려움도 따릅니다. 이러한 방법을 가능하게 하는 기술은 이미 클라우드에서 입증되어 엣지에서 등장하고 있지만 메모리가 부족하기로 유명합니다. 프로덕션 LLM은 변환기에 로드해야 하는 수십억에서 수조 개의 매개변수를 실행합니다. 진행 중인 작업 공간에 대한 수요도 마찬가지로 높습니다. 확산 기반 이미징은 전체 이미지에 점진적으로 노이즈를 추가한 다음 다시 변환기 기반 플랫폼을 통해 수정된 이미지로 다시 작동합니다.

초기 로드를 제외하면 이러한 프로세스 중 어느 것도 외부 DRAM과 상호 작용하는 오버헤드를 감당할 수 없습니다. 대기 시간은 용납할 수 없으며 전력 수요는 휴대폰 배터리를 소모하거나 데이터 센터의 전력 예산을 초과하게 됩니다. 모든 메모리는 컴퓨팅과 매우 가까이 있어야 합니다. 한 가지 해결책은 가속기 위에 SRAM을 쌓는 것입니다(AMD와 현재 Intel이 서버 칩에 대해 시연한 것처럼). 고대역폭 메모리 인패키지는 다소 느린 옵션을 추가하지만 여전히 오프칩 DRAM만큼 느리지는 않습니다.

이 모든 것에는 멀티 다이 시스템이 필요합니다. 그렇다면 해당 옵션을 생산 준비 상태로 만드는 데 있어 우리는 어디에 있습니까?

우리가 어디에 있는지에 대한 견해

저는 이 영역의 채택, 응용 프로그램 및 도구 사용에 대한 성장에 대한 많은 열정을 들었습니다. Intel, AMD, Qualcomm, Samsung은 모두 이 분야에서 매우 활발하게 활동하고 있습니다. Apple M2 Ultra는 듀얼 다이 디자인으로, AWS Graviton 3는 멀티 다이 시스템으로 알려져 있습니다. 대형 시스템이나 반도체 업체에는 이 외에도 수많은 사례가 있을 것이라고 확신합니다. 나는 다이가 여전히 내부적으로 주로 공급되고(HBM 스택 제외) TSMC, Samsung 또는 Intel의 파운드리 패키징 기술로 조립된다는 인상을 받았습니다. 그러나 Tenstorrent는 차세대 AI 설계를 칩렛(멀티 다이 시스템에 사용하기에 적합한 다이)으로 제조하기 위해 삼성을 선택했다고 방금 발표했기 때문에 이 공간은 이미 더 광범위한 다이 소싱을 향해 나아가고 있습니다.

모든 패널리스트는 당연히 일반적인 방향에 대해 열정적이었고, 확실히 기술과 도구가 빠르게 발전하고 있어 화제가 되었습니다. Lalitha는 현재 설계 및 설계되고 있는 멀티 다이 시스템이 아직 초기 단계에 있으며 다이에 대한 광범위한 재사용 가능한 시장을 시작할 준비가 되지 않았다는 점을 지적함으로써 이러한 열정을 뒷받침했습니다. 그것은 나를 놀라게하지 않습니다. 이러한 복잡한 기술은 시스템 설계자, 파운드리 및 EDA 회사 간의 긴밀한 파트너십을 통해 먼저 성숙되어야 하며, 더 많은 사용자에게 확장되기까지 몇 년이 걸릴 것으로 보입니다.

나는 파운드리, 시스템 구축업체 및 EDA 회사가 모든 카드를 보여주지 않고 있으며 그들이 광고하기로 선택한 것보다 더 나은 결과를 얻을 수 있다고 확신합니다. 나는 더 많은 것을 듣기를 기대합니다. 패널토론을 시청하실 수 있습니다 여기를 클릭하십시오..

다음을 통해이 게시물 공유 :