핀 효율적인 CXL 인터페이스를 사용한 서버 설계(Georgia Tech)

핀 효율적인 CXL 인터페이스를 사용한 서버 설계(Georgia Tech)

소스 노드 : 2642551

Georgia Tech의 연구원들은 "CXL 중심 서버 프로세서 사례"라는 제목의 새로운 기술 문서를 작성했습니다.

요약 :
“메모리 시스템은 서버 프로세서의 주요 성능 결정 요소입니다. 계속 증가하는 코어 수와 데이터 세트는 더 높은 대역폭과 용량은 물론 메모리 시스템의 더 낮은 대기 시간을 요구합니다. 증가하는 수요에 부응하기 위해 지난 XNUMX년 동안 메모리에 대한 지배적인 프로세서 인터페이스인 DDR은 모든 세대에서 더 높은 대역폭을 제공했습니다. 그러나 각 병렬 DDR 인터페이스에는 많은 수의 온칩 핀이 필요하기 때문에 프로세서의 메모리 대역폭은 궁극적으로 희소한 리소스인 핀 수에 의해 제한됩니다. 대역폭이 제한되면 일반적으로 여러 메모리 요청이 각 메모리 채널에 대해 경합하여 DRAM의 서비스 시간을 가리고 성능을 저하시키는 심각한 대기열 지연이 발생합니다.

우리는 프로세서에 대한 모든 DDR 인터페이스를 보다 핀 효율적인 CXL 인터페이스로 교체하여 메모리 대역폭 제한을 극복하는 서버 설계인 CoaXiaL을 제시합니다. CXL의 광범위한 채택과 산업적 추진력으로 이러한 전환이 가능해졌으며, 적당한 대기 시간 오버헤드로 DDR에 비해 핀당 4배 더 높은 대역폭을 제공합니다. 우리는 광범위한 워크로드에 대해 CXL의 대기 시간 프리미엄이 더 높은 대역폭으로 상쇄되는 것 이상임을 보여줍니다. CoaXiaL은 더 많은 채널에 메모리 요청을 분산하므로 대기열 지연을 대폭 줄여 메모리 액세스 대기 시간의 평균값과 변동을 모두 줄입니다. 다양한 워크로드를 사용한 평가에 따르면 CoaXiaL은 매니코어 처리량 지향 서버의 성능을 평균 1.52배, 최대 3배까지 향상시키는 것으로 나타났습니다."

찾기 여기에 기술 문서. 2023년 XNUMX월.

저자: Albert Cho, Anish Saxena, Moinuddin Qureshi, Alexandros Daglis. arXiv:2305.05033v1.
https://doi.org/10.48550/arXiv.2305.05033

타임 스탬프 :

더보기 세미 엔지니어링