CXL-baserat minnespoolsystem uppfyller molnprestandamålen och minskar DRAM-kostnaden avsevärt

CXL-baserat minnespoolsystem uppfyller molnprestandamålen och minskar DRAM-kostnaden avsevärt

Källnod: 1994018

En teknisk artikel med titeln "Pond: CXL-Based Memory Pooling Systems for Cloud Platforms" publicerades av forskare vid Virginia Tech, Intel, Microsoft Azure, Google och Stone Co.

Abstrakt
"Offentliga molnleverantörer försöker uppfylla stränga prestandakrav och låga hårdvarukostnader. En viktig drivkraft för prestanda och kostnad är huvudminnet. Minnespoolning lovar att förbättra DRAM-användningen och därigenom minska kostnaderna. Pooling är dock utmanande under molnprestandakrav. Den här artikeln föreslår Pond, det första minnespoolningssystemet som både uppfyller molnets prestandamål och avsevärt minskar DRAM-kostnaderna. Pond bygger på Compute Express Link-standarden (CXL) för laddning/lagringsåtkomst till poolminne och två viktiga insikter. För det första visar vår analys av molnproduktionsspår att poolning över 8-16 sockets räcker för att uppnå de flesta av fördelarna. Detta möjliggör en liten pooldesign med låg åtkomstfördröjning. För det andra är det möjligt att skapa maskininlärningsmodeller som exakt kan förutsäga hur mycket lokalt och poolminne som ska allokeras till en virtuell maskin (VM) för att likna minnesprestanda med samma NUMA-nod. Vår utvärdering med 158 arbetsbelastningar visar att Pond minskar DRAM-kostnaderna med 7 % med prestanda inom 1–5 % av VM-tilldelningar med samma NUMA-nod.”

Hitta den tekniska öppna åtkomsten papper här. Publicerad januari 2023.

Huaicheng Li, Daniel S. Berger, Lisa Hsu, Daniel Ernst, Pantea Zardoshti,
Stanko Novakovic, Monish Shah, Samir Rajadnya, Scott Lee, Ishwar Agarwal,
Mark D. Hill, Marcus Fontoura och Ricardo Bianchini. 2023. Pond: CXLBased Memory Pooling Systems for Cloud Platforms. I Proceedings of the
28:e ACM International Conference on Architectural Support for Programmering
Språk och operativsystem, volym 2 (ASPLOS '23), 25–29 mars,
2023, Vancouver, BC, Kanada. ACM, New York, NY, USA, 14 sidor. https:
//doi.org/10.1145/3575693.3578835


Tidsstämpel:

Mer från Semi-teknik