CXL-gebaseerd Memory Pooling-systeem voldoet aan cloudprestatiedoelen en verlaagt de DRAM-kosten aanzienlijk

CXL-gebaseerd Memory Pooling-systeem voldoet aan cloudprestatiedoelen en verlaagt de DRAM-kosten aanzienlijk

Bronknooppunt: 1994018

Een technisch document getiteld "Pond: CXL-Based Memory Pooling Systems for Cloud Platforms" werd gepubliceerd door onderzoekers van Virginia Tech, Intel, Microsoft Azure, Google en Stone Co.

Abstract
“Publieke cloudproviders streven ernaar om te voldoen aan strenge prestatie-eisen en lage hardwarekosten. Een belangrijke drijfveer voor prestaties en kosten is het hoofdgeheugen. Memory pooling belooft het DRAM-gebruik te verbeteren en daarmee de kosten te verlagen. Pooling is echter een uitdaging onder de vereisten voor cloudprestaties. In deze paper wordt Pond voorgesteld, het eerste geheugenpoolingsysteem dat voldoet aan de doelstellingen voor cloudprestaties en de DRAM-kosten aanzienlijk verlaagt. Pond bouwt voort op de Compute Express Link (CXL)-standaard voor laad-/opslagtoegang tot poolgeheugen en twee belangrijke inzichten. Ten eerste laat onze analyse van cloudproductiesporen zien dat pooling over 8-16 sockets voldoende is om de meeste voordelen te behalen. Dit maakt een ontwerp met een kleine pool mogelijk met een lage toegangslatentie. Ten tweede is het mogelijk om machine learning-modellen te maken die nauwkeurig kunnen voorspellen hoeveel lokaal en poolgeheugen moet worden toegewezen aan een virtuele machine (VM) om de geheugenprestaties van hetzelfde NUMA-knooppunt te evenaren. Onze evaluatie met 158 ​​workloads laat zien dat Pond de DRAM-kosten met 7% verlaagt met prestaties binnen 1-5% van dezelfde NUMA-node VM-toewijzingen.”

Zoek de open access technische papier hier. Gepubliceerd januari 2023.

Huaicheng Li, Daniel S. Berger, Lisa Hsu, Daniel Ernst, Pantea Zardoshti,
Stanko Novakovic, Monish Shah, Samir Rajadnya, Scott Lee, Ishwar Agarwal,
Mark D. Hill, Marcus Fontoura en Ricardo Bianchini. 2023. Pond: CXL-gebaseerde geheugenpoolsystemen voor cloudplatforms. In Procesvoering van de
28e ACM internationale conferentie over architecturale ondersteuning voor programmeren
Talen en besturingssystemen, deel 2 (ASPLOS '23), 25-29 maart,
2023, Vancouver, BC, Canada. ACM, New York, NY, VS, 14 pagina's. https:
//doi.org/10.1145/3575693.3578835

Tijdstempel:

Meer van Semi-engineering