CXL-basert minnepoolingsystem oppfyller skyytelsesmål og reduserer DRAM-kostnadene betydelig

CXL-basert minnepoolingsystem oppfyller skyytelsesmål og reduserer DRAM-kostnadene betydelig

Kilde node: 1994018

En teknisk artikkel med tittelen "Pond: CXL-Based Memory Pooling Systems for Cloud Platforms" ble publisert av forskere ved Virginia Tech, Intel, Microsoft Azure, Google og Stone Co.

Abstrakt
"Offentlige skyleverandører søker å møte strenge ytelseskrav og lave maskinvarekostnader. En nøkkeldriver for ytelse og kostnader er hovedminnet. Minnepooling lover å forbedre DRAM-utnyttelsen og dermed redusere kostnadene. Imidlertid er sammenslåing utfordrende under skyytelseskrav. Denne artikkelen foreslår Pond, det første minnepooling-systemet som både oppfyller skyytelsesmål og reduserer DRAM-kostnadene betydelig. Pond bygger på Compute Express Link-standarden (CXL) for laste-/lagertilgang til bassengminne og to viktige innsikter. For det første viser vår analyse av skyproduksjonsspor at pooling på tvers av 8-16 sockets er nok for å oppnå de fleste fordelene. Dette muliggjør et lite bassengdesign med lav tilgangsforsinkelse. For det andre er det mulig å lage maskinlæringsmodeller som nøyaktig kan forutsi hvor mye lokalt og poolminne som skal allokeres til en virtuell maskin (VM) for å ligne ytelsen til samme NUMA-node minne. Vår evaluering med 158 arbeidsbelastninger viser at Pond reduserer DRAM-kostnadene med 7 % med ytelse innenfor 1–5 % av samme NUMA-node VM-allokeringer.»

Finn det tekniske med åpen tilgang papir her. Publisert januar 2023.

Huaicheng Li, Daniel S. Berger, Lisa Hsu, Daniel Ernst, Pantea Zardoshti,
Stanko Novakovic, Monish Shah, Samir Rajadnya, Scott Lee, Ishwar Agarwal,
Mark D. Hill, Marcus Fontoura og Ricardo Bianchini. 2023. Pond: CXLBased Memory Pooling Systems for Cloud Platforms. I Proceedings of the
28. ACM internasjonale konferanse om arkitektonisk støtte for programmering
Språk og operativsystemer, bind 2 (ASPLOS '23), 25.–29. mars,
2023, Vancouver, BC, Canada. ACM, New York, NY, USA, 14 sider. https:
//doi.org/10.1145/3575693.3578835

Tidstempel:

Mer fra Semi -ingeniørfag