Il sistema di pooling della memoria basato su CXL soddisfa gli obiettivi prestazionali del cloud e riduce significativamente il costo della DRAM

Il sistema di pooling della memoria basato su CXL soddisfa gli obiettivi prestazionali del cloud e riduce significativamente il costo della DRAM

Nodo di origine: 1994018

Un documento tecnico intitolato "Pond: sistemi di pooling di memoria basati su CXL per piattaforme cloud" è stato pubblicato dai ricercatori di Virginia Tech, Intel, Microsoft Azure, Google e Stone Co.

Astratto
“I fornitori di cloud pubblico cercano di soddisfare severi requisiti di prestazioni e basso costo dell'hardware. Un driver chiave di prestazioni e costi è la memoria principale. Il memory pooling promette di migliorare l'utilizzo della DRAM e quindi di ridurre i costi. Tuttavia, il pooling è impegnativo in base ai requisiti di prestazioni del cloud. Questo documento propone Pond, il primo sistema di pooling della memoria che soddisfa gli obiettivi di prestazioni del cloud e riduce significativamente il costo della DRAM. Pond si basa sullo standard Compute Express Link (CXL) per l'accesso load/store alla memoria del pool e due approfondimenti chiave. Innanzitutto, la nostra analisi delle tracce di produzione del cloud mostra che il pooling tra 8-16 socket è sufficiente per ottenere la maggior parte dei vantaggi. Ciò consente una progettazione di piccoli pool con bassa latenza di accesso. In secondo luogo, è possibile creare modelli di machine learning in grado di prevedere con precisione la quantità di memoria locale e di pool da allocare a una macchina virtuale (VM) per assomigliare alle prestazioni della memoria dello stesso nodo NUMA. La nostra valutazione con 158 carichi di lavoro mostra che Pond riduce i costi della DRAM del 7% con prestazioni comprese tra l'1 e il 5% rispetto alle allocazioni VM dello stesso nodo NUMA.

Trova il tecnico ad accesso aperto carta qui. Pubblicato gennaio 2023.

Huaicheng Li, Daniel S. Berger, Lisa Hsu, Daniel Ernst, Pantea Zardoshti,
Stanko Novakovic, Monish Shah, Samir Rajadnya, Scott Lee, Ishwar Agarwal,
Mark D. Hill, Marcus Fontoura e Ricardo Bianchini. 2023. Pond: sistemi di pool di memoria basati su CXL per piattaforme cloud. In Atti del
28a Conferenza internazionale ACM sul supporto architettonico per la programmazione
Lingue e sistemi operativi, Volume 2 (ASPLOS '23), 25–29 marzo,
2023, Vancouver, BC, Canada. ACM, New York, NY, USA, 14 pagine. https:
//doi.org/10.1145/3575693.3578835

Timestamp:

Di più da Semiingegneria