CXL-baseret hukommelsespooling-system opfylder skyydelsesmål og reducerer DRAM-omkostningerne markant

Et teknisk papir med titlen "Pond: CXL-Based Memory Pooling Systems for Cloud Platforms" blev udgivet af forskere ved Virginia Tech, Intel, Microsoft Azure, Google og Stone Co.

Abstrakt
"Offentlige cloud-udbydere søger at opfylde strenge krav til ydeevne og lave hardwareomkostninger. En vigtig drivkraft for ydeevne og omkostninger er hovedhukommelsen. Hukommelsespooling lover at forbedre DRAM-udnyttelsen og derved reducere omkostningerne. Pooling er dog udfordrende under skyydelseskrav. Denne artikel foreslår Pond, det første hukommelsespooling-system, der både opfylder cloud-ydeevnemål og reducerer DRAM-omkostningerne markant. Pond bygger på Compute Express Link-standarden (CXL) for load/store-adgang til poolhukommelse og to vigtige indsigter. For det første viser vores analyse af skyproduktionsspor, at pooling på tværs af 8-16 sockets er nok til at opnå de fleste fordele. Dette muliggør et lille pool-design med lav adgangsforsinkelse. For det andet er det muligt at skabe maskinlæringsmodeller, der nøjagtigt kan forudsige, hvor meget lokal hukommelse og poolhukommelse, der skal allokeres til en virtuel maskine (VM) for at ligne samme NUMA-node-hukommelsesydelse. Vores evaluering med 158 arbejdsbelastninger viser, at Pond reducerer DRAM-omkostningerne med 7 % med ydeevne inden for 1-5 % af samme NUMA-node VM-allokeringer.”

Find det tekniske med åben adgang papir her. Udgivet januar 2023.

Huaicheng Li, Daniel S. Berger, Lisa Hsu, Daniel Ernst, Pantea Zardoshti,
Stanko Novakovic, Monish Shah, Samir Rajadnya, Scott Lee, Ishwar Agarwal,
Mark D. Hill, Marcus Fontoura og Ricardo Bianchini. 2023. Pond: CXLBased Memory Pooling Systems for Cloud Platforms. I Proceedings of the
28. ACM International Conference on Architectural Support for Programming
Sprog og operativsystemer, bind 2 (ASPLOS '23), 25.-29. marts,
2023, Vancouver, BC, Canada. ACM, New York, NY, USA, 14 sider. https:
//doi.org/10.1145/3575693.3578835

• SEO Powered Content & PR Distribution. Bliv forstærket i dag.
• Platoblokkæde. Web3 Metaverse Intelligence. Viden forstærket. Adgang her.
• Kilde: https://semiengineering.com/cxl-based-memory-pooling-system-meets-cloud-performance-goals-and-significantly-reduces-dram-cost/