Das CXL-basierte Memory Pooling-System erfüllt die Cloud-Leistungsziele und reduziert die DRAM-Kosten erheblich

Ein technisches Papier mit dem Titel „Pond: CXL-Based Memory Pooling Systems for Cloud Platforms“ wurde von Forschern bei Virginia Tech, Intel, Microsoft Azure, Google und Stone Co. veröffentlicht.

Abstrakt
„Public-Cloud-Anbieter versuchen, strenge Leistungsanforderungen und niedrige Hardwarekosten zu erfüllen. Ein wichtiger Faktor für Leistung und Kosten ist der Hauptspeicher. Memory Pooling verspricht eine verbesserte DRAM-Auslastung und damit eine Kostensenkung. Das Pooling ist jedoch unter Cloud-Leistungsanforderungen eine Herausforderung. Dieses Whitepaper schlägt Pond vor, das erste Speicher-Pooling-System, das sowohl die Leistungsziele der Cloud erfüllt als auch die DRAM-Kosten erheblich senkt. Pond baut auf dem Compute Express Link (CXL)-Standard für den Lade-/Speicherzugriff auf Poolspeicher und zwei wichtige Erkenntnisse auf. Erstens zeigt unsere Analyse der Cloud-Produktionsspuren, dass ein Pooling über 8-16 Sockets ausreicht, um die meisten Vorteile zu erzielen. Dies ermöglicht ein Small-Pool-Design mit geringer Zugriffslatenz. Zweitens ist es möglich, Modelle für maschinelles Lernen zu erstellen, die genau vorhersagen können, wie viel lokaler und Poolspeicher einer virtuellen Maschine (VM) zugewiesen werden muss, um die Speicherleistung auf demselben NUMA-Knoten zu ähneln. Unsere Auswertung mit 158 ​​Workloads zeigt, dass Pond die DRAM-Kosten um 7 % senkt, wobei die Leistung innerhalb von 1–5 % der VM-Zuweisungen auf demselben NUMA-Knoten liegt.“

Finden Sie die technische Open-Access-Datei Papier hier. Veröffentlicht Januar 2023.

Huaicheng Li, Daniel S. Berger, Lisa Hsu, Daniel Ernst, Pantea Zardoshti,
Stanko Novakovic, Monish Shah, Samir Rajadnya, Scott Lee, Ishwar Agarwal,
Mark D. Hill, Marcus Fontoura und Ricardo Bianchini. 2023. Teich: CXL-basierte Speicher-Pooling-Systeme für Cloud-Plattformen. In Proceedings of the
28. ACM International Conference on Architectural Support for Programming
Sprachen und Betriebssysteme, Band 2 (ASPLOS '23), 25.–29. März,
2023, Vancouver, BC, Kanada. ACM, New York, NY, USA, 14 Seiten. https:
//doi.org/10.1145/3575693.3578835

• SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
• Platoblockkette. Web3-Metaverse-Intelligenz. Wissen verstärkt. Hier zugreifen.
• Quelle: https://semiengineering.com/cxl-based-memory-pooling-system-meets-cloud-performance-goals-and-significantly-reduces-dram-cost/