System łączenia pamięci oparty na CXL spełnia cele wydajności chmury i znacząco obniża koszt pamięci DRAM

Artykuł techniczny zatytułowany „Pond: CXL-Based Memory Pooling Systems for Cloud Platforms” został opublikowany przez naukowców z Virginia Tech, Intel, Microsoft Azure, Google i Stone Co.

Abstrakcyjny
„Dostawcy chmury publicznej dążą do spełnienia rygorystycznych wymagań dotyczących wydajności i niskich kosztów sprzętu. Głównym czynnikiem wpływającym na wydajność i koszty jest pamięć główna. Pule pamięci obiecują poprawę wykorzystania DRAM, a tym samym obniżenie kosztów. Jednak łączenie w pule jest trudne w przypadku wymagań dotyczących wydajności chmury. W tym artykule zaproponowano Pond, pierwszy system puli pamięci, który zarówno spełnia cele dotyczące wydajności chmury, jak i znacznie zmniejsza koszty pamięci DRAM. Pond opiera się na standardzie Compute Express Link (CXL) w zakresie ładowania/przechowywania dostępu do pamięci puli i dwóch kluczowych spostrzeżeń. Po pierwsze, nasza analiza śladów produkcji w chmurze pokazuje, że łączenie 8-16 gniazd wystarczy, aby osiągnąć większość korzyści. Umożliwia to projektowanie małej puli z niskim opóźnieniem dostępu. Po drugie, możliwe jest tworzenie modeli uczenia maszynowego, które mogą dokładnie przewidywać, ile pamięci lokalnej i puli należy przydzielić maszynie wirtualnej (VM), aby przypominała wydajność pamięci tego samego węzła NUMA. Nasza ocena przy 158 obciążeniach pokazuje, że Pond zmniejsza koszty DRAM o 7% przy wydajności w granicach 1-5% alokacji VM tego samego węzła NUMA”.

Znajdź techniczne w otwartym dostępie papier tutaj. Opublikowano w styczniu 2023 r.

Huaicheng Li, Daniel S. Berger, Lisa Hsu, Daniel Ernst, Pantea Zardoshti,
Stanko Novakovic, Monish Shah, Samir Rajadnya, Scott Lee, Ishwar Agarwal,
Mark D. Hill, Marcus Fontoura i Ricardo Bianchini. 2023. Pond: CXLBased Memory Pooling Systems for Cloud Platforms. W Postępowaniu z
28. Międzynarodowa Konferencja ACM na temat architektonicznego wsparcia programowania
Języki i systemy operacyjne, tom 2 (ASPLOS '23), 25–29 marca,
2023, Vancouver, BC, Kanada. ACM, Nowy Jork, NY, USA, 14 stron. https:
//doi.org/10.1145/3575693.3578835

• Dystrybucja treści i PR oparta na SEO. Uzyskaj wzmocnienie już dziś.
• Platoblockchain. Web3 Inteligencja Metaverse. Wzmocniona wiedza. Dostęp tutaj.
• Źródło: https://semiengineering.com/cxl-based-memory-pooling-system-meets-cloud-performance-goals-and-significantly-reduces-dram-cost/