基于 CXL 的内存池系统满足云性能目标并显着降低 DRAM 成本

基于 CXL 的内存池系统满足云性能目标并显着降低 DRAM 成本

源节点: 1994018

弗吉尼亚理工大学、英特尔、微软 Azure、谷歌和 Stone Co 的研究人员发表了一篇题为“Pond: CXL-Based Memory Pooling Systems for Cloud Platforms”的技术论文。

抽象
“公共云提供商寻求满足严格的性能要求和低硬件成本。 性能和成本的一个关键驱动因素是主存储器。 内存池有望提高 DRAM 利用率,从而降低成本。 然而,在云性能要求下,池化具有挑战性。 本文提出了 Pond,这是第一个既满足云性能目标又显着降低 DRAM 成本的内存池系统。 Pond 建立在 Compute Express Link (CXL) 标准之上,用于加载/存储对池内存的访问和两个关键见解。 首先,我们对云生产跟踪的分析表明,跨 8-16 个套接字进行池化足以实现大部分优势。 这使得具有低访问延迟的小型池设计成为可能。 其次,可以创建机器学习模型来准确预测分配给虚拟机 (VM) 的本地和池内存量,以实现类似相同 NUMA 节点的内存性能。 我们对 158 个工作负载的评估表明,Pond 将 DRAM 成本降低了 7%,性能在相同 NUMA 节点 VM 分配的 1-5% 以内。”

找到开放获取技术 纸在这里. 2023 年 XNUMX 月出版。

怀城李, Daniel S. Berger, Lisa Hsu, Daniel Ernst, Pantea Zardoshti,
斯坦科·诺瓦科维奇、莫尼什·沙阿、萨米尔·拉贾尼亚、斯科特·李、伊什瓦尔·阿加瓦尔、
Mark D. Hill、Marcus Fontoura 和 Ricardo Bianchini。 2023. Pond:用于云平台的基于 CXL 的内存池系统。 在会议记录中
第 28 届 ACM 编程架构支持国际会议
语言和操作系统,第 2 卷 (ASPLOS '23),25 月 29-XNUMX 日,
2023 年,加拿大不列颠哥伦比亚省温哥华市。 ACM,美国纽约州纽约市,14 页。 https:
//doi.org/10.1145/3575693.3578835

时间戳记:

更多来自 半工程