ระบบการรวมหน่วยความจำที่ใช้ CXL บรรลุเป้าหมายด้านประสิทธิภาพบนคลาวด์และลดต้นทุน DRAM ลงอย่างมาก

ระบบการรวมหน่วยความจำที่ใช้ CXL บรรลุเป้าหมายด้านประสิทธิภาพบนคลาวด์และลดต้นทุน DRAM ลงอย่างมาก

ประทับเวลา: 5 มีนาคม 2023 4:06 น
โหนดต้นทาง: 1994018

บทความทางเทคนิคเรื่อง “Pond: CXL-Based Memory Pooling Systems for Cloud Platforms” เผยแพร่โดยนักวิจัยจาก Virginia Tech, Intel, Microsoft Azure, Google และ Stone Co.

นามธรรม
“ผู้ให้บริการคลาวด์สาธารณะพยายามตอบสนองความต้องการด้านประสิทธิภาพที่เข้มงวดและต้นทุนฮาร์ดแวร์ที่ต่ำ ตัวขับเคลื่อนหลักของประสิทธิภาพและต้นทุนคือหน่วยความจำหลัก การรวมหน่วยความจำสัญญาว่าจะปรับปรุงการใช้ DRAM และลดค่าใช้จ่าย อย่างไรก็ตาม การรวมศูนย์เป็นสิ่งที่ท้าทายภายใต้ข้อกำหนดด้านประสิทธิภาพของระบบคลาวด์ บทความนี้นำเสนอ Pond ซึ่งเป็นระบบรวมหน่วยความจำระบบแรกที่บรรลุเป้าหมายประสิทธิภาพของระบบคลาวด์และลดต้นทุน DRAM ลงอย่างมาก Pond สร้างบนมาตรฐาน Compute Express Link (CXL) สำหรับการเข้าถึงโหลด/จัดเก็บหน่วยความจำพูลและข้อมูลเชิงลึกที่สำคัญสองประการ ประการแรก การวิเคราะห์ร่องรอยการผลิตบนคลาวด์ของเราแสดงให้เห็นว่าการรวมซ็อกเก็ต 8-16 ซ็อกเก็ตนั้นเพียงพอที่จะได้รับประโยชน์ส่วนใหญ่ สิ่งนี้ทำให้การออกแบบพูลขนาดเล็กมีเวลาแฝงในการเข้าถึงต่ำ ประการที่สอง เป็นไปได้ที่จะสร้างโมเดลแมชชีนเลิร์นนิงที่สามารถคาดการณ์ได้อย่างแม่นยำว่าหน่วยความจำภายในเครื่องและพูลเท่าใดที่จะจัดสรรให้กับเครื่องเสมือน (VM) เพื่อให้คล้ายกับประสิทธิภาพของหน่วยความจำโหนด NUMA เดียวกัน การประเมินของเราด้วยเวิร์กโหลด 158 รายการแสดงให้เห็นว่า Pond ลดค่าใช้จ่าย DRAM ลง 7% โดยมีประสิทธิภาพภายใน 1-5% ของการจัดสรร VM โหนดเดียวกันใน NUMA”

ค้นหาเทคนิคการเข้าถึงแบบเปิด กระดาษที่นี่. เผยแพร่ในเดือนมกราคม 2023

Huaicheng Li, Daniel S. Berger, Lisa Hsu, Daniel Ernst, ปันเทีย ซาร์โดชติ,
สตานโก โนวาโควิช, โมนิช ชาห์, ซาเมียร์ ราจาดยา, สก็อตต์ ลี, อิชวาร์ อาการ์วาล,
มาร์ก ดี. ฮิลล์, มาร์คัส ฟอนตูรา และริคาร์โด เบียงชินี พ.ศ. 2023 Pond: CXLBased Memory Pooling Systems สำหรับแพลตฟอร์มคลาวด์ ในการดำเนินการของ
การประชุมนานาชาติ ACM ครั้งที่ 28 เรื่องการสนับสนุนทางสถาปัตยกรรมสำหรับการเขียนโปรแกรม
ภาษาและระบบปฏิบัติการ เล่มที่ 2 (ASPLOS '23), 25–29 มีนาคม
พ.ศ. 2023 แวนคูเวอร์ บริติชโคลัมเบีย แคนาดา ACM, New York, NY, USA, 14 หน้า https:
//doi.org/10.1145/3575693.3578835


ประทับเวลา:

เพิ่มเติมจาก กึ่งวิศวกรรม