การออกแบบเซิร์ฟเวอร์ด้วยอินเทอร์เฟซ CXL ที่มีประสิทธิภาพพิน (Georgia Tech)

การออกแบบเซิร์ฟเวอร์ด้วยอินเทอร์เฟซ CXL ที่มีประสิทธิภาพพิน (Georgia Tech)

ประทับเวลา: 10 พฤษภาคม 2023 6:24 น
โหนดต้นทาง: 2642551

เอกสารทางเทคนิคใหม่ที่ชื่อว่า "กรณีสำหรับโปรเซสเซอร์เซิร์ฟเวอร์ CXL-Centric" เขียนโดยนักวิจัยที่ Georgia Tech

นามธรรม:
“ระบบหน่วยความจำเป็นตัวกำหนดประสิทธิภาพที่สำคัญสำหรับโปรเซสเซอร์เซิร์ฟเวอร์ จำนวนคอร์และชุดข้อมูลที่เพิ่มขึ้นเรื่อย ๆ ต้องการแบนด์วิธและความจุที่สูงขึ้น รวมทั้งเวลาแฝงที่ลดลงจากระบบหน่วยความจำ เพื่อให้ทันกับความต้องการที่เพิ่มขึ้น DDR ซึ่งเป็นส่วนต่อประสานโปรเซสเซอร์ที่โดดเด่นกับหน่วยความจำในช่วงสองทศวรรษที่ผ่านมาได้มอบแบนด์วิธที่สูงขึ้นในทุกเจนเนอเรชั่น อย่างไรก็ตาม เนื่องจากแต่ละอินเทอร์เฟซ DDR แบบขนานต้องใช้พินบนชิปจำนวนมาก แบนด์วิธหน่วยความจำของโปรเซสเซอร์จึงถูกจำกัดด้วยจำนวนพิน ซึ่งเป็นทรัพยากรที่หายากในที่สุด ด้วยแบนด์วิธที่จำกัด โดยทั่วไปแล้วคำขอหน่วยความจำหลายรายการจะแข่งขันกันสำหรับช่องหน่วยความจำแต่ละช่อง ส่งผลให้เกิดความล่าช้าในการรอคิวอย่างมาก ซึ่งมักจะบดบังเวลาให้บริการของ DRAM และทำให้ประสิทธิภาพการทำงานลดลง

เรานำเสนอ CoaXiaL ซึ่งเป็นการออกแบบเซิร์ฟเวอร์ที่เอาชนะข้อจำกัดด้านแบนด์วิธของหน่วยความจำโดยการแทนที่อินเทอร์เฟซ DDR ทั้งหมดไปยังโปรเซสเซอร์ด้วยอินเทอร์เฟซ CXL ที่มีประสิทธิภาพมากขึ้น การยอมรับอย่างแพร่หลายและโมเมนตัมทางอุตสาหกรรมของ CXL ทำให้การเปลี่ยนแปลงดังกล่าวเป็นไปได้ โดยให้แบนด์วิธต่อพินสูงกว่าถึง 4 เท่าเมื่อเทียบกับ DDR ที่โอเวอร์เฮดที่มีเวลาแฝงเล็กน้อย เราแสดงให้เห็นว่า สำหรับปริมาณงานที่หลากหลาย ค่าความหน่วงแฝงระดับพรีเมียมของ CXL นั้นชดเชยได้มากกว่าด้วยแบนด์วิธที่สูงกว่า เนื่องจาก CoaXiaL กระจายคำขอหน่วยความจำผ่านช่องทางต่างๆ มากขึ้น จึงช่วยลดความล่าช้าในการเข้าคิวได้อย่างมาก และด้วยเหตุนี้จึงทั้งค่าเฉลี่ยและความแปรปรวนของเวลาแฝงในการเข้าถึงหน่วยความจำ การประเมินของเราด้วยปริมาณงานที่หลากหลายแสดงให้เห็นว่า CoaXiaL ปรับปรุงประสิทธิภาพของเซิร์ฟเวอร์ที่เน้นปริมาณงานหลายคอร์โดยเฉลี่ย 1.52 เท่า และเพิ่มขึ้นสูงสุด 3 เท่า”

หา เอกสารทางเทคนิคที่นี่. พฤษภาคม 2023

ผู้แต่ง: Albert Cho, Anish Saxena, Moinuddin Qureshi, Alexandros Daglis arXiv:2305.05033v1.
https://doi.org/10.48550/arXiv.2305.05033

ประทับเวลา:

เพิ่มเติมจาก กึ่งวิศวกรรม