Desain Server Dengan Antarmuka CXL Pin-Efisien (Georgia Tech)

Desain Server Dengan Antarmuka CXL Pin-Efisien (Georgia Tech)

Node Sumber: 2642551

Makalah teknis baru berjudul “A Case for CXL-Centric Server Processors” ditulis oleh para peneliti di Georgia Tech.

Abstrak:
“Sistem memori adalah penentu kinerja utama untuk prosesor server. Jumlah inti dan kumpulan data yang terus berkembang menuntut bandwidth dan kapasitas yang lebih tinggi serta latensi yang lebih rendah dari sistem memori. Untuk memenuhi permintaan yang terus meningkat, DDR–antarmuka prosesor yang dominan ke memori selama dua dekade terakhir–telah menawarkan bandwidth yang lebih tinggi di setiap generasi. Namun, karena setiap antarmuka DDR paralel membutuhkan sejumlah besar pin on-chip, bandwidth memori prosesor pada akhirnya dibatasi oleh jumlah pinnya, yang merupakan sumber daya yang langka. Dengan bandwidth yang terbatas, beberapa permintaan memori biasanya bersaing untuk setiap saluran memori, mengakibatkan penundaan antrian yang signifikan yang sering membayangi waktu layanan DRAM dan menurunkan kinerja.

Kami menghadirkan CoaXiaL, desain server yang mengatasi keterbatasan bandwidth memori dengan mengganti semua antarmuka DDR ke prosesor dengan antarmuka CXL yang lebih hemat pin. Adopsi yang meluas dan momentum industri CXL memungkinkan transisi seperti itu, menawarkan bandwidth per pin 4× lebih tinggi dibandingkan dengan DDR dengan overhead latensi sederhana. Kami menunjukkan bahwa, untuk berbagai beban kerja, premium latensi CXL lebih dari sekadar diimbangi oleh bandwidth yang lebih tinggi. Karena CoaXiaL mendistribusikan permintaan memori ke lebih banyak saluran, CoaXiaL secara drastis mengurangi penundaan antrian dan dengan demikian nilai rata-rata dan varian latensi akses memori. Evaluasi kami dengan berbagai beban kerja menunjukkan bahwa CoaXiaL meningkatkan kinerja banyak server berorientasi throughput inti rata-rata sebesar 1.52× dan hingga 3×.”

Cari makalah teknis di sini. Mei 2023.

Pengarang: Albert Cho, Anish Saxena, Moinuddin Qureshi, Alexandros Daglis. arXiv:2305.05033v1.
https://doi.org/10.48550/arXiv.2305.05033

Stempel Waktu:

Lebih dari Semi Teknik