Sistem Pooling Memori Berbasis CXL Memenuhi Sasaran Kinerja Cloud Dan Secara Signifikan Mengurangi Biaya DRAM

Sistem Pooling Memori Berbasis CXL Memenuhi Sasaran Kinerja Cloud Dan Secara Signifikan Mengurangi Biaya DRAM

Node Sumber: 1994018

Makalah teknis berjudul "Pond: Sistem Pengumpulan Memori Berbasis CXL untuk Platform Cloud" diterbitkan oleh para peneliti di Virginia Tech, Intel, Microsoft Azure, Google, dan Stone Co.

Abstrak
“Penyedia cloud publik berupaya memenuhi persyaratan kinerja yang ketat dan biaya perangkat keras yang rendah. Penggerak utama performa dan biaya adalah memori utama. Penggabungan memori menjanjikan untuk meningkatkan pemanfaatan DRAM dan dengan demikian mengurangi biaya. Namun, penyatuan merupakan tantangan di bawah persyaratan kinerja cloud. Makalah ini mengusulkan Pond, sistem pengumpulan memori pertama yang memenuhi tujuan kinerja cloud dan secara signifikan mengurangi biaya DRAM. Pond dibuat berdasarkan standar Compute Express Link (CXL) untuk memuat/menyimpan akses ke memori kumpulan dan dua wawasan utama. Pertama, analisis jejak produksi cloud kami menunjukkan bahwa penyatuan di 8-16 soket sudah cukup untuk mencapai sebagian besar manfaat. Ini memungkinkan desain kumpulan kecil dengan latensi akses rendah. Kedua, dimungkinkan untuk membuat model pembelajaran mesin yang dapat secara akurat memprediksi berapa banyak memori lokal dan kumpulan untuk dialokasikan ke mesin virtual (VM) agar menyerupai kinerja memori NUMA-node yang sama. Evaluasi kami dengan 158 beban kerja menunjukkan bahwa Pond mengurangi biaya DRAM sebesar 7% dengan kinerja dalam 1-5% dari alokasi VM node yang sama.”

Temukan teknis akses terbuka kertas di sini. Diterbitkan Januari 2023.

Huaicheng Li, Daniel S. Berger, Lisa Hsu, Daniel Ernst, Pantea Zardoshti,
Stanko Novakovic, Monish Shah, Samir Rajadnya, Scott Lee, Ishwar Agarwal,
Mark D. Hill, Marcus Fontoura, dan Ricardo Bianchini. 2023. Pond: Sistem Pengumpulan Memori Berbasis CXL untuk Platform Cloud. Dalam Prosiding dari
Konferensi Internasional ACM ke-28 tentang Dukungan Arsitektur untuk Pemrograman
Bahasa dan Sistem Operasi, Volume 2 (ASPLOS '23), 25–29 Maret,
2023, Vancouver, BC, Kanada. ACM, New York, NY, AS, 14 halaman. https:
//doi.org/10.1145/3575693.3578835

Stempel Waktu:

Lebih dari Semi Teknik