Σύστημα συγκέντρωσης μνήμης που βασίζεται σε CXL επιτυγχάνει τους στόχους απόδοσης του Cloud και μειώνει σημαντικά το κόστος DRAM

Σύστημα συγκέντρωσης μνήμης που βασίζεται σε CXL επιτυγχάνει τους στόχους απόδοσης του Cloud και μειώνει σημαντικά το κόστος DRAM

Κόμβος πηγής: 1994018

Μια τεχνική εργασία με τίτλο «Pond: CXL-Based Memory Pooling Systems for Cloud Platforms» δημοσιεύτηκε από ερευνητές της Virginia Tech, της Intel, της Microsoft Azure, της Google και της Stone Co.

Περίληψη
«Οι πάροχοι δημόσιου cloud επιδιώκουν να ικανοποιήσουν αυστηρές απαιτήσεις απόδοσης και χαμηλό κόστος υλικού. Βασικός παράγοντας απόδοσης και κόστους είναι η κύρια μνήμη. Η συγκέντρωση μνήμης υπόσχεται να βελτιώσει τη χρήση της DRAM και να μειώσει έτσι το κόστος. Ωστόσο, η συγκέντρωση είναι δύσκολη υπό τις απαιτήσεις απόδοσης στο cloud. Αυτή η εργασία προτείνει το Pond, το πρώτο σύστημα συγκέντρωσης μνήμης που πληροί τους στόχους απόδοσης του cloud και μειώνει σημαντικά το κόστος DRAM. Το Pond βασίζεται στο πρότυπο Compute Express Link (CXL) για πρόσβαση φόρτωσης/αποθήκευσης στη μνήμη πισίνας και δύο βασικές πληροφορίες. Πρώτον, η ανάλυσή μας για τα ίχνη παραγωγής cloud δείχνει ότι η συγκέντρωση σε 8-16 υποδοχές είναι αρκετή για να επιτευχθούν τα περισσότερα από τα οφέλη. Αυτό επιτρέπει τη σχεδίαση μικρής πισίνας με χαμηλή καθυστέρηση πρόσβασης. Δεύτερον, είναι δυνατό να δημιουργηθούν μοντέλα μηχανικής εκμάθησης που να μπορούν να προβλέψουν με ακρίβεια πόση τοπική και ομαδική μνήμη θα εκχωρηθεί σε μια εικονική μηχανή (VM) ώστε να μοιάζει με την απόδοση της μνήμης του ίδιου κόμβου NUMA. Η αξιολόγησή μας με 158 φόρτους εργασίας δείχνει ότι το Pond μειώνει το κόστος DRAM κατά 7% με απόδοση εντός 1-5% από τις εκχωρήσεις VM του ίδιου NUMA κόμβου."

Βρείτε την τεχνική ανοιχτής πρόσβασης χαρτί εδώ. Δημοσιεύθηκε Ιανουάριος 2023.

Huaicheng Li, Daniel S. Berger, Lisa Hsu, Daniel Ernst, Pantea Zardoshti,
Stanko Novakovic, Monish Shah, Samir Rajadnya, Scott Lee, Ishwar Agarwal,
Mark D. Hill, Marcus Fontoura και Ricardo Bianchini. 2023. Pond: CXLBased Memory Pooling Systems for Cloud Platforms. Στα Πρακτικά του
28ο Διεθνές Συνέδριο ACM για την Αρχιτεκτονική Υποστήριξη Προγραμματισμού
Γλώσσες και Λειτουργικά Συστήματα, Τόμος 2 (ASPLOS '23), 25–29 Μαρτίου,
2023, Βανκούβερ, BC, Καναδάς. ACM, Νέα Υόρκη, Νέα Υόρκη, ΗΠΑ, 14 σελίδες. https:
//doi.org/10.1145/3575693.3578835


Σφραγίδα ώρας:

Περισσότερα από Ημι Μηχανική