CXL-pohjainen muistinvarausjärjestelmä täyttää pilvitoimintojen tavoitteet ja vähentää merkittävästi DRAM-kustannuksia

Virginia Techin, Intelin, Microsoft Azuren, Googlen ja Stone Co:n tutkijat julkaisivat teknisen paperin nimeltä "Pond: CXL-Based Memory Pooling Systems for Cloud Platforms".

Abstrakti
”Julkiset pilvipalveluntarjoajat pyrkivät täyttämään tiukat suorituskykyvaatimukset ja alhaiset laitteistokustannukset. Keskeinen suorituskyvyn ja kustannusten tekijä on keskusmuisti. Muistin yhdistäminen lupaa parantaa DRAM-käyttöä ja siten vähentää kustannuksia. Poolaaminen on kuitenkin haastavaa pilvitoimintojen suorituskyvyn vaatimusten vuoksi. Tässä artikkelissa ehdotetaan Pondia, ensimmäistä muistin yhdistämisjärjestelmää, joka sekä täyttää pilven suorituskykytavoitteet että vähentää merkittävästi DRAM-kustannuksia. Pond perustuu Compute Express Link (CXL) -standardiin, joka mahdollistaa pääsyn altaan muistiin ja kahteen keskeiseen näkemykseen. Ensinnäkin pilvituotantojälkien analyysimme osoittaa, että 8–16 pistorasian yhdistäminen riittää useimpien hyötyjen saavuttamiseen. Tämä mahdollistaa pienen uima-altaan suunnittelun alhaisella käyttöviiveellä. Toiseksi on mahdollista luoda koneoppimismalleja, jotka voivat ennustaa tarkasti, kuinka paljon paikallista ja poolimuistia varataan virtuaalikoneen (VM) saman NUMA-solmun muistin suorituskyvyn muistuttamiseksi. Arvioimme 158 työkuormalla osoittaa, että Pond vähentää DRAM-kustannuksia 7 % suorituskyvyn ollessa 1–5 % saman NUMA-solmun VM-allokoinneista.

Etsi avoimen pääsyn tekninen paperia tänne. Julkaistu tammikuussa 2023.

Huaicheng Li, Daniel S. Berger, Lisa Hsu, Daniel Ernst, Pantea Zardoshti,
Stanko Novakovic, Monish Shah, Samir Rajadnya, Scott Lee, Ishwar Agarwal,
Mark D. Hill, Marcus Fontoura ja Ricardo Bianchini. 2023. Pond: CXL-pohjaiset muistinvarausjärjestelmät pilvialustoille. julkaisussa Proceedings of the
28. ACM:n kansainvälinen konferenssi arkkitehtonisesta ohjelmoinnin tuesta
Kielet ja käyttöjärjestelmät, osa 2 (ASPLOS '23), 25.–29. maaliskuuta,
2023, Vancouver, BC, Kanada. ACM, New York, NY, USA, 14 sivua. https:
//doi.org/10.1145/3575693.3578835

• SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
• Platoblockchain. Web3 Metaverse Intelligence. Tietoa laajennettu. Pääsy tästä.
• Lähde: https://semiengineering.com/cxl-based-memory-pooling-system-meets-cloud-performance-goals-and-significantly-reduces-dram-cost/