Ετερογένεια Chiplet και Προηγμένος Προγραμματισμός με Pipelining

Μια τεχνική εργασία με τίτλο «Inter-Layer Scheduling Space Exploration for Multi-Model Inference on Heterogeneous Chiplets» δημοσιεύτηκε από ερευνητές στο Πανεπιστήμιο της Καλιφόρνια Irvine.

Περίληψη:

«Για να αντιμετωπίσουμε την αυξανόμενη υπολογιστική ζήτηση από πρόσφατους φόρτους εργασίας πολλών μοντέλων με βαριά μοντέλα όπως μεγάλα γλωσσικά μοντέλα, προτείνουμε την ανάπτυξη ετερογενών επιταχυντών που βασίζονται σε μονάδες πολλαπλών τσιπ (MCM). Αναπτύσσουμε ένα προηγμένο πλαίσιο προγραμματισμού για ετερογενείς επιταχυντές MCM που εξετάζουν διεξοδικά την περίπλοκη ετερογένεια και τη διοχέτευση μεταξύ των τσιπών. Τα πειράματά μας χρησιμοποιώντας το πλαίσιο μας σε μοντέλα GPT-2 και ResNet-50 σε σύστημα 4 chiplet έδειξαν έως και 2.2x και 1.9x αύξηση της απόδοσης και της ενεργειακής απόδοσης, σε σύγκριση με έναν μονολιθικό επιταχυντή με βελτιστοποιημένη στατική ροή δεδομένων εξόδου.

Βρείτε το τεχνικό χαρτί εδώ. Δημοσιεύθηκε Δεκέμβριος 2023 (προεκτύπωση).

Odema, Mohanad, Hyoukjun Kwon και Mohammad Abdullah Al Faruque. «Διαστημική Εξερεύνηση Προγραμματισμού Διαστημάτων για Συμπεράσματα πολλαπλών μοντέλων σε Ετερογενή Chiplets». arXiv προεκτύπωση arXiv:2312.09401 (2023).

Σχετική ανάγνωση
Chiplets: 2023 (EBook)
Τι είναι τα chiplet, σε τι χρησιμοποιούνται σήμερα και σε τι θα χρησιμοποιηθούν στο μέλλον.
Προετοιμασία για Εμπορικά Chiplets
Μια συζήτηση ειδικών σχετικά με το τι λείπει, ποιες αλλαγές βρίσκονται σε εξέλιξη και γιατί τα chiplet είναι όλο και πιο απαραίτητα.

• SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
• PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
• PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
• PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
• PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
• πηγή: https://semiengineering.com/chiplet-heterogeneity-and-advanced-scheduling-with-pipelining/