Ενημερώσεις του πίνακα Synopsys σχετικά με την κατάσταση των συστημάτων πολλαπλών τύπων - Semiwiki

Ενημερώσεις του πίνακα Synopsys σχετικά με την κατάσταση των συστημάτων πολλαπλών μεμβρανών – Semiwiki

Χρονική σήμανση: 12 Οκτωβρίου 2023 9:00 π.μ.
Κόμβος πηγής: 2931383

Η Synopsys φιλοξένησε πρόσφατα ένα πάνελ πολλαπλών κλάδων σχετικά με την κατάσταση των συστημάτων πολλαπλών τύπων, το οποίο βρήκα ενδιαφέρον κυρίως για τη συνάφειά του με την ταχεία επιτάχυνση σε υλικό με επίκεντρο την τεχνητή νοημοσύνη. Περισσότερα για αυτό παρακάτω. Συμμετέχοντες στην επιτροπή, όλοι με σημαντικούς ρόλους σε συστήματα πολλαπλών τύπων, ήταν οι Shekhar Kapoor (Ανώτερος Διευθυντής Διαχείρισης Προϊόντων, Synopsys), Cheolmin Park (Corporate VP, Samsung), Lalitha Immaneni (VP Architecture, Design and Technology Solutions, Intel), Michael Schaffert (Ανώτερος Αντιπρόεδρος, Bosch) και Murat Becer (Αντιπρόεδρος Έρευνας & Ανάπτυξης, Ansys). Το πάνελ συντόνισε ο Marco Chiappetta (Co-Founder and Principal Analyst, HotTech Vision and Analysis).

multi die 525x315 ελαφρύ

Ένας οδηγός μεγάλης ζήτησης

Είναι σύνηθες σε αυτόν τον τίτλο να παρουσιάζονται όλοι οι συνήθεις ύποπτοι (HPC, Automotive, κ.λπ.), αλλά αυτή η λίστα είναι σύντομη ίσως ο μεγαλύτερος υποκείμενος παράγοντας - ο τρέχων αγώνας για κυριαρχία σε οτιδήποτε LLM και γενετική τεχνητή νοημοσύνη. Τα μοντέλα μεγάλων γλωσσών προσφέρουν νέα επίπεδα υπηρεσιών SaaS στην αναζήτηση, τη δημιουργία εγγράφων και άλλες δυνατότητες, με σημαντικά ανταγωνιστικά πλεονεκτήματα σε όποιον το κάνει πρώτος. Σε κινητές συσκευές και στο αυτοκίνητο, ο ανώτερος έλεγχος και η ανάδραση με βάση τη φυσική γλώσσα θα κάνουν τις υπάρχουσες επιλογές που βασίζονται στη φωνή να φαίνονται πρωτόγονες συγκριτικά. Εν τω μεταξύ, οι παραγωγικές μέθοδοι για τη δημιουργία νέων εικόνων χρησιμοποιώντας μοντέλα ροής Diffusion και Poisson μπορούν να αντλήσουν εντυπωσιακά γραφικά σχέδια σε κείμενο ή φωτογραφία που συμπληρώνονται από βιβλιοθήκες εικόνων. Ως κλήρωση καταναλωτών, αυτό θα μπορούσε να αποδειχθεί το επόμενο μεγάλο πράγμα για μελλοντικές κυκλοφορίες τηλεφώνου.

Ενώ η τεχνητή νοημοσύνη που βασίζεται σε μετασχηματιστές παρουσιάζει μια τεράστια ευκαιρία $$$, έρχεται με προκλήσεις. Οι τεχνολογίες που καθιστούν δυνατές τέτοιες μεθόδους είναι ήδη αποδεδειγμένες στο σύννεφο και αναδύονται στην άκρη, ωστόσο είναι περίφημα πεινασμένοι για μνήμη. Τα LLM παραγωγής έχουν από δισεκατομμύρια έως τρισεκατομμύρια παραμέτρους που πρέπει να φορτωθούν στον μετασχηματιστή. Η ζήτηση για χώρο εργασίας εντός της διαδικασίας είναι εξίσου υψηλή. Η απεικόνιση που βασίζεται στη διάχυση προσθέτει προοδευτικά θόρυβο σε μια πλήρη εικόνα και στη συνέχεια επιστρέφει σε μια τροποποιημένη εικόνα, ξανά μέσω πλατφορμών που βασίζονται σε μετασχηματιστές.

Εκτός από ένα αρχικό φορτίο, καμία από αυτές τις διεργασίες δεν μπορεί να αντέξει τα έξοδα αλληλεπίδρασης με εξωτερική μνήμη DRAM. Οι καθυστερήσεις θα ήταν απαράδεκτες και η ζήτηση ενέργειας θα εξαντλούσε την μπαταρία του τηλεφώνου ή θα μείωνε τον προϋπολογισμό ενέργειας για ένα κέντρο δεδομένων. Όλη η μνήμη χρειάζεται να βρίσκεται κοντά – πολύ κοντά – στον υπολογισμό. Μια λύση είναι η στοίβαξη SRAM πάνω από τον επιταχυντή (όπως έχουν δείξει η AMD και τώρα η Intel για τα τσιπ διακομιστών τους). Η μνήμη υψηλού εύρους ζώνης στο πακέτο προσθέτει μια άλλη κάπως πιο αργή επιλογή, αλλά όχι τόσο αργή όσο η DRAM εκτός τσιπ.

Όλα αυτά απαιτούν συστήματα πολλαπλών καλουπιών. Πού βρισκόμαστε λοιπόν για να κάνουμε αυτή την επιλογή έτοιμη για παραγωγή;

Απόψεις για το πού βρισκόμαστε

Άκουσα πολύ ενθουσιασμό για ανάπτυξη σε αυτόν τον τομέα, στην υιοθέτηση, τις εφαρμογές και τα εργαλεία. Η Intel, η AMD, η Qualcomm, η Samsung είναι σαφώς πολύ ενεργές σε αυτόν τον χώρο. Το Apple M2 Ultra είναι γνωστό ότι είναι μια σχεδίαση διπλής μήτρας και το AWS Graviton 3 είναι ένα σύστημα πολλαπλών καλουπιών. Είμαι βέβαιος ότι υπάρχουν πολλά άλλα παραδείγματα μεταξύ των μεγάλων συστημάτων και των σπιτιών ημιαγωγών. Έχω την εντύπωση ότι οι μήτρες εξακολουθούν να προέρχονται κυρίως από το εσωτερικό (εκτός ίσως από στοίβες HBM) και συναρμολογούνται σε τεχνολογίες συσκευασίας χυτηρίου από την TSMC, τη Samsung ή την Intel. Ωστόσο, η Tenstorrent μόλις ανακοίνωσε ότι επέλεξε τη Samsung για να κατασκευάσει το σχέδιο AI της επόμενης γενιάς ως chiplet (ένα καλούπι κατάλληλο για χρήση σε ένα σύστημα πολλαπλών καλουπιών), επομένως αυτός ο χώρος οδεύει ήδη προς την ευρύτερη προμήθεια καλουπιών.

Όλοι οι συμμετέχοντες ήταν φυσικά ενθουσιασμένοι με τη γενική κατεύθυνση, και σαφώς οι τεχνολογίες και τα εργαλεία εξελίσσονται γρήγορα, γεγονός που ευθύνεται για το buzz. Η Lalitha θεμελίωσε αυτόν τον ενθουσιασμό σημειώνοντας ότι ο τρόπος με τον οποίο αρχιτεκτονούνται και σχεδιάζονται επί του παρόντος τα συστήματα πολλαπλών καλουπιών είναι ακόμα στα σπάργανα, δεν είναι ακόμη έτοιμο να ξεκινήσει μια εκτεταμένη επαναχρησιμοποιήσιμη αγορά για καλούπια. Αυτό δεν με εκπλήσσει. Η τεχνολογία αυτής της πολυπλοκότητας φαίνεται ότι θα πρέπει να ωριμάσει πρώτα σε στενές συνεργασίες μεταξύ σχεδιαστών συστημάτων, χυτηρίων και εταιρειών EDA, ίσως για αρκετά χρόνια προτού μπορέσει να επεκταθεί σε μεγαλύτερο κοινό.

Είμαι βέβαιος ότι τα χυτήρια, οι κατασκευαστές συστημάτων και οι εταιρείες EDA δεν δείχνουν όλες τις κάρτες τους και μπορεί να είναι πιο μακριά από ό,τι επιλέγουν να διαφημίσουν. Ανυπομονώ να ακούσω περισσότερα. Μπορείτε να παρακολουθήσετε τη συζήτηση στο πάνελ ΕΔΏ.

Μοιραστείτε αυτήν την ανάρτηση μέσω:

Σφραγίδα ώρας:

Περισσότερα από Semiwiki