Η IBM λέει ότι τρέχει τον «υπερυπολογιστή AI» από τον Μάιο, αλλά επέλεξε τώρα να το πει στον κόσμο

Η IBM λέει ότι τρέχει τον «υπερυπολογιστή AI» από τον Μάιο, αλλά επέλεξε τώρα να το πει στον κόσμο

Κόμβος πηγής: 1950471

Η IBM είναι ο πιο πρόσφατος τεχνολογικός γίγαντας που αποκάλυψε τον δικό του «υπερυπολογιστή AI», αυτός που αποτελείται από μια δέσμη εικονικών μηχανών που τρέχουν στο IBM Cloud.

Το σύστημα γνωστό ως Vela, το οποίο η εταιρεία ισχυρίζεται ότι είναι online από τον Μάιο του περασμένου έτους, διαφημίζεται ως ο πρώτος βελτιστοποιημένος για τεχνητή νοημοσύνη, εγγενής στο cloud υπερυπολογιστής της IBM, που δημιουργήθηκε με στόχο την ανάπτυξη και εκπαίδευση μοντέλων τεχνητής νοημοσύνης μεγάλης κλίμακας.

Προτού κάποιος βιαστεί να εγγραφεί για πρόσβαση, η IBM δήλωσε ότι η πλατφόρμα είναι προς το παρόν δεσμευμένη για χρήση από την ερευνητική κοινότητα της IBM. Στην πραγματικότητα, η Vela έχει γίνει το «περιβάλλον» της εταιρείας για ερευνητές που δημιουργούν προηγμένες δυνατότητες τεχνητής νοημοσύνης από τον Μάιο του 2022, συμπεριλαμβανομένης της εργασίας σε μοντέλα θεμελίωσης, ανέφερε.

Η IBM δηλώνει ότι επέλεξε αυτήν την αρχιτεκτονική επειδή δίνει στην εταιρεία μεγαλύτερη ευελιξία για να αναβαθμιστεί όπως απαιτείται, καθώς και τη δυνατότητα να αναπτύξει παρόμοια υποδομή σε οποιοδήποτε κέντρο δεδομένων IBM Cloud σε όλο τον κόσμο.

Αλλά το Vela δεν εκτελείται σε κανένα παλιό τυπικό υλικό κόμβου IBM Cloud. το καθένα είναι ένα σύστημα διπλής υποδοχής με επεξεργαστές 2ης γενιάς Xeon Scalable διαμορφωμένους με 1.5 TB DRAM και τέσσερις μονάδες flash NVMe 3.2 TB, συν οκτώ GPU Nvidia A80 των 100 GB, οι οποίες συνδέονται με NVLink και NVSwitch.

Αυτό κάνει την υποδομή της Vela πιο κοντά σε αυτήν ενός ιστότοπου υπολογιστών υψηλής απόδοσης (HPC) από την τυπική υποδομή cloud, παρά την επιμονή της IBM ότι ακολουθούσε διαφορετικό δρόμο καθώς «οι παραδοσιακοί υπερυπολογιστές δεν είχαν σχεδιαστεί για τεχνητή νοημοσύνη».

Είναι επίσης αξιοσημείωτο ότι η IBM επέλεξε να χρησιμοποιήσει επεξεργαστές x86 παρά τα δικά της τσιπ Power 10, ειδικά καθώς αυτά ήταν διαφημίζεται από το Big Blue ως ιδανικό για φόρτους εργασίας με ένταση μνήμης, όπως η εξαγωγή συμπερασμάτων AI μεγάλων μοντέλων.

Οι κόμβοι διασυνδέονται χρησιμοποιώντας πολλαπλές διεπαφές δικτύου 100 Gbps διατεταγμένες σε μια δομή Clos δύο επιπέδων, η οποία είναι σχεδιασμένη έτσι ώστε να υπάρχουν πολλαπλές διαδρομές για τα δεδομένα για την παροχή πλεονασμού.

Ωστόσο, η IBM εξηγεί σε μια ανάρτηση ιστολογίου τους λόγους για τους οποίους επιλέγει μια εγγενή αρχιτεκτονική στο cloud, η οποία επικεντρώνεται στη μείωση του χρόνου που απαιτείται για την κατασκευή και την ανάπτυξη μοντέλων τεχνητής νοημοσύνης μεγάλης κλίμακας όσο το δυνατόν περισσότερο.

«Χτίζουμε το σύστημά μας επί τόπου, χρησιμοποιώντας το παραδοσιακό μοντέλο υπερυπολογιστών, ή χτίζουμε αυτό το σύστημα στο σύννεφο, δημιουργώντας στην ουσία έναν υπερυπολογιστή που είναι επίσης σύννεφο;» ρωτάει το blog.

Η IBM ισχυρίζεται ότι με την υιοθέτηση της τελευταίας προσέγγισης, έχει υπονομεύσει κάπως την απόδοση, αλλά έχει κερδίσει σημαντικά την παραγωγικότητα. Αυτό οφείλεται στη δυνατότητα διαμόρφωσης όλων των απαραίτητων πόρων μέσω λογισμικού, καθώς και στην πρόσβαση σε υπηρεσίες που είναι διαθέσιμες στο ευρύτερο IBM Cloud, με το παράδειγμα της φόρτωσης συνόλων δεδομένων στο Cloud Object Store της IBM, αντί να χρειάζεται να δημιουργήσετε αποκλειστική υποδομή αποθήκευσης.

Η Big Blue είπε επίσης ότι επέλεξε να λειτουργήσει όλους τους κόμβους στο Vela ως εικονικές μηχανές αντί για γυμνά μεταλλικά στιγμιότυπα, καθώς αυτό έκανε πιο εύκολη την παροχή και την εκ νέου παροχή της υποδομής με διαφορετικές στοίβες λογισμικού που απαιτούνται από διαφορετικούς χρήστες AI.

«Τα VM θα διευκολύνουν την ομάδα υποστήριξής μας να κλιμακώσει ευέλικτα δυναμικά τα clusters AI και να μετατοπίσει πόρους μεταξύ φόρτου εργασίας διαφόρων ειδών μέσα σε λίγα λεπτά», εξηγεί το blog της IBM.

Ωστόσο, η εταιρεία ισχυρίζεται ότι βρήκε έναν τρόπο να βελτιστοποιήσει την απόδοση και να ελαχιστοποιήσει την επιβάρυνση της εικονικοποίησης σε λιγότερο από 5 τοις εκατό, κοντά στην απόδοση γυμνού μετάλλου.

Αυτό περιελάμβανε τη διαμόρφωση του γυμνού μεταλλικού κεντρικού υπολογιστή για εικονικοποίηση με υποστήριξη για Virtual Machine Extensions (VMX), single-root IO virtualization (SR-IOV) και τεράστιες σελίδες, μεταξύ άλλων απροσδιόριστων διαμορφώσεων υλικού και λογισμικού.

Περισσότερες λεπτομέρειες για την υποδομή Vela μπορείτε να βρείτε στο Το blog της IBM.

Η IBM δεν είναι η μόνη εταιρεία που χρησιμοποιεί το cloud για να φιλοξενήσει έναν υπερυπολογιστή AI. Πέρυσι η Microsoft αποκάλυψε τη δική της πλατφόρμα χρησιμοποιώντας την υποδομή Azure σε συνδυασμό με τους επιταχυντές GPU της Nvidia, το κιτ δικτύου και τη σουίτα λογισμικού AI Enterprise. Αυτό αναμενόταν να είναι διαθέσιμο για πρόσβαση στους πελάτες του Azure, αλλά δεν προσδιορίστηκε χρονικό πλαίσιο.

Άλλες εταιρείες που κατασκευάζουν υπερυπολογιστές τεχνητής νοημοσύνης, αλλά ακολουθούν την παραδοσιακή διαδρομή υποδομής εντός των εγκαταστάσεων, περιλαμβάνουν Meta και ΤέσλαΤο ®

Σφραγίδα ώρας:

Περισσότερα από Το μητρώο