Ampere guida un gruppo di startup AI per sfidare Nvidia

Ampere guida un gruppo di startup AI per sfidare Nvidia

Timestamp: 18 ottobre 2023 3:30
Nodo di origine: 2942701

La storia è piena di esempi di attori più piccoli che si uniscono per affrontare concorrenti più grandi. Con il lancio dell'AI Platform Alliance questa settimana, il fornitore di CPU Arm Ampere mira a fare proprio questo nel tentativo di sfidare l'egemonia di Nvidia.

Il fede riunisce diverse startup di chip familiari, tra cui Cerebras Systems, Graphcore, Furiosa, Kalray, Kinara, Luminous, Neuchips, Rebellions e Sapeon con l'obiettivo di promuovere un ecosistema di intelligenza artificiale aperto.

“Il problema principale che vediamo oggi è che le soluzioni esistenti non forniscono queste cose. Attualmente è un ecosistema chiuso dal lato hardware e software, non è efficiente a causa della grande quantità di energia consumata ed è costoso", ha dichiarato Jeff Wittich, Chief Product Officer di Ampere. Il registro in un'e-mail. “Ciò rende difficile per le persone adattare l’intelligenza artificiale per soddisfare le proprie esigenze senza che ciò diventi costoso e insostenibile”.

Nessun produttore di chip può affrontare questo problema da solo, ha affermato. "Volevamo unirci per creare soluzioni di piattaforma complete che siano implementabili." Quindi non sorprende che l’alleanza sia così fortemente concentrata sulla costruzione di un ecosistema di sistemi di intelligenza artificiale più efficienti delle GPU.

Il riferimento esplicito alle "GPU" nel comunicato e le osservazioni di Wittich riguardo agli ecosistemi software e hardware chiusi sono quasi certamente un tentativo contro Nvidia. Le ultime GPU H100 del produttore di chip hanno una potenza nominale di 700 watt e, caricate nelle schede madri HGX, possono consumare fino a 10 kW a livello di sistema.

Lavorare insieme

Esistono diversi modi in cui i produttori di chip stanno tentando di frenare i requisiti di potenza dell’intelligenza artificiale. Efficienze di questo tipo possono essere ottenute a livello di hardware, software o standard.

Ad esempio, i produttori di chip potrebbero unirsi per stabilire fattori di forma comuni in modo che i produttori di design originali possano sviluppare uno chassis in grado di supportare gli acceleratori di più fornitori. Sul fronte del software, i produttori di chip potrebbero allinearsi attorno a un insieme comune di strumenti e framework di codice in modo che i modelli funzionino indipendentemente dall’architettura hardware sottostante.

Il primo ordine del giorno dell'alleanza risolve il problema dell'hardware.

"Il nostro obiettivo iniziale è creare un'ampia varietà di soluzioni hardware in grado di utilizzare le piattaforme OEM e ODM esistenti, in modo che possano essere prontamente implementate oggi", ha affermato Wittich. “Si tratta di creare una scelta. Oggi i clienti non hanno molte scelte e le persone tendono a scegliere per impostazione predefinita l'unica soluzione che conoscono. Ma esistono soluzioni migliori, più efficienti ed economicamente vantaggiose, e il nostro obiettivo è rendere tali soluzioni disponibili ai clienti finali, in modo che possano adottarle”.

Tuttavia, lo dice il CEO di Cerebras Andrew Feldman Il registro che anche lo sviluppo e il rilascio di modelli di fondazione aperti costituiranno un fattore chiave. Abbiamo anche contattato Graphcore per sapere la sua opinione sull'alleanza, ma il produttore di chip ha rifiutato di commentare.

Ampere si aspetta che l’Alleanza attiri ulteriori membri nelle prossime settimane, e qualsiasi azienda che costruisce hardware di intelligenza artificiale sarà benvenuta a unirsi al partito. Tuttavia, resta da vedere se una più ampia disponibilità di sistemi di intelligenza artificiale da parte dei membri dell'alleanza sarà sufficiente a indebolire la morsa di Nvidia sul mercato.

Gli elefanti nella stanza

Mentre gli esperti non sono d'accordo su quanto sia ampia la pretesa di Nvidia sullo spazio dell'intelligenza artificiale – stime varia da una quota compresa tra il 75 e il 90%: non c'è dubbio che l'azienda sia leader del mercato. E come noi discusso la scorsa settimana, i recenti sviluppi relativi alla roadmap dei prodotti dell'azienda probabilmente estenderanno questo vantaggio, a condizione che possano far funzionare la rete.

Mentre l’AI Platform Alliance include molte startup di intelligenza artificiale familiari, dall’elenco mancano due delle più grandi aziende che lavorano per sottrarre quote a Nvidia: Intel e AMD.

Entrambe le società investono fortemente nello sviluppo del proprio hardware e software AI. Inoltre, entrambi hanno sostenuto framework e strumenti open source, inclusi molti che funzionano con piattaforme di terze parti.

All'Intel Innovation di settembre, il CTO di Intel Greg Lavender parlato i contributi AI del gigante dei chip, inclusi i runtime open source OneAPI, OpenVINO e SYCL. SYCL è particolarmente interessante in quanto non è limitato all'hardware Intel e mira invece a essere un'alternativa aperta al CUDA di Nvidia.

AMD fa molto affidamento sulla comunità open source anche quando si tratta di software. L'azienda recentemente collaborato con Hugging Face per espandere il catalogo di modelli open source disponibili per l'esecuzione sui suoi acceleratori Instinct e Alveo.

Nel frattempo, sul fronte hardware, entrambi i produttori di chip hanno una vasta esperienza – per non parlare delle risorse – lavorando con gli ODM per standardizzare i fattori di forma per una varietà di sistemi.

Alla domanda se l’alleanza sarebbe aperta ad aggiungere una delle due società ai suoi ranghi, Wittich ha detto che “chiunque è il benvenuto a presentare domanda” e che il gruppo iniziale di partner è stato prelevato dai fornitori con cui Ampere aveva lavorato in precedenza. ®

Timestamp:

Di più da Il registro