Ampere conduce un grup de startup-uri AI pentru a provoca Nvidia

Ampere conduce un grup de startup-uri AI pentru a provoca Nvidia

Nodul sursă: 2942701

Istoria este plină de exemple de jucători mai mici care s-au reunit pentru a înfrunta concurenți mai mari. Odată cu lansarea AI Platform Alliance în această săptămână, furnizorul Arm CPU Ampere își propune să facă exact acest lucru, în încercarea de a contesta hegemonia Nvidia.

alianţă reunește mai multe startup-uri familiare cu cipuri, inclusiv Cerebras Systems, Graphcore, Furiosa, Kalray, Kinara, Luminous, Neuchips, Rebellions și Sapeon, cu scopul de a promova un ecosistem AI deschis.

„Problema cheie pe care o vedem astăzi este că soluțiile existente nu oferă aceste lucruri. În prezent, este un ecosistem închis din punct de vedere hardware și software, nu este eficient din cauza cantităților mari de energie consumată și este costisitor”, a declarat Jeff Wittich, director de produse Ampere. Registrul într-un e-mail. „Acest lucru face dificil pentru oameni să extindă AI pentru a-și satisface nevoile, fără a fi costisitoare și nesustenabilă.”

Niciun producător de cipuri nu poate rezolva singur această problemă, a argumentat el. „Am vrut să ne unim pentru a crea soluții complete de platformă care sunt implementabile.” Deci, nu este surprinzător faptul că alianța se concentrează atât de mult pe construirea unui ecosistem de sisteme AI mai eficiente decât GPU-urile.

Referirea explicită la „GPU-uri” din versiune și observațiile lui Wittich cu privire la ecosistemele software și hardware închise este aproape sigur o șansă la Nvidia. Cele mai recente GPU-uri H100 ale producătorului de cipuri sunt evaluate pentru 700 de wați și, încărcate în plăcile lor de bază HGX, pot consuma până la 10 kW la nivel de sistem.

Lucrand impreuna

Există o serie de moduri în care producătorii de cipuri încearcă să reducă cerințele de putere ale AI. Eficiențe de acest fel pot fi realizate la nivel de hardware, software sau standarde.

De exemplu, producătorii de cipuri s-ar putea reuni pentru a stabili factori de formă comuni, astfel încât producătorii de design original să poată dezvolta un șasiu capabil să suporte acceleratoarele mai mulți furnizori. În ceea ce privește software-ul, producătorii de cipuri s-ar putea alinia în jurul unui set comun de instrumente de cod și cadre, astfel încât modelele să ruleze indiferent de arhitectura hardware subiacentă.

Prima ordine de lucru a Alianței remediază problema hardware.

„Obiectivul nostru inițial este să creăm o mare varietate de soluții hardware care să poată utiliza platformele OEM și ODM existente, astfel încât să poată fi implementate cu ușurință astăzi”, a spus Wittich. „Este vorba de a crea alegeri. Astăzi, clienții nu au prea multe opțiuni, iar oamenii tind să utilizeze implicit soluția pe care o cunosc. Dar, există soluții mai bune, care sunt mai eficiente și mai eficiente din punct de vedere al costurilor, iar obiectivul nostru este să punem acele soluții disponibile clienților finali, astfel încât aceștia să le poată adopta.”

Cu toate acestea, spune CEO-ul Cerebras, Andrew Feldman Registrul că dezvoltarea și lansarea modelelor de fundație deschisă vor fi, de asemenea, un factor cheie. De asemenea, am contactat Graphcore pentru a obține părerea despre alianță, dar producătorul de cipuri a refuzat să comenteze.

Ampere se așteaptă ca Alianța să atragă membri suplimentari în următoarele săptămâni, iar orice companie de AI care construiește hardware este binevenită să se alăture partidului. Cu toate acestea, rămâne de văzut dacă o disponibilitate mai largă a sistemelor AI de la membrii alianței va fi suficientă pentru a elimina stăpânirea Nvidia pe piață.

Elefanții din cameră

În timp ce experții nu sunt de acord cu privire la cât de mare este revendicarea Nvidia asupra spațiului AI - estimări variază de la 75 la 90 la sută - nu există nicio îndoială că compania este lider pe piață. Și ca și noi discutat Săptămâna trecută, evoluțiile recente din jurul foii de parcurs de produse ale companiei sunt de natură să extindă acest avantaj, atâta timp cât pot face ca rețeaua să funcționeze.

În timp ce AI Platform Alliance include multe startup-uri familiare AI, două dintre cele mai mari companii care lucrează pentru a fura cote de la Nvidia lipsesc de pe listă: Intel și AMD.

Ambele companii sunt mult investite în dezvoltarea propriului hardware și software AI. În plus, ambii au susținut cadre și instrumente open source, inclusiv multe care funcționează cu platforme terțe.

La Intel Innovation în septembrie, CTO Intel Greg Lavender a vorbit contribuțiile AI ale gigantului de cipuri, inclusiv runtimele sale open source OneAPI, OpenVINO și SYCL. SYCL este deosebit de interesant, deoarece nu se limitează la hardware-ul Intel și, în schimb, își propune să fie o alternativă deschisă la CUDA de la Nvidia.

AMD se bazează, de asemenea, foarte mult pe comunitatea open source atunci când vine vorba de software. Compania recent colaborați cu Hugging Face pentru a extinde catalogul de modele open source disponibile pentru a rula pe acceleratoarele sale Instinct și Alveo.

Între timp, în ceea ce privește hardware-ul, ambii producători de cipuri au o experiență vastă - ca să nu mai vorbim de resurse - de lucru cu ODM-uri pentru a standardiza factorii de formă pentru o varietate de sisteme.

Întrebat dacă alianța ar fi deschisă să adauge vreo companie în rândurile sale, Wittich a spus că „oricine este binevenit să aplice” și că numărul inițial de parteneri a fost retras de la furnizorii cu care Ampere a lucrat anterior. ®

Timestamp-ul:

Mai mult de la Registrul