Ampere leder en pakke af AI-startups for at udfordre Nvidia

Ampere leder en pakke af AI-startups for at udfordre Nvidia

Tidsstempel: 18. oktober 2023 kl. 3
Kildeknude: 2942701

Historien er fuld af eksempler på mindre spillere, der går sammen for at tage imod større konkurrenter. Med lanceringen af ​​AI Platform Alliance i denne uge sigter Arm CPU-leverandøren Ampere på at gøre netop det i et forsøg på at udfordre Nvidias hegemoni.

alliance samler flere velkendte chip-startups, herunder Cerebras Systems, Graphcore, Furiosa, Kalray, Kinara, Luminous, Neuchips, Rebellions og Sapeon med det mål at fremme et åbent AI-økosystem.

"Det vigtigste problem, vi ser i dag, er, at eksisterende løsninger ikke giver disse ting. Det er i øjeblikket et lukket økosystem på hardware- og softwaresiden, det er ikke effektivt på grund af de store mængder strøm, der forbruges, og det er dyrt,” fortalte Ampere Chief Product Officer Jeff Wittich. Registret i en e-mail. "Dette gør det svært for folk at skalere AI for at opfylde deres behov, uden at det bliver dyrt og uholdbart."

Ingen chipmaker kan løse dette problem på egen hånd, hævdede han. "Vi ønskede at gå sammen for at skabe komplette platformsløsninger, der er implementerbare." Så det er ingen overraskelse, at alliancen er fokuseret så stærkt på at opbygge et økosystem af AI-systemer, der er mere effektive end GPU'er.

Den eksplicitte henvisning til "GPU'er" i udgivelsen og Wittichs bemærkninger vedrørende lukkede software- og hardware-økosystemer er næsten helt sikkert et skud på Nvidia. Chipproducentens seneste H100 GPU'er er normeret til 700 watt og kan, indlæst i deres HGX-bundkort, forbruge op mod 10kW på systemniveau.

Arbejde sammen

Der er en række måder, hvorpå chipproducenter forsøger at begrænse strømkravene til AI. Effektiviteter af denne art kan opnås på hardware-, software- eller standardniveauer.

For eksempel kunne chipproducenterne gå sammen for at etablere fælles formfaktorer, så originale designproducenter kan udvikle et chassis, der er i stand til at understøtte flere leverandørers acceleratorer. På softwarefronten kunne chipproducenterne tilpasse sig et fælles sæt kodeværktøjer og rammer, så modellerne kører uanset den underliggende hardwarearkitektur.

Alliancens første forretningsorden løser hardwareproblemet.

"Vores første fokus er at skabe en bred vifte af hardwareløsninger, der kan udnytte eksisterende OEM- og ODM-platforme, så de let kan implementeres i dag," sagde Wittich. ”Det handler om at skabe valg. I dag har kunderne ikke mange valgmuligheder, og folk har en tendens til at vælge den eneste løsning, de kender. Men der er bedre løsninger derude, som er mere effektive og omkostningseffektive, og vores mål er at gøre disse løsninger tilgængelige for slutkunder, så de kan adoptere dem."

Det fortæller Cerebras CEO Andrew Feldman dog Registret at udvikling og frigivelse af åbne fundamentmodeller også vil være en central muliggører. Vi kontaktede også Graphcore for at få deres bud på alliancen, men chipproducenten afviste at kommentere.

Ampere forventer, at Alliancen vil tiltrække yderligere medlemmer i de kommende uger, og enhver AI-virksomhed, der bygger hardware, er velkommen til at deltage i festen. Det er dog stadig uvist, om en bredere tilgængelighed af AI-systemer fra alliancemedlemmer vil være nok til at afbryde Nvidias kvælertag på markedet.

Elefanterne i rummet

Mens eksperter er uenige om, hvor stort Nvidias krav på AI-rummet er - skøn spænder fra alt fra 75 til 90 procent andel — der er ingen tvivl om, at virksomheden er førende på markedet. Og som vi drøftet I sidste uge vil den seneste udvikling omkring virksomhedens produktkøreplan sandsynligvis udvide dette forspring, så længe de kan få netværket til at fungere.

Mens AI Platform Alliance inkluderer mange velkendte AI-startups, mangler to af de største virksomheder, der arbejder på at stjæle aktier fra Nvidia, på listen: Intel og AMD.

Begge virksomheder er stærkt investeret i udviklingen af ​​deres egen AI-hardware og -software. Hvad mere er, har de begge kæmpet for open source-rammer og værktøjer, herunder mange, der arbejder med tredjepartsplatforme.

Ved Intel Innovation i september, Intel CTO Greg Lavender talte op chipgigantens AI-bidrag, herunder dens open source OneAPI, OpenVINO og SYCL runtimes. SYCL er særligt interessant, da det ikke er begrænset til Intels hardware og i stedet sigter mod at være et åbent alternativ til Nvidias CUDA.

AMD læner sig også meget op af open source-fællesskabet, når det kommer til software. Virksomheden for nylig dannede hold med Hugging Face for at udvide kataloget af open source-modeller, der kan køre på dets Instinct- og Alveo-acceleratorer.

I mellemtiden, på hardwarefronten, har begge chipproducenter stor erfaring - for ikke at nævne ressourcer - i at arbejde med ODM'er for at standardisere formfaktorer for en række systemer.

Adspurgt om alliancen ville være åben for at tilføje begge virksomheder til sine rækker, sagde Wittich "alle er velkomne til at ansøge", og at den første høst af partnere blev hentet fra leverandører, Ampere havde arbejdet med tidligere. ®

Tidsstempel:

Mere fra Registret