Ampere leder en pakke med AI-startups for å utfordre Nvidia

Ampere leder en pakke med AI-startups for å utfordre Nvidia

Tidsstempel: 18. oktober 2023 3:30
Kilde node: 2942701

Historien er full av eksempler på at mindre aktører går sammen for å ta opp mot større konkurrenter. Med lanseringen av AI Platform Alliance denne uken, har Arm CPU-leverandøren Ampere som mål å gjøre nettopp det i et forsøk på å utfordre Nvidias hegemoni.

De allianse samler flere kjente chip-startups, inkludert Cerebras Systems, Graphcore, Furiosa, Kalray, Kinara, Luminous, Neuchips, Rebellions og Sapeon med mål om å fremme et åpent AI-økosystem.

"Nøkkelproblemet vi ser i dag er at eksisterende løsninger ikke gir disse tingene. Det er for øyeblikket et lukket økosystem på maskinvare- og programvaresiden, det er ikke effektivt på grunn av de store mengdene strøm som forbrukes, og det er kostbart, sier Ampere-produktsjef Jeff Wittich. Registeret i en e-post. "Dette gjør det vanskelig for folk å skalere AI for å møte deres behov uten at det blir kostbart og uholdbart."

Ingen brikkeprodusent kan løse dette problemet på egen hånd, hevdet han. "Vi ønsket å gå sammen for å skape komplette plattformløsninger som er implementerbare." Så det er ingen overraskelse at alliansen fokuserer så sterkt på å bygge ut et økosystem av AI-systemer som er mer effektive enn GPUer.

Den eksplisitte referansen til "GPUer" i utgivelsen og Wittichs bemerkninger angående lukkede programvare- og maskinvareøkosystemer er nesten helt sikkert et skudd på Nvidia. Brikkeprodusentens nyeste H100 GPUer er vurdert til 700 watt og kan, lastet inn i deres HGX-hovedkort, forbruke oppover 10kW på systemnivå.

Jobber sammen

Det er en rekke måter brikkeprodusenter forsøker å dempe strømkravene til AI. Effektiviteter av denne typen kan gjøres på maskinvare-, programvare- eller standardnivåer.

For eksempel kan brikkeprodusentene komme sammen for å etablere felles formfaktorer slik at produsenter av original design kan utvikle et chassis som er i stand til å støtte flere leverandørers akseleratorer. På programvarefronten kunne brikkeprodusentene justere seg rundt et felles sett med kodeverktøy og rammeverk slik at modellene kjører uavhengig av den underliggende maskinvarearkitekturen.

Alliansens første forretningsordre løser maskinvareproblemet.

"Vårt første fokus er å lage et bredt utvalg av maskinvareløsninger som kan utnytte eksisterende OEM- og ODM-plattformer, slik at de lett kan distribueres i dag," sa Wittich. «Det handler om å skape valgmuligheter. I dag har ikke kundene mange valgmuligheter, og folk har en tendens til å misligholde den ene løsningen de kjenner. Men det finnes bedre løsninger der ute som er mer effektive og kostnadseffektive, og målet vårt er å gjøre disse løsningene tilgjengelige for sluttkunder, slik at de kan ta dem i bruk."

Imidlertid forteller Cerebras-sjef Andrew Feldman Registeret at utvikling og utgivelse av åpne fundamentmodeller også vil være en sentral muliggjører. Vi tok også kontakt med Graphcore for å få deres syn på alliansen, men chipmakeren nektet å kommentere.

Ampere forventer at alliansen vil tiltrekke seg flere medlemmer i løpet av de kommende ukene, med alle AI-selskaper som bygger maskinvare velkommen til å bli med på festen. Det gjenstår imidlertid å se om bredere tilgjengelighet av AI-systemer fra alliansemedlemmer vil være nok til å sløyfe Nvidias kvelertak på markedet.

Elefantene i rommet

Mens eksperter er uenige om hvor stort Nvidias krav på AI-plassen er – estimater varierer fra alt fra 75 til 90 prosent andel — det er ingen tvil om at selskapet leder markedet. Og som vi diskutert forrige uke vil den siste utviklingen rundt selskapets produktveikart sannsynligvis utvide denne ledelsen, så lenge de kan få nettverket til å fungere.

Mens AI Platform Alliance inkluderer mange kjente AI-startups, mangler to av de største selskapene som jobber med å stjele aksjer fra Nvidia på listen: Intel og AMD.

Begge selskapene er tungt investert i utvikling av egen AI-maskinvare og -programvare. Dessuten har de begge forkjempet rammeverk og verktøy for åpen kildekode, inkludert mange som jobber med tredjepartsplattformer.

På Intel Innovation i september, Intel CTO Greg Lavender snakket opp brikkegigantens AI-bidrag, inkludert dens åpen kildekode OneAPI, OpenVINO og SYCL kjøretider. SYCL er spesielt interessant siden den ikke er begrenset til Intels maskinvare og i stedet har som mål å være et åpent alternativ til Nvidias CUDA.

AMD lener seg også tungt på åpen kildekode-fellesskapet når det kommer til programvare. Selskapet nylig slo seg sammen med Hugging Face for å utvide katalogen med åpen kildekode-modeller som er tilgjengelige for å kjøre på Instinct- og Alveo-akseleratorene.

I mellomtiden, på maskinvarefronten, har begge brikkeprodusentene lang erfaring - for ikke å nevne ressurser - som jobber med ODM-er for å standardisere formfaktorer for en rekke systemer.

På spørsmål om alliansen ville være åpen for å legge til noen av selskapene i rekkene, sa Wittich "alle er velkomne til å søke," og at den første innsamlingen av partnere ble hentet fra leverandører som Ampere hadde jobbet med tidligere. ®

Tidstempel:

Mer fra Registeret