Ampere leidt een groep AI-startups die Nvidia uitdagen

Ampere leidt een groep AI-startups die Nvidia uitdagen

Tijdstempel: 18 oktober 2023 3:30 uur
Bronknooppunt: 2942701

De geschiedenis staat vol met voorbeelden van kleinere spelers die samenkomen om het op te nemen tegen grotere concurrenten. Met de lancering van de AI Platform Alliance deze week wil Arm CPU-leverancier Ampere precies dat doen in een poging de hegemonie van Nvidia uit te dagen.

De bondgenootschap brengt verschillende bekende chip-startups samen, waaronder Cerebras Systems, Graphcore, Furiosa, Kalray, Kinara, Luminous, Neuchips, Rebellions en Sapeon met als doel een open AI-ecosysteem te bevorderen.

“Het belangrijkste probleem dat we vandaag de dag zien, is dat bestaande oplossingen deze zaken niet bieden. Het is momenteel een gesloten ecosysteem aan de hardware- en softwarekant, het is niet efficiënt vanwege de grote hoeveelheden stroom die worden verbruikt, en het is duur”, vertelde Jeff Wittich, Chief Product Officer van Ampere. Het register in een e-mail. “Dit maakt het moeilijk voor mensen om AI op te schalen om aan hun behoeften te voldoen zonder dat het duur en onhoudbaar wordt.”

Geen enkele chipmaker kan dit probleem alleen aanpakken, betoogde hij. “We wilden samenwerken om volledige platformoplossingen te creëren die implementeerbaar zijn.” Het is dus geen verrassing dat de alliantie zo sterk gefocust is op het uitbouwen van een ecosysteem van AI-systemen die efficiënter zijn dan GPU's.

De expliciete verwijzing naar "GPU's" in de release en de opmerkingen van Wittich over gesloten software- en hardware-ecosystemen zijn vrijwel zeker een schot in de roos voor Nvidia. De nieuwste H100 GPU's van de chipmaker hebben een vermogen van 700 watt en kunnen, geladen in hun HGX-moederborden, meer dan 10 kW verbruiken op systeemniveau.

Samenwerken

Er zijn een aantal manieren waarop chipmakers proberen de stroomvereisten van AI te beteugelen. Dit soort efficiëntieverbeteringen kan worden gerealiseerd op hardware-, software- of standaardniveau.

De chipmakers zouden bijvoorbeeld samen kunnen komen om gemeenschappelijke vormfactoren vast te stellen, zodat fabrikanten van originele ontwerpen een chassis kunnen ontwikkelen dat de versnellers van meerdere leveranciers kan ondersteunen. Op softwaregebied zouden de chipmakers zich kunnen afstemmen op een gemeenschappelijke reeks codetools en raamwerken, zodat modellen draaien ongeacht de onderliggende hardware-architectuur.

De eerste opdracht van de alliantie is om het hardwareprobleem op te lossen.

“Onze initiële focus ligt op het creëren van een breed scala aan hardwareoplossingen die gebruik kunnen maken van bestaande OEM- en ODM-platforms, zodat ze vandaag de dag gemakkelijk kunnen worden ingezet”, aldus Wittich. “Het gaat om het creëren van keuze. Tegenwoordig hebben klanten niet veel keus en kiezen mensen vaak voor de enige oplossing die ze kennen. Maar er zijn betere oplossingen die efficiënter en kosteneffectiever zijn, en ons doel is om die oplossingen beschikbaar te maken voor eindklanten, zodat zij ze kunnen adopteren.”

Echter, CEO van Cerebras, Andrew Feldman, vertelt Het register dat de ontwikkeling en introductie van open foundation-modellen ook een belangrijke factor zal zijn. We hebben ook contact opgenomen met Graphcore om hun mening over de alliantie te krijgen, maar de chipmaker weigerde commentaar te geven.

Ampere verwacht dat de Alliantie de komende weken extra leden zal aantrekken, waarbij elk AI-bedrijf dat hardware bouwt welkom is om zich bij de partij aan te sluiten. Het valt echter nog te bezien of een bredere beschikbaarheid van AI-systemen door alliantieleden voldoende zal zijn om de wurggreep van Nvidia op de markt te doorbreken.

De olifanten in de kamer

Hoewel experts het er niet over eens zijn hoe groot de claim van Nvidia op de AI-ruimte is – schattingen variëren van 75 tot 90 procent van het aandeel – er bestaat geen twijfel over dat het bedrijf marktleider is. En zoals wij besproken De afgelopen week zullen recente ontwikkelingen rond de productroadmap van het bedrijf deze voorsprong waarschijnlijk vergroten, zolang ze het netwerken maar kunnen laten werken.

Hoewel de AI Platform Alliance veel bekende AI-startups omvat, ontbreken twee van de grootste bedrijven die proberen aandelen van Nvidia af te pakken op de lijst: Intel en AMD.

Beide bedrijven investeren zwaar in de ontwikkeling van hun eigen AI-hardware en -software. Bovendien zijn ze allebei voorstander van open source-frameworks en -tools, waaronder veel die werken met platforms van derden.

Bij Intel Innovation in september, Intel CTO Greg Lavender uitgepraat de AI-bijdragen van de chipgigant, inclusief de open source OneAPI-, OpenVINO- en SYCL-runtimes. SYCL is bijzonder interessant omdat het niet beperkt is tot de hardware van Intel, maar in plaats daarvan een open alternatief wil zijn voor Nvidia's CUDA.

AMD leunt ook zwaar op de open source-gemeenschap als het om software gaat. Het bedrijf onlangs vormden een team met Hugging Face om de catalogus met open source-modellen uit te breiden die beschikbaar zijn voor gebruik op de Instinct- en Alveo-versnellers.

Ondertussen hebben beide chipmakers op hardwaregebied uitgebreide ervaring – om nog maar te zwijgen van de middelen – in het werken met ODM's om vormfactoren voor een verscheidenheid aan systemen te standaardiseren.

Op de vraag of de alliantie open zou staan ​​om een ​​van beide bedrijven aan haar gelederen toe te voegen, zei Wittich dat “iedereen welkom is om zich aan te melden”, en dat de eerste groep partners afkomstig was van leveranciers waarmee Ampere eerder had samengewerkt. ®

Tijdstempel:

Meer van Het register