Ampere leder ett paket AI-startups för att utmana Nvidia

Historien är full av exempel på mindre aktörer som går samman för att ta sig an större konkurrenter. Med lanseringen av AI Platform Alliance denna vecka siktar Arm CPU-leverantören Ampere på att göra just det i ett försök att utmana Nvidias hegemoni.

Smakämnen alliansen samlar flera välkända chipstartups, inklusive Cerebras Systems, Graphcore, Furiosa, Kalray, Kinara, Luminous, Neuchips, Rebellions och Sapeon med målet att främja ett öppet AI-ekosystem.

"Det viktigaste problemet vi ser idag är att befintliga lösningar inte ger dessa saker. Det är för närvarande ett slutet ekosystem på hårdvaru- och mjukvarusidan, det är inte effektivt på grund av de stora mängderna ström som förbrukas, och det är dyrt, säger Amperes produktchef Jeff Wittich till Ampere. Registret i ett mejl. "Detta gör det svårt för människor att skala AI för att möta deras behov utan att det blir kostsamt och ohållbart."

Ingen chipmaker kan ta itu med detta problem på egen hand, hävdade han. "Vi ville gå ihop för att skapa kompletta plattformslösningar som är implementerbara." Så det är ingen överraskning att alliansen fokuserar så hårt på att bygga ut ett ekosystem av AI-system som är effektivare än GPU:er.

Den explicita hänvisningen till "GPU: er" i releasen och Wittichs kommentarer angående stängda mjukvaru- och hårdvaruekosystem är nästan säkert ett skott på Nvidia. Chiptillverkarens senaste H100 GPU:er är klassade för 700 watt och kan, laddade i deras HGX-moderkort, förbruka uppåt 10kW på systemnivå.

Arbetar tillsammans

Det finns ett antal sätt som chiptillverkare försöker stävja kraftkraven för AI. Effektiviteter av detta slag kan göras på hårdvaru-, mjukvaru- eller standardnivåer.

Till exempel kan chiptillverkarna gå samman för att etablera gemensamma formfaktorer så att tillverkare av originaldesign kan utveckla ett chassi som kan stödja flera leverantörers acceleratorer. På mjukvarufronten kunde chiptillverkarna anpassa sig kring en gemensam uppsättning kodverktyg och ramverk så att modellerna körs oavsett den underliggande hårdvaruarkitekturen.

Alliansens första affärsorder fixade maskinvaruproblemet.

"Vårt initiala fokus är att skapa ett brett utbud av hårdvarulösningar som kan utnyttja befintliga OEM- och ODM-plattformar, så att de lätt kan distribueras idag," sa Wittich. ”Det handlar om att skapa valmöjligheter. Idag har kunderna inte så många valmöjligheter, och människor tenderar att välja den lösning de känner till. Men det finns bättre lösningar där ute som är mer effektiva och kostnadseffektiva, och vårt mål är att göra dessa lösningar tillgängliga för slutkunder, så att de kan använda dem.”

Däremot berättar Cerebras vd Andrew Feldman Registret att utveckling och lansering av öppna grundmodeller också kommer att vara en viktig möjliggörare. Vi kontaktade också Graphcore för att få deras syn på alliansen, men chiptillverkaren avböjde att kommentera.

Ampere förväntar sig att alliansen kommer att locka ytterligare medlemmar under de kommande veckorna, med alla AI-företag som bygger hårdvara välkomna att gå med i festen. Det återstår dock att se om en bredare tillgänglighet av AI-system från alliansmedlemmar kommer att räcka för att tappa Nvidias strypgrepp på marknaden.

Elefanterna i rummet

Medan experter inte är överens om hur stort Nvidias anspråk på AI-utrymmet är - uppskattningar allt från 75 till 90 procents andel — det råder ingen tvekan om att företaget leder marknaden. Och som vi diskuteras förra veckan kommer den senaste utvecklingen kring företagets produktfärdplan sannolikt att utöka detta försprång, så länge de kan få nätverket att fungera.

Medan AI Platform Alliance inkluderar många välbekanta AI-startups, saknas två av de största företagen som arbetar för att stjäla andelar från Nvidia på listan: Intel och AMD.

Båda företagen investerar hårt i utvecklingen av sin egen AI-hårdvara och mjukvara. Dessutom har de båda förespråkat ramverk och verktyg med öppen källkod, inklusive många som fungerar med tredjepartsplattformar.

På Intel Innovation i september, Intel CTO Greg Lavender pratade upp chipjättens AI-bidrag, inklusive dess öppen källkod OneAPI, OpenVINO och SYCL runtimes. SYCL är särskilt intressant då det inte är begränsat till Intels hårdvara utan istället syftar till att vara ett öppet alternativ till Nvidias CUDA.

AMD lutar sig också mycket mot öppen källkod när det kommer till mjukvara. Företaget nyligen slog ihop sig med Hugging Face för att utöka katalogen av modeller med öppen källkod som är tillgängliga för att köras på dess Instinct- och Alveo-acceleratorer.

Samtidigt, på hårdvarufronten, har båda chiptillverkarna lång erfarenhet - för att inte tala om resurser - att arbeta med ODM:er för att standardisera formfaktorer för en mängd olika system.

På frågan om alliansen skulle vara öppen för att lägga till något av företagen i sina led, sa Wittich att "vem som helst är välkomna att ansöka" och att den första skörden av partners hämtades från leverantörer som Ampere hade arbetat med tidigare. ®

• SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
• PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
• PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
• Platoesg. Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
• PlatoHealth. Biotech och kliniska prövningar Intelligence. Tillgång här.
• Källa: https://go.theregister.com/feed/www.theregister.com/2023/10/18/ai_platform_alliance/