Chinese webreuzen gaan $ 5 miljard Nvidia AI shoppen

Chinese webreuzen gaan $ 5 miljard Nvidia AI shoppen

Tijdstempel: 10 augustus 2023 9:38 uur
Bronknooppunt: 2816928

China's grootste web- en cloudproviders staan ​​in de rij om zoveel mogelijk Nvidia GPU's te kopen zolang ze ze nog kunnen bemachtigen.

Net toen het Witte Huis nieuwe beperkingen op Amerikaanse technologie-investeringen in het Middenrijk aankondigde, verscheen er een rapport beweren dat Alibaba, Baidu, ByteDance en Tencent gezamenlijk 100,000 Nvidia A800 GPU's hebben besteld ter waarde van ongeveer $ 1 miljard. A nerfed versie van Nv's nu drie jaar oude A100, werd de A800 ontwikkeld om prestatielimieten op de export van Amerikaanse AI-versnellers naar China te omzeilen.

Onder verwijzing naar "mensen die bekend zijn met de zaak", voegt het rapport eraan toe dat dezelfde bedrijven voor nog eens $ 4 miljard aan GPU's hebben gekocht voor levering volgend jaar. Op dit moment is het echter niet duidelijk welke kaarten ze proberen te krijgen. Als we moesten raden, Nvidia's nieuwere Hopper GPU's, zoals de China-spec H800 of mogelijk de Ada Lovelace-generatie GPU's van het Amerikaanse bedrijf.

Zonder deze chips, zei een medewerker van Baidu, zou de webgigant geen substantiële grote taalmodellen kunnen trainen. LLM's, waaronder OpenAI's GPT-4, TII's Falcon-40B en Meta's Llama-serie, vormen de levensader van generatieve AI. Verschillende Chinese organisaties zijn bezig met het ontwikkelen van hun eigen LLM's om concurrerende diensten aan te drijven.

Amerikaanse exportbeperkingen geïmplementeerd legde vorig jaar limieten op aan de IO-bandbreedte van niet meer dan 600 GB/sec voor AI-versnellers die werden verkocht aan landen van zorg. Deze beperkingen waren bedoeld om de prestaties van accelerators te hinderen wanneer ze met elkaar verbonden zijn, waardoor hun bruikbaarheid voor parameter-zware AI-workloads wordt beperkt.

De uitspraak verbood Nvidia, AMD en Intel kort om hun nieuwste generatie GPU's en versnellers in China te verkopen. In de maanden daarna, en met de hype rond de groei van generatieve AI, hebben chipmakers echter gewerkt aan het achteraf aanpassen van bestaande kaarten om aan de regels te voldoen. Nvidia was een van de eersten die dit deed met de eerder genoemde A800, die het geheugen halveerde en de interconnect-bandbreedte terugbracht tot tweederde.

Meer recent, Intel aangekondigd een China-specifieke versie van zijn Guadi2 AI-versneller te koop in China, terwijl AMD tijdens zijn meest recente inkomstenoproep aangegeven het werkte aan een GPU die voldeed aan de Amerikaanse exportwetten voor de Chinese markt.

Amerikaanse wetgevers zijn druk voor strengere beperkingen op de export van AI-versnellers naar China, waarbij sommigen suggereren dat de prestatielimieten nog lager moeten worden vastgesteld.

Volledig Chinese chips van eigen bodem die in de VS gemaakt of ontwikkeld silicium kunnen vervangen, blijven ongrijpbaar. Zoals wij gerapporteerd eerder deze week liep het Chinese Loongson, een bedrijf dat leiding geeft aan de ontwikkeling van een CPU van eigen bodem, jaren achter Intel op het gebied van prestaties. En dat doet Alibaba Cloud graag praten zijn 128-CPU-core Yitian 710-processor van serverklasse, maar houd er rekening mee dat die cores onder licentie van Arm waren.

Hoewel GPU's veel aandacht krijgen voor hun rol in AI-training, spelen CPU's nog steeds een rol bij zowel inferentie als training.

De Chinese GPU-ontwikkeling werd ook belemmerd door beperkingen op het Amerikaanse intellectuele eigendom dat wordt gebruikt door grote gieterij-exploitanten. Biren Technology, een fabelachtige Chinese chipmaker die een door TSMC gefabriceerde datacenter-GPU ontwikkelde, was dat wel gedwongen om het ontwerp aan te passen om te voldoen aan dezelfde 600GB/s interconnect-beperkingen als bijvoorbeeld Amerikaanse chipmakers.

Er zijn tekenen dat de regering-Biden op zoek is naar aanvullende maatregelen om niet alleen de Chinese toegang tot Amerikaanse chips te beteugelen, maar ook om financiering. Naast tien jaar ban over Chinese ontwikkelingen voor degenen die gebruik maken van de $ 39 miljard aan Amerikaanse CHIPS-financiering, president Joe Biden Wednesday Gesigneerd een uitvoerend bevel dat Amerikaanse investeringen in Chinese bedrijven die bepaalde zorgwekkende technologieën ontwikkelen, aan banden legt.

Het bevel is bedoeld om te voorkomen dat Amerikaanse investeerders de ontwikkeling van Chinese kwantumcomputing-, netwerk- en AI-technologieën ondersteunen voor militaire doeleinden en voor het verzamelen van inlichtingen. ®

Tijdstempel:

Meer van Het register