Chinesische Webgiganten gehen auf Nvidia-KI-Einkaufstour im Wert von 5 Milliarden US-Dollar

Chinesische Webgiganten gehen auf Nvidia-KI-Einkaufstour im Wert von 5 Milliarden US-Dollar

Quellknoten: 2816928

Chinas größte Web- und Cloud-Anbieter stehen Schlange, um so viele Nvidia-GPUs wie möglich zu kaufen, solange sie sie noch in die Finger bekommen.

Gerade als das Weiße Haus neue Beschränkungen für US-Technologieinvestitionen im Reich der Mitte ankündigte, erschien ein Bericht behauptet dass Alibaba, Baidu, ByteDance und Tencent gemeinsam 100,000 Nvidia A800-GPUs im Wert von rund 1 Milliarde US-Dollar bestellt haben. A abgeschwächte Version Neben Nvs inzwischen drei Jahre altem A100 wurde der A800 entwickelt, um Leistungsgrenzen beim Export amerikanischer KI-Beschleuniger nach China zu umgehen.

Unter Berufung auf „mit der Angelegenheit vertraute Personen“ fügt der Bericht hinzu, dass dieselben Unternehmen weitere GPUs im Wert von 4 Milliarden US-Dollar für die Auslieferung im nächsten Jahr gekauft hätten. Allerdings ist zum jetzigen Zeitpunkt noch nicht klar, welche Karten sie bekommen wollen. Wenn wir raten müssten, wären es Nvidias neuere Hopper-GPUs, wie die H800 nach China-Spezifikation oder möglicherweise die Ada-Lovelace-GPU-Generation des US-Konzerns.

Ohne diese Chips, sagte ein Baidu-Mitarbeiter, wäre der Webriese nicht in der Lage, nennenswerte große Sprachmodelle zu trainieren. LLMs, darunter GPT-4 von OpenAI, Falcon-40B von TII und die Llama-Serie von Meta, sind das Lebenselixier der generativen KI. Mehrere chinesische Organisationen sind dabei Entwicklung ihre eigenen LLMs, um konkurrierende Dienste zu betreiben.

US-Exportbeschränkungen umgesetzt Letztes Jahr wurde die E/A-Bandbreite für KI-Beschleuniger, die in besorgniserregende Länder verkauft werden, auf maximal 600 GB/s begrenzt. Diese Einschränkungen sollten die Leistung von Beschleunigern im vernetzten Zustand beeinträchtigen und deren Nützlichkeit für Parameter-intensive KI-Arbeitslasten einschränken.

Das Urteil untersagte Nvidia, AMD und Intel kurzzeitig den Verkauf ihrer neuesten Generation von GPUs und Beschleunigern in China. In den Monaten danach und angesichts des wachsenden Hypes um generative KI haben Chiphersteller jedoch daran gearbeitet, bestehende Karten nachzurüsten, damit sie den Regeln entsprechen. Nvidia gehörte zu den ersten, die dies mit dem bereits erwähnten A800 getan haben, der den Speicher halbierte und die Verbindungsbandbreite auf zwei Drittel reduzierte.

In jüngerer Zeit Intel angekündigt eine chinaspezifische Version seines Guadi2-KI-Beschleunigers zum Verkauf in China, während AMD in seiner letzten Telefonkonferenz zu den Ergebnissen sagte, angegeben Es wurde an einer GPU gearbeitet, die den US-Exportgesetzen für den chinesischen Markt entsprach.

US-Gesetzgeber sind Drücken Sie fordern strengere Beschränkungen für den Export von KI-Beschleunigern nach China, wobei einige vorschlagen, dass die Leistungsobergrenzen noch niedriger angesetzt werden sollten.

Es gibt immer noch keine vollständig im eigenen Land hergestellten chinesischen Chips, die in den USA hergestelltes oder entwickeltes Silizium ersetzen könnten. Als wir berichtet Anfang dieser Woche liegt das chinesische Unternehmen Loongson, ein führendes Unternehmen bei der Entwicklung einer selbst entwickelten CPU, in Bezug auf die Leistung um Jahre hinter Intel zurück. Und Alibaba Cloud tut das gerne Sprich Dich aus Es handelt sich um einen Yitian 128-Prozessor der Serverklasse mit 710 CPU-Kernen. Beachten Sie jedoch, dass diese Kerne von Arm lizenziert wurden.

Während GPUs aufgrund ihrer Rolle beim KI-Training viel Aufmerksamkeit erhalten, spielen CPUs sowohl bei der Inferenz als auch beim Training immer noch eine Rolle.

Die chinesische GPU-Entwicklung wurde auch durch Beschränkungen des US-amerikanischen geistigen Eigentums, das von großen Gießereibetreibern genutzt wird, behindert. Biren Technology, ein Fabless-Chiphersteller aus China, der eine von TSMC gefertigte Rechenzentrums-GPU entwickelt, war es gezwungen sein Design umzugestalten, um die gleichen 600-GB/s-Verbindungsbeschränkungen einzuhalten wie beispielsweise US-amerikanische Chiphersteller.

Es gibt Anzeichen dafür, dass die Biden-Regierung nach zusätzlichen Maßnahmen sucht, um nicht nur den Zugang Chinas zu amerikanischen Chips, sondern auch zur Finanzierung einzuschränken. Zusätzlich zu einer zehnjährigen Verbot über die Entwicklungen in China für diejenigen, die die 39 Milliarden US-Dollar der US-CHIPS-Finanzierung in Anspruch nehmen, sagte Präsident Joe Biden am Mittwoch unterzeichnet eine Durchführungsverordnung, die US-Investitionen in chinesische Unternehmen, die bestimmte besorgniserregende Technologien entwickeln, einschränkt.

Mit der Anordnung soll verhindert werden, dass US-Investoren die Entwicklung chinesischer Quantencomputer-, Netzwerk- und KI-Technologien für militärische und nachrichtendienstliche Zwecke unterstützen. ®

Zeitstempel:

Mehr von Das Register