Chińscy giganci sieciowi szaleją na zakupach za 5 miliardów dolarów Nvidia AI

Opublikowane ponownie przez Plato

Obserwuje: 0

Najwięksi chińscy dostawcy usług internetowych i chmurowych ustawiają się w kolejce, aby kupić jak najwięcej procesorów graficznych Nvidia, póki jeszcze mogą je dostać.

Gdy Biały Dom ogłosił nowe ograniczenia dla amerykańskich inwestycji technologicznych w Państwie Środka, pojawił się raport twierdząc, że Alibaba, Baidu, ByteDance i Tencent zamówiły łącznie 100,000 800 procesorów graficznych Nvidia A1 o wartości około XNUMX miliarda dolarów. A wersja znerfowana z trzyletniego A100 firmy Nv, model A800 został opracowany w celu obejścia ograniczeń wydajności nałożonych na eksport amerykańskich akceleratorów sztucznej inteligencji do Chin.

Powołując się na „osoby zaznajomione z tą sprawą”, raport dodaje, że te same firmy zakupiły kolejne procesory graficzne o wartości 4 miliardów dolarów z dostawą w przyszłym roku. Jednak w tym momencie nie jest jasne, jakie karty próbują zdobyć. Gdybyśmy musieli zgadywać, nowsze procesory graficzne Nvidia Hopper, takie jak chiński H800 lub potencjalnie generacja procesorów graficznych Ada Lovelace amerykańskiej korporacji.

Bez tych chipów, jak powiedział jeden z pracowników Baidu, gigant internetowy nie byłby w stanie wytrenować żadnych znaczących, dużych modeli językowych. LLM, w tym seria GPT-4 firmy OpenAI, Falcon-40B firmy TII i seria Llama firmy Meta, są siłą napędową generatywnej sztucznej inteligencji. Kilka chińskich organizacji jest w trakcie rozwijanie własne LLM w celu zasilania konkurencyjnych usług.

Ograniczenia eksportowe USA realizowane w zeszłym roku nałożono ograniczenia na przepustowość wejścia/wyjścia na nie więcej niż 600 GB/s w przypadku akceleratorów AI sprzedawanych do krajów, których dotyczy problem. Ograniczenia te miały na celu spowolnienie działania akceleratorów połączonych razem w sieć, ograniczając ich przydatność w przypadku obciążeń AI wymagających dużych parametrów.

Orzeczenie na krótko zabraniało firmom Nvidia, AMD i Intel sprzedaży najnowszej generacji procesorów graficznych i akceleratorów w Chinach. Jednak w ciągu kilku miesięcy, w obliczu rosnącego szumu wokół generatywnej sztucznej inteligencji, producenci chipów pracowali nad modernizacją istniejących kart, aby zapewnić zgodność z przepisami. Nvidia jako jedna z pierwszych to zrobiła, wypuszczając wspomniany A800, co zmniejszyło o połowę pamięć i przepustowość połączenia międzysystemowego do dwóch trzecich.

Ostatnio Intel ogłosił przeznaczona na rynek chiński wersja akceleratora Guadi2 AI do sprzedaży w Chinach, natomiast AMD podczas ostatniej rozmowy telefonicznej dotyczącej wyników finansowych wskazany pracował nad procesorem graficznym zgodnym z amerykańskimi przepisami eksportowymi na rynek chiński.

Prawodawcy amerykańscy są pilny za bardziej rygorystycznymi ograniczeniami w eksporcie akceleratorów sztucznej inteligencji do Chin, przy czym niektórzy sugerują, że pułapy wydajności należy ustalić jeszcze niżej.

W pełni rodzime chińskie chipy, które mogą zastąpić krzem wyprodukowany lub opracowany w USA, pozostają nieuchwytne. Jak my zgłaszane na początku tego tygodnia chińska firma Loongson, firma przodująca w rozwoju rodzimych procesorów, pozostaje o wiele lat za Intelem pod względem wydajności. A Alibaba Cloud to lubi porozmawiaj jego 128-rdzeniowy procesor klasy serwerowej Yitian 710, choć należy pamiętać, że te rdzenie były licencjonowane przez firmę Arm.

Chociaż procesorom graficznym poświęca się wiele uwagi ze względu na ich rolę w szkoleniu sztucznej inteligencji, procesory CPU nadal odgrywają rolę zarówno w wnioskowaniu, jak i szkoleniu.

Rozwój chińskich procesorów graficznych był również hamowany przez ograniczenia amerykańskiej własności intelektualnej stosowanej przez głównych operatorów odlewni. Biren Technology, chiński producent chipów bez fabryk, opracowujący procesor graficzny do centrum danych wyprodukowany przez TSMC, był wymuszony do zmiany projektu, aby przestrzegać tych samych ograniczeń dotyczących połączeń wzajemnych 600 GB/s, jakie stosują na przykład amerykańscy producenci chipów.

Istnieją oznaki, że administracja Bidena szuka dodatkowych środków, które nie tylko ograniczą chiński dostęp do amerykańskich chipów, ale także finansowanie. Oprócz dziesięciu lat zakaz w sprawie rozwoju wydarzeń w Chinach dla osób korzystających z 39 miliardów dolarów z funduszy amerykańskich CHIPS, powiedział w środę prezydent Joe Biden podpisana zarządzenie wykonawcze ograniczające inwestycje USA w chińskie przedsiębiorstwa opracowujące niektóre budzące obawy technologie.

Zarządzenie ma na celu uniemożliwienie inwestorom amerykańskim wspierania rozwoju chińskich technologii obliczeń kwantowych, sieci i sztucznej inteligencji do zastosowań wojskowych i wywiadowczych. ®