Chinese Web Giants Go On $5B Nvidia AI Shopping Spree

Republicat de Platon

Urmaritori: 0

Cei mai mari furnizori de web și cloud din China fac coadă pentru a cumpăra cât mai multe GPU-uri Nvidia, cât timp pot pune mâna pe ele.

La fel în care Casa Albă a anunțat noi restricții asupra investițiilor americane în tehnologie în Regatul de Mijloc, a apărut un raport revendicare că Alibaba, Baidu, ByteDance și Tencent au comandat împreună 100,000 de GPU-uri Nvidia A800 în valoare de aproximativ 1 miliard de dolari. A versiune nerfed din A100 de acum trei ani de la Nv, A800 a fost dezvoltat pentru a eluda limitele de performanță la exportul de acceleratoare AI americane în China.

Citând „oameni familiarizați cu problema”, raportul adaugă că aceleași companii au achiziționat alte GPU-uri în valoare de 4 miliarde de dolari pentru livrare anul viitor. Cu toate acestea, în acest moment, nu este clar ce cărți încearcă să obțină. Dacă ar trebui să ghicim, GPU-urile Hopper mai noi ale Nvidia, cum ar fi H800 cu specificații pentru China sau potențial generația de GPU-uri Ada Lovelace a corporației americane.

Fără aceste cipuri, a spus un angajat Baidu, gigantul web nu ar fi în stare să antreneze nici un model de limbă mare substanțial. LLM-urile, inclusiv GPT-4 de la OpenAI, Falcon-40B de la TII și seria Llama de la Meta, sunt sângele AI generativ. Mai multe organizații chineze sunt în proces de în curs de dezvoltare propriile LLM-uri pentru a alimenta serviciile concurente.

restricții la export din SUA implementat anul trecut a impus limite pentru lățimea de bandă IO la cel mult 600 GB/sec pentru acceleratoarele AI vândute în țările de interes. Aceste limitări au fost menite să împiedice performanța acceleratoarelor atunci când sunt conectate în rețea, limitând utilitatea acestora pentru sarcinile de lucru AI cu parametri grei.

Hotărârea a interzis pentru scurt timp Nvidia, AMD și Intel să-și vândă ultima generație de GPU și acceleratoare în China. Cu toate acestea, în lunile care au urmat și odată cu creșterea hype-ului despre AI generativă, producătorii de cipuri au lucrat pentru a moderniza cardurile existente pentru a respecta regulile. Nvidia a fost printre primii care au făcut acest lucru cu A800 menționat mai sus, care a redus la jumătate memoria și a redus lățimea de bandă de interconectare la două treimi.

Mai recent, Intel a anunțat o versiune specifică Chinei a acceleratorului său Guadi2 AI de vânzare în China, în timp ce AMD, în timpul celui mai recent apel pentru venituri, indicată lucra la un GPU care respectă legile SUA de export pentru piața chineză.

Parlamentarii americani sunt presare pentru restricții mai rigide privind exportul de acceleratoare AI în China, unii sugerând că limitele de performanță ar trebui stabilite și mai mici.

Cipurile chinezești de producție completă, capabile să înlocuiască siliciul fabricat sau dezvoltat în SUA, rămân evazive. Așa cum am raportate La începutul acestei săptămâni, Loongson din China, o companie care conduce dezvoltarea unui procesor autohton, este cu câțiva ani în urmă cu Intel în ceea ce privește performanța. Și lui Alibaba Cloud îi place vorbește procesorul său Yitian 128 de 710 de nuclee de procesare din clasa serverului, deși rețineți că acele nuclee au fost licențiate de la Arm.

În timp ce GPU-urile primesc multă atenție pentru rolul lor în antrenamentul AI, procesoarele joacă în continuare un rol în inferență, precum și în antrenament.

Dezvoltarea GPU-ului chineză a fost, de asemenea, împiedicată de restricțiile asupra proprietății intelectuale din SUA utilizate de marii operatori de turnătorie. Biren Technology, un producător chinez de cipuri care a dezvoltat un GPU pentru centru de date fabricat de TSMC, a fost forțat pentru a-și refactoriza designul pentru a respecta aceleași restricții de interconectare de 600 GB/s ca și producătorii de cipuri din SUA, de exemplu.

Există semne că administrația Biden caută măsuri suplimentare pentru a limita nu numai accesul Chinei la jetoanele americane, ci și finanțarea. Pe lângă o perioadă de zece ani interzice despre evoluțiile chineze pentru cei care beneficiază de finanțarea CHIPS de 39 de miliarde de dolari din SUA, președintele Joe Biden miercuri semnat un ordin executiv care restricționează investițiile SUA în companiile chineze care dezvoltă anumite tehnologii de îngrijorare.

Ordinul urmărește să evite investitorii americani să susțină dezvoltarea tehnologiilor chinezești de calcul cuantic, rețele și inteligență artificială cu utilizări militare și de colectare de informații. ®