Gigantes da web chinesa fazem compras de $ 5 bilhões com Nvidia AI

Gigantes da web chinesa fazem compras de $ 5 bilhões com Nvidia AI

Carimbo de data / hora: 10 de agosto de 2023, 9:38
Nó Fonte: 2816928

Os maiores provedores de web e nuvem da China estão fazendo fila para comprar o maior número possível de GPUs Nvidia enquanto ainda podem colocar as mãos nelas.

Assim que a Casa Branca anunciou novas restrições aos investimentos em tecnologia dos EUA no Reino do Meio, surgiu um relatório reivindicando que Alibaba, Baidu, ByteDance e Tencent encomendaram coletivamente 100,000 GPUs Nvidia A800 no valor de aproximadamente US$ 1 bilhão. A versão nerfada do A100 da Nv, agora com três anos, o A800 foi desenvolvido para contornar os limites de desempenho na exportação de aceleradores de IA americanos para a China.

Citando “pessoas familiarizadas com o assunto”, o relatório acrescenta que essas mesmas empresas compraram outros US$ 4 bilhões em GPUs para entrega no próximo ano. No entanto, neste ponto, não está claro quais cartas eles estão tentando obter. Se tivéssemos que adivinhar, as GPUs Hopper mais recentes da Nvidia, como o H800 com especificação chinesa ou potencialmente a geração de GPUs Ada Lovelace da corporação dos EUA.

Sem esses chips, disse um funcionário da Baidu, a gigante da web não seria capaz de treinar nenhum modelo de linguagem grande e substancial. Os LLMs, incluindo o GPT-4 da OpenAI, o Falcon-40B da TII e a série Llama da Meta, são a força vital da IA ​​generativa. Várias organizações chinesas estão em processo de em desenvolvimento seus próprios LLMs para fornecer serviços concorrentes.

Restrições de exportação dos EUA implementado no ano passado, colocou limites na largura de banda de E/S em não mais que 600 GB/s para aceleradores de IA vendidos a países preocupantes. Essas limitações visavam prejudicar o desempenho dos aceleradores quando conectados em rede, limitando sua utilidade para cargas de trabalho de IA com muitos parâmetros.

A decisão barrou brevemente a Nvidia, AMD e Intel de vender sua última geração de GPUs e aceleradores na China. No entanto, nos meses seguintes, e com o hype em torno do crescimento da IA ​​generativa, os fabricantes de chips trabalharam para adaptar os cartões existentes para cumprir as regras. A Nvidia foi uma das primeiras a fazer isso com o mencionado A800, que reduziu pela metade a memória e cortou a largura de banda de interconexão para dois terços.

Mais recentemente, a Intel anunciou uma versão específica da China de seu acelerador Guadi2 AI para venda na China, enquanto a AMD, durante sua chamada de ganhos mais recente, indicado estava trabalhando em uma GPU que obedecia às leis de exportação dos EUA para o mercado chinês.

Os legisladores dos EUA estão premente para restrições mais rígidas à exportação de aceleradores de IA para a China, com alguns sugerindo que os limites de desempenho deveriam ser ainda mais baixos.

Chips chineses totalmente caseiros capazes de substituir o silício fabricado ou desenvolvido nos EUA permanecem indefinidos. Como nós relatado No início desta semana, a chinesa Loongson, empresa líder no desenvolvimento de uma CPU doméstica, está anos atrás da Intel em termos de desempenho. E o Alibaba Cloud gosta de falar seu processador Yitian 128 de classe de servidor de 710 núcleos de CPU, embora tenha em mente que esses núcleos foram licenciados pela Arm.

Embora as GPUs recebam muita atenção por seu papel no treinamento de IA, as CPUs ainda desempenham um papel na inferência e no treinamento.

O desenvolvimento da GPU chinesa também foi prejudicado por restrições à propriedade intelectual dos EUA usada pelos principais operadores de fundição. A Biren Technology, uma fabricante de chips chinesa que desenvolve uma GPU de datacenter fabricada pela TSMC, foi forçado para refatorar seu design para cumprir as mesmas restrições de interconexão de 600 GB/s dos fabricantes de chips dos EUA, por exemplo.

Há sinais de que o governo Biden está procurando medidas adicionais não apenas para restringir o acesso chinês aos chips americanos, mas também para financiar. Além de dez anos banimento sobre os desenvolvimentos chineses para aqueles que se beneficiam dos US $ 39 bilhões do financiamento do CHIPS dos EUA, presidente Joe Biden quarta-feira assinado uma ordem executiva que restringe o investimento dos EUA em empresas chinesas que desenvolvem certas tecnologias preocupantes.

A ordem visa evitar que os investidores dos EUA apoiem o desenvolvimento da computação quântica chinesa, redes e tecnologias de IA com usos militares e de coleta de inteligência. ®

Carimbo de hora:

Mais de O registro