Los gigantes web chinos se lanzan a comprar Nvidia AI por valor de 5 mil millones de dólares

Reeditado por Platón

seguidores: 0

Los proveedores web y de nube más grandes de China están haciendo fila para comprar tantas GPU Nvidia como puedan mientras puedan tenerlas en sus manos.

Justo cuando la Casa Blanca anunció nuevas restricciones a las inversiones tecnológicas estadounidenses en el Reino Medio, surgió un informe alegando que Alibaba, Baidu, ByteDance y Tencent ordenaron colectivamente 100,000 800 GPU Nvidia A1 por un valor aproximado de mil millones de dólares. A versión nerfeada del A100 de Nv, que ahora tiene tres años, el A800 se desarrolló para eludir los límites de rendimiento en la exportación de aceleradores de IA estadounidenses a China.

Citando a "personas familiarizadas con el asunto", el informe agrega que estas mismas compañías compraron GPU por valor de otros $ 4 mil millones para su entrega el próximo año. Sin embargo, en este punto, no está claro qué cartas están tratando de obtener. Si tuviéramos que adivinar, las GPU Hopper más nuevas de Nvidia, como la H800 con especificaciones de China o, potencialmente, la generación de GPU Ada Lovelace de la corporación estadounidense.

Sin estos chips, dijo un empleado de Baidu, el gigante web no podría entrenar ningún modelo de lenguaje grande y sustancial. Los LLM, incluidos GPT-4 de OpenAI, Falcon-40B de TII y la serie Llama de Meta, son el elemento vital de la IA generativa. Varias organizaciones chinas están en proceso de el desarrollo sus propios LLM para potenciar los servicios de la competencia.

Restricciones de exportación de EE. UU. implementado el año pasado impuso límites en el ancho de banda de E/S a no más de 600 GB/s para los aceleradores de IA vendidos a los países en cuestión. Estas limitaciones estaban destinadas a obstaculizar el rendimiento de los aceleradores cuando se conectan en red, lo que limita su utilidad para las cargas de trabajo de IA con muchos parámetros.

El fallo prohibió brevemente a Nvidia, AMD e Intel vender su última generación de GPU y aceleradores en China. Sin embargo, en los meses posteriores, y con el entusiasmo por el crecimiento de la IA generativa, los fabricantes de chips han trabajado para adaptar las tarjetas existentes para cumplir con las reglas. Nvidia fue una de las primeras en hacerlo con el mencionado A800, que redujo a la mitad la memoria y redujo el ancho de banda de interconexión a dos tercios.

Más recientemente, Intel anunció una versión específica de China de su acelerador Guadi2 AI a la venta en China, mientras que AMD, durante su llamada de ganancias más reciente, indicado estaba trabajando en una GPU que cumplía con las leyes de exportación de EE. UU. para el mercado chino.

Los legisladores estadounidenses están prensado para restricciones más estrictas sobre la exportación de aceleradores de IA a China, y algunos sugieren que los límites de rendimiento deberían establecerse aún más bajos.

Los chips chinos totalmente locales capaces de reemplazar el silicio fabricado o desarrollado en los EE. UU. siguen siendo difíciles de alcanzar. Como nosotros reportaron A principios de esta semana, Loongson de China, una empresa líder en el desarrollo de una CPU local, está años atrás de Intel en términos de rendimiento. Y a Alibaba Cloud le gusta hablar hasta su procesador Yitian 128 de clase de servidor de 710 núcleos de CPU, aunque tenga en cuenta que esos núcleos tenían licencia de Arm.

Si bien las GPU reciben mucha atención por su papel en el entrenamiento de la IA, las CPU aún desempeñan un papel en la inferencia y el entrenamiento.

El desarrollo de GPU en China también se ha visto obstaculizado por las restricciones a la propiedad intelectual estadounidense que utilizan los principales operadores de fundición. Biren Technology, un fabricante de chips chino sin fábrica que desarrolla una GPU de centro de datos fabricada por TSMC, fue forzado refactorizar su diseño para cumplir con las mismas restricciones de interconexión de 600 GB/s que los fabricantes de chips estadounidenses, por ejemplo.

Hay indicios de que la administración Biden está buscando medidas adicionales no solo para frenar el acceso chino a los chips estadounidenses, sino también para la financiación. Además de diez años prohibición sobre los desarrollos chinos para aquellos que se benefician de los $ 39 mil millones de fondos CHIPS de EE. UU., el presidente Joe Biden el miércoles firmado una orden ejecutiva que restringe la inversión estadounidense en empresas chinas que desarrollan ciertas tecnologías de interés.

La orden busca evitar que los inversores estadounidenses apoyen el desarrollo de tecnologías chinas de computación cuántica, redes e inteligencia artificial con usos militares y de recopilación de inteligencia. ®