Chinese Web Giants Go On $5B Nvidia AI Shopping Spree

Перевидано Платоном

читають: 0

Найбільші веб-провайдери Китаю та хмарні провайдери шикуються в чергу, щоб купити якомога більше графічних процесорів Nvidia, поки вони ще можуть отримати їх.

У той момент, коли Білий дім оголосив про нові обмеження на інвестиції США в технології в Середньому Королівстві, з’явився звіт стверджуючи, що Alibaba, Baidu, ByteDance і Tencent разом замовили 100,000 800 графічних процесорів Nvidia A1 на суму приблизно XNUMX мільярд доларів. А nerfed версія З A100, якому вже три роки, A800 був розроблений, щоб обійти обмеження продуктивності на експорт американських прискорювачів штучного інтелекту в Китай.

Посилаючись на «людей, знайомих із цією справою», у звіті додається, що ці ж компанії придбали ще 4 мільярди доларів графічних процесорів для доставки наступного року. Однак на даний момент незрозуміло, які картки вони намагаються отримати. Якби нам довелося здогадуватися, новіші графічні процесори Hopper від Nvidia, такі як H800 для Китаю або, можливо, покоління графічних процесорів Ada Lovelace американської корпорації.

Один із співробітників Baidu сказав, що без цих чіпів веб-гігант не зміг би навчити будь-яких істотних великих мовних моделей. LLMs, включаючи GPT-4 від OpenAI, Falcon-40B від TII і серію Llama від Meta, є джерелом життя генеративного ШІ. Кілька китайських організацій знаходяться в процесі розвивається їхні власні магістратури для забезпечення конкуруючих служб.

Експортні обмеження США реалізовані Минулого року було встановлено обмеження на пропускну здатність вводу-виводу не більше ніж 600 ГБ/с для прискорювачів AI, які продаються в країни, що викликають занепокоєння. Ці обмеження мали на меті знизити продуктивність прискорювачів під час об’єднання в мережу, обмежуючи їхню корисність для навантажень штучного інтелекту з великими параметрами.

Постанова ненадовго заборонила компаніям Nvidia, AMD і Intel продавати свої новітні покоління графічних процесорів і прискорювачів у Китаї. Проте за кілька місяців із зростанням ажіотажу навколо генеративного штучного інтелекту виробники чіпів працювали над модернізацією існуючих карт відповідно до правил. Nvidia була однією з перших, хто зробив це з вищезгаданим A800, який вдвічі зменшив обсяг пам’яті та скоротив пропускну здатність з’єднання до двох третин.

Зовсім недавно Intel оголошений спеціалізована для Китаю версія свого прискорювача Guadi2 AI для продажу в Китаї, тоді як AMD під час свого останнього звіту про прибутки, зазначений він працював над графічним процесором, який відповідав експортним законам США для китайського ринку.

Законодавці США пресування для жорсткіших обмежень на експорт прискорювачів штучного інтелекту до Китаю, причому деякі припускають, що обмеження продуктивності повинні бути ще нижчими.

Повністю вітчизняні китайські чіпи, здатні замінити силікон, виготовлений або розроблений у США, залишаються недосяжними. Як ми повідомляє Раніше цього тижня китайська Loongson, компанія, яка веде розробку домашніх процесорів, на багато років відстає від Intel за продуктивністю. І Alibaba Cloud подобається поговорити його 128-ядерний процесор серверного класу Yitian 710, хоча майте на увазі, що ці ядра були ліцензовані компанією Arm.

У той час як графічні процесори приділяють багато уваги через їх роль у навчанні ШІ, центральні процесори все ще відіграють роль у висновках, а також у навчанні.

Розробці графічних процесорів у Китаї також заважають обмеження на інтелектуальну власність США, яку використовують великі ливарні оператори. Biren Technology, китайський виробник мікросхем, що розробляє графічний процесор для центрів обробки даних на базі TSMC, був примусовий змінити його конструкцію, щоб відповідати тим самим обмеженням між з’єднаннями 600 ГБ/с, що й американські виробники мікросхем.

Є ознаки того, що адміністрація Байдена шукає додаткові заходи, щоб не тільки обмежити доступ Китаю до американських мікросхем, але й фінансування. Крім десятирічного заборона про китайські розробки для тих, хто користується фінансуванням CHIPS США у розмірі 39 мільярдів доларів, президент Джо Байден у середу підписаний виконавчий наказ, що обмежує інвестиції США в китайські компанії, що розробляють певні технології, що викликають занепокоєння.

Наказ спрямований на те, щоб американські інвестори не підтримували розвиток китайських квантових обчислень, мереж і технологій штучного інтелекту з використанням у військових цілях і для збору розвідданих. ®