Raksasa web Cina berbelanja $5 miliar Nvidia AI

Raksasa web Cina berbelanja $5 miliar Nvidia AI

Stempel Waktu: 10 Agustus 2023 9:38
Node Sumber: 2816928

Penyedia web dan cloud terbesar di Tiongkok mengantri untuk membeli sebanyak mungkin GPU Nvidia selagi mereka masih bisa mendapatkannya.

Saat Gedung Putih mengumumkan pembatasan baru terhadap investasi teknologi AS di Kerajaan Tengah, sebuah laporan muncul mengklaim bahwa Alibaba, Baidu, ByteDance, dan Tencent secara kolektif telah memesan 100,000 GPU Nvidia A800 senilai sekitar $1 miliar. A versi nerf dari A100 Nv yang kini berusia tiga tahun, A800 dikembangkan untuk menghindari batasan kinerja pada ekspor akselerator AI Amerika ke Tiongkok.

Mengutip “orang-orang yang mengetahui masalah ini”, laporan tersebut menambahkan bahwa perusahaan-perusahaan tersebut membeli GPU lainnya senilai $4 miliar untuk dikirimkan tahun depan. Namun, hingga saat ini, belum jelas kartu mana yang ingin mereka dapatkan. Jika kita harus menebak, GPU Hopper Nvidia yang lebih baru, seperti H800 spesifikasi China atau mungkin GPU generasi Ada Lovelace dari perusahaan AS.

Tanpa chip ini, kata salah satu karyawan Baidu, raksasa web tersebut tidak akan mampu melatih model bahasa berukuran besar apa pun. LLM, termasuk GPT-4 OpenAI, Falcon-40B TII, dan seri Llama Meta, adalah sumber kehidupan AI generatif. Beberapa organisasi Tiongkok sedang dalam proses berkembang LLM mereka sendiri untuk mendukung layanan pesaing.

Pembatasan ekspor AS diimplementasikan tahun lalu membatasi bandwidth IO tidak lebih dari 600GB/detik untuk akselerator AI yang dijual ke negara-negara yang menjadi perhatian. Keterbatasan ini dimaksudkan untuk menghambat kinerja akselerator ketika dihubungkan ke jaringan, sehingga membatasi kegunaannya untuk beban kerja AI yang banyak parameternya.

Keputusan tersebut sempat melarang Nvidia, AMD, dan Intel menjual GPU dan akselerator generasi terbaru mereka di Tiongkok. Namun, dalam beberapa bulan setelahnya, dan dengan berkembangnya kehebohan seputar AI generatif, para pembuat chip telah berupaya untuk melakukan retrofit pada kartu yang ada agar mematuhi aturan. Nvidia termasuk yang pertama melakukan hal ini dengan A800 yang disebutkan di atas, yang mengurangi separuh memori dan memotong bandwidth interkoneksi menjadi dua pertiga.

Baru-baru ini, Intel mengumumkan versi akselerator AI Guadi2 khusus Tiongkok untuk dijual di Tiongkok, sementara AMD, selama panggilan pendapatan terbarunya, menunjukkan itu sedang mengerjakan GPU yang mematuhi undang-undang ekspor AS untuk pasar Tiongkok.

Anggota parlemen AS adalah mendesak untuk pembatasan yang lebih ketat pada ekspor akselerator AI ke Tiongkok, dan beberapa pihak menyarankan agar batas kinerja harus ditetapkan lebih rendah lagi.

Chip buatan Tiongkok yang sepenuhnya mampu menggantikan silikon buatan atau yang dikembangkan di AS masih sulit dipahami. Seperti yang kita melaporkan awal pekan ini, Loongson dari Tiongkok, sebuah perusahaan yang memimpin pengembangan CPU buatan dalam negeri, tertinggal beberapa tahun dari Intel dalam hal kinerja. Dan Alibaba Cloud menyukainya berbicara prosesor Yitian 128 kelas server dengan 710-CPU-core, namun perlu diingat bahwa core tersebut dilisensikan dari Arm.

Meskipun GPU mendapat banyak perhatian karena perannya dalam pelatihan AI, CPU masih berperan dalam inferensi dan pelatihan.

Pengembangan GPU Tiongkok juga terhambat oleh pembatasan kekayaan intelektual AS yang digunakan oleh operator pengecoran besar. Biren Technology, pembuat chip Tiongkok yang luar biasa yang mengembangkan GPU pusat data buatan TSMC, adalah terpaksa misalnya, untuk memfaktorkan ulang desainnya agar mematuhi pembatasan interkoneksi 600 GB/dtk yang sama seperti pembuat chip AS.

Ada tanda-tanda pemerintahan Biden sedang mencari langkah-langkah tambahan untuk tidak hanya membatasi akses Tiongkok terhadap chip Amerika, tetapi juga pendanaan. Selain sepuluh tahun melarang tentang perkembangan Tiongkok bagi mereka yang memanfaatkan dana CHIPS AS sebesar $39 miliar, Presiden Joe Biden pada hari Rabu tertanda perintah eksekutif yang membatasi investasi AS di perusahaan Tiongkok yang mengembangkan teknologi tertentu yang menjadi perhatian.

Perintah tersebut bertujuan untuk menghindari investor AS mendukung pengembangan komputasi kuantum, jaringan, dan teknologi AI Tiongkok untuk keperluan militer dan pengumpulan intelijen. ®

Stempel Waktu:

Lebih dari Pendaftaran