Ampere memimpin sekelompok startup AI untuk menantang Nvidia

Ampere memimpin sekelompok startup AI untuk menantang Nvidia

Stempel Waktu: 18 Oktober 2023 3:30
Node Sumber: 2942701

Sejarah penuh dengan contoh pemain-pemain kecil yang bersatu untuk menghadapi pesaing yang lebih besar. Dengan peluncuran AI Platform Alliance minggu ini, vendor Arm CPU Ampere bertujuan untuk melakukan hal tersebut dalam upaya untuk menantang hegemoni Nvidia.

Grafik persekutuan menyatukan beberapa startup chip terkenal, termasuk Cerebras Systems, Graphcore, Furiosa, Kalray, Kinara, Luminous, Neuchips, Rebellions, dan Sapeon dengan tujuan mempromosikan ekosistem AI terbuka.

“Masalah utama yang kita lihat saat ini adalah solusi yang ada tidak memberikan hal-hal tersebut. Saat ini ekosistemnya tertutup pada sisi perangkat keras dan perangkat lunak, tidak efisien karena besarnya jumlah daya yang dikonsumsi, dan biayanya mahal,” kata Chief Product Officer Ampere, Jeff Wittich. Pendaftaran dalam email. “Hal ini menyulitkan masyarakat untuk meningkatkan AI guna memenuhi kebutuhan mereka tanpa biaya yang mahal dan tidak berkelanjutan.”

Tidak ada satu pun pembuat chip yang bisa mengatasi masalah ini sendirian, bantahnya. “Kami ingin bersatu untuk menciptakan solusi platform lengkap yang dapat diimplementasikan.” Jadi tidak mengherankan jika aliansi ini sangat fokus untuk membangun ekosistem sistem AI yang lebih efisien daripada GPU.

Referensi eksplisit untuk “GPU” dalam rilis dan pernyataan Wittich mengenai ekosistem perangkat lunak dan perangkat keras yang tertutup hampir pasti merupakan pukulan bagi Nvidia. GPU H100 terbaru dari pembuat chip ini memiliki daya 700 watt dan, jika dipasang ke motherboard HGX, dapat mengonsumsi hingga 10kW pada tingkat sistem.

Bekerja bersama

Ada sejumlah cara yang dilakukan pembuat chip untuk membatasi kebutuhan daya AI. Efisiensi semacam ini dapat dilakukan pada tingkat perangkat keras, perangkat lunak, atau standar.

Misalnya, para pembuat chip dapat bersatu untuk membangun faktor bentuk yang sama sehingga produsen desain asli dapat mengembangkan sasis yang mampu mendukung akselerator dari banyak vendor. Dalam hal perangkat lunak, pembuat chip dapat menyelaraskan seperangkat alat kode dan kerangka kerja sehingga model dapat berjalan terlepas dari arsitektur perangkat keras yang mendasarinya.

Urutan pertama bisnis aliansi ini adalah memperbaiki masalah perangkat keras.

“Fokus awal kami adalah menciptakan beragam solusi perangkat keras yang dapat memanfaatkan platform OEM dan ODM yang ada, sehingga dapat segera diterapkan saat ini,” kata Wittich. “Ini tentang menciptakan pilihan. Saat ini, pelanggan tidak memiliki banyak pilihan, dan orang-orang cenderung memilih satu solusi yang mereka tahu. Namun, ada solusi yang lebih baik yang lebih efisien dan hemat biaya, dan tujuan kami adalah membuat solusi tersebut tersedia bagi pelanggan akhir, sehingga mereka dapat mengadopsinya.”

Namun, CEO Cerebras Andrew Feldman menceritakan Pendaftaran bahwa pengembangan dan peluncuran model pondasi terbuka juga akan menjadi faktor pendukung utama. Kami juga menghubungi Graphcore untuk mendapatkan pendapat mereka tentang aliansi tersebut, namun pembuat chip tersebut menolak berkomentar.

Ampere mengharapkan Aliansi untuk menarik anggota tambahan dalam beberapa minggu mendatang, dan perusahaan AI mana pun yang membuat perangkat keras dipersilakan untuk bergabung dalam partai tersebut. Namun, masih harus dilihat apakah ketersediaan sistem AI yang lebih luas dari anggota aliansi akan cukup untuk menghilangkan cengkeraman Nvidia di pasar.

Gajah di dalam ruangan

Meskipun para ahli tidak sepakat mengenai seberapa besar klaim Nvidia atas ruang AI – perkiraan berkisar antara 75 hingga 90 persen pangsa pasar — ​​tidak ada keraguan bahwa perusahaan ini memimpin pasar. Dan seperti kita dibahas minggu lalu, perkembangan terkini seputar peta jalan produk perusahaan kemungkinan akan memperluas keunggulan ini, asalkan jaringan tersebut dapat berfungsi.

Meskipun AI Platform Alliance mencakup banyak startup AI yang sudah dikenal, dua perusahaan terbesar yang berupaya mencuri saham Nvidia tidak ada dalam daftar: Intel dan AMD.

Kedua perusahaan berinvestasi besar-besaran dalam pengembangan perangkat keras dan perangkat lunak AI mereka sendiri. Terlebih lagi, mereka berdua memperjuangkan kerangka kerja dan alat open source, termasuk banyak yang bekerja dengan platform pihak ketiga.

Di Intel Innovation pada bulan September, CTO Intel Greg Lavender berbicara kontribusi AI raksasa chip tersebut, termasuk runtime open source OneAPI, OpenVINO, dan SYCL. SYCL sangat menarik karena tidak terbatas pada perangkat keras Intel dan bertujuan untuk menjadi alternatif terbuka untuk CUDA Nvidia.

AMD juga sangat bergantung pada komunitas open source dalam hal perangkat lunak. Perusahaan baru-baru ini bekerjasama dengan Hugging Face untuk memperluas katalog model sumber terbuka yang tersedia untuk dijalankan pada akselerator Instinct dan Alveo.

Sementara itu, dalam hal perangkat keras, kedua pembuat chip tersebut memiliki pengalaman luas – belum lagi sumber daya – bekerja sama dengan ODM untuk menstandardisasi faktor bentuk untuk berbagai sistem.

Ketika ditanya apakah aliansi akan terbuka untuk menambahkan salah satu perusahaan ke dalam jajarannya, Wittich mengatakan “siapa pun boleh melamar,” dan bahwa mitra awal ditarik dari vendor yang pernah bekerja sama dengan Ampere sebelumnya. ®

Stempel Waktu:

Lebih dari Pendaftaran