Ampere dẫn đầu một nhóm công ty khởi nghiệp AI thách thức Nvidia

Ampere dẫn đầu một nhóm công ty khởi nghiệp AI thách thức Nvidia

Dấu thời gian: 18 tháng 2023 năm 3 30:XNUMX sáng
Nút nguồn: 2942701

Lịch sử có đầy đủ các ví dụ về những người chơi nhỏ hơn kết hợp với nhau để đối đầu với những đối thủ lớn hơn. Với sự ra mắt của Liên minh nền tảng AI trong tuần này, nhà cung cấp CPU Arm Ampere đặt mục tiêu thực hiện điều đó nhằm thách thức quyền bá chủ của Nvidia.

Sản phẩm liên minh quy tụ một số công ty khởi nghiệp về chip quen thuộc, bao gồm Cerebras Systems, Graphcore, Furiosa, Kalray, Kinara, Luminous, Neuchips, Rebellions và Sapeon với mục tiêu thúc đẩy một hệ sinh thái AI mở.

“Vấn đề chính mà chúng ta thấy ngày nay là các giải pháp hiện tại không cung cấp được những thứ này. Jeff Wittich, giám đốc sản phẩm của Ampere, cho biết: “Nó hiện là một hệ sinh thái khép kín về mặt phần cứng và phần mềm, nó không hiệu quả do lượng điện năng tiêu thụ lớn và rất tốn kém”. Đăng ký trong một email. “Điều này khiến mọi người khó có thể mở rộng quy mô AI để đáp ứng nhu cầu của mình mà không tốn kém và không bền vững.”

Ông lập luận rằng không một nhà sản xuất chip nào có thể tự mình giải quyết vấn đề này. “Chúng tôi muốn hợp tác với nhau để tạo ra các giải pháp nền tảng đầy đủ có thể triển khai được.” Vì vậy, không có gì ngạc nhiên khi liên minh tập trung rất nhiều vào việc xây dựng một hệ sinh thái gồm các hệ thống AI hiệu quả hơn GPU.

Việc đề cập rõ ràng đến “GPU” trong bản phát hành và nhận xét của Wittich về hệ sinh thái phần cứng và phần mềm đóng gần như chắc chắn là một đòn nhắm vào Nvidia. GPU H100 mới nhất của nhà sản xuất chip này có công suất 700 watt và được nạp vào bo mạch chính HGX của họ, có thể tiêu thụ tới 10kW ở cấp hệ thống.

Làm việc cùng nhau

Có một số cách mà các nhà sản xuất chip đang cố gắng hạn chế yêu cầu về năng lượng của AI. Hiệu quả của loại này có thể được thực hiện ở cấp độ phần cứng, phần mềm hoặc tiêu chuẩn.

Ví dụ, các nhà sản xuất chip có thể cùng nhau thiết lập các hệ số dạng chung để các nhà sản xuất thiết kế ban đầu có thể phát triển một khung máy có khả năng hỗ trợ bộ tăng tốc của nhiều nhà cung cấp. Về mặt phần mềm, các nhà sản xuất chip có thể sắp xếp xung quanh một bộ công cụ và khung mã chung để các mô hình có thể chạy bất kể kiến ​​trúc phần cứng cơ bản.

Đơn hàng kinh doanh đầu tiên của liên minh khắc phục sự cố phần cứng.

Wittich cho biết: “Trọng tâm ban đầu của chúng tôi là tạo ra nhiều giải pháp phần cứng có thể sử dụng nền tảng OEM và ODM hiện có để chúng có thể dễ dàng triển khai ngay hôm nay”. “Đó là về việc tạo ra sự lựa chọn. Ngày nay, khách hàng không có nhiều sự lựa chọn và mọi người có xu hướng mặc định sử dụng một giải pháp mà họ biết. Tuy nhiên, hiện có những giải pháp tốt hơn, hiệu quả và tiết kiệm chi phí hơn và mục tiêu của chúng tôi là cung cấp những giải pháp đó cho khách hàng cuối để họ có thể áp dụng chúng.”

Tuy nhiên, Giám đốc điều hành Cerebras Andrew Feldman nói Đăng ký rằng việc phát triển và phát hành các mô hình nền tảng mở cũng sẽ là yếu tố hỗ trợ chính. Chúng tôi cũng đã liên hệ với Graphcore để đề nghị họ tham gia liên minh, nhưng nhà sản xuất chip từ chối bình luận.

Ampere hy vọng Liên minh sẽ thu hút thêm thành viên trong những tuần tới, với bất kỳ công ty xây dựng phần cứng AI nào đều được chào đón tham gia nhóm. Tuy nhiên, vẫn còn phải xem liệu sự sẵn có rộng rãi hơn của các hệ thống AI từ các thành viên liên minh có đủ để loại bỏ sự thống trị của Nvidia trên thị trường hay không.

Những con voi trong phòng

Trong khi các chuyên gia không đồng ý về mức độ tuyên bố của Nvidia đối với không gian AI — dự toán từ 75 đến 90% thị phần - không nghi ngờ gì rằng công ty đang dẫn đầu thị trường. Và như chúng tôi thảo luận tuần trước, những phát triển gần đây xung quanh lộ trình sản phẩm của công ty có thể sẽ mở rộng vị trí dẫn đầu này, miễn là chúng có thể khiến mạng lưới hoạt động.

Trong khi Liên minh nền tảng AI bao gồm nhiều công ty khởi nghiệp AI quen thuộc, hai trong số các công ty lớn nhất đang cố gắng giành lấy thị phần từ Nvidia lại vắng mặt trong danh sách: Intel và AMD.

Cả hai công ty đều đầu tư rất nhiều vào việc phát triển phần cứng và phần mềm AI của riêng mình. Hơn nữa, họ đều ủng hộ các khung và công cụ nguồn mở, bao gồm nhiều công cụ hoạt động với nền tảng của bên thứ ba.

Tại Intel Innovation vào tháng XNUMX, Intel CTO Greg Lavender đã nói chuyện những đóng góp về AI của gã khổng lồ chip, bao gồm cả thời gian chạy OneAPI, OpenVINO và SYCL mã nguồn mở. SYCL đặc biệt thú vị vì nó không giới hạn ở phần cứng của Intel mà thay vào đó nhằm mục đích trở thành một giải pháp thay thế mở cho CUDA của Nvidia.

AMD cũng dựa nhiều vào cộng đồng nguồn mở khi nói đến phần mềm. Công ty gần đây hợp tác với Hugging Face để mở rộng danh mục các mô hình nguồn mở có sẵn để chạy trên máy gia tốc Bản năng và Alveo của nó.

Trong khi đó, về mặt phần cứng, cả hai nhà sản xuất chip đều có nhiều kinh nghiệm – chưa kể đến nguồn lực – làm việc với các ODM để chuẩn hóa hệ số dạng cho nhiều hệ thống khác nhau.

Khi được hỏi liệu liên minh có sẵn sàng bổ sung một trong hai công ty vào hàng ngũ của mình hay không, Wittich cho biết “bất kỳ ai cũng có thể đăng ký” và nhóm đối tác ban đầu được lấy từ các nhà cung cấp mà Ampere đã hợp tác trước đây. ®

Dấu thời gian:

Thêm từ Đăng ký