Ampere mène un groupe de startups d'IA pour défier Nvidia

Ampere mène un groupe de startups d'IA pour défier Nvidia

Horodatage: 18 octobre 2023 3h30
Nœud source: 2942701

L’histoire regorge d’exemples de petits acteurs s’unissant pour affronter des concurrents plus importants. Avec le lancement de l'AI Platform Alliance cette semaine, le fournisseur de processeurs Arm, Ampere, vise exactement cela dans le but de défier l'hégémonie de Nvidia.

La alliance rassemble plusieurs startups de puces familières, notamment Cerebras Systems, Graphcore, Furiosa, Kalray, Kinara, Luminous, Neuchips, Rebellions et Sapeon, dans le but de promouvoir un écosystème d'IA ouvert.

« Le principal problème que nous constatons aujourd'hui est que les solutions actuelles ne fournissent pas ces éléments. Il s'agit actuellement d'un écosystème fermé du côté matériel et logiciel, il n'est pas efficace en raison de la grande quantité d'énergie consommée et il est coûteux », a déclaré Jeff Wittich, directeur des produits d'Ampère. Le registre dans un e-mail. « Cela rend difficile pour les gens de faire évoluer l’IA pour répondre à leurs besoins sans que cela soit coûteux et non durable. »

Aucun fabricant de puces ne peut résoudre ce problème à lui seul, a-t-il soutenu. « Nous voulions nous unir pour créer des solutions de plateforme complètes et réalisables. » Il n’est donc pas surprenant que l’alliance se concentre autant sur la création d’un écosystème de systèmes d’IA plus efficaces que les GPU.

La référence explicite aux « GPU » dans la version et les remarques de Wittich concernant les écosystèmes logiciels et matériels fermés sont presque certainement une critique de Nvidia. Les derniers GPU H100 du fabricant de puces sont évalués à 700 watts et, chargés dans leurs cartes mères HGX, peuvent consommer plus de 10 kW au niveau du système.

Travailler ensemble

Les fabricants de puces tentent de plusieurs manières de réduire les besoins en énergie de l’IA. Des gains d'efficacité de ce type peuvent être réalisés au niveau du matériel, des logiciels ou des normes.

Par exemple, les fabricants de puces pourraient se réunir pour établir des facteurs de forme communs afin que les fabricants de conception originale puissent développer un châssis capable de prendre en charge les accélérateurs de plusieurs fournisseurs. Sur le plan logiciel, les fabricants de puces pourraient s'aligner sur un ensemble commun d'outils et de cadres de code afin que les modèles fonctionnent quelle que soit l'architecture matérielle sous-jacente.

Le premier ordre du jour de l'alliance est de résoudre le problème matériel.

« Notre objectif initial est de créer une grande variété de solutions matérielles pouvant utiliser les plates-formes OEM et ODM existantes, afin qu'elles puissent être facilement déployées dès aujourd'hui », a déclaré Wittich. « Il s'agit de créer des choix. Aujourd'hui, les clients n'ont pas beaucoup de choix et ont tendance à se tourner par défaut vers la solution qu'ils connaissent. Mais il existe de meilleures solutions, plus efficaces et plus rentables, et notre objectif est de mettre ces solutions à la disposition des clients finaux, afin qu'ils puissent les adopter.

Cependant, Andrew Feldman, PDG de Cerebras, déclare Le registre que le développement et la publication de modèles de fondations ouvertes seront également un facteur clé. Nous avons également contacté Graphcore pour connaître son point de vue sur l'alliance, mais le fabricant de puces a refusé de commenter.

Ampere s'attend à ce que l'Alliance attire des membres supplémentaires dans les semaines à venir, et toute entreprise d'IA construisant du matériel est la bienvenue pour rejoindre le parti. Cependant, il reste à voir si une plus grande disponibilité des systèmes d'IA des membres de l'alliance suffira à réduire la mainmise de Nvidia sur le marché.

Les éléphants dans la pièce

Alors que les experts ne sont pas d'accord sur l'ampleur de la prétention de Nvidia sur l'espace de l'IA, estimations vont de 75 à 90 pour cent de part – il ne fait aucun doute que l’entreprise est en tête du marché. Et comme nous discuté La semaine dernière, les développements récents autour de la feuille de route des produits de l'entreprise sont susceptibles de prolonger cette avance, à condition qu'ils puissent faire fonctionner le réseau.

Alors que l'AI Platform Alliance comprend de nombreuses startups d'IA familières, deux des plus grandes entreprises qui s'efforcent de voler des parts à Nvidia sont absentes de la liste : Intel et AMD.

Les deux sociétés investissent massivement dans le développement de leur propre matériel et logiciels d’IA. De plus, ils ont tous deux défendu des frameworks et des outils open source, dont beaucoup fonctionnent avec des plates-formes tierces.

Lors d'Intel Innovation en septembre, le CTO d'Intel, Greg Lavender parlé les contributions du géant des puces à l'IA, y compris ses environnements d'exécution open source OneAPI, OpenVINO et SYCL. SYCL est particulièrement intéressant car il ne se limite pas au matériel Intel et vise plutôt à être une alternative ouverte au CUDA de Nvidia.

AMD s'appuie également fortement sur la communauté open source en matière de logiciels. L'entreprise a récemment associés avec Hugging Face pour élargir le catalogue de modèles open source disponibles pour fonctionner sur ses accélérateurs Instinct et Alveo.

Parallèlement, sur le plan matériel, les deux fabricants de puces possèdent une vaste expérience – sans parler des ressources – travaillant avec les ODM pour standardiser les facteurs de forme pour une variété de systèmes.

Lorsqu'on lui a demandé si l'alliance serait disposée à ajouter l'une ou l'autre société à ses rangs, Wittich a répondu que « tout le monde est invité à postuler » et que la première série de partenaires provenait de fournisseurs avec lesquels Ampere avait travaillé auparavant. ®

Horodatage:

Plus de Le registre