Ampere lidera um grupo de startups de IA para desafiar a Nvidia

Ampere lidera um grupo de startups de IA para desafiar a Nvidia

Nó Fonte: 2942701

A história está repleta de exemplos de empresas menores que se uniram para enfrentar concorrentes maiores. Com o lançamento da AI Platform Alliance esta semana, o fornecedor de CPU Arm Ampere pretende fazer exatamente isso em uma tentativa de desafiar a hegemonia da Nvidia.

A aliança reúne várias startups de chips conhecidas, incluindo Cerebras Systems, Graphcore, Furiosa, Kalray, Kinara, Luminous, Neuchips, Rebellions e Sapeon com o objetivo de promover um ecossistema aberto de IA.

“O principal problema que vemos hoje é que as soluções existentes não fornecem essas coisas. Atualmente é um ecossistema fechado no lado de hardware e software, não é eficiente devido às grandes quantidades de energia consumida e é caro”, disse Jeff Wittich, diretor de produtos da Ampere. O registro em um e-mail. “Isso torna difícil para as pessoas dimensionarem a IA para atender às suas necessidades sem que isso seja caro e insustentável.”

Nenhum fabricante de chips pode resolver esse problema sozinho, argumentou. “Queríamos nos unir para criar soluções de plataforma completas que fossem implementáveis.” Portanto, não é surpresa que a aliança esteja tão focada na construção de um ecossistema de sistemas de IA mais eficientes que as GPUs.

A referência explícita a “GPUs” no lançamento e as observações de Wittich sobre ecossistemas fechados de software e hardware são quase certamente um tiro na Nvidia. As mais recentes GPUs H100 da fabricante de chips são classificadas para 700 watts e, carregadas em suas placas-mãe HGX, podem consumir mais de 10kW no nível do sistema.

Trabalhando juntos

Existem várias maneiras pelas quais os fabricantes de chips estão tentando reduzir os requisitos de energia da IA. Eficiências desse tipo podem ser obtidas em níveis de hardware, software ou padrões.

Por exemplo, os fabricantes de chips poderiam se unir para estabelecer fatores de forma comuns para que os fabricantes de design original pudessem desenvolver um chassi capaz de suportar aceleradores de vários fornecedores. Na frente do software, os fabricantes de chips poderiam se alinhar em torno de um conjunto comum de ferramentas e estruturas de código para que os modelos funcionassem independentemente da arquitetura de hardware subjacente.

A primeira ordem de negócios da aliança corrige o problema de hardware.

“Nosso foco inicial é criar uma ampla variedade de soluções de hardware que possam utilizar plataformas OEM e ODM existentes, para que possam ser prontamente implantadas hoje”, disse Wittich. “Trata-se de criar escolhas. Hoje, os clientes não têm muitas opções e as pessoas tendem a optar pela única solução que conhecem. Mas existem soluções melhores, mais eficientes e econômicas, e nosso objetivo é disponibilizar essas soluções aos clientes finais, para que eles possam adotá-las.”

No entanto, o CEO da Cerebras, Andrew Feldman, disse O registro que o desenvolvimento e o lançamento de modelos de base aberta também serão um facilitador fundamental. Também entramos em contato com a Graphcore para saber sua opinião sobre a aliança, mas a fabricante de chips não quis comentar.

Ampere espera que a Aliança atraia membros adicionais nas próximas semanas, e qualquer empresa de IA que construa hardware será bem-vinda para se juntar à festa. No entanto, resta saber se a maior disponibilidade de sistemas de IA dos membros da aliança será suficiente para acabar com o domínio da Nvidia no mercado.

Os elefantes na sala

Embora os especialistas discordem sobre o tamanho da reivindicação da Nvidia sobre o espaço de IA - estimativas variam de 75 a 90 por cento de participação – não há dúvida de que a empresa lidera o mercado. E como nós discutido na semana passada, os recentes desenvolvimentos em torno do roteiro de produtos da empresa provavelmente ampliarão essa liderança, desde que possam fazer a rede funcionar.

Embora a AI Platform Alliance inclua muitas startups conhecidas de IA, duas das maiores empresas que trabalham para roubar participação da Nvidia estão ausentes da lista: Intel e AMD.

Ambas as empresas investem pesadamente no desenvolvimento de seu próprio hardware e software de IA. Além do mais, ambos defenderam estruturas e ferramentas de código aberto, incluindo muitas que funcionam com plataformas de terceiros.

Na Intel Innovation em setembro, o CTO da Intel, Greg Lavender falou as contribuições de IA da gigante dos chips, incluindo seus tempos de execução OneAPI, OpenVINO e SYCL de código aberto. O SYCL é particularmente interessante porque não se limita ao hardware da Intel e, em vez disso, pretende ser uma alternativa aberta ao CUDA da Nvidia.

A AMD também depende fortemente da comunidade de código aberto quando se trata de software. A empresa recentemente uniram-se com Hugging Face para expandir o catálogo de modelos de código aberto disponíveis para execução em seus aceleradores Instinct e Alveo.

Enquanto isso, no que diz respeito ao hardware, ambos os fabricantes de chips têm ampla experiência – sem mencionar os recursos – trabalhando com ODMs para padronizar fatores de forma para uma variedade de sistemas.

Questionado sobre se a aliança estaria aberta a adicionar qualquer uma das empresas às suas fileiras, Wittich disse que “qualquer pessoa é bem-vinda” e que a colheita inicial de parceiros foi retirada de fornecedores com os quais Ampere tinha trabalhado anteriormente. ®

Carimbo de hora:

Mais de O registro