A escassez de GPU está sufocando a concorrência em IA

Painel O domínio das grandes tecnologias na computação em nuvem, juntamente com a escassez de chips, está impedindo que pequenas startups de software e hardware de IA concorram de forma justa, de acordo com os palestrantes do FTC Tech Summit esta semana.

A conversa teve como pano de fundo o anúncio da Comissão Federal de Comércio dos EUA de que eles estavam de lançamento uma investigação que investiga os principais players: Amazon, Microsoft, Google e suas parcerias com os principais desenvolvedores de grandes modelos de linguagem: Anthropic e OpenAI.

Amazon e Google investiram US$ 6 bilhões no total na Anthropic, enquanto a Microsoft prometeu mais de US$ 10 bilhões para um relacionamento exclusivo com OpenAI até agora. Em troca, os gigantes da nuvem obtêm acesso aos mais recentes modelos generativos de IA desenvolvidos pela Anthropic e OpenAI, enquanto ambos ganham recursos computacionais. 

Estas alianças permitem que todas as partes concorram entre si, mas excluem potencialmente todas as outras, afirma a FTC.

Sob a presidência de Lina Khan, a comissão está agora a examinar as suas parcerias com mais detalhe e pediu para analisar os acordos, estratégias de lançamento de produtos e impactos no ecossistema de IA. O trio principal controla um estimado 66% do mercado de computação em nuvem e tem influência sobre quem recebe GPUs para treinar e executar modelos. 

Uma vez que estes chips são escassos, podem estar inclinados a fornecê-los aos seus parceiros, o que prejudica a concorrência entre os criadores de IA. Outras startups que tentam construir grandes modelos de linguagem tão capazes como Claude da Anthropic ou ChatGPT da OpenAI podem ter dificuldades para garantir os recursos necessários.

“Enfrentamos questões básicas de poder e governança”, disse Khan no discurso de abertura do Cúpula Tecnológica da FTC essa semana. “Será este um momento de abertura dos mercados à concorrência justa e livre, libertando todo o potencial das tecnologias emergentes? Ou será que um punhado de empresas dominantes concentrará o controlo sobre estas ferramentas, prendendo-nos num futuro à sua escolha?”, perguntou ela.

O campo de jogo é desigual devido ao número limitado de GPUs. Mas o problema é mais profundo e resume-se aos fornecedores e fabricantes de hardware, de acordo com especialistas que falaram no painel de discussão da cimeira sobre IA, chips e infra-estruturas em nuvem. 

“Acho que o maior desafio que estamos vendo é que todos os caminhos levam à Nvidia. Eles são um gargalo em tudo isso, seguidos apenas ligeiramente pelos grandes provedores de nuvem que são seus principais clientes”, Corey Quinn, economista-chefe de nuvem do The Duckbill Group, que ajuda as empresas a gerenciar suas contas da AWS.

Como principal fornecedora de GPUs, a Nvidia se beneficiou enormemente do hype da IA. A partir deste mês, a sua capitalização de mercado atingiu 1.53 biliões de dólares e espera-se que cresça. A Nvidia domina as negociações com provedores de nuvem, escolhendo quantos chips vender para cada um e por quanto. Enquanto isso, os rivais, que construíram os seus próprios aceleradores de IA, não ganharam muita força no mercado de nuvem.

Daven Rauchwerk, um empresário que fundou empresas de hardware, disse que a falta de escolha prejudica a concorrência entre empresas de semicondutores e afeta também a indústria da nuvem. Os investidores são menos propensos a arriscar perder dinheiro apoiando startups que enfrentam Nvidia, Amazon, Microsoft e Google, levando a menos inovação. 

“Se você quiser ter mais empresas de chips, precisará de mais empresas de nuvem. Temos muito poucas empresas de nuvem. As grandes não estão realmente comprando chips de [outras] empresas. Se não há mercado para esses diversos conjuntos de chips… bem, por que um investidor de risco investiria em uma empresa de chips?”, disse ele.

Os únicos fornecedores que podem competir com a Nvidia são os próprios provedores de nuvem. Amazon, Google e Microsoft criaram aceleradores de IA personalizados para suas próprias plataformas, permitindo-lhes controlar o acesso ao hardware e aos modelos de IA. Os participantes do painel estavam preocupados que isso pudesse significar que o trio teria mais incentivos para aumentar os preços de seus serviços de IA.

Uma forma de contrariar esta situação seria tornar mais fácil para os clientes mudarem de fornecedor, disse Tania Van den Brande, diretora de economia do regulador de comunicações do Reino Unido, Ofcom.

“Acho que o importante aqui é que isso não apenas permitirá desafios, mas também garantirá que os provedores de nuvem continuem sendo incentivados a perseguir as bases de clientes uns dos outros. Isso pode ser menos verdade se, depois que um cliente se muda, ele não fica mais ou menos preso”, concluiu ela. ®

• Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
• PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
• PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
• PlatãoESG. Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
• PlatoHealth. Inteligência em Biotecnologia e Ensaios Clínicos. Acesse aqui.
• Fonte: https://go.theregister.com/feed/www.theregister.com/2024/01/26/gpu_shortage_is_fuelling_ai/