Hyperscale Bitbarns Will Grow Because Of AI Demand

Republicado por Platão

seguidores: 0

A capacidade total dos datacenters de hiperescala deverá crescer quase três vezes nos próximos seis anos, impulsionada pela procura de IA, aumentando substancialmente a quantidade de energia exigida por essas instalações.

Com o ciclo de hype generativo da IA em movimento perpétuo, os operadores de datacenters estão planejando antecipar a necessidade de uma infraestrutura de maior densidade e maior desempenho para atender aos requisitos de processamento.

A novo relatório do analista IDC, por exemplo, prevê que as empresas em todo o mundo deverão gastar quase 16 mil milhões de dólares em IA generativa em 2023. Estima-se que estes gastos, que incluem software, bem como hardware de infraestrutura relacionado e serviços de TI/negócios, atinjam 143 mil milhões de dólares em 2027. .

O resultado disso, segundo Grupo de Pesquisa de Sinergia, é que a capacidade média de qualquer datacenter de hiperescala inaugurado nos próximos anos será mais do que o dobro das instalações atuais.

Haverá também alguma modernização dos datacenters existentes para aumentar a sua capacidade, e a carga média de TI dos celeiros de bits individuais continua a crescer, com o resultado de que a Synergy prevê que a capacidade total de todos os datacenters de hiperescala quase triplicará nos próximos seis anos.

A Synergy baseou esta análise nas operações de 19 das maiores empresas mundiais de serviços de nuvem e Internet. Isso inclui provedores de SaaS, IaaS, PaaS, pesquisa, redes sociais, comércio eletrônico e jogos.

Em 2023, esses hiperescaladores tinham um total de 926 celeiros de bits massivos em operação em todo o mundo, e a Synergy disse que já conhece mais 427 instalações que estão em desenvolvimento.

A Synergy afirma que o número total mundial de datacenters já dobrou nos últimos cinco anos. Prevê que estes continuarão a crescer bem mais de cem por ano.

No entanto, os recentes avanços na IA generativa não irão necessariamente acelerar a construção de dormitórios de dados, mas sim “aumentar substancialmente” a quantidade de energia necessária para operar essas instalações, graças ao número crescente de aceleradores GPU de alta potência amontoados em nós do servidor.

Isso foi observado por outro grupo de pesquisa, Odisseia, que descobriu que a procura por servidores equipados com oito GPUs para trabalho de processamento de IA também teve o efeito de aumentar os preços médios dos sistemas de datacenter.

A Synergy é tímida sobre o quanto considera que a quantidade de energia necessária “aumentará substancialmente”.

No entanto, uma trabalho de pesquisa recente calculou que a integração de IA generativa em cada pesquisa do Google poderia consumir potencialmente a mesma quantidade de energia que um país do tamanho da Irlanda.

O diretor sênior de pesquisa da IDC para a Europa, Andrew Buss, concorda que a IA está impulsionando a demanda por infraestruturas de datacenter de maior desempenho.

“Vemos uma enorme quantidade de capacidade computacional acelerada sendo instalada”, ele nos disse. “Vemos hiperescaladores comprando uma quantidade significativa de aceleradores de IA que estão chegando ao mercado para dar suporte aos grandes modelos geradores e transformadores em clientes B2C e B2B, bem como muitas organizações tentando obter algum fornecimento também.”

Isso está aumentando a densidade de energia dos servidores e criando muitos problemas de fornecimento de energia e resfriamento, disse Buss. “Muitos datacenters são construídos com um orçamento de energia entre 7.5 e 15kW por rack, mas agora uma única Nvidia DGX pode usar até 10kW, o que significa que todo o orçamento de energia é usado por uma única caixa de 10U”, explicou ele.

O analista-chefe da Synergy, John Dinsdale, nos disse que as preocupações com energia estão fazendo com que as operadoras de hiperescala repensem algumas de suas arquiteturas de datacenter e planos de implantação para alterar o layout e permitir uma densidade de energia muito maior por rack, e possivelmente até mesmo revisar a localização de seus dormitórios de dados.

“Não se trata apenas de disponibilidade e custo de energia”, disse Dinsdale. “Muitas cargas de trabalho de IA não são tão sensíveis à latência quanto outras cargas de trabalho, portanto, podem permitir que a operadora coloque datacenters em locais mais distantes e menos dispendiosos. Por exemplo, já víamos o crescimento dos datacenters em hiperescala no Centro-Oeste dos EUA, ultrapassando o crescimento em outras regiões, como a Virgínia do Norte e o Vale do Silício. Esperamos plenamente que essa tendência continue”, acrescentou.

Ainda esta semana, a Nvidia e a fabricante taiwanesa de eletrônicos Foxconn Planos anunciados formar equipes e construir o que chamam de “fábricas de IA”, ou seja, datacenters dedicados ao processamento de IA.

“Surgiu um novo tipo de produção – a produção de inteligência. E os datacenters que os produzem são fábricas de IA”, disse o CEO da Nvidia, Jensen Huang, em comunicado, acrescentando que a Foxconn tem experiência e escala para construir essas fábricas de IA em todo o mundo.

A Foxconn usará a tecnologia da Nvidia para desenvolver novos datacenters para serviços generativos de IA que abrangem uma variedade de aplicações, incluindo robôs industriais e carros autônomos. Espera-se que a Foxconn construa um grande número de sistemas baseados em CPUs, GPUs e redes da Nvidia para sua base global de clientes, muitos dos quais buscam criar e operar suas próprias fábricas de IA, afirmou a Nvidia. ®