Hyperscale Bitbarns Will Grow Because Of AI Demand

Republié par Platon

Suiveurs: 0

La capacité totale des centres de données hyperscale devrait presque tripler au cours des six prochaines années grâce à la demande d’IA, augmentant considérablement la quantité d’énergie requise par ces installations.

Avec le cycle de battage médiatique de l’IA générative en perpétuel mouvement, les opérateurs de centres de données planifient à l’avance pour anticiper le besoin d’une infrastructure à plus haute densité et plus performante pour répondre aux exigences de traitement.

A nouveau rapport l'analyste IDC, par exemple, prévoit que les entreprises du monde entier devraient consacrer près de 16 milliards de dollars à l'IA générative en 2023. Ces dépenses, qui comprennent les logiciels ainsi que le matériel d'infrastructure associé et les services informatiques/affaires, devraient atteindre 143 milliards de dollars en 2027. .

Le résultat de cela, selon Groupe de recherche Synergy, c'est que la capacité moyenne de tout centre de données hyperscale ouvert au cours des prochaines années sera plus du double de celle des installations actuelles.

Il y aura également une certaine modernisation des centres de données existants pour augmenter leur capacité, et la charge informatique moyenne des granges de bits individuelles continue de croître, de sorte que Synergy prédit que la capacité totale de tous les centres de données hyperscale triplera presque au cours des six prochaines années.

Synergy a basé cette analyse sur les opérations de 19 des plus grandes sociétés de services cloud et Internet au monde. Cela inclut les fournisseurs de SaaS, IaaS, PaaS, de recherche, de réseaux sociaux, de commerce électronique et de jeux.

En 2023, ces hyperscalers disposaient d'un total de 926 énormes granges à bits en activité dans le monde, et Synergy a déclaré qu'elle connaissait déjà 427 autres installations en cours de développement.

Synergy affirme que le nombre total de centres de données dans le monde a déjà doublé au cours des cinq dernières années. Il prévoit que ces nombres continueront d’augmenter de plus d’une centaine par an.

Cependant, les progrès récents en matière d’IA générative n’accéléreront pas nécessairement la construction de dortoirs de données, mais plutôt « augmenteront considérablement » la quantité d’énergie requise pour faire fonctionner ces installations, grâce au nombre croissant d’accélérateurs GPU de grande puissance qui y sont entassés. nœuds de serveur.

Cela a été noté par un autre groupe de recherche, Om jour, qui a constaté que la demande de serveurs équipés de huit GPU pour le travail de traitement de l'IA a également eu pour effet de faire grimper les prix moyens des systèmes de centres de données.

Synergy est timide quant à la mesure dans laquelle elle estime que la quantité d’énergie requise « augmentera considérablement ».

Cependant, un document de recherche récent a calculé que l’intégration de l’IA générative dans chaque recherche Google pourrait potentiellement consommer la même quantité d’énergie qu’un pays de la taille de l’Irlande.

Andrew Buss, directeur de recherche senior d'IDC pour l'Europe, reconnaît que l'IA stimule la demande d'infrastructures de centres de données plus performantes.

« Nous constatons effectivement l’installation d’une énorme quantité de capacité de calcul accélérée », nous a-t-il déclaré. «Nous voyons des hyperscalers acheter une quantité importante d'accélérateurs d'IA globaux qui arrivent sur le marché pour prendre en charge les grands modèles de génération et de transformateur parmi les clients B2C et B2B, ainsi que de nombreuses organisations qui tentent également de s'approvisionner.»

Cela augmente la densité de puissance des serveurs et crée de nombreux problèmes d'alimentation électrique et de refroidissement, a déclaré Buss. « De nombreux centres de données sont construits avec un budget énergétique compris entre 7.5 et 15 kW par rack, mais désormais, un seul Nvidia DGX peut consommer jusqu'à 10 kW, ce qui signifie que la totalité du budget énergétique est utilisée par un seul boîtier 10U », a-t-il expliqué.

L'analyste en chef de Synergy, John Dinsdale, nous a déclaré que les problèmes d'alimentation électrique amènent les opérateurs hyperscale à repenser certaines de leurs architectures de centres de données et leurs plans de déploiement pour modifier la disposition et permettre une densité de puissance beaucoup plus élevée par rack, et peut-être même revoir l'emplacement de leurs dortoirs de données.

« Il ne s'agit pas seulement de disponibilité et de coût de l'électricité », a déclaré Dinsdale. « De nombreuses charges de travail d'IA ne sont pas aussi sensibles à la latence que d'autres charges de travail, ce qui peut permettre à l'opérateur de placer des centres de données dans des emplacements plus éloignés et moins coûteux. Par exemple, nous constations déjà une croissance des centres de données à grande échelle dans le Midwest américain, dépassant celle d’autres régions telles que la Virginie du Nord et la Silicon Valley. Nous nous attendons à ce que cette tendance se poursuive », a-t-il ajouté.

Cette semaine encore, Nvidia et le fabricant d'électronique taïwanais Foxconn plans annoncés de s'associer et de construire ce qu'ils appellent des « usines IA », c'est-à-dire des centres de données dédiés au traitement de l'IA.

« Un nouveau type de fabrication est apparu : la production d’intelligence. Et les centres de données qui les produisent sont des usines d’IA », a déclaré le PDG de Nvidia, Jensen Huang, dans un communiqué, ajoutant que Foxconn possède l’expertise et l’envergure nécessaires pour construire ces usines d’IA à l’échelle mondiale.

Foxconn utilisera la technologie de Nvidia pour développer de nouveaux centres de données pour les services d'IA générative couvrant une gamme d'applications, notamment les robots industriels et les voitures autonomes. Foxconn devrait construire un grand nombre de systèmes basés sur les processeurs, les GPU et les réseaux de Nvidia pour sa clientèle mondiale, dont beaucoup cherchent à créer et à exploiter leurs propres usines d'IA, a affirmé Nvidia. ®