Hyperscale Bitbarns Will Grow Because Of AI Demand

Ripubblicato da Platone

Seguaci: 0

La capacità totale dei data center iperscalabili è destinata a crescere quasi tre volte nei prossimi sei anni sulla scia della domanda di intelligenza artificiale, aumentando sostanzialmente la quantità di energia richiesta da tali strutture.

Con il ciclo di intelligenza artificiale generativa in movimento perpetuo, gli operatori dei data center stanno pianificando in anticipo per anticipare la necessità di infrastrutture a densità più elevata e prestazioni più elevate per soddisfare i requisiti di elaborazione.

A nuovo rapporto L’analista IDC, ad esempio, prevede che le imprese di tutto il mondo spenderanno quasi 16 miliardi di dollari nell’intelligenza artificiale generativa nel 2023. Si stima che questa spesa, che include software, hardware infrastrutturale correlato e servizi IT/aziendali, raggiungerà i 143 miliardi di dollari nel 2027. .

Il risultato di questo, secondo Gruppo di ricerca Synergy, è che la capacità media di qualsiasi data center su vasta scala che verrà aperto nei prossimi anni sarà più del doppio di quella delle strutture attuali.

Verranno inoltre effettuati alcuni interventi di ammodernamento dei data center esistenti per aumentarne la capacità, e il carico IT medio dei singoli bit barn continua a crescere, con il risultato che Synergy prevede che la capacità totale di tutti i data center iperscalabili sarà quasi triplicata nei prossimi sei anni.

Synergy ha basato questa analisi sulle operazioni di 19 delle più grandi società di servizi cloud e Internet del mondo. Ciò include i fornitori di SaaS, IaaS, PaaS, ricerca, social networking, e-commerce e giochi.

Nel 2023, questi hyperscaler avevano un totale di 926 enormi bit barn in funzione in tutto il mondo e Synergy ha affermato di essere già a conoscenza di altre 427 strutture in cantiere.

Synergy afferma che il numero totale di data center a livello mondiale è già raddoppiato negli ultimi cinque anni. Si prevede che questi continueranno a crescere di oltre un centinaio all’anno.

Tuttavia, i recenti progressi nell’intelligenza artificiale generativa non accelereranno necessariamente la costruzione di dormitori di dati, ma piuttosto “aumenteranno sostanzialmente” la quantità di energia necessaria per far funzionare tali strutture, grazie al crescente numero di acceleratori GPU ad alto wattaggio stipati in essi. nodi del server.

Ciò è stato notato da un altro gruppo di ricerca, Odissea, che ha scoperto che la domanda di server dotati di otto GPU per il lavoro di elaborazione dell'intelligenza artificiale ha avuto anche l'effetto di aumentare i prezzi medi per i sistemi di data center.

Synergy è timida riguardo a quanto ritiene che la quantità di energia richiesta “aumenterà sostanzialmente”.

Tuttavia, un recente documento di ricerca ha calcolato che l’integrazione dell’intelligenza artificiale generativa in ogni ricerca su Google potrebbe potenzialmente consumare la stessa quantità di energia di un paese delle dimensioni dell’Irlanda.

Andrew Buss, Senior Research Director di IDC per l'Europa, concorda sul fatto che l'intelligenza artificiale sta stimolando la domanda di infrastrutture per data center con prestazioni più elevate.

"Vediamo l'installazione di un'enorme quantità di capacità di elaborazione accelerata", ci ha detto. "Vediamo che gli hyperscaler acquistano una quantità significativa degli acceleratori di intelligenza artificiale complessivi che stanno arrivando sul mercato per supportare i grandi modelli generativi e di trasformazione tra i clienti B2C e B2B, così come molte organizzazioni che cercano di ottenere anche una certa fornitura."

Ciò sta aumentando la densità di potenza dei server e creando molti problemi di alimentazione e raffreddamento, ha affermato Buss. "Molti data center sono costruiti con un budget energetico compreso tra 7.5 e 15 kW per rack, ma ora una singola Nvidia DGX può utilizzare fino a 10 kW, il che significa che l'intero budget energetico viene utilizzato da un singolo box 10U", ha spiegato.

John Dinsdale, analista capo di Synergy, ci ha detto che i problemi energetici stanno spingendo gli operatori iperscalabili a riconsiderare parte dell'architettura dei loro data center e dei piani di implementazione per modificare il layout e consentire una densità di potenza molto più elevata per rack, e forse anche a rivedere l'ubicazione dei loro dormitori di dati.

“Non si tratta solo di disponibilità e costi di energia”, ha affermato Dinsdale. “Molti carichi di lavoro AI non sono sensibili alla latenza come altri carichi di lavoro, quindi possono consentire all’operatore di posizionare i data center in luoghi più distanti e meno costosi. Ad esempio, stavamo già assistendo a una crescita dei data center su larga scala nel Midwest degli Stati Uniti che superava la crescita di altre regioni come la Virginia settentrionale e la Silicon Valley. Ci aspettiamo assolutamente che questa tendenza continui”, ha aggiunto.

Proprio questa settimana, Nvidia e il produttore di elettronica taiwanese Foxconn piani annunciati per collaborare e costruire quelle che chiamano “fabbriche AI”, ovvero data center dedicati all’elaborazione dell’intelligenza artificiale.

“È emerso un nuovo tipo di produzione: la produzione di intelligenza. E i data center che li producono sono fabbriche di intelligenza artificiale”, ha affermato in una nota il CEO di Nvidia Jensen Huang, aggiungendo che Foxconn ha l’esperienza e le dimensioni per costruire queste fabbriche di intelligenza artificiale a livello globale.

Foxconn utilizzerà la tecnologia di Nvidia per sviluppare nuovi data center per servizi di intelligenza artificiale generativa che coprono una gamma di applicazioni, tra cui robot industriali e automobili a guida autonoma. Si prevede che Foxconn costruirà un gran numero di sistemi basati su CPU, GPU e reti di Nvidia per la sua base di clienti globale, molti dei quali stanno cercando di creare e gestire le proprie fabbriche di intelligenza artificiale, ha affermato Nvidia. ®