Hüperskaala Bitbarns kasvab AI nõudluse tõttu

Taasavaldanud Platon

järgijaid: 0

Hüperskaala andmekeskuste koguvõimsus kasvab tehisintellekti nõudluse toel järgmise kuue aasta jooksul peaaegu kolm korda, suurendades oluliselt nende rajatiste jaoks vajalikku võimsust.

Kuna generatiivne tehisintellekti hüpe tsükkel on pidevas liikumises, plaanivad andmekeskuste operaatorid ette näha vajadust suurema tihedusega ja suurema jõudlusega infrastruktuuri järele, et täita töötlemisnõudeid.

A uus aruanne Näiteks analüütik IDC prognoosib, et ettevõtted üle maailma kulutavad 16. aastal generatiivsele tehisintellektile ligi 2023 miljardit dollarit. Need kulutused, mis hõlmavad nii tarkvara kui ka sellega seotud infrastruktuuri riistvara ja IT-/äriteenuseid, ulatuvad hinnanguliselt 143. aastal 2027 miljardi dollarini. .

Selle tulemus vastavalt Sünergia uurimisrühm, on see, et iga järgmise paari aasta jooksul avatava hüperskaala andmekeskuse keskmine võimsus on praeguste rajatiste omast enam kui kaks korda suurem.

Olemasolevaid andmekeskusi uuendatakse ka nende võimsuse suurendamiseks ning üksikute bititalade keskmine IT-koormus kasvab jätkuvalt, mistõttu Synergy prognoosib, et kõigi hüperskaala andmekeskuste koguvõimsus järgmise kuue aasta jooksul peaaegu kolmekordistub.

Synergy põhines selles analüüsis 19 maailma suurima pilve- ja Interneti-teenuseid pakkuva ettevõtte tegevusel. See hõlmab SaaS-i, IaaS-i, PaaS-i, otsingu, suhtlusvõrgustike, e-kaubanduse ja mängude pakkujaid.

2023. aasta seisuga oli neil hüperskaaleritel üle maailma töös kokku 926 massiivset puukütti ja Synergy teatas, et ta teab juba 427 rajatist, mis on plaanis.

Synergy ütleb, et andmekeskuste koguarv maailmas on viimase viie aasta jooksul juba kahekordistunud. See ennustab, et need kasvavad jätkuvalt tublisti üle saja võrra aastas.

Hiljutised edusammud generatiivse tehisintellekti vallas ei pruugi aga kiirendada andmemajutusruumide ehitamist, vaid pigem „suurendavad oluliselt” nende rajatiste käitamiseks vajalikku võimsust tänu kasvavale hulgale suure võimsusega GPU kiirenditele. serverisõlmed.

Seda märkis teine uurija, Odüsseia, mis leidis, et nõudlus kaheksa GPU-ga varustatud serverite järele tehisintellekti töötlemiseks on samuti tõstnud andmekeskusesüsteemide keskmisi hindu.

Sünergia on hirmutav, kui palju ta arvab, et nõutav võimsus "oluliselt suureneb".

Kuid a värske uurimistöö arvutas, et generatiivse AI integreerimine igasse Google'i otsingusse võib potentsiaalselt tarbida sama palju energiat kui Iirimaa suurune riik.

IDC Euroopa vanemteadur Andrew Buss nõustus, et AI suurendab nõudlust suurema jõudlusega andmekeskuse infrastruktuuri järele.

"Me näeme, et installitakse tohutul hulgal kiirendatud arvutusvõimsust," ütles ta meile. "Näeme, et hüperskaalajad ostavad märkimisväärse koguse üldistest tehisintellekti kiirenditest, mis tulevad turule, et toetada B2C- ja B2B-klientide suuri generatiivseid ja trafomudeleid, aga ka paljusid organisatsioone, kes üritavad hankida ka pakkumist."

See suurendab serverite võimsustihedust ning tekitab palju toite- ja jahutusprobleeme, ütles Buss. "Paljud andmekeskused on ehitatud energiaeelarvega 7.5–15 kW riiuli kohta, kuid nüüd võib üks Nvidia DGX kasutada kuni 10 kW, mis tähendab, et kogu energiaeelarvet kasutab üks 10 U kast," selgitas ta.

Synergy peaanalüütik John Dinsdale ütles meile, et energiaprobleemid sunnivad hüperskaala operaatoreid oma andmekeskuse arhitektuuri ja juurutuskavade ümber mõtlema, et muuta paigutust ja võimaldada palju suuremat võimsustihedust riiuli kohta ning võib-olla isegi oma andmemajutusruumide asukoha üle vaatama.

"See ei puuduta ainult energia kättesaadavust ja kulusid, " ütles Dinsdale. "Paljud AI töökoormused ei ole nii latentsustundlikud kui teised töökoormused, mistõttu võib operaator paigutada andmekeskused kaugematesse ja odavamatesse kohtadesse. Näiteks nägime juba USA Kesk-Läänes hüperskaala andmekeskuste kasvu, mis ületab kasvu teistes piirkondades, nagu Põhja-Virginia ja Silicon Valley. Ootame täielikult, et see trend jätkub," lisas ta.

Just sel nädalal Nvidia ja Taiwani elektroonikatootja Foxconn teatanud plaanidest ühineda ja ehitada nn tehisintellekti tehased, mis tähendab tehisintellekti töötlemisele pühendatud andmekeskusi.

«Tekkinud on uus tootmisliik – intelligentsi tootmine. Ja andmekeskused, mis neid toodavad, on tehisintellekti tehased,“ ütles Nvidia tegevjuht Jensen Huang oma avalduses, lisades, et Foxconnil on teadmised ja ulatus nende tehisintellekti tehaste üleilmseks ehitamiseks.

Foxconn kasutab Nvidia tehnoloogiat uute andmekeskuste väljatöötamiseks generatiivsete AI-teenuste jaoks, mis hõlmavad mitmesuguseid rakendusi, sealhulgas tööstusroboteid ja isejuhtivaid autosid. Eeldatakse, et Foxconn ehitab oma globaalse kliendibaasi jaoks suure hulga süsteeme, mis põhinevad Nvidia protsessoritel, GPU-del ja võrgundusel, millest paljud soovivad luua ja hallata oma tehisintellekti tehaseid, väitis Nvidia. ®