Imagine de editor
Aplicațiile AI posedă capacități de calcul de neegalat care pot propulsa progresul într-un ritm fără precedent. Cu toate acestea, aceste instrumente se bazează în mare măsură pe centrele de date consumatoare de energie pentru operațiunile lor, ceea ce duce la o lipsă îngrijorătoare de sensibilitate la energie, care contribuie în mod semnificativ la amprenta lor de carbon. În mod surprinzător, aceste aplicații AI reprezintă deja o cantitate substanțială 2.5 la 3.7 procent din emisiile globale de gaze cu efect de seră, depășind emisiile din industria aviației.
Și, din păcate, această amprentă de carbon crește într-un ritm rapid.
În prezent, nevoia presantă este de a măsura amprenta de carbon a aplicațiilor de învățare automată, așa cum subliniază înțelepciunea lui Peter Drucker că „Nu poți gestiona ceea ce nu poți măsura”. În prezent, există o lipsă semnificativă de claritate în cuantificarea impactului AI asupra mediului, cifrele precise ne eludează.
Pe lângă măsurarea amprentei de carbon, liderii industriei AI trebuie să se concentreze activ pe optimizarea acesteia. Această abordare dublă este vitală pentru a aborda preocupările de mediu legate de aplicațiile AI și pentru a asigura o cale mai sustenabilă.
Utilizarea sporită a învățării automate necesită centre de date mai mari, multe dintre ele consumatoare de energie și, prin urmare, au o amprentă de carbon semnificativă. Consumul global de energie electrică de către centrele de date a ajuns la 0.9 la sută 1.3 în 2021.
A 2021 studiu a estimat că această utilizare poate crește la 1.86 la sută până în 2030. Aceasta figura reprezintă tendința de creștere a cererii de energie din cauza centrelor de date
© Tendința consumului de energie și cota de utilizare pentru centrele de date
În special, cu cât este mai mare consumul de energie, cu atât amprenta de carbon va fi mai mare. Centrele de date se încălzesc în timpul procesării și pot deveni defecte și chiar nu mai funcționează din cauza supraîncălzirii. Prin urmare, au nevoie de răcire, ceea ce necesită energie suplimentară. În jurul 40 la sută din energia electrică consumată de centrele de date este pentru aer condiționat.
Având în vedere amprenta tot mai mare a utilizării IA, intensitatea carbonului acestor instrumente trebuie luată în considerare. În prezent, cercetarea pe acest subiect se limitează la analizele câtorva modele și nu abordează în mod adecvat diversitatea modelelor menționate.
Iată o metodologie evoluată și câteva instrumente eficiente pentru a calcula intensitatea de carbon a sistemelor AI.
Intensitatea carbonului software (SCI) standard este o abordare eficientă pentru estimarea intensității carbonului a sistemelor AI. Spre deosebire de metodologiile convenționale care folosesc abordarea atribuibilă a contabilității carbonului, acesta utilizează o abordare de calcul consecință.
Abordarea prin consecință încearcă să calculeze modificarea marginală a emisiilor care decurg dintr-o intervenție sau o decizie, cum ar fi decizia de a genera o unitate suplimentară. În timp ce, atribuirea se referă la datele contabile de intensitate medie sau la inventarele statice ale emisiilor.
A hârtie despre „Măsurarea intensității carbonului AI în instanțele cloud” de Jesse Doge și colab. a folosit această metodologie pentru a aduce cercetări mai informate. Deoarece o cantitate semnificativă de instruire a modelelor AI este efectuată pe instanțe de cloud computing, acesta poate fi un cadru valid pentru a calcula amprenta de carbon a modelelor AI. Lucrarea rafinează formula SCI pentru estimări precum:
care este rafinat din:
care derivă din
în cazul în care:
E: Energia consumată de un sistem software, în principal de unități de procesare grafică-GPU-uri care este hardware specializat ML.
I: Emisiile marginale de carbon bazate pe locație de către rețeaua care alimentează centrul de date.
M: Carbonul încorporat sau încorporat, care este carbonul emis în timpul utilizării, creării și eliminării hardware-ului.
R: Unitate funcțională, care în acest caz este o sarcină de formare a învățării automate.
C= O+M, unde O este egal cu E*I
Lucrarea folosește formula pentru a estima consumul de energie electrică pentru o singură instanță cloud. În sistemele ML bazate pe învățare profundă, consumul major de energie electrică îl datorează GPU-ului, care este inclus în această formulă. Ei au antrenat un model bazat pe BERT folosind un singur GPU NVIDIA TITAN X (12 GB) într-un server de bază cu două procesoare Intel Xeon E5-2630 v3 (2.4 GHz) și 256 GB RAM (16 x 16 GB DIMM) pentru a experimenta aplicarea acestei formule. Următoarea figură prezintă rezultatele acestui experiment:
© Consumul de energie și împărțirea între componentele unui server
GPU-ul pretinde 74% din consumul de energie. Deși este încă pretins ca o subestimare de către autorii lucrării, includerea GPU este pasul în direcția cea bună. Nu este punctul central al tehnicilor convenționale de estimare, ceea ce înseamnă că un contributor major al amprentei de carbon este trecut cu vederea în estimări. Evident, SCI oferă un calcul mai sănătos și mai fiabil al intensității carbonului.
Instruirea modelului AI se desfășoară adesea pe instanțe de cloud compute, deoarece cloud-ul îl face flexibil, accesibil și rentabil. Cloud computing oferă infrastructura și resursele pentru a implementa și antrena modele AI la scară. De aceea, antrenamentul pe model în cloud computing crește treptat.
Este important să măsurați intensitatea carbonului în timp real a instanțelor de calcul cloud pentru a identifica zonele potrivite pentru eforturile de atenuare. Contabilizarea emisiilor marginale bazate pe timp și specifice locației pe unitate de energie poate ajuta la calcularea emisiilor operaționale de carbon, așa cum face un Hârtie 2022.
An sursa deschisa instrument, software-ul Cloud Carbon Footprint (CCF) este, de asemenea, disponibil pentru a calcula impactul instanțelor cloud.
Iată 7 moduri de a optimiza intensitatea carbonului a sistemelor AI.
1. Scrieți un cod mai bun, mai eficient
Codurile optimizate pot reduce consumul de energie prin 30 la sută prin scăderea utilizării memoriei și a procesorului. Scrierea unui cod eficient din punct de vedere al carbonului implică optimizarea algoritmilor pentru o execuție mai rapidă, reducerea calculelor inutile și selectarea hardware-ului eficient din punct de vedere energetic pentru a efectua sarcini cu mai puțină putere.
Dezvoltatorii pot folosi instrumente de profilare pentru a identifica blocajele de performanță și zonele de optimizare în codul lor. Acest proces poate duce la un software mai eficient din punct de vedere energetic. De asemenea, luați în considerare implementarea tehnicilor de programare conștiente de energie, în care codul este proiectat să se adapteze la resursele disponibile și să prioritizeze căile de execuție eficiente din punct de vedere energetic.
2. Selectați un model mai eficient
Alegerea algoritmilor și structurilor de date potrivite este crucială. Dezvoltatorii ar trebui să opteze pentru algoritmi care minimizează complexitatea de calcul și, în consecință, consumul de energie. Dacă modelul mai complex oferă doar o îmbunătățire de 3-5%, dar durează de 2-3 ori mai mult timp pentru a se antrena; apoi alegeți modelul mai simplu și mai rapid.
Distilarea modelului este o altă tehnică de condensare a modelelor mari în versiuni mai mici pentru a le face mai eficiente, păstrând în același timp cunoștințele esențiale. Poate fi realizat prin antrenarea unui model mic pentru a-l imita pe cel mare sau prin eliminarea conexiunilor inutile dintr-o rețea neuronală.
3. Reglați parametrii modelului
Reglați hiperparametrii pentru model utilizând optimizarea cu dublu obiectiv care echilibrează performanța modelului (de exemplu, acuratețea) și consumul de energie. Această abordare cu obiectiv dublu vă asigură că nu vă sacrificați unul pentru celălalt, făcând modelele dvs. mai eficiente.
Tehnici de pârghie precum Reglare fină eficientă pentru parametri (PEFT) al cărui scop este de a obține performanțe similare cu reglajul fin tradițional, dar cu un număr redus de parametri antrenabili. Această abordare implică reglarea fină a unui subset mic de parametri ai modelului, menținând în același timp înghețate majoritatea modelelor de limbaj mari (LLM) pre-antrenate, ceea ce duce la reduceri semnificative ale resurselor de calcul și ale consumului de energie.
4. Comprimați datele și utilizați stocarea cu consum redus de energie
Implementați tehnici de comprimare a datelor pentru a reduce cantitatea de date transmise. Datele comprimate necesită mai puțină energie pentru a fi transferate și ocupă mai puțin spațiu pe disc. În timpul fazei de servire a modelului, utilizarea unui cache poate ajuta la reducerea apelurilor efectuate către stratul de stocare online, reducând astfel
În plus, alegerea tehnologiei de stocare potrivită poate duce la câștiguri semnificative. Pentru ex. AWS Glacier este o soluție eficientă de arhivare a datelor și poate fi o abordare mai durabilă decât utilizarea S3 dacă datele nu trebuie accesate frecvent.
5. Antrenează modele despre energie mai curată
Dacă utilizați un serviciu cloud pentru formarea modelelor, puteți alege regiunea pentru a opera calculele. Alegeți o regiune care utilizează surse de energie regenerabilă în acest scop și puteți reduce emisiile cu până la 30 ori. AWS blog subliniază echilibrul dintre optimizarea pentru afaceri și obiectivele de sustenabilitate.
O altă opțiune este să selectați momentul oportun pentru a rula modelul. În anumite momente ale zilei; energia este mai curată și astfel de date pot fi achiziționate printr-un serviciu plătit precum Harta energiei electrice, care oferă acces la date în timp real și previziuni viitoare privind intensitatea de carbon a electricității în diferite regiuni.
6. Utilizați centre de date și hardware specializate pentru formarea modelelor
Alegerea unor centre de date și hardware mai eficiente poate face o diferență enormă în ceea ce privește intensitatea carbonului. Centrele de date și hardware-ul specific ML pot fi 1.4-2 si de 2-5 ori mai eficiente energetic decat cele generale.
7. Utilizați implementări fără server precum AWS Lambda, Azure Functions
Implementările tradiționale necesită ca serverul să fie mereu pornit, ceea ce înseamnă un consum de energie 24×7. Implementările fără server, cum ar fi AWS Lambda și Azure Functions, funcționează foarte bine cu o intensitate minimă de carbon.
Sectorul AI se confruntă cu o creștere exponențială, pătrunzând fiecare fațetă a afacerii și a existenței de zi cu zi. Cu toate acestea, această expansiune are un cost - o amprentă de carbon în creștere care amenință să ne îndepărteze și mai mult de obiectivul de a limita creșterea temperaturii globale la doar 1°C.
Această amprentă de carbon nu este doar o preocupare actuală; repercusiunile sale se pot extinde de-a lungul generațiilor, afectându-i pe cei care nu poartă nicio responsabilitate pentru crearea sa. Prin urmare, devine imperativ să se ia măsuri decisive pentru a atenua emisiile de carbon legate de IA și pentru a explora căi durabile pentru valorificarea potențialului acestuia. Este esențial să ne asigurăm că beneficiile IA nu vin în detrimentul mediului și al bunăstării generațiilor viitoare.
Ankur Gupta este un lider în inginerie cu un deceniu de experiență în domeniile durabilității, transporturilor, telecomunicațiilor și infrastructurii; în prezent ocupă funcția de Engineering Manager la Uber. În acest rol, el joacă un rol esențial în promovarea platformei de vehicule Uber, conducând încărcătura către un viitor cu emisii zero prin integrarea vehiculelor electrice și conectate de ultimă oră.
- Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
- PlatoData.Network Vertical Generative Ai. Împuterniciți-vă. Accesați Aici.
- PlatoAiStream. Web3 Intelligence. Cunoștințe amplificate. Accesați Aici.
- PlatoESG. carbon, CleanTech, Energie, Mediu inconjurator, Solar, Managementul deșeurilor. Accesați Aici.
- PlatoHealth. Biotehnologie și Inteligență pentru studii clinice. Accesați Aici.
- Sursa: https://www.kdnuggets.com/greening-ai-7-strategies-to-make-applications-more-sustainable?utm_source=rss&utm_medium=rss&utm_campaign=greening-ai-7-strategies-to-make-applications-more-sustainable
- :are
- :este
- :nu
- :Unde
- $UP
- 1
- 1.3
- 12
- 15%
- 2021
- 2030
- 7
- 9
- a
- acces
- accesate
- accesibil
- Cont
- reprezentat
- Contabilitate
- precizie
- realizat
- ACM
- dobândite
- peste
- acțiuni
- activ
- adapta
- plus
- Suplimentar
- adresa
- adresare
- adecvat
- avansare
- care afectează
- AI
- Modele AI
- Sisteme AI
- AIR
- Aer conditionat
- AL
- algoritmi
- deja
- de asemenea
- Cu toate ca
- mereu
- Amazon
- sumă
- an
- analize
- și
- și infrastructură
- O alta
- aplicație
- aplicatii
- abordare
- SUNT
- domenii
- în jurul
- AS
- At
- atinge
- Încercările
- Autorii
- disponibil
- căi
- in medie
- aviaţie
- departe
- AWS
- AWS Lambdas
- Azuriu
- Sold
- bazat
- BE
- Urs
- deveni
- devine
- fiind
- Beneficiile
- Mai bine
- între
- blocaje
- aduce
- afaceri
- dar
- by
- cache
- calcula
- apeluri
- CAN
- capacități
- carbon
- emisiilor de carbon
- amprenta de carbon
- caz
- Centre
- sigur
- Schimbare
- taxă
- Alege
- revendicat
- creanțe
- claritate
- curat
- Cloud
- cloud computing
- cod
- Coduri
- cum
- vine
- produs
- complex
- complexitate
- componente
- calcul
- de calcul
- calcule
- Calcula
- tehnica de calcul
- Îngrijorare
- referitor la
- preocupările
- efectuat
- legat
- Conexiuni
- consecutiv
- prin urmare
- Lua în considerare
- consumate
- consum
- contribuie
- contribuabil
- convențional
- creaţie
- crucial
- În prezent
- ultima generație
- zilnic
- de date
- centre de date
- Datacenter
- zi
- deceniu
- decizie
- decisiv
- scăzut
- adânc
- învățare profundă
- Cerere
- implementa
- implementări
- proiectat
- Dezvoltatorii
- diferenţă
- diferit
- direcţie
- dispoziție
- Diversitate
- do
- face
- Doge
- domenii
- făcut
- conducere
- două
- în timpul
- e
- E&T
- Eficace
- eficient
- Eforturile
- electric
- electricitate
- consumul de energie electrică
- consumul de energie electrică
- încorporat
- Emisiile
- accentuat
- angajat
- angajează
- energie
- Consumul de energie
- Inginerie
- asigura
- asigură
- asigurare
- Mediu inconjurator
- de mediu
- ingrijorari privitoare la mediu
- este egală cu
- esenţial
- estima
- estimativ
- Eter (ETH)
- Chiar
- Fiecare
- evoluat
- execuție
- există
- expansiune
- experienţă
- confruntă
- experiment
- explora
- exponențială
- Crestere exponentiala
- extinde
- suplimentar
- FAST
- mai repede
- defect
- puțini
- Figura
- cifre
- capăt
- flexibil
- Concentra
- următor
- urmă
- Pentru
- formulă
- Înainte
- Cadru
- frecvent
- din
- congelate
- funcțional
- funcționare
- funcții
- mai mult
- viitor
- câștig
- GAS
- General
- genera
- generații
- Caritate
- scop
- Goluri
- GPU
- treptat
- gaze cu efect de seră
- Emisii de gaze de seră
- Grilă
- Creștere
- Piese metalice
- Cablaje
- Avea
- he
- puternic
- ajutor
- prin urmare
- superior
- deține
- Totuși
- HTTPS
- mare
- Flămând
- identifica
- AIE
- if
- Impactul
- imperativ
- Punere în aplicare a
- important
- îmbunătățire
- in
- inclus
- includere
- Crește
- a crescut
- Creșteri
- crescând
- industrie
- informat
- Infrastructură
- instanță
- cazuri
- integrare
- Intel
- intervenţie
- în
- implică
- IT
- ESTE
- jpg
- doar
- KDnuggets
- păstrare
- cunoştinţe
- lipsă
- limbă
- mare
- strat
- conduce
- lider
- Liderii
- conducere
- învăţare
- mai puțin
- ca
- Limitat
- Bazat pe locație
- LOWER
- maşină
- masina de învățare
- făcut
- major
- Majoritate
- face
- FACE
- Efectuarea
- administra
- manager
- multe
- Mai..
- mijloace
- măsura
- măsurare
- Memorie
- metodologii
- Metodologie
- minim
- minimaliza
- diminua
- atenuare
- ML
- model
- Modele
- mai mult
- mai eficient
- trebuie sa
- Nevoie
- nevoilor
- reţea
- neural
- rețele neuronale
- cu toate acestea
- Nu.
- număr
- Nvidia
- ocupă
- of
- promoții
- de multe ori
- on
- ONE
- cele
- on-line
- afară
- funcionar
- operațional
- Operațiuni
- oportun
- optimizare
- Optimizați
- optimizarea
- Opțiune
- or
- Altele
- contururi
- Pace
- plătit
- Hârtie
- parametrii
- cale
- pentru
- la sută
- efectua
- performanță
- Peter
- fază
- alege
- pivot
- platformă
- Plato
- Informații despre date Platon
- PlatoData
- joacă
- poziţie
- poseda
- potenţial
- putere
- Alimentarea
- precis
- Predictii
- prezenta
- presare
- în primul rând
- Prioritizarea
- proces
- prelucrare
- procesor
- profilare
- Programare
- Progres
- Propulsa
- furnizează
- scop
- RAM
- în timp real
- date în timp real
- reduce
- Redus
- reducerea
- reduceri
- se referă
- rafinat
- cu privire la
- regiune
- regiuni
- de încredere
- se bazează
- eliminarea
- Din surse regenerabile
- energie regenerabila
- repercusiuni
- reprezintă
- necesita
- Necesită
- cercetare
- Resurse
- responsabilitate
- rezultat
- rezultând
- REZULTATE
- reținere
- dreapta
- Rol
- Alerga
- s
- sacrificare
- Said
- Scară
- SCI
- sector
- selectarea
- Sensibilitate
- serverul
- serverless
- serviciu
- servire
- Distribuie
- să
- Emisiuni
- semnificativ
- semnificativ
- asemănător
- întrucât
- singur
- mic
- mai mici
- Software
- soluţie
- Surse
- Spaţiu
- tensiune
- de specialitate
- împărţi
- conduce
- Pas
- Încă
- Stop
- depozitare
- strategii
- structurile
- subiect
- substanțial
- astfel de
- potrivit
- depășind
- Înconjurător
- Durabilitate
- durabilă
- sistem
- sisteme
- T
- Lua
- ia
- Sarcină
- sarcini
- tehnică
- tehnici de
- Tehnologia
- telecomunicaţie
- decât
- acea
- lor
- Lor
- apoi
- Acolo.
- astfel
- prin urmare
- Acestea
- ei
- acest
- aceste
- amenință
- Prin
- Prin urmare
- timp
- ori
- gigant
- la
- instrument
- Unelte
- față de
- tradiţional
- Tren
- dresat
- Pregătire
- transfer
- transport
- tendință
- Două
- Uber
- din pacate
- unitate
- spre deosebire de
- incomparabil
- fără precedent
- us
- Folosire
- utilizare
- utilizări
- folosind
- valabil
- Vehicule
- vital
- modalități de
- Ce
- întrucât
- care
- în timp ce
- OMS
- a caror
- de ce
- voi
- înţelepciune
- cu
- Apartamente
- scrie
- scris
- X
- randamentele
- tu
- Ta
- zephyrnet