Bilde av redaktør
AI-applikasjoner har uovertruffen beregningsevne som kan drive fremgang i et enestående tempo. Likevel er disse verktøyene sterkt avhengige av energiintensive datasentre for driften, noe som resulterer i en bekymringsfull mangel på energifølsomhet som bidrar betydelig til deres karbonavtrykk. Overraskende nok står disse AI-applikasjonene allerede for en betydelig 2.5 til 3.7 prosent av globale klimagassutslipp, som overgår utslippene fra luftfartsindustrien.
Og dessverre øker dette karbonavtrykket i et raskt tempo.
For tiden er det presserende behovet å måle karbonavtrykket til maskinlæringsapplikasjoner, som understreket av Peter Druckers visdom om at "Du kan ikke administrere det du ikke kan måle." For øyeblikket er det en betydelig mangel på klarhet når det gjelder å kvantifisere miljøpåvirkningen av AI, med presise tall som unngår oss.
I tillegg til å måle karbonavtrykket, må AI-industriens ledere aktivt fokusere på å optimalisere det. Denne doble tilnærmingen er avgjørende for å håndtere miljøhensyn rundt AI-applikasjoner og sikre en mer bærekraftig vei fremover.
Den økte bruken av maskinlæring krever økte datasentre, hvorav mange er strømkrevende og dermed har et betydelig karbonavtrykk. Det globale strømforbruket til datasentre utgjorde 0.9 til 1.3 prosent i 2021.
A 2021 studie anslått at denne bruken kan øke til 1.86 prosent innen 2030. Dette figur representerer den økende trenden med energibehov på grunn av datasentre
© Energiforbrukstrend og bruksandel for datasentre
Spesielt, jo høyere energiforbruket er, jo høyere vil karbonavtrykket være. Datasentre varmes opp under behandling og kan bli defekte og til og med slutte å fungere på grunn av overoppheting. Derfor trenger de kjøling, noe som krever ekstra energi. Rundt 40 prosent av strømmen som forbrukes av datasentre er til klimaanlegg.
Gitt det økende fotavtrykket av AI-bruk, må disse verktøyenes karbonintensitet tas i betraktning. Foreløpig er forskningen på dette emnet begrenset til analyser av noen få modeller og adresserer ikke i tilstrekkelig grad mangfoldet av de nevnte modellene.
Her er en utviklet metodikk og noen få effektive verktøy for å beregne karbonintensiteten til AI-systemer.
Software Carbon Intensity (SCI) Standard er en effektiv tilnærming for å estimere karbonintensiteten til AI-systemer. I motsetning til de konvensjonelle metodene som bruker attribusjonell karbonregnskapsmetode, bruker den en konsekvensberegningsmetode.
Konsekvenstilnærming forsøker å beregne den marginale endringen i utslipp som oppstår fra en intervensjon eller beslutning, for eksempel beslutningen om å generere en ekstra enhet. Mens attribusjon refererer til regnskapsmessig gjennomsnittlig intensitetsdata eller statiske inventar av utslipp.
A papir om "Måling av karbonintensiteten til AI i skyforekomster" av Jesse Doge et al. har brukt denne metodikken for å få inn mer informert forskning. Siden en betydelig mengde AI-modellopplæring utføres på cloud computing-forekomster, kan det være et gyldig rammeverk for å beregne karbonavtrykket til AI-modeller. Oppgaven avgrenser SCI-formelen for slike estimater som:
som er raffinert fra:
som stammer fra
der:
E: Energi forbrukt av et programvaresystem, primært av grafiske prosesseringsenheter-GPUer som er spesialisert ML-maskinvare.
I: Stedsbaserte marginale karbonutslipp fra nettet som driver datasenteret.
M: Innebygd eller innebygd karbon, som er karbonet som slippes ut under bruk, opprettelse og avhending av maskinvare.
R: Funksjonell enhet, som i dette tilfellet er én treningsoppgave for maskinlæring.
C= O+M, hvor O er lik E*I
Oppgaven bruker formelen for å estimere strømforbruket for en enkelt skyforekomst. I ML-systemer basert på dyp læring, skylder stort strømforbruk det til GPU, som er inkludert i denne formelen. De trente en BERT-basert modell ved å bruke en enkelt NVIDIA TITAN X GPU (12 GB) i en vareserver med to Intel Xeon E5-2630 v3 CPUer (2.4 GHz) og 256 GB RAM (16x16 GB DIMM-er) for å eksperimentere med bruken av denne formelen. Følgende figur viser resultatene av dette eksperimentet:
© Energiforbruk og delt mellom komponenter på en server
GPUen krever 74 prosent av energiforbruket. Selv om det fortsatt hevdes som en undervurdering av avisens forfattere, er inkludering av GPU steget i riktig retning. Det er ikke fokus for de konvensjonelle estimeringsteknikkene, noe som betyr at en stor bidragsyter til karbonfotavtrykk blir oversett i estimeringene. Tydeligvis tilbyr SCI en mer sunn og pålitelig beregning av karbonintensitet.
AI-modellopplæring utføres ofte på cloud comput-instanser, ettersom skyen gjør den fleksibel, tilgjengelig og kostnadseffektiv. Cloud computing gir infrastrukturen og ressursene for å distribuere og trene AI-modeller i stor skala. Det er derfor modellopplæring på cloud computing øker gradvis.
Det er viktig å måle karbonintensiteten i sanntid til cloud comput-forekomster for å identifisere områder som er egnet for avbøtende tiltak. Regnskapsføring av tidsbaserte og stedsspesifikke marginale utslipp per energienhet kan hjelpe til med å beregne operasjonelle karbonutslipp, som gjort av en 2022 papir.
An opensource verktøyet, Cloud Carbon Footprint (CCF) programvare er også tilgjengelig for å beregne virkningen av skyforekomster.
Her er 7 måter å optimalisere karbonintensiteten til AI-systemer.
1. Skriv bedre og mer effektiv kode
Optimaliserte koder kan redusere energiforbruket med 30 prosent gjennom redusert minne- og prosessorbruk. Å skrive en karboneffektiv kode innebærer å optimalisere algoritmer for raskere utførelse, redusere unødvendige beregninger og velge energieffektiv maskinvare for å utføre oppgaver med mindre kraft.
Utviklere kan bruke profileringsverktøy for å identifisere ytelsesflaskehalser og områder for optimalisering i koden deres. Denne prosessen kan føre til mer energieffektiv programvare. Vurder også å implementere energibevisste programmeringsteknikker, der kode er designet for å tilpasse seg de tilgjengelige ressursene og prioritere energieffektive utførelsesveier.
2. Velg en mer effektiv modell
Å velge riktige algoritmer og datastrukturer er avgjørende. Utviklere bør velge algoritmer som minimerer beregningskompleksiteten og dermed energiforbruket. Hvis den mer komplekse modellen bare gir 3-5 % forbedring, men tar 2-3 ganger mer tid å trene; velg deretter den enklere og raskere modellen.
Modelldestillasjon er en annen teknikk for å kondensere store modeller til mindre versjoner for å gjøre dem mer effektive og samtidig beholde viktig kunnskap. Det kan oppnås ved å trene en liten modell for å etterligne den store eller fjerne unødvendige forbindelser fra et nevralt nettverk.
3. Still inn modellparametere
Juster hyperparametere for modellen ved å bruke to-objektiv optimalisering som balanserer modellytelse (f.eks. nøyaktighet) og energiforbruk. Denne to-objektive tilnærmingen sikrer at du ikke ofrer det ene for det andre, noe som gjør modellene dine mer effektive.
Utnytt teknikker som Parameter-effektiv finjustering (PEFT) hvis mål er å oppnå ytelse som ligner på tradisjonell finjustering, men med et redusert antall trenbare parametere. Denne tilnærmingen innebærer å finjustere et lite undersett av modellparametere, samtidig som flertallet av de forhåndstrente store språkmodellene (LLM) holdes frosset, noe som resulterer i betydelige reduksjoner i beregningsressurser og energiforbruk.
4. Komprimer data og bruk lavenergilagring
Implementer datakomprimeringsteknikker for å redusere mengden data som overføres. Komprimerte data krever mindre energi å overføre og opptar mindre plass på disken. Under modellserveringsfasen kan bruk av en hurtigbuffer bidra til å redusere anropene til nettlagringslaget og dermed redusere
I tillegg kan det å velge riktig lagringsteknologi resultere i betydelige gevinster. For f.eks. AWS Glacier er en effektiv dataarkiveringsløsning og kan være en mer bærekraftig tilnærming enn å bruke S3 hvis dataene ikke trenger å få tilgang til ofte.
5. Trene modeller på renere energi
Hvis du bruker en skytjeneste for modellopplæring, kan du velge regionen for å betjene beregninger. Velg en region som bruker fornybare energikilder til dette formålet, og du kan redusere utslippene med inntil 30 ganger. AWS blogginnlegg skisserer balansen mellom optimalisering for forretnings- og bærekraftsmål.
Et annet alternativ er å velge passende tidspunkt for å kjøre modellen. På bestemte tider av døgnet; energien er renere og slike data kan hentes gjennom en betalt tjeneste som f.eks Elektrisitetskart, som gir tilgang til sanntidsdata og fremtidige spådommer angående karbonintensiteten til elektrisitet i forskjellige regioner.
6. Bruk spesialiserte datasentre og maskinvare for modellopplæring
Å velge mer effektive datasentre og maskinvare kan utgjøre en enorm forskjell når det gjelder karbonintensitet. ML-spesifikke datasentre og maskinvare kan være 1.4-2 og 2-5 ganger mer energieffektive enn de generelle.
7. Bruk serverløse distribusjoner som AWS Lambda, Azure Functions
Tradisjonelle distribusjoner krever at serveren alltid er på, noe som betyr 24×7 energiforbruk. Serverløse distribusjoner som AWS Lambda og Azure Functions fungerer helt fint med minimal karbonintensitet.
AI-sektoren opplever eksponentiell vekst, som gjennomsyrer alle fasett av virksomheten og dagliglivet. Denne utvidelsen har imidlertid en kostnad – et voksende karbonavtrykk som truer med å styre oss lenger bort fra målet om å begrense globale temperaturøkninger til bare 1 °C.
Dette karbonfotavtrykket er ikke bare et nåværende problem; dens ettervirkninger kan strekke seg over generasjoner, og påvirke de som ikke har noe ansvar for opprettelsen. Derfor blir det avgjørende å ta avgjørende tiltak for å redusere AI-relaterte karbonutslipp og utforske bærekraftige veier for å utnytte potensialet. Det er avgjørende å sikre at fordelene til AI ikke går på bekostning av miljøet og fremtidige generasjoners velvære.
Ankur Gupta er en ingeniørleder med et tiår med erfaring innen bærekraft, transport, telekommunikasjon og infrastruktur; har for tiden stillingen som ingeniørsjef i Uber. I denne rollen spiller han en sentral rolle i å drive frem utviklingen av Ubers Vehicles Platform, og leder satsingen mot en nullutslippsfremtid gjennom integrering av banebrytende elektriske og tilkoblede kjøretøy.
- SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk deg selv. Tilgang her.
- PlatoAiStream. Web3 Intelligence. Kunnskap forsterket. Tilgang her.
- PlatoESG. Karbon, CleanTech, Energi, Miljø, Solenergi, Avfallshåndtering. Tilgang her.
- PlatoHelse. Bioteknologisk og klinisk etterretning. Tilgang her.
- kilde: https://www.kdnuggets.com/greening-ai-7-strategies-to-make-applications-more-sustainable?utm_source=rss&utm_medium=rss&utm_campaign=greening-ai-7-strategies-to-make-applications-more-sustainable
- : har
- :er
- :ikke
- :hvor
- $OPP
- 1
- 1.3
- 12
- 15%
- 2021
- 2030
- 7
- 9
- a
- adgang
- aksesseres
- tilgjengelig
- Logg inn
- rede
- Regnskap og administrasjon
- nøyaktighet
- oppnådd
- ACM
- ervervet
- tvers
- handlinger
- aktivt
- tilpasse
- tillegg
- Ytterligere
- adresse
- adressering
- tilstrekkelig
- forfremmelse
- påvirker
- AI
- AI-modeller
- AI-systemer
- AIR
- Klimaanlegg
- AL
- algoritmer
- allerede
- også
- Selv
- alltid
- Amazon
- beløp
- an
- analyser
- og
- og infrastruktur
- En annen
- Søknad
- søknader
- tilnærming
- ER
- områder
- rundt
- AS
- At
- oppnå
- forsøk
- forfattere
- tilgjengelig
- veier
- gjennomsnittlig
- luftfart
- borte
- AWS
- AWS Lambda
- Azure
- Balansere
- basert
- BE
- Bær
- bli
- blir
- være
- Fordeler
- Bedre
- mellom
- flaskehalser
- bringe
- virksomhet
- men
- by
- cache
- beregne
- Samtaler
- CAN
- evner
- karbon
- karbonutslipp
- karbonutslipp
- saken
- Sentre
- viss
- endring
- kostnad
- Velg
- hevdet
- krav
- klarhet
- renere
- Cloud
- cloud computing
- kode
- koder
- Kom
- kommer
- handelsvare
- komplekse
- kompleksitet
- komponenter
- beregningen
- beregnings
- beregninger
- Beregn
- databehandling
- Bekymring
- angå
- bekymringer
- gjennomført
- tilkoblet
- Tilkoblinger
- følge
- Følgelig
- Vurder
- forbrukes
- forbruk
- bidrar
- bidragsyter
- konvensjonell
- skaperverket
- avgjørende
- I dag
- skjærekant
- daglig
- dato
- datasentre
- Datacenter
- dag
- tiår
- avgjørelse
- avgjørende
- redusert
- dyp
- dyp læring
- Etterspørsel
- utplassere
- distribusjoner
- designet
- utviklere
- forskjell
- forskjellig
- retning
- avhending
- Mangfold
- do
- gjør
- doge
- domener
- gjort
- kjøring
- to
- under
- e
- E&T
- Effektiv
- effektiv
- innsats
- Elektrisk
- elektrisitet
- strømforbruk
- strømforbruk
- innebygd
- Utslipp
- understreket
- ansatt
- anvender
- energi
- Energiforbruk
- Ingeniørarbeid
- sikre
- sikrer
- sikrer
- Miljø
- miljømessige
- miljø bekymringer
- Er lik
- avgjørende
- anslag
- anslått
- Eter (ETH)
- Selv
- Hver
- utviklet seg
- gjennomføring
- finnes
- utvidelse
- erfaring
- opplever
- eksperiment
- utforske
- eksponentiell
- Eksponensiell vekst
- utvide
- ekstra
- FAST
- raskere
- defekt
- Noen få
- Figur
- tall
- slutt
- fleksibel
- Fokus
- etter
- Fotspor
- Til
- formel
- Forward
- Rammeverk
- ofte
- fra
- frossen
- funksjonelle
- funksjon
- funksjoner
- videre
- framtid
- inntjening
- GAS
- general
- generere
- generasjoner
- Global
- mål
- Mål
- GPU
- gradvis
- klimagass
- Klimagassutslipp
- Grid
- Vekst
- maskinvare
- Utnyttelse
- Ha
- he
- tungt
- hjelpe
- derav
- høyere
- holder
- Men
- HTTPS
- stort
- Sulten
- identifisere
- IEA
- if
- Påvirkning
- avgjørende
- implementere
- viktig
- forbedring
- in
- inkludert
- inkludering
- Øke
- økt
- øker
- økende
- industri
- informert
- Infrastruktur
- f.eks
- forekomster
- integrering
- Intel
- intervensjon
- inn
- innebærer
- IT
- DET ER
- jpg
- bare
- KDnuggets
- holde
- kunnskap
- maling
- Språk
- stor
- lag
- føre
- leder
- ledere
- ledende
- læring
- mindre
- i likhet med
- Begrenset
- Stedsbasert
- lavere
- maskin
- maskinlæring
- laget
- større
- Flertall
- gjøre
- GJØR AT
- Making
- administrer
- leder
- mange
- Kan..
- midler
- måle
- måling
- Minne
- metoder
- metodikk
- minimal
- minimere
- Minske
- skadebegrensning
- ML
- modell
- modeller
- mer
- mer effektivt
- må
- Trenger
- behov
- nettverk
- neural
- nevrale nettverket
- likevel
- Nei.
- Antall
- Nvidia
- okkuperer
- of
- Tilbud
- ofte
- on
- ONE
- seg
- på nett
- bare
- betjene
- operasjonell
- Drift
- betimelig
- optimalisering
- Optimalisere
- optimalisere
- Alternativ
- or
- Annen
- skisserer
- Fred
- betalt
- Papir
- parametere
- banen
- for
- prosent
- utføre
- ytelse
- Peter
- fase
- plukke
- sentral
- plattform
- plato
- Platon Data Intelligence
- PlatonData
- spiller
- posisjon
- besitter
- potensiell
- makt
- Slå
- presis
- Spådommer
- presentere
- trykke
- primært
- Prioriter
- prosess
- prosessering
- prosessor
- profilering
- Programmering
- Progress
- Propell
- gir
- formål
- RAM
- sanntids
- sanntidsdata
- redusere
- Redusert
- redusere
- reduksjoner
- refererer
- raffinert
- om
- region
- regioner
- pålitelig
- avhengige
- fjerne
- Fornybar
- fornybar energi
- konsekvenser
- representerer
- krever
- Krever
- forskning
- Ressurser
- ansvar
- resultere
- resulterende
- Resultater
- støttemur
- ikke sant
- Rolle
- Kjør
- s
- ofre
- Sa
- Skala
- SCI
- sektor
- velge
- Følsomhet
- server
- server~~POS=TRUNC
- tjeneste
- servering
- Del
- bør
- Viser
- signifikant
- betydelig
- lignende
- siden
- enkelt
- liten
- mindre
- Software
- løsning
- Kilder
- Rom
- Spenning
- spesialisert
- splittet
- styre
- Trinn
- Still
- Stopp
- lagring
- strategier
- strukturer
- emne
- betydelig
- slik
- egnet
- overgår
- rundt
- Bærekraft
- bærekraftig
- system
- Systemer
- T
- Ta
- tar
- Oppgave
- oppgaver
- teknikk
- teknikker
- Teknologi
- telekommunikasjon
- enn
- Det
- De
- deres
- Dem
- deretter
- Der.
- derved
- derfor
- Disse
- de
- denne
- De
- truer
- Gjennom
- Dermed
- tid
- ganger
- titan
- til
- verktøy
- verktøy
- mot
- tradisjonelle
- Tog
- trent
- Kurs
- overføre
- transport
- Trend
- to
- Uber
- dessverre
- enhet
- I motsetning til
- enestående
- enestående
- us
- bruk
- bruke
- bruker
- ved hjelp av
- gyldig
- Kjøretøy
- vital
- måter
- Hva
- mens
- hvilken
- mens
- HVEM
- hvem sin
- hvorfor
- vil
- visdom
- med
- Arbeid
- skrive
- skriving
- X
- rentene
- du
- Din
- zephyrnet