Slika urednika
Aplikacije AI imajo neprimerljive računalniške zmogljivosti, ki lahko pospešijo napredek z izjemno hitrostjo. Kljub temu se ta orodja za svoje delovanje močno zanašajo na energetsko intenzivne podatkovne centre, kar povzroča skrb vzbujajoče pomanjkanje energetske občutljivosti, ki znatno prispeva k njihovemu ogljičnemu odtisu. Presenetljivo je, da te aplikacije AI že predstavljajo znaten del 2.5 da 3.7 odstotkov svetovnih izpustov toplogrednih plinov, kar presega emisije iz letalske industrije.
In na žalost se ta ogljični odtis hitro povečuje.
Trenutno je pereča potreba po merjenju ogljičnega odtisa aplikacij za strojno učenje, kot je poudarila modrost Petra Druckerja, da »ne moreš upravljati tistega, česar ne moreš izmeriti«. Trenutno obstaja precejšnje pomanjkanje jasnosti pri količinski opredelitvi vpliva umetne inteligence na okolje, pri čemer se nam izmikajo natančne številke.
Poleg merjenja ogljičnega odtisa se morajo voditelji industrije umetne inteligence aktivno osredotočiti na njegovo optimizacijo. Ta dvojni pristop je ključnega pomena za reševanje okoljskih vprašanj, povezanih z aplikacijami umetne inteligence, in zagotavljanje bolj trajnostne poti naprej.
Večja uporaba strojnega učenja zahteva povečano število podatkovnih centrov, od katerih so številni požrešni in imajo zato znaten ogljični odtis. Globalna poraba električne energije v podatkovnih centrih je znašala 0.9 do 1.3 odstotkov v 2021.
A 2021 študija ocenjujejo, da se lahko ta uporaba do leta 1.86 poveča na 2030 odstotka ugotovimo predstavlja naraščajoči trend povpraševanja po energiji zaradi podatkovnih centrov
© Trend porabe energije in delež uporabe podatkovnih centrov
Večja kot je poraba energije, večji bo ogljični odtis. Podatkovni centri se med procesiranjem segrejejo in lahko zaradi pregrevanja postanejo okvarjeni ali celo prenehajo delovati. Zato potrebujejo hlajenje, kar zahteva dodatno energijo. Okoli 40 odstotkov elektrike, ki jo porabijo podatkovni centri, gre za klimatske naprave.
Glede na vse večji odtis uporabe umetne inteligence je treba upoštevati ogljično intenzivnost teh orodij. Trenutno so raziskave na to temo omejene na analize nekaj modelov in ne obravnavajo ustrezno raznolikosti omenjenih modelov.
Tukaj je razvita metodologija in nekaj učinkovitih orodij za izračun intenzivnosti ogljika sistemov umetne inteligence.
Programska intenzivnost ogljika (SCI) standardna je učinkovit pristop za ocenjevanje intenzivnosti ogljika sistemov umetne inteligence. Za razliko od običajnih metodologij, ki uporabljajo pristop obračunavanja atribucijskega ogljika, uporablja posledični računalniški pristop.
Posledični pristop poskuša izračunati mejno spremembo emisij, ki izhaja iz posega ali odločitve, kot je odločitev za proizvodnjo dodatne enote. Medtem ko se pripisovanje nanaša na obračunske podatke o povprečni intenzivnosti ali statične popise emisij.
A papirja o »Merjenju intenzivnosti ogljika AI v primerkih v oblaku« avtorja Jesse Doge et al. je uporabil to metodologijo za pridobitev bolj informiranih raziskav. Ker se velik del usposabljanja za modele AI izvaja na primerkih računalništva v oblaku, je to lahko veljaven okvir za izračun ogljičnega odtisa modelov AI. Članek izpopolnjuje formulo SCI za ocene, kot so:
ki je rafinirano iz:
ki izhaja iz
kjer je:
E: Energija, ki jo porabi programski sistem, predvsem grafične procesne enote-GPE, ki je specializirana strojna oprema ML.
I: Lokacijske mejne emisije ogljika iz omrežja, ki napaja podatkovni center.
M: Vgrajeni ali vgrajeni ogljik, ki je ogljik, ki se oddaja med uporabo, ustvarjanjem in odstranjevanjem strojne opreme.
R: Funkcionalna enota, ki je v tem primeru ena naloga za usposabljanje strojnega učenja.
C= O+M, kjer je O enako E*I
Prispevek uporablja formulo za oceno porabe električne energije posamezne instance oblaka. V sistemih ML, ki temeljijo na globokem učenju, je velika poraba električne energije posledica GPU, ki je vključen v to formulo. Usposobili so osnovni model BERT z uporabo enega samega grafičnega procesorja NVIDIA TITAN X (12 GB) v standardnem strežniku z dvema procesorjema Intel Xeon E5-2630 v3 (2.4 GHz) in 256 GB RAM-a (16x16 GB DIMM-ov), da bi preizkusili uporabo te formule. Naslednja slika prikazuje rezultate tega poskusa:
© Poraba energije in delitev med komponentami strežnika
GPU zahteva 74 odstotkov porabe energije. Čeprav avtorji članka to še vedno trdijo kot podcenjevanje, je vključitev GPE korak v pravo smer. Običajne tehnike ocenjevanja niso v središču pozornosti, kar pomeni, da se v ocenah spregleda glavni dejavnik, ki prispeva k ogljičnemu odtisu. Očitno SCI ponuja bolj zdrav in zanesljiv izračun intenzivnosti ogljika.
Usposabljanje za modele AI se pogosto izvaja na instancah računalništva v oblaku, saj je oblak prilagodljiv, dostopen in stroškovno učinkovit. Računalništvo v oblaku zagotavlja infrastrukturo in vire za uvajanje in usposabljanje modelov AI v velikem obsegu. Zato se usposabljanje modelov za računalništvo v oblaku postopoma povečuje.
Pomembno je meriti intenzivnost ogljika v instancah računalništva v oblaku v realnem času, da prepoznamo območja, primerna za prizadevanja za ublažitev. Obračunavanje časovnih in lokacijskih mejnih emisij na enoto energije lahko pomaga pri izračunu operativnih emisij ogljika, kot to stori Papir 2022.
An opensource je na voljo tudi programska oprema Cloud Carbon Footprint (CCF) za izračun vpliva primerkov v oblaku.
Tukaj je 7 načinov za optimizacijo intenzivnosti ogljika sistemov AI.
1. Napišite boljšo in učinkovitejšo kodo
Optimizirane kode lahko zmanjšajo porabo energije za 30 odstotkov zaradi zmanjšane porabe pomnilnika in procesorja. Pisanje ogljično učinkovite kode vključuje optimizacijo algoritmov za hitrejše izvajanje, zmanjšanje nepotrebnih izračunov in izbiro energijsko učinkovite strojne opreme za izvajanje nalog z manj energije.
Razvijalci lahko uporabljajo orodja za profiliranje, da prepoznajo ozka grla v delovanju in področja za optimizacijo v svoji kodi. Ta postopek lahko vodi do energetsko učinkovitejše programske opreme. Razmislite tudi o izvajanju energijsko ozaveščenih programskih tehnik, kjer je koda zasnovana tako, da se prilagaja razpoložljivim virom in daje prednost energijsko učinkovitim načinom izvajanja.
2. Izberite učinkovitejši model
Izbira pravih algoritmov in podatkovnih struktur je ključnega pomena. Razvijalci se morajo odločiti za algoritme, ki zmanjšajo računsko kompleksnost in posledično porabo energije. Če bolj zapleten model prinese le 3-5 % izboljšanje, vendar potrebuje 2-3x več časa za usposabljanje; potem izberite enostavnejši in hitrejši model.
Destilacija modelov je še ena tehnika za zgoščevanje velikih modelov v manjše različice, da postanejo bolj učinkoviti in hkrati ohranijo osnovno znanje. To je mogoče doseči z usposabljanjem majhnega modela za posnemanje velikega ali odstranitvijo nepotrebnih povezav iz nevronske mreže.
3. Prilagodite parametre modela
Nastavite hiperparametre za model z optimizacijo z dvojnim ciljem, ki uravnoteži zmogljivost modela (npr. natančnost) in porabo energije. Ta pristop z dvojnim ciljem zagotavlja, da ne žrtvujete enega zaradi drugega, zaradi česar so vaši modeli učinkovitejši.
Tehnike vzvoda, kot je S parametri učinkovito fino nastavljanje (PEFT), katerega cilj je doseči zmogljivost, podobno tradicionalni fini nastavitvi, vendar z zmanjšanim številom parametrov, ki jih je mogoče učiti. Ta pristop vključuje fino nastavitev majhne podmnožice parametrov modela, medtem ko večina predhodno usposobljenih modelov velikih jezikov (LLM) ostane zamrznjena, kar povzroči znatno zmanjšanje računalniških virov in porabe energije.
4. Stisnite podatke in uporabite nizkoenergijsko shranjevanje
Izvedite tehnike stiskanja podatkov, da zmanjšate količino prenesenih podatkov. Stisnjeni podatki zahtevajo manj energije za prenos in zasedejo manj prostora na disku. Med fazo streženja modela lahko uporaba predpomnilnika pomaga zmanjšati klice v sloj spletnega pomnilnika in s tem zmanjšati
Poleg tega lahko izbira prave tehnologije shranjevanja povzroči znatne dobičke. Za npr. AWS Glacier je učinkovita rešitev za arhiviranje podatkov in je lahko bolj trajnosten pristop kot uporaba S3, če do podatkov ni treba pogosto dostopati.
5. Usposabljajte modele za čistejšo energijo
Če za usposabljanje modela uporabljate storitev v oblaku, lahko izberete regijo za izvajanje izračunov. Izberite regijo, ki za ta namen uporablja obnovljive vire energije, in tako lahko zmanjšate emisije za do 30 krat. AWS blog post opisuje ravnovesje med optimizacijo za poslovne in trajnostne cilje.
Druga možnost je, da izberete primeren čas za zagon modela. Ob določenih urah dneva; energija je čistejša in takšne podatke je mogoče pridobiti preko plačljive storitve kot npr Zemljevid električne energije, ki ponuja dostop do podatkov v realnem času in prihodnjih napovedi glede ogljične intenzivnosti električne energije v različnih regijah.
6. Uporabite specializirane podatkovne centre in strojno opremo za usposabljanje modela
Izbira učinkovitejših podatkovnih centrov in strojne opreme lahko močno vpliva na intenzivnost ogljika. Podatkovni centri in strojna oprema, specifični za ML, so lahko 1.4-2 in 2-5-krat bolj energetsko učinkoviti od običajnih.
7. Uporabite uvedbe brez strežnika, kot sta AWS Lambda, Azure Functions
Tradicionalne uvedbe zahtevajo, da je strežnik vedno vklopljen, kar pomeni porabo energije 24×7. Brezstrežniške uvedbe, kot sta AWS Lambda in Azure Functions, delujejo povsem v redu z minimalno intenzivnostjo ogljika.
Sektor umetne inteligence doživlja eksponentno rast, ki prežema vse vidike poslovanja in vsakodnevnega obstoja. Vendar ima ta širitev svojo ceno – naraščajoči ogljični odtis, ki grozi, da nas bo še bolj oddaljil od cilja omejitve globalnega dviga temperature na samo 1 °C.
Ta ogljični odtis ni le trenutna skrb; njene posledice se lahko razširijo na več generacij in prizadenejo tiste, ki niso odgovorni za njen nastanek. Zato postane nujno sprejeti odločne ukrepe za ublažitev emisij ogljika, povezanih z umetno inteligenco, in raziskati trajnostne poti za izkoriščanje njenega potenciala. Bistveno je zagotoviti, da koristi umetne inteligence ne pridejo na račun okolja in blaginje prihodnjih generacij.
Ankur Gupta je vodja inženiringa z desetletnimi izkušnjami na področjih trajnosti, transporta, telekomunikacij in infrastrukture; trenutno zaseda položaj vodje inženiringa pri Uberju. V tej vlogi ima ključno vlogo pri spodbujanju napredka Uberjeve platforme za vozila, ki vodi polnjenje v prihodnost brez emisij z integracijo najsodobnejših električnih in povezanih vozil.
- Distribucija vsebine in PR s pomočjo SEO. Okrepite se še danes.
- PlatoData.Network Vertical Generative Ai. Opolnomočite se. Dostopite tukaj.
- PlatoAiStream. Web3 Intelligence. Razširjeno znanje. Dostopite tukaj.
- PlatoESG. Ogljik, CleanTech, Energija, Okolje, sončna energija, Ravnanje z odpadki. Dostopite tukaj.
- PlatoHealth. Obveščanje o biotehnologiji in kliničnih preskušanjih. Dostopite tukaj.
- vir: https://www.kdnuggets.com/greening-ai-7-strategies-to-make-applications-more-sustainable?utm_source=rss&utm_medium=rss&utm_campaign=greening-ai-7-strategies-to-make-applications-more-sustainable
- :ima
- : je
- :ne
- :kje
- $GOR
- 1
- 1.3
- 12
- 15%
- 2021
- 2030
- 7
- 9
- a
- dostop
- dostopna
- dostopen
- Račun
- račun
- računovodstvo
- natančnost
- doseže
- ACM
- pridobljenih
- čez
- dejavnosti
- aktivno
- prilagodijo
- Poleg tega
- Dodatne
- Naslov
- naslavljanje
- ustrezno
- napredovanje
- vplivajo
- AI
- AI modeli
- AI sistemi
- AIR
- Klima
- AL
- algoritmi
- že
- Prav tako
- Čeprav
- vedno
- Amazon
- znesek
- an
- analize
- in
- in infrastrukturo
- Še ena
- uporaba
- aplikacije
- pristop
- SE
- območja
- okoli
- AS
- At
- doseči
- Poskusi
- Avtorji
- Na voljo
- poti
- povprečno
- letalstvo
- stran
- AWS
- AWS Lambda
- Azure
- Ravnovesje
- temeljijo
- BE
- Nosijo
- postanejo
- postane
- počutje
- Prednosti
- Boljše
- med
- ozka grla
- prinašajo
- poslovni
- vendar
- by
- predpomnilnik
- izračun
- poziva
- CAN
- Zmogljivosti
- ogljika
- Emisije ogljikovega
- ogljični odtis
- primeru
- centri
- nekatere
- spremenite
- naboj
- Izberite
- trdil,
- terjatve
- jasnost
- čistilec
- Cloud
- računalništvo v oblaku
- Koda
- Kode
- kako
- prihaja
- blago
- kompleksna
- kompleksnost
- deli
- računanje
- računalniški
- izračuni
- Izračunajte
- računalništvo
- Skrb
- v zvezi
- Skrbi
- poteka
- povezane
- povezave
- posledično
- Posledično
- Razmislite
- porabi
- poraba
- prispeva
- prispeva
- konvencionalne
- Oblikovanje
- ključnega pomena
- Trenutno
- vrhunsko
- vsak dan
- datum
- Centri podatki
- Datacenter
- dan
- desetletje
- Odločitev
- Odločilno
- zmanjšala
- globoko
- globoko učenje
- Povpraševanje
- razporedi
- razmestitve
- zasnovan
- Razvijalci
- Razlika
- drugačen
- smer
- odstranjevanje
- raznolikost
- do
- ne
- Doge
- domen
- opravljeno
- vožnjo
- 2
- med
- e
- E&T
- Učinkovito
- učinkovite
- prizadevanja
- električni
- elektrika
- Poraba električne energije
- poraba električne energije
- vgrajeni
- Emisije
- je poudaril,
- zaposleni
- zaposluje
- energija
- Poraba energije
- Inženiring
- zagotovitev
- zagotavlja
- zagotoviti
- okolje
- okolja
- skrb za okolje
- enako
- bistvena
- oceniti
- ocenjeni
- Eter (ETH)
- Tudi
- Tudi vsak
- razvil
- izvedba
- obstaja
- Širitev
- izkušnje
- doživlja
- poskus
- raziskuje
- eksponentna
- eksponentna rast
- razširiti
- dodatna
- FAST
- hitreje
- napačno
- Nekaj
- Slika
- Številke
- konec
- prilagodljiv
- Osredotočite
- po
- Odtis
- za
- Formula
- Naprej
- Okvirni
- pogosto
- iz
- zamrznjena
- funkcionalno
- delovanje
- funkcije
- nadalje
- Prihodnost
- zaslužek
- GAS
- splošno
- ustvarjajo
- generacije
- Globalno
- Cilj
- Cilji
- GPU
- postopoma
- toplogrednih plinov
- Emisije toplogrednih plinov
- Mreža
- Rast
- strojna oprema
- Dovoljenje
- Imajo
- he
- močno
- pomoč
- zato
- več
- drži
- Vendar
- HTTPS
- velika
- Lačni
- identificirati
- IEA
- if
- vpliv
- nujno
- izvajanja
- Pomembno
- Izboljšanje
- in
- vključeno
- vključitev
- Povečajte
- povečal
- Poveča
- narašča
- Industrija
- obvestila
- Infrastruktura
- primer
- primerov
- integracija
- Intel
- intervencije
- v
- vključuje
- IT
- ITS
- jpg
- samo
- KDnuggets
- vzdrževanje
- znanje
- Pomanjkanje
- jezik
- velika
- plast
- vodi
- Vodja
- Voditelji
- vodi
- učenje
- manj
- kot
- Limited
- Na podlagi lokacije
- nižje
- stroj
- strojno učenje
- je
- velika
- Večina
- Znamka
- IZDELA
- Izdelava
- upravljanje
- upravitelj
- več
- Maj ..
- pomeni
- merjenje
- merjenje
- Spomin
- metodologije
- Metodologija
- minimalna
- zmanjšajo
- Omiliti
- ublažitev
- ML
- Model
- modeli
- več
- učinkovitejše
- morajo
- Nimate
- potrebe
- mreža
- Nevronski
- nevronska mreža
- Kljub temu
- št
- Številka
- Nvidia
- zaseda
- of
- Ponudbe
- pogosto
- on
- ONE
- tiste
- na spletu
- samo
- deluje
- operativno
- operacije
- pravočasno
- optimizacija
- Optimizirajte
- optimizacijo
- Možnost
- or
- Ostalo
- obrisi
- Pace
- plačana
- Papir
- parametri
- pot
- za
- odstotkov
- opravlja
- performance
- Peter
- faza
- kramp
- ključno
- platforma
- platon
- Platonova podatkovna inteligenca
- PlatoData
- igra
- Stališče
- imeti
- potencial
- moč
- Napajanje
- natančna
- Napovedi
- predstaviti
- pritiskom
- v prvi vrsti
- Prednost
- Postopek
- obravnavati
- Procesor
- profiliranje
- Programiranje
- Napredek
- Propel
- zagotavlja
- Namen
- RAM
- v realnem času
- podatki v realnem času
- zmanjša
- Zmanjšana
- zmanjšanje
- zmanjšanja
- nanaša
- rafinirano
- o
- okolica
- regije
- zanesljiv
- zanašajo
- odstranjevanje
- Obnovljivi viri
- obnovljiva energija
- posledice
- predstavlja
- zahteva
- zahteva
- Raziskave
- viri
- Odgovornost
- povzroči
- rezultat
- Rezultati
- ohranitev
- Pravica
- vloga
- Run
- s
- žrtvovanje
- Je dejal
- Lestvica
- SCI
- sektor
- izbiranje
- občutljivost
- strežnik
- Brez strežnika
- Storitev
- služijo
- Delite s prijatelji, znanci, družino in partnerji :-)
- shouldnt
- Razstave
- pomemben
- bistveno
- Podoben
- saj
- sam
- majhna
- manj
- Software
- Rešitev
- Viri
- Vesolje
- napetost
- specializirani
- po delih
- usmerjanje
- Korak
- Še vedno
- stop
- shranjevanje
- strategije
- strukture
- predmet
- precejšen
- taka
- primerna
- presegajo
- Okolica
- Trajnostni razvoj
- trajnostno
- sistem
- sistemi
- T
- Bodite
- meni
- Naloga
- Naloge
- tehnika
- tehnike
- Tehnologija
- telekomunikacije
- kot
- da
- O
- njihove
- Njih
- POTEM
- Tukaj.
- s tem
- zato
- te
- jih
- ta
- tisti,
- grozi
- skozi
- Tako
- čas
- krat
- titan
- do
- orodje
- orodja
- proti
- tradicionalna
- Vlak
- usposobljeni
- usposabljanje
- prenos
- Prevoz
- Trend
- dva
- Uber
- na žalost
- Enota
- za razliko od
- neprimerljivo
- brez primere
- us
- Uporaba
- uporaba
- uporablja
- uporabo
- veljavno
- Vozila
- ključnega pomena
- načini
- Kaj
- medtem ko
- ki
- medtem
- WHO
- katerih
- zakaj
- bo
- modrost
- z
- delo
- pisati
- pisanje
- X
- donosov
- jo
- Vaša rutina za
- zefirnet