Pilt redaktori poolt
AI-rakendustel on võrratud arvutusvõimalused, mis võivad edeneda enneolematus tempos. Sellegipoolest sõltuvad need tööriistad oma tegevuses suuresti energiamahukatest andmekeskustest, mille tulemuseks on energiatundlikkuse puudumine, mis aitab oluliselt kaasa nende süsiniku jalajäljele. Üllataval kombel moodustavad need AI-rakendused juba märkimisväärse osa 2.5 et 3.7 protsenti ülemaailmsetest kasvuhoonegaaside heitkogustest, ületades lennundustööstuse heitkoguseid.
Ja kahjuks suureneb see süsiniku jalajälg kiiresti.
Praegu on tungiv vajadus mõõta masinõpperakenduste süsinikujalajälge, nagu rõhutas Peter Druckeri tarkus, et "Sa ei saa hallata seda, mida te ei saa mõõta." Praegu valitseb tehisintellekti keskkonnamõju kvantifitseerimises märkimisväärne selguse puudumine, kuna täpsed arvud ei ole meile kättesaadavad.
Lisaks süsiniku jalajälje mõõtmisele peavad AI tööstuse juhid aktiivselt keskenduma selle optimeerimisele. See kahekordne lähenemisviis on ülioluline tehisintellekti rakendustega seotud keskkonnaprobleemide lahendamiseks ja jätkusuutlikuma edasiliikumise tagamiseks.
Masinõppe laialdasem kasutamine nõuab rohkem andmekeskusi, millest paljud on energianäljased ja seega märkimisväärne süsiniku jalajälg. Andmekeskuste globaalne elektritarbimine ulatus 0.9 et 1.3 protsenti aastal 2021.
A 2021 uuring hinnanguliselt võib see kasutus 1.86. aastaks kasvada 2030 protsendini aru tähistab andmekeskuste tõttu energianõudluse kasvutrendi
© Andmekeskuste energiatarbimise trend ja kasutuse osakaal
Mida suurem on energiatarbimine, seda suurem on süsiniku jalajälg. Andmekeskused kuumenevad töötlemise ajal ja võivad ülekuumenemise tõttu rikki minna ja isegi lakata töötamast. Seetõttu vajavad nad jahutamist, mis nõuab lisaenergiat. Ümberringi 40 protsenti Andmekeskuste tarbitavast elektrist kulub kliimaseadmetele.
Arvestades tehisintellekti kasutamise kasvavat jalajälge, tuleb arvestada nende tööriistade süsinikuintensiivsusega. Praegu piirduvad selleteemalised uuringud mõne mudeli analüüsiga ega käsitle piisavalt nimetatud mudelite mitmekesisust.
Siin on arenenud metoodika ja mõned tõhusad tööriistad tehisintellektisüsteemide süsinikuintensiivsuse arvutamiseks.
Tarkvara süsiniku intensiivsus (SCI) standard on tõhus meetod tehisintellektisüsteemide süsinikuintensiivsuse hindamiseks. Erinevalt tavapärastest metoodikatest, mis kasutavad süsiniku omistamise arvestust, kasutab see järelarvutusmeetodit.
Järelduslik lähenemine püüab arvutada sekkumisest või otsusest, näiteks lisaüksuse genereerimise otsusest, tulenevat marginaalset muutust heitmetes. Arvestades, et omistamine viitab arvestuslikele keskmise intensiivsuse andmetele või staatilistele heitkoguste andmekogudele.
A paber Jesse Doge jt teemal "AI süsiniku intensiivsuse mõõtmine pilvejuhtumites". on kasutanud seda metoodikat teadlikumate uuringute toomiseks. Kuna märkimisväärne osa tehisintellekti mudelite koolitusest viiakse läbi pilvandmetöötluse eksemplaridel, võib see olla sobiv raamistik tehisintellekti mudelite süsiniku jalajälje arvutamiseks. Dokumendis täpsustatakse SCI valemit selliste hinnangute jaoks nagu:
mis on rafineeritud:
mis tuleneb
kus:
E: Tarkvarasüsteemi, peamiselt graafiliste töötlemisüksuste-GPU-de, mis on spetsialiseerunud ML-riistvara, tarbitav energia.
I: Asukohapõhised süsinikdioksiidi piirheitmed andmekeskuse toitevõrgust.
M: Sisseehitatud või kehastatud süsinik, mis on riistvara kasutamise, loomise ja kõrvaldamise käigus eralduv süsinik.
R: Funktsionaalne üksus, mis antud juhul on üks masinõppe koolitusülesanne.
C= O+M, kus O on E*I
Dokumendis kasutatakse ühe pilve eksemplari elektritarbimise hindamiseks valemit. Süvaõppel põhinevates ML-süsteemides võlgneb suur elektritarbimine sellesse valemisse kaasatud GPU-le. Nad õpetasid BERT-baasmudelit, kasutades ühte NVIDIA TITAN X GPU-d (12 GB) kaubaserveris, millel oli kaks Intel Xeon E5-2630 v3 protsessorit (2.4 GHz) ja 256 GB muutmälu (16 x 16 GB DIMM-id), et katsetada selle valemi rakendamist. Järgmine joonis näitab selle katse tulemusi:
© Energiatarbimine ja serveri komponentide vahel jaotus
GPU kulutab 74 protsenti energiatarbimisest. Kuigi paberi autorid väidavad seda endiselt kui alahindamist, on GPU kaasamine samm õiges suunas. See ei ole tavapäraste hindamismeetodite keskmes, mis tähendab, et hinnangutes jäetakse tähelepanuta süsiniku jalajälje peamine põhjus. Ilmselt pakub SCI tervislikumat ja usaldusväärsemat süsiniku intensiivsuse arvutamist.
AI mudelikoolitus viiakse sageli läbi pilvandmetöötluse eksemplaridel, kuna pilv muudab selle paindlikuks, juurdepääsetavaks ja kulutõhusaks. Pilvandmetöötlus pakub infrastruktuuri ja ressursse tehisintellekti mudelite ulatuslikuks juurutamiseks ja koolitamiseks. Seetõttu kasvab pilvandmetöötluse alane mudelkoolitus järk-järgult.
Oluline on mõõta pilvandmetöötluse eksemplaride süsiniku intensiivsust reaalajas, et tuvastada leevendustegevuseks sobivad piirkonnad. Ajapõhise ja asukohapõhise piirheite arvestamine energiaühiku kohta võib aidata arvutada operatiivseid süsinikdioksiidi heitkoguseid, mida teeb 2022 paber.
An avatud lähtekoodiga Cloud Carbon Footprint (CCF) tarkvara on saadaval ka pilvejuhtumite mõju arvutamiseks.
Siin on 7 võimalust tehisintellektisüsteemide süsiniku intensiivsuse optimeerimiseks.
1. Kirjutage parem ja tõhusam kood
Optimeeritud koodid võivad energiatarbimist vähendada 30 protsenti mälu ja protsessori vähenemise tõttu. Süsinikefektiivse koodi kirjutamine hõlmab algoritmide optimeerimist kiiremaks täitmiseks, tarbetute arvutuste vähendamist ja energiasäästliku riistvara valimist, et täita ülesandeid väiksema võimsusega.
Arendajad saavad kasutada profiilide koostamise tööriistu, et tuvastada oma koodis jõudluse kitsaskohti ja optimeerimisalasid. See protsess võib viia energiasäästlikuma tarkvarani. Kaaluge ka energiateadlike programmeerimistehnikate rakendamist, mille puhul kood on loodud kohanema olemasolevate ressurssidega ja seadma prioriteediks energiatõhusad teostusviisid.
2. Valige tõhusam mudel
Õigete algoritmide ja andmestruktuuride valimine on ülioluline. Arendajad peaksid valima algoritmid, mis vähendavad arvutuslikku keerukust ja seega ka energiatarbimist. Kui keerulisem mudel annab ainult 3–5% paranemist, kuid treenimiseks kulub 2–3 korda rohkem aega; seejärel valige lihtsam ja kiirem mudel.
Mudeli destilleerimine on veel üks meetod suurte mudelite kondenseerimiseks väiksemateks versioonideks, et muuta need tõhusamaks, säilitades samas olulised teadmised. Seda on võimalik saavutada väikese mudeli väljaõpetamisega suurt jäljendamiseks või tarbetute ühenduste eemaldamisega närvivõrgust.
3. Mudeli parameetrite häälestamine
Häälestage mudeli hüperparameetrid kahe eesmärgiga optimeerimise abil, mis tasakaalustab mudeli jõudlust (nt täpsust) ja energiatarbimist. See kahe eesmärgiga lähenemine tagab, et te ei ohverda üht teise nimel, muutes oma mudelid tõhusamaks.
Võimendamistehnikad nagu Parameetrite tõhus peenhäälestus (PEFT), mille eesmärk on saavutada traditsioonilisele peenhäälestusega sarnane jõudlus, kuid vähendatud arvu treenitavate parameetritega. See lähenemisviis hõlmab mudeli parameetrite väikese alamhulga peenhäälestamist, hoides samal ajal enamiku eelkoolitatud suurte keelemudelite (LLM) külmutatuna, mille tulemuseks on arvutusressursside ja energiatarbimise oluline vähenemine.
4. Tihendage andmed ja kasutage vähese energiatarbega salvestusruumi
Edastatavate andmete hulga vähendamiseks rakendage andmete tihendamise tehnikaid. Tihendatud andmete edastamiseks kulub vähem energiat ja see võtab kettal vähem ruumi. Mudeli teenindamise etapis võib vahemälu kasutamine aidata vähendada võrgusalvestuskihile tehtavaid kõnesid, vähendades seeläbi
Lisaks võib õige salvestustehnoloogia valimine anda märkimisväärset kasu. Näiteks AWS Glacier on tõhus andmete arhiveerimise lahendus ja võib olla säästvam lähenemine kui S3 kasutamine, kui andmetele ei ole vaja sageli juurde pääseda.
5. Koolitage mudeleid puhtama energia kohta
Kui kasutate mudelikoolituseks pilveteenust, saate arvutuste tegemiseks valida piirkonna. Valige piirkond, kus kasutatakse selleks taastuvaid energiaallikaid ja saate vähendada heitkoguseid kuni 30 korda. AWS blogi postitus toob välja tasakaalu äritegevuse optimeerimise ja jätkusuutlikkuse eesmärkide vahel.
Teine võimalus on valida mudeli käitamiseks sobiv aeg. Teatud kellaaegadel; energia on puhtam ja selliseid andmeid saab hankida tasulise teenuse kaudu nagu Elektri kaart, mis pakub juurdepääsu reaalajas andmetele ja tulevikuprognoosidele elektri süsiniku intensiivsuse kohta erinevates piirkondades.
6. Kasutage mudelikoolituseks spetsiaalseid andmekeskusi ja riistvara
Tõhusamate andmekeskuste ja riistvara valimine võib süsiniku intensiivsust oluliselt muuta. ML-spetsiifilised andmekeskused ja riistvara võivad olla 1.4-2 ja 2-5 korda energiasäästlikumad kui üldised.
7. Kasutage serverita juurutusi, nagu AWS Lambda, Azure Functions
Traditsioonilised juurutused nõuavad, et server oleks alati sisse lülitatud, mis tähendab 24 × 7 energiatarbimist. Serverita juurutused, nagu AWS Lambda ja Azure Functions, töötavad minimaalse süsinikuintensiivsusega suurepäraselt.
Tehisintellekti sektor kogeb plahvatuslikku kasvu, läbides kõik äritegevuse ja igapäevase eksistentsi tahud. Sellel laienemisel on aga oma hind – kasvav süsiniku jalajälg, mis ähvardab meid veelgi kaugemale viia eesmärgist piirata globaalse temperatuuri tõusu vaid 1 °C-ni.
See süsiniku jalajälg ei ole ainult praegune probleem; selle tagajärjed võivad ulatuda üle põlvkondade, mõjutades neid, kes selle loomise eest ei vastuta. Seetõttu on hädavajalik võtta otsustavaid meetmeid tehisintellektiga seotud süsinikdioksiidi heitkoguste vähendamiseks ja uurida jätkusuutlikke võimalusi selle potentsiaali kasutamiseks. Oluline on tagada, et tehisintellektist saadav kasu ei langeks keskkonna ja tulevaste põlvkondade heaolu arvelt.
Ankur Gupta on insenerijuht, kellel on kümneaastane kogemus jätkusuutlikkuse, transpordi, telekommunikatsiooni ja infrastruktuuri valdkonnas; töötab praegu Uberis insenerijuhi ametikohal. Selles rollis mängib ta keskset rolli Uberi sõidukite platvormi edendamisel, viies laengu saastevaba tuleviku suunas tipptasemel elektri- ja ühendatud sõidukite integreerimise kaudu.
- SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
- PlatoData.Network Vertikaalne generatiivne Ai. Jõustage ennast. Juurdepääs siia.
- PlatoAiStream. Web3 luure. Täiustatud teadmised. Juurdepääs siia.
- PlatoESG. Süsinik, CleanTech, Energia, Keskkond päikeseenergia, Jäätmekäitluse. Juurdepääs siia.
- PlatoTervis. Biotehnoloogia ja kliiniliste uuringute luureandmed. Juurdepääs siia.
- Allikas: https://www.kdnuggets.com/greening-ai-7-strategies-to-make-applications-more-sustainable?utm_source=rss&utm_medium=rss&utm_campaign=greening-ai-7-strategies-to-make-applications-more-sustainable
- :on
- :on
- :mitte
- : kus
- $ UP
- 1
- 1.3
- 12
- 15%
- 2021
- 2030
- 7
- 9
- a
- juurdepääs
- pääses
- juurdepääsetav
- konto
- arvestatud
- raamatupidamine
- täpsus
- saavutada
- ACM
- omandatud
- üle
- meetmete
- aktiivselt
- kohandama
- lisamine
- Täiendavad lisad
- aadress
- adresseerimine
- piisavalt
- areng
- mõjutades
- AI
- AI mudelid
- Tehisintellekti süsteemid
- AIR
- Konditsioneer
- AL
- algoritme
- juba
- Ka
- Kuigi
- alati
- Amazon
- summa
- an
- analüüsid
- ja
- infrastruktuuri
- Teine
- taotlus
- rakendused
- lähenemine
- OLEME
- valdkondades
- ümber
- AS
- At
- saavutada
- Katsed
- autorid
- saadaval
- teed
- keskmine
- lennundus
- ära
- AWS
- AWS Lambda
- Taevasina
- Saldo
- põhineb
- BE
- Pidage
- muutuma
- muutub
- on
- Kasu
- Parem
- vahel
- kitsaskohti
- tooma
- äri
- kuid
- by
- vahemälu
- arvutama
- Kutsub
- CAN
- võimeid
- süsinik
- süsinikdioksiidi heitkoguseid
- süsiniku jalajälg
- juhul
- Centers
- kindel
- muutma
- tasu
- Vali
- väitis
- nõuete
- selgus
- puhasti
- Cloud
- cloud computing
- kood
- koodid
- Tulema
- tuleb
- kaup
- keeruline
- keerukus
- komponendid
- arvutamine
- arvutuslik
- arvutused
- Arvutama
- arvutustehnika
- Murettekitav
- kohta
- Murettekitav
- läbi
- seotud
- Side
- tagajärgne
- Järelikult
- Arvestama
- tarbitud
- tarbimine
- panustab
- toetaja
- tavaline
- loomine
- otsustav
- Praegu
- viimase peal
- iga päev
- andmed
- andmekeskuste
- Datacenter
- päev
- kümme aastat
- otsus
- otsustav
- vähenenud
- sügav
- sügav õpe
- Nõudlus
- juurutada
- kasutuselevõtt
- kavandatud
- Arendajad
- erinevus
- erinev
- suund
- kõrvaldamine
- mitmekesisus
- do
- ei
- Koer
- Domeenid
- tehtud
- sõidu
- kaks
- ajal
- e
- E&T
- Tõhus
- tõhus
- jõupingutusi
- Starter
- elekter
- elektritarbimine
- elektrienergia kasutamine
- varjatud
- Heitkoguste
- rõhutas
- töötavad
- töötab
- energia
- Energiakulu
- Inseneriteadus
- tagama
- tagab
- tagades
- keskkond
- keskkonna-
- keskkonnaprobleeme
- Võrdub
- oluline
- hinnata
- Hinnanguliselt
- Eeter (ETH)
- Isegi
- Iga
- arenenud
- täitmine
- olemas
- laiendamine
- kogemus
- kogevad
- eksperiment
- uurima
- eksponentsiaalne
- hüppelise kasvu
- laiendama
- lisatasu
- KIIRE
- kiiremini
- vigane
- vähe
- Joonis
- arvandmed
- lõpp
- paindlik
- Keskenduma
- Järel
- Jalajälg
- eest
- valem
- edasi
- Raamistik
- sageli
- Alates
- külmutatud
- funktsionaalne
- toimimine
- funktsioonid
- edasi
- tulevik
- Kasum
- GAS
- Üldine
- tekitama
- Põlvkonnad
- Globaalne
- eesmärk
- Eesmärgid
- GPU
- järk-järgult
- kasvuhoonegaas
- Kasvuhoonegaaside emissioon
- võre
- Kasv
- riistvara
- Kasutamine
- Olema
- he
- tugevalt
- aitama
- sellest tulenevalt
- rohkem
- omab
- aga
- HTTPS
- tohutu
- Näljane
- identifitseerima
- IEA
- if
- mõju
- hädavajalik
- rakendamisel
- oluline
- paranemine
- in
- lisatud
- kaasamine
- Suurendama
- kasvanud
- Tõstab
- kasvav
- tööstus
- teavitatakse
- Infrastruktuur
- Näiteks
- juhtumid
- integratsioon
- Intel
- sekkumine
- sisse
- hõlmab
- IT
- ITS
- jpg
- lihtsalt
- KDnuggets
- pidamine
- teadmised
- puudus
- keel
- suur
- kiht
- viima
- juht
- juhid
- juhtivate
- õppimine
- vähem
- nagu
- piiratud
- Asukohapõhine
- vähendada
- masin
- masinõpe
- tehtud
- peamine
- Enamus
- tegema
- TEEB
- Tegemine
- juhtima
- juht
- palju
- mai..
- vahendid
- mõõtma
- mõõtmine
- Mälu
- metoodikad
- Metoodika
- minimaalne
- minimeerima
- Leevendada
- leevendamine
- ML
- mudel
- mudelid
- rohkem
- tõhusam
- peab
- Vajadus
- vajadustele
- võrk
- Neural
- Närvivõrgus
- Sellegipoolest
- ei
- number
- Nvidia
- okupeerib
- of
- Pakkumised
- sageli
- on
- ONE
- ones
- Internetis
- ainult
- töötama
- töökorras
- Operations
- õigeaegne
- optimeerimine
- optimeerima
- optimeerimine
- valik
- or
- Muu
- piirjooned
- tempo
- makstud
- Paber
- parameetrid
- tee
- kohta
- protsent
- täitma
- jõudlus
- Peter
- faas
- valima
- Keskses
- inimesele
- Platon
- Platoni andmete intelligentsus
- PlatoData
- mängib
- positsioon
- omama
- potentsiaal
- võim
- Toide
- vajadus
- Ennustused
- esitada
- pressimine
- eelkõige
- Prioriteet
- protsess
- töötlemine
- Protsessor
- profiilide
- Programming
- Edu
- Propell
- annab
- eesmärk
- RAM
- reaalajas
- reaalajas andmeid
- vähendama
- Lühendatud
- vähendamine
- vähendused
- viitab
- puhastatud
- kohta
- piirkond
- piirkondades
- usaldusväärne
- lootma
- eemaldades
- Taastuv
- taastuv energia
- tagajärjed
- esindab
- nõudma
- Vajab
- teadustöö
- Vahendid
- vastutus
- kaasa
- tulemuseks
- Tulemused
- säilitamine
- õige
- Roll
- jooks
- s
- ohverdama
- Ütlesin
- Skaala
- SCI
- sektor
- valides
- Tundlikkus
- server
- Serverita
- teenus
- teenindavad
- Jaga
- peaks
- Näitused
- märkimisväärne
- märgatavalt
- sarnane
- alates
- ühekordne
- väike
- väiksem
- tarkvara
- lahendus
- Allikad
- Ruum
- Pinge
- spetsialiseeritud
- jagada
- juhtima
- Samm
- Veel
- Peatus
- ladustamine
- strateegiad
- struktuuride
- teema
- mahukas
- selline
- sobiv
- ületades
- ümbritsev
- Jätkusuutlikkus
- jätkusuutlik
- süsteem
- süsteemid
- T
- Võtma
- võtab
- Ülesanne
- ülesanded
- tehnika
- tehnikat
- Tehnoloogia
- elekterside
- kui
- et
- .
- oma
- Neile
- SIIS
- Seal.
- sellega
- seetõttu
- Need
- nad
- see
- need
- ähvardab
- Läbi
- Seega
- aeg
- korda
- Titan
- et
- tööriist
- töövahendid
- suunas
- traditsiooniline
- Rong
- koolitatud
- koolitus
- üle
- transportimine
- Trend
- kaks
- Uber
- kahjuks
- üksus
- erinevalt
- võrratu
- enneolematu
- us
- Kasutus
- kasutama
- kasutusalad
- kasutamine
- kehtiv
- Sõidukid
- tähtis
- kuidas
- M
- samas kui
- mis
- kuigi
- WHO
- kelle
- miks
- will
- tarkus
- koos
- Töö
- kirjutama
- kirjutamine
- X
- saagikus
- sa
- Sinu
- sephyrnet