Kuvan toimittaja
Tekoälysovelluksissa on vertaansa vailla olevat laskentaominaisuudet, jotka voivat edistää kehitystä ennennäkemättömällä vauhdilla. Tästä huolimatta näiden työkalujen toiminta on vahvasti riippuvainen energiaintensiivisistä datakeskuksista, mikä johtaa huolestuttavaan energiaherkkyyden puutteeseen, mikä vaikuttaa merkittävästi niiden hiilijalanjälkeen. Yllättäen nämä tekoälysovellukset muodostavat jo huomattavan määrän 2.5 ja 3.7 prosenttia maailman kasvihuonekaasupäästöistä, ylittäen lentoteollisuuden päästöt.
Ja valitettavasti tämä hiilijalanjälki kasvaa nopeasti.
Tällä hetkellä pakottava tarve on mitata koneoppimissovellusten hiilijalanjälkeä, kuten Peter Druckerin viisaus, jonka mukaan "Et voi hallita sitä, mitä ei voi mitata", korostaa. Tekoälyn ympäristövaikutusten kvantifiointi on tällä hetkellä huomattavan epäselvää, ja tarkat luvut jäävät huomaamatta.
Hiilijalanjäljen mittaamisen lisäksi tekoälyalan johtajien tulee aktiivisesti keskittyä sen optimointiin. Tämä kaksinkertainen lähestymistapa on elintärkeä tekoälysovelluksiin liittyvien ympäristöongelmien ratkaisemiseksi ja kestävämmän kehityksen takaamiseksi.
Koneoppimisen lisääntyvä käyttö vaatii lisääntyviä palvelinkeskuksia, joista monet kuluttavat virtaa ja niillä on siten merkittävä hiilijalanjälki. Datakeskusten maailmanlaajuinen sähkönkulutus oli 0.9 on 1.3 prosenttia vuonna 2021.
A 2021 tutkimus arvioi, että tämä käyttö voi nousta 1.86 prosenttiin vuoteen 2030 mennessä kuva edustaa datakeskusten aiheuttamaa energian kysynnän kasvavaa trendiä
© Energiankulutuksen trendi ja palvelinkeskusten käyttöosuus
On huomattava, että mitä suurempi energiankulutus on, sitä suurempi on hiilijalanjälki. Palvelinkeskukset kuumenevat käsittelyn aikana ja voivat vioittua ja jopa lakata toimimasta ylikuumenemisen vuoksi. Siksi ne tarvitsevat jäähdytystä, mikä vaatii lisäenergiaa. Noin 40 prosenttia konesalien kuluttamasta sähköstä menee ilmastointiin.
Tekoälyn käytön kasvava jalanjälki huomioon ottaen näiden työkalujen hiili-intensiteetti on otettava huomioon. Tällä hetkellä tätä aihetta koskeva tutkimus rajoittuu muutamien mallien analyyseihin, eikä siinä käsitellä riittävästi mainittujen mallien monimuotoisuutta.
Tässä on kehittynyt metodologia ja muutama tehokas työkalu tekoälyjärjestelmien hiili-intensiteetin laskemiseen.
Software Carbon Intensity (SCI) standardi on tehokas tapa arvioida tekoälyjärjestelmien hiili-intensiteettiä. Toisin kuin perinteiset menetelmät, jotka käyttävät attribuutiohiilen laskentatapaa, se käyttää johdonmukaista laskentatapaa.
Seurantamenetelmällä yritetään laskea päästöjen marginaalimuutos, joka johtuu interventiosta tai päätöksestä, kuten päätöksestä tuottaa ylimääräinen yksikkö. Attribuutio viittaa kirjanpidollisiin keskimääräisiin intensiteettitietoihin tai staattisiin päästöinventaarioihin.
A paperi Tekoälyn hiili-intensiteetin mittaamisesta pilvitapauksissa, Jesse Doge et al. on käyttänyt tätä menetelmää tuodakseen tietoisemman tutkimuksen. Koska merkittävä osa tekoälymallikoulutuksesta suoritetaan pilvilaskenta-esiintymissä, se voi olla kelvollinen kehys tekoälymallien hiilijalanjäljen laskemiseen. Paperi tarkentaa SCI-kaavaa sellaisille arvioille kuin:
joka on jalostettu seuraavista:
joka johtuu
jossa:
E: Ohjelmistojärjestelmän, pääasiassa graafisten prosessointiyksiköiden-GPU:iden, kuluttama energia, joka on erikoistunut ML-laitteisto.
I: Paikkaperusteiset rajalliset hiilidioksidipäästöt palvelinkeskuksen sähköverkkoon.
M: Sisäänrakennettu hiili, joka on laitteiston käytön, luomisen ja hävittämisen aikana vapautuva hiili.
R: Toiminnallinen yksikkö, joka tässä tapauksessa on yksi koneoppimisharjoitustehtävä.
C = O+M, missä O on E*I
Paperi käyttää kaavaa yhden pilvi-instanssin sähkönkäytön arvioimiseen. Syväoppimiseen perustuvissa ML-järjestelmissä suuri sähkönkulutus johtuu GPU:sta, joka sisältyy tähän kaavaan. He harjoittelivat BERT-pohjaista mallia käyttämällä yhtä NVIDIA TITAN X GPU:ta (12 Gt) hyödykepalvelimessa, jossa oli kaksi Intel Xeon E5-2630 v3 -suoritinta (2.4 GHz) ja 256 Gt RAM-muistia (16 x 16 Gt DIMM-muistia) kokeillakseen tämän kaavan soveltamista. Seuraava kuva näyttää tämän kokeen tulokset:
© Energiankulutus ja jakautuminen palvelimen komponenttien välillä
GPU vaatii 74 prosenttia energiankulutuksesta. Vaikka paperin kirjoittajat väittävät edelleen, että se aliarvioi, GPU:n sisällyttäminen on askel oikeaan suuntaan. Se ei ole tavanomaisten estimointitekniikoiden painopiste, mikä tarkoittaa, että suuri hiilijalanjäljen tekijä jätetään huomiotta arvioissa. Ilmeisesti SCI tarjoaa terveellisemmän ja luotettavamman laskennan hiili-intensiteetistä.
Tekoälymallikoulutus suoritetaan usein pilvilaskentatapauksissa, koska pilvi tekee siitä joustavan, helposti saatavilla olevan ja kustannustehokkaan. Pilvilaskenta tarjoaa infrastruktuurin ja resurssit tekoälymallien käyttöönottoon ja kouluttamiseen mittakaavassa. Siksi pilvilaskentaa koskeva mallikoulutus lisääntyy asteittain.
On tärkeää mitata pilvilaskenta-esiintymien reaaliaikainen hiili-intensiteetti, jotta voidaan tunnistaa alueet, jotka sopivat lieventämistoimiin. Aikaperusteisten ja paikkakohtaisten rajapäästöjen laskeminen energiayksikköä kohti voi auttaa laskemaan toiminnallisia hiilidioksidipäästöjä, kuten 2022 paperi.
An opensource työkalu, Cloud Carbon Footprint (CCF) -ohjelmisto on saatavilla myös pilvitapahtumien vaikutuksen laskemiseen.
Tässä on 7 tapaa optimoida tekoälyjärjestelmien hiili-intensiteetti.
1. Kirjoita parempi, tehokkaampi koodi
Optimoidut koodit voivat vähentää energiankulutusta 30 prosenttia vähentyneen muistin ja prosessorin käytön vuoksi. Hiilitehokkaan koodin kirjoittamiseen kuuluu algoritmien optimointi nopeampaa suoritusta varten, tarpeettomien laskelmien vähentäminen ja energiatehokkaan laitteiston valitseminen tehtävien suorittamiseksi pienemmällä teholla.
Kehittäjät voivat käyttää profilointityökaluja tunnistaakseen suorituskyvyn pullonkauloja ja optimointikohteita koodissaan. Tämä prosessi voi johtaa energiatehokkaampiin ohjelmistoihin. Harkitse myös energiatietoisten ohjelmointitekniikoiden käyttöönottoa, jolloin koodi on suunniteltu mukautumaan käytettävissä oleviin resursseihin ja priorisoimaan energiatehokkaita suorituspolkuja.
2. Valitse tehokkaampi malli
Oikeiden algoritmien ja tietorakenteiden valinta on ratkaisevan tärkeää. Kehittäjien tulisi valita algoritmeja, jotka minimoivat laskennan monimutkaisuuden ja siten energiankulutuksen. Jos monimutkaisempi malli tuottaa vain 3–5 % parannusta, mutta harjoittelemiseen kuluu 2–3 kertaa enemmän aikaa; valitse sitten yksinkertaisempi ja nopeampi malli.
Mallin tislaus on toinen tekniikka suurten mallien tiivistämiseksi pienemmiksi versioiksi niiden tehostamiseksi säilyttäen samalla olennaisen tiedon. Se voidaan saavuttaa kouluttamalla pieni malli jäljittelemään suurta mallia tai poistamalla tarpeettomat yhteydet hermoverkosta.
3. Viritä mallin parametrit
Viritä mallin hyperparametrit käyttämällä kaksoisobjektiivista optimointia, joka tasapainottaa mallin suorituskyvyn (esim. tarkkuus) ja energiankulutuksen. Tämä kaksitavoitteinen lähestymistapa varmistaa, että et uhraa toisiasi, mikä tekee malleistasi tehokkaampia.
Hyödynnä tekniikoita, kuten Parametritehokas hienosäätö (PEFT), jonka tavoitteena on saavuttaa perinteistä hienosäätöä vastaava suorituskyky, mutta pienemmällä määrällä koulutettavia parametreja. Tämä lähestymistapa sisältää pienen malliparametrien osajoukon hienosäädön samalla, kun suurin osa valmiiksi koulutetuista Large Language Models (LLM) -malleista pidetään jäädytettyinä, mikä vähentää merkittävästi laskennallisia resursseja ja energiankulutusta.
4. Pakkaa tiedot ja käytä vähän energiaa kuluttavaa tallennustilaa
Ota käyttöön tiedonpakkaustekniikoita siirrettävän tiedon määrän vähentämiseksi. Pakatut tiedot vaativat vähemmän energiaa siirtääkseen ja vievät vähemmän levytilaa. Mallin käyttövaiheen aikana välimuistin käyttö voi auttaa vähentämään online-tallennuskerrokseen soitettavia puheluita ja siten vähentämään
Lisäksi oikean säilytystekniikan valitseminen voi tuottaa merkittäviä hyötyjä. Sille esim. AWS Glacier on tehokas tiedon arkistointiratkaisu ja voi olla kestävämpi lähestymistapa kuin S3:n käyttö, jos dataa ei tarvitse käyttää usein.
5. Kouluta malleja puhtaammasta energiasta
Jos käytät pilvipalvelua mallikoulutukseen, voit valita alueen, jossa laskutoimitukset suoritetaan. Valitse tähän tarkoitukseen uusiutuvia energialähteitä käyttävä alue, niin voit vähentää päästöjä jopa 30 kertaa. AWS blogi hahmottelee tasapainon liiketoiminnan optimoinnin ja kestävän kehityksen tavoitteiden välillä.
Toinen vaihtoehto on valita sopiva aika mallin suorittamiselle. Tiettyinä vuorokaudenaikoina; energia on puhtaampaa ja tällaiset tiedot voidaan hankkia maksullisen palvelun kautta, kuten Sähkö kartta, joka tarjoaa pääsyn reaaliaikaiseen dataan ja tulevaisuuden ennusteisiin sähkön hiili-intensiteetistä eri alueilla.
6. Käytä mallikoulutukseen erikoistuneita datakeskuksia ja laitteistoja
Tehokkaampien datakeskusten ja laitteistojen valitseminen voi vaikuttaa valtavasti hiili-intensiteettiin. ML-kohtaisia datakeskuksia ja laitteistoja voidaan 1.4-2 ja 2-5 kertaa energiatehokkaampia kuin tavalliset.
7. Käytä palvelimettomia käyttöönottoja, kuten AWS Lambda, Azure Functions
Perinteiset käyttöönotot edellyttävät, että palvelin on aina päällä, mikä tarkoittaa 24 × 7 -energiankulutusta. Palvelimettomat käyttöönotot, kuten AWS Lambda ja Azure Functions, toimivat hienosti minimaalisella hiili-intensiteetillä.
Tekoälysektori kasvaa räjähdysmäisesti ja tunkeutuu kaikkiin liiketoiminnan ja päivittäisen olemassaolon osa-alueisiin. Tällä laajentumisella on kuitenkin hintansa – kasvava hiilijalanjälki, joka uhkaa ohjata meidät kauemmaksi tavoitteesta rajoittaa maapallon lämpötilan nousu vain yhteen asteeseen.
Tämä hiilijalanjälki ei ole vain nykyinen huolenaihe; sen vaikutukset voivat ulottua sukupolvien yli ja vaikuttaa niihin, jotka eivät ole vastuussa sen luomisesta. Siksi on välttämätöntä ryhtyä päättäväisiin toimiin tekoälyyn liittyvien hiilidioksidipäästöjen vähentämiseksi ja etsiä kestäviä keinoja sen potentiaalin hyödyntämiseksi. On erittäin tärkeää varmistaa, että tekoälyn hyödyt eivät mene ympäristön ja tulevien sukupolvien hyvinvoinnin kustannuksella.
Ankur Gupta on suunnittelujohtaja, jolla on vuosikymmenen kokemus kestävän kehityksen, liikenteen, tietoliikenteen ja infrastruktuurin aloilta; toimii tällä hetkellä suunnittelupäällikkönä Uberissa. Tässä roolissa hänellä on keskeinen rooli Uberin Vehicles Platformin edistämisessä, mikä johtaa panosta kohti päästötöntä tulevaisuutta integroimalla huippuluokan sähkö- ja verkkoajoneuvot.
- SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
- PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
- PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
- PlatoESG. hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
- PlatonHealth. Biotekniikan ja kliinisten kokeiden älykkyys. Pääsy tästä.
- Lähde: https://www.kdnuggets.com/greening-ai-7-strategies-to-make-applications-more-sustainable?utm_source=rss&utm_medium=rss&utm_campaign=greening-ai-7-strategies-to-make-applications-more-sustainable
- :on
- :On
- :ei
- :missä
- $ YLÖS
- 1
- 1.3
- 12
- 15%
- 2021
- 2030
- 7
- 9
- a
- pääsy
- Accessed
- saatavilla
- Tili
- osuus
- kirjanpito
- tarkkuus
- saavutettu
- ACM
- hankittu
- poikki
- toimet
- aktiivisesti
- sopeuttaa
- Lisäksi
- lisä-
- osoite
- käsitellään
- asianmukaisesti
- edistäminen
- vaikuttavat
- AI
- AI-mallit
- AI-järjestelmät
- AIR
- Ilmastointi
- AL
- algoritmit
- jo
- Myös
- Vaikka
- aina
- Amazon
- määrä
- an
- analyysit
- ja
- ja infrastruktuuri
- Toinen
- Hakemus
- sovellukset
- lähestymistapa
- OVAT
- alueet
- noin
- AS
- At
- saavuttaa
- yrityksiä
- Tekijät
- saatavissa
- väyliä
- keskimäärin
- ilmailu
- pois
- AWS
- AWS Lambda
- Taivaansininen
- Balance
- perustua
- BE
- Bear
- tulevat
- tulee
- ovat
- Hyödyt
- Paremmin
- välillä
- pullonkauloja
- tuoda
- liiketoiminta
- mutta
- by
- kätkö
- laskea
- Puhelut
- CAN
- kyvyt
- hiili
- hiilidioksidipäästöjä
- hiilijalanjälki
- tapaus
- keskuksissa
- tietty
- muuttaa
- lataus
- Valita
- väitti
- vaatimukset
- selkeys
- siivooja
- pilvi
- cloud computing
- koodi
- koodit
- Tulla
- tulee
- hyödyke
- monimutkainen
- monimutkaisuus
- osat
- laskeminen
- laskennallinen
- laskelmat
- Laskea
- tietojenkäsittely
- Koskea
- koskevat
- huolenaiheet
- tehty
- kytketty
- Liitännät
- seurauksena
- siis
- Harkita
- kulutetaan
- kulutus
- vaikuttaa omalta
- avustaja
- tavanomainen
- luominen
- ratkaiseva
- Tällä hetkellä
- leikkaamisreuna
- päivittäin
- tiedot
- datakeskukset
- Datacenter
- päivä
- vuosikymmen
- päätös
- ratkaiseva
- vähentynyt
- syvä
- syvä oppiminen
- Kysyntä
- sijoittaa
- käyttöönotot
- suunniteltu
- kehittäjille
- ero
- eri
- suunta
- hävittäminen
- Monimuotoisuus
- do
- ei
- Doge
- verkkotunnuksia
- tehty
- ajo
- kaksi
- aikana
- e
- E&T
- Tehokas
- tehokas
- ponnisteluja
- sähköinen
- sähkö
- sähkönkulutus
- sähkön käyttö
- upotettu
- Päästöt
- korostettiin
- Työllisiä
- työllistää
- energia
- Energian kulutus
- Tekniikka
- varmistaa
- varmistaa
- varmistamalla
- ympäristö
- ympäristön
- ympäristönäkökohdat
- Yhtä
- olennainen
- arvio
- arvioidaan
- Eetteri (ETH)
- Jopa
- Joka
- kehittynyt
- teloitus
- olemassa
- laajeneminen
- experience
- kokevat
- kokeilu
- tutkia
- räjähdysmäinen
- Eksponentiaalinen kasvu
- laajentaa
- lisää
- FAST
- nopeampi
- viallinen
- harvat
- Kuva
- luvut
- loppu
- joustava
- Keskittää
- jälkeen
- Jalanjälki
- varten
- kaava
- Eteenpäin
- Puitteet
- usein
- alkaen
- jäädytetty
- toiminnallinen
- toiminta
- tehtävät
- edelleen
- tulevaisuutta
- voitto
- GAS
- general
- tuottaa
- sukupolvet
- Global
- tavoite
- Tavoitteet
- GPU
- vähitellen
- kasvihuonekaasu
- Kasvihuonekaasupäästöt
- ruudukko
- Kasvu
- Palvelimet
- valjastaminen
- Olla
- he
- raskaasti
- auttaa
- siten
- korkeampi
- pitää
- Kuitenkin
- HTTPS
- valtava
- Nälkäinen
- tunnistaa
- IEA
- if
- Vaikutus
- imperatiivi
- täytäntöönpanosta
- tärkeä
- parannus
- in
- mukana
- sisällyttäminen
- Kasvaa
- kasvoi
- Lisäykset
- lisää
- teollisuus
- tietoa
- Infrastruktuuri
- esimerkki
- tapauksia
- integraatio
- Intel
- interventio
- tulee
- liittyy
- IT
- SEN
- jpg
- vain
- KDnuggets
- pito
- tuntemus
- Lack
- Kieli
- suuri
- kerros
- johtaa
- johtaja
- johtajat
- johtava
- oppiminen
- vähemmän
- pitää
- rajallinen
- Sijaintiperusteinen
- alentaa
- kone
- koneoppiminen
- tehty
- merkittävä
- Enemmistö
- tehdä
- TEE
- Tekeminen
- hoitaa
- johtaja
- monet
- Saattaa..
- välineet
- mitata
- mittaus
- Muisti
- menetelmiä
- Metodologia
- minimi
- minimoida
- lieventää
- lieventäminen
- ML
- malli
- mallit
- lisää
- tehokkaampi
- täytyy
- Tarve
- tarpeet
- verkko
- hermo-
- neuroverkkomallien
- silti
- Nro
- numero
- Nvidia
- miehittää
- of
- Tarjoukset
- usein
- on
- ONE
- yhdet
- verkossa
- vain
- käyttää
- toiminta-
- Operations
- ajankohtainen
- optimointi
- Optimoida
- optimoimalla
- Vaihtoehto
- or
- Muut
- ääriviivat
- Rauha
- maksettu
- Paperi
- parametrit
- polku
- varten
- prosentti
- suorittaa
- suorituskyky
- Pietari
- vaihe
- poimia
- keskeinen
- foorumi
- Platon
- Platonin tietotieto
- PlatonData
- soittaa
- sijainti
- omistaa
- mahdollinen
- teho
- Virran
- tarkka
- Ennusteet
- esittää
- painamalla
- pääasiallisesti
- Asettaa etusijalle
- prosessi
- käsittely
- Suoritin
- profilointi
- Ohjelmointi
- Edistyminen
- kuljettaa
- tarjoaa
- tarkoitus
- RAM
- reaaliaikainen
- reaaliaikainen data
- vähentää
- Vähentynyt
- vähentämällä
- vähennykset
- viittaa
- puhdistettu
- suhteen
- alue
- alueet
- luotettava
- luottaa
- poistamalla
- Uusiutuva
- uusiutuva energia
- vaikutuksia
- edustaa
- edellyttää
- Vaatii
- tutkimus
- Esittelymateriaalit
- vastuu
- johtua
- Saatu ja
- tulokset
- säilyttäen
- oikein
- Rooli
- ajaa
- s
- uhraa
- Said
- Asteikko
- SCI
- sektori
- valitsemalla
- Herkkyys
- palvelin
- serverless
- palvelu
- palvelevat
- Jaa:
- shouldnt
- Näytä
- merkittävä
- merkittävästi
- samankaltainen
- koska
- single
- pieni
- pienempiä
- Tuotteemme
- ratkaisu
- Lähteet
- Tila
- jännitys
- erikoistunut
- jakaa
- ohjata
- Vaihe
- Yhä
- stop
- Levytila
- strategiat
- rakenteet
- aihe
- merkittävä
- niin
- sopiva
- verraton
- ympäröivä
- kestävyys
- kestävä
- järjestelmä
- järjestelmät
- T
- ottaa
- vie
- Tehtävä
- tehtävät
- tekniikka
- tekniikat
- Elektroniikka
- tietoliikenne
- kuin
- että
- -
- heidän
- Niitä
- sitten
- Siellä.
- siten
- siksi
- Nämä
- ne
- tätä
- ne
- uhkaa
- Kautta
- Näin
- aika
- kertaa
- Titaani
- että
- työkalu
- työkalut
- kohti
- perinteinen
- Juna
- koulutettu
- koulutus
- siirtää
- kuljetus
- Trend
- kaksi
- Uber
- valitettavasti
- yksikkö
- toisin kuin
- vertaansa vailla oleva
- ennennäkemätön
- us
- Käyttö
- käyttää
- käyttötarkoituksiin
- käyttämällä
- pätevä
- Ajoneuvot
- elintärkeä
- tavalla
- Mitä
- taas
- joka
- vaikka
- KUKA
- jonka
- miksi
- tulee
- viisaus
- with
- Referenssit
- kirjoittaa
- kirjoittaminen
- X
- saannot
- te
- Sinun
- zephyrnet