Gambar oleh Editor
Aplikasi AI memiliki kemampuan komputasi tak tertandingi yang dapat mendorong kemajuan dengan kecepatan yang belum pernah terjadi sebelumnya. Namun demikian, alat-alat ini sangat bergantung pada pusat data yang boros energi dalam operasionalnya, sehingga mengakibatkan kurangnya sensitivitas energi yang berkontribusi signifikan terhadap jejak karbon. Yang mengejutkan, aplikasi AI ini sudah memberikan kontribusi yang cukup besar 2.5 untuk 3.7 persen emisi gas rumah kaca global, melebihi emisi dari industri penerbangan.
Dan sayangnya, jejak karbon ini meningkat dengan sangat cepat.
Saat ini, kebutuhan mendesak adalah mengukur jejak karbon dari aplikasi pembelajaran mesin, seperti yang ditekankan oleh kebijaksanaan Peter Drucker bahwa “Anda tidak dapat mengelola apa yang tidak dapat Anda ukur.” Saat ini, terdapat ketidakjelasan yang signifikan dalam mengukur dampak AI terhadap lingkungan, dan angka pastinya masih belum dapat kami peroleh.
Selain mengukur jejak karbon, para pemimpin industri AI harus secara aktif fokus untuk mengoptimalkannya. Pendekatan ganda ini sangat penting untuk mengatasi permasalahan lingkungan seputar penerapan AI dan memastikan jalur ke depan yang lebih berkelanjutan.
Meningkatnya penggunaan pembelajaran mesin memerlukan peningkatan pusat data, banyak di antaranya yang haus listrik sehingga memiliki jejak karbon yang signifikan. Penggunaan listrik global oleh pusat data berjumlah 0.9 ke persen 1.3 di 2021.
A 2021 studi memperkirakan penggunaan ini dapat meningkat menjadi 1.86 persen pada tahun 2030. Hal ini mencari mewakili tren peningkatan permintaan energi karena pusat data
© Tren konsumsi energi dan pangsa penggunaan pusat data
Semakin tinggi konsumsi energi, semakin tinggi pula jejak karbonnya. Pusat data menjadi panas selama pemrosesan dan dapat rusak dan bahkan berhenti berfungsi karena terlalu panas. Oleh karena itu, mereka memerlukan pendinginan yang memerlukan energi tambahan. Sekitar 40 persen sebagian besar listrik yang dikonsumsi oleh pusat data adalah untuk AC.
Mengingat meningkatnya jejak penggunaan AI, intensitas karbon dari alat-alat ini perlu diperhitungkan. Saat ini, penelitian mengenai hal ini terbatas pada analisis beberapa model dan tidak cukup membahas keragaman model tersebut.
Berikut adalah metodologi yang telah berkembang dan beberapa alat efektif untuk menghitung intensitas karbon pada sistem AI.
Perangkat Lunak Intensitas Karbon (SCI) standar adalah pendekatan efektif untuk memperkirakan intensitas karbon sistem AI. Berbeda dengan metodologi konvensional yang menggunakan pendekatan penghitungan karbon atribusi, metodologi ini menggunakan pendekatan komputasi konsekuensial.
Pendekatan konsekuensial berupaya menghitung perubahan marjinal emisi yang timbul dari suatu intervensi atau keputusan, seperti keputusan untuk menghasilkan unit tambahan. Sedangkan atribusi mengacu pada penghitungan data intensitas rata-rata atau inventarisasi emisi statis.
A kertas tentang “Mengukur Intensitas Karbon AI di Instans Cloud” oleh Jesse Doge dkk. telah menggunakan metodologi ini untuk menghasilkan penelitian yang lebih terinformasi. Karena sejumlah besar pelatihan model AI dilakukan pada contoh komputasi awan, hal ini dapat menjadi kerangka kerja yang valid untuk menghitung jejak karbon model AI. Makalah ini menyempurnakan rumus SCI untuk estimasi seperti:
yang dimurnikan dari:
yang berasal dari
di mana:
E: Energi yang dikonsumsi oleh sistem perangkat lunak, terutama unit pemrosesan grafis-GPU yang merupakan perangkat keras khusus ML.
I: Emisi karbon marjinal berbasis lokasi oleh jaringan listrik yang menggerakkan pusat data.
M: Karbon yang tertanam atau terkandung, yaitu karbon yang dikeluarkan selama penggunaan, pembuatan, dan pembuangan perangkat keras.
R: Unit fungsional, yang dalam hal ini merupakan salah satu tugas pelatihan pembelajaran mesin.
C= O+M, dimana O sama dengan E*I
Makalah ini menggunakan rumus untuk memperkirakan penggunaan listrik pada satu instance cloud. Dalam sistem ML berdasarkan pembelajaran mendalam, konsumsi listrik sebagian besar disebabkan oleh GPU, yang disertakan dalam formula ini. Mereka melatih model berbasis BERT menggunakan satu GPU NVIDIA TITAN X (12 GB) di server komoditas dengan dua CPU Intel Xeon E5-2630 v3 (2.4GHz) dan RAM 256GB (DIMM 16x16GB) untuk bereksperimen dengan penerapan rumus ini. Gambar berikut menunjukkan hasil percobaan ini:
© Konsumsi energi dan pembagian antar komponen server
GPU mengklaim 74 persen konsumsi energi. Meski masih dianggap remeh oleh penulis makalah ini, penyertaan GPU merupakan langkah tepat. Hal ini bukan merupakan fokus dari teknik estimasi konvensional, yang berarti bahwa penyumbang utama jejak karbon diabaikan dalam estimasi tersebut. Terbukti, SCI menawarkan penghitungan intensitas karbon yang lebih sehat dan andal.
Pelatihan model AI sering kali dilakukan pada instance komputasi awan, karena cloud menjadikannya fleksibel, mudah diakses, dan hemat biaya. Komputasi awan menyediakan infrastruktur dan sumber daya untuk menerapkan dan melatih model AI dalam skala besar. Itu sebabnya pelatihan model komputasi awan ditingkatkan secara bertahap.
Penting untuk mengukur intensitas karbon secara real-time pada instance komputasi awan untuk mengidentifikasi area yang cocok untuk upaya mitigasi. Menghitung emisi marjinal per unit energi berbasis waktu dan spesifik lokasi dapat membantu menghitung emisi karbon operasional, seperti yang dilakukan oleh a kertas 2022.
An opensource Sebagai alat, perangkat lunak Cloud Carbon Footprint (CCF) juga tersedia untuk menghitung dampak instance cloud.
Berikut 7 cara untuk mengoptimalkan intensitas karbon sistem AI.
1. Tulis kode yang lebih baik dan efisien
Kode yang dioptimalkan dapat mengurangi konsumsi energi sebesar 30 persen melalui penurunan penggunaan memori dan prosesor. Penulisan kode hemat karbon melibatkan pengoptimalan algoritme untuk eksekusi lebih cepat, mengurangi komputasi yang tidak perlu, dan memilih perangkat keras hemat energi untuk melakukan tugas dengan daya lebih kecil.
Pengembang dapat menggunakan alat pembuatan profil untuk mengidentifikasi hambatan kinerja dan area untuk pengoptimalan dalam kode mereka. Proses ini dapat menghasilkan perangkat lunak yang lebih hemat energi. Selain itu, pertimbangkan untuk menerapkan teknik pemrograman sadar energi, di mana kode dirancang untuk beradaptasi dengan sumber daya yang tersedia dan memprioritaskan jalur eksekusi yang hemat energi.
2. Pilih model yang lebih efisien
Memilih algoritma dan struktur data yang tepat sangatlah penting. Pengembang harus memilih algoritma yang meminimalkan kompleksitas komputasi dan konsumsi energi. Jika model yang lebih kompleks hanya menghasilkan peningkatan 3-5% tetapi membutuhkan waktu pelatihan 2-3x lebih lama; lalu pilih model yang lebih sederhana dan lebih cepat.
Distilasi model adalah teknik lain untuk memadatkan model besar menjadi versi yang lebih kecil agar lebih efisien sekaligus mempertahankan pengetahuan penting. Hal ini dapat dicapai dengan melatih model kecil untuk meniru model besar atau menghapus koneksi yang tidak perlu dari jaringan saraf.
3. Sesuaikan parameter model
Sesuaikan hyperparameter untuk model menggunakan pengoptimalan tujuan ganda yang menyeimbangkan performa model (misalnya akurasi) dan konsumsi energi. Pendekatan tujuan ganda ini memastikan bahwa Anda tidak mengorbankan satu demi satu, sehingga membuat model Anda lebih efisien.
Teknik leverage seperti Penyempurnaan yang Efisien Parameter (PEFT) yang tujuannya adalah untuk mencapai kinerja serupa dengan fine-tuning tradisional namun dengan jumlah parameter yang dapat dilatih lebih sedikit. Pendekatan ini melibatkan penyempurnaan sebagian kecil parameter model sekaligus mempertahankan sebagian besar Model Bahasa Besar (LLM) yang telah dilatih sebelumnya, sehingga menghasilkan pengurangan sumber daya komputasi dan konsumsi energi secara signifikan.
4. Kompres data dan gunakan penyimpanan hemat energi
Menerapkan teknik kompresi data untuk mengurangi jumlah data yang dikirimkan. Data terkompresi memerlukan lebih sedikit energi untuk ditransfer dan menempati lebih sedikit ruang pada disk. Selama fase penyajian model, penggunaan cache dapat membantu mengurangi panggilan yang dilakukan ke lapisan penyimpanan online sehingga menguranginya
Selain itu, memilih teknologi penyimpanan yang tepat dapat menghasilkan keuntungan yang signifikan. Misalnya. AWS Glacier adalah solusi pengarsipan data yang efisien dan dapat menjadi pendekatan yang lebih berkelanjutan dibandingkan menggunakan S3 jika data tidak perlu sering diakses.
5. Melatih model mengenai energi yang lebih ramah lingkungan
Jika Anda menggunakan layanan cloud untuk pelatihan model, Anda dapat memilih wilayah untuk mengoperasikan komputasi. Pilih wilayah yang menggunakan sumber energi terbarukan untuk tujuan ini, dan Anda dapat mengurangi emisi hingga mencapai 30 kali. AWS posting blog menguraikan keseimbangan antara optimalisasi tujuan bisnis dan keberlanjutan.
Pilihan lainnya adalah memilih waktu yang tepat untuk menjalankan model. Pada waktu-waktu tertentu dalam sehari; energinya lebih bersih dan data tersebut dapat diperoleh melalui layanan berbayar seperti Peta Ketenagalistrikan, yang menawarkan akses ke data real-time dan prediksi masa depan mengenai intensitas karbon listrik di berbagai wilayah.
6. Gunakan pusat data dan perangkat keras khusus untuk pelatihan model
Memilih pusat data dan perangkat keras yang lebih efisien dapat memberikan perbedaan besar pada intensitas karbon. Pusat data dan perangkat keras khusus ML dapat melakukannya 1.4-2 dan 2-5 kali lebih hemat energi dibandingkan pada umumnya.
7. Gunakan penerapan tanpa server seperti AWS Lambda, Azure Functions
Penerapan tradisional mengharuskan server selalu aktif, yang berarti konsumsi energi 24x7. Penerapan tanpa server seperti AWS Lambda dan Azure Functions berfungsi dengan baik dengan intensitas karbon minimal.
Sektor AI mengalami pertumbuhan eksponensial, merambah ke setiap aspek bisnis dan kehidupan sehari-hari. Namun, ekspansi ini harus dibayar mahal—meningkatnya jejak karbon yang mengancam akan menjauhkan kita dari tujuan membatasi kenaikan suhu global hingga hanya 1°C.
Jejak karbon ini bukan hanya sebuah kekhawatiran saat ini; dampaknya bisa meluas antar generasi, berdampak pada mereka yang tidak bertanggung jawab atas penciptaannya. Oleh karena itu, sangatlah penting untuk mengambil tindakan tegas untuk memitigasi emisi karbon terkait AI dan mencari cara berkelanjutan untuk memanfaatkan potensinya. Penting untuk memastikan bahwa manfaat AI tidak mengorbankan lingkungan dan kesejahteraan generasi mendatang.
Ankur Gupta adalah pemimpin bidang teknik dengan pengalaman selama satu dekade di bidang keberlanjutan, transportasi, telekomunikasi, dan infrastruktur; saat ini menjabat sebagai Manajer Teknik di Uber. Dalam peran ini, beliau berperan penting dalam mendorong kemajuan Platform Kendaraan Uber, memimpin upaya menuju masa depan tanpa emisi melalui integrasi kendaraan listrik dan kendaraan yang terhubung.
- Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
- PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
- PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
- PlatoESG. Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
- PlatoHealth. Kecerdasan Uji Coba Biotek dan Klinis. Akses Di Sini.
- Sumber: https://www.kdnuggets.com/greening-ai-7-strategies-to-make-applications-more-sustainable?utm_source=rss&utm_medium=rss&utm_campaign=greening-ai-7-strategies-to-make-applications-more-sustainable
- :memiliki
- :adalah
- :bukan
- :Di mana
- $NAIK
- 1
- 1.3
- 12
- 15%
- 2021
- 2030
- 7
- 9
- a
- mengakses
- diakses
- dapat diakses
- Akun
- dicatat
- akuntansi
- ketepatan
- dicapai
- ACM
- diperoleh
- di seluruh
- tindakan
- aktif
- menyesuaikan
- tambahan
- Tambahan
- alamat
- menangani
- cukup
- kemajuan
- mempengaruhi
- AI
- Model AI
- Sistem AI
- UDARA
- AC
- AL
- algoritma
- sudah
- juga
- Meskipun
- selalu
- Amazon
- jumlah
- an
- analisis
- dan
- dan infrastruktur
- Lain
- Aplikasi
- aplikasi
- pendekatan
- ADALAH
- daerah
- sekitar
- AS
- At
- mencapai
- Mencoba
- penulis
- tersedia
- jalan
- rata-rata
- penerbangan
- jauh
- AWS
- AWS Lambda
- Biru langit
- Saldo
- berdasarkan
- BE
- Beruang
- menjadi
- menjadi
- makhluk
- Manfaat
- Lebih baik
- antara
- kemacetan
- membawa
- bisnis
- tapi
- by
- Cache
- menghitung
- Panggilan
- CAN
- kemampuan
- karbon
- emisi karbon
- jejak karbon
- kasus
- Pusat
- tertentu
- perubahan
- biaya
- Pilih
- diklaim
- klaim
- kejelasan
- pembersih
- awan
- komputasi awan
- kode
- Kode
- bagaimana
- datang
- komoditi
- kompleks
- kompleksitas
- komponen
- komputasi
- komputasi
- perhitungan
- menghitung
- komputasi
- Perhatian
- tentang
- Kekhawatiran
- dilakukan
- terhubung
- Koneksi
- konsekuensial
- Karena itu
- Mempertimbangkan
- dikonsumsi
- konsumsi
- berkontribusi
- penyumbang
- konvensional
- penciptaan
- sangat penting
- Sekarang
- canggih
- harian
- data
- Pusat Data
- Datacenter
- hari
- dasawarsa
- keputusan
- menentukan
- menurun
- mendalam
- belajar mendalam
- Permintaan
- menyebarkan
- penyebaran
- dirancang
- pengembang
- perbedaan
- berbeda
- arah
- pembuangan
- Keragaman
- do
- tidak
- Doge
- domain
- dilakukan
- penggerak
- dua
- selama
- e
- E&T
- Efektif
- efisien
- upaya
- Listrik
- listrik
- penggunaan listrik
- penggunaan listrik
- tertanam
- emisi
- menekankan
- dipekerjakan
- mempekerjakan
- energi
- Konsumsi Energi
- Teknik
- memastikan
- Memastikan
- memastikan
- Lingkungan Hidup
- lingkungan
- masalah lingkungan hidup
- sama
- penting
- memperkirakan
- diperkirakan
- Eter (ETH)
- Bahkan
- Setiap
- berkembang
- eksekusi
- ada
- perluasan
- pengalaman
- mengalami
- eksperimen
- menyelidiki
- eksponensial
- Pertumbuhan eksponensial
- memperpanjang
- tambahan
- FAST
- lebih cepat
- salah
- beberapa
- Angka
- angka-angka
- akhir
- fleksibel
- Fokus
- berikut
- Tapak
- Untuk
- rumus
- Depan
- Kerangka
- sering
- dari
- beku
- fungsionil
- berfungsi
- fungsi
- lebih lanjut
- masa depan
- Keuntungan
- GAS
- Umum
- menghasilkan
- Generasi
- Aksi
- tujuan
- Anda
- GPU
- bertahap
- gas rumah kaca
- Emisi gas rumah kaca
- kisi
- Pertumbuhan
- Perangkat keras
- Memanfaatkan
- Memiliki
- he
- berat
- membantu
- karenanya
- lebih tinggi
- memegang
- Namun
- HTTPS
- besar
- Lapar
- mengenali
- IEA
- if
- Dampak
- imperatif
- mengimplementasikan
- penting
- perbaikan
- in
- termasuk
- penyertaan
- Meningkatkan
- Pada meningkat
- Meningkatkan
- meningkatkan
- industri
- informasi
- Infrastruktur
- contoh
- contoh
- integrasi
- Intel
- intervensi
- ke
- melibatkan
- IT
- NYA
- jpg
- hanya
- KDnugget
- pemeliharaan
- pengetahuan
- Kekurangan
- bahasa
- besar
- lapisan
- memimpin
- pemimpin
- pemimpin
- terkemuka
- pengetahuan
- kurang
- 'like'
- Terbatas
- Berbasis Lokasi
- menurunkan
- mesin
- Mesin belajar
- terbuat
- utama
- Mayoritas
- membuat
- MEMBUAT
- Membuat
- mengelola
- manajer
- banyak
- Mungkin..
- cara
- mengukur
- ukur
- Memori
- metodologi
- Metodologi
- minimal
- memperkecil
- Mengurangi
- mitigasi
- ML
- model
- model
- lebih
- lebih efisien
- harus
- Perlu
- kebutuhan
- jaringan
- saraf
- saraf jaringan
- Namun
- tidak
- jumlah
- Nvidia
- menempati
- of
- Penawaran
- sering
- on
- ONE
- yang
- secara online
- hanya
- beroperasi
- operasional
- Operasi
- tepat waktu
- optimasi
- Optimize
- mengoptimalkan
- pilihan
- or
- Lainnya
- menguraikan
- Perdamaian
- dibayar
- kertas
- parameter
- path
- untuk
- persen
- melakukan
- prestasi
- Petrus
- tahap
- memilih
- sangat penting
- Platform
- plato
- Kecerdasan Data Plato
- Data Plato
- memainkan
- posisi
- memiliki
- potensi
- kekuasaan
- Powering
- perlu
- Prediksi
- menyajikan
- mendesak
- terutama
- Prioritaskan
- proses
- pengolahan
- Prosesor
- profil
- Pemrograman
- Kemajuan
- Mendorong
- menyediakan
- tujuan
- RAM
- real-time
- data waktu nyata
- menurunkan
- mengurangi
- mengurangi
- pengurangan
- mengacu
- halus
- mengenai
- wilayah
- daerah
- dapat diandalkan
- mengandalkan
- menghapus
- Terbarukan
- energi terbarukan
- akibat
- merupakan
- membutuhkan
- membutuhkan
- penelitian
- Sumber
- tanggung jawab
- mengakibatkan
- dihasilkan
- Hasil
- penahan
- benar
- Peran
- Run
- s
- berkorban
- Tersebut
- Skala
- SCI
- sektor
- memilih
- Kepekaan
- Server
- Tanpa Server
- layanan
- porsi
- Share
- harus
- Pertunjukkan
- penting
- signifikan
- mirip
- sejak
- tunggal
- kecil
- lebih kecil
- Perangkat lunak
- larutan
- sumber
- Space
- ketegangan
- khusus
- membagi
- mengemudikan
- Langkah
- Masih
- berhenti
- penyimpanan
- strategi
- struktur
- subyek
- besar
- seperti itu
- cocok
- melebihi
- Sekitarnya
- Keberlanjutan
- berkelanjutan
- sistem
- sistem
- T
- Mengambil
- Dibutuhkan
- tugas
- tugas
- teknik
- teknik
- Teknologi
- telekomunikasi
- dari
- bahwa
- Grafik
- mereka
- Mereka
- kemudian
- Sana.
- dengan demikian
- karena itu
- Ini
- mereka
- ini
- itu
- mengancam
- Melalui
- Demikian
- waktu
- kali
- titan
- untuk
- alat
- alat
- terhadap
- tradisional
- Pelatihan VE
- terlatih
- Pelatihan
- transfer
- angkutan
- kecenderungan
- dua
- uber
- sayangnya
- satuan
- tidak seperti
- tak terpadai
- belum pernah terjadi sebelumnya
- us
- penggunaan
- menggunakan
- kegunaan
- menggunakan
- sah
- Kendaraan
- vital
- cara
- Apa
- sedangkan
- yang
- sementara
- SIAPA
- yang
- mengapa
- akan
- kebijaksanaan
- dengan
- Kerja
- menulis
- penulisan
- X
- hasil panen
- kamu
- Anda
- zephyrnet.dll