Зображення редактора
Програми штучного інтелекту мають неперевершені обчислювальні можливості, які можуть сприяти прогресу безпрецедентними темпами. Тим не менш, ці інструменти значною мірою покладаються на енергоємні центри обробки даних для своїх операцій, що призводить до занепокоєної недостатньої чутливості до енергії, що значно впливає на їх вуглецевий слід. Дивно, але ці додатки штучного інтелекту вже є значними 2.5 в 3.7 відсоток світових викидів парникових газів, перевищуючи викиди від авіаційної промисловості.
І, на жаль, цей вуглецевий слід зростає швидкими темпами.
Зараз нагальною потребою є вимірювання вуглецевого сліду програм машинного навчання, як підкреслює мудрість Пітера Друкера: «Ви не можете керувати тим, що не можете виміряти». Наразі існує значний брак ясності щодо кількісної оцінки впливу штучного інтелекту на навколишнє середовище, точні цифри невідомі.
Окрім вимірювання вуглецевого сліду, лідери індустрії ШІ повинні активно зосереджуватися на його оптимізації. Цей подвійний підхід має життєво важливе значення для вирішення екологічних проблем, пов’язаних із застосуванням штучного інтелекту, і забезпечення більш стійкого шляху вперед.
Розширене використання машинного навчання вимагає збільшення центрів обробки даних, багато з яких є енергоємними, а тому мають значний вуглецевий слід. Глобальне споживання електроенергії центрами обробки даних склало Від 0.9 до 1.3 відсотка В 2021.
A 2021 дослідження за оцінками, до 1.86 року це використання може зрости до 2030 відсотка зрозуміти відображає тенденцію зростання попиту на енергію через центри обробки даних
© Тенденція енергоспоживання та частка використання центрів обробки даних
Примітно, що чим вище споживання енергії, тим вищим буде вуглецевий слід. Центри обробки даних нагріваються під час обробки та можуть виходити з ладу та навіть переставати функціонувати через перегрів. Тому вони потребують охолодження, що потребує додаткової енергії. Навколо 40 відсотків електроенергії, споживаної дата-центрами, припадає на кондиціонування повітря.
Враховуючи зростаючий слід використання штучного інтелекту, необхідно враховувати інтенсивність вуглецю цих інструментів. Наразі дослідження на цю тему обмежуються аналізом кількох моделей і не розглядають належним чином різноманітність зазначених моделей.
Ось удосконалена методологія та кілька ефективних інструментів для обчислення вуглецевої інтенсивності систем ШІ.
Програмне забезпечення Carbon Intensity (SCI) standard є ефективним підходом для оцінки вуглецевої інтенсивності систем ШІ. На відміну від звичайних методологій, які використовують підхід атрибуційного обліку вуглецю, тут використовується послідовний обчислювальний підхід.
Послідовний підхід намагається обчислити граничну зміну викидів, що виникає внаслідок втручання або рішення, наприклад, рішення створити додаткову одиницю. Тоді як атрибуція стосується облікових даних середньої інтенсивності або статичних кадастрів викидів.
A папір про «Вимірювання вуглецевої інтенсивності штучного інтелекту в хмарних інстансах» Джессі Доджа та ін. використовував цю методологію для проведення більш інформованих досліджень. Оскільки значна частина навчання моделям штучного інтелекту проводиться на примірниках хмарних обчислень, це може бути дійсною основою для обчислення вуглецевого сліду моделей штучного інтелекту. У статті уточнюється формула SCI для таких оцінок, як:
який уточнюється з:
що походить від
де:
E: Енергія, споживана системою програмного забезпечення, насамперед графічними процесорами-GPU, які є спеціалізованим апаратним забезпеченням ML.
I: Граничні викиди вуглецю на основі місцезнаходження мережею, що живить центр обробки даних.
M: Вбудований або вбудований вуглець, тобто вуглець, який виділяється під час використання, створення та утилізації обладнання.
R: Функціональний блок, який у даному випадку є одним навчальним завданням машинного навчання.
C= O+M, де O дорівнює E*I
У статті використовується формула для оцінки споживання електроенергії одним екземпляром хмари. У системах ML, заснованих на глибокому навчанні, основне споживання електроенергії зумовлене графічним процесором, який включено в цю формулу. Вони навчили базову модель BERT за допомогою одного графічного процесора NVIDIA TITAN X (12 ГБ) на стандартному сервері з двома ЦП Intel Xeon E5-2630 v3 (2.4 ГГц) і 256 ГБ оперативної пам’яті (модулі DIMM 16x16 ГБ), щоб експериментувати із застосуванням цієї формули. На наступному малюнку показано результати цього експерименту:
© Споживання енергії та розподіл між компонентами сервера
GPU заявляє про 74 відсотки споживання енергії. Хоча автори статті все ще стверджують, що це недооцінка, включення GPU є кроком у правильному напрямку. Звичайні методи оцінки не враховують це, а це означає, що в оцінках не враховується основний фактор, що впливає на вуглецевий слід. Очевидно, SCI пропонує більш здоровий і надійний розрахунок інтенсивності вуглецю.
Навчання моделі ШІ часто проводиться на прикладах хмарних обчислень, оскільки хмара робить їх гнучкими, доступними та економічно ефективними. Хмарні обчислення забезпечують інфраструктуру та ресурси для розгортання та навчання моделей штучного інтелекту в масштабі. Ось чому модельне навчання з хмарних обчислень поступово збільшується.
Важливо вимірювати інтенсивність викидів вуглецю в хмарних обчисленнях у реальному часі, щоб визначити області, придатні для пом’якшення. Облік граничних викидів на одиницю енергії на основі часу та конкретного місця може допомогти обчислити експлуатаційні викиди вуглецю, як це робить Папір 2022.
An з відкритим вихідним кодом також доступне програмне забезпечення Cloud Carbon Footprint (CCF) для обчислення впливу хмарних екземплярів.
Ось 7 способів оптимізувати інтенсивність вуглецю систем ШІ.
1. Напишіть кращий і ефективніший код
Оптимізовані коди можуть зменшити споживання енергії на 30 відсотків через зменшення використання пам'яті та процесора. Написання коду з ефективним використанням вуглецю передбачає оптимізацію алгоритмів для швидшого виконання, зменшення непотрібних обчислень і вибір енергоефективного обладнання для виконання завдань із меншим енергоспоживанням.
Розробники можуть використовувати інструменти профілювання, щоб визначити вузькі місця продуктивності та області для оптимізації у своєму коді. Цей процес може призвести до більш енергоефективного програмного забезпечення. Крім того, подумайте про впровадження методів програмування з урахуванням енергоефективності, коли код розроблений таким чином, щоб адаптуватися до наявних ресурсів і визначити пріоритетність енергоефективних шляхів виконання.
2. Виберіть більш ефективну модель
Вибір правильних алгоритмів і структур даних має вирішальне значення. Розробники повинні обирати алгоритми, які мінімізують обчислювальну складність і, як наслідок, споживання енергії. Якщо більш складна модель дає лише 3-5% покращення, але потребує в 2-3 рази більше часу для навчання; потім виберіть простішу та швидшу модель.
Дистиляція моделі — це ще один метод конденсації великих моделей у менші версії, щоб зробити їх ефективнішими, зберігаючи основні знання. Цього можна досягти, навчивши маленьку модель імітувати велику або видаливши непотрібні зв’язки з нейронної мережі.
3. Налаштуйте параметри моделі
Налаштуйте гіперпараметри для моделі за допомогою оптимізації з двома цілями, яка збалансує продуктивність моделі (наприклад, точність) і споживання енергії. Цей підхід із двома цілями гарантує, що ви не жертвуєте одним заради іншого, роблячи ваші моделі ефективнішими.
Такі методи використання важелів, як Тонке налаштування параметрів (PEFT), метою якого є досягнення продуктивності, подібної до традиційного тонкого налаштування, але зі зменшеною кількістю параметрів, які можна навчити. Цей підхід передбачає тонке налаштування невеликої підмножини параметрів моделі, зберігаючи при цьому більшість попередньо підготовлених моделей великої мови (LLM) у замороженому стані, що призводить до значного скорочення обчислювальних ресурсів і споживання енергії.
4. Стискайте дані та використовуйте накопичувач із низьким споживанням енергії
Застосуйте методи стиснення даних, щоб зменшити обсяг даних, що передаються. Стислі дані потребують менше енергії для передачі та займають менше місця на диску. Під час етапу обслуговування моделі використання кешу може допомогти зменшити кількість звернень до рівня онлайн-сховища, тим самим зменшивши
Крім того, вибір правильної технології зберігання може призвести до значних прибутків. Наприклад, AWS Glacier — це ефективне рішення для архівування даних і може бути більш надійним підходом, ніж використання S3, якщо до даних не потрібно часто звертатися.
5. Навчіть моделі чистішій енергії
Якщо ви використовуєте хмарний сервіс для навчання моделі, ви можете вибрати регіон для проведення обчислень. Виберіть регіон, який використовує відновлювані джерела енергії для цієї мети, і ви зможете зменшити викиди до 30 раз. AWS блог окреслює баланс між оптимізацією для бізнесу та цілями сталого розвитку.
Іншим варіантом є вибір сприятливого часу для запуску моделі. У певний час доби; енергія чистіша, і такі дані можна отримати за допомогою платної послуги, наприклад Карта електроенергії, який пропонує доступ до даних у режимі реального часу та майбутніх прогнозів щодо викиду вуглецю електроенергії в різних регіонах.
6. Використовуйте спеціалізовані дата-центри та обладнання для навчання моделей
Вибір більш ефективних центрів обробки даних і обладнання може мати величезне значення для інтенсивності вуглецю. Спеціальні для ML центри обробки даних і обладнання можуть бути 1.4-2 і в 2-5 разів енергоефективніше звичайних.
7. Використовуйте безсерверні розгортання, такі як AWS Lambda, Azure Functions
Традиційне розгортання вимагає постійного ввімкнення сервера, що означає споживання енергії 24x7. Безсерверні розгортання, такі як AWS Lambda та Azure Functions, чудово працюють із мінімальною інтенсивністю вуглецю.
Сектор штучного інтелекту переживає експоненційне зростання, пронизуючи всі аспекти бізнесу та повсякденного існування. Однак таке розширення має свою ціну — зростаючий вуглецевий слід, який загрожує відвести нас ще далі від мети обмежити підвищення глобальної температури лише на 1°C.
Цей вуглецевий слід викликає не лише поточне занепокоєння; його наслідки можуть поширюватися на покоління, впливаючи на тих, хто не несе відповідальності за його створення. Тому вкрай необхідно вжити рішучих заходів для зменшення викидів вуглецю, пов’язаних зі штучним інтелектом, і дослідити стійкі шляхи використання його потенціалу. Вкрай важливо переконатися, що переваги штучного інтелекту не відбуваються за рахунок довкілля та добробуту майбутніх поколінь.
Анкур Гупта є інженерним лідером із десятирічним досвідом у сферах сталого розвитку, транспорту, телекомунікацій та інфраструктури; зараз обіймає посаду інженерного менеджера в Uber. На цій посаді він відіграє ключову роль у просуванні платформи транспортних засобів Uber, ведучи заряд до майбутнього з нульовими викидами через інтеграцію передових електричних транспортних засобів і транспортних засобів, що підключаються.
- Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
- PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
- PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
- ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
- PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
- джерело: https://www.kdnuggets.com/greening-ai-7-strategies-to-make-applications-more-sustainable?utm_source=rss&utm_medium=rss&utm_campaign=greening-ai-7-strategies-to-make-applications-more-sustainable
- : має
- :є
- : ні
- :де
- $UP
- 1
- 1.3
- 12
- 15%
- 2021
- 2030
- 7
- 9
- a
- доступ
- доступний
- доступною
- рахунки
- звітності
- бухгалтерський облік
- точність
- досягнутий
- ACM
- придбаний
- через
- дії
- активно
- пристосовувати
- доповнення
- Додатковий
- адреса
- адресація
- адекватно
- просування
- зачіпає
- AI
- Моделі AI
- Системи ШІ
- AIR
- Кондиціонер
- AL
- алгоритми
- вже
- Також
- хоча
- завжди
- Amazon
- кількість
- an
- аналізи
- та
- та інфраструктури
- Інший
- додаток
- застосування
- підхід
- ЕСТЬ
- області
- навколо
- AS
- At
- досягти
- Спроби
- authors
- доступний
- проспекти
- середній
- авіація
- геть
- AWS
- AWS Lambda
- Лазурний
- Balance
- заснований
- BE
- ведмідь
- ставати
- стає
- буття
- Переваги
- Краще
- між
- вузькі місця
- приносити
- бізнес
- але
- by
- cache
- обчислювати
- Виклики
- CAN
- можливості
- вуглець
- викиди вуглекислого газу
- вуглецевий слід
- випадок
- Центри
- певний
- зміна
- заряд
- Вибирати
- стверджував,
- претензій
- ясність
- очищувач
- хмара
- хмарних обчислень
- код
- Коди
- Приходити
- приходить
- товар
- комплекс
- складність
- Компоненти
- обчислення
- обчислювальна
- обчислення
- обчислення
- обчислення
- Занепокоєння
- щодо
- Турбота
- проводиться
- підключений
- Зв'язки
- наслідкові
- Отже
- Вважати
- спожитий
- споживання
- сприяє
- вкладник
- звичайний
- створення
- вирішальне значення
- В даний час
- передовий
- щодня
- дані
- центрів обробки даних
- Дата-центр
- день
- десятиліття
- рішення
- вирішальний
- знизився
- глибокий
- глибоке навчання
- Попит
- розгортання
- розгортання
- призначений
- розробників
- різниця
- різний
- напрям
- розпорядження
- різноманітність
- do
- робить
- дож
- домени
- зроблений
- водіння
- два
- під час
- e
- E&T
- Ефективний
- ефективний
- зусилля
- електричний
- електрика
- споживання електроенергії
- використання електроенергії
- вбудований
- викиди
- підкреслив
- працевлаштований
- працює
- енергія
- Енергоспоживання
- Машинобудування
- забезпечувати
- гарантує
- забезпечення
- Навколишнє середовище
- навколишній
- екологічні проблеми
- Так само
- істотний
- оцінити
- оцінка
- Ефір (ETH)
- Навіть
- Кожен
- еволюціонували
- виконання
- існує
- розширення
- досвід
- зазнають
- експеримент
- дослідити
- експонентний
- експоненціальне зростання
- продовжити
- додатково
- ШВИДКО
- швидше
- несправний
- кілька
- Рисунок
- цифри
- кінець
- гнучкий
- Сфокусувати
- після
- Слід
- для
- формула
- Вперед
- Рамки
- часто
- від
- заморожені
- функціональний
- функціонування
- Функції
- далі
- майбутнє
- прибуток
- ГАЗ
- Загальне
- породжувати
- покоління
- Глобальний
- мета
- Цілі
- GPU
- поступово
- парниковий газ
- Викиди парникових газів
- сітка
- Зростання
- апаратні засоби
- Запрягання
- Мати
- he
- сильно
- допомога
- отже
- вище
- тримає
- Однак
- HTTPS
- величезний
- Голодний
- ідентифікувати
- МЕА
- if
- Impact
- імператив
- реалізації
- важливо
- поліпшення
- in
- включені
- включення
- Augmenter
- збільшений
- Збільшує
- зростаючий
- промисловість
- повідомив
- Інфраструктура
- екземпляр
- випадки
- інтеграція
- Intel
- втручання
- в
- включає в себе
- IT
- ЙОГО
- JPG
- просто
- KDnuggets
- зберігання
- знання
- відсутність
- мова
- великий
- шар
- вести
- лідер
- Лідери
- провідний
- вивчення
- менше
- як
- обмеженою
- На основі розташування
- знизити
- машина
- навчання за допомогою машини
- made
- основний
- Більшість
- зробити
- РОБОТИ
- Робить
- управляти
- менеджер
- багато
- Може..
- засоби
- вимір
- вимір
- пам'ять
- методології
- Методологія
- мінімальний
- мінімізувати
- Пом'якшити
- пом'якшення
- ML
- модель
- Моделі
- більше
- більш ефективний
- повинен
- Необхідність
- потреби
- мережу
- Нейронний
- нейронної мережі
- проте
- немає
- номер
- Nvidia
- займає
- of
- Пропозиції
- часто
- on
- ONE
- ті,
- онлайн
- тільки
- працювати
- оперативний
- операції
- своєчасно
- оптимізація
- Оптимізувати
- оптимізуючий
- варіант
- or
- Інше
- контури
- алюр
- оплачувану
- Папір
- параметри
- шлях
- для
- відсотків
- виконувати
- продуктивність
- Пітер
- фаза
- вибирати
- основний
- платформа
- plato
- Інформація про дані Платона
- PlatoData
- відіграє
- положення
- володіти
- потенціал
- влада
- Живлення
- необхідність
- Прогнози
- представити
- пресування
- в першу чергу
- Пріоритетність
- процес
- обробка
- процесор
- профілювання
- Програмування
- прогрес
- Пропел
- забезпечує
- мета
- Оперативна пам'ять
- реального часу
- дані в режимі реального часу
- зменшити
- Знижений
- зниження
- скорочення
- відноситься
- рафінований
- про
- регіон
- райони
- надійний
- покладатися
- видалення
- Поновлюваний
- відновлювальна енергія
- наслідки
- представляє
- вимагати
- Вимагається
- дослідження
- ресурси
- відповідальність
- результат
- в результаті
- результати
- утримує
- право
- Роль
- прогін
- s
- жертвуючи
- Зазначений
- шкала
- SCI
- сектор
- вибирає
- Чутливість
- сервер
- Без сервера
- обслуговування
- виступаючої
- Поділитись
- Повинен
- Шоу
- значний
- істотно
- аналогічний
- з
- один
- невеликий
- менше
- Софтвер
- рішення
- Джерела
- Простір
- напруга
- спеціалізований
- розкол
- управляти
- Крок
- Як і раніше
- Стоп
- зберігання
- стратегії
- структур
- тема
- істотний
- такі
- підходящий
- перевершує
- Навколо
- Sustainability
- сталого
- система
- Systems
- T
- Приймати
- приймає
- Завдання
- завдання
- техніка
- методи
- Технологія
- телекомунікації
- ніж
- Що
- Команда
- їх
- Їх
- потім
- Там.
- тим самим
- отже
- Ці
- вони
- це
- ті
- загрожує
- через
- Таким чином
- час
- times
- велетень
- до
- інструмент
- інструменти
- до
- традиційний
- поїзд
- навчений
- Навчання
- переклад
- транспорт
- Trend
- два
- Убер
- на жаль
- блок
- на відміну від
- безпрецедентний
- безпрецедентний
- us
- Використання
- використання
- використовує
- використання
- дійсний
- Транспортні засоби
- життєво важливий
- способи
- Що
- в той час як
- який
- в той час як
- ВООЗ
- чий
- чому
- волі
- мудрість
- з
- Work
- запис
- лист
- X
- врожайність
- ви
- вашу
- зефірнет