Изображение от редактора
Приложения искусственного интеллекта обладают беспрецедентными вычислительными возможностями, которые могут способствовать прогрессу беспрецедентными темпами. Тем не менее, эти инструменты в своей работе в значительной степени полагаются на энергоемкие центры обработки данных, что приводит к тревожной недостаточной энергетической чувствительности, что вносит значительный вклад в их углеродный след. Удивительно, но эти приложения ИИ уже составляют значительную часть 2.5 - 3.7 процентов мировых выбросов парниковых газов, что превышает выбросы авиационной промышленности.
И, к сожалению, этот углеродный след увеличивается быстрыми темпами.
В настоящее время насущной необходимостью является измерение углеродного следа приложений машинного обучения, как подчеркивает мудрость Питера Друкера: «Невозможно управлять тем, что нельзя измерить». В настоящее время существует значительная нехватка ясности в количественной оценке воздействия ИИ на окружающую среду, а точные цифры ускользают от нас.
Помимо измерения углеродного следа, лидеры отрасли искусственного интеллекта должны активно сосредоточиться на его оптимизации. Этот двойной подход жизненно важен для решения экологических проблем, связанных с приложениями ИИ, и обеспечения более устойчивого развития.
Более широкое использование машинного обучения требует увеличения количества центров обработки данных, многие из которых потребляют электроэнергию и, следовательно, имеют значительный углеродный след. Мировое потребление электроэнергии центрами обработки данных составило 0.9 в 1.3 процентов в 2021 году.
A исследование, проведенное в 2021 г. По оценкам, к 1.86 году это использование может увеличиться до 2030 процента. понять представляет собой растущую тенденцию спроса на энергию из-за центров обработки данных
© Тенденции энергопотребления и доля использования в центрах обработки данных
Примечательно, что чем выше потребление энергии, тем выше будет углеродный след. Дата-центры нагреваются во время обработки и могут выйти из строя и даже перестать функционировать из-за перегрева. Следовательно, им необходимо охлаждение, что требует дополнительной энергии. Вокруг 40 процентов электроэнергии, потребляемой центрами обработки данных, идет на кондиционирование воздуха.
Учитывая растущее влияние использования ИИ, необходимо учитывать углеродоемкость этих инструментов. В настоящее время исследования по этому вопросу ограничиваются анализом нескольких моделей и не учитывают должным образом разнообразие указанных моделей.
Вот развитая методология и несколько эффективных инструментов для расчета углеродоемкости систем искусственного интеллекта.
Программное обеспечение Carbon Intensity (SCI) стандарт — это эффективный подход для оценки углеродоемкости систем искусственного интеллекта. В отличие от традиционных методологий, использующих атрибутный подход к учету выбросов углерода, здесь используется подход последовательных вычислений.
Последовательный подход пытается рассчитать предельное изменение выбросов, возникающее в результате вмешательства или решения, например, решения о производстве дополнительной единицы. Принимая во внимание, что атрибуция относится к учету данных о средней интенсивности или статических кадастрах выбросов.
A бумаги «Измерение углеродоемкости ИИ в облачных экземплярах», Джесси Доге и др. использовал эту методологию для проведения более обоснованных исследований. Поскольку значительная часть обучения моделей ИИ проводится на экземплярах облачных вычислений, это может стать надежной основой для расчета углеродного следа моделей ИИ. В статье уточняется формула SCI для таких оценок, как:
который очищается от:
что происходит от
где:
E: Энергия, потребляемая программной системой, в основном графическими процессорами (GPU), которые являются специализированным аппаратным обеспечением ML.
I: Предельные выбросы углерода в зависимости от местоположения от сети, питающей центр обработки данных.
M: Встроенный или воплощенный углерод, который представляет собой углерод, выделяемый во время использования, создания и утилизации оборудования.
R: Функциональная единица, которая в данном случае представляет собой одну задачу обучения машинному обучению.
C= O+M, где O равно E*I
В документе используется формула для оценки потребления электроэнергии одним экземпляром облака. В системах машинного обучения, основанных на глубоком обучении, основное потребление электроэнергии приходится на графический процессор, который включен в эту формулу. Они обучили базовую модель BERT с использованием одного графического процессора NVIDIA TITAN X (12 ГБ) на обычном сервере с двумя процессорами Intel Xeon E5-2630 v3 (2.4 ГГц) и 256 ГБ ОЗУ (16 модулей DIMM по 16 ГБ), чтобы поэкспериментировать с применением этой формулы. На следующем рисунке показаны результаты этого эксперимента:
© Энергопотребление и распределение между компонентами сервера
Графический процессор требует 74 процентов энергопотребления. Хотя авторы статьи по-прежнему утверждают, что это недооценка, включение графического процессора является шагом в правильном направлении. Это не является предметом внимания традиционных методов оценки, а это означает, что основной вклад в углеродный след не учитывается в оценках. Очевидно, что SCI предлагает более полноценные и надежные расчеты углеродоемкости.
Обучение модели ИИ часто проводится на экземплярах облачных вычислений, поскольку облако делает его гибким, доступным и экономичным. Облачные вычисления предоставляют инфраструктуру и ресурсы для развертывания и обучения моделей ИИ в большом масштабе. Вот почему обучение моделей облачным вычислениям постепенно увеличивается.
Важно измерять интенсивность выбросов углекислого газа в экземплярах облачных вычислений в режиме реального времени, чтобы определить области, подходящие для мер по смягчению последствий. Учет предельных выбросов на единицу энергии с учетом времени и местоположения может помочь в расчете эксплуатационных выбросов углерода, как это делается с помощью 2022 бумага.
An с открытым исходным кодом Также доступно программное обеспечение Cloud Carbon Footprint (CCF) для расчета воздействия облачных экземпляров.
Вот 7 способов оптимизировать углеродоемкость систем искусственного интеллекта.
1. Пишите лучший и более эффективный код
Оптимизированные коды могут снизить потребление энергии за счет 30 процентов за счет уменьшения использования памяти и процессора. Написание кода с низким уровнем выбросов углерода предполагает оптимизацию алгоритмов для более быстрого выполнения, сокращение ненужных вычислений и выбор энергоэффективного оборудования для выполнения задач с меньшими затратами энергии.
Разработчики могут использовать инструменты профилирования для выявления узких мест в производительности и областей для оптимизации своего кода. Этот процесс может привести к созданию более энергоэффективного программного обеспечения. Кроме того, рассмотрите возможность внедрения методов программирования с учетом энергопотребления, где код предназначен для адаптации к доступным ресурсам и определения приоритетов энергоэффективных путей выполнения.
2. Выберите более эффективную модель.
Выбор правильных алгоритмов и структур данных имеет решающее значение. Разработчикам следует выбирать алгоритмы, которые минимизируют вычислительную сложность и, следовательно, энергопотребление. Если более сложная модель дает улучшение только на 3-5%, но обучение требует в 2-3 раза больше времени; затем выберите более простую и быструю модель.
Дистилляция моделей — это еще один метод объединения больших моделей в более мелкие версии, чтобы сделать их более эффективными, сохраняя при этом необходимые знания. Этого можно достичь, обучив небольшую модель имитировать большую или удалив ненужные связи из нейронной сети.
3. Настройте параметры модели.
Настройте гиперпараметры модели с помощью двухцелевой оптимизации, которая балансирует производительность модели (например, точность) и энергопотребление. Такой двухцелевой подход гарантирует, что вы не жертвуете одним ради другого, что делает ваши модели более эффективными.
Используйте такие методы, как Точная настройка с эффективным использованием параметров (PEFT), целью которого является достижение производительности, аналогичной традиционной точной настройке, но с уменьшенным количеством обучаемых параметров. Этот подход включает в себя точную настройку небольшого подмножества параметров модели, сохраняя при этом большую часть предварительно обученных моделей большого языка (LLM) замороженными, что приводит к значительному сокращению вычислительных ресурсов и энергопотребления.
4. Сжимайте данные и используйте энергосберегающие хранилища.
Внедрите методы сжатия данных, чтобы уменьшить объем передаваемых данных. Сжатые данные требуют меньше энергии для передачи и занимают меньше места на диске. На этапе обслуживания модели использование кэша может помочь уменьшить количество обращений к уровню онлайн-хранилища, тем самым уменьшая
Кроме того, выбор правильной технологии хранения может привести к значительной прибыли. Например. AWS Glacier — это эффективное решение для архивирования данных, которое может оказаться более устойчивым подходом, чем использование S3, если к данным не требуется частый доступ.
5. Обучение моделей использованию более чистой энергии
Если вы используете облачный сервис для обучения модели, вы можете выбрать регион для проведения вычислений. Выберите для этой цели регион, в котором используются возобновляемые источники энергии, и вы сможете сократить выбросы до 30 раз. АМС блоге описывает баланс между оптимизацией для бизнеса и целями устойчивого развития.
Другой вариант — выбрать подходящее время для запуска модели. В определенное время дня; энергия чище, и такие данные можно получить с помощью платной услуги, такой как Карта электричества, который предлагает доступ к данным в реальном времени и будущим прогнозам относительно углеродоемкости электроэнергии в различных регионах.
6. Используйте специализированные центры обработки данных и оборудование для обучения моделей.
Выбор более эффективных центров обработки данных и оборудования может существенно повлиять на интенсивность выбросов углекислого газа. Центры обработки данных и оборудование, ориентированные на машинное обучение, могут быть 1.4-2 и в 2-5 раз более энергоэффективны, чем обычные.
7. Используйте бессерверные развертывания, такие как AWS Lambda, Azure Functions.
Традиционные развертывания требуют, чтобы сервер был всегда включен, что означает круглосуточное энергопотребление. Бессерверные развертывания, такие как AWS Lambda и Azure Functions, прекрасно работают с минимальным выбросом углекислого газа.
Сектор искусственного интеллекта переживает экспоненциальный рост, проникая во все аспекты бизнеса и повседневной жизни. Однако за это расширение приходится платить — растущий углеродный след, который угрожает отдалить нас от цели ограничить повышение глобальной температуры всего лишь 1°C.
Этот углеродный след является проблемой не только в настоящее время; его последствия могут распространяться на поколения, затрагивая тех, кто не несет ответственности за его создание. Поэтому становится необходимым предпринять решительные действия по снижению выбросов углекислого газа, связанных с искусственным интеллектом, и изучить устойчивые пути использования его потенциала. Крайне важно обеспечить, чтобы преимущества ИИ не приносили ущерба окружающей среде и благополучию будущих поколений.
Анкур Гупта является инженерным лидером с десятилетним опытом работы в сферах устойчивого развития, транспорта, телекоммуникаций и инфраструктуры; в настоящее время занимает должность технического менеджера в Uber. В этой роли он играет ключевую роль в продвижении платформы транспортных средств Uber, возглавляя движение к будущему с нулевым уровнем выбросов за счет интеграции передовых электрических и подключенных транспортных средств.
- SEO-контент и PR-распределение. Получите усиление сегодня.
- PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
- ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
- ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
- ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
- Источник: https://www.kdnuggets.com/greening-ai-7-strategies-to-make-applications-more-sustainable?utm_source=rss&utm_medium=rss&utm_campaign=greening-ai-7-strategies-to-make-applications-more-sustainable
- :имеет
- :является
- :нет
- :куда
- $UP
- 1
- 1.3
- 12
- 15%
- 2021
- 2030
- 7
- 9
- a
- доступ
- Доступ
- доступной
- Учетная запись
- составили
- Бухгалтерский учет
- точность
- достигнутый
- ACM
- приобретенный
- через
- действия
- активно
- приспосабливать
- дополнение
- дополнительный
- адрес
- адресация
- адекватно
- продвижение
- затрагивающий
- AI
- AI модели
- Системы искусственного интеллекта
- AIR
- Система кондиционирования
- AL
- алгоритмы
- уже
- причислены
- Несмотря на то, что
- всегда
- Amazon
- количество
- an
- анализирует
- и
- и инфраструктура
- Другой
- Применение
- Приложения
- подхода
- МЫ
- области
- около
- AS
- At
- достигать
- попытки
- Авторы
- доступен
- проспекты
- в среднем
- авиация
- прочь
- AWS
- AWS Lambda
- Лазурный
- Баланс
- основанный
- BE
- медведь
- становиться
- становится
- не являетесь
- Преимущества
- Лучшая
- между
- узкие
- приносить
- бизнес
- но
- by
- кэш
- вычислять
- Объявления
- CAN
- возможности
- углерод
- выбросы углекислого газа
- углеродный след
- случаев
- Центры
- определенный
- изменение
- заряд
- Выберите
- заявил
- требования
- ясность
- очиститель
- облако
- облачных вычислений
- код
- Коды
- как
- выходит
- товар
- комплекс
- сложность
- компоненты
- вычисление
- вычислительный
- расчеты
- Вычисление
- вычисление
- Беспокойство
- в связи с этим
- Обеспокоенность
- проводятся
- подключенный
- Коммутация
- логически вытекающий
- вследствие этого
- Рассматривать
- потребленный
- потребление
- способствует
- участник
- обычный
- создание
- решающее значение
- В настоящее время
- передовой
- ежедневно
- данным
- центров обработки данных
- Datacenter
- день
- десятилетие
- решение
- решающий
- снизилась
- глубоко
- глубокое обучение
- Спрос
- развертывание
- развертывания
- предназначенный
- застройщиков
- разница
- различный
- направление
- распоряжение
- Разнообразие
- do
- приносит
- Doge
- доменов
- сделанный
- вождение
- два
- в течение
- e
- Е & Т
- Эффективный
- эффективный
- усилия
- Электрический
- электричество
- потребление электроэнергии
- потребление электроэнергии
- встроенный
- Выбросы
- подчеркнул
- занятых
- работает
- энергетика
- Энергопотребление
- Проект и
- обеспечивать
- обеспечивает
- обеспечение
- Окружающая среда
- окружающий
- охраны окружающей среды
- Равно
- существенный
- оценка
- к XNUMX году
- Эфир (ETH)
- Даже
- Каждая
- эволюционировали
- выполнение
- существует
- расширение
- опыт
- испытывающих
- эксперимент
- Больше
- экспоненциальный
- Экспоненциальный рост
- продлить
- дополнительно
- БЫСТРО
- быстрее
- неисправный
- несколько
- фигура
- цифры
- конец
- гибкого
- Фокус
- после
- след
- Что касается
- формула
- вперед
- Рамки
- часто
- от
- замороженные
- функциональная
- функционирование
- Функции
- далее
- будущее
- Доходы
- ГАЗ
- Общие
- порождать
- поколения
- Глобальный
- цель
- Цели
- GPU / ГРАФИЧЕСКИЙ ПРОЦЕССОР
- постепенно
- парниковых газов
- Выбросы парниковых газов
- сетка
- Рост
- Аппаратные средства
- Освоение
- Есть
- he
- сильно
- помощь
- следовательно
- высший
- имеет
- Однако
- HTTPS
- огромный
- Голодный
- определения
- МЭА
- if
- Влияние
- императив
- Осуществляющий
- важную
- улучшение
- in
- включены
- включение
- Увеличение
- расширились
- Увеличивает
- повышение
- промышленность
- сообщил
- Инфраструктура
- пример
- случаев
- интеграции.
- Intel
- вмешательство
- в
- включает в себя
- IT
- ЕГО
- JPG
- всего
- КДнаггетс
- хранение
- знания
- Отсутствие
- язык
- большой
- слой
- вести
- лидер
- Лидеры
- ведущий
- изучение
- Меньше
- такое как
- Ограниченный
- На основе расположения
- ниже
- машина
- обучение с помощью машины
- сделанный
- основной
- Большинство
- сделать
- ДЕЛАЕТ
- Создание
- управлять
- менеджер
- многих
- Май..
- означает
- проводить измерение
- измерение
- Память
- методологии
- Методология
- минимальный
- минимизировать
- смягчать
- смягчение
- ML
- модель
- Модели
- БОЛЕЕ
- более эффективным
- должен
- Необходимость
- потребности
- сеть
- нервный
- нейронной сети
- Тем не менее
- нет
- номер
- Nvidia
- занимает
- of
- Предложения
- .
- on
- ONE
- те,
- онлайн
- только
- работать
- оперативный
- Операционный отдел
- своевременно
- оптимизация
- Оптимизировать
- оптимизирующий
- Опция
- or
- Другое
- контуры
- Темп
- выплачен
- бумага & картон
- параметры
- путь
- для
- процент
- выполнять
- производительность
- Питер
- фаза
- выбирать
- основной
- Платформа
- Платон
- Платон Интеллектуальные данные
- ПлатонДанные
- играет
- должность
- обладать
- потенциал
- мощностью
- Включение питания
- необходимость
- Predictions
- представить
- прессование
- в первую очередь
- Расставляйте приоритеты
- процесс
- обработка
- процессор
- профилирование
- Программирование
- Прогресс
- приводить в движение
- приводит
- цель
- Оперативная память
- реального времени
- данные в реальном времени
- уменьшить
- Цена снижена
- снижение
- сокращения
- понимается
- рафинированный
- по
- область
- районы
- складская
- полагаться
- удаление
- Возобновляемый
- Возобновляемая энергия
- последствия
- представляет
- требовать
- требуется
- исследованиям
- Полезные ресурсы
- ответственность
- результат
- в результате
- Итоги
- удерживающий
- правую
- Роли
- Run
- s
- пожертвовав
- Сказал
- Шкала
- SCI
- сектор
- выбор
- чувствительность
- сервер
- Serverless
- обслуживание
- выступающей
- Поделиться
- должен
- Шоу
- значительный
- существенно
- аналогичный
- с
- одинарной
- небольшой
- меньше
- Software
- Решение
- Источники
- Space
- напряженность
- специализированный
- раскол
- управлять
- Шаг
- По-прежнему
- Stop
- диск
- стратегий
- структур
- предмет
- существенный
- такие
- подходящее
- превосходящие
- окружающих
- Стабильность
- комфортного
- система
- системы
- T
- взять
- принимает
- Сложность задачи
- задачи
- техника
- снижения вреда
- Технологии
- телекоммуникация
- чем
- который
- Ассоциация
- их
- Их
- тогда
- Там.
- тем самым
- следовательно
- Эти
- они
- этой
- те
- угрожает
- Через
- Таким образом
- время
- раз
- исполин
- в
- инструментом
- инструменты
- к
- традиционный
- Train
- специалистов
- Обучение
- перевод
- трансфер
- тенденция
- два
- Uber
- К сожалению
- Ед. изм
- В отличие от
- беспрецедентный
- беспрецедентный
- us
- Применение
- использование
- использования
- через
- действительный
- Транспорт
- жизненный
- способы
- Что
- в то время как
- , которые
- в то время как
- КТО
- чья
- зачем
- будете
- мудрость
- Работа
- записывать
- письмо
- X
- доходность
- являетесь
- ВАШЕ
- зефирнет