Imagem do editor
As aplicações de IA possuem capacidades computacionais incomparáveis que podem impulsionar o progresso a um ritmo sem precedentes. No entanto, estas ferramentas dependem fortemente de centros de dados com utilização intensiva de energia para as suas operações, resultando numa preocupante falta de sensibilidade energética que contribui significativamente para a sua pegada de carbono. Surpreendentemente, estas aplicações de IA já representam uma parte substancial (2.5 - 3.7) por cento das emissões globais de gases de efeito estufa, superando as emissões da indústria da aviação.
E, infelizmente, esta pegada de carbono está a aumentar a um ritmo acelerado.
Atualmente, a necessidade premente é medir a pegada de carbono das aplicações de aprendizagem automática, como enfatiza a sabedoria de Peter Drucker de que “Não se pode gerir o que não se pode medir”. Atualmente, existe uma falta significativa de clareza na quantificação do impacto ambiental da IA, escapando-nos números precisos.
Além de medir a pegada de carbono, os líderes da indústria da IA devem concentrar-se ativamente na sua otimização. Esta dupla abordagem é vital para abordar as preocupações ambientais que rodeiam as aplicações de IA e garantir um caminho mais sustentável.
O aumento do uso do aprendizado de máquina exige mais centros de dados, muitos dos quais consomem muita energia e, portanto, têm uma pegada de carbono significativa. O uso global de eletricidade pelos data centers totalizou 0.9 a cento 1.3 em 2021.
A Estudo 2021 estimou que esse uso pode aumentar para 1.86% até 2030. Este descobrir representa a tendência crescente da demanda de energia devido aos data centers
© Tendência de consumo de energia e parcela de uso para data centers
Notavelmente, quanto maior for o consumo de energia, maior será a pegada de carbono. Os data centers aquecem durante o processamento e podem apresentar falhas e até parar de funcionar devido ao superaquecimento. Conseqüentemente, eles precisam de resfriamento, o que requer energia adicional. Em volta 40% da eletricidade consumida pelos data centers é para ar condicionado.
Dada a crescente pegada da utilização da IA, a intensidade de carbono destas ferramentas precisa de ser tida em conta. Atualmente, as pesquisas sobre este assunto limitam-se à análise de alguns modelos e não abordam adequadamente a diversidade dos referidos modelos.
Aqui está uma metodologia evoluída e algumas ferramentas eficazes para calcular a intensidade de carbono de sistemas de IA.
A intensidade de carbono do software (SCI) padrão é uma abordagem eficaz para estimar a intensidade de carbono dos sistemas de IA. Ao contrário das metodologias convencionais que empregam uma abordagem de contabilização de carbono atribucional, esta utiliza uma abordagem de computação consequencial.
A abordagem consequencial tenta calcular a mudança marginal nas emissões resultante de uma intervenção ou decisão, como a decisão de gerar uma unidade extra. Considerando que a atribuição refere-se à contabilização de dados de intensidade média ou inventários estáticos de emissões.
A papel em “Medindo a intensidade de carbono da IA em instâncias de nuvem”, de Jesse Doge et al. empregou essa metodologia para trazer pesquisas mais informadas. Como uma quantidade significativa de treinamento de modelos de IA é realizada em instâncias de computação em nuvem, pode ser uma estrutura válida para calcular a pegada de carbono dos modelos de IA. O artigo refina a fórmula SCI para estimativas como:
que é refinado de:
que deriva de
em que:
E: Energia consumida por um sistema de software, principalmente de unidades de processamento gráfico - GPUs, que é hardware especializado em ML.
I: Emissões marginais de carbono baseadas na localização pela rede que alimenta o datacenter.
M: Carbono incorporado ou incorporado, que é o carbono emitido durante o uso, criação e descarte de hardware.
R: Unidade funcional, que neste caso é uma tarefa de treinamento de aprendizado de máquina.
C= O+M, onde O é igual a E*I
O artigo usa a fórmula para estimar o uso de eletricidade de uma única instância de nuvem. Em sistemas de ML baseados em aprendizagem profunda, o maior consumo de eletricidade deve-se à GPU, que está incluída nesta fórmula. Eles treinaram um modelo baseado em BERT usando uma única GPU NVIDIA TITAN X (12 GB) em um servidor comum com duas CPUs Intel Xeon E5-2630 v3 (2.4 GHz) e 256 GB de RAM (DIMMs de 16x16 GB) para experimentar a aplicação desta fórmula. A figura a seguir mostra os resultados deste experimento:
© Consumo de energia e divisão entre componentes de um servidor
A GPU representa 74 por cento do consumo de energia. Embora ainda seja considerado uma subestimação pelos autores do artigo, a inclusão da GPU é o passo na direção certa. Não é o foco das técnicas de estimativa convencionais, o que significa que um dos principais contribuintes da pegada de carbono está a ser ignorado nas estimativas. Evidentemente, o SCI oferece um cálculo mais completo e confiável da intensidade de carbono.
O treinamento do modelo de IA geralmente é realizado em instâncias de computação em nuvem, pois a nuvem o torna flexível, acessível e econômico. A computação em nuvem fornece a infraestrutura e os recursos para implantar e treinar modelos de IA em escala. É por isso que o treinamento de modelos em computação em nuvem está aumentando gradualmente.
É importante medir a intensidade de carbono em tempo real das instâncias de computação em nuvem para identificar áreas adequadas para esforços de mitigação. A contabilização das emissões marginais específicas do local e do tempo por unidade de energia pode ajudar a calcular as emissões operacionais de carbono, conforme feito por um papel 2022.
An opensource ferramenta, o software Cloud Carbon Footprint (CCF) também está disponível para calcular o impacto das instâncias da nuvem.
Aqui estão 7 maneiras de otimizar a intensidade de carbono dos sistemas de IA.
1. Escreva um código melhor e mais eficiente
Códigos otimizados podem reduzir o consumo de energia 30% através da diminuição do uso de memória e processador. Escrever um código eficiente em carbono envolve otimizar algoritmos para uma execução mais rápida, reduzir cálculos desnecessários e selecionar hardware com eficiência energética para executar tarefas com menos energia.
Os desenvolvedores podem usar ferramentas de criação de perfil para identificar gargalos de desempenho e áreas de otimização em seu código. Este processo pode levar a um software com maior eficiência energética. Além disso, considere a implementação de técnicas de programação com reconhecimento de energia, onde o código é projetado para se adaptar aos recursos disponíveis e priorizar caminhos de execução com eficiência energética.
2. Selecione um modelo mais eficiente
Escolher os algoritmos e estruturas de dados corretos é crucial. Os desenvolvedores devem optar por algoritmos que minimizem a complexidade computacional e consequentemente o consumo de energia. Se o modelo mais complexo produz apenas 3-5% de melhoria, mas leva 2-3x mais tempo para treinar; em seguida, escolha o modelo mais simples e rápido.
A destilação de modelos é outra técnica para condensar modelos grandes em versões menores para torná-los mais eficientes e, ao mesmo tempo, reter o conhecimento essencial. Isso pode ser alcançado treinando um modelo pequeno para imitar o modelo grande ou removendo conexões desnecessárias de uma rede neural.
3. Ajuste os parâmetros do modelo
Ajuste hiperparâmetros para o modelo usando otimização de duplo objetivo que equilibra o desempenho do modelo (por exemplo, precisão) e o consumo de energia. Essa abordagem de duplo objetivo garante que você não sacrifique um pelo outro, tornando seus modelos mais eficientes.
Aproveite técnicas como Ajuste fino com eficiência de parâmetros (PEFT) cujo objetivo é atingir desempenho semelhante ao ajuste fino tradicional, mas com um número reduzido de parâmetros treináveis. Essa abordagem envolve o ajuste fino de um pequeno subconjunto de parâmetros do modelo, mantendo congelada a maioria dos modelos de linguagem grande (LLMs) pré-treinados, resultando em reduções significativas nos recursos computacionais e no consumo de energia.
4. Compacte dados e use armazenamento de baixo consumo de energia
Implemente técnicas de compactação de dados para reduzir a quantidade de dados transmitidos. Os dados compactados requerem menos energia para serem transferidos e ocupam menos espaço em disco. Durante a fase de serviço do modelo, o uso de um cache pode ajudar a reduzir as chamadas feitas para a camada de armazenamento on-line, reduzindo assim
Além disso, escolher a tecnologia de armazenamento certa pode resultar em ganhos significativos. Por exemplo. O AWS Glacier é uma solução eficiente de arquivamento de dados e pode ser uma abordagem mais sustentável do que usar o S3 se os dados não precisarem ser acessados com frequência.
5. Treinar modelos em energia mais limpa
Se estiver usando um serviço de nuvem para treinamento de modelo, você poderá escolher a região para operar os cálculos. Escolha uma região que empregue fontes de energia renováveis para esse fim e você poderá reduzir as emissões em até vezes 30. AWS no blog descreve o equilíbrio entre a otimização para os objetivos de negócios e de sustentabilidade.
Outra opção é selecionar o momento oportuno para executar o modelo. Em determinados horários do dia; a energia é mais limpa e esses dados podem ser adquiridos através de um serviço pago como Mapa de Eletricidade, que oferece acesso a dados em tempo real e previsões futuras sobre a intensidade de carbono da eletricidade em diferentes regiões.
6. Use data centers e hardware especializados para treinamento de modelo
A escolha de data centers e hardware mais eficientes pode fazer uma enorme diferença na intensidade de carbono. Data centers e hardware específicos de ML podem ser 1.4-2 e 2 a 5 vezes mais eficientes em termos energéticos do que os gerais.
7. Use implantações sem servidor como AWS Lambda, Azure Functions
As implantações tradicionais exigem que o servidor esteja sempre ligado, o que significa consumo de energia 24 horas por dia, 7 dias por semana. Implantações sem servidor, como AWS Lambda e Azure Functions, funcionam perfeitamente com intensidade mínima de carbono.
O setor da IA está a registar um crescimento exponencial, permeando todas as facetas dos negócios e da vida quotidiana. No entanto, esta expansão tem um custo: uma pegada de carbono crescente que ameaça afastar-nos ainda mais do objectivo de limitar o aumento da temperatura global a apenas 1°C.
Esta pegada de carbono não é apenas uma preocupação actual; as suas repercussões podem estender-se através de gerações, afectando aqueles que não têm qualquer responsabilidade pela sua criação. Portanto, torna-se imperativo tomar medidas decisivas para mitigar as emissões de carbono relacionadas com a IA e explorar caminhos sustentáveis para aproveitar o seu potencial. É crucial garantir que os benefícios da IA não sejam feitos à custa do ambiente e do bem-estar das gerações futuras.
Ankur Gupta é líder em engenharia com uma década de experiência nos domínios de sustentabilidade, transporte, telecomunicações e infraestrutura; atualmente ocupa o cargo de Gerente de Engenharia na Uber. Nesta função, ele desempenha um papel fundamental na condução do avanço da Plataforma de Veículos da Uber, liderando o caminho para um futuro com emissões zero através da integração de veículos elétricos e conectados de última geração.
- Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
- PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
- PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
- PlatãoESG. Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
- PlatoHealth. Inteligência em Biotecnologia e Ensaios Clínicos. Acesse aqui.
- Fonte: https://www.kdnuggets.com/greening-ai-7-strategies-to-make-applications-more-sustainable?utm_source=rss&utm_medium=rss&utm_campaign=greening-ai-7-strategies-to-make-applications-more-sustainable
- :tem
- :é
- :não
- :onde
- $UP
- 1
- 1.3
- 12
- 15%
- 2021
- 2030
- 7
- 9
- a
- Acesso
- acessadas
- acessível
- Conta
- representaram
- Contabilidade
- precisão
- alcançado
- ACM
- adquirido
- em
- ações
- ativamente
- adaptar
- Adição
- Adicional
- endereço
- endereçando
- adequadamente
- avanço
- afetando
- AI
- Modelos de IA
- Sistemas de IA
- AR
- Ar condicionado
- AL
- algoritmos
- já
- tb
- Apesar
- sempre
- Amazon
- quantidade
- an
- analisa
- e
- e infra-estrutura
- Outro
- Aplicação
- aplicações
- abordagem
- SOMOS
- áreas
- por aí
- AS
- At
- atingir
- Tentativas
- autores
- disponível
- avenidas
- média
- aviação
- longe
- AWS
- AWS Lambda
- Azul
- Equilíbrio
- baseado
- BE
- Tenha
- tornam-se
- torna-se
- ser
- Benefícios
- Melhor
- entre
- gargalos
- trazer
- negócio
- mas a
- by
- esconderijo
- calcular
- chamadas
- CAN
- capacidades
- carbono
- as emissões de carbono
- a pegada de carbono dessa embalagem foi reduzida em
- casas
- Centros
- certo
- alterar
- carregar
- Escolha
- afirmou
- reivindicações
- clareza
- limpador
- Na nuvem
- computação em nuvem
- código
- códigos
- como
- vem
- mercadoria
- integrações
- complexidade
- componentes
- computação
- computacional
- cálculos
- Computar
- computação
- Interesse
- concernente
- Preocupações
- conduzido
- conectado
- Coneções
- consequencial
- Consequentemente
- Considerar
- consumida
- consumo
- contribui
- contribuinte
- convencional
- criação
- crucial
- Atualmente
- ponta
- diariamente
- dados,
- centros de dados
- Datacenter
- dia
- década
- decisão
- decisivo
- diminuiu
- profundo
- deep learning
- Demanda
- implantar
- Implantações
- projetado
- desenvolvedores
- diferença
- diferente
- direção
- disposição
- Diversidade
- do
- parece
- Doge
- domínios
- feito
- condução
- dois
- durante
- e
- E & T
- Eficaz
- eficiente
- esforços
- Elétrico
- eletricidade
- consumo elétrico
- uso de eletricidade
- incorporado
- emissões
- enfatizado
- empregada
- emprega
- energia
- Consumo de energia
- Engenharia
- garantir
- garante
- assegurando
- Meio Ambiente
- ambiental
- preocupações ambientais
- É igual a
- essencial
- estimativa
- estimado
- Éter (ETH)
- Mesmo
- Cada
- evoluiu
- execução
- existe
- expansão
- vasta experiência
- experimentando
- experimentar
- explorar
- exponencial
- Crescimento exponencial
- estender
- extra
- RÁPIDO
- mais rápido
- defeituoso
- poucos
- Figura
- figuras
- final
- flexível
- Foco
- seguinte
- Pegada
- Escolha
- Fórmula
- para a frente
- Quadro
- freqüentemente
- da
- congelado
- funcional
- funcionamento
- funções
- mais distante
- futuro
- Ganhos
- GAS
- Geral
- gerar
- Gerações
- Global
- meta
- Objetivos
- GPU
- gradualmente
- gases de efeito estufa
- Emissão de gases de efeito estufa
- Grade
- Growth
- Hardware
- Aproveitamento
- Ter
- he
- fortemente
- ajudar
- conseqüentemente
- superior
- detém
- Contudo
- HTTPS
- enorme
- Faminto
- identificar
- IEA
- if
- Impacto
- imperativo
- implementação
- importante
- melhoria
- in
- incluído
- inclusão
- Crescimento
- aumentou
- Aumenta
- aumentando
- indústria
- informado
- Infraestrutura
- instância
- instâncias
- integração
- Intel
- da intervenção
- para dentro
- envolve
- IT
- ESTÁ
- jpg
- apenas por
- KDnuggetsGenericName
- manutenção
- Conhecimento
- Falta
- língua
- grande
- camada
- conduzir
- líder
- líderes
- principal
- aprendizagem
- menos
- como
- Limitado
- Com base na localização
- diminuir
- máquina
- aprendizado de máquina
- moldadas
- principal
- Maioria
- fazer
- FAZ
- Fazendo
- gerencia
- Gerente
- muitos
- Posso..
- significa
- a medida
- medição
- Memória
- metodologias
- Metodologia
- mínimo
- minimizar
- Mitigar
- mitigação
- ML
- modelo
- modelos
- mais
- mais eficiente
- devo
- você merece...
- Cria
- rede
- Neural
- rede neural
- mesmo assim
- não
- número
- Nvidia
- ocupa
- of
- Oferece
- frequentemente
- on
- ONE
- queridos
- online
- só
- operar
- operacional
- Operações
- oportuno
- otimização
- Otimize
- otimizando
- Opção
- or
- Outros
- contornos
- Paz
- pago
- Papel
- parâmetros
- caminho
- para
- por cento
- realizar
- atuação
- Peter
- fase
- escolher
- essencial
- plataforma
- platão
- Inteligência de Dados Platão
- PlatãoData
- desempenha
- posição
- possuir
- potencial
- poder
- Powering
- preciso
- Previsões
- presente
- premente
- principalmente
- Priorizar
- processo
- em processamento
- Subcontratante
- profiling
- Programação
- Progresso
- Impulsionar
- fornece
- propósito
- RAM
- em tempo real
- dados em tempo real
- reduzir
- Reduzido
- redução
- reduções
- refere-se
- refinado
- em relação a
- região
- regiões
- confiável
- depender
- removendo
- Renováveis
- energia renovável
- repercussões
- representa
- requerer
- exige
- pesquisa
- Recursos
- responsabilidade
- resultar
- resultando
- Resultados
- retenção
- certo
- Tipo
- Execute
- s
- sacrificando
- Dito
- Escala
- SCI
- setor
- selecionando
- Sensibilidade
- servidor
- Serverless
- serviço
- de servir
- Partilhar
- rede de apoio social
- Shows
- periodo
- de forma considerável
- semelhante
- desde
- solteiro
- pequeno
- menor
- Software
- solução
- Fontes
- Espaço
- abrangendo
- especializado
- divisão
- dirigir
- Passo
- Ainda
- Dê um basta
- armazenamento
- estratégias
- estruturas
- sujeito
- substancial
- tal
- adequado
- insuperável
- Em torno da
- Sustentabilidade
- sustentável
- .
- sistemas
- T
- Tire
- toma
- Tarefa
- tarefas
- técnica
- técnicas
- Tecnologia
- telecomunicação
- do que
- que
- A
- deles
- Eles
- então
- Lá.
- assim
- assim sendo
- Este
- deles
- isto
- aqueles
- ameaça
- Através da
- Assim
- tempo
- vezes
- titã
- para
- ferramenta
- ferramentas
- para
- tradicional
- Trem
- treinado
- Training
- transferência
- transporte
- Trend
- dois
- Uber
- infelizmente
- unidade
- ao contrário
- inigualável
- sem precedente
- us
- Uso
- usar
- usos
- utilização
- válido
- Veículos
- vital
- maneiras
- O Quê
- enquanto que
- qual
- enquanto
- QUEM
- de quem
- porque
- precisarão
- sabedoria
- de
- Atividades:
- escrever
- escrita
- X
- rendimentos
- Você
- investimentos
- zefirnet