Hình ảnh của Editor
Các ứng dụng AI sở hữu khả năng tính toán vô song có thể thúc đẩy tiến bộ với tốc độ chưa từng thấy. Tuy nhiên, những công cụ này phụ thuộc nhiều vào các trung tâm dữ liệu sử dụng nhiều năng lượng để vận hành, dẫn đến tình trạng thiếu độ nhạy năng lượng đáng lo ngại góp phần đáng kể vào lượng khí thải carbon của chúng. Điều đáng ngạc nhiên là những ứng dụng AI này đã chiếm một lượng đáng kể 2.5 để 3.7 % lượng phát thải khí nhà kính toàn cầu, vượt qua lượng phát thải từ ngành hàng không.
Và thật không may, lượng khí thải carbon này đang tăng với tốc độ nhanh.
Hiện tại, nhu cầu cấp thiết là đo lượng khí thải carbon của các ứng dụng học máy, như sự khôn ngoan của Peter Drucker đã nhấn mạnh rằng “Bạn không thể quản lý những gì bạn không thể đo lường”. Hiện tại, vẫn còn thiếu sự rõ ràng đáng kể trong việc định lượng tác động môi trường của AI, với những con số chính xác mà chúng ta không thể nắm bắt được.
Ngoài việc đo lượng khí thải carbon, các nhà lãnh đạo ngành AI phải tích cực tập trung vào việc tối ưu hóa nó. Cách tiếp cận kép này rất quan trọng để giải quyết các mối lo ngại về môi trường xung quanh các ứng dụng AI và đảm bảo con đường phía trước bền vững hơn.
Việc sử dụng máy học ngày càng tăng đòi hỏi phải tăng cường các trung tâm dữ liệu, nhiều trung tâm trong số đó đang ngốn điện và do đó thải ra lượng khí thải carbon đáng kể. Việc sử dụng điện toàn cầu của các trung tâm dữ liệu lên tới 0.9% 1.3 2021.
A 2021 nghiên cứu ước tính rằng mức sử dụng này có thể tăng lên 1.86% vào năm 2030. Điều này con số thể hiện xu hướng ngày càng tăng của nhu cầu năng lượng do các trung tâm dữ liệu
© Xu hướng tiêu thụ năng lượng và thị phần sử dụng cho trung tâm dữ liệu
Đáng chú ý, mức tiêu thụ năng lượng càng cao thì lượng khí thải carbon sẽ càng cao. Trung tâm dữ liệu nóng lên trong quá trình xử lý và có thể bị lỗi, thậm chí ngừng hoạt động do quá nóng. Do đó, chúng cần được làm mát, đòi hỏi phải bổ sung thêm năng lượng. Xung quanh 40% lượng điện mà các trung tâm dữ liệu tiêu thụ là dành cho điều hòa không khí.
Do mức độ sử dụng AI ngày càng tăng, cường độ carbon của những công cụ này cần phải được tính đến. Hiện tại, nghiên cứu về chủ đề này chỉ giới hạn ở việc phân tích một số mô hình và chưa giải quyết thỏa đáng tính đa dạng của các mô hình nói trên.
Đây là một phương pháp đã được cải tiến và một số công cụ hiệu quả để tính toán cường độ carbon của hệ thống AI.
Cường độ carbon của phần mềm (SCI) Tiêu chuẩn là một cách tiếp cận hiệu quả để ước tính cường độ carbon của hệ thống AI. Không giống như các phương pháp truyền thống áp dụng phương pháp tính toán lượng carbon theo quy mô, phương pháp này sử dụng phương pháp tính toán hệ quả.
Phương pháp tiếp cận hệ quả cố gắng tính toán sự thay đổi biên trong lượng phát thải phát sinh từ một biện pháp can thiệp hoặc quyết định, chẳng hạn như quyết định tạo ra một đơn vị bổ sung. Trong khi đó, phân bổ đề cập đến việc tính toán dữ liệu cường độ trung bình hoặc kiểm kê lượng phát thải tĩnh.
A giấy về “Đo cường độ carbon của AI trong các phiên bản đám mây” của Jesse Doge và cộng sự. đã sử dụng phương pháp này để mang lại những nghiên cứu có nhiều thông tin hơn. Do một lượng lớn hoạt động đào tạo mô hình AI được thực hiện trên các phiên bản điện toán đám mây nên đây có thể là một khuôn khổ hợp lệ để tính toán lượng khí thải carbon của các mô hình AI. Bài báo cải tiến công thức SCI cho các ước lượng như:
được tinh chế từ:
bắt nguồn từ
Trong đó:
E: Năng lượng tiêu thụ bởi một hệ thống phần mềm, chủ yếu là các đơn vị xử lý đồ họa-GPU là phần cứng ML chuyên dụng.
I: Lượng khí thải carbon cận biên dựa trên vị trí của lưới điện cung cấp năng lượng cho trung tâm dữ liệu.
M: Carbon nhúng hoặc thể hiện, là lượng carbon thải ra trong quá trình sử dụng, tạo và thải bỏ phần cứng.
R: Đơn vị chức năng, trong trường hợp này là một nhiệm vụ đào tạo máy học.
C= O+M, trong đó O bằng E*I
Bài viết sử dụng công thức để ước tính mức sử dụng điện của một phiên bản đám mây. Trong các hệ thống ML dựa trên deep learning, mức tiêu thụ điện năng chủ yếu là do GPU, được bao gồm trong công thức này. Họ đã đào tạo mô hình cơ sở BERT bằng cách sử dụng một GPU NVIDIA TITAN X (12 GB) trong một máy chủ thông thường có hai CPU Intel Xeon E5-2630 v3 (2.4 GHz) và RAM 256 GB (DIMM 16x16 GB) để thử nghiệm ứng dụng của công thức này. Hình dưới đây cho thấy kết quả của thí nghiệm này:
© Tiêu thụ năng lượng và phân chia giữa các thành phần của máy chủ
GPU yêu cầu 74% mức tiêu thụ năng lượng. Mặc dù các tác giả của bài báo vẫn cho rằng nó đã được đánh giá thấp nhưng việc đưa GPU vào là một bước đi đúng hướng. Đây không phải là trọng tâm của các kỹ thuật ước tính thông thường, có nghĩa là yếu tố đóng góp chính vào lượng khí thải carbon đang bị bỏ qua trong các ước tính. Rõ ràng, SCI đưa ra cách tính toán cường độ carbon lành mạnh và đáng tin cậy hơn.
Việc đào tạo mô hình AI thường được tiến hành trên các phiên bản điện toán đám mây vì đám mây giúp nó linh hoạt, dễ tiếp cận và tiết kiệm chi phí. Điện toán đám mây cung cấp cơ sở hạ tầng và tài nguyên để triển khai và đào tạo các mô hình AI trên quy mô lớn. Chính vì vậy việc đào tạo mô hình trên điện toán đám mây ngày càng tăng.
Điều quan trọng là phải đo cường độ carbon theo thời gian thực của các phiên bản điện toán đám mây để xác định các khu vực phù hợp cho nỗ lực giảm nhẹ. Việc tính toán lượng phát thải biên theo địa điểm và thời gian cụ thể trên một đơn vị năng lượng có thể giúp tính toán lượng phát thải carbon trong hoạt động, như được thực hiện bởi một giấy 2022.
An mã nguồn mở công cụ này, phần mềm Cloud Carbon Footprint (CCF) cũng có sẵn để tính toán tác động của các phiên bản đám mây.
Dưới đây là 7 cách để tối ưu hóa cường độ carbon của hệ thống AI.
1. Viết mã tốt hơn, hiệu quả hơn
Mã được tối ưu hóa có thể giảm mức tiêu thụ năng lượng bằng cách 30% thông qua việc giảm mức sử dụng bộ nhớ và bộ xử lý. Viết mã tiết kiệm carbon bao gồm việc tối ưu hóa các thuật toán để thực thi nhanh hơn, giảm các phép tính không cần thiết và chọn phần cứng tiết kiệm năng lượng để thực hiện các tác vụ với ít năng lượng hơn.
Các nhà phát triển có thể sử dụng các công cụ lập hồ sơ để xác định các điểm nghẽn về hiệu suất và các khu vực cần tối ưu hóa trong mã của họ. Quá trình này có thể dẫn đến phần mềm tiết kiệm năng lượng hơn. Ngoài ra, hãy cân nhắc triển khai các kỹ thuật lập trình tiết kiệm năng lượng, trong đó mã được thiết kế để thích ứng với các tài nguyên sẵn có và ưu tiên các lộ trình thực thi tiết kiệm năng lượng.
2. Chọn mô hình hiệu quả hơn
Việc lựa chọn các thuật toán và cấu trúc dữ liệu phù hợp là rất quan trọng. Các nhà phát triển nên lựa chọn các thuật toán giảm thiểu độ phức tạp tính toán và do đó giảm thiểu mức tiêu thụ năng lượng. Nếu mô hình phức tạp hơn chỉ mang lại sự cải thiện 3-5% nhưng mất thời gian đào tạo gấp 2-3 lần; sau đó chọn mô hình đơn giản hơn và nhanh hơn.
Chắt lọc mô hình là một kỹ thuật khác để cô đọng các mô hình lớn thành các phiên bản nhỏ hơn nhằm làm cho chúng hiệu quả hơn trong khi vẫn giữ được kiến thức cần thiết. Nó có thể đạt được bằng cách đào tạo một mô hình nhỏ để bắt chước mô hình lớn hoặc loại bỏ các kết nối không cần thiết khỏi mạng lưới thần kinh.
3. Điều chỉnh các tham số mô hình
Điều chỉnh siêu tham số cho mô hình bằng cách sử dụng tối ưu hóa mục tiêu kép để cân bằng hiệu suất mô hình (ví dụ: độ chính xác) và mức tiêu thụ năng lượng. Cách tiếp cận mục tiêu kép này đảm bảo rằng bạn không phải hy sinh cái này cho cái kia, làm cho mô hình của bạn hiệu quả hơn.
Tận dụng các kỹ thuật như Tinh chỉnh tham số hiệu quả (PEFT) với mục tiêu là đạt được hiệu suất tương tự như tinh chỉnh truyền thống nhưng giảm số lượng tham số có thể huấn luyện. Cách tiếp cận này bao gồm việc tinh chỉnh một tập hợp con nhỏ các tham số mô hình trong khi vẫn giữ nguyên phần lớn các Mô hình ngôn ngữ lớn (LLM) được đào tạo trước, dẫn đến giảm đáng kể tài nguyên tính toán và mức tiêu thụ năng lượng.
4. Nén dữ liệu và sử dụng bộ lưu trữ tiết kiệm năng lượng
Thực hiện các kỹ thuật nén dữ liệu để giảm lượng dữ liệu được truyền đi. Dữ liệu nén cần ít năng lượng hơn để truyền và chiếm ít không gian hơn trên đĩa. Trong giai đoạn phục vụ mô hình, việc sử dụng bộ đệm có thể giúp giảm các cuộc gọi đến lớp lưu trữ trực tuyến, do đó giảm
Ngoài ra, việc chọn công nghệ lưu trữ phù hợp có thể mang lại lợi ích đáng kể. Ví dụ: AWS Glacier là giải pháp lưu trữ dữ liệu hiệu quả và có thể là phương pháp bền vững hơn so với sử dụng S3 nếu dữ liệu không cần truy cập thường xuyên.
5. Đào tạo mô hình về năng lượng sạch hơn
Nếu bạn đang sử dụng dịch vụ đám mây để đào tạo mô hình, bạn có thể chọn khu vực để thực hiện tính toán. Chọn một khu vực sử dụng các nguồn năng lượng tái tạo cho mục đích này và bạn có thể giảm lượng khí thải lên tới 30 lần. AWS blog đăng bài vạch ra sự cân bằng giữa việc tối ưu hóa cho hoạt động kinh doanh và các mục tiêu bền vững.
Một lựa chọn khác là chọn thời điểm thích hợp để chạy mô hình. Vào những thời điểm nhất định trong ngày; năng lượng sạch hơn và dữ liệu đó có thể được lấy thông qua dịch vụ trả phí như Bản đồ điện, cung cấp quyền truy cập vào dữ liệu thời gian thực và dự đoán trong tương lai về cường độ điện carbon ở các khu vực khác nhau.
6. Sử dụng trung tâm dữ liệu và phần cứng chuyên dụng để đào tạo mô hình
Việc lựa chọn các trung tâm dữ liệu và phần cứng hiệu quả hơn có thể tạo ra sự khác biệt lớn về cường độ carbon. Các trung tâm dữ liệu và phần cứng dành riêng cho ML có thể 1.4-2 và tiết kiệm năng lượng gấp 2-5 lần so với loại thông thường.
7. Sử dụng các triển khai serverless như AWS Lambda, Azure Functions
Việc triển khai truyền thống yêu cầu máy chủ phải luôn bật, đồng nghĩa với việc tiêu thụ năng lượng 24×7. Triển khai serverless như AWS Lambda và Azure Functions hoạt động tốt với cường độ carbon tối thiểu.
Lĩnh vực AI đang trải qua sự tăng trưởng theo cấp số nhân, thâm nhập vào mọi khía cạnh của hoạt động kinh doanh và đời sống hàng ngày. Tuy nhiên, việc mở rộng này phải trả giá - lượng khí thải carbon ngày càng tăng có nguy cơ khiến chúng ta rời xa mục tiêu hạn chế nhiệt độ toàn cầu tăng lên chỉ 1°C.
Lượng khí thải carbon này không chỉ là mối quan tâm hiện tại; hậu quả của nó có thể kéo dài qua nhiều thế hệ, ảnh hưởng đến những người không chịu trách nhiệm về việc tạo ra nó. Do đó, bắt buộc phải thực hiện các hành động quyết đoán để giảm thiểu lượng khí thải carbon liên quan đến AI và khám phá những con đường bền vững để khai thác tiềm năng của nó. Điều quan trọng là phải đảm bảo rằng lợi ích của AI không gây tổn hại đến môi trường và hạnh phúc của các thế hệ tương lai.
Ankur Gupta là một nhà lãnh đạo kỹ thuật với một thập kỷ kinh nghiệm trong các lĩnh vực bền vững, giao thông, viễn thông và cơ sở hạ tầng; hiện đang giữ vị trí Giám đốc Kỹ thuật tại Uber. Với vai trò này, anh đóng vai trò then chốt trong việc thúc đẩy sự phát triển của Nền tảng phương tiện của Uber, dẫn đầu nỗ lực hướng tới một tương lai không phát thải thông qua việc tích hợp các phương tiện kết nối và điện tiên tiến.
- Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
- PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
- PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
- Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
- PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
- nguồn: https://www.kdnuggets.com/greening-ai-7-strategies-to-make-applications-more-sustainable?utm_source=rss&utm_medium=rss&utm_campaign=greening-ai-7-strategies-to-make-applications-more-sustainable
- : có
- :là
- :không phải
- :Ở đâu
- $ LÊN
- 1
- 1.3
- 12
- 15%
- 2021
- 2030
- 7
- 9
- a
- truy cập
- truy cập
- có thể truy cập
- Tài khoản
- chiếm
- Kế toán
- chính xác
- đạt được
- ACM
- mua lại
- ngang qua
- hành động
- tích cực
- thích ứng
- Ngoài ra
- thêm vào
- địa chỉ
- giải quyết
- đầy đủ
- thăng tiến
- ảnh hưởng đến
- AI
- Mô hình AI
- Hệ thống AI
- KHÔNG KHÍ
- Máy lạnh
- AL
- thuật toán
- Đã
- Ngoài ra
- Mặc dù
- luôn luôn
- đàn bà gan dạ
- số lượng
- an
- phân tích
- và
- và cơ sở hạ tầng
- Một
- Các Ứng Dụng
- các ứng dụng
- phương pháp tiếp cận
- LÀ
- khu vực
- xung quanh
- AS
- At
- đạt được
- Nỗ lực
- tác giả
- có sẵn
- đại lộ
- Trung bình cộng
- hàng không
- xa
- AWS
- AWS Lambda
- Azure
- Cân đối
- dựa
- BE
- Ghi
- trở nên
- trở thành
- được
- Lợi ích
- Hơn
- giữa
- tắc nghẽn
- mang lại
- kinh doanh
- nhưng
- by
- bộ nhớ cache
- tính toán
- Cuộc gọi
- CAN
- khả năng
- carbon
- lượng khí thải carbon
- dấu chân carbon
- trường hợp
- Trung tâm
- nhất định
- thay đổi
- phí
- Chọn
- tuyên bố
- tuyên bố
- rõ ràng
- sạch hơn
- đám mây
- điện toán đám mây
- mã
- mã số
- Đến
- đến
- hàng hóa
- phức tạp
- phức tạp
- các thành phần
- tính toán
- tính toán
- tính toán
- Tính
- máy tính
- Liên quan
- liên quan đến
- Mối quan tâm
- thực hiện
- kết nối
- Kết nối
- do hậu quả
- hậu quả là
- Hãy xem xét
- tiêu thụ
- tiêu thụ
- đóng góp
- người đóng góp
- thông thường
- tạo
- quan trọng
- Hiện nay
- tiên tiến
- tiền thưởng
- dữ liệu
- các trung tâm dữ liệu
- Trung tâm dữ liệu
- ngày
- thập kỷ
- quyết định
- quyết định
- giảm
- sâu
- học kĩ càng
- Nhu cầu
- triển khai
- triển khai
- thiết kế
- phát triển
- sự khác biệt
- khác nhau
- hướng
- xử lý
- SỰ ĐA DẠNG
- do
- làm
- Doge
- lĩnh vực
- thực hiện
- lái xe
- hai
- suốt trong
- e
- E&T
- Hiệu quả
- hiệu quả
- những nỗ lực
- Điện
- điện
- Tiêu thụ điện
- sử dụng điện
- nhúng
- Phát thải
- nhấn mạnh
- việc làm
- sử dụng
- năng lượng
- Tiêu thụ năng lượng
- Kỹ Sư
- đảm bảo
- đảm bảo
- đảm bảo
- Môi trường
- môi trường
- mối quan tâm về môi trường
- equals
- thiết yếu
- ước tính
- ước tính
- Ether (ETH)
- Ngay cả
- Mỗi
- phát triển
- thực hiện
- tồn tại
- mở rộng
- kinh nghiệm
- trải qua
- thử nghiệm
- khám phá
- số mũ
- Tăng trưởng theo cấp số nhân
- thêm
- thêm
- NHANH
- nhanh hơn
- bị lỗi
- vài
- Hình
- Số liệu
- cuối
- linh hoạt
- Tập trung
- tiếp theo
- Dấu chân
- Trong
- công thức
- Forward
- Khung
- thường xuyên
- từ
- đông lạnh
- chức năng
- hoạt động
- chức năng
- xa hơn
- tương lai
- thu nhập
- GAS
- Tổng Quát
- tạo ra
- các thế hệ
- Toàn cầu
- mục tiêu
- Các mục tiêu
- GPU
- dần dần
- khí gây hiệu ứng nhà kính
- Khí thải nhà kính
- lưới
- Tăng trưởng
- phần cứng
- Khai thác
- Có
- he
- nặng nề
- giúp đỡ
- vì thế
- cao hơn
- giữ
- Tuy nhiên
- HTTPS
- lớn
- Hungry
- xác định
- IEA
- if
- Va chạm
- bắt buộc
- thực hiện
- quan trọng
- cải thiện
- in
- bao gồm
- đưa vào
- Tăng lên
- tăng
- Tăng
- tăng
- ngành công nghiệp
- thông báo
- Cơ sở hạ tầng
- ví dụ
- trường hợp
- hội nhập
- Intel
- can thiệp
- trong
- liên quan đến
- IT
- ITS
- jpg
- chỉ
- Xe đẩy
- giữ
- kiến thức
- Thiếu sót
- Ngôn ngữ
- lớn
- lớp
- dẫn
- lãnh đạo
- các nhà lãnh đạo
- hàng đầu
- học tập
- ít
- Lượt thích
- Hạn chế
- Dựa trên địa điểm
- thấp hơn
- máy
- học máy
- thực hiện
- chính
- Đa số
- làm cho
- LÀM CHO
- Làm
- quản lý
- giám đốc
- nhiều
- Có thể..
- có nghĩa
- đo
- đo lường
- Bộ nhớ
- phương pháp
- Phương pháp luận
- tối thiểu
- giảm thiểu
- Giảm nhẹ
- giảm nhẹ
- ML
- kiểu mẫu
- mô hình
- chi tiết
- hiệu quả hơn
- phải
- Cần
- nhu cầu
- mạng
- Thần kinh
- mạng lưới thần kinh
- Tuy nhiên
- Không
- con số
- Nvidia
- nơi làm việc
- of
- Cung cấp
- thường
- on
- ONE
- những
- Trực tuyến
- có thể
- hoạt động
- hoạt động
- Hoạt động
- hợp thời
- tối ưu hóa
- Tối ưu hóa
- tối ưu hóa
- Tùy chọn
- or
- Nền tảng khác
- đề cương
- Hòa bình
- thanh toán
- Giấy
- thông số
- con đường
- mỗi
- phần trăm
- thực hiện
- hiệu suất
- Peter
- giai đoạn
- chọn
- quan trọng
- nền tảng
- plato
- Thông tin dữ liệu Plato
- PlatoDữ liệu
- đóng
- vị trí
- có
- tiềm năng
- quyền lực
- Chạy
- cần
- Dự đoán
- trình bày
- nhấn
- chủ yếu
- Ưu tiên
- quá trình
- xử lý
- Bộ xử lý
- profiling
- Lập trình
- Tiến độ
- đẩy tới
- cung cấp
- mục đích
- RAM
- thời gian thực
- dữ liệu theo thời gian thực
- giảm
- Giảm
- giảm
- giảm
- đề cập
- tinh chế
- về
- khu
- vùng
- đáng tin cậy
- dựa
- loại bỏ
- Tái tạo
- năng lượng tái tạo
- hậu quả
- đại diện cho
- yêu cầu
- đòi hỏi
- nghiên cứu
- Thông tin
- trách nhiệm
- kết quả
- kết quả
- Kết quả
- giữ lại
- ngay
- Vai trò
- chạy
- s
- hy sinh
- Nói
- Quy mô
- SCI
- ngành
- lựa chọn
- Độ nhạy
- máy chủ
- Không có máy chủ
- dịch vụ
- phục vụ
- Chia sẻ
- nên
- Chương trình
- có ý nghĩa
- đáng kể
- tương tự
- kể từ khi
- duy nhất
- nhỏ
- nhỏ hơn
- Phần mềm
- giải pháp
- nguồn
- Không gian
- Vôn
- chuyên nghành
- chia
- chỉ đạo
- Bước
- Vẫn còn
- Dừng
- là gắn
- chiến lược
- cấu trúc
- Tiêu đề
- đáng kể
- như vậy
- phù hợp
- vượt qua
- Xung quanh
- Tính bền vững
- bền vững
- hệ thống
- hệ thống
- T
- Hãy
- mất
- Nhiệm vụ
- nhiệm vụ
- kỹ thuật
- kỹ thuật
- Công nghệ
- viễn thông
- hơn
- việc này
- Sản phẩm
- cung cấp their dịch
- Them
- sau đó
- Đó
- bằng cách ấy
- vì thế
- Kia là
- họ
- điều này
- những
- Đe dọa
- Thông qua
- Như vậy
- thời gian
- thời gian
- titan
- đến
- công cụ
- công cụ
- đối với
- truyền thống
- Train
- đào tạo
- Hội thảo
- chuyển
- giao thông vận tải
- khuynh hướng
- hai
- Uber
- không may
- đơn vị
- không giống
- chưa từng có
- chưa từng có
- us
- Sử dụng
- sử dụng
- sử dụng
- sử dụng
- hợp lệ
- Xe cộ
- quan trọng
- cách
- Điều gì
- trong khi
- cái nào
- trong khi
- CHÚNG TÔI LÀ
- có
- tại sao
- sẽ
- sự khôn ngoan
- với
- Công việc
- viết
- viết
- X
- sản lượng
- bạn
- trên màn hình
- zephyrnet