תמונה מאת עורך
ליישומי בינה מלאכותית יש יכולות חישוביות חסרות תקדים שיכולות להניע התקדמות בקצב חסר תקדים. עם זאת, הכלים הללו מסתמכים במידה רבה על מרכזי נתונים עתירי אנרגיה לצורך פעילותם, מה שגורם לחוסר רגישות אנרגטית שתורמת באופן משמעותי לטביעת הרגל הפחמנית שלהם. באופן מפתיע, יישומי בינה מלאכותית אלה כבר מהוות ערך משמעותי 2.5 עד 3.7 אחוז מפליטת גזי החממה העולמית, העולה על הפליטות מתעשיית התעופה.
ולמרבה הצער, טביעת הרגל הפחמנית הזו גדלה בקצב מהיר.
נכון לעכשיו, הצורך הדחוף הוא למדוד את טביעת הרגל הפחמנית של יישומי למידת מכונה, כפי שהודגשה בחוכמתו של פיטר דרוקר ש"אתה לא יכול לנהל את מה שאתה לא יכול למדוד." נכון לעכשיו, קיים חוסר בהירות משמעותי בכימות ההשפעה הסביבתית של AI, כאשר נתונים מדויקים חומקים מאיתנו.
בנוסף למדידת טביעת הרגל הפחמנית, על מנהיגי תעשיית הבינה המלאכותית להתמקד באופן פעיל באופטימיזציה שלה. גישה כפולה זו חיונית לטיפול בדאגות הסביבתיות סביב יישומי בינה מלאכותית ולהבטחת נתיב בר-קיימא קדימה.
השימוש המוגבר בלמידת מכונה דורש הגדלת מרכזי הנתונים, שרבים מהם צריכות חשמל ולכן יש להם טביעת רגל פחמנית משמעותית. השימוש בחשמל העולמי על ידי מרכזי נתונים הסתכם ב 0.9 לאחוזי 1.3 ב 2021.
A מחקר 2021 העריך ששימוש זה יכול לעלות ל-1.86 אחוז עד 2030. זאת להבין מייצג את המגמה ההולכת וגוברת של ביקוש לאנרגיה עקב מרכזי נתונים
© מגמת צריכת אנרגיה ונתח השימוש עבור מרכזי נתונים
יש לציין שככל שצריכת האנרגיה גבוהה יותר, כך טביעת הרגל הפחמנית תהיה גבוהה יותר. מרכזי נתונים מתחממים במהלך העיבוד ויכולים להתקלקל ואף להפסיק לתפקד עקב התחממות יתר. לפיכך, הם זקוקים לקירור, אשר דורש אנרגיה נוספת. סְבִיב 40 אחוזים מהחשמל שצורכים מרכזי נתונים מיועד למיזוג אוויר.
בהתחשב בטביעת הרגל ההולכת וגוברת של שימוש ב-AI, יש לתת את הדעת על עוצמת הפחמן של הכלים הללו. נכון לעכשיו, המחקר בנושא זה מוגבל לניתוחים של כמה מודלים ואינו מתייחס בצורה מספקת למגוון המודלים האמורים.
הנה מתודולוגיה מפותחת וכמה כלים יעילים לחישוב עוצמת הפחמן של מערכות בינה מלאכותית.
עוצמת הפחמן של התוכנה (SCI) תֶקֶן היא גישה יעילה להערכת עוצמת הפחמן של מערכות בינה מלאכותית. בניגוד למתודולוגיות הקונבנציונליות המשתמשות בגישת חשבונאות פחמן ייחוס, היא משתמשת בגישת מחשוב תוצאתי.
גישה תוצאתית מנסה לחשב את השינוי השולי בפליטות הנובע מהתערבות או החלטה, כגון ההחלטה לייצר יחידה נוספת. ואילו ייחוס מתייחס לנתוני עוצמה ממוצעים חשבונאיים או למלאי סטטי של פליטות.
A מאמר על "מדידת עוצמת הפחמן של בינה מלאכותית במופעי ענן" מאת ג'סי דוג' ואחרים. השתמש במתודולוגיה זו כדי להביא מחקר מושכל יותר. מכיוון שכמות משמעותית של הכשרת מודלים של AI מתבצעת על מופעי מחשוב ענן, היא יכולה להיות מסגרת תקפה לחישוב טביעת הרגל הפחמנית של מודלים של AI. המאמר מחדד את נוסחת SCI עבור הערכות כגון:
אשר מעודן מ:
שנובע מ
שם:
E: אנרגיה הנצרכת על ידי מערכת תוכנה, בעיקר של יחידות עיבוד גרפיות-GPUs שהיא חומרת ML מיוחדת.
I: פליטת פחמן שולית מבוססת מיקום על ידי הרשת המניעה את מרכז הנתונים.
M: פחמן משובץ או גלום, שהוא הפחמן הנפלט במהלך שימוש, יצירה וסילוק של חומרה.
R: יחידה פונקציונלית, שבמקרה זה היא משימת אימון למידת מכונה אחת.
C= O+M, כאשר O שווה ל-E*I
המאמר משתמש בנוסחה כדי להעריך את צריכת החשמל של מופע ענן בודד. במערכות ML המבוססות על למידה עמוקה, צריכת החשמל הגדולה חייבת אותה ל-GPU, הנכלל בנוסחה זו. הם אימנו דגם מבוסס BERT באמצעות NVIDIA TITAN X GPU יחיד (12 GB) בשרת סחורות עם שני מעבדי Intel Xeon E5-2630 v3 (2.4GHz) ו-256GB RAM (16x16GB DIMMs) כדי להתנסות ביישום הנוסחה הזו. האיור הבא מציג את תוצאות הניסוי הזה:
© צריכת אנרגיה ופיצול בין רכיבי שרת
ה-GPU תובע 74 אחוז מצריכת האנרגיה. למרות שזה עדיין נטען כהערכת חסר על ידי מחברי המאמר, הכללת GPU היא הצעד בכיוון הנכון. זה לא המוקד של טכניקות האומדן הקונבנציונליות, מה שאומר שמתעלמים מהתורם העיקרי של טביעת הרגל הפחמנית באומדנים. ברור ש-SCI מציע חישוב בריא ואמין יותר של עוצמת הפחמן.
אימון מודלים של בינה מלאכותית מבוצעת לעתים קרובות על מופעי מחשוב ענן, מכיוון שהענן הופך אותו לגמיש, נגיש וחסכוני. מחשוב ענן מספק את התשתית והמשאבים לפריסה והדרכה של מודלים של AI בקנה מידה. לכן הכשרת מודלים במחשוב ענן עולה בהדרגה.
חשוב למדוד את עוצמת הפחמן בזמן אמת של מופעי מחשוב ענן כדי לזהות אזורים המתאימים למאמצי הפחתה. חשבונאות של פליטות שוליות מבוססות זמן ומיקום ספציפיות ליחידת אנרגיה יכולה לסייע בחישוב פליטת פחמן תפעולית, כפי שנעשה על ידי נייר 2022.
An opensource כלי, תוכנת Cloud Carbon Footprint (CCF) זמינה גם כדי לחשב את ההשפעה של מופעי ענן.
להלן 7 דרכים לייעל את עוצמת הפחמן של מערכות בינה מלאכותית.
1. כתוב קוד טוב יותר ויעיל יותר
קודים אופטימליים יכולים להפחית את צריכת האנרגיה על ידי 30 אחוזים באמצעות ירידה בשימוש בזיכרון ובמעבד. כתיבת קוד חסכוני בפחמן כרוכה באופטימיזציה של אלגוריתמים לביצוע מהיר יותר, צמצום חישובים מיותרים ובחירת חומרה חסכונית באנרגיה לביצוע משימות בפחות כוח.
מפתחים יכולים להשתמש בכלי פרופיל כדי לזהות צווארי בקבוק בביצועים ואזורים לאופטימיזציה בקוד שלהם. תהליך זה יכול להוביל לתוכנה חסכונית יותר באנרגיה. כמו כן, שקול ליישם טכניקות תכנות מודעת לאנרגיה, כאשר הקוד מיועד להתאים למשאבים הזמינים ולתעדף נתיבי ביצוע יעילים באנרגיה.
2. בחר דגם יעיל יותר
בחירת האלגוריתמים ומבני הנתונים הנכונים היא קריטית. מפתחים צריכים לבחור באלגוריתמים שממזערים את המורכבות החישובית וכתוצאה מכך את צריכת האנרגיה. אם המודל המורכב יותר מניב רק שיפור של 3-5% אך לוקח פי 2-3 יותר זמן להתאמן; לאחר מכן בחר את הדגם הפשוט והמהיר יותר.
זיקוק מודלים היא טכניקה נוספת לעיבוי דגמים גדולים לגרסאות קטנות יותר כדי להפוך אותם ליעילים יותר תוך שמירה על ידע חיוני. ניתן להשיג זאת על ידי אימון מודל קטן לחקות את הגדול או הסרת חיבורים מיותרים מרשת עצבית.
3. כוונן את פרמטרי הדגם
כוונן היפרפרמטרים עבור המודל באמצעות אופטימיזציה דו-מטרית המאזנת את ביצועי המודל (למשל, דיוק) וצריכת האנרגיה. גישה דו-אובייקטיבית זו מבטיחה שאינך מקריב אחד עבור השני, מה שהופך את הדגמים שלך ליעילים יותר.
למנף טכניקות כמו כוונון עדין יעיל של פרמטרים (PEFT) שמטרתו להשיג ביצועים דומים לכוונון עדין מסורתי אך עם מספר מופחת של פרמטרים שניתנים לאימון. גישה זו כוללת כוונון עדין של תת-קבוצה קטנה של פרמטרים של מודל תוך הקפאת רוב המודלים הגדולים (LLMs) שהוכשרו מראש, וכתוצאה מכך הפחתה משמעותית במשאבי החישוב ובצריכת האנרגיה.
4. דחוס נתונים והשתמש באחסון באנרגיה נמוכה
הטמעת טכניקות דחיסת נתונים כדי להפחית את כמות הנתונים המועברים. נתונים דחוסים דורשים פחות אנרגיה להעברת ותופסים שטח נמוך יותר בדיסק. במהלך שלב הגשת המודל, שימוש במטמון יכול לעזור להפחית את השיחות שבוצעו לשכבת האחסון המקוונת ובכך להפחית
בנוסף, בחירת טכנולוגיית האחסון הנכונה יכולה להביא לרווחים משמעותיים. למשל. AWS Glacier הוא פתרון יעיל לארכיון נתונים ויכול להיות גישה בת קיימא יותר מאשר שימוש ב-S3 אם אין צורך לגשת לנתונים לעתים קרובות.
5. הרכבת דגמים על אנרגיה נקייה יותר
אם אתה משתמש בשירות ענן לאימון מודלים, אתה יכול לבחור את האזור להפעלת חישובים. בחר אזור המעסיק מקורות אנרגיה מתחדשים למטרה זו, ותוכל להפחית את הפליטות עד 30 פעמים. AWS בלוג מתווה את האיזון בין אופטימיזציה למטרות עסקיות לקיימות.
אפשרות נוספת היא לבחור את הזמן המתאים להפעלת המודל. בשעות מסוימות של היום; האנרגיה נקייה יותר וניתן לרכוש נתונים כאלה באמצעות שירות בתשלום כגון מפת חשמל, המציע גישה לנתונים בזמן אמת ותחזיות עתידיות לגבי עוצמת הפחמן של החשמל באזורים שונים.
6. השתמש במרכזי נתונים מיוחדים ובחומרה להכשרת מודלים
בחירה במרכזי נתונים וחומרה יעילים יותר יכולה לעשות הבדל עצום בעוצמת הפחמן. מרכזי נתונים וחומרה ספציפיים ל-ML יכולים להיות 1.4-2 וחסכוני באנרגיה פי 2-5 מהכללים.
7. השתמש בפריסות ללא שרת כמו AWS Lambda, Azure Functions
פריסות מסורתיות מחייבות את השרת להיות פועל תמיד, מה שאומר צריכת אנרגיה 24×7. פריסות ללא שרת כמו AWS Lambda ו-Azure Functions עובדות מצוין עם עוצמת פחמן מינימלית.
מגזר הבינה המלאכותית חווה צמיחה אקספוננציאלית, החודרת לכל היבט של העסק והקיום היומיומי. עם זאת, ההתרחבות הזו כרוכה במחיר - טביעת רגל פחמנית מתפתחת שמאיימת להרחיק אותנו מהמטרה להגביל את עליית הטמפרטורה העולמית ל-1 מעלות צלזיוס בלבד.
טביעת הרגל הפחמנית הזו היא לא רק דאגה נוכחית; ההשלכות שלה עשויות להשתרע על פני דורות, ולהשפיע על אלה שאינם נושאים באחריות ליצירתו. לכן, זה הופך להיות הכרחי לנקוט פעולות החלטיות כדי להפחית פליטות פחמן הקשורות בינה מלאכותית ולחקור דרכים ברות קיימא למיצוי הפוטנציאל שלה. זה חיוני להבטיח שהיתרונות של AI לא יבואו על חשבון הסביבה ורווחתם של הדורות הבאים.
אנקור גופטה הוא מנהיג הנדסי עם עשור של ניסיון בתחומי קיימות, תחבורה, טלקומוניקציה ותשתיות; כיום מחזיק בתפקיד מנהל הנדסה ב- Uber. בתפקיד זה, הוא ממלא תפקיד מרכזי בהנעת הקידום של פלטפורמת הרכבים של אובר, המוביל את המטען לעבר עתיד אפס פליטות באמצעות שילוב של כלי רכב חשמליים ומחוברים חדישים.
- הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
- PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
- PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
- PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
- PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
- מקור: https://www.kdnuggets.com/greening-ai-7-strategies-to-make-applications-more-sustainable?utm_source=rss&utm_medium=rss&utm_campaign=greening-ai-7-strategies-to-make-applications-more-sustainable
- :יש ל
- :הוא
- :לֹא
- :איפה
- $ למעלה
- 1
- 1.3
- 12
- 15%
- 2021
- 2030
- 7
- 9
- a
- גישה
- נצפה
- נגיש
- חֶשְׁבּוֹן
- היוו
- חשבונאות
- דיוק
- הושג
- ACM
- נרכש
- לרוחב
- פעולות
- באופן פעיל
- להסתגל
- תוספת
- נוסף
- כתובת
- פְּנִיָה
- כראוי
- קידום
- משפיע
- AI
- דגמי AI
- מערכות AI
- AIR
- מזגן
- AL
- אלגוריתמים
- כְּבָר
- גם
- למרות
- תמיד
- אמזון בעברית
- כמות
- an
- מנתח
- ו
- תשתיות
- אחר
- בקשה
- יישומים
- גישה
- ARE
- אזורים
- סביב
- AS
- At
- להשיג
- ניסיונות
- מחברים
- זמין
- שדרות
- מְמוּצָע
- תעופה
- רָחוֹק
- AWS
- AWS למבדה
- תכלת
- איזון
- מבוסס
- BE
- דוב
- להיות
- הופך להיות
- להיות
- הטבות
- מוטב
- בֵּין
- צווארי בקבוק
- להביא
- עסקים
- אבל
- by
- מטמון
- לחשב
- שיחות
- CAN
- יכולות
- פַּחמָן
- פליטת הפחמן
- טביעת רגל פחמנית
- מקרה
- מרכזים
- מסוים
- שינוי
- תשלום
- בחרו
- נתבע
- טענות
- בהירות
- מנקה
- ענן
- ענן מחשוב
- קוד
- קודים
- איך
- מגיע
- מצרך
- מורכב
- מורכבות
- רכיבים
- חישוב
- חישובית
- חישובים
- לחשב
- מחשוב
- דְאָגָה
- לגבי
- דאגות
- מנוהל
- מחובר
- חיבורי
- תוצאתית
- כתוצאה מכך
- לשקול
- מאוכל
- צְרִיכָה
- תורם
- תורם
- מקובל
- יצירה
- מכריע
- כיום
- שיא הטכנולוגיה
- יומי
- נתונים
- מרכז נתונים
- Datacenter
- יְוֹם
- עָשׂוֹר
- החלטה
- מכריע
- ירד
- עמוק
- למידה עמוקה
- דרישה
- לפרוס
- פריסות
- מעוצב
- מפתחים
- הבדל
- אחר
- כיוון
- סילוק
- גיוון
- do
- עושה
- דוג'ה
- תחומים
- עשה
- נהיגה
- ראוי
- בְּמַהֲלָך
- e
- E&T
- אפקטיבי
- יעיל
- מַאֲמָצִים
- חשמלי
- חשמל
- צריכת חשמל
- צריכת חשמל
- מוטבע
- פליטות
- הדגיש
- מוּעֳסָק
- מעסיקה
- אנרגיה
- צריכת אנרגיה
- הנדסה
- לְהַבטִיחַ
- מבטיח
- הבטחתי
- סביבה
- סביבתי
- דאגות סביבתיות
- שווים
- חיוני
- לְהַעֲרִיך
- מוערך
- Ether (ETH)
- אֲפִילוּ
- כל
- התפתח
- הוצאת להורג
- קיים
- הרחבה
- ניסיון
- התנסות
- לְנַסוֹת
- לחקור
- מעריכי
- צמיחה אקספוננציאלית
- להאריך
- נוסף
- מהר
- מהר יותר
- פגום
- מעטים
- תרשים
- דמויות
- סוף
- גמיש
- להתמקד
- הבא
- עָקֵב
- בעד
- נוסחה
- קדימה
- מסגרת
- בתדירות גבוהה
- החל מ-
- קפוא
- פונקציונלי
- תִפקוּד
- פונקציות
- נוסף
- עתיד
- רווחים
- גז
- כללי
- ליצור
- דורות
- גלוֹבָּלִי
- מטרה
- שערים
- GPU
- בהדרגה
- גזי חממה
- פליטת גזי חממה
- רֶשֶׁת
- צמיחה
- חומרה
- רתימה
- יש
- he
- בִּכְבֵדוּת
- לעזור
- ומכאן
- גבוה יותר
- מחזיק
- אולם
- HTTPS
- עצום
- רעב
- לזהות
- IEA
- if
- פְּגִיעָה
- הֶכְרֵחִי
- יישום
- חשוב
- השבחה
- in
- כלול
- הַכלָלָה
- להגדיל
- גדל
- עליות
- גדל
- תעשייה
- הודעה
- תשתית
- למשל
- מקרים
- השתלבות
- אינטל
- התערבות
- אל תוך
- כרוך
- IT
- שֶׁלָה
- jpg
- רק
- KDnuggets
- שמירה
- ידע
- חוסר
- שפה
- גָדוֹל
- שכבה
- עוֹפֶרֶת
- מנהיג
- מנהיגים
- מוביל
- למידה
- פחות
- כמו
- מוגבל
- לינקדין
- מבוסס מיקום
- להוריד
- מכונה
- למידת מכונה
- עשוי
- גדול
- הרוב
- לעשות
- עושה
- עשייה
- לנהל
- מנהל
- רב
- מאי..
- אומר
- למדוד
- מדידת
- זכרון
- מתודולוגיות
- מֵתוֹדוֹלוֹגִיָה
- מינימלי
- לצמצם
- להקל
- הֲקָלָה
- ML
- מודל
- מודלים
- יותר
- יותר יעיל
- צריך
- צורך
- צרכי
- רשת
- עצביים
- רשת עצבית
- אף על פי כן
- לא
- מספר
- Nvidia
- כובש
- of
- המיוחדות שלנו
- לעתים קרובות
- on
- ONE
- יחידות
- באינטרנט
- רק
- להפעיל
- מבצעי
- תפעול
- בזמן
- אופטימיזציה
- מטב
- מיטוב
- אפשרות
- or
- אחר
- קווי מתאר
- שלום
- נפרע
- מאמר
- פרמטרים
- נתיב
- עבור
- אָחוּז
- לבצע
- ביצועים
- פיטר
- שלב
- לבחור
- מכריע
- פלטפורמה
- אפלטון
- מודיעין אפלטון
- אפלטון נתונים
- משחק
- עמדה
- להחזיק
- פוטנציאל
- כּוֹחַ
- כוח
- צורך
- התחזיות
- להציג
- דחוף
- בראש ובראשונה
- תיעדוף
- תהליך
- תהליך
- מעבד
- פרופיל
- תכנות
- התקדמות
- להניע
- מספק
- מטרה
- RAM
- זמן אמת
- נתונים בזמן אמת
- להפחית
- מופחת
- הפחתה
- צמצומים
- מתייחס
- מעודן
- בדבר
- באזור
- אזורים
- אָמִין
- לסמוך
- הסרת
- מתחדשים
- אנרגיה מתחדשת
- השלכות
- מייצג
- לדרוש
- דורש
- מחקר
- משאבים
- אחריות
- תוצאה
- וכתוצאה מכך
- תוצאות
- שמירה
- תקין
- תפקיד
- הפעלה
- s
- מקריב
- אמר
- סולם
- SCI
- מגזר
- בחירה
- רְגִישׁוּת
- שרת
- ללא שרת
- שרות
- הגשה
- שיתוף
- צריך
- הופעות
- משמעותי
- באופן משמעותי
- דומה
- since
- יחיד
- קטן
- קטן יותר
- תוכנה
- פִּתָרוֹן
- מקורות
- מֶרחָב
- מתח
- מיוחד
- לפצל
- להטות
- שלב
- עוד
- עצור
- אחסון
- אסטרטגיות
- מבנים
- נושא
- ניכר
- כזה
- מַתְאִים
- מְצוּיָן
- הסובב
- קיימות
- בר קיימא
- מערכת
- מערכות
- T
- לקחת
- לוקח
- המשימות
- משימות
- טכניקה
- טכניקות
- טכנולוגיה
- טֵלֵקוֹמוּנִיקַציָה
- מֵאֲשֶׁר
- זֶה
- השמיים
- שֶׁלָהֶם
- אותם
- אז
- שם.
- בכך
- לכן
- אלה
- הֵם
- זֶה
- אלה
- מאיים
- דרך
- כָּך
- זמן
- פִּי
- עֲנָק
- ל
- כלי
- כלים
- לקראת
- מסורתי
- רכבת
- מְאוּמָן
- הדרכה
- להעביר
- הובלה
- מְגַמָה
- שתיים
- סופר
- לצערי
- יחידה
- בניגוד
- ללא תחרות
- חסר תקדים
- us
- נוֹהָג
- להשתמש
- שימושים
- באמצעות
- תקף
- כלי רכב
- חיוני
- דרכים
- מה
- ואילו
- אשר
- בזמן
- מי
- של מי
- למה
- יצטרך
- חכמה
- עם
- תיק עבודות
- לכתוב
- כתיבה
- X
- תשואות
- אתה
- זפירנט