פוסט זה נכתב בשיתוף עם Jayadeep Pabbiseti, האב מומחה להנדסת נתונים ב-Merck, ו-Prabakaran Mathaiyan, Sr. ML Engineer ב-Tiger Analytics.
מחזור החיים של פיתוח מודל למידת מכונה גדולה (ML) מצריך תהליך שחרור מודל ניתן להרחבה בדומה לזה של פיתוח תוכנה. מפתחי מודלים עובדים לעתים קרובות יחד בפיתוח מודלים של ML ודורשים פלטפורמת MLOps חזקה לעבוד בה. פלטפורמת MLOps ניתנת להרחבה צריכה לכלול תהליך לטיפול בזרימת העבודה של הרישום, האישור והקידום של מודל ML לרמת הסביבה הבאה (פיתוח, בדיקה , UAT או ייצור).
מפתח מודלים מתחיל בדרך כלל לעבוד בסביבת פיתוח ML אינדיבידואלית אמזון SageMaker. כאשר דגם מאומן ומוכן לשימוש, יש לאשר אותו לאחר רישום ב- רישום הדגמים של אמזון SageMaker. בפוסט זה, אנו דנים כיצד צוות AWS AI/ML שיתף פעולה עם צוות Merck Human Health IT MLOps כדי לבנות פתרון המשתמש בזרימת עבודה אוטומטית לאישור וקידום מודל ML עם התערבות אנושית באמצע.
סקירה כללית של הפיתרון
פוסט זה מתמקד בפתרון זרימת עבודה שמחזור החיים של פיתוח מודל ML יכול להשתמש בו בין צינור ההדרכה לצינור ההסקה. הפתרון מספק זרימת עבודה ניתנת להרחבה עבור MLOps בתמיכה בתהליך האישור והקידום של מודל ML עם התערבות אנושית. מודל ML שנרשם על ידי מדען נתונים זקוק למאשר שיסקור ויאשר לפני שישמש עבור צינור מסקנות וברמת הסביבה הבאה (בדיקה, UAT או ייצור). הפתרון משתמש AWS למבדה, שער API של אמזון, אמזון EventBridge, ו- SageMaker כדי להפוך את זרימת העבודה לאוטומטית עם התערבות של אישור אנושי באמצע. דיאגרמת הארכיטקטורה הבאה מציגה את תכנון המערכת הכולל, את שירותי ה-AWS בשימוש ואת זרימת העבודה לאישור וקידום מודלים של ML עם התערבות אנושית מפיתוח לייצור.
זרימת העבודה כוללת את השלבים הבאים:
- צינור ההדרכה מפתח ורושם מודל ברישום המודלים של SageMaker. בשלב זה, מצב הדגם הוא
PendingManualApproval
. - EventBridge עוקב אחר אירועי שינוי סטטוס כדי לבצע פעולות אוטומטית עם כללים פשוטים.
- כלל אירוע רישום המודל EventBridge מפעיל פונקציית Lambda הבונה מייל עם קישור לאישור או לדחייה של המודל הרשום.
- המאשר מקבל אימייל עם הקישור לבדיקה ואישור או דחייה של הדגם.
- המאשר מאשר את המודל על ידי לחיצה על הקישור בדוא"ל לנקודת קצה של API Gateway.
- API Gateway מפעיל פונקציית Lambda כדי ליזום עדכוני מודל.
- רישום הדגמים מתעדכן עבור מצב הדגם (
Approved
עבור סביבת הפיתוח, אבלPendingManualApproval
לבדיקה, UAT והפקה). - פרטי הדגם מאוחסנים ב חנות פרמטרים של AWS, יכולת של מנהל מערכות AWS, כולל גרסת הדגם, סביבת היעד המאושרת, חבילת הדגם.
- צינור ההסקה מביא את המודל שאושר עבור סביבת היעד מ-Parameter Store.
- פונקציית Lambda שלאחר ההסקה אוספת מדדי מסקנות אצווה ושולחת אימייל למאשר כדי לקדם את המודל לסביבה הבאה.
תנאים מוקדמים
זרימת העבודה בפוסט זה מניחה שהסביבה עבור צינור ההדרכה מוגדרת ב- SageMaker, יחד עם משאבים אחרים. הקלט לצינור ההדרכה הוא מערך הנתונים של התכונות. פרטי יצירת התכונות אינם כלולים בפוסט זה, אך הוא מתמקד ברישום, אישור וקידום של דגמי ML לאחר הכשרה. המודל רשום במרשם המודלים ומנוהל על ידי מסגרת ניטור ב אמזון SageMaker דגם צג לזהות עבור כל סחיפה ולהמשיך לאימון מחדש במקרה של סחיפה של הדגם.
פרטי זרימת עבודה
זרימת העבודה של האישור מתחילה במודל שפותח מצינור הדרכה. כאשר מדעני נתונים מפתחים מודל, הם רושמים אותו ל- SageMaker Model Registry עם סטטוס המודל של PendingManualApproval
. EventBridge מנטר את SageMaker עבור אירוע רישום הדגם ומפעיל כלל אירוע שמפעיל פונקציית Lambda. פונקציית Lambda בונה באופן דינמי מייל לאישור המודל עם קישור לנקודת קצה API Gateway לפונקציית Lambda אחרת. כאשר המאשר עוקב אחר הקישור כדי לאשר את המודל, API Gateway מעביר את פעולת האישור לפונקציית Lambda, אשר מעדכנת את רישום המודלים של SageMaker ואת תכונות המודל ב-Parameter Store. המאשר חייב להיות מאומת וחלק מקבוצת המאשרים המנוהלת על ידי Active Directory. האישור הראשוני מסמן את הדגם כ Approved
עבור dev אבל PendingManualApproval
לבדיקה, UAT והפקה. תכונות הדגם שנשמרו ב-Parameter Store כוללות את גרסת הדגם, חבילת הדגם וסביבת היעד המאושרת.
כאשר צינור מסקנות צריך להביא מודל, הוא בודק את מאגר הפרמטרים עבור גרסת הדגם העדכנית ביותר שאושרה עבור סביבת היעד ומקבל את פרטי ההסקה. כאשר צינור ההסקה הושלם, נשלחת הודעת דוא"ל לאחר מסקנות לבעל עניין המבקש אישור לקדם את המודל לרמת הסביבה הבאה. האימייל מכיל את הפרטים על המודל והמדדים וכן קישור אישור לנקודת קצה API Gateway עבור פונקציית Lambda שמעדכנת את תכונות המודל.
להלן רצף האירועים ושלבי ההטמעה עבור זרימת העבודה של אישור/קידום מודל ML מיצירת המודל ועד לייצור. המודל מקודם מפיתוח לסביבות בדיקה, UAT וייצור עם אישור אנושי מפורש בכל שלב.
אנחנו מתחילים עם צינור ההדרכה, שמוכן לפיתוח מודל. גרסת הדגם מתחילה כ-0 ב- SageMaker Model Registry.
- צינור ההדרכה של SageMaker מפתח ורושם מודל ב- SageMaker Model Registry. דגם גרסה 1 רשום ומתחיל ב ממתין לאישור ידני מעמד.למטא נתונים של רישום המודל יש ארבעה שדות מותאמים אישית עבור הסביבות:
dev, test, uat
, וprod
. - EventBridge מנטר את רישום המודלים של SageMaker לשינוי הסטטוס כדי לנקוט פעולה אוטומטית עם כללים פשוטים.
- כלל אירוע רישום המודל מפעיל פונקציית Lambda הבונה מייל עם הקישור לאישור או לדחייה של המודל הרשום.
- המאשר מקבל אימייל עם הקישור לבדיקה ואישור (או דחייה) של הדגם.
- המאשר מאשר את המודל על ידי לחיצה על הקישור לנקודת הקצה של API Gateway בדוא"ל.
- API Gateway מפעיל את פונקציית Lambda כדי ליזום עדכוני מודל.
- רישום הדגמים של SageMaker מעודכן עם סטטוס הדגם.
- מידע פרטי הדגם מאוחסן ב-Parameter Store, כולל גרסת הדגם, סביבת היעד המאושרת וחבילת הדגם.
- צינור ההסקה מביא את המודל שאושר עבור סביבת היעד מ-Parameter Store.
- פונקציית Lambda שלאחר ההסקה אוספת מדדי מסקנות אצווה ושולחת אימייל למאשר כדי לקדם את המודל לסביבה הבאה.
- המאשר מאשר את קידום המודל לשלב הבא על ידי לחיצה על הקישור לנקודת הקצה API Gateway, אשר מפעילה את פונקציית Lambda כדי לעדכן את רישום המודלים ומאגר הפרמטרים של SageMaker.
ההיסטוריה המלאה של גירסאות ואישור הדגם נשמרת לבדיקה ב-Parameter Store.
סיכום
מחזור החיים הגדול של פיתוח מודל ML דורש תהליך אישור מודל ML ניתן להרחבה. בפוסט זה, שיתפנו יישום של רישום, אישור וקידום עבודה של מודל ML עם התערבות אנושית באמצעות SageMaker Model Registry, EventBridge, API Gateway ו- Lambda. אם אתה שוקל תהליך פיתוח מודל ML הניתן להרחבה עבור פלטפורמת MLOps שלך, תוכל לבצע את השלבים בפוסט זה כדי ליישם זרימת עבודה דומה.
על המחברים
טום קים הוא אדריכל פתרונות בכיר ב-AWS, שם הוא עוזר ללקוחותיו להשיג את היעדים העסקיים שלהם על ידי פיתוח פתרונות ב-AWS. יש לו ניסיון רב בארכיטקטורת מערכות ארגוניות ותפעול בכמה תעשיות - במיוחד בתחום הבריאות ומדעי החיים. טום לומד תמיד טכנולוגיות חדשות המובילות לתוצאה עסקית רצויה עבור לקוחות - למשל. AI/ML, GenAI ו-Data Analytics. הוא גם נהנה לנסוע למקומות חדשים ולשחק במגרשי גולף חדשים בכל פעם שהוא יכול למצוא זמן.
שמיקה אריאוואנסה, משמש כארכיטקט פתרונות בינה מלאכותית/ML בכיר בחטיבת הבריאות ומדעי החיים בשירותי האינטרנט של אמזון (AWS), מתמחה בבינה מלאכותית גנרטיבית, עם התמקדות בהדרכה של מודל שפה גדול (LLM), אופטימיזציות מסקנות ו-MLOps (למידת מכונה). פעולות). הוא מדריך לקוחות בהטמעת בינה מלאכותית גנרית מתקדמת בפרויקטים שלהם, תוך הבטחת תהליכי הכשרה חזקים, מנגנוני הסקה יעילים ונהלי MLOps יעילים לפתרונות AI יעילים וניתנים להרחבה. מעבר למחויבויות המקצועיות שלו, שמיקה רודף בלהט סקי והרפתקאות שטח.
ג'יידיפ פאביסטי הוא מהנדס ML/Data בכיר ב-Merk, שם הוא מעצב ומפתח פתרונות ETL ו-MLOps לפתיחת מדע וניתוח נתונים עבור העסק. הוא תמיד נלהב ללמוד טכנולוגיות חדשות, לחקור אפיקים חדשים ולרכוש את הכישורים הדרושים כדי להתפתח עם תעשיית ה-IT המשתנה ללא הרף. בזמנו הפנוי, הוא עוקב אחר התשוקה שלו לספורט ואוהב לטייל ולחקור מקומות חדשים.
פראבקארן מתאיאן הוא מהנדס למידת מכונה בכיר ב-Tiger Analytics LLC, שם הוא עוזר ללקוחותיו להשיג את היעדים העסקיים שלהם על ידי מתן פתרונות לבניית מודל, הדרכה, אימות, ניטור, CICD ושיפור פתרונות למידת מכונה ב-AWS. Prabakaran תמיד לומדת טכנולוגיות חדשות המובילות לתוצאה עסקית רצויה עבור הלקוחות - למשל. AI/ML, GenAI, GPT ו-LLM. הוא גם נהנה לשחק קריקט בכל פעם שהוא יכול למצוא זמן.
- הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
- PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
- PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
- PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
- PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
- מקור: https://aws.amazon.com/blogs/machine-learning/build-an-amazon-sagemaker-model-registry-approval-and-promotion-workflow-with-human-intervention/
- :יש ל
- :הוא
- :לֹא
- :איפה
- $ למעלה
- 1
- 100
- 110
- 116
- a
- אודות
- להשיג
- רכישה
- לרוחב
- פעולה
- פעולות
- פעיל
- של Active Directory
- מתקדם
- הרפתקאות
- לאחר
- AI
- AI / ML
- לאורך
- גם
- תמיד
- אמזון בעברית
- אמזון SageMaker
- אמזון שירותי אינטרנט
- אמזון שירותי אינטרנט (AWS)
- an
- ניתוח
- ו
- אחר
- כל
- API
- הסכמה
- לאשר
- מאושר
- ארכיטקטורה
- ARE
- AS
- מניח
- At
- תכונות
- מאומת
- אוטומטי
- אוטומטי
- באופן אוטומטי
- שדרות
- AWS
- BE
- לפני
- להיות
- בֵּין
- מעבר
- תַחתִית
- לִבנוֹת
- בִּניָן
- אוטובוס
- עסקים
- אבל
- by
- CAN
- יכולת
- אשר
- מקרה
- שינוי
- בדיקות
- קוד
- שיתף פעולה
- אוסף
- התחייבויות
- להשלים
- בהתחשב
- קורסים
- יצירה
- קריקט
- מנהג
- לקוחות
- נתונים
- ניתוח נתונים
- מדע נתונים
- מדען נתונים
- עיצוב
- עיצובים
- רצוי
- פרט
- פרטים
- לאתר
- dev
- לפתח
- מפותח
- מפתח
- מפתחים
- מתפתח
- צעצועי התפתחות
- מפתחת
- לדון
- חטיבה
- באופן דינמי
- e
- כל אחד
- אפקטיבי
- יעיל
- אמייל
- הטבעה
- נקודת קצה
- מהנדס
- הנדסה
- הבטחתי
- מִפְעָל
- נלהב
- סביבה
- סביבות
- Ether (ETH)
- אירוע
- אירועים
- משתנה תמידית
- להתפתח
- ניסיון
- לחקור
- היכרות
- נרחב
- ניסיון רב
- מאפיין
- תכונות
- שדות
- להתמקד
- מתמקד
- לעקוב
- הבא
- כדלקמן
- בעד
- ארבע
- מסגרת
- החל מ-
- פונקציה
- שער כניסה
- דור
- גנרטטיבית
- AI Generative
- גולף
- נשלט
- קְבוּצָה
- מדריך
- טיפול
- he
- בְּרִיאוּת
- בריאות הציבור
- בריאות
- עוזר
- שֶׁלוֹ
- היסטוריה
- איך
- HTML
- HTTPS
- בן אנוש
- if
- ליישם
- הפעלה
- השבחה
- in
- לכלול
- כלול
- כולל
- כולל
- בנפרד
- תעשיות
- תעשייה
- מידע
- בתחילה
- ליזום
- קלט
- השתלבות
- התערבות
- אל תוך
- מעורר
- IT
- תעשיית ה- IT
- jpg
- שפה
- גָדוֹל
- האחרון
- עוֹפֶרֶת
- למידה
- רמה
- החיים
- מדעי החיים
- מדעי חיים
- מעגל החיים
- אוהב
- קשר
- LLC
- מכונה
- למידת מכונה
- הצליח
- מדריך ל
- מנגנוני
- מרק
- מידע נוסף
- מדדים
- אמצע
- ML
- MLOps
- מודל
- מודלים
- ניטור
- צגים
- צריך
- הכרחי
- צרכי
- חדש
- טכנולוגיות חדשות
- הבא
- הודעה
- יעדים
- of
- לעתים קרובות
- on
- תפעול
- or
- אחר
- תוֹצָאָה
- מקיף
- חבילה
- פרמטר
- חלק
- במיוחד
- תשוקה
- תבנית
- צינור
- מקומות
- פלטפורמה
- אפלטון
- מודיעין אפלטון
- אפלטון נתונים
- משחק
- נקודה
- דיוקן
- הודעה
- פרקטיקות
- להמשיך
- תהליך
- תהליכים
- הפקה
- מקצועי
- פרויקטים
- לקדם
- מקודם
- קידום
- קידום
- מספק
- מתן
- רודף
- מוכן
- הירשם
- רשום
- רושמים
- הַרשָׁמָה
- רישום
- לשחרר
- המבקש
- לדרוש
- דורש
- משאבים
- הסבה מקצועית
- סקירה
- חָסוֹן
- מסלול
- כלל
- כללי
- s
- בעל חכמים
- הציל
- להרחבה
- מדע
- מדעים
- מַדְעָן
- מדענים
- שולח
- לחצני מצוקה לפנסיונרים
- נשלח
- רצף
- שירותים
- הגשה
- סט
- כמה
- משותף
- הופעות
- דומה
- פָּשׁוּט
- מיומנויות
- תוכנה
- פיתוח תוכנה
- פִּתָרוֹן
- פתרונות
- מומחה
- מתמחה
- ספורט
- בעלי העניין
- התחלה
- התחלות
- מצב
- שלב
- צעדים
- חנות
- מאוחסן
- זִרמִי
- מסייע
- מערכת
- מערכות
- לקחת
- יעד
- נבחרת
- טכנולוגיות
- מבחן
- זֶה
- השמיים
- שֶׁלָהֶם
- הֵם
- זֶה
- נָמֵר
- זמן
- ל
- יַחַד
- טום
- מְאוּמָן
- הדרכה
- נסיעות
- נסיעה
- בדרך כלל
- לפתוח
- עדכון
- מְעוּדכָּן
- עדכונים
- להשתמש
- מְשׁוּמָשׁ
- שימושים
- באמצעות
- אימות
- גרסה
- we
- אינטרנט
- שירותי אינטרנט
- טוֹב
- מתי
- בכל פעם
- אשר
- עם
- בתוך
- תיק עבודות
- לעבוד יחד
- זרימת עבודה
- אתה
- זפירנט