این پست با Jayadeep Pabbisetty، Sr. Specialist Engineering Data در Merck، و Prabakaran Mathaiyan، Sr. ML Engineer در Tiger Analytics نوشته شده است.
چرخه عمر توسعه مدل (ML) مدل رشد مدل نیاز به یک فرآیند انتشار مدل مقیاس پذیر شبیه به توسعه نرم افزار دارد. توسعه دهندگان مدل اغلب در توسعه مدلهای ML با هم کار میکنند و برای کار کردن به یک پلتفرم MLOps قوی نیاز دارند. یک پلتفرم MLOps مقیاسپذیر باید شامل فرآیندی برای مدیریت گردش کار رجیستری مدل ML، تأیید، و ارتقاء به سطح محیطی بعدی (توسعه، آزمایش) باشد. ، UAT یا تولید).
یک توسعه دهنده مدل به طور معمول شروع به کار در یک محیط توسعه ML در درون می کند آمازون SageMaker. هنگامی که یک مدل آموزش دیده و آماده استفاده است، باید پس از ثبت در آن تایید شود رجیستری مدل آمازون SageMaker. در این پست، نحوه همکاری تیم AWS AI/ML با تیم Merck Human Health IT MLOps برای ایجاد راهحلی که از یک گردش کار خودکار برای تأیید و ارتقای مدل ML با مداخله انسانی در وسط استفاده میکند، بحث میکنیم.
بررسی اجمالی راه حل
این پست بر روی یک راه حل گردش کار تمرکز دارد که چرخه عمر توسعه مدل ML می تواند بین خط لوله آموزشی و خط لوله استنتاج استفاده کند. این راه حل یک گردش کار مقیاس پذیر برای MLOها در پشتیبانی از فرآیند تأیید و ارتقاء مدل ML با مداخله انسانی فراهم می کند. یک مدل ML که توسط یک دانشمند داده ثبت شده است، قبل از استفاده برای خط لوله استنتاج و در سطح محیطی بعدی (تست، UAT یا تولید) به یک تأیید کننده نیاز دارد تا بررسی و تأیید شود. راه حل استفاده می کند AWS لامبدا, دروازه API آمازون, پل رویداد آمازونو SageMaker برای خودکارسازی گردش کار با مداخله تایید انسانی در وسط. نمودار معماری زیر طراحی کلی سیستم، خدمات AWS مورد استفاده و گردش کار برای تایید و ارتقای مدلهای ML با مداخله انسانی از توسعه تا تولید را نشان میدهد.
گردش کار شامل مراحل زیر است:
- خط لوله آموزشی یک مدل را در رجیستری مدل SageMaker ایجاد و ثبت می کند. در این مرحله، وضعیت مدل است
PendingManualApproval
. - EventBridge رویدادهای تغییر وضعیت را نظارت می کند تا به طور خودکار اقداماتی را با قوانین ساده انجام دهد.
- قانون رویداد ثبت مدل EventBridge یک تابع Lambda را فراخوانی می کند که یک ایمیل با پیوندی برای تأیید یا رد مدل ثبت شده ایجاد می کند.
- تأیید کننده ایمیلی با پیوند برای بررسی و تأیید یا رد مدل دریافت می کند.
- تأیید کننده مدل را با دنبال کردن پیوند موجود در ایمیل به نقطه پایانی API Gateway تأیید می کند.
- API Gateway یک تابع Lambda را برای شروع بهروزرسانی مدل فراخوانی میکند.
- رجیستری مدل برای وضعیت مدل به روز می شود (
Approved
برای محیط توسعه دهنده، اماPendingManualApproval
برای تست، UAT و تولید). - جزئیات مدل در آن ذخیره می شود فروشگاه پارامتر AWS، قابلیتی از مدیر سیستم های AWS، شامل نسخه مدل، محیط هدف مورد تایید، بسته مدل.
- خط لوله استنتاج مدل تأیید شده برای محیط هدف را از فروشگاه پارامتر بدست می آورد.
- تابع Lambda اعلان پس از استنتاج، معیارهای استنتاج دستهای را جمعآوری میکند و یک ایمیل به تأییدکننده میفرستد تا مدل را به محیط بعدی ارتقا دهد.
پیش نیازها
گردش کار در این پست فرض می کند محیط برای خط لوله آموزش در Sagemaker و سایر منابع تنظیم شده است. ورودی به خط لوله آموزش مجموعه داده های ویژگی است. جزئیات تولید ویژگی در این پست گنجانده نشده است، اما بر روی رجیستری، تایید و ارتقای مدلهای ML پس از آموزش تمرکز دارد. این مدل در ثبت مدل ثبت شده است و توسط یک چارچوب نظارت در اداره می شود مانیتور مدل آمازون SageMaker برای شناسایی هرگونه دریفت و ادامه آموزش مجدد در صورت رانش مدل.
جزئیات گردش کار
گردش کار تأیید با مدلی که از یک خط لوله آموزشی تهیه شده است ، شروع می شود. هنگامی که دانشمندان داده مدلی را تهیه می کنند ، آنها را با وضعیت مدل در ثبت نام مدل Sagemaker ثبت می کنند PendingManualApproval
. EventBridge SageMaker را برای رویداد ثبت مدل نظارت می کند و یک قانون رویداد را راه اندازی می کند که یک تابع Lambda را فراخوانی می کند. تابع Lambda به صورت پویا یک ایمیل برای تأیید مدل با پیوندی به یک نقطه پایانی API Gateway به یک تابع Lambda دیگر می سازد. هنگامی که تأیید کننده پیوند را برای تأیید مدل دنبال می کند، API Gateway اقدام تأیید را به تابع Lambda ارسال می کند که رجیستری مدل SageMaker و ویژگی های مدل را در Parameter Store به روز می کند. تایید کننده باید احراز هویت شده باشد و بخشی از گروه تایید کننده توسط Active Directory مدیریت شود. تایید اولیه مدل را به عنوان علامت گذاری می کند Approved
برای توسعه دهنده اما PendingManualApproval
برای تست، UAT و تولید. ویژگیهای مدل ذخیرهشده در Parameter Store شامل نسخه مدل، بسته مدل و محیط هدف تأیید شده است.
هنگامی که خط لوله استنتاج نیاز به واکشی یک مدل دارد، Parameter Store را برای آخرین نسخه مدل تایید شده برای محیط هدف بررسی می کند و جزئیات استنتاج را دریافت می کند. هنگامی که خط لوله استنتاج کامل شد، یک ایمیل اعلان پس از استنباط به یکی از ذینفعان ارسال می شود که درخواست تایید برای ارتقای مدل به سطح محیطی بعدی می کند. این ایمیل دارای جزئیات مربوط به مدل و معیارها و همچنین یک پیوند تأیید به یک نقطه پایانی API Gateway برای یک تابع Lambda است که ویژگیهای مدل را بهروزرسانی میکند.
در زیر دنباله ای از رویدادها و مراحل پیاده سازی برای گردش کار تایید/ترویج مدل ML از ایجاد مدل تا تولید آمده است. این مدل از توسعه به محیط های آزمایش، UAT و تولید با تأیید صریح انسانی در هر مرحله ارتقا می یابد.
ما با خط لوله آموزشی شروع می کنیم که برای توسعه مدل آماده است. نسخه مدل با 0 در SageMaker Model Registry شروع می شود.
- خط لوله آموزشی SageMaker یک مدل را در SageMaker Model Registry ایجاد و ثبت می کند. مدل نسخه 1 ثبت شده است و با آن شروع می شود در انتظار تأیید دستی وضعیت.ابرداده رجیستری مدل دارای چهار فیلد سفارشی برای محیطها است:
dev, test, uat
وprod
. - EventBridge رجیستری مدل SageMaker را برای تغییر وضعیت نظارت می کند تا به طور خودکار با قوانین ساده اقدام کند.
- قانون رویداد ثبت مدل یک تابع Lambda را فراخوانی می کند که یک ایمیل با پیوند برای تأیید یا رد مدل ثبت شده ایجاد می کند.
- تأییدکننده یک ایمیل با پیوند بررسی و تأیید (یا رد) مدل دریافت می کند.
- تأیید کننده مدل را با دنبال کردن پیوند به نقطه پایانی API Gateway در ایمیل تأیید می کند.
- API Gateway تابع Lambda را برای شروع بهروزرسانی مدل فراخوانی میکند.
- رجیستری مدل SageMaker با وضعیت مدل به روز می شود.
- اطلاعات جزئیات مدل، از جمله نسخه مدل، محیط هدف تایید شده و بسته مدل در Parameter Store ذخیره می شود.
- خط لوله استنتاج مدل تأیید شده برای محیط هدف را از فروشگاه پارامتر بدست می آورد.
- تابع Lambda اعلان پس از استنتاج، معیارهای استنتاج دستهای را جمعآوری میکند و یک ایمیل به تأییدکننده میفرستد تا مدل را به محیط بعدی ارتقا دهد.
- تأییدکننده با دنبال کردن پیوند به نقطه پایانی API Gateway، ارتقاء مدل را به سطح بعدی تأیید میکند، که تابع Lambda را برای بهروزرسانی فروشگاه SageMaker Model Registry و Parameter فعال میکند.
تاریخچه کامل نسخهسازی و تایید مدل برای بررسی در Parameter Store ذخیره میشود.
نتیجه
چرخه عمر توسعه مدل ML بزرگ به یک فرآیند تأیید مدل ML مقیاس پذیر نیاز دارد. در این پست، اجرای یک رجیستری مدل ML، تایید و گردش کار ارتقاء را با مداخله انسانی با استفاده از SageMaker Model Registry، EventBridge، API Gateway و Lambda به اشتراک گذاشتیم. اگر یک فرآیند توسعه مدل ML مقیاس پذیر را برای پلتفرم MLOps خود در نظر می گیرید، می توانید مراحل این پست را برای پیاده سازی گردش کاری مشابه دنبال کنید.
درباره نویسندگان
تام کیم یک معمار ارشد راه حل در AWS است، جایی که به مشتریانش کمک می کند تا با توسعه راه حل هایی در AWS به اهداف تجاری خود برسند. او تجربه گسترده ای در معماری سیستم های سازمانی و عملیات در چندین صنعت - به ویژه در مراقبت های بهداشتی و علوم زندگی دارد. تام همیشه در حال یادگیری فنآوریهای جدیدی است که به نتایج کسبوکار مطلوب برای مشتریان منجر میشود - به عنوان مثال. AI/ML، GenAI و تجزیه و تحلیل داده ها. او همچنین از سفر به مکانهای جدید و بازی در زمینهای گلف جدید هر زمان که فرصت پیدا کند لذت میبرد.
شامیکا آریاوانسا، به عنوان معمار ارشد راه حل های AI / ML در بخش بهداشت و درمان و علوم زندگی در خدمات وب آمازون (AWS)، متخصص در هوش مصنوعی، با تمرکز بر آموزش مدل زبان بزرگ (LLM)، بهینه سازی استنتاج، و MLOps (یادگیری ماشین) است. عملیات). او مشتریان را در تعبیه هوش مصنوعی پیشرفته در پروژههایشان راهنمایی میکند، از فرآیندهای آموزشی قوی، مکانیسمهای استنتاج کارآمد، و روشهای MLOps کارآمد برای راهحلهای هوش مصنوعی مؤثر و مقیاسپذیر اطمینان میدهد. شامیکا فراتر از تعهدات حرفه ای خود، عاشقانه اسکی و ماجراجویی های خارج از جاده را دنبال می کند.
جایدیپ پابیستی مهندس ارشد ML/Data در Merck است، جایی که او راه حل های ETL و MLOps را برای باز کردن قفل علم داده و تجزیه و تحلیل برای تجارت طراحی و توسعه می دهد. او همیشه مشتاق یادگیری فنآوریهای جدید، کشف راههای جدید و کسب مهارتهای لازم برای تکامل در صنعت فناوری اطلاعات است. او در اوقات فراغت اش علاقه اش به ورزش را دنبال می کند و دوست دارد سفر کند و مکان های جدید را کشف کند.
پراباکران ماتاییان یک مهندس ارشد یادگیری ماشین در Tiger Analytics LLC است که در آنجا به مشتریان خود کمک می کند تا با ارائه راه حل هایی برای ساخت مدل، آموزش، اعتبارسنجی، نظارت، CICD و بهبود راه حل های یادگیری ماشین در AWS به اهداف تجاری خود برسند. Prabakaran همیشه در حال یادگیری فن آوری های جدید است که منجر به نتایج مطلوب تجاری برای مشتریان می شود - به عنوان مثال. AI/ML، GenAI، GPT و LLM. او همچنین از بازی کریکت هر زمان که فرصت پیدا کند لذت می برد.
- محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
- PlatoData.Network Vertical Generative Ai. به خودت قدرت بده دسترسی به اینجا.
- PlatoAiStream. هوش وب 3 دانش تقویت شده دسترسی به اینجا.
- PlatoESG. کربن ، CleanTech، انرژی، محیط، خورشیدی، مدیریت پسماند دسترسی به اینجا.
- PlatoHealth. هوش بیوتکنولوژی و آزمایشات بالینی. دسترسی به اینجا.
- منبع: https://aws.amazon.com/blogs/machine-learning/build-an-amazon-sagemaker-model-registry-approval-and-promotion-workflow-with-human-intervention/
- : دارد
- :است
- :نه
- :جایی که
- $UP
- 1
- 100
- 110
- 116
- a
- درباره ما
- رسیدن
- کسب
- در میان
- عمل
- اقدامات
- فعال
- اکتیو دایرکتوری
- پیشرفته
- ماجراهای
- پس از
- AI
- AI / ML
- در امتداد
- همچنین
- همیشه
- آمازون
- آمازون SageMaker
- آمازون خدمات وب
- خدمات وب آمازون (AWS)
- an
- علم تجزیه و تحلیل
- و
- دیگر
- هر
- API
- تصویب
- تصویب
- تایید کرد
- معماری
- هستند
- AS
- فرض می کند
- At
- خواص
- تأیید اعتبار
- خودکار بودن
- خودکار
- بطور خودکار
- راه ها
- AWS
- BE
- قبل از
- بودن
- میان
- خارج از
- پایین
- ساختن
- بنا
- اتوبوس
- کسب و کار
- اما
- by
- CAN
- قابلیت
- اهميت دادن
- مورد
- تغییر دادن
- چک
- رمز
- همکاری کرد
- جمع می کند
- تعهدات
- کامل
- با توجه به
- دوره
- ایجاد
- کریکت
- سفارشی
- مشتریان
- داده ها
- تجزیه و تحلیل داده ها
- علم اطلاعات
- دانشمند داده
- طرح
- طرح
- مطلوب
- جزئیات
- جزئیات
- تشخیص
- برنامه نویس
- توسعه
- توسعه
- توسعه دهنده
- توسعه دهندگان
- در حال توسعه
- پروژه
- توسعه
- بحث و تبادل نظر
- بخش
- بطور پویا
- e
- هر
- موثر
- موثر
- پست الکترونیک
- تعبیه کردن
- نقطه پایانی
- مهندس
- مهندسی
- حصول اطمینان از
- سرمایه گذاری
- مشتاق
- محیط
- محیط
- اتر (ETH)
- واقعه
- حوادث
- همیشه در حال تغییر
- تکامل یابد
- تجربه
- اکتشاف
- بررسی
- وسیع
- تجربه گسترده
- ویژگی
- امکانات
- زمینه
- پیدا کردن
- تمرکز
- تمرکز
- به دنبال
- پیروی
- به دنبال آن است
- برای
- چهار
- چارچوب
- از جانب
- تابع
- دروازه
- نسل
- مولد
- هوش مصنوعی مولد
- گلف
- اداره می شود
- گروه
- راهنما
- اداره
- he
- سلامتی
- مراقبت های بهداشتی
- بهداشت و درمان
- کمک می کند
- خود را
- تاریخ
- چگونه
- HTML
- HTTPS
- انسان
- if
- انجام
- پیاده سازی
- بهبود
- in
- شامل
- مشمول
- شامل
- از جمله
- فرد
- لوازم
- صنعت
- اطلاعات
- اول
- وارد کردن
- ورودی
- ادغام
- مداخله
- به
- فراخوانی میکند
- IT
- صنعت فناوری اطلاعات
- JPG
- زبان
- بزرگ
- آخرین
- رهبری
- یادگیری
- سطح
- زندگی
- علم زندگی
- علوم زندگی
- wifecycwe
- دوست دارد
- ارتباط دادن
- LLC
- دستگاه
- فراگیری ماشین
- اداره می شود
- کتابچه راهنمای
- مکانیسم
- مرک
- متاداده
- متریک
- متوسط
- ML
- MLO ها
- مدل
- مدل
- نظارت بر
- مانیتور
- باید
- لازم
- نیازهای
- جدید
- فناوری های نوین
- بعد
- اخطار
- اهداف
- of
- غالبا
- on
- عملیات
- or
- دیگر
- نتیجه
- به طور کلی
- بسته
- پارامتر
- بخش
- ویژه
- شور
- الگو
- خط لوله
- اماکن
- سکو
- افلاطون
- هوش داده افلاطون
- PlatoData
- بازی
- نقطه
- تصویر
- پست
- شیوه های
- ادامه
- روند
- فرآیندهای
- تولید
- حرفه ای
- پروژه ها
- ترویج
- ترویج
- ترویج
- ترویج
- فراهم می کند
- ارائه
- تعقیب می کند
- اماده
- ثبت نام
- ثبت نام
- ثبت
- ثبت
- رجیستری
- آزاد
- درخواست
- نیاز
- نیاز
- منابع
- بازآموزی
- این فایل نقد می نویسید:
- تنومند
- مسیر
- قانون
- قوانین
- s
- حکیم ساز
- نگهداری می شود
- مقیاس پذیر
- علم
- علوم
- دانشمند
- دانشمندان
- می فرستد
- ارشد
- فرستاده
- دنباله
- خدمات
- خدمت
- تنظیم
- چند
- به اشتراک گذاشته شده
- نشان می دهد
- مشابه
- ساده
- مهارت ها
- نرم افزار
- توسعه نرم افزار
- راه حل
- مزایا
- متخصص
- تخصص دارد
- ورزش ها
- ذینفع
- شروع
- شروع می شود
- وضعیت
- گام
- مراحل
- opbevare
- ذخیره شده
- ساده
- حمایت از
- سیستم
- سیستم های
- گرفتن
- هدف
- تیم
- فن آوری
- آزمون
- که
- La
- شان
- آنها
- این
- ببر
- زمان
- به
- با هم
- تام
- آموزش دیده
- آموزش
- سفر
- سفر
- به طور معمول
- باز
- بروزرسانی
- به روز شده
- به روز رسانی
- استفاده کنید
- استفاده
- استفاده
- با استفاده از
- اعتبار سنجی
- نسخه
- we
- وب
- خدمات وب
- خوب
- چه زمانی
- هر زمان که
- که
- با
- در داخل
- مهاجرت کاری
- همکاری
- گردش کار
- شما
- شما
- زفیرنت