See postitus on kirjutatud koos Mercki andmetehnoloogia vanemspetsialisti Jayadeep Pabbisettyga ja Tiger Analyticsi vanem ML-insener Prabakaran Mathaiyaniga.
Suure masinõppe (ML) mudeli arendamise elutsükkel nõuab skaleeritavat mudeli väljalaskeprotsessi, mis sarnaneb tarkvaraarenduse protsessiga. Mudeliarendajad teevad ML-mudelite väljatöötamisel sageli koostööd ja vajavad töötamiseks tugevat MLOps-platvormi. Skaleeritav MLOps-platvorm peab sisaldama protsessi ML-mudelite registri töövoo haldamiseks, kinnitamiseks ja järgmisele keskkonnatasemele (arendus, testimine) , UAT või tootmine).
Mudeli arendaja alustab tavaliselt tööd individuaalses ML-i arenduskeskkonnas Amazon SageMaker. Kui mudel on välja õpetatud ja kasutamiseks valmis, tuleb see pärast asutuses registreerimist kinnitada Amazon SageMakeri mudeliregister. Selles postituses arutleme, kuidas AWS AI/ML meeskond tegi koostööd Merck Human Health IT MLOps meeskonnaga, et luua lahendus, mis kasutab ML mudeli kinnitamiseks ja reklaamimiseks automatiseeritud töövoogu, mille keskel on inimese sekkumine.
Ülevaade lahendusest
See postitus keskendub töövoolahendusele, mida ML-mudeli arendamise elutsükkel saab kasutada koolituskonveieri ja järelduste konveieri vahel. Lahendus pakub MLO-de jaoks skaleeritavat töövoogu, mis toetab ML-mudeli kinnitamise ja edendamise protsessi inimese sekkumisega. Andmeteadlase registreeritud ML-mudel vajab kinnitajat, kes peab selle üle vaatama ja heaks kiitma, enne kui seda kasutatakse järelduste konveieri jaoks ja järgmisel keskkonnatasemel (test, UAT või tootmine). Lahendus kasutab AWS Lambda, Amazon API värav, Amazon EventBridgeja SageMaker, et automatiseerida töövoogu, mille keskel on inimese heakskiit. Järgmine arhitektuuridiagramm näitab üldist süsteemi ülesehitust, kasutatud AWS-teenuseid ja töövoogu inimese sekkumisega ML-mudelite heakskiitmiseks ja reklaamimiseks alates arendusest kuni tootmiseni.
Töövoog sisaldab järgmisi samme:
- Koolituskonveier töötab välja ja registreerib mudeli SageMakeri mudeliregistris. Sel hetkel on mudeli olek
PendingManualApproval
. - EventBridge jälgib olekumuutuste sündmusi, et lihtsate reeglitega automaatselt toiminguid teha.
- EventBridge mudeli registreerimissündmuse reegel kutsub esile Lambda funktsiooni, mis koostab registreeritud mudeli kinnitamise või tagasilükkamise lingiga meili.
- Kinnitaja saab meili lingiga mudeli ülevaatamiseks ja heakskiitmiseks või tagasilükkamiseks.
- Kinnitaja kiidab mudeli heaks, järgides meilis olevat linki API lüüsi lõpp-punktile.
- API Gateway kutsub mudelivärskenduste algatamiseks välja lambda funktsiooni.
- Mudeliregistrit värskendatakse mudeli oleku jaoks (
Approved
arenduskeskkonna jaoks, kuidPendingManualApproval
testimise, UAT ja tootmise jaoks). - Mudeli üksikasjad on salvestatud AWS-i parameetrite pood, võime AWS-i süsteemihaldur, sealhulgas mudeli versioon, kinnitatud sihtkeskkond, mudelipakett.
- Järelduskonveier toob parameetrite poest sihtkeskkonna jaoks heakskiidetud mudeli.
- Järeldusjärgse teavituse Lambda funktsioon kogub partii järeldamismõõdikuid ja saadab kinnitajale meili, et viia mudel üle järgmisse keskkonda.
Eeldused
Selle postituse töövoog eeldab, et koolituse torustiku keskkond on koos muude ressurssidega seadistatud SageMakeris. Koolituskonveieri sisendiks on funktsioonide andmestik. Funktsioonide loomise üksikasju see postitus ei sisalda, kuid see keskendub ML-mudelite registrile, kinnitamisele ja reklaamimisele pärast nende väljaõpet. Mudel on registreeritud mudeliregistris ja seda juhib seireraamistik Amazon SageMakeri mudelimonitor mis tahes triivi tuvastamiseks ja mudeli triivi korral ümberõppele.
Töövoo üksikasjad
Kinnitamise töövoog algab koolitustorust välja töötatud mudeliga. Kui andmeteadlased mudelit välja töötavad, registreerivad nad selle mudeli olekuga SageMaker Model Registry PendingManualApproval
. EventBridge jälgib SageMakerit mudeli registreerimissündmuse suhtes ja käivitab sündmusereegli, mis kutsub esile Lambda funktsiooni. Lambda funktsioon koostab dünaamiliselt meilisõnumi mudeli heakskiitmiseks koos lingiga API lüüsi lõpp-punktile teisele Lambda funktsioonile. Kui kinnitaja järgib mudeli kinnitamise linki, edastab API Gateway kinnitustoimingu Lambda funktsioonile, mis värskendab SageMakeri mudeliregistrit ja mudeli atribuute parameetrite poes. Kinnitaja peab olema autentitud ja kuuluma Active Directory poolt hallatavasse kinnitajate rühma. Esialgne kinnitus tähistab mudelit kui Approved
arendajale, kuid PendingManualApproval
testimiseks, UAT-ks ja tootmiseks. Parameetrite poodi salvestatud mudeliatribuudid hõlmavad mudeli versiooni, mudelipaketti ja kinnitatud sihtkeskkonda.
Kui järelduskonveier peab mudeli hankima, kontrollib see parameetrite poest uusimat sihtkeskkonna jaoks heakskiidetud mudeliversiooni ja hangib järelduse üksikasjad. Kui järelduskonveier on lõpule viidud, saadetakse sidusrühmale järeldamisjärgne teavitusmeil, mis taotleb mudeli üleviimiseks järgmisele keskkonnatasemele kinnitust. Meilis on üksikasjad mudeli ja mõõdikute kohta ning kinnituslink API lüüsi lõpp-punktile Lambda funktsiooni jaoks, mis värskendab mudeli atribuute.
Järgnevalt on toodud ML-mudeli kinnitamise/edendamise töövoo sündmuste ja juurutamise sammud mudeli loomisest tootmiseni. Mudelit edendatakse arendusest testimis-, UAT- ja tootmiskeskkondadeni, mille igas etapis on inimesel selgesõnaline heakskiit.
Alustame koolitustoruga, mis on mudeli arendamiseks valmis. Mudeli versioon algab SageMakeri mudeliregistris 0-st.
- SageMakeri koolitustoru arendab ja registreerib mudeli SageMakeri mudeliregistris. Mudeli versioon 1 on registreeritud ja algab Käsitsi kinnitamise ootel status.Mudeliregistri metaandmetel on keskkondade jaoks neli kohandatud välja:
dev, test, uat
japrod
. - EventBridge jälgib SageMakeri mudeliregistrit olekumuutuste osas, et lihtsate reeglitega automaatselt toimida.
- Mudeli registreerimise sündmuse reegel kutsub esile Lambda funktsiooni, mis koostab registreeritud mudeli kinnitamise või tagasilükkamise lingiga meili.
- Kinnitaja saab meili lingiga mudeli ülevaatamiseks ja heakskiitmiseks (või tagasilükkamiseks).
- Kinnitaja kiidab mudeli heaks, järgides meilis olevat linki API lüüsi lõpp-punktile.
- API Gateway kutsub mudelivärskenduste algatamiseks funktsiooni Lambda.
- SageMakeri mudeliregistrit värskendatakse mudeli olekuga.
- Mudeli üksikasjade teave, sealhulgas mudeli versioon, kinnitatud sihtkeskkond ja mudelipakett, salvestatakse parameetrite poodi.
- Järelduskonveier toob parameetrite poest sihtkeskkonna jaoks heakskiidetud mudeli.
- Järeldusjärgse teavituse Lambda funktsioon kogub partii järeldamismõõdikuid ja saadab kinnitajale meili, et viia mudel üle järgmisse keskkonda.
- Kinnitaja kiidab mudeli edendamise järgmisele tasemele, järgides linki API lüüsi lõpp-punktile, mis käivitab Lambda funktsiooni SageMakeri mudeliregistri ja parameetrite poe värskendamiseks.
Mudeli versioonide ja kinnitamise täielik ajalugu salvestatakse ülevaatamiseks parameetrite poodi.
Järeldus
Suur ML-mudeli arendamise elutsükkel nõuab skaleeritavat ML-mudeli kinnitamisprotsessi. Selles postituses jagasime ML-mudelite registri rakendamist, kinnitamist ja edendamise töövoogu koos inimese sekkumisega, kasutades SageMakeri mudeliregistrit, EventBridge'i, API lüüsi ja Lambdat. Kui kaalute oma MLOps-platvormi jaoks skaleeritava ML-mudeli arendusprotsessi, saate sarnase töövoo rakendamiseks järgida selles postituses toodud samme.
Autoritest
Tom Kim on AWS-i vanemlahenduste arhitekt, kus ta aitab oma klientidel saavutada oma ärieesmärke, arendades AWS-is lahendusi. Tal on laialdased kogemused ettevõtte süsteemide arhitektuuri ja operatsioonide vallas mitmes tööstusharus – eriti tervishoius ja bioteadustes. Tom õpib pidevalt uusi tehnoloogiaid, mis viivad klientidele soovitud äritulemuseni – nt. AI/ML, GenAI ja Data Analytics. Samuti meeldib talle reisida uutesse kohtadesse ja mängida uutel golfiväljakutel alati, kui aega leiab.
Shamika Ariyawansa, töötab AI/ML-lahenduste vanemarhitektina Amazon Web Servicesi (AWS) tervishoiu ja bioteaduste osakonnas, on spetsialiseerunud generatiivsele tehisintellektile, keskendudes suure keelemudeli (LLM) koolitusele, järelduste optimeerimisele ja MLOps-ile (masinõpe). Operatsioonid). Ta juhendab kliente täiustatud generatiivse AI manustamisel oma projektidesse, tagades tõhusad koolitusprotsessid, tõhusad järeldusmehhanismid ja täiustatud MLOps-tavad tõhusate ja skaleeritavate AI-lahenduste jaoks. Lisaks oma ametialastele kohustustele tegeleb Shamika kirglikult suusatamise ja maastikusõidu seiklustega.
Jayadeep Pabbisetty on Mercki vanem ML/andmeinsener, kus ta kavandab ja arendab ETL- ja MLOps-lahendusi, et avada ettevõtte jaoks andmeteaduse ja -analüütika. Ta on alati entusiastlik uute tehnoloogiate õppimisest, uute võimaluste uurimisest ja oskuste omandamisest, mis on vajalikud pidevalt muutuvas IT-tööstuses arenemiseks. Vabal ajal järgib ta oma kirge spordi vastu ning talle meeldib reisida ja uusi kohti avastada.
Prabakaran Mathaiyan on Tiger Analytics LLC masinõppe vaneminsener, kus ta aitab oma klientidel saavutada oma ärieesmärke, pakkudes lahendusi AWS-is mudelite ehitamiseks, koolituseks, valideerimiseks, jälgimiseks, CICD-ks ja masinõppelahenduste täiustamiseks. Prabakaran õpib pidevalt uusi tehnoloogiaid, mis viivad klientidele soovitud äritulemuseni – nt. AI/ML, GenAI, GPT ja LLM. Samuti meeldib talle kriketit mängida, kui aega leiab.
- SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
- PlatoData.Network Vertikaalne generatiivne Ai. Jõustage ennast. Juurdepääs siia.
- PlatoAiStream. Web3 luure. Täiustatud teadmised. Juurdepääs siia.
- PlatoESG. Süsinik, CleanTech, Energia, Keskkond päikeseenergia, Jäätmekäitluse. Juurdepääs siia.
- PlatoTervis. Biotehnoloogia ja kliiniliste uuringute luureandmed. Juurdepääs siia.
- Allikas: https://aws.amazon.com/blogs/machine-learning/build-an-amazon-sagemaker-model-registry-approval-and-promotion-workflow-with-human-intervention/
- :on
- :on
- :mitte
- : kus
- $ UP
- 1
- 100
- 110
- 116
- a
- MEIST
- Saavutada
- omandamine
- üle
- tegevus
- meetmete
- aktiivne
- Active Directory
- edasijõudnud
- seiklused
- pärast
- AI
- AI / ML
- mööda
- Ka
- alati
- Amazon
- Amazon SageMaker
- Amazon Web Services
- Amazon Web Services (AWS)
- an
- analytics
- ja
- Teine
- mistahes
- API
- heakskiit
- heaks kiitma
- heaks
- arhitektuur
- OLEME
- AS
- oletab
- At
- atribuudid
- autenditud
- automatiseerima
- Automatiseeritud
- automaatselt
- teed
- AWS
- BE
- enne
- on
- vahel
- Peale
- põhi
- ehitama
- Ehitus
- buss
- äri
- kuid
- by
- CAN
- võime
- mis
- juhul
- muutma
- Kontroll
- kood
- koostööd teinud
- kogub
- kohustuste
- täitma
- arvestades
- kursused
- loomine
- kriket
- tava
- Kliendid
- andmed
- Andmete analüüs
- andmeteadus
- andmeteadlane
- Disain
- disainilahendused
- soovitud
- detail
- detailid
- avastama
- dev
- arendama
- arenenud
- arendaja
- Arendajad
- arenev
- & Tarkvaraarendus
- arendab
- arutama
- jaotus
- dünaamiliselt
- e
- iga
- Tõhus
- tõhus
- kinnistamine
- Lõpp-punkt
- insener
- Inseneriteadus
- tagades
- ettevõte
- entusiastlik
- keskkond
- keskkondades
- Eeter (ETH)
- sündmus
- sündmused
- pidevalt muutuv
- arenema
- kogemus
- uurima
- Avastades
- ulatuslik
- Laialdased kogemused
- tunnusjoon
- FUNKTSIOONID
- Valdkonnad
- leidma
- Keskenduma
- keskendub
- järgima
- Järel
- järgneb
- eest
- neli
- Raamistik
- Alates
- funktsioon
- värav
- põlvkond
- generatiivne
- Generatiivne AI
- golf
- juhitakse
- Grupp
- juhendid
- Käsitsemine
- he
- Tervis
- Tervishoiuamet
- tervishoid
- aitab
- tema
- ajalugu
- Kuidas
- HTML
- HTTPS
- inim-
- if
- rakendada
- täitmine
- paranemine
- in
- sisaldama
- lisatud
- hõlmab
- Kaasa arvatud
- eraldi
- tööstusharudes
- tööstus
- info
- esialgne
- algatama
- sisend
- integratsioon
- sekkumine
- sisse
- kutsub
- IT
- IT-tööstus
- jpg
- keel
- suur
- hiljemalt
- viima
- õppimine
- Tase
- elu
- Eluteadus
- Maaülikooli
- eluring
- meeldib
- LINK
- OÜ
- masin
- masinõpe
- juhitud
- käsiraamat
- mehhanismid
- Merck
- Metaandmed
- Meetrika
- Kesk-
- ML
- MLOps
- mudel
- mudelid
- järelevalve
- monitorid
- peab
- vajalik
- vajadustele
- Uus
- Uued tehnoloogiad
- järgmine
- teade
- eesmärgid
- of
- sageli
- on
- Operations
- or
- Muu
- Tulemus
- üldine
- pakend
- parameeter
- osa
- eriti
- kirg
- Muster
- torujuhe
- Kohad
- inimesele
- Platon
- Platoni andmete intelligentsus
- PlatoData
- mängimine
- Punkt
- portree
- post
- tavad
- jätkama
- protsess
- Protsessid
- Produktsioon
- professionaalne
- projektid
- edendama
- edutatud
- Edendamine
- edendamine
- annab
- pakkudes
- Ajastab
- valmis
- registreerima
- registreeritud
- registrite
- Registreerimine
- registri
- vabastama
- taotledes
- nõudma
- Vajab
- Vahendid
- ümberõpe
- läbi
- jõuline
- Marsruut
- Eeskiri
- eeskirjade
- s
- salveitegija
- salvestatud
- skaalautuvia
- teadus
- TEADUSED
- teadlane
- teadlased
- saadab
- vanem
- Saadetud
- Jada
- Teenused
- teenindavad
- komplekt
- mitu
- jagatud
- Näitused
- sarnane
- lihtne
- oskused
- tarkvara
- tarkvaraarenduse
- lahendus
- Lahendused
- spetsialist
- spetsialiseerunud
- sport
- huvirühmad
- algus
- algab
- olek
- Samm
- Sammud
- salvestada
- ladustatud
- Sujuvamaks
- Toetamine
- süsteem
- süsteemid
- Võtma
- sihtmärk
- meeskond
- Tehnoloogiad
- test
- et
- .
- oma
- nad
- see
- Tiiger
- aeg
- et
- kokku
- tom
- koolitatud
- koolitus
- reisima
- Reisimine
- tüüpiliselt
- avamine
- Värskendused
- ajakohastatud
- Uudised
- kasutama
- Kasutatud
- kasutusalad
- kasutamine
- kinnitamine
- versioon
- we
- web
- veebiteenused
- Hästi
- millal
- millal iganes
- mis
- koos
- jooksul
- Töö
- koos töötama
- töövoog
- sa
- Sinu
- sephyrnet