סלע אמזון הוא שירות מנוהל במלואו המסופק על ידי AWS המציע למפתחים גישה אליו דגמי יסוד (FMs) והכלים להתאים אותם ליישומים ספציפיים. זה מאפשר למפתחים לבנות ולהרחיב יישומי AI גנרטיביים באמצעות FMs דרך API, ללא ניהול תשתית. אתה יכול לבחור מבין חברות FM שונות מאמזון וסטארטאפים מובילים בינה מלאכותית כגון AI21 Labs, Anthropic, Cohere ו-Stability AI כדי למצוא את הדגם המתאים ביותר למקרה השימוש שלך. עם חוויית Amazon Bedrock ללא שרתים, אתה יכול להתחיל במהירות, להתנסות בקלות עם FMs, להתאים אותם באופן פרטי עם הנתונים שלך, ולשלב אותם ולפרוס אותם בצורה חלקה באפליקציות שלך באמצעות כלים ויכולות AWS.
לקוחות בונים יישומי בינה מלאכותית גנרטיבית באמצעות ממשקי API של Amazon Bedrock תוך שימוש בנתונים קנייניים משלהם. כאשר הם ניגשים לממשקי ה-API של Amazon Bedrock, לקוחות מחפשים מנגנון להגדרת היקף נתונים מבלי לחשוף את הנתונים שלהם לאינטרנט כדי שיוכלו להפחית וקטורי איומים פוטנציאליים מחשיפה לאינטרנט. נקודת הקצה Amazon Bedrock VPC מופעלת על ידי AWS PrivateLink מאפשר לך ליצור חיבור פרטי בין ה-VPC בחשבון שלך לבין חשבון השירות של Amazon Bedrock. זה מאפשר למופעי VPC לתקשר עם משאבי שירות ללא צורך בכתובות IP ציבוריות.
בפוסט זה, אנו מדגימים כיצד להגדיר גישה פרטית בחשבון AWS שלך כדי לגשת אל ממשקי API של Amazon Bedrock נקודות קצה של VPC מופעל על ידי PrivateLink כדי לעזור לך לבנות יישומי AI גנרטיביים בצורה מאובטחת עם הנתונים שלך.
סקירת פתרונות
אתה יכול להשתמש ב-AI גנרטיבי כדי לפתח מגוון מגוון של יישומים, כגון סיכום טקסט, ניהול תוכן ויכולות אחרות. כאשר בונים יישומי בינה מלאכותית כאלה באמצעות מכשירי FM או מודלים בסיסיים, לקוחות רוצים ליצור תגובה מבלי לעבור לאינטרנט הציבורי או בהתבסס על הנתונים הקנייניים שלהם שעשויים להימצא בבסיסי הנתונים הארגוניים שלהם.
בתרשים הבא, אנו מתארים ארכיטקטורה להגדרת התשתית שלך כדי לקרוא את הנתונים הקנייניים שלך השוכנים ב שירות מסדי נתונים יחסי של אמזון (Amazon RDS) והגדל את בקשת Amazon Bedrock API עם מידע על המוצר בעת מענה לשאילתות הקשורות למוצר מאפליקציית הבינה המלאכותית הגנרטיבית שלך. למרות שאנו משתמשים ב- Amazon RDS בתרשים זה למטרות המחשה, אתה יכול לבדוק את הגישה הפרטית של ממשקי ה-API של Amazon Bedrock מקצה לקצה באמצעות ההוראות המופיעות בפוסט זה.
שלבי זרימת העבודה הם כדלקמן:
- AWS למבדה פועל ברשת המשנה VPC הפרטית שלך מקבל את הבקשה המהירה מאפליקציית הבינה המלאכותית הגנרטיבית.
- Lambda מתקשרת למסד נתונים קנייני של RDS ומגדילה את הקשר השאילתה המבקשת (לדוגמה, הוספת מידע על המוצר) ומפעילה את ה-API של Amazon Bedrock עם בקשת השאילתה המורחבת.
- קריאת ה-API מנותבת לנקודת הקצה Amazon Bedrock VPC המשויכת למדיניות נקודת הקצה של VPC עם הרשאות אפשר לממשקי API של Amazon Bedrock.
- נקודת הקצה של שירות ה-API של Amazon Bedrock מקבלת את בקשת ה-API דרך PrivateLink מבלי לחצות את האינטרנט הציבורי.
- אתה יכול לשנות את מדיניות נקודת הקצה של Amazon Bedrock VPC לדחיית הרשאות כדי לאמת שקריאות לממשקי API של Amazon Bedrock נדחות.
- אתה יכול גם לגשת באופן פרטי לממשקי API של Amazon Bedrock דרך נקודת הקצה VPC מהרשת הארגונית שלך דרך חיבור ישיר שער.
תנאים מוקדמים
לפני שתתחיל, ודא שיש לך את התנאים המוקדמים הבאים:
- An חשבון AWS
- An AWS זהות וניהול גישה תפקיד הפדרציה (IAM) עם גישה לבצע את הפעולות הבאות:
- צור, ערוך, הצג ומחק משאבי רשת VPC
- צור, ערוך, הצג ומחק פונקציות Lambda
- צור, ערוך, הצג ומחק תפקידים ומדיניות IAM
- רשום מודלים של בסיס והפעל את מודל היסודות של Amazon Bedrock
- לפוסט זה אנו משתמשים ב-
us-east-1
אזור - בקש גישה למודל הבסיס דרך קונסולת Amazon Bedrock
הגדר את תשתית הגישה הפרטית
בסעיף זה, אנו מגדירים את התשתית כגון VPC, רשתות משנה פרטיות, קבוצות אבטחה ופונקציית Lambda באמצעות AWS CloudFormation תבנית.
השתמש באפשרויות הבאות תבנית כדי ליצור את ערימת התשתית Bedrock-GenAI-Stack
בחשבון AWS שלך.
תבנית CloudFormation יוצרת בשמך את המשאבים הבאים:
- VPC עם שתי רשתות משנה פרטיות באזורי זמינות נפרדים
- קבוצות אבטחה וטבלאות ניתוב
- תפקיד ומדיניות IAM לשימוש על ידי Lambda, Amazon Bedrock ו ענן מחשוב אלסטי של אמזון (אמזון EC2)
הגדר את נקודת הקצה של VPC עבור Amazon Bedrock
בחלק זה, אנו משתמשים ענן וירטואלי פרטי של אמזון (Amazon VPC) כדי להגדיר את נקודת הקצה VPC עבור Amazon Bedrock כדי להקל על קישוריות פרטית מה-VPC שלך ל-Amazon Bedrock.
- בקונסולת Amazon VPC, תחת ענן פרטי וירטואלי בחלונית הניווט, בחר נקודות קצה.
- בחרו צור נקודת קצה.
- בעד תג שם, להיכנס
bedrock-vpce
. - תַחַת שירותים, חפש זמן ריצה יסוד ובחר
com.amazonaws.<region>.bedrock-runtime
. - בעד VPC, ציין את ה-VPC
Bedrock-GenAI-Project-vpc
שיצרת דרך ערימת CloudFormation בסעיף הקודם. - ב רשתות משנה מקטע, ובחר באזורי זמינות ובחר את מזהי רשת המשנה המתאימים מהתפריט הנפתח.
- בעד קבוצות אבטחה, בחר את קבוצת האבטחה עם שם הקבוצה
Bedrock-GenAI-Stack-VPCEndpointSecurityGroup-
ותיאורAllow TLS for VPC Endpoint
.
קבוצת אבטחה פועלת כחומה וירטואלית עבור המופע שלך כדי לשלוט בתנועה נכנסת ויוצאת. שים לב שקבוצת אבטחה זו של נקודת קצה VPC מאפשרת רק תעבורה שמקורה בקבוצת האבטחה המחוברת לרשתות המשנה הפרטיות שלך VPC, ומוסיפה שכבת הגנה.
- בחרו צור נקודת קצה.
- ב מדיניות בחר, בחר מותאם אישית והזן את מדיניות המינימום ההרשאות הבאה כדי להבטיח שרק פעולות מסוימות מותרות במשאב מודל הבסיס שצוין,
arn:aws:bedrock:*::foundation-model/anthropic.claude-instant-v1
עבור מנהל נתון (כגון תפקיד IAM של פונקציית Lambda).
עשויות לחלוף עד 2 דקות עד שנקודת הקצה של הממשק תיווצר והסטטוס ישתנה לזמין. אתה יכול לרענן את הדף כדי לבדוק את הסטטוס העדכני ביותר.
הגדר את פונקציית Lambda על תת-רשתות VPC פרטיות
השלם את השלבים הבאים כדי להגדיר את פונקציית Lambda:
- במסוף למבה, בחרו פונקציות בחלונית הניווט.
- בחר את הפונקציה
gen-ai-lambda-stack-BedrockTestLambdaFunction-XXXXXXXXXXXX
. - על תְצוּרָה בחר, בחר הרשאות בחלונית השמאלית.
- תַחַת תפקיד ביצוע¸ בחר את הקישור לתפקיד
gen-ai-lambda-stack-BedrockTestLambdaFunctionRole-XXXXXXXXXXXX
.
אתה מנותב למסוף IAM.
- ב מדיניות הרשאות סעיף, בחר הוסף הרשאות ולבחור צור מדיניות מוטבעת.
- על JSON בכרטיסייה, שנה את המדיניות באופן הבא:
- בחרו הַבָּא.
- בעד שם מדיניות, להיכנס
enivpce-policy
. - בחרו צור מדיניות.
- הוסף את המדיניות המוטבעת הבאה (ספק את נקודות הקצה המקור של ה-VPC שלך) להגבלת גישת Lambda לממשקי ה-API של Amazon Bedrock רק דרך נקודות הקצה של VPC:
- בדף פונקציות למבדה, ב- תְצוּרָה בחר, בחר VPC בחלונית השמאלית ולאחר מכן בחר ערוך.
- בעד VPC, בחר
Bedrock-GenAI-Project-vpc
. - בעד רשתות משנה, בחר את רשתות המשנה הפרטיות.
- בעד קבוצות אבטחה, בחר
gen-ai-lambda-stack-SecurityGroup-
(קבוצת האבטחה לעומס העבודה של Amazon Bedrock ברשתות משנה פרטיות). - בחרו שמור.
בדוק את בקרות הגישה הפרטיות
עכשיו אתה יכול לבדוק את בקרות הגישה הפרטיות (ממשקי API של Amazon Bedrock על פני נקודות קצה של VPC).
- במסוף למבה, בחרו פונקציות בחלונית הניווט.
- בחר את הפונקציה
gen-ai-lambda-stack-BedrockTestLambdaFunction-XXXXXXXXXXXX
. - על קופונים בחר, בחר מִבְחָן.
אתה אמור לראות את התגובה הבאה מקריאת ה-API של Amazon Bedrock (סטטוס: הצליח).
- כדי למנוע גישה לממשקי ה-API של Amazon Bedrock דרך נקודות קצה של VPC, נווט אל מסוף ה-VPC של Amazon.
- תַחַת ענן פרטי וירטואלי בחלונית הניווט, בחר נקודות קצה.
- בחר את המדיניות שלך ונווט אל לשונית מדיניות.
נכון לעכשיו, מדיניות נקודת הקצה של VPC מוגדרת ל Allow
.
- כדי למנוע גישה, בחר ערוך מדיניות.
- שינוי
Allow
לDeny
ולבחור שמור.
ייתכן שיחלפו עד 2 דקות עד שהמדיניות תתעדכן לנקודת הקצה של VPC.
- חזור לדף פונקציית Lambda וב- קופונים בחר, בחר מִבְחָן.
כפי שמוצג בצילום המסך הבא, בקשת הגישה לאמזון Bedrock דרך נקודת הקצה VPC נדחתה (סטטוס: נכשל).
באמצעות תהליך בדיקה זה, הדגמנו כיצד התעבורה מה-VPC שלך לנקודת הקצה של Amazon Bedrock API עוברת דרך חיבור PrivateLink ולא דרך חיבור האינטרנט.
לנקות את
בצע את השלבים הבאים כדי להימנע מחיובים עתידיים:
סיכום
בפוסט זה, הדגמנו כיצד להגדיר ולהפעיל חיבור פרטי בין עומס עבודה בינה מלאכותית הנפרסת ב-VPC של הלקוח שלך לבין Amazon Bedrock באמצעות נקודת קצה VPC של ממשק המופעלת על ידי PrivateLink. בעת שימוש בארכיטקטורה הנדונה בפוסט זה, התעבורה בין הלקוח VPC לאמזון Bedrock לא תעזוב את רשת אמזון, מה שמבטיח שהנתונים שלך לא יהיו חשופים לאינטרנט הציבורי ובכך מסייעים בדרישות התאימות שלך.
כשלב הבא, נסה את הפתרון בחשבון שלך ושתף את המשוב שלך.
על הכותבים
רם ויטל הוא אדריכל ראשי ML Solutions ב-AWS. יש לו למעלה מ-3 עשורים של ניסיון באדריכלות ובניית יישומים מבוזרים, היברידיים וענן. הוא נלהב לבנות פתרונות AI/ML ו-Big Data מאובטחים וניתנים להרחבה כדי לעזור ללקוחות ארגוניים באימוץ הענן ובמסע האופטימיזציה שלהם כדי לשפר את התוצאות העסקיות שלהם. בזמנו הפנוי, הוא רוכב על האופנוע שלו והולך עם ה-Sheepadoodle בן ה-3 שלו!
ריי חורסנדי הוא מומחה AI/ML ב-AWS, התומך בלקוחות אסטרטגיים עם שיטות עבודה מומלצות של AI/ML. בעל תואר M.Sc. ו-Ph.D. בהנדסת חשמל ומדעי המחשב, הוא מוביל ארגונים לבניית פתרונות AI/ML ו-Big Data מאובטחים וניתנים להרחבה כדי לייעל את האימוץ שלהם בענן. התשוקות שלו כוללות ראייה ממוחשבת, NLP, AI גנרטיבי ו-MLOps. ריי נהנה לשחק כדורגל ולבלות זמן איכות עם המשפחה.
מייקל דניאלס הוא מומחה AI/ML ב-AWS. המומחיות שלו טמונה בבנייה והובלה של פתרונות AI/ML ו-AI גנרטיביים לבעיות עסקיות מורכבות ומאתגרות, אשר מתוגבר על ידי הדוקטורט שלו. מהאוניברסיטה. של טקסס וה-M.Sc. במדעי המחשב התמחות בלמידת מכונה מהמכון הטכנולוגי של ג'ורג'יה. הוא מצטיין ביישום טכנולוגיות ענן מתקדמות כדי לחדש, לעורר השראה ולשנות ארגונים מובילים בתעשייה, תוך כדי תקשורת יעילה עם מחזיקי עניין בכל רמה או קנה מידה. בזמנו הפנוי תוכלו לתפוס את מייקל עושה סקי או סנובורד בהרים.
- הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
- PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
- PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
- PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
- PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
- מקור: https://aws.amazon.com/blogs/machine-learning/use-aws-privatelink-to-set-up-private-access-to-amazon-bedrock/
- :יש ל
- :הוא
- :לֹא
- $ למעלה
- 1
- 100
- 13
- 16
- 225
- 7
- 8
- 9
- 937
- a
- אודות
- גישה
- גישה
- חֶשְׁבּוֹן
- פעולה
- פעולות
- מעשים
- מוסיף
- כתובות
- אימוץ
- AI
- AI / ML
- להתיר
- מותר
- מאפשר
- גם
- למרות
- אמזון בעברית
- אמזון
- אמזון RDS
- אמזון שירותי אינטרנט
- an
- ו
- אנתרופי
- כל
- API
- ממשקי API
- בקשה
- יישומים
- מריחה
- ארכיטקטורה
- ARE
- AS
- המשויך
- At
- לְהַגדִיל
- מוגבר
- תוספות
- זמינות
- זמין
- לְהִמָנַע
- AWS
- בסיס
- מבוסס
- בשם
- הטוב ביותר
- שיטות עבודה מומלצות
- בֵּין
- גָדוֹל
- נתונים גדולים
- לִבנוֹת
- בִּניָן
- עסקים
- by
- שיחה
- שיחות
- CAN
- יכולות
- מקרה
- היאבקות
- מסוים
- אתגר
- שינוי
- שינויים
- חיובים
- לבדוק
- בחרו
- ענן
- אימוץ ענן
- ענן יישומים
- להעביר
- תקשורת
- מורכב
- הענות
- לחשב
- המחשב
- מדעי מחשב
- ראייה ממוחשבת
- מצב
- הקשר
- קישוריות
- קונסול
- תוכן
- התמתנות תוכן
- הקשר
- לִשְׁלוֹט
- בקרות
- משותף
- תוֹאֵם
- לִיצוֹר
- נוצר
- יוצר
- לקוח
- לקוחות
- אישית
- שיא הטכנולוגיה
- נתונים
- מסד נתונים
- מאגרי מידע
- עשרות שנים
- להפגין
- מופגן
- לפרוס
- פרס
- תיאור
- לפתח
- מפתחים
- ישיר
- נָדוֹן
- מופץ
- שונה
- do
- בקלות
- השפעה
- יעילות
- הנדסת חשמל
- מאפשר
- סוף
- נקודת קצה
- אבטחה נקודת קצה
- נקודות קצה
- הנדסה
- משופר
- לְהַבטִיחַ
- הבטחתי
- זן
- מִפְעָל
- לקוחות ארגוניים
- חברות
- להקים
- Ether (ETH)
- דוגמה
- ניסיון
- לְנַסוֹת
- מומחיות
- חשוף
- חשיפה
- לְהַקֵל
- נכשל
- משפחה
- פֵדֵרַצִיָה
- מָשׁוֹב
- חומת אש
- הבא
- כדלקמן
- בעד
- קרן
- החל מ-
- לגמרי
- פונקציה
- עתיד
- שער כניסה
- ליצור
- גנרטטיבית
- AI Generative
- מכון טכנולוגי של ג'ורג'יה
- לקבל
- נתן
- הולך
- קְבוּצָה
- קבוצה
- יש
- he
- לעזור
- עזרה
- שֶׁלוֹ
- איך
- איך
- HTML
- http
- HTTPS
- היברידי
- IAM
- ID
- זהות
- מזהה
- לשפר
- in
- לכלול
- מובילים בתעשייה
- מידע
- תשתית
- לחדש
- חדשני
- לעורר
- למשל
- מקרים
- מכון
- הוראות
- לשלב
- מִמְשָׁק
- אינטרנט
- חיבור לאינטרנט
- אל תוך
- מעורר
- IP
- כתובות IP
- IT
- מסע
- jpg
- מעבדות
- האחרון
- שכבה
- מוביל
- מוביל
- למידה
- הכי פחות
- יציאה
- עזבו
- רמה
- שקרים
- קשר
- הסתכלות
- מכונה
- למידת מכונה
- לעשות
- עושה
- הצליח
- ניהול
- מאי..
- מנגנון
- תפריט
- מיכאל
- דקות
- להקל
- ML
- MLOps
- מודל
- מודלים
- מתינות
- לשנות
- אופנוע
- שם
- נווט
- ניווט
- צורך
- רשת
- הבא
- NLP
- הערות
- of
- המיוחדות שלנו
- on
- רק
- אופטימיזציה
- מטב
- or
- ארגונים
- מקורו
- אחר
- הַחוּצָה
- תוצאות
- יותר
- שֶׁלוֹ
- עמוד
- זגוגית
- לוהט
- הרשאות
- אפלטון
- מודיעין אפלטון
- אפלטון נתונים
- משחק
- מדיניות
- מדיניות
- הודעה
- פוטנציאל
- מופעל
- פרקטיקות
- תנאים מוקדמים
- קודם
- מנהל
- פְּרָטִי
- זְכוּת
- בעיות
- תהליך
- המוצר
- מידע על מוצר
- קניינית
- .
- לספק
- ובלבד
- ציבורי
- למטרות
- איכות
- שאילתות
- מהירות
- רכס
- RAY
- חומר עיוני
- מקבל
- לבקש
- דרישות
- משאב
- משאבים
- תגובה
- מגביל
- רוכב
- תפקיד
- תפקידים
- ניתוב
- ריצה
- SC
- להרחבה
- סולם
- מדע
- בצורה חלקה
- חיפוש
- סעיף
- לבטח
- מאובטח
- אבטחה
- לִרְאוֹת
- נפרד
- ללא שרת
- שרות
- שירותים
- סט
- שיתוף
- צריך
- הראה
- So
- כדורגל
- פִּתָרוֹן
- פתרונות
- מָקוֹר
- מומחה
- ספציפי
- מפורט
- הוצאה
- יציבות
- לערום
- בעלי עניין
- החל
- חברות סטארט
- הצהרה
- מצב
- שלב
- צעדים
- אסטרטגי
- המשנה
- רשתות משנה
- כזה
- מסייע
- בטוח
- לקחת
- טכנולוגיות
- טכנולוגיה
- תבנית
- מבחן
- בדיקות
- טקסס
- טֶקסט
- זֶה
- השמיים
- שֶׁלָהֶם
- אותם
- אז
- בכך
- אלה
- הֵם
- זֶה
- איום
- דרך
- זמן
- TLS
- ל
- כלים
- תְנוּעָה
- לשנות
- לנסות
- שתיים
- תחת
- עד
- עדכון
- להשתמש
- במקרה להשתמש
- באמצעות
- לְאַמֵת
- שונים
- גרסה
- באמצעות
- לצפיה
- וירטואלי
- חזון
- הולך
- רוצה
- היה
- we
- אינטרנט
- שירותי אינטרנט
- מתי
- אשר
- בזמן
- יצטרך
- עם
- לְלֹא
- זרימת עבודה
- יאמל
- אתה
- זפירנט
- אזורי