Dell ו-Nvidia חולמות על דגמי בינה מלאכותית עשה זאת בעצמך

עולם של דל Dell התחברה ל-Nvidia כדי להציע לארגונים כלים לבניית מודלים של בינה מלאכותית שהוכשרו על פי הנתונים הארגוניים שלהם, במקום מידע זמין לציבור כמו זה המשמש מודלים למטרות כלליות בשפה גדולה (LLMs) כמו GPT של OpenAI.

המפתח למגרש הוא אבטחת מידע. Manuvir Das של Nvidia, סגן נשיא למחשוב ארגוני, אמר לעיתונאים שארגון שבונה AI יצירתי משלו מאומן על נתונים ספציפיים לדומיין שלו "לא צריך לדאוג שהנתונים הקנייניים שלהם יתערבבו עם נתונים קנייניים של חברה אחרת במהלך הַדְרָכָה."

Project Helix, תוכנית שהושקה על ידי Nvidia ו-Dell ביום שלישי ב-Dell Technologies World 2023, כוללת את PowerEdge XE9680 שרתי מתלים R760xa המותאמים לאימון בינה מלאכותית והסקת עומסי עבודה. ה-XE9680, בזמן שהוא מריץ שניים ממעבדי ה-Xeon המדרגיים מהדור הרביעי של אינטל, מכיל גם שמונה מהמעבדים האחרונים של Nvidia H100 Tensor Core GPUs מחובר דרך רשת NVLink של Nvidia.

Nvidia גם מתכננת לנצל את תוכנת הבינה המלאכותית הארגונית שלה, מסגרות וכלי מפתחים - כולל NeMo ומודלים של יסודות מאומנים מראש מעקות בטיחות של NeMo - לבנות צ'אטבוטים מאובטחים של AI. ניתן להשתמש במערכות PowerScale ו-ECS Enterprise Object Storage של Dell עבור נתונים לא מובנים עם שרתי המדף של PowerEdge.

"כל זה מאפשר לנו להרכיב באמת פתרון שלם עבור AI גנרטיבי שניתן להפעיל במקום, המאומת במלואו עם החומרה והתוכנה, שהוא מאובטח [ופרטי]", לדברי דאס.

חי על הקצה

הפעלת עומסי ההדרכה וההסקות בתוך מרכז הנתונים של החברה עצמה היא המפתח לשמירה על נתונים ארגוניים קריטיים שלא יגיעו לרשות הציבור ואולי המפר תקנות פרטיות ואבטחה, על פי הואנג. במקרה של AI גנרטיבי, On-Prem יהיה יותר ויותר פירושו יתרון.

"הם צריכים לעשות את זה בזמן אמת כי זה המקום שבו הנתונים שלהם נמצאים, והם צריכים לעשות את זה קרוב לקצה כי זה הכי קרוב למהירות האור", אמר הואנג. "אתה רוצה שזה יגיב באופן מיידי. אתה גם רוצה שזה יהיה בקצה, כי בעתיד, אתה רוצה לקבל מידע ממגוון דרכים.

"ככל שנקבל יותר מידע הקשרי, כך נוכל להסיק מסקנות טובות יותר. היכולת לקבל את ההחלטות האלה קרוב ככל האפשר לקצה, היכן נמצאת הפעולה, היכן נמצאים כל הנתונים, ואיפה ההיענות יכולה להיות גבוהה ככל האפשר, היא באמת חיונית".

עבור Nvidia, שלפני עשור לערך הימרה על כך ש-AI יהיה מנוע צמיחה עתידי, Project Helix מסייע עוד יותר לבסס את מעמדה כמאפשר מפתח של למידת מכונה עבור תאגידים וארגוני HPC.

בתקופה שבה אנשי LLM מתאמנים על מערכי נתונים מסיביים לשימוש כללי - במקרה של GPT והבוט ChatGPT שנבנה עליו, האינטרנט - ארגונים רוצים להכשיר מודלים קטנים יותר על הנתונים שלהם כדי לתת מענה לצרכים הספציפיים שלהם, לפי ג'פרי קלארק , סגן יו"ר ו-COO משותף ב-Dell.

"זו המגמה שאנו רואים עם לקוחות", אמר קלארק. "כיצד הם לוקחים את ההקשר העסקי שלהם, הנתונים שלהם, ועוזרים להם לקבל החלטות עסקיות טובות יותר? אתה לא צריך מודל GPT בשפה גדולה כדי לעשות את זה. ... חברות לא מתכוונות לפרוס את ChatGPT במפעל כדי לגרום למפעל לעבוד טוב יותר. זה יהיה מודל מקומי לפי החברה X, Y או Z עם הנתונים שלהן."

נותן יותר שליטה

הדחיפה לאפשר לארגונים להתאים אישית מודלים של אימון עם המידע הקנייני שלהם ובמרכזי הנתונים שלהם צוברת תאוצה. מוקדם יותר החודש, ServiceNow ו-Nvidia חשף שותפות דומה ל-Project Helix. ה הרעיון אינו חדש, אבל הוא נטען עם ההאצה האחרונה בפיתוח של AI ו-LLM גנרטיביים.

ב-GTC בספטמבר 2022, Nvidia השיקה את שירות NeMo LLM מתוך מחשבה על כך, ונתנה לארגונים דרך להתאים מגוון מודלים של בסיס מאומנים מראש כדי ליצור מודלים מותאמים אישית שהוכשרו על פי הנתונים שלהם.

מודלים למטרות כלליות כמו GPT-4 של OpenAI יעבדו עבור עבודות מסוימות, אמר דאס, "אבל יש גם מספר רב של חברות ארגוניות שצריכות לקבל מודלים מותאמים אישית בשפה גדולה עבור התחום שלהן, עבור הנתונים הקנייניים שלהן. , כדי לוודא שהדגמים עושים בדיוק את מה שהם צריכים לעשות בהקשר של החברה שלהם".

"NeMo היא פלטפורמה מבית Nvidia עבור אותם לקוחות שצריכים לבנות ולתחזק דגמים משלהם."

מנכ"ל Nvidia, Jensen Huang, שהופיע בדיון וידאו עם קלארק במהלך ההרצאה המרכזית, אמר כי "כל חברה נמצאת בליבה שלה לגבי מודיעין".

"פרויקט Helix... יעזור לכל חברה להיות מפעל בינה מלאכותית ולהיות מסוגל לייצר את האינטליגנציה שלה, את האינטליגנציה הספציפית לתחום שלה, את המומחיות שלה, ואז לעשות את זה במהירות האור ולעשות את זה בקנה מידה," אמר הואנג.

חדשנות מהירה סביב AI גנרטיבי גם תעניק לארגונים אפשרויות נוספות, טען קלארק של Dell. עיצובים מאומתים של Dell המבוססים על Project Helix יהיו זמינים החל מיולי. ®

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• PlatoAiStream. Web3 Data Intelligence. הידע מוגבר. גישה כאן.
• הטבעת העתיד עם אדריאן אשלי. גישה כאן.
• קנה ומכירה של מניות בחברות PRE-IPO עם PREIPO®. גישה כאן.
• מקור: https://go.theregister.com/feed/www.theregister.com/2023/05/24/dell_nvidia_helix_ai/