Ampere מוביל חבילה של סטארט-אפים בינה מלאכותית כדי לאתגר את Nvidia

Ampere מוביל חבילה של סטארט-אפים בינה מלאכותית כדי לאתגר את Nvidia

חותמת זמן: 18 באוקטובר 2023 3:30
צומת המקור: 2942701

ההיסטוריה מלאה בדוגמאות של שחקנים קטנים יותר שמתאחדים כדי להתמודד עם מתחרים גדולים יותר. עם השקת AI Platform Alliance השבוע, ספקית המעבד Arm CPU Ampere שואפת לעשות בדיוק את זה במטרה לאתגר את ההגמוניה של Nvidia.

השמיים ברית מאגדת כמה חברות סטארט-אפ מוכרות, כולל Cerebras Systems, Graphcore, Furiosa, Kalray, Kinara, Luminous, Neuchips, Rebellions ו-Sapeon במטרה לקדם מערכת אקולוגית של AI פתוח.

"הבעיה המרכזית שאנו רואים היום היא שפתרונות פעילים אינם מספקים את הדברים האלה. כרגע זו מערכת אקולוגית סגורה בצד החומרה והתוכנה, היא לא יעילה בגלל כמויות החשמל הגדולות שנצרכות, וזה יקר", אמר קצין המוצר הראשי של אמפר, ג'ף וויטיץ' הקופה במייל. "זה מקשה על אנשים לשנות את קנה המידה של AI כדי לענות על הצרכים שלהם מבלי שזה יהיה יקר ולא בר קיימא."

אף יצרן שבבים לא יכול לטפל בבעיה הזו בעצמו, הוא טען. "רצינו להתאגד כדי ליצור פתרונות פלטפורמה מלאים שניתנים ליישום." אז זה לא מפתיע שהברית מתמקדת כל כך בבניית מערכת אקולוגית של מערכות AI יעילה יותר ממעבדי GPU.

ההתייחסות המפורשת ל"GPUs" במהדורה והערותיו של Wittich בנוגע למערכות אקולוגיות של תוכנה וחומרה סגורות היא כמעט בוודאות ירייה ב-Nvidia. ה-H100 GPUs העדכניים ביותר של יצרנית השבבים מדורגים ל-700 וואט, וטעונים ללוחות HGX שלהם, יכולים לצרוך למעלה מ-10kW ברמת המערכת.

עובדים ביחד

ישנן מספר דרכים שבהן מנסים יצרני השבבים לרסן את דרישות ההספק של AI. יעילות מסוג זה יכולה להתבצע ברמת החומרה, התוכנה או הסטנדרטים.

למשל, יצרני השבבים יכולים להתאחד כדי לקבוע גורמי צורה משותפים כך שיצרני עיצוב מקוריים יוכלו לפתח שלדה המסוגלת לתמוך במספר מאיצים של ספקים. בחזית התוכנה, יצרניות השבבים יכלו להתיישר סביב קבוצה משותפת של כלי קוד ומסגרות כך שמודלים יפעלו ללא קשר לארכיטקטורת החומרה הבסיסית.

הצו הראשון של הברית פותר את בעיית החומרה.

"ההתמקדות הראשונית שלנו היא ליצור מגוון רחב של פתרונות חומרה שיכולים להשתמש בפלטפורמות OEM ו-ODM קיימות, כך שניתן יהיה לפרוס אותם בקלות היום", אמר Wittich. "זה על יצירת בחירה. כיום, ללקוחות אין הרבה אפשרויות בחירה, ואנשים נוטים לברירת מחדל לפתרון האחד שהם מכירים. אבל, יש פתרונות טובים יותר בחוץ שהם יעילים וחסכוניים יותר, והמטרה שלנו היא להפוך את הפתרונות האלה לזמינים ללקוחות הקצה, כדי שיוכלו לאמץ אותם".

עם זאת, אומר מנכ"ל Cerebras, אנדרו פלדמן הקופה שהפיתוח והשחרור של מודלים של בסיס פתוח יהיו גם גורם מפתח. פנינו גם ל-Graphcore כדי לקבל את דעתם על הברית, אך יצרנית השבבים סירבה להגיב.

אמפר מצפה שהברית תמשוך חברים נוספים בשבועות הקרובים, כאשר כל חברת AI בונה חומרה מוזמנת להצטרף למסיבה. עם זאת, נותר לראות אם זמינות רחבה יותר של מערכות בינה מלאכותית מחברי ברית תספיק כדי לחסל את החנק של Nvidia בשוק.

הפילים בחדר

בעוד מומחים חלוקים בדעתם עד כמה גדולה הטענה של Nvidia על מרחב הבינה המלאכותית - הערכות נע בין 75 ל-90 אחוז נתח - אין ספק שהחברה מובילה את השוק. וכפי שאנחנו נָדוֹן בשבוע שעבר, ההתפתחויות האחרונות סביב מפת הדרכים של המוצר של החברה עשויות להרחיב את ההובלה הזו, כל עוד הן יכולות לגרום לרשת לעבוד.

בעוד ש-AI Platform Alliance כוללת סטארט-אפים מוכרים רבים של AI, שתיים מהחברות הגדולות שפועלות לגנוב חלק מ-Nvidia חסרות ברשימה: אינטל ו-AMD.

שתי החברות מושקעות רבות בפיתוח החומרה והתוכנה של AI משלהן. יתרה מכך, שניהם דגלו במסגרות וכלים של קוד פתוח, כולל רבים שעובדים עם פלטפורמות של צד שלישי.

ב-Intel Innovation בספטמבר, CTO של אינטל, גרג לבנדר דיבר תרומות ה-AI של ענקית השבבים, כולל זמני הריצה OneAPI, OpenVINO ו-SYCL בקוד פתוח. SYCL מעניין במיוחד מכיוון שהוא אינו מוגבל לחומרה של אינטל ובמקום זאת שואף להוות אלטרנטיבה פתוחה ל-CUDA של Nvidia.

AMD גם נשענת מאוד על קהילת הקוד הפתוח בכל הנוגע לתוכנה. החברה לאחרונה חברו יחד עם Hugging Face כדי להרחיב את קטלוג דגמי הקוד הפתוח הזמינים להפעלה על מאיצי האינסטינקט וה-Alveo שלה.

בינתיים, בחזית החומרה, לשני יצרני השבבים יש ניסיון רב - שלא לדבר על משאבים - בעבודה עם ODMs לסטנדרטיזציה של גורמי צורה עבור מגוון מערכות.

כשנשאל האם הברית תהיה פתוחה לצרף אחת מהחברות לשורותיה, אמר Wittich "כל אחד מוזמן להגיש בקשה", וכי היבול הראשוני של השותפים נלקח מהספקים שאיתם עבדה אמפרה בעבר. ®

בול זמן:

עוד מ הקופה