Achronix על בחירת פלטפורמה עבור AI בקצה

קולין אלכסנדר (מנהל שיווק מוצרים ב-Achronix) פרסם לאחרונה סמינר מקוון בנושא זה. תוך 20 דקות בלבד הוובינר הוא צפייה קלה ועדכון שימושי על תעבורת נתונים ואפשרויות יישום. ההורדות עדיין נשלטות על ידי וידאו (מעל 50% עבור פייסבוק) אשר כעת תלוי במידה רבה בשמירה במטמון בקצה או קרוב לקצה. איזה מאלה חל תלוי בהגדרה שלך ל"קצה". עולם ה-IoT רואה את עצמו כקצה, עולם הענן והתשתיות רואה כנראה את צומת המחשוב האחרון בתשתית, לפני אותם מכשירי עלים, כקצה. תפוח אדמה, תפוח אדמה. בכל מקרה, תצוגת התשתית של הקצה היא המקום שבו תמצאו אחסון וידאו במטמון, כדי לשרת את ההורדות הפופולריות ביותר ביעילות ובמהירות האפשרית.

אפשרויות חישוב בקצה (ובענן)

קולין מדבר בתחילה על יתרון תשתית שבו נדרש כוח סוס מסוים במחשוב וב-AI. הוא מציג את האפשרויות הסטנדרטיות: CPU, GPU, ASIC או FPGA. לפתרון מבוסס CPU יש את הגמישות הגדולה ביותר מכיוון שהפתרון שלך יהיה מבוסס תוכנה לחלוטין. מאותה סיבה, זו גם תהיה בדרך כלל האפשרות האיטית ביותר, צריכת הכוח וההשהייה הארוכה ביותר (לחזרה לצמתי עלים אני מניח). GPUs הם קצת יותר טובים בביצועים וכוח עם קצת פחות גמישות מאשר CPUs. ASIC (חומרה מותאמת אישית) יהיה המהיר ביותר, ההספק הנמוך ביותר והשהייה הנמוכה ביותר, אם כי בתפיסה הפחות גמיש (כל החכמות נמצאות בחומרה שאינה ניתנת לשינוי).

הוא מציג את FPGA (או FPGA/eFPGA מוטבע) כפשרה טובה בין הקצוות הללו. טוב יותר על ביצועים, כוח והשהייה מאשר CPU או GPU ואיפשהו בין CPU ל-GPU על גמישות. אמנם הרבה יותר טוב מ-ASIC לגבי גמישות מכיוון שניתן לתכנת מחדש FPGA. מה שהכל נשמע לי הגיוני ככל שזה מגיע, אם כי אני חושב שהסיפור היה צריך להסתיים על ידי הוספת DSPs למערך הפלטפורמות. אלה יכולים להיות בעלי יתרונות חומרה ספציפיים ל-AI (וקטוריזציה, מערכי MAC וכו') המועילים עם הביצועים, הכוח והשהייה. תוך שמירה על גמישות תוכנה. השיקול החשוב הנוסף הוא עלות. זה תמיד נושא רגיש כמובן, אבל מעבדים בעלי יכולת בינה מלאכותית, GPUs והתקני FPGA יכולים להיות יקרים, מה שמדאיג את אוסף החומרים של צומת קצה.

הטיעון של קולין הגיוני ביותר עבורי בקצה עבור eFPGA מוטמע ב-SoC גדול יותר. ביישום ענן, האילוצים שונים. כרטיס ממשק רשת חכם כנראה אינו רגיש למחיר וייתכן שיש יתרון ביצועים בפתרון מבוסס FPGA לעומת פתרון מבוסס תוכנה.

תמיכה ביישומי בינה מלאכותית בקצה המחשוב באמצעות eFPGA נראית כאופציה ששווה לחקור עוד יותר. הלאה לכיוון צמתי העלים מטושטשת עבורי. גשש לוגיסטי או חיישן לחות אדמה בוודאות לא יארחו מחשוב משמעותי, אבל מה לגבי שלט לטלוויזיה המופעל באמצעות קול? או מיקרוגל חכם? שניהם זקוקים לבינה מלאכותית אך גם לא צריך הרבה כוחות סוס. למיקרוגל יש חשמל קווי, אבל שלט טלוויזיה או רמקול חכם מרוחק פועל על סוללות. זה יהיה מעניין לדעת את פשרות ה-eFPGA כאן.

יכולות eFPGA עבור AI

לפי גיליון הנתונים, Speedster 7t מציעה MAC שלמים ניתנים לשבירה מלאה, נקודה צפה גמישה, תמיכה מקורית עבור bfloat וכפל מטריקס יעיל. לא הצלחתי למצוא נתונים על TOPS או TOPS/Watt. אני בטוח שזה תלוי ביישום אבל דוגמאות יהיו שימושיות. אפילו בקצה, חלק מהיישומים רגישים מאוד לביצועים - מעקב חכם וזיהוי עצמים הפונה קדימה במכוניות למשל. זה יהיה מעניין לדעת היכן eFPGA עשוי להתאים ביישומים כאלה.

סמינר מקוון מעורר מחשבה. אתה יכול לצפות בזה כאן.

שתף את הפוסט הזה באמצעות:

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• Platoblockchain. Web3 Metaverse Intelligence. ידע מוגבר. גישה כאן.
• מקור: https://semiwiki.com/efpga/323785-achronix-on-platform-selection-for-ai-at-the-edge/