Achronix กับการเลือกแพลตฟอร์มสำหรับ AI ที่ Edge

Colin Alexander (ผู้อำนวยการฝ่ายการตลาดผลิตภัณฑ์ของ Achronix) ได้เปิดตัวการสัมมนาออนไลน์ในหัวข้อนี้เมื่อเร็วๆ นี้ การสัมมนาผ่านเว็บที่ใช้เวลาเพียง 20 นาทีเป็นการรับชมที่ง่ายดายและเป็นการอัปเดตที่เป็นประโยชน์เกี่ยวกับการรับส่งข้อมูลและตัวเลือกการใช้งาน การดาวน์โหลดยังคงถูกครอบงำด้วยวิดีโอ (มากกว่า 50% สำหรับ Facebook) ซึ่งตอนนี้ขึ้นอยู่กับการแคชที่ขอบหรือใกล้กับขอบอย่างมาก ข้อใดต่อไปนี้ขึ้นอยู่กับคำจำกัดความของ "ขอบ" โลกของ IoT มองตัวเองเป็นเอดจ์ คลาวด์และโลกโครงสร้างพื้นฐานมองเห็นโหนดคอมพิวท์สุดท้ายในโครงสร้างพื้นฐาน ก่อนอุปกรณ์ลีฟเหล่านั้นเป็นเอดจ์ มันฝรั่ง, มันฝรั่ง. ไม่ว่าในกรณีใดก็ตาม มุมมองโครงสร้างพื้นฐานของ Edge คือที่ที่คุณจะพบการแคชวิดีโอ เพื่อให้บริการดาวน์โหลดยอดนิยมอย่างมีประสิทธิภาพและรวดเร็วที่สุด

ตัวเลือกการคำนวณที่ Edge (และในระบบคลาวด์)

ในตอนแรก Colin พูดถึงขอบของโครงสร้างพื้นฐานที่ต้องใช้แรงม้าบางส่วนในการคำนวณและใน AI เขานำเสนอตัวเลือกมาตรฐาน: CPU, GPU, ASIC หรือ FPGA โซลูชันที่ใช้ CPU มีความยืดหยุ่นสูงสุดเนื่องจากโซลูชันของคุณจะใช้ซอฟต์แวร์ทั้งหมด ด้วยเหตุผลเดียวกัน โดยทั่วไปแล้วมันจะเป็นตัวเลือกที่ช้าที่สุด ใช้พลังงานมากที่สุด และมีเวลาแฝงที่ยาวที่สุด GPU ค่อนข้างดีกว่าในด้านประสิทธิภาพและพลังงานโดยมีความยืดหยุ่นน้อยกว่า CPU เล็กน้อย ASIC (ฮาร์ดแวร์แบบกำหนดเอง) จะเร็วที่สุด พลังงานต่ำสุด และเวลาแฝงต่ำสุด แม้ว่าในแนวคิดจะมีความยืดหยุ่นน้อยที่สุด (สมาร์ททั้งหมดอยู่ในฮาร์ดแวร์ซึ่งไม่สามารถเปลี่ยนแปลงได้)

เขานำเสนอ FPGA (หรือ FPGA/eFPGA แบบฝัง) เป็นการประนีประนอมที่ดีระหว่างความสุดโต่งเหล่านี้ ประสิทธิภาพ พลังงาน และเวลาแฝงดีกว่า CPU หรือ GPU และอยู่ระหว่าง CPU กับ GPU ในด้านความยืดหยุ่น ในขณะที่มีความยืดหยุ่นดีกว่า ASIC เนื่องจาก FPGA สามารถตั้งโปรแกรมใหม่ได้ ซึ่งทั้งหมดนี้สมเหตุสมผลสำหรับฉันแม้ว่าฉันจะคิดว่าเรื่องราวควรจะเสร็จสมบูรณ์โดยการเพิ่ม DSP ให้กับแพลตฟอร์ม สิ่งเหล่านี้สามารถมีข้อได้เปรียบด้านฮาร์ดแวร์เฉพาะของ AI (การเวคเตอร์, อาร์เรย์ MAC, ฯลฯ) ซึ่งเป็นประโยชน์ต่อประสิทธิภาพ พลังงาน และเวลาแฝง ในขณะที่ยังคงความยืดหยุ่นของซอฟต์แวร์ การพิจารณาที่สำคัญอื่น ๆ คือค่าใช้จ่าย นี่เป็นหัวข้อที่ละเอียดอ่อนเสมอ แต่ CPU, GPU และอุปกรณ์ FPGA ที่รองรับ AI อาจมีราคาแพง ซึ่งเป็นข้อกังวลสำหรับรายการวัสดุของเอดจ์โหนด

ข้อโต้แย้งของ Colin สมเหตุสมผลที่สุดสำหรับฉันสำหรับ eFPGA ที่ฝังอยู่ใน SoC ที่ใหญ่กว่า ในแอปพลิเคชันระบบคลาวด์ ข้อจำกัดจะแตกต่างกัน การ์ดอินเทอร์เฟซเครือข่ายอัจฉริยะอาจไม่คำนึงถึงราคา และอาจมีข้อได้เปรียบด้านประสิทธิภาพในโซลูชันที่ใช้ FPGA เมื่อเทียบกับโซลูชันที่ใช้ซอฟต์แวร์

การรองรับแอปพลิเคชัน AI ที่ขอบการประมวลผลผ่าน eFPGA ดูเหมือนเป็นตัวเลือกที่ควรค่าแก่การตรวจสอบเพิ่มเติม ไกลออกไปทางโหนดใบนั้นคลุมเครือสำหรับฉัน แน่นอนว่าตัวติดตามลอจิสติกส์หรือเซ็นเซอร์ความชื้นในดินจะไม่โฮสต์การประมวลผลที่สำคัญ แต่รีโมททีวีที่สั่งงานด้วยเสียงล่ะ หรือไมโครเวฟอัจฉริยะ? ทั้งคู่ต้องการ AI แต่ไม่ต้องการแรงม้ามากนัก ไมโครเวฟมีสายไฟ แต่รีโมททีวีหรือลำโพงอัจฉริยะระยะไกลทำงานโดยใช้แบตเตอรี่ เป็นเรื่องน่าสนใจที่จะทราบการแลกเปลี่ยน eFPGA ที่นี่

ความสามารถ eFPGA สำหรับ AI

จากเอกสารข้อมูล Speedster 7t นำเสนอ MAC จำนวนเต็มที่สามารถแตกตัวได้, จุดทศนิยมที่ยืดหยุ่น, การสนับสนุนแบบเนทีฟสำหรับ bfloat และการคูณเมทริกซ์ที่มีประสิทธิภาพ ฉันไม่พบข้อมูล TOPS หรือ TOPS/Watt เลย ฉันแน่ใจว่าขึ้นอยู่กับการใช้งาน แต่ตัวอย่างจะมีประโยชน์ แม้แต่ที่ขอบ แอปพลิเคชันบางตัวยังไวต่อประสิทธิภาพอย่างมาก เช่น การเฝ้าระวังอัจฉริยะและการตรวจจับวัตถุที่หันไปข้างหน้าในรถยนต์ เป็นต้น เป็นเรื่องน่าสนใจที่จะทราบว่า eFPGA เหมาะสมกับแอปพลิเคชันดังกล่าวที่ใด

การสัมมนาผ่านเว็บที่กระตุ้นความคิด คุณสามารถรับชมได้ ที่นี่.

แชร์โพสต์นี้ผ่าน:

• เนื้อหาที่ขับเคลื่อนด้วย SEO และการเผยแพร่ประชาสัมพันธ์ รับการขยายวันนี้
• เพลโตบล็อคเชน Web3 Metaverse ข่าวกรอง ขยายความรู้. เข้าถึงได้ที่นี่.
• ที่มา: https://semiwiki.com/efpga/323785-achronix-on-platform-selection-for-ai-at-the-edge/