Achronix pada Pemilihan Platform untuk AI di Edge

Colin Alexander (Direktur pemasaran produk di Achronix) baru-baru ini merilis webinar tentang topik ini. Hanya dalam 20 menit, webinar menjadi tontonan yang mudah dan pembaruan yang bermanfaat tentang lalu lintas data dan opsi implementasi. Pengunduhan masih didominasi oleh video (lebih dari 50% untuk Facebook) yang sekarang sangat bergantung pada caching di atau dekat edge. Yang mana yang berlaku tergantung pada definisi Anda tentang "tepi". Dunia IoT melihat diri mereka sebagai edge, dunia cloud dan infrastruktur tampaknya melihat node komputasi terakhir dalam infrastruktur, sebelum perangkat leaf tersebut, sebagai edge. Kentang, kentang. Bagaimanapun, tampilan infrastruktur tepi adalah tempat Anda akan menemukan caching video, untuk melayani unduhan paling populer seefisien dan secepat mungkin.

Opsi komputasi di edge (dan di cloud)

Colin awalnya berbicara tentang keunggulan infrastruktur di mana beberapa tenaga kuda diperlukan dalam komputasi dan AI. Dia menyajikan opsi standar: CPU, GPU, ASIC atau FPGA. Solusi berbasis CPU memiliki fleksibilitas terbesar karena solusi Anda akan sepenuhnya berbasis perangkat lunak. Untuk alasan yang sama, ini juga umumnya akan menjadi opsi latensi paling lambat, paling haus daya, dan terpanjang (untuk perjalanan pulang pergi ke simpul daun saya berasumsi). GPU agak lebih baik dalam kinerja dan daya dengan fleksibilitas yang sedikit lebih rendah daripada CPU. ASIC (perangkat keras khusus) akan tercepat, daya terendah, dan latensi terendah, meskipun dalam konsep paling tidak fleksibel (semua kecerdasan ada di perangkat keras yang tidak dapat diubah).

Dia menyajikan FPGA (atau tertanam FPGA/eFPGA) sebagai kompromi yang baik antara ekstrim ini. Lebih baik dalam kinerja, daya, dan latensi daripada CPU atau GPU dan di antara CPU dan GPU dalam hal fleksibilitas. Meskipun fleksibilitasnya jauh lebih baik daripada ASIC karena FPGA dapat diprogram ulang. Yang semuanya masuk akal bagi saya sejauh ini, meskipun menurut saya ceritanya seharusnya diselesaikan dengan menambahkan DSP ke jajaran platform. Ini dapat memiliki keunggulan perangkat keras khusus AI (vektorisasi, array MAC, dll) yang menguntungkan kinerja, daya, dan latensi. Sambil mempertahankan fleksibilitas perangkat lunak. Pertimbangan penting lainnya adalah biaya. Tentu saja ini selalu menjadi topik yang sensitif, tetapi CPU, GPU, dan perangkat FPGA berkemampuan AI bisa jadi mahal, kekhawatiran akan tagihan material node tepi.

Argumen Colin paling masuk akal bagi saya karena eFPGA tertanam dalam SoC yang lebih besar. Dalam aplikasi cloud, batasannya berbeda. Kartu antarmuka jaringan pintar mungkin tidak sensitif terhadap harga dan mungkin ada keunggulan kinerja dalam solusi berbasis FPGA dibandingkan solusi berbasis perangkat lunak.

Mendukung aplikasi AI di tepi komputasi melalui eFPGA sepertinya merupakan opsi yang perlu diselidiki lebih lanjut. Lebih jauh ke arah simpul daun tidak jelas bagi saya. Pelacak logistik atau sensor kelembaban tanah pasti tidak akan menampung komputasi yang signifikan, tetapi bagaimana dengan remote TV yang diaktifkan suara? Atau microwave pintar? Keduanya membutuhkan AI tetapi tidak membutuhkan banyak tenaga kuda. Microwave memiliki daya kabel, tetapi remote TV atau speaker pintar jarak jauh menggunakan baterai. Akan menarik untuk mengetahui pengorbanan eFPGA di sini.

kemampuan eFPGA untuk AI

Per lembar data, Speedster 7t menawarkan MAC integer yang sepenuhnya dapat dipatahkan, floating point fleksibel, dukungan asli untuk bfloat dan perkalian matriks yang efisien. Saya tidak dapat menemukan data apa pun di TOPS atau TOPS/Watt. Saya yakin itu tergantung pada implementasi tetapi contoh akan berguna. Bahkan di edge, beberapa aplikasi sangat sensitif terhadap kinerja – pengawasan cerdas dan deteksi objek yang menghadap ke depan di mobil misalnya. Akan menarik untuk mengetahui di mana eFPGA mungkin cocok dalam aplikasi semacam itu.

Webinar yang menggugah pikiran. Anda bisa menontonnya SINI.

Bagikan postingan ini melalui:

• Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
• Platoblockchain. Intelijen Metaverse Web3. Pengetahuan Diperkuat. Akses Di Sini.
• Sumber: https://semiwiki.com/efpga/323785-achronix-on-platform-selection-for-ai-at-the-edge/