Achronix a platformválasztáson a mesterséges intelligencia számára az élen

Colin Alexander (az Achronix termékmarketing igazgatója) a közelmúltban webináriumot adott ki erről a témáról. A mindössze 20 perces webinárium egyszerűen megtekinthető, és hasznos frissítés az adatforgalomról és a megvalósítási lehetőségekről. A letöltéseket továbbra is a videók uralják (a Facebook esetében ez az arány több mint 50%), amely jelenleg nagymértékben függ a szélén vagy ahhoz közeli gyorsítótártól. Az, hogy ezek közül melyik vonatkozik, az „él” definíciójától függ. Az IoT világa a peremnek tekinti magát, a felhő és az infrastruktúra világa pedig láthatóan az utolsó számítási csomópontot látja az infrastruktúrában, a levelezőeszközök előtt. Burgonya, burgonya. Mindenesetre a perem infrastruktúra nézete az, ahol megtalálja a videó gyorsítótárat, hogy a legnépszerűbb letöltéseket a lehető leghatékonyabban és a lehető leggyorsabban kiszolgálhassa.

Számítási lehetőségek a peremen (és a felhőben)

Colin kezdetben az infrastruktúra előnyeiről beszél, ahol a számításokhoz és az AI-hoz némi lóerőre van szükség. Bemutatja a standard opciókat: CPU, GPU, ASIC vagy FPGA. A CPU-alapú megoldások a legnagyobb rugalmassággal rendelkeznek, mivel az Ön megoldása teljes mértékben szoftver alapú lesz. Ugyanezen okból általában ez lesz a leglassabb, leginkább energiaéhes és a leghosszabb késleltetésű opció (feltételezem, hogy oda-vissza út a levél csomópontjaihoz). A GPU-k valamivel jobb teljesítményt és teljesítményt nyújtanak, és valamivel kevesebb rugalmasságot mutatnak, mint a CPU-k. Az ASIC (egyedi hardver) lesz a leggyorsabb, a legalacsonyabb teljesítményű és legalacsonyabb késleltetésű, bár koncepciójában a legkevésbé rugalmas (minden okosság a hardverben van, amelyen nem lehet változtatni).

Az FPGA-t (vagy beágyazott FPGA/eFPGA-t) jó kompromisszumként mutatja be e szélsőségek között. Jobb teljesítmény, teljesítmény és késleltetés tekintetében, mint a CPU vagy a GPU, a rugalmasság tekintetében pedig valahol a CPU és a GPU között. Bár sokkal jobb, mint egy ASIC a rugalmasságban, mert az FPGA átprogramozható. Ami számomra teljesen logikus, bár úgy gondolom, hogy a történetet úgy kellett volna befejezni, hogy DSP-ket adunk a platformsorhoz. Ezek mesterséges intelligencia-specifikus hardverelőnyökkel rendelkezhetnek (vektorizálás, MAC-tömbök stb.), amelyek javítják a teljesítményt, a teljesítményt és a késleltetést. A szoftver rugalmasságának megőrzése mellett. A másik fontos szempont a költség. Ez természetesen mindig kényes téma, de az AI-képes CPU-k, GPU-k és FPGA-eszközök drágák lehetnek, ami aggodalomra ad okot egy élcsomópont anyagjegyzéke miatt.

Colin érvelése számomra a legértelmesebb a nagyobb SoC-be ágyazott eFPGA mellett. Egy felhőalkalmazásban a korlátozások eltérőek. Az intelligens hálózati interfész kártya valószínűleg nem annyira árérzékeny, és az FPGA-alapú megoldások teljesítményelőnyök lehetnek a szoftveralapú megoldásokhoz képest.

Az AI-alkalmazások támogatása a számítási élen eFPGA-n keresztül olyan lehetőségnek tűnik, amelyet érdemes tovább vizsgálni. A levél csomópontjai felé távolabb számomra homályos. Egy logisztikai nyomkövető vagy egy talajnedvesség-érzékelő biztosan nem tud jelentős számításokat végezni, de mi a helyzet a hangvezérelt TV távirányítóval? Vagy okos mikrohullámú sütő? Mindkettőhöz mesterséges intelligencia kell, de egyiknek sincs szüksége sok lóerőre. A mikrohullámú sütő vezetékes tápellátással rendelkezik, de a TV távirányítója vagy a távoli intelligens hangszóró elemekkel működik. Érdekes lenne tudni az eFPGA kompromisszumokat itt.

eFPGA képességek mesterséges intelligencia számára

Az adatlap szerint a Speedster 7t teljesen törhető egész MAC-okat, rugalmas lebegőpontot, natív bfloat támogatást és hatékony mátrixszorzást kínál. Nem találtam adatot a TOPS-ról vagy a TOPS/Wattról. Biztos vagyok benne, hogy ez a megvalósítástól függ, de a példák hasznosak lennének. Egyes alkalmazások még a széleken is nagyon teljesítményérzékenyek – például az intelligens felügyelet és az előre néző objektumészlelés az autókban. Érdekes lenne tudni, hogy az eFPGA hol fér el az ilyen alkalmazásokban.

Elgondolkodtató webinárium. Meg lehet nézni ITT.

Oszd meg ezt a bejegyzést ezen keresztül:

• SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
• Platoblockchain. Web3 metaverzum intelligencia. Felerősített tudás. Hozzáférés itt.
• Forrás: https://semiwiki.com/efpga/323785-achronix-on-platform-selection-for-ai-at-the-edge/