Achronix platvormi valikul AI jaoks Edge'is

Colin Alexander (Achronixi tooteturunduse direktor) avaldas hiljuti sellel teemal veebiseminari. Vaid 20-minutiline veebiseminar on hõlpsasti jälgitav ja kasulik värskendus andmeliikluse ja rakendusvõimaluste kohta. Allalaadimistes domineerib endiselt video (Facebooki puhul üle 50%), mis sõltub nüüd suuresti vahemällu salvestamisest servas või selle lähedal. Milline neist kehtib, sõltub teie määratlusest "serv". IoT maailm näeb end servana, pilve- ja infrastruktuurimaailm näeb ilmselt infrastruktuuri viimast arvutussõlme, enne neid lehtseadmeid, servana. Kartul, kartul. Igal juhul on serva infrastruktuurivaade see, kust leiate video vahemällu, et teenindada kõige populaarsemaid allalaadimisi nii tõhusalt ja nii kiiresti kui võimalik.

Arvutusvalikud servas (ja pilves)

Colin räägib esialgu infrastruktuuri eelistest, kus arvutamisel ja tehisintellektis on vaja mõnda hobujõudu. Ta tutvustab standardseid valikuid: CPU, GPU, ASIC või FPGA. CPU-põhisel lahendusel on suurim paindlikkus, kuna teie lahendus on täielikult tarkvarapõhine. Samal põhjusel on see üldiselt ka kõige aeglasem, energianäljaseim ja pikima latentsusaeg (ma eeldan, et edasi-tagasi reisiks lehesõlmedesse). GPU-d on jõudluse ja võimsuse osas mõnevõrra paremad ning on veidi vähem paindlikud kui protsessorid. ASIC (kohandatud riistvara) on kiireim, väikseima võimsusega ja väikseima latentsusajaga, kuigi põhimõtteliselt kõige vähem paindlik (kõik nutikad on riistvaras, mida ei saa muuta).

Ta esitleb FPGA-d (või manustatud FPGA-d / eFPGA-d) hea kompromissina nende äärmuste vahel. Parem jõudluse, võimsuse ja latentsuse poolest kui CPU või GPU ning paindlikkuse poolest CPU ja GPU vahepeal. Kuigi see on paindlikkuse osas palju parem kui ASIC, kuna FPGA-d saab ümber programmeerida. Mis kõik on minu jaoks mõistlik, kuigi ma arvan, et lugu oleks pidanud lõpule viima DSP-de lisamisega platvormivalikusse. Neil võib olla AI-spetsiifilised riistvaralised eelised (vektoriseerimine, MAC-massiivid jne), mis soodustavad jõudlust, võimsust ja latentsust. Säilitades tarkvara paindlikkuse. Teine oluline kaalutlus on maksumus. See on muidugi alati tundlik teema, kuid tehisintellektiga CPU-d, GPU-d ja FPGA-seadmed võivad olla kallid, mis tekitab muret servasõlme materjalide arve pärast.

Colini argument on minu jaoks kõige mõistlikum suuremasse SoC-sse manustatud eFPGA puhul. Pilverakenduses on piirangud erinevad. Nutikas võrguliidese kaart ei ole tõenäoliselt nii hinnatundlik ja FPGA-põhisel lahendusel võib olla jõudluse eelis võrreldes tarkvarapõhise lahendusega.

AI-rakenduste toetamine arvutusserval eFPGA kaudu näib olevat võimalus, mida tasub edasi uurida. Edasi lehtede sõlmede suunas on minu jaoks hägune. Logistika jälgija või pinnase niiskuse andur ei võimalda kindlasti arvutusi teha, aga kuidas on lood häälkäsklusega teleri kaugjuhtimispuldiga? Või nutikas mikrolaineahi? Mõlemad vajavad AI-d, kuid kumbki ei vaja palju hobujõudu. Mikrolaineahjul on juhtmega toide, kuid teleri kaugjuhtimispult või nutikõlar töötab patareidega. Oleks huvitav teada eFPGA kompromisse siin.

eFPGA võimalused AI jaoks

Vastavalt andmelehele pakub Speedster 7t täielikult murduvaid täisarvude MAC-e, paindlikku ujukoma, natiivset tuge bfloat ja tõhusat maatriksikorrutamist. Ma ei leidnud andmeid TOPSi või TOPSi/Watti kohta. Olen kindel, et see sõltub rakendamisest, kuid näited oleksid kasulikud. Isegi serval on mõned rakendused väga jõudlustundlikud – näiteks nutikas jälgimine ja ettepoole suunatud objektide tuvastamine autodes. Oleks huvitav teada, kuhu eFPGA sellistes rakendustes sobida võiks.

Mõtlemapanev veebiseminar. Saate seda vaadata SIIN.

Jaga seda postitust:

• SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
• Platoblockchain. Web3 metaversiooni intelligentsus. Täiustatud teadmised. Juurdepääs siia.
• Allikas: https://semiwiki.com/efpga/323785-achronix-on-platform-selection-for-ai-at-the-edge/