Achronix pri izbiri platforme za AI na robu

Colin Alexander (direktor trženja izdelkov pri Achronixu) je nedavno izdal spletni seminar o tej temi. Spletni seminar, ki traja le 20 minut, je preprost ogled in uporabna posodobitev podatkovnega prometa in možnosti izvedbe. Med prenosi še vedno prevladuje video (več kot 50 % za Facebook), ki je zdaj močno odvisen od predpomnjenja na robu ali blizu njega. Kaj od tega velja, je odvisno od vaše definicije "roba". Svet interneta stvari se vidi kot rob, oblak in infrastrukturni svet očitno vidita zadnje računalniško vozlišče v infrastrukturi, pred temi leaf napravami, kot rob. Krompir, krompir. V vsakem primeru je pogled na infrastrukturo roba tam, kjer boste našli predpomnjenje videoposnetkov, ki najučinkoviteje in čim hitreje služi najbolj priljubljenim prenosom.

Možnosti računanja na robu (in v oblaku)

Colin najprej govori o infrastrukturni prednosti, kjer je potrebnih nekaj konjskih moči pri računanju in umetni inteligenci. Predstavi standardne možnosti: CPE, GPU, ASIC ali FPGA. Rešitev, ki temelji na procesorju, ima največjo prilagodljivost, saj bo vaša rešitev v celoti temeljila na programski opremi. Iz istega razloga bo na splošno tudi najpočasnejša, najbolj požrešna možnost z najdaljšo zakasnitvijo (predvidevam, da gre za povratno potovanje do listnih vozlišč). GPE-ji so nekoliko boljši glede zmogljivosti in moči z nekoliko manjšo prilagodljivostjo kot CPE-ji. ASIC (strojna oprema po meri) bo najhitrejši, z najmanjšo porabo energije in najnižjo zakasnitvijo, čeprav je v konceptu najmanj prilagodljiv (vsa pametna oprema je v strojni opremi, ki je ni mogoče spremeniti).

FPGA (ali vgrajeni FPGA/eFPGA) predstavlja kot dober kompromis med tema skrajnostma. Boljši glede zmogljivosti, moči in zakasnitve kot CPE ali GPE in nekje med CPE in GPE glede prilagodljivosti. Čeprav je veliko boljši od ASIC glede prilagodljivosti, ker je FPGA mogoče reprogramirati. Kar se mi zdi smiselno, čeprav menim, da bi morala biti zgodba zaključena z dodajanjem DSP-jev na linijo platforme. Ti imajo lahko prednosti strojne opreme, specifične za AI (vektorizacija, polja MAC itd.), ki koristijo zmogljivosti, moči in zakasnitvi. Ob ohranjanju prilagodljivosti programske opreme. Drugi pomemben dejavnik so stroški. To je seveda vedno občutljiva tema, vendar so lahko procesorji, grafični procesorji in naprave FPGA, ki podpirajo umetno inteligenco, dragi, kar je skrb za seznam materialov robnega vozlišča.

Colinov argument se mi zdi najbolj smiseln na robu za eFPGA, vdelan v večji SoC. V aplikaciji v oblaku so omejitve drugačne. Pametna omrežna vmesniška kartica verjetno ni tako občutljiva na ceno in rešitev, ki temelji na FPGA, lahko ima prednost v zmogljivosti v primerjavi z rešitvijo, ki temelji na programski opremi.

Podpora aplikacijam AI na robu računalništva prek eFPGA je videti kot možnost, ki jo je vredno nadalje raziskati. Dlje proti listnim vozlom je zame nejasen. Logistični sledilnik ali senzor vlage v tleh zagotovo ne bosta gostila pomembnejšega računa, kaj pa daljinski upravljalnik za TV z glasovnim upravljanjem? Ali pametna mikrovalovna pečica? Oba potrebujeta AI, vendar nobeden ne potrebuje veliko konjskih moči. Mikrovalovna pečica ima žično napajanje, daljinski upravljalnik televizorja ali daljinski pametni zvočnik pa delujeta na baterije. Tukaj bi bilo zanimivo izvedeti kompromise eFPGA.

Zmogljivosti eFPGA za AI

Glede na podatkovni list Speedster 7t ponuja popolnoma zlomljive cele MAC-je, prilagodljivo plavajočo vejico, izvorno podporo za bfloat in učinkovita matrična množenja. Nisem našel podatkov o TOPS ali TOPS/Watt. Prepričan sem, da je to odvisno od izvedbe, vendar bi bili primeri koristni. Tudi na robu so nekatere aplikacije zelo občutljive na zmogljivost – na primer pametni nadzor in zaznavanje naprej obrnjenih predmetov v avtomobilih. Zanimivo bi bilo vedeti, kje se lahko eFPGA prilega v takšne aplikacije.

Spletni seminar, ki spodbuja razmišljanje. Lahko gledaš TUKAJ.

Delite to objavo prek:

• Distribucija vsebine in PR s pomočjo SEO. Okrepite se še danes.
• Platoblockchain. Web3 Metaverse Intelligence. Razširjeno znanje. Dostopite tukaj.
• vir: https://semiwiki.com/efpga/323785-achronix-on-platform-selection-for-ai-at-the-edge/