Achronix on Platform Selection for AI at the Edge

Colin Alexander (Achronixin tuotemarkkinoinnin johtaja) julkaisi äskettäin webinaarin tästä aiheesta. Vain 20 minuutin webinaari on helppo katsoa ja hyödyllinen päivitys tietoliikenteestä ja toteutusvaihtoehdoista. Latauksia hallitsevat edelleen videot (yli 50 % Facebookissa), joka riippuu nyt suuresti välimuistista reunassa tai lähellä sitä. Mikä näistä pätee, riippuu "reunan" määritelmästäsi. IoT-maailma näkee itsensä reunana, pilvi- ja infrastruktuurimaailma ilmeisesti näkevät infrastruktuurin viimeisen laskentasolmun, ennen lehtilaitteita, reunana. Peruna, peruna. Joka tapauksessa reunan infrastruktuurinäkymästä löydät videovälimuistin, jotta voit palvella suosituimpia latauksia mahdollisimman tehokkaasti ja nopeasti.

Laskevaihtoehdot reunassa (ja pilvessä)

Colin puhuu aluksi infrastruktuurin reunasta, jossa tarvitaan hevosvoimia laskennassa ja tekoälyssä. Hän esittelee vakiovaihtoehdot: CPU, GPU, ASIC tai FPGA. CPU-pohjaisella ratkaisulla on suurin joustavuus, koska ratkaisusi on kokonaan ohjelmistopohjainen. Samasta syystä se on yleensä myös hitain, eniten virtaa kuluttava ja pisin latenssivaihtoehto (olettaakseni edestakaiselle matkalle lehtisolmuihin). Grafiikkasuorittimet ovat jonkin verran parempia suorituskyvyn ja tehon suhteen ja ovat hieman vähemmän joustavia kuin suorittimet. ASIC (mukautettu laitteisto) on nopein, pienin teho ja pienin latenssi, vaikkakin konseptiltaan vähiten joustava (kaikki älykkyys on laitteistossa, jota ei voi muuttaa).

Hän esittää FPGA:n (tai sulautetun FPGA/eFPGA:n) hyvänä kompromissina näiden ääripäiden välillä. Parempi suorituskyvyn, tehon ja viiveen suhteen kuin prosessori tai grafiikkasuoritin ja joustavuuden suhteen jossain CPU:n ja GPU:n välissä. Vaikka paljon parempi kuin ASIC joustavuuden suhteen, koska FPGA voidaan ohjelmoida uudelleen. Tämä kaikki on mielestäni järkevää, vaikka mielestäni tarina olisi pitänyt saada valmiiksi lisäämällä DSP:t alustavalikoimaan. Näillä voi olla tekoälykohtaisia ​​laitteistoetuja (vektorisaatio, MAC-ryhmät jne.), jotka parantavat suorituskykyä, tehoa ja latenssia. Ohjelmiston joustavuus säilyy. Toinen tärkeä näkökohta on hinta. Tämä on tietysti aina arkaluonteinen aihe, mutta tekoälyä tukevat suorittimet, grafiikkasuorittimet ja FPGA-laitteet voivat olla kalliita, mikä aiheuttaa huolta reunasolmun materiaalista.

Colinin argumentti on minusta järkevin eFPGA:n reunalla, joka on upotettu suurempaan SoC:hen. Pilvisovelluksessa rajoitukset ovat erilaisia. Älykäs verkkoliitäntäkortti ei todennäköisesti ole niin hintaherkkä, ja FPGA-pohjaisessa ratkaisussa voi olla suorituskykyetua ohjelmistopohjaiseen ratkaisuun verrattuna.

AI-sovellusten tukeminen laskennan reunalla eFPGA:n kautta näyttää vaihtoehdolta, jota kannattaa tutkia tarkemmin. Kauempana kohti lehtien solmuja on minulle sumeaa. Logistiikkaseuranta tai maaperän kosteusanturi ei varmasti isännöi merkittävää laskentaa, mutta entä puheohjattu television kaukosäädin? Tai älykkään mikroaaltouunin? Molemmat tarvitsevat tekoälyä, mutta kumpikaan ei tarvitse paljon hevosvoimaa. Mikroaaltouunissa on langallinen virta, mutta television kaukosäädin tai älykäs kaiutin toimii paristoilla. Olisi mielenkiintoista tietää eFPGA:n kompromissit täällä.

eFPGA-ominaisuudet tekoälylle

Tietolomakkeen mukaan Speedster 7t tarjoaa täysin murtuvat kokonaisluku-MAC:t, joustavan liukuluku, natiivituen bfloatille ja tehokkaat matriisikertoukset. En löytänyt tietoja TOPSista tai TOPS/Wattista. Olen varma, että se riippuu toteutuksesta, mutta esimerkit olisivat hyödyllisiä. Jopa reunalla jotkin sovellukset ovat erittäin suorituskykyherkkiä – esimerkiksi älykäs valvonta ja eteenpäin suunnattu kohteiden tunnistus autoissa. Olisi mielenkiintoista tietää, mihin eFPGA voisi sopia tällaisissa sovelluksissa.

Ajatuksia herättävä webinaari. Voit katsoa sen TÄÄLTÄ.

Jaa tämä viesti:

• SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
• Platoblockchain. Web3 Metaverse Intelligence. Tietoa laajennettu. Pääsy tästä.
• Lähde: https://semiwiki.com/efpga/323785-achronix-on-platform-selection-for-ai-at-the-edge/