Achronix în Selectarea platformei pentru AI at the Edge

Colin Alexander (Director de marketing de produs la Achronix) a lansat recent un webinar pe acest subiect. În doar 20 de minute, webinarul este o vizionare ușoară și o actualizare utilă privind traficul de date și opțiunile de implementare. Descărcările sunt încă dominate de videoclipuri (peste 50% pentru Facebook), care acum depinde în mare măsură de stocarea în cache la margine sau aproape. Care dintre acestea se aplică depinde de definiția dvs. de „margine”. Lumea IoT se vede pe ei înșiși ca margine, lumea cloud și a infrastructurii aparent văd ultimul nod de calcul din infrastructură, înaintea acelor dispozitive frunză, ca margine. Cartofi, cartofi. În orice caz, vizualizarea infrastructurii edge este locul unde veți găsi memorarea în cache video, pentru a servi cele mai populare descărcări cât mai eficient și cât mai rapid posibil.

Opțiuni de calcul la margine (și în cloud)

Colin vorbește inițial despre marginea infrastructurii în care este necesar un cai putere în calcul și în AI. El prezintă opțiunile standard: CPU, GPU, ASIC sau FPGA. O soluție bazată pe CPU are cea mai mare flexibilitate, deoarece soluția dvs. va fi în întregime bazată pe software. Din același motiv, va fi, de asemenea, în general, cea mai lentă, cea mai consumatoare de energie și cea mai lungă latență (pentru călătorie dus-întors la nodurile frunze presupun). GPU-urile sunt oarecum mai bune în ceea ce privește performanța și puterea, cu puțin mai puțină flexibilitate decât procesoarele. Un ASIC (hardware personalizat) va fi cel mai rapid, cea mai scăzută putere și cea mai mică latență, deși, în concept, cel mai puțin flexibil (toate inteligența sunt în hardware care nu poate fi schimbat).

El prezintă FPGA (sau FPGA/eFPGA încorporat) ca un bun compromis între aceste extreme. Mai bine la performanță, putere și latență decât CPU sau GPU și undeva între un procesor și un GPU la flexibilitate. Deși mult mai bun decât un ASIC la flexibilitate, deoarece un FPGA poate fi reprogramat. Ceea ce totul are sens pentru mine în ceea ce privește, deși cred că povestea ar fi trebuit finalizată prin adăugarea de DSP-uri la gama platformei. Acestea pot avea avantaje hardware specifice AI (vectorizare, matrice MAC etc) care beneficiază de performanță, putere și latență. Păstrând în același timp flexibilitatea software-ului. Un alt aspect important este costul. Acesta este întotdeauna un subiect sensibil, desigur, dar CPU-urile, GPU-urile și dispozitivele FPGA capabile de AI pot fi costisitoare, o preocupare pentru lista de materiale a unui nod de margine.

Argumentul lui Colin are cel mai mult sens pentru mine la marginea eFPGA încorporată într-un SoC mai mare. Într-o aplicație cloud, constrângerile sunt diferite. O placă de interfață de rețea inteligentă nu este probabil la fel de sensibilă la preț și poate exista un avantaj de performanță într-o soluție bazată pe FPGA față de o soluție bazată pe software.

Sprijinirea aplicațiilor AI la marginea de calcul printr-un eFPGA pare o opțiune care merită investigată în continuare. Mai departe spre nodurile frunzelor este neclar pentru mine. Un tracker logistic sau un senzor de umiditate a solului cu siguranță nu va găzdui un calcul semnificativ, dar ce zici de o telecomandă TV cu activare vocală? Sau un cuptor cu microunde inteligent? Ambele au nevoie de AI, dar niciunul nu are nevoie de mulți cai putere. Cuptorul cu microunde are putere prin cablu, dar telecomanda televizorului sau difuzorul inteligent funcționează cu baterii. Ar fi interesant să cunoaștem compromisurile eFPGA aici.

Capabilitati eFPGA pentru AI

Conform fișei de date, Speedster 7t oferă MAC-uri întregi complet fracturabile, virgulă mobilă flexibilă, suport nativ pentru bfloat și înmulțiri eficiente de matrice. Nu am găsit date despre TOPS sau TOPS/Watt. Sunt sigur că depinde de implementare, dar exemplele ar fi utile. Chiar și la margine, unele aplicații sunt foarte sensibile la performanță – supravegherea inteligentă și detectarea obiectelor orientate spre înainte în mașini, de exemplu. Ar fi interesant de știut unde s-ar putea încadra eFPGA în astfel de aplicații.

Webinar care provoacă gândirea. Îl poți urmări AICI.

Distribuie această postare prin:

• Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
• Platoblockchain. Web3 Metaverse Intelligence. Cunoștințe amplificate. Accesați Aici.
• Sursa: https://semiwiki.com/efpga/323785-achronix-on-platform-selection-for-ai-at-the-edge/