Achronix zur Plattformauswahl für KI am Edge

Colin Alexander (Director of Product Marketing bei Achronix) hat kürzlich ein Webinar zu diesem Thema veröffentlicht. Mit nur 20 Minuten ist das Webinar eine einfache Beobachtung und ein nützliches Update zu Datenverkehr und Implementierungsmöglichkeiten. Downloads werden immer noch von Videos dominiert (über 50 % für Facebook), die jetzt stark vom Caching am Rand oder in dessen Nähe abhängen. Welche davon zutrifft, hängt von Ihrer Definition von „Kante“ ab. Die IoT-Welt sieht sich selbst als Edge, die Cloud- und Infrastrukturwelt sieht offenbar den letzten Rechenknoten in der Infrastruktur vor diesen Leaf-Geräten als Edge. Kartoffel, Kartoffel. Auf jeden Fall finden Sie in der Infrastrukturansicht des Edge Video-Caching, um die beliebtesten Downloads so effizient und schnell wie möglich bereitzustellen.

Rechenoptionen am Edge (und in der Cloud)

Colin spricht zunächst über Infrastruktur-Edge, wo einige Pferdestärken für Rechenleistung und KI erforderlich sind. Er stellt die Standardoptionen vor: CPU, GPU, ASIC oder FPGA. Eine CPU-basierte Lösung bietet die größte Flexibilität, da Ihre Lösung vollständig softwarebasiert ist. Aus dem gleichen Grund wird es im Allgemeinen auch die langsamste, leistungshungrigste und längste Latenzoption sein (für Hin- und Rückfahrt zu Blattknoten, nehme ich an). GPUs sind etwas besser in Leistung und Leistung mit etwas weniger Flexibilität als CPUs. Ein ASIC (kundenspezifische Hardware) ist am schnellsten, verbraucht am wenigsten Strom und hat die geringste Latenz, ist aber im Konzept am wenigsten flexibel (alle Smarts befinden sich in Hardware, die nicht geändert werden kann).

Er präsentiert FPGA (oder eingebettetes FPGA/eFPGA) als einen guten Kompromiss zwischen diesen Extremen. Besser in Bezug auf Leistung, Leistung und Latenz als CPU oder GPU und irgendwo zwischen einer CPU und einer GPU in Bezug auf Flexibilität. Obwohl viel besser als ein ASIC in Bezug auf Flexibilität, da ein FPGA neu programmiert werden kann. Was für mich alles Sinn macht, obwohl ich denke, dass die Geschichte durch das Hinzufügen von DSPs zur Plattformreihe vervollständigt werden sollte. Diese können KI-spezifische Hardwarevorteile (Vektorisierung, MAC-Arrays usw.) haben, die Leistung, Leistung und Latenz zugute kommen. Unter Beibehaltung der Flexibilität der Software. Die andere wichtige Überlegung sind die Kosten. Dies ist natürlich immer ein heikles Thema, aber KI-fähige CPUs, GPUs und FPGA-Geräte können teuer sein, ein Problem für die Stückliste eines Edge-Knotens.

Colins Argument macht für mich am Rande für eFPGA, das in ein größeres SoC eingebettet ist, am meisten Sinn. In einer Cloud-Anwendung gelten andere Einschränkungen. Eine intelligente Netzwerkschnittstellenkarte ist wahrscheinlich nicht so preisempfindlich, und es kann einen Leistungsvorteil in einer FPGA-basierten Lösung gegenüber einer Software-basierten Lösung geben.

Die Unterstützung von KI-Anwendungen am Rechenrand durch ein eFPGA scheint eine Option zu sein, die es wert ist, weiter untersucht zu werden. Weiter draußen in Richtung Blattknoten ist es für mich unscharf. Ein Logistik-Tracker oder ein Bodenfeuchtesensor wird sicherlich keine nennenswerten Rechenleistungen erbringen, aber was ist mit einer sprachaktivierten TV-Fernbedienung? Oder eine intelligente Mikrowelle? Beide brauchen KI, aber keiner braucht viel PS. Die Mikrowelle hat kabelgebundenen Strom, aber eine TV-Fernbedienung oder ein Smart-Lautsprecher wird mit Batterien betrieben. Es wäre interessant, die eFPGA-Kompromisse hier zu kennen.

eFPGA-Fähigkeiten für KI

Laut Datenblatt bietet Speedster 7t vollständig frakturierbare ganzzahlige MACs, flexible Gleitkommazahlen, native Unterstützung für bfloat und effiziente Matrixmultiplikationen. Ich konnte keine Daten zu TOPS oder TOPS/Watt finden. Ich bin sicher, das hängt von der Implementierung ab, aber Beispiele wären nützlich. Selbst am Rand sind einige Anwendungen sehr leistungsempfindlich – zum Beispiel intelligente Überwachung und nach vorne gerichtete Objekterkennung in Autos. Es wäre interessant zu wissen, wo eFPGA in solche Anwendungen passen könnte.

Zum Nachdenken anregendes Webinar. Sie können es sich ansehen KLICKEN SIE HIER.

Teile diesen Beitrag über:

• SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
• Platoblockkette. Web3-Metaverse-Intelligenz. Wissen verstärkt. Hier zugreifen.
• Quelle: https://semiwiki.com/efpga/323785-achronix-on-platform-selection-for-ai-at-the-edge/