에지에서 AI를 위한 Achronix 온 플랫폼 선택

플라톤에 의해 재발행

팔로워 : 0

Colin Alexander(Achronix의 제품 마케팅 이사)는 최근 이 주제에 대한 웨비나를 발표했습니다. 단 20분의 웨비나는 데이터 트래픽 및 구현 옵션에 대한 유용한 업데이트를 쉽게 볼 수 있습니다. 다운로드는 여전히 비디오(Facebook의 경우 50% 이상)가 지배하고 있으며, 현재는 에지 또는 그 근처에 있는 캐싱에 크게 의존하고 있습니다. 적용되는 것은 "에지"의 정의에 따라 다릅니다. IoT 세계는 자신을 에지로 보고 클라우드 및 인프라 세계는 인프라의 마지막 컴퓨팅 노드를 에지로 간주합니다. 감자, 감자. 어쨌든 에지의 인프라 보기는 가장 인기 있는 다운로드를 가능한 한 효율적이고 빠르게 제공하기 위해 비디오 캐싱을 찾을 수 있는 곳입니다.

에지에서 AI를 위한 플랫폼 선택에 대한 Achronix

에지(및 클라우드)의 컴퓨팅 옵션

Colin은 처음에 컴퓨팅 및 AI에서 약간의 마력이 필요한 인프라 에지에 대해 이야기합니다. 그는 CPU, GPU, ASIC 또는 FPGA와 같은 표준 옵션을 제시합니다. 솔루션이 전적으로 소프트웨어 기반이기 때문에 CPU 기반 솔루션은 최고의 유연성을 가지고 있습니다. 같은 이유로 일반적으로 가장 느리고 전력 소모가 가장 많으며 대기 시간이 가장 긴 옵션입니다(리프 노드 왕복의 경우). GPU는 CPU보다 약간 덜 유연하지만 성능과 전력면에서 다소 우수합니다. ASIC(커스텀 하드웨어)는 개념적으로는 가장 유연하지 않지만 가장 빠르고, 전력이 가장 낮고 대기 시간이 가장 짧습니다(모든 스마트 기능은 변경할 수 없는 하드웨어에 있음).

그는 FPGA(또는 임베디드 FPGA/eFPGA)를 이러한 극단 사이의 좋은 절충안으로 제시합니다. CPU 또는 GPU보다 성능, 전력 및 대기 시간이 더 좋고 유연성면에서 CPU와 GPU 사이에 있습니다. FPGA를 다시 프로그래밍할 수 있기 때문에 ASIC보다 유연성이 훨씬 뛰어납니다. 플랫폼 라인업에 DSP를 추가하여 스토리를 완성했어야 했다고 생각하지만, 모든 것이 나에게는 이해가 됩니다. 이들은 성능, 전력 및 대기 시간에 도움이 되는 AI 관련 하드웨어 이점(벡터화, MAC 어레이 등)을 가질 수 있습니다. 소프트웨어 유연성을 유지하면서. 다른 중요한 고려 사항은 비용입니다. 이것은 물론 항상 민감한 주제이지만 AI 지원 CPU, GPU 및 FPGA 장치는 비용이 많이 들 수 있으며 에지 노드의 BOM에 대한 우려 사항입니다.

Colin의 주장은 더 큰 SoC에 내장된 eFPGA의 가장자리에서 나에게 가장 의미가 있습니다. 클라우드 애플리케이션에서는 제약 조건이 다릅니다. 스마트 네트워크 인터페이스 카드는 아마도 가격에 민감하지 않으며 소프트웨어 기반 솔루션에 비해 FPGA 기반 솔루션에서 성능 이점이 있을 수 있습니다.

eFPGA를 통해 컴퓨팅 에지에서 AI 애플리케이션을 지원하는 것은 추가 조사할 가치가 있는 옵션처럼 보입니다. 리프 노드를 향해 더 나아가면 흐릿합니다. 물류 추적기나 토양 수분 센서는 상당한 컴퓨팅을 호스트하지 않지만 음성 활성화 TV 리모콘은 어떻습니까? 아니면 스마트 전자레인지? 둘 다 AI가 필요하지만 둘 다 많은 마력이 필요하지 않습니다. 전자레인지에는 유선 전원이 있지만 TV 리모컨이나 원격 스마트 스피커는 배터리로 작동합니다. 여기에서 eFPGA 장단점을 아는 것이 흥미로울 것입니다.

AI용 eFPGA 기능

데이터시트에 따라 Speedster 7t는 완전히 분해 가능한 정수 MAC, 유연한 부동 소수점, bfloat에 대한 기본 지원 및 효율적인 매트릭스 곱셈을 제공합니다. TOPS 또는 TOPS/Watt에 대한 데이터를 찾을 수 없습니다. 구현에 따라 다르지만 예제가 유용할 것이라고 확신합니다. 가장자리에서도 일부 애플리케이션은 성능에 매우 민감합니다. 예를 들어 자동차의 스마트 감시 및 전방 물체 감지가 있습니다. eFPGA가 그러한 애플리케이션에 적합한 위치를 아는 것은 흥미로울 것입니다.

생각을 자극하는 웨비나. 당신은 그것을 볼 수 있습니다 여기를 클릭하십시오..

다음을 통해이 게시물 공유 :