Achronix 论边缘 AI 的平台选择

由柏拉图重新发布

关注： 0

Colin Alexander（Achronix 产品营销总监）最近发布了一个关于此主题的网络研讨会。该网络研讨会时长仅 20 分钟，观看起来很轻松，而且对数据流量和实施选项进行了有用的更新。下载仍然以视频为主（Facebook 超过 50%），视频现在严重依赖边缘或边缘附近的缓存。其中哪一个适用取决于您对“边缘”的定义。物联网世界将自己视为边缘，云和基础设施世界显然将基础设施中的最后一个计算节点（在那些叶设备之前）视为边缘。马铃薯，土豆。无论如何，边缘的基础设施视图是您可以找到视频缓存的地方，以尽可能高效和快速地为最流行的下载提供服务。

Achronix 谈边缘 AI 的平台选择

边缘（和云端）的计算选项

Colin 最初谈到基础设施边缘，计算和 AI 需要一些能力。他介绍了标准选项：CPU、GPU、ASIC 或 FPGA。基于 CPU 的解决方案具有最大的灵活性，因为您的解决方案将完全基于软件。出于同样的原因，它通常也是最慢、最耗电和最长延迟的选项（我假设是到叶节点的往返）。 GPU 在性能和功率方面略胜一筹，但灵活性低于 CPU。 ASIC（定制硬件）速度最快、功耗最低且延迟最低，但在概念上最不灵活（所有智能都在无法更改的硬件中）。

他将 FPGA（或嵌入式 FPGA/eFPGA）作为这些极端之间的良好折衷方案。在性能、功率和延迟方面优于 CPU 或 GPU，在灵活性方面介于 CPU 和 GPU 之间。虽然在灵活性上比 ASIC 好得多，因为 FPGA 可以重新编程。就目前而言，这一切对我来说都是有意义的，尽管我认为这个故事应该通过将 DSP 添加到平台阵容来完成。这些可以具有 AI 特定的硬件优势（矢量化、MAC 阵列等），从而有利于性能、功耗和延迟。同时保留软件的灵活性。另一个重要的考虑因素是成本。当然，这始终是一个敏感话题，但支持 AI 的 CPU、GPU 和 FPGA 设备可能价格昂贵，这是边缘节点材料清单的一个问题。

对于嵌入更大 SoC 中的 eFPGA，Colin 的论点对我来说最有意义。在云应用程序中，约束是不同的。智能网络接口卡可能对价格不那么敏感，并且基于 FPGA 的解决方案与基于软件的解决方案相比可能具有性能优势。

通过 eFPGA 在计算边缘支持 AI 应用程序看起来是一个值得进一步研究的选项。更远的叶节点对我来说是模糊的。物流跟踪器或土壤湿度传感器肯定不会承载大量计算，但声控电视遥控器呢？还是智能微波炉？两者都需要人工智能，但都不需要很大的马力。微波炉具有有线电源，但电视遥控器或遥控智能扬声器使用电池供电。在这里了解 eFPGA 的权衡会很有趣。

用于 AI 的 eFPGA 功能

根据数据表，Speedster 7t 提供完全可分解的整数 MAC、灵活的浮点数、对 bfloat 的原生支持和高效的矩阵乘法。我找不到有关 TOPS 或 TOPS/Watt 的任何数据。我确信这取决于实现，但示例会很有用。即使在边缘，一些应用程序对性能也非常敏感——例如汽车中的智能监控和前向物体检测。了解 eFPGA 在此类应用中的适用位置会很有趣。

发人深省的网络研讨会。你可以看看点击这里.

通过以下方式分享此帖子：