自适应计算的未来：可组合数据中心

这篇博客文章摘自24年2021月XNUMX日在Xilinx Adapt：数据中心发表的执行副总裁Salil Raje，通用汽车Xilinx数据中心小组的主题演讲。 要按需观看Salil的主题演讲，以及行业专家的精彩演讲，您可以 在此处注册并查看内容。

在COVID-19大流行引起的范例转变之后，我们大多数人仍在通过在线视频会议与同事会面。 您可能没有考虑太多如何流式传输会议中的所有内容和提要。 但是，如果您是数据中心运营商，那么在过去的一年中，您可能并没有沉睡，担心如何应对视频流量史无前例的大流行。

不仅如此，如今，数据中心还必须处理来自视频会议，流内容，在线游戏和电子商务等各种工作负载中的非结构化数据的爆炸式增长。 其中许多应用程序对延迟非常敏感，并且还受制于不断发展的压缩，加密和数据库体系结构标准。

这迫使数据中心扩展其基础架构，以满足各种苛刻工作负载的性能和延迟要求，同时试图将成本和功耗降至最低。 事实证明，这非常困难，并且迫使数据中心运营商重新考虑其当前架构，并探索本质上更具可扩展性和效率的新配置。

当前，大多数数据中心的机架都具有固定的资源集，并在单个服务器中结合了SSD，CPU和加速器。 虽然这确保了计算和存储之间的高带宽连接，但是由于每个服务器中存储和计算的比率都是固定的，因此在资源利用率方面效率非常低。 由于工作负载需要不同的计算和存储组合，因此，每台服务器中都留有无用资源的孤岛。

可组合基础架构

正在出现一种新的体系结构，有望显着提高资源利用率。 它被称为“可组合基础架构”。 可组合的基础架构需要 去耦 资源，而是将它们汇集在一起​​，使它们可以从任何地方访问。 可组合的基础架构使仅用适当数量的资源即可配置工作负载，并通过软件进行快速重新配置。

可组合的体系结构具有CPU，SSDS和加速器池，这些池通过网络连接在一起并由基于标准的配置框架控制，有望大大提高数据中心的资源效率。 在这样的体系结构中，不同的工作负载可能具有不同的计算，存储和加速要求，并且将相应分配这些资源，而不会浪费硬件。 从理论上讲，这听起来不错，但实际上，有一个大问题：延迟。

延迟挑战

当您分解资源并将它们移到更远的位置时，由于CPU和SSD之间或CPU和加速器之间的网络流量，会导致更多的延迟和带宽的减少。 除非您有某种方法来减少网络流量并以有效的方式互连资源，否则这可能会受到严重限制。 FPGA在解决延迟挑战中发挥了三个主要作用：

• FPGA充当可适应的加速器，可以针对每种工作负载进行定制以实现最佳性能。 
• FPGA还可以使计算更接近数据，从而减少延迟并最小化所需的带宽。
• FPGA的自适应智能结构可实现有效的资源池化，而不会产生过多的延迟。 

适应性加速

基于FPGA的计算加速器的第一个显着优势是极大地提高了当今需求量很大的工作负载的性能。 在实时流应用的视频转码用例中，FPGA解决方案的性能通常比x86 CPU高30倍，这有助于数据中心运营商满足同时流数量的巨大增长。 另一个例子是在基因组测序的关键领域。 Xilinx基因组学的一位新客户发现，我们基于FPGA的加速器提供的答案比CPU快90倍，从而帮助医学研究人员测试DNA样品的时间仅是原来的一小部分。

将计算更接近数据

在可组合数据中心中，FPGA的第二个主要优势是能够使自适应计算接近数据，无论是静止还是运动。 SmartSSD计算存储设备中使用的Xilinx FPGA加速了通常由CPU执行的功能，例如高速搜索，解析，压缩和加密。 这有助于减轻CPU的负担，以完成更复杂的任务，同时还可以减少CPU和SSD之间的通信量，从而减少带宽消耗并减少延迟。

同样，我们的FPGA现在也用于像我们的新Alveo SN1000这样的SmartNIC中，以线速数据包处理，压缩和加密服务以及适应特定数据中心或客户的自定义交换要求的能力来加速数据移动。   

智能面料

当您将 FPGA 的适应性计算加速与低延迟连接相结合时，您可以在可组合数据中心中更进一步。您可以将计算密集型工作负载分配给通过适应性强的智能结构互连的加速器集群，从而按需创建高性能计算机。

当然，如果您无法使用最佳加速算法对计算加速器，SmartSSD和SmartNIC进行编程，然后为每个工作负载按正确的数量配置它们，那么这一切都是不可能的。 为此，我们构建了一个全面的软件堆栈，该堆栈利用TensorFlow和FFMPEG等领域特定的行业框架与他们的Vitis开发平台协同工作。 我们还看到了RedFish等更高级别的供应框架在智能资源分配方面的作用。

未来是现在

可组合数据中心的承诺是一个令人振奋的变化，Xilinx设备和加速器卡是此新型高效架构的关键构建块。 凭借快速的可重新配置性，低延迟以及可适应不断变化的工作负载的灵活架构，赛灵思已做好充分准备，可以成为这一演进过程中的主要参与者。