적응 형 컴퓨팅의 미래 : 컴포저 블 데이터 센터

이 블로그 게시물은 24 년 2021 월 XNUMX 일 Xilinx Adapt : Data Center에서 열린 Salil Raje, EVP 및 GM Xilinx 데이터 센터 그룹의 기조 연설에서 발췌 한 것입니다. Salil의 기조 연설과 업계 전문가의 훌륭한 프레젠테이션을 보려면 다음을 수행하십시오. 여기에서 콘텐츠를 등록하고 볼 수 있습니다.

COVID-19 대유행으로 인한 패러다임 변화 이후 우리 대부분은 여전히 ​​온라인 화상 회의를 통해 동료들과 만나고 있습니다. 회의에서 모든 콘텐츠와 피드를 스트리밍하는 데 필요한 사항을 많이 생각하지 않을 것입니다. 그러나 데이터 센터 운영자라면 지난 XNUMX 년 동안 비디오 트래픽의 전례없는 유행성 급증을 처리하는 방법에 대해 걱정하지 않았을 것입니다.

뿐만 아니라 오늘날 데이터 센터는 화상 회의, 스트리밍 콘텐츠, 온라인 게임 및 전자 상거래와 같은 광범위한 워크로드에서 발생하는 폭발적인 비정형 데이터를 처리해야합니다. 이러한 애플리케이션 중 상당수는 대기 시간에 매우 민감하며 압축, 암호화 및 데이터베이스 아키텍처에 대해 끊임없이 진화하는 표준도 적용됩니다.

이로 인해 데이터 센터는 다양한 까다로운 워크로드의 성능 및 대기 시간 요구 사항을 충족하는 동시에 비용과 전력 소비를 최소화하기 위해 인프라를 확장해야했습니다. 이는 매우 어려운 일이며 데이터 센터 운영자는 현재 아키텍처를 재고하고 본질적으로 더 확장 가능하고 효율적인 새로운 구성을 탐색해야합니다.

현재 대부분의 데이터 센터에는 고정 된 리소스 세트가있는 랙이 있으며 SSD, CPU 및 가속기를 단일 서버에 결합합니다. 이렇게하면 컴퓨팅과 스토리지간에 높은 대역폭 연결이 보장되지만 모든 서버에 고정 된 스토리지 및 컴퓨팅 비율이 있기 때문에 리소스 활용 측면에서 매우 비효율적입니다. 워크로드에는 컴퓨팅과 스토리지가 서로 다른 조합이 필요하기 때문에 사용하지 않는 리소스가 각 서버에 남아 있습니다.

컴포저 블 인프라

리소스 활용도를 크게 향상시킬 수있는 새로운 아키텍처가 등장하고 있습니다. 이를 "구성 가능한 인프라"라고합니다. 컴포저 블 인프라에는 감 결합 자원을 함께 모으고 어디서나 액세스 할 수 있도록합니다. 컴포저 블 인프라를 사용하면 적절한 양의 리소스로 워크로드를 프로비저닝하고 소프트웨어를 통한 신속한 재구성이 가능합니다.

함께 네트워크로 연결되고 표준 기반 프로비저닝 프레임 워크에 의해 제어되는 CPU, SSDS 및 가속기 풀이있는 구성 가능한 아키텍처는 데이터 센터 리소스 효율성을 크게 향상시킬 수 있습니다. 이러한 아키텍처에서 서로 다른 워크로드는 서로 다른 컴퓨팅, 스토리지 및 가속 요구 사항을 가질 수 있으며 이러한 리소스는 낭비되는 하드웨어없이 적절하게 할당됩니다. 이론적으로는 모두 훌륭하게 들리지만 실제로는 한 가지 큰 문제가 있습니다. 바로 대기 시간입니다.

지연 문제

리소스를 분리하고 더 멀리 이동하면 CPU와 SSD 간 또는 CPU와 가속기 간 네트워크 트래픽으로 인해 더 많은 지연과 대역폭 감소가 발생합니다. 네트워크 트래픽을 줄이고 리소스를 효율적으로 상호 연결할 수있는 방법이없는 한 이는 심각하게 제한 될 수 있습니다. FPGA는 지연 문제를 해결하는 데 세 가지 주요 역할을합니다.

• FPGA는 최대 성능을 위해 각 워크로드에 맞게 사용자 정의 할 수있는 적응 형 가속기 역할을합니다. 
• FPGA는 또한 컴퓨팅을 데이터에 더 가깝게 만들어 대기 시간을 줄이고 필요한 대역폭을 최소화 할 수 있습니다.
• 적응 가능한 지능형 FPGA 패브릭은 과도한 지연없이 리소스를 효율적으로 풀링 할 수 있습니다. 

적응 가능한 가속

FPGA 기반 컴퓨팅 가속기의 첫 번째 중요한 이점은 요즘 수요가 많은 워크로드의 성능이 크게 향상된다는 것입니다. 라이브 스트리밍 애플리케이션을위한 비디오 트랜스 코딩 사용 사례에서 FPGA 솔루션은 일반적으로 x86 CPU보다 30 배 성능이 뛰어나 데이터 센터 운영자가 동시 스트림 수의 엄청난 증가를 충족 할 수 있도록 도와줍니다. 또 다른 예는 게놈 시퀀싱의 중요한 분야입니다. 최근 자일링스 유전체학 고객은 FPGA 기반 가속기가 CPU보다 90 배 더 빠르게 답을 제공하여 의료 연구원이 예전보다 훨씬 짧은 시간에 DNA 샘플을 테스트하는 데 도움이된다는 사실을 발견했습니다.

컴퓨팅을 데이터에 더 가깝게 이동

컴포저 블 데이터 센터에서 FPGA의 두 번째 주요 이점은 휴지 중이 든 이동 중이 든 상관없이 적응 형 컴퓨팅을 데이터에 가깝게 가져올 수 있다는 것입니다. SmartSSD 계산 저장 장치에 사용되는 Xilinx FPGA는 일반적으로 CPU에서 수행하는 고속 검색, 구문 분석, 압축 및 암호화와 같은 기능을 가속화합니다. 이렇게하면 더 복잡한 작업을 위해 CPU 부담을 덜어 주지만 CPU와 SSD 간의 트래픽을 줄여 대역폭 소비를 줄이고 대기 시간을 줄일 수 있습니다.

마찬가지로, FPGA는 이제 새로운 Alveo SN1000과 같은 SmartNIC에서 사용되어 유선 속도 패킷 처리, 압축 및 암호화 서비스를 통해 이동중인 데이터를 가속화 할뿐만 아니라 특정 데이터 센터 또는 고객의 맞춤형 스위칭 요구 사항에 적응할 수 있습니다.   

지능형 패브릭

FPGA의 적응형 컴퓨팅 가속과 짧은 대기 시간 연결을 결합하면 컴포저블 데이터 센터에서 한 단계 더 발전할 수 있습니다. 적응형 지능형 패브릭으로 상호 연결된 가속기 클러스터에 컴퓨팅 집약적인 워크로드를 할당하여 필요에 따라 고성능 컴퓨터를 생성할 수 있습니다.

물론 최적의 가속 알고리즘으로 컴퓨팅 가속기, SmartSSD 및 SmartNIC를 프로그래밍 한 다음 각 워크로드에 적합한 수로 프로비저닝 할 수없는 경우에는이 중 어느 것도 불가능합니다. 이 작업을 위해 우리는 Vitis 개발 플랫폼과 함께 작동하는 TensorFlow 및 FFMPEG와 같은 도메인 별 산업 프레임 워크를 활용하는 포괄적 인 소프트웨어 스택을 구축했습니다. 또한 RedFish와 같은 상위 수준 프로비저닝 프레임 워크가 지능적인 리소스 할당을 지원하는 역할도 확인합니다.

미래는 지금이다.

컴포저 블 데이터 센터의 약속은 흥미로운 변화이며 Xilinx 장치 및 가속기 카드는이 새롭고 효율적인 아키텍처의 핵심 빌딩 블록입니다. 빠른 재구성 가능성, 낮은 지연 시간 및 변화하는 워크로드에 적응할 수있는 유연한 아키텍처를 갖춘 Xilinx는 이러한 진화의 주요 업체로 자리 매김 할 수 있습니다.