อนาคตของ Adaptive Computing: The Composable Data Center

บล็อกโพสต์นี้คัดลอกมาจากการนำเสนอประเด็นสำคัญของ Salil Raje, EVP และ GM Xilinx Data Center Group เมื่อวันที่ 24 มีนาคม พ.ศ. 2021 ที่ Xilinx Adapt: ​​Data Center หากต้องการดูคำปราศรัยของสลิลแบบออนดีมานด์ พร้อมกับการนำเสนอผลงานจากผู้เชี่ยวชาญในอุตสาหกรรม คุณสามารถ ลงทะเบียนและดูเนื้อหาที่นี่

พวกเราส่วนใหญ่ยังคงพบปะกับเพื่อนร่วมงานของเราผ่านการประชุมทางวิดีโอออนไลน์หลังจากการเปลี่ยนแปลงกระบวนทัศน์ที่เกิดจากการระบาดของ COVID-19 คุณอาจไม่ได้คิดถึงสิ่งที่ต้องใช้ในการสตรีมเนื้อหาและฟีดทั้งหมดจากการประชุมของคุณมากนัก แต่ถ้าคุณเป็นผู้ให้บริการดาต้าเซ็นเตอร์ คุณอาจไม่ได้นอนพักมากนักในช่วงปีที่ผ่านมา โดยกังวลเกี่ยวกับวิธีจัดการกับการแพร่ระบาดในวิดีโอที่ทวีความรุนแรงอย่างที่ไม่เคยเกิดขึ้นมาก่อน

ไม่เพียงเท่านั้น แต่ศูนย์ข้อมูลในปัจจุบันต้องรับมือกับข้อมูลที่ไม่มีโครงสร้างจำนวนมากจากปริมาณงานที่หลากหลาย เช่น การประชุมทางวิดีโอ การสตรีมเนื้อหา เกมออนไลน์ และอีคอมเมิร์ซ แอปพลิเคชันเหล่านี้จำนวนมากมีความอ่อนไหวต่อเวลาแฝงมาก และยังอยู่ภายใต้มาตรฐานที่พัฒนาตลอดเวลาสำหรับการบีบอัด การเข้ารหัส และสถาปัตยกรรมฐานข้อมูล

สิ่งนี้ทำให้ศูนย์ข้อมูลต้องขยายขนาดโครงสร้างพื้นฐานเพื่อให้เป็นไปตามข้อกำหนดด้านประสิทธิภาพและเวลาแฝงของปริมาณงานที่มีความต้องการที่หลากหลาย ในขณะเดียวกันก็พยายามลดต้นทุนและการใช้พลังงานให้เหลือน้อยที่สุด นั่นพิสูจน์แล้วว่าเป็นเรื่องยากมากและบังคับให้ผู้ปฏิบัติงานศูนย์ข้อมูลต้องคิดใหม่เกี่ยวกับสถาปัตยกรรมปัจจุบันและสำรวจการกำหนดค่าใหม่ ๆ ที่สามารถปรับขนาดได้และมีประสิทธิภาพมากขึ้น

ปัจจุบัน ศูนย์ข้อมูลส่วนใหญ่มีชั้นวางที่มีชุดทรัพยากรคงที่ ซึ่งรวม SSD, CPU และ Accelerators ไว้ในเซิร์ฟเวอร์เดียว แม้ว่าวิธีนี้จะช่วยให้แน่ใจว่ามีการเชื่อมต่อแบนด์วิดธ์สูงระหว่างการประมวลผลและพื้นที่เก็บข้อมูล แต่ก็ไม่มีประสิทธิภาพมากในแง่ของการใช้ทรัพยากร เนื่องจากมีอัตราส่วนพื้นที่จัดเก็บและการประมวลผลตายตัวในทุกเซิร์ฟเวอร์ เนื่องจากปริมาณงานต้องใช้การประมวลผลและพื้นที่จัดเก็บที่แตกต่างกัน เกาะของทรัพยากรที่ไม่ได้ใช้จึงเหลืออยู่ในแต่ละเซิร์ฟเวอร์

โครงสร้างพื้นฐานที่ประกอบได้

สถาปัตยกรรมใหม่กำลังเกิดขึ้นซึ่งสัญญาว่าจะทำการปรับปรุงอย่างมากในการใช้ทรัพยากร เรียกได้ว่าเป็น โครงสร้างพื้นฐานที่ประกอบได้ประกอบด้วย decoupling ทรัพยากรและแทนที่จะรวมเข้าด้วยกันและทำให้สามารถเข้าถึงได้จากทุกที่ โครงสร้างพื้นฐานแบบผสมได้ช่วยให้สามารถจัดเตรียมปริมาณงานด้วยทรัพยากรในปริมาณที่เหมาะสม และการกำหนดค่าใหม่อย่างรวดเร็วผ่านซอฟต์แวร์

สถาปัตยกรรมแบบประกอบได้ที่มีพูลของ CPU, SSDS และตัวเร่งความเร็วที่เชื่อมต่อเครือข่ายเข้าด้วยกันและควบคุมโดยเฟรมเวิร์กการจัดเตรียมตามมาตรฐานช่วยให้ประสิทธิภาพของทรัพยากรศูนย์ข้อมูลดีขึ้นอย่างมาก ในสถาปัตยกรรมดังกล่าว ปริมาณงานที่แตกต่างกันอาจมีข้อกำหนดในการประมวลผล พื้นที่เก็บข้อมูล และการเร่งความเร็วที่แตกต่างกัน และทรัพยากรเหล่านั้นจะได้รับการจัดสรรตามลำดับโดยไม่มีฮาร์ดแวร์ที่สูญเปล่า ฟังดูดีในทางทฤษฎี แต่ในทางปฏิบัติ มีปัญหาใหญ่อยู่ข้อหนึ่งคือ ความหน่วงแฝง

ความท้าทายแฝง

เมื่อคุณแยกทรัพยากรและย้ายออกจากกัน คุณจะเกิดความล่าช้ามากขึ้นและแบนด์วิดท์ลดลงเนื่องจากการรับส่งข้อมูลเครือข่ายระหว่าง CPU และ SSD หรือระหว่าง CPU และตัวเร่งความเร็ว หากคุณไม่มีวิธีลดการรับส่งข้อมูลเครือข่ายและเชื่อมต่อทรัพยากรระหว่างกันอย่างมีประสิทธิภาพ การทำเช่นนี้อาจเป็นการจำกัดอย่างรุนแรง นั่นคือจุดที่ FPGA มีบทบาทหลักสามประการในการแก้ปัญหาเวลาแฝง:

• FPGA ทำหน้าที่เป็นตัวเร่งความเร็วที่ปรับเปลี่ยนได้ซึ่งสามารถปรับแต่งให้เหมาะกับแต่ละภาระงานเพื่อประสิทธิภาพสูงสุด 
• FPGA ยังทำให้การประมวลผลใกล้เคียงกับข้อมูลมากขึ้น ซึ่งจะช่วยลดเวลาในการตอบสนองและลดแบนด์วิดท์ที่ต้องการให้เหลือน้อยที่สุด
• Fabric อัจฉริยะที่ปรับเปลี่ยนได้ของ FPGA ช่วยให้สามารถรวมทรัพยากรได้อย่างมีประสิทธิภาพโดยไม่ทำให้เกิดความล่าช้ามากเกินไป 

อัตราเร่งที่ปรับได้

ข้อได้เปรียบที่สำคัญประการแรกสำหรับตัวเร่งการประมวลผลที่ใช้ FPGA คือประสิทธิภาพที่เพิ่มขึ้นอย่างมากสำหรับปริมาณงานที่มีความต้องการสูงในปัจจุบัน ในกรณีการใช้งานการแปลงรหัสวิดีโอสำหรับแอปพลิเคชันสตรีมมิงแบบสด โดยทั่วไปแล้ว โซลูชัน FPGA จะมีประสิทธิภาพเหนือกว่า x86 CPUs ถึง 30 เท่า ซึ่งช่วยให้ผู้ปฏิบัติงานศูนย์ข้อมูลสามารถตอบสนองการสตรีมพร้อมกันที่เพิ่มขึ้นอย่างมาก อีกตัวอย่างหนึ่งอยู่ในเขตข้อมูลที่สำคัญของการจัดลำดับจีโนม ลูกค้าจีโนมของ Xilinx ล่าสุดพบว่าตัวเร่งความเร็วที่ใช้ FPGA ของเราให้คำตอบได้เร็วกว่า CPU ถึง 90 เท่า ช่วยให้นักวิจัยทางการแพทย์ทดสอบตัวอย่าง DNA ได้ในเวลาเพียงเสี้ยววินาที

การย้ายคอมพิวเตอร์เข้าใกล้ข้อมูลมากขึ้น

ข้อได้เปรียบหลักประการที่สองสำหรับ FPGA ในศูนย์ข้อมูลแบบประกอบได้คือความสามารถในการนำการประมวลผลที่ปรับเปลี่ยนได้เข้ามาใกล้ข้อมูล ไม่ว่าจะอยู่นิ่งหรืออยู่ในการเคลื่อนไหว Xilinx FPGA ที่ใช้ในอุปกรณ์จัดเก็บข้อมูลเชิงคำนวณ SmartSSD จะเร่งฟังก์ชันต่างๆ เช่น การค้นหาความเร็วสูง การแยกวิเคราะห์ การบีบอัด และการเข้ารหัส ซึ่งมักจะดำเนินการโดย CPU ซึ่งจะช่วย offload CPU สำหรับงานที่ซับซ้อนมากขึ้น แต่ยังช่วยลดทราฟฟิกระหว่าง CPU และ SSD ซึ่งจะช่วยลดการใช้แบนด์วิดท์และลดเวลาแฝง

ในทำนองเดียวกัน FPGA ของเราถูกใช้ใน SmartNIC เช่น Alveo SN1000 ใหม่ของเราเพื่อเร่งความเร็วของข้อมูลที่เคลื่อนไหวด้วยการประมวลผลแพ็คเก็ตความเร็วสาย การบีบอัด และบริการเข้ารหัส รวมถึงความสามารถในการปรับให้เข้ากับข้อกำหนดการสลับแบบกำหนดเองสำหรับศูนย์ข้อมูลหรือลูกค้าเฉพาะ   

ผ้าอัจฉริยะ

เมื่อคุณรวมการเร่งความเร็วการประมวลผลที่ปรับเปลี่ยนได้ของ FPGA เข้ากับการเชื่อมต่อที่มีความหน่วงต่ำ คุณสามารถก้าวไปอีกขั้นในศูนย์ข้อมูลที่ประกอบได้ คุณสามารถกำหนดเวิร์กโหลดที่เน้นการประมวลผลให้กับคลัสเตอร์ตัวเร่งความเร็วที่เชื่อมต่อกันด้วยแฟบริคอัจฉริยะที่ปรับเปลี่ยนได้ เพื่อสร้างคอมพิวเตอร์ประสิทธิภาพสูงตามความต้องการ

แน่นอนว่าสิ่งนี้จะไม่เกิดขึ้นหากคุณไม่สามารถตั้งโปรแกรมตัวเร่งความเร็วคอมพิวเตอร์, SmartSSD และ SmartNIC ด้วยอัลกอริธึมการเร่งความเร็วที่เหมาะสมที่สุดได้ จากนั้นจึงจัดเตรียมหมายเลขเหล่านี้ให้เหมาะสมกับปริมาณงานแต่ละรายการ สำหรับงานนั้น เราได้สร้างสแต็กซอฟต์แวร์ที่ครอบคลุมซึ่งใช้ประโยชน์จากเฟรมเวิร์กอุตสาหกรรมเฉพาะโดเมน เช่น TensorFlow และ FFMPEG ซึ่งทำงานร่วมกับแพลตฟอร์มการพัฒนา Vitis ของเรา เรายังเห็นบทบาทสำหรับเฟรมเวิร์กการจัดเตรียมระดับสูง เช่น RedFish เพื่อช่วยในการจัดสรรทรัพยากรอัจฉริยะ

อนาคตคือตอนนี้

คำมั่นสัญญาของศูนย์ข้อมูลที่ย่อยสลายได้คือการเปลี่ยนแปลงที่น่าตื่นเต้นและอุปกรณ์ Xilinx และการ์ดเร่งความเร็วเป็นส่วนประกอบสำคัญในการสร้างสถาปัตยกรรมที่มีประสิทธิภาพใหม่นี้ ด้วยการกำหนดค่าใหม่อย่างรวดเร็ว เวลาแฝงต่ำ และสถาปัตยกรรมที่ยืดหยุ่นที่สามารถปรับให้เข้ากับปริมาณงานที่เปลี่ยนแปลงได้ Xilinx อยู่ในตำแหน่งที่ดีที่จะเป็นผู้เล่นหลักในวิวัฒนาการนี้