Майбутнє адаптивних обчислень: Центр обробки даних

Ця публікація в блозі є уривком із основної презентації Саліла Радже, виконавчого віце-президента та генерального директора Xilinx Data Center Group, проведеної 24 березня 2021 року в Xilinx Adapt: ​​Data Center. Щоб переглянути основну доповідь Саліла за запитом, а також великий список презентацій експертів галузі, ви можете зареєструватися та переглянути вміст тут.

Після зміни парадигми, спричиненої пандемією COVID-19, більшість із нас все ще зустрічається зі своїми колегами за допомогою онлайн-відеоконференцій. Ймовірно, ви не дуже замислюєтеся про те, що потрібно для потокової передачі всього вмісту та каналів ваших зустрічей. Але якщо ви оператор центру обробки даних, ви, мабуть, не спали протягом останнього року, турбуючись про те, як впоратися з безпрецедентним спалахом відеотрафіку через пандемію.

Мало того, сьогодні центри обробки даних повинні обробляти вибух неструктурованих даних із широкого діапазону робочих навантажень, таких як відеоконференції, потоковий вміст, онлайн-ігри та електронна комерція. Багато з цих програм дуже чутливі до затримки, а також підпорядковані стандартам стиснення, шифрування та архітектур баз даних, що постійно розвиваються.

Це змусило центри обробки даних розширити свою інфраструктуру, щоб відповідати вимогам до продуктивності та затримки для різноманітних вимогливих робочих навантажень, водночас намагаючись мінімізувати витрати та енергоспоживання. Це виявилося дуже складно, і це змушує операторів центрів обробки даних переглянути свою поточну архітектуру та дослідити нові конфігурації, які за своєю суттю є більш масштабованими та ефективними.

Наразі більшість центрів обробки даних мають стійки з фіксованими наборами ресурсів, що поєднують SSD, процесори та прискорювачі в одному сервері. Хоча це забезпечує високу пропускну здатність між обчислювальною системою та сховищем, це дуже неефективно з точки зору використання ресурсів, оскільки на кожному сервері існує фіксоване співвідношення пам’яті та обчислювальної системи. Оскільки для робочих навантажень потрібне різне поєднання обчислень і пам’яті, на кожному сервері залишаються острівці невикористаних ресурсів.

Компонована інфраструктура

З’являється нова архітектура, яка обіцяє значно покращити використання ресурсів. Це відоме як «компонована інфраструктура». Компонована інфраструктура передбачає роз'єднання ресурсів і натомість об’єднувати їх разом і робити доступними звідусіль. Компоновані інфраструктури дають змогу створювати робочі навантаження з потрібною кількістю ресурсів і швидко реконфігурувати за допомогою програмного забезпечення.

Компонована архітектура з пулами процесорів, SSDS і прискорювачів, які об’єднані в мережу та контролюються системою забезпечення на основі стандартів, обіцяє значно покращену ефективність ресурсів центру обробки даних. У такій архітектурі різні робочі навантаження можуть мати різні вимоги до обчислень, пам’яті та прискорення, і ці ресурси будуть призначені відповідно без зайвої витрати обладнання. Все це звучить чудово в теорії, але на практиці є одна велика проблема: затримка.

Виклик затримки

Коли ви розподіляєте ресурси та розносите їх далі один від одного, ви отримуєте більше затримок і зменшуєте пропускну здатність через мережевий трафік між ЦП і SSD або між ЦП і прискорювачами. Якщо у вас немає способу зменшити мережевий трафік і ефективно з’єднати ресурси, це може бути серйозним обмеженням. Ось де FPGA відіграють три основні ролі у вирішенні проблеми затримки:

• FPGA діють як адаптивні прискорювачі, які можна налаштувати для кожного робочого навантаження для досягнення максимальної продуктивності. 
• ПЛІС також можуть наблизити обчислення до даних, тим самим зменшуючи затримку та мінімізуючи необхідну пропускну здатність.
• Гнучка інтелектуальна структура FPGA забезпечує ефективне об’єднання ресурсів без надмірних затримок. 

Адаптивне прискорення

Першою значною перевагою прискорювачів обчислень на основі FPGA є значно покращена продуктивність для робочих навантажень, які зараз користуються великим попитом. У сценаріях використання перекодування відео для додатків потокового передавання в реальному часі рішення FPGA зазвичай перевершують ЦП x86 у 30 разів, що допомагає операторам центрів обробки даних відповідати величезному збільшенню кількості одночасних потоків. Інший приклад у критичній області геномного секвенування. Нещодавній клієнт Xilinx genomics виявив, що наш прискорювач на основі FPGA надає відповідь у 90 разів швидше, ніж центральний процесор, допомагаючи медичним дослідникам тестувати зразки ДНК за частку часу, який вимагав раніше.

Наближення обчислень до даних

Другою ключовою перевагою ПЛІС у комбінованих центрах обробки даних є можливість наблизити адаптовані обчислення до даних, незалежно від того, знаходяться вони в стані спокою чи в русі. FPGA Xilinx, які використовуються в обчислювальних пристроях зберігання даних SmartSSD, прискорюють такі функції, як високошвидкісний пошук, аналіз, стиснення та шифрування, які зазвичай виконуються ЦП. Це допомагає розвантажити ЦП для більш складних завдань, але також зменшує трафік між ЦП і SSD, тим самим скорочуючи споживання пропускної здатності та зменшуючи затримку.

Подібним чином наші FPGA тепер використовуються в SmartNIC, як-от наш новий Alveo SN1000, для прискорення передачі даних за допомогою обробки пакетів на швидкості дротового зв’язку, стиснення та криптосервісів, а також здатності адаптуватися до індивідуальних вимог комутації для конкретного центру обробки даних або клієнта.   

Інтелектуальна тканина

Якщо ви поєднаєте адаптивне прискорення обчислень FPGA із підключенням із низькою затримкою, ви зможете піти на крок далі в створюваному центрі обробки даних. Ви можете призначити важке обчислювальне навантаження кластеру прискорювачів, які з’єднані між собою адаптованою інтелектуальною структурою, створюючи високопродуктивний комп’ютер на вимогу.

Звичайно, нічого з цього неможливо, якщо ви не можете запрограмувати прискорювачі обчислень, SmartSSD і SmartNIC з оптимальними алгоритмами прискорення, а потім надати їх у потрібній кількості для кожного робочого навантаження. Для цього завдання ми створили повний стек програмного забезпечення, який використовує спеціалізовані галузеві фреймворки, такі як TensorFlow і FFMPEG, які працюють у поєднанні з нашою платформою розробки Vitis. Ми також бачимо роль структур забезпечення вищого рівня, таких як RedFish, щоб допомогти з розумним розподілом ресурсів.

Майбутнє зараз

Обіцянка комбінованого центру обробки даних — це захоплююча зміна, і пристрої Xilinx і карти прискорювача є ключовими будівельними блоками цієї нової ефективної архітектури. Завдяки швидкій конфігурації, низькій затримці та гнучкій архітектурі, яка може адаптуватися до мінливих робочих навантажень, Xilinx має хороші позиції, щоб стати головним гравцем у цій еволюції.

Джерело: https://forums.xilinx.com/t5/Xilinx-Xclusive-Blog/The-Future-of-Adaptive-Computing-The-Composable-Data-Center/ba-p/1221927