Будущее адаптивных вычислений: объединяемый центр обработки данных

Это сообщение в блоге является отрывком из основного выступления Салила Радже, исполнительного вице-президента и GM Xilinx Data Center Group, сделанного 24 марта 2021 года в Xilinx Adapt: ​​Data Center. Чтобы просмотреть доклад Салила по запросу, а также множество презентаций отраслевых экспертов, вы можете зарегистрируйтесь и просмотрите материалы здесь.

Большинство из нас все еще встречаются с коллегами через онлайн-видеоконференции после смены парадигмы, вызванной пандемией COVID-19. Вы, вероятно, не особо задумываетесь о том, что нужно для потоковой передачи всего контента и лент ваших собраний. Но если вы оператор центра обработки данных, вы, вероятно, не выспались за последний год, беспокоясь о том, как справиться с беспрецедентным пандемическим всплеском видеотрафика.

Более того, в наши дни центры обработки данных должны обрабатывать взрыв неструктурированных данных из широкого спектра рабочих нагрузок, таких как видеоконференции, потоковая передача контента, онлайн-игры и электронная коммерция. Многие из этих приложений очень чувствительны к задержкам, а также подчиняются постоянно меняющимся стандартам сжатия, шифрования и архитектур баз данных.

Это вынудило центры обработки данных масштабировать свою инфраструктуру в соответствии с требованиями к производительности и задержкам для множества требовательных рабочих нагрузок, одновременно пытаясь минимизировать затраты и энергопотребление. Это оказалось очень сложно, и это вынуждает операторов центров обработки данных переосмыслить свою текущую архитектуру и изучить новые конфигурации, которые по своей сути являются более масштабируемыми и эффективными.

В настоящее время в большинстве центров обработки данных есть стойки с фиксированными наборами ресурсов, объединяющие твердотельные накопители, процессоры и ускорители на одном сервере. Хотя это обеспечивает соединение с высокой пропускной способностью между вычислениями и хранилищем, это очень неэффективно с точки зрения использования ресурсов, поскольку на каждом сервере существует фиксированное соотношение хранилища и вычислительных ресурсов. Поскольку рабочие нагрузки требуют разного сочетания вычислительных ресурсов и хранилища, на каждом сервере остаются островки неиспользуемых ресурсов.

Композиционная инфраструктура

Возникает новая архитектура, которая обещает значительно улучшить использование ресурсов. Это известно как «компонуемая инфраструктура». Составная инфраструктура влечет за собой развязка ресурсы и вместо этого объединить их вместе и сделать их доступными из любого места. Составные инфраструктуры позволяют обеспечивать рабочие нагрузки с нужным объемом ресурсов и быстро реконфигурировать с помощью программного обеспечения.

Составная архитектура с пулами процессоров, SSDS и ускорителей, объединенных в сеть и управляемых основанной на стандартах платформой предоставления ресурсов, обещает значительно повысить эффективность использования ресурсов центра обработки данных. В такой архитектуре разные рабочие нагрузки могут иметь разные требования к вычислениям, хранилищу и ускорению, и эти ресурсы будут назначаться соответственно без потери оборудования. Все это звучит великолепно в теории, но на практике есть одна большая проблема: задержка.

Проблема задержки

По мере того, как вы дезагрегируете ресурсы и перемещаете их дальше друг от друга, вы подвергаетесь большему количеству задержек и уменьшению пропускной способности из-за сетевого трафика между процессорами и твердотельными накопителями или между процессорами и ускорителями. Если у вас нет способа уменьшить сетевой трафик и эффективно соединить ресурсы, это может серьезно ограничивать. Вот где ПЛИС играют три основные роли в решении проблемы задержки:

• ПЛИС действуют как адаптируемые ускорители, которые можно настроить для каждой рабочей нагрузки для достижения максимальной производительности. 
• ПЛИС также могут приблизить вычисления к данным, тем самым уменьшая задержку и минимизируя требуемую полосу пропускания.
• Адаптируемая интеллектуальная структура ПЛИС позволяет эффективно объединять ресурсы без чрезмерных задержек. 

Адаптивное ускорение

Первым значительным преимуществом ускорителей вычислений на основе FPGA является резкое повышение производительности для рабочих нагрузок, которые сегодня очень востребованы. В случаях использования транскодирования видео для приложений потоковой передачи в реальном времени решения FPGA обычно в 86 раз превосходят процессоры x30, что помогает операторам центров обработки данных справляться с огромным увеличением количества одновременных потоков. Другой пример - критическая область геномного секвенирования. Один из недавних заказчиков Xilinx Genomics обнаружил, что наш ускоритель на основе ПЛИС дает ответ в 90 раз быстрее, чем ЦП, помогая исследователям-медикам тестировать образцы ДНК в несколько раз быстрее, чем раньше.

Движение вычислений ближе к данным

Второе ключевое преимущество FPGA в компонуемом центре обработки данных - это возможность приближать адаптируемые вычисления к данным, находящимся в состоянии покоя или в движении. ПЛИС Xilinx, используемые в вычислительных устройствах хранения SmartSSD, ускоряют такие функции, как высокоскоростной поиск, синтаксический анализ, сжатие и шифрование, которые обычно выполняются центральным процессором. Это помогает разгрузить ЦП для более сложных задач, но также снижает трафик между ЦП и твердотельными накопителями, тем самым сокращая потребление полосы пропускания и уменьшая задержку.

Точно так же наши FPGA теперь используются в SmartNIC, таких как наш новый Alveo SN1000, для ускорения передачи данных с помощью обработки пакетов, сжатия и криптосервисов на проводной скорости, а также с возможностью адаптации к пользовательским требованиям к коммутации для конкретного центра обработки данных или клиента.   

Интеллектуальная ткань

Объединив адаптируемое ускорение вычислений FPGA с возможностью подключения с малой задержкой, вы сможете сделать еще один шаг вперед в создании компонуемого центра обработки данных. Вы можете поручить интенсивную вычислительную нагрузку кластеру ускорителей, соединенных между собой адаптируемой интеллектуальной структурой, создавая высокопроизводительный компьютер по требованию.

Конечно, все это невозможно, если вы не можете запрограммировать ускорители вычислений, SmartSSD и SmartNIC с помощью оптимальных алгоритмов ускорения, а затем предоставить их в нужном количестве для каждой рабочей нагрузки. Для этой задачи мы создали комплексный программный стек, который использует отраслевые фреймворки для конкретных областей, такие как TensorFlow и FFMPEG, которые работают вместе с нашей платформой разработки Vitis. Мы также видим роль высокоуровневых фреймворков, таких как RedFish, в помощи с интеллектуальным распределением ресурсов.

Будущее - сегодня

Обещание составного центра обработки данных - захватывающее изменение, а устройства Xilinx и карты ускорителей являются ключевыми строительными блоками этой новой эффективной архитектуры. Благодаря быстрой реконфигурируемости, низкой задержке и гибкой архитектуре, которая может адаптироваться к изменяющимся рабочим нагрузкам, Xilinx имеет все возможности для того, чтобы стать основным игроком в этой эволюции.