Microsoft повышает эффективность искусственного интеллекта с помощью «квартета хэви-метала» компиляторов – расшифровка

Переиздано Платоном

Читают: 0

Microsoft представила набор из четырех новых компиляторов искусственного интеллекта, предназначенных для оптимизации производительности различных моделей искусственного интеллекта. «Квартет хэви-метала» передовых инструментов для компиляции носит названия Rammer, Roller, Welder и Grinder.

Эти инструменты были разработаны Microsoft Research в сотрудничестве с рядом академических учреждений. Они предоставляют передовые решения для компиляции — по сути, преобразования исходного кода (читаемого человеком) в машинный код (набор единиц и нулей, которые делают компьютер исполняемым) — основных моделей ИИ и более эффективного их запуска на аппаратных ускорителях, таких как графические процессоры.

В исследовании Microsoft блоге highlighting their capabilities, the company says the compilers build on Microsoft’s extensive research and development in artificial intelligence.

«Разработанные нами компиляторы ИИ продемонстрировали существенное улучшение эффективности компиляции ИИ, тем самым облегчив обучение и развертывание моделей ИИ», — написал Цзилун Сюэ, главный исследователь MSR Asia. «В будущем эти крупномасштабные модели сами по себе могут помочь в оптимизации и компиляции».

Каждый из четырех новых компиляторов решает разные задачи по оптимизации рабочих нагрузок ИИ.

Трамбовка основное внимание уделяется максимизации аппаратного параллелизма — способности оборудования выполнять разные задачи одновременно. Это ключевой фактор производительности, и Rammer минимизирует затраты на планирование во время выполнения за счет улучшенного использования параллельных ресурсов.

Скутер использует другой подход для ускорения компиляции, используя алгоритм быстрого построения для поиска решений, в конечном итоге генерируя оптимизированные ядра за секунды, а не за часы. Другими словами, Roller помогает быстрее создавать эффективные компьютерные программы для ИИ, упрощая процесс проектирования.

сварщик уменьшает дорогостоящий трафик доступа к памяти, соединяя операторов в концентрированный конвейер. Он объединяет оптимизацию памяти в единую структуру для большей эффективности.

Наконец, Шлифовальный станок обеспечивает выполнение потока управления на ускорителях путем его интеграции с потоком данных. Это позволяет оптимизировать границы потока управления. Думайте об этом как об эксперте, который направляет действия ученика и говорит ему, что делать, чтобы работа была выполнена быстрее.

Будучи одним из ведущих технологических гигантов, Microsoft находится в авангарде развития искусственного интеллекта. Компания тесно сотрудничает с исследовательской фирмой OpenAI в области искусственного интеллекта над крупными языковыми моделями, такими как GPT-3.5 и GPT-4, которые используются в ChatGPT и Bing Chat. Совсем недавно Microsoft в партнерстве с Мета интегрировать LLaMA-2 в свое решение для облачных вычислений и представила технологию под названием Алгоритм мыслей для улучшения рассуждений в таких моделях, как ChatGPT.

Тестирование показало, что компиляторы значительно превосходят существующие решения в тестах производительности. Rammer превосходил другие компиляторы почти в 20 раз на графических процессорах. Roller соответствовал или превосходил самые современные показатели производительности, одновременно сокращая время компиляции на порядки. Welder превзошел такие платформы, как PyTorch, почти в 21 раз на графических процессорах. Модели Grinder с потоком управления ускоряются до 8 раз.

Квартет хэви-метала демонстрирует неизменное лидерство Microsoft в разработке революционных систем искусственного интеллекта и придумывании забавных названий для своих продуктов. В то время как крупные партнерства в сфере искусственного интеллекта, такие как с OpenAI, захватывать заголовки, компания также активно разрабатывает жизненно важную инфраструктуру программного обеспечения для расширения возможностей искусственного интеллекта.

Благодаря значительному приросту производительности по сравнению с существующими решениями, Rammer, Roller, Welder и Grinder могут обеспечить ключевые конкурентные преимущества по мере появления более сложных рабочих нагрузок ИИ.