Microsoft zwiększa wydajność sztucznej inteligencji dzięki „Heavy Metalowemu kwartetowi” kompilatorów — Odszyfruj

Opublikowane ponownie przez Plato

Obserwuje: 0

Microsoft zaprezentował pakiet czterech nowych kompilatorów sztucznej inteligencji zaprojektowanych w celu optymalizacji wydajności różnych modeli sztucznej inteligencji. „Heavy metalowy kwartet” najnowocześniejszych narzędzi do kompilacji nosi nazwy Rammer, Roller, Welder i Grinder.

Narzędzia zostały opracowane przez Microsoft Research we współpracy z wieloma instytucjami akademickimi. Zapewniają zaawansowane rozwiązania do kompilacji — czyli zasadniczo transformacji kodu źródłowego (czytelnego dla człowieka) na kod maszynowy (zbiór jedynek i zer, które sprawiają, że komputer jest wykonywalny) — głównych modeli sztucznej inteligencji i wydajniejszego uruchamiania ich na akceleratorach sprzętowych, takich jak procesory graficzne.

W badaniu Microsoft blogu highlighting their capabilities, the company says the compilers build on Microsoft’s extensive research and development in artificial intelligence.

„Opracowane przez nas kompilatory AI wykazały znaczną poprawę wydajności kompilacji AI, ułatwiając w ten sposób szkolenie i wdrażanie modeli AI” – napisał Jilong Xue, główny badacz w MSR Asia. „W przyszłości same te wielkoskalowe modele mogą z natury pomóc w optymalizacji i kompilacji”.

Każdy z czterech nowych kompilatorów stawia czoła odrębnym wyzwaniom związanym z optymalizacją obciążeń AI.

ubijak skupia się na maksymalizacji równoległości sprzętu — zdolności sprzętu do jednoczesnego wykonywania różnych czynności. Jest to kluczowy czynnik wpływający na wydajność, dlatego Rammer minimalizuje narzut związany z planowaniem czasu wykonania poprzez lepsze wykorzystanie zasobów równoległych.

Roleta przyciemniająca przyjmuje inne podejście do przyspieszania kompilacji, używając szybkiego algorytmu konstrukcji do znajdowania rozwiązań, ostatecznie generując zoptymalizowane jądra w ciągu kilku sekund, a nie godzin. Innymi słowy, Roller pomaga szybciej tworzyć wydajne programy komputerowe dla sztucznej inteligencji, upraszczając proces projektowania.

Spawacz zmniejsza kosztowny ruch związany z dostępem do pamięci, łącząc operatorów w skoncentrowany potok. Jednoczy optymalizacje pamięci w jedną strukturę dla większej wydajności.

Wreszcie, Szlifierka umożliwia realizację przepływu sterowania na akceleratorach poprzez integrację z przepływem danych. Umożliwia to optymalizację ponad granicami przepływu sterowania. Pomyśl o tym jak o ekspertu prowadzącym ucznia, mówiącym mu, co ma zrobić, aby szybciej wykonać pracę.

Jako jeden z wiodących gigantów technologicznych, Microsoft przoduje w rozwoju sztucznej inteligencji. Firma ściśle współpracowała z firmą badawczą OpenAI zajmującą się sztuczną inteligencją w zakresie dużych modeli językowych, takich jak GPT-3.5 i GPT-4, które obsługują ChatGPT i Bing Chat. Niedawno Microsoft współpracuje z Metą zintegrować LLaMA-2 ze swoim rozwiązaniem przetwarzania w chmurze i wprowadziło technikę zwaną Algorytm myśli w celu usprawnienia rozumowania w modelach takich jak ChatGPT.

Testy wykazały, że kompilatory znacznie przewyższały istniejące rozwiązania w testach porównawczych. Rammer przewyższył inne kompilatory nawet 20-krotnie na procesorach graficznych. Roller osiągnął lub przekroczył najnowocześniejszą wydajność, jednocześnie skracając czas kompilacji o rzędy wielkości. Welder przewyższył frameworki takie jak PyTorch nawet 21-krotnie na procesorach graficznych. Modele przyspieszające szlifierkę z przepływem kontrolnym nawet 8x.

Ten heavy metalowy kwartet demonstruje nieprzerwaną wiodącą pozycję Microsoftu w projektowaniu przełomowych systemów sztucznej inteligencji i wymyślaniu zabawnych nazw dla swoich produktów. Podczas gdy duże partnerstwa w przestrzeni AI, takie jak to z OpenAI chwytaj nagłówkifirma aktywnie rozwija także niezbędną infrastrukturę oprogramowania, która wspiera sztuczną inteligencję za kulisami.

Dzięki znacznemu wzrostowi wydajności w porównaniu z istniejącymi rozwiązaniami Rammer, Roller, Welder i Grinder mogą zapewnić kluczową przewagę konkurencyjną w miarę pojawiania się bardziej złożonych obciążeń AI.