Microsoft aumenta l'efficienza dell'intelligenza artificiale con un "quartetto di heavy metal" di compilatori: Decrypt

Microsoft ha presentato una suite di quattro nuovi compilatori di intelligenza artificiale progettati per ottimizzare le prestazioni di vari modelli di intelligenza artificiale. Il "quartetto heavy metal" di strumenti di compilazione all'avanguardia si chiama Rammer, Roller, Welder e Grinder.

Gli strumenti sono stati sviluppati da Microsoft Research in collaborazione con numerose istituzioni accademiche. Forniscono soluzioni avanzate per la compilazione – fondamentalmente la trasformazione dal codice sorgente (leggibile dall’uomo) in codice macchina (un insieme di uno e zero che rende eseguibile un computer) – modelli di intelligenza artificiale tradizionali e per eseguirli in modo più efficiente su acceleratori hardware come le GPU.

In a Microsoft Research post sul blog highlighting their capabilities, the company says the compilers build on Microsoft’s extensive research and development in artificial intelligence.

“I compilatori di intelligenza artificiale che abbiamo sviluppato hanno dimostrato un miglioramento sostanziale nell’efficienza della compilazione dell’intelligenza artificiale, facilitando così la formazione e l’implementazione di modelli di intelligenza artificiale”, ha scritto Jilong Xue, ricercatore principale presso MSR Asia. “In futuro, questi stessi modelli su larga scala potrebbero intrinsecamente aiutare a raggiungere l’ottimizzazione e la compilazione”.

Ciascuno dei quattro nuovi compilatori affronta sfide distinte nell’ottimizzazione dei carichi di lavoro dell’intelligenza artificiale.

costipatore focuses on maximizing hardware parallelism—the capacity of hardware to do different things simoultaneously. This is a key factor in performance, and Rammer minimizes runtime scheduling overhead through improved utilization of parallel resources.

Rullo takes a different approach to accelerate compilation, using a fast construction algorithm to find solutions, ultimately generating optimized kernels in seconds rather than hours. In other words, Roller helps create efficient computer programs for AI faster by simplifying the design process.

Saldatore reduces expensive memory access traffic by connecting operators in a concentrated pipeline. It unifies memory optimizations into a single framework for greater efficiency.

Infine, Macinino enables control-flow execution on accelerators by integrating it with data flow. This allows optimization across control flow boundaries. Think of it like an expert guiding the steps of an apprentice, telling them what to do to get the job done faster.

As one of the leading technology giants, Microsoft has been at the forefront of AI advancement. The company has partnered closely with AI research firm OpenAI on large language models like GPT-3.5 and GPT-4, which powers ChatGPT and Bing Chat. More recently, Microsoft ha collaborato con Meta to integrate LLaMA-2 in its cloud computing solution and introduced a technique called the Algoritmo dei pensieri to enhance reasoning in models like ChatGPT.

I test hanno rilevato che i compilatori hanno sovraperformato significativamente le soluzioni esistenti sui benchmark. Rammer ha superato gli altri compilatori fino a 20 volte sulle GPU. Roller ha eguagliato o superato prestazioni all'avanguardia riducendo al tempo stesso i tempi di compilazione di ordini di grandezza. Welder ha superato framework come PyTorch fino a 21 volte sulle GPU. Modelli con smerigliatrice accelerata con flusso di controllo fino a 8x.

The heavy metal quartet demonstrates Microsoft’s continued leadership in designing breakthrough AI systems —and coming up with fun names for its products. While big partnerships in the AI space like the one with OpenAI grab headlines, the company also actively develops vital software infrastructure to empower AI behind the scenes.

Con notevoli miglioramenti delle prestazioni rispetto alle soluzioni esistenti, Rammer, Roller, Welder e Grinder potrebbero fornire vantaggi competitivi chiave man mano che emergono carichi di lavoro IA più complessi.

• Distribuzione di contenuti basati su SEO e PR. Ricevi amplificazione oggi.
• PlatoData.Network Generativo verticale Ai. Potenzia te stesso. Accedi qui.
• PlatoAiStream. Intelligenza Web3. Conoscenza amplificata. Accedi qui.
• PlatoneESG. Automobilistico/VE, Carbonio, Tecnologia pulita, Energia, Ambiente, Solare, Gestione dei rifiuti. Accedi qui.
• Platone Salute. Intelligence sulle biotecnologie e sulle sperimentazioni cliniche. Accedi qui.
• Grafico Prime. Migliora il tuo gioco di trading con ChartPrime. Accedi qui.
• BlockOffset. Modernizzare la proprietà della compensazione ambientale. Accedi qui.
• Fonte: https://decrypt.co/155066/microsoft-ai-compilers-heavy-metal