Microsoft suurendab tehisintellekti tõhusust kompilaatorite raskemetallikvarteti abil – dekrüpteerimine

Taasavaldanud Platon

järgijaid: 0

Microsoft avalikustas nelja uue tehisintellekti kompilaatori komplekti, mis on loodud erinevate AI mudelite jõudluse optimeerimiseks. Tipptasemel kompileerimistööriistade "raskemetallide kvartett" kannab nimesid Rammer, Roller, Welder ja Grinder.

Tööriistad töötas välja Microsoft Research koostöös mitmete akadeemiliste institutsioonidega. Need pakuvad täiustatud lahendusi põhiliste tehisintellekti mudelite kompileerimiseks – põhiliselt lähtekoodist (inimloetav) masinkoodiks (hulk ühtesid ja nulle, mis muudavad arvuti käivitatavaks) – kompileerimiseks ja nende tõhusamaks käitamiseks riistvarakiirendites, nagu GPU-d.

Microsofti uuringus blogi postitus highlighting their capabilities, the company says the compilers build on Microsoft’s extensive research and development in artificial intelligence.

"Meie väljatöötatud tehisintellekti kompilaatorid on näidanud tehisintellekti koostamise tõhususe olulist paranemist, hõlbustades seeläbi tehisintellekti mudelite väljaõpet ja kasutuselevõttu," kirjutas MSR Asia juhtivteadur Jilong Xue. "Tulevikus võivad need suuremahulised mudelid iseenesest aidata optimeerimisel ja kompileerimisel."

Neli uut kompilaatorit lahendavad AI töökoormuse optimeerimisel erinevaid väljakutseid.

Raamistik keskendub riistvara paralleelsuse maksimeerimisele – riistvara võimele teha erinevaid asju samaaegselt. See on jõudluse võtmetegur ja Rammer minimeerib käitusaja planeerimise üldkulusid paralleelsete ressursside parema kasutamise kaudu.

Rull kasutab kompileerimise kiirendamiseks teistsugust lähenemist, kasutades lahenduste leidmiseks kiiret ehitusalgoritmi, mis lõpuks genereerib optimeeritud tuumad pigem sekunditega kui tundidega. Teisisõnu aitab Roller luua AI jaoks tõhusaid arvutiprogramme kiiremini, lihtsustades disainiprotsessi.

Keevitaja vähendab kallist mälule juurdepääsu liiklust, ühendades operaatorid kontsentreeritud torujuhtmes. Suurema tõhususe tagamiseks ühendab see mälu optimeerimise üheks raamistikuks.

Lõpuks Veski võimaldab kiirenditel juhtimisvoo täitmist, integreerides selle andmevooga. See võimaldab optimeerimist üle juhtimisvoo piiride. Mõelge sellele nagu ekspert, kes juhendab praktikandi samme ja ütleb neile, mida teha, et töö kiiremini tehtud saaks.

Ühe juhtiva tehnoloogiahiiglasena on Microsoft olnud tehisintellekti edendamise esirinnas. Ettevõte on teinud tihedat koostööd tehisintellekti uurimisfirmaga OpenAI suurte keelemudelite osas, nagu GPT-3.5 ja GPT-4, millel on ChatGPT ja Bing Chat. Hiljuti Microsoft koostöös Metaga integreerida LLaMA-2 oma pilvandmetöötluslahendusse ja tutvustas tehnikat nimega the Mõtete algoritm arutlusvõime parandamiseks sellistes mudelites nagu ChatGPT.

Testimine näitas, et kompilaatorid ületasid olemasolevaid lahendusi märkimisväärselt. Rammer ületas GPU-del teisi kompilaatoreid kuni 20 korda. Rull vastas või ületas tipptasemel jõudlust, vähendades samal ajal koostamisaega suurusjärkude võrra. Welder ületas raamistikke nagu PyTorch GPU-del kuni 21 korda. Veski kiirendatud mudelid, mille vooluhulk on kuni 8x.

Raskemetallide kvartett demonstreerib Microsofti jätkuvat juhtpositsiooni läbimurdeliste AI-süsteemide kavandamisel ja oma toodetele lõbusate nimede leidmisel. Kuigi suured partnerlussuhted AI-ruumis nagu OpenAI-ga haarake pealkirju, arendab ettevõte aktiivselt ka elutähtsat tarkvara infrastruktuuri, et võimaldada tehisintellekti kulisside taga.

Olemasolevate lahendustega võrreldes võivad Rammer, Roller, Welder ja Grinder pakkuda olulisi konkurentsieeliseid, kuna tekivad keerulisemad tehisintellekti töökoormused.