A Microsoft növeli a mesterséges intelligencia hatékonyságát a fordítók „heavy metal kvartettjével” – Decrypt

A Microsoft növeli a mesterséges intelligencia hatékonyságát a fordítók „heavy metal kvartettjével” – Decrypt

Időbélyeg: 6. szeptember 2023. 3:01
Forrás csomópont: 2865461

A Microsoft négy új mesterséges intelligencia fordítóból álló csomagot mutatott be, amelyek célja a különböző AI-modellek teljesítményének optimalizálása. A legmodernebb kompilációs eszközök „heavy metal kvartettje” a döngölő, henger, hegesztő és köszörű neveket viseli.

Az eszközöket a Microsoft Research fejlesztette ki számos akadémiai intézménnyel együttműködve. Fejlett megoldásokat kínálnak a főáramú AI-modellek fordítására – alapvetően a forráskódból (ember által olvasható) gépi kódba (egyesek és nullák, amelyek végrehajthatóvá teszik a számítógépet) –, és hatékonyabban futtathatók hardveres gyorsítókon, például GPU-kon.

Egy Microsoft kutatásban blogbejegyzés képességeiket kiemelve a cég szerint a fordítók a Microsoft kiterjedt mesterséges intelligencia kutatására és fejlesztésére építenek.

„Az általunk kifejlesztett mesterségesintelligencia-fordítók jelentős javulást mutattak az AI fordítási hatékonyságában, ezáltal megkönnyítve az AI-modellek képzését és telepítését” – írta Jilong Xue, az MSR Asia vezető kutatója. "A jövőben ezek a nagyméretű modellek maguk is segíthetnek az optimalizálás és az összeállítás elérésében."

A négy új fordító mindegyike különböző kihívásokkal küzd az AI munkaterhelésének optimalizálása terén.

Döngölő a hardver párhuzamosságának maximalizálására összpontosít – a hardver azon képességére, hogy különböző dolgokat egyidejűleg végezzen. Ez kulcsfontosságú tényező a teljesítményben, és a Rammer a párhuzamos erőforrások jobb kihasználásával minimalizálja a futásidejű ütemezési többletköltséget.

Árnyékoló roló más megközelítést alkalmaz a fordítás felgyorsítására, gyors építési algoritmust használ a megoldások megtalálására, végül órák helyett másodpercek alatt generál optimalizált kernelt. Más szóval, a Roller a tervezési folyamat egyszerűsítésével segít gyorsabban létrehozni hatékony számítógépes programokat a mesterséges intelligencia számára.

Hegesztő csökkenti a drága memória hozzáférési forgalmat azáltal, hogy az operátorokat egy koncentrált csővezetéken köti össze. A nagyobb hatékonyság érdekében egyetlen keretbe egyesíti a memóriaoptimalizálást.

Végül, Őrlőgép lehetővé teszi a vezérlés-folyamat végrehajtását a gyorsítókon azáltal, hogy integrálja az adatáramlással. Ez lehetővé teszi a vezérlési folyamat határain átnyúló optimalizálást. Gondoljon úgy, mint egy szakértő, aki egy gyakornok lépéseit irányítja, és megmondja nekik, mit kell tenniük a munka gyorsabb elvégzése érdekében.

Az egyik vezető technológiai óriásként a Microsoft az AI fejlesztésének élvonalába tartozik. A vállalat szorosan együttműködik az OpenAI mesterséges intelligencia-kutató céggel olyan nagy nyelvi modelleken, mint a GPT-3.5 és a GPT-4, amelyek a ChatGPT-t és a Bing Chatet hajtják végre. Újabban a Microsoft partnere Metával hogy integrálja a LLaMA-2-t a számítási felhő megoldásába, és bevezette az úgynevezett technikát Gondolatok algoritmusa az érvelés javítására olyan modellekben, mint a ChatGPT.

A tesztelés során kiderült, hogy a fordítók jelentősen felülmúlták a meglévő megoldásokat a benchmarkokon. A Rammer a GPU-k esetében akár 20-szor is felülmúlta a többi fordítót. A görgő megfelelt vagy meghaladta a legmodernebb teljesítményt, miközben nagyságrendekkel csökkentette a fordítási időt. A Welder a GPU-kon akár 21-szeresével felülmúlta az olyan keretrendszereket, mint a PyTorch. Darálós gyorsítású modellek akár 8-szoros szabályozási áramlással.

A heavy metal négyes bizonyítja, hogy a Microsoft továbbra is vezető szerepet tölt be az áttörést jelentő mesterséges intelligencia rendszerek tervezésében – és szórakoztató nevek kidolgozásában termékei számára. Miközben a mesterséges intelligencia terén olyan nagy partnerségek, mint az OpenAI-val ragadd meg a címeket, a vállalat aktívan fejleszti a létfontosságú szoftver-infrastruktúrát is, hogy a mesterséges intelligencia színfalai mögé kerüljön.

A meglévő megoldásokhoz képest jelentős teljesítménynövekedésnek köszönhetően a döngölő, henger, hegesztő és csiszoló kulcsfontosságú versenyelőnyt jelenthet, amint bonyolultabb mesterséges intelligencia munkaterhelések jelennek meg.

Maradjon naprakész a kriptográfiai hírekkel, és napi frissítéseket kaphat a postaládájában.

Időbélyeg:

Még több visszafejtése