A Synopsys Panel frissítései a Multi-Die Systems állapotáról – Semiwiki

A Synopsys Panel frissítései a Multi-Die rendszerek állapotáról – Semiwiki

Időbélyeg: 12. október 2023. 9:00
Forrás csomópont: 2931383

A Synopsys nemrégiben adott otthont egy iparágközi panelnek a multi-die rendszerek állapotáról, amelyet nem utolsósorban az AI-központú hardverek gyors felgyorsulásával kapcsolatos relevanciája miatt találtam érdekesnek. Erről lentebb bővebben. A paneltagok, mindannyian jelentős szerepet töltöttek be a többfejű rendszerekben: Shekhar Kapoor (a Synopsys termékmenedzsmentért felelős vezető igazgatója), Cheolmin Park (Samsung vállalati alelnök), Lalitha Immaneni (Intel architektúra, tervezési és technológiai megoldások alelnöke), Michael Schaffert (a Bosch vezető alelnöke) és Murat Becer (K+F alelnök, Ansys). A panelt Marco Chiappetta (a HotTech Vision and Analysis társalapítója és vezető elemzője) moderálta.

multi die 525x315 fény

A nagy kereslet hajtóereje

Ez alatt a címszó alatt elterjedt az összes szokásos gyanúsított (HPC, autóipar stb.) bemutatása, de ez a lista röviden eladja talán a legnagyobb mögöttes tényezőt – a jelenlegi tülekedést a dominanciáért minden LLM és generatív mesterséges intelligencia területén. A nagy nyelvi modellek az SaaS-szolgáltatások új szintjeit kínálják a keresésben, a dokumentumkészítésben és más lehetőségekben, jelentős versenyelőnyökkel járva annak, aki először megszerzi ezt a jogot. A mobileszközökön és az autóban a kiváló, természetes nyelven alapuló vezérlés és visszacsatolás primitív megjelenést kölcsönöz a meglévő hangalapú opcióknak. Mindeközben a Diffusion és Poisson áramlási modelleket használó új képek létrehozásának generatív módszerei látványos grafikákat pumpálhatnak a szövegre vagy egy fényképre, amelyet képkönyvtárak egészítenek ki. Fogyasztói húzásként ez lehet a következő nagy dolog a jövőbeli telefonkiadások számára.

Bár a transzformátor alapú mesterséges intelligencia hatalmas $$$ lehetőséget kínál, kihívásokkal is jár. Az ilyen módszereket lehetővé tevő technológiák már a felhőben beváltak, és a peremeken jelennek meg, mégis híresen memóriaéhesek. A termelési LLM-ek több milliárdtól billióig terjedő paramétereket futtatnak, amelyeket a transzformátorra kell betölteni. Ugyanilyen nagy a kereslet a folyamatban lévő munkaterületek iránt; A diffúzió alapú képalkotás fokozatosan ad zajt a teljes képhez, majd visszatér a módosított képhez, ismét transzformátor alapú platformokon keresztül.

A kezdeti terheléstől eltekintve ezen folyamatok egyike sem engedheti meg magának a külső DRAM-mal való interakció költségeit. A késések elfogadhatatlanok lennének, és az energiaigény lemerítené a telefon akkumulátorát, vagy megterhelné az adatközpontok energiaköltségét. Minden memóriának a számításhoz közel – nagyon közel – kell lennie. Az egyik megoldás az, hogy az SRAM-ot a gyorsító tetejére helyezik (ahogy az AMD és most az Intel is bebizonyította a szerverchipjeit). A nagy sávszélességű memória a csomagban egy másik, valamivel lassabb opciót ad, de még mindig nem olyan lassú, mint a chipen kívüli DRAM.

Mindehhez többfejű rendszerre van szükség. Tehát hol tartunk abban, hogy ezt a lehetőséget gyártásra készen tegyük?

Nézetek arról, hogy hol vagyunk

Sok lelkesedést hallottam a növekedés iránt ezen a területen, az elfogadás, az alkalmazások és az eszközök terén. Az Intel, az AMD, a Qualcomm, a Samsung egyértelműen nagyon aktív ezen a téren. Az Apple M2 Ultra kettős matrica, az AWS Graviton 3 pedig több matricás rendszer. Biztos vagyok benne, hogy a nagy rendszerek és félvezető házak között rengeteg más példa is van. Az a benyomásom, hogy a matricákat továbbra is túlnyomórészt belső beszerzésből szerzik be (kivéve talán a HBM kötegeket), és a TSMC, a Samsung vagy az Intel öntödei csomagolási technológiáiban szerelik össze. A Tenstorrent azonban éppen most jelentette be, hogy a Samsungot választották a következő generációs mesterséges intelligencia tervezésének chipletként (többszerszámos rendszerben való használatra alkalmas szerszámként) történő gyártásához, így ez a tér máris egyre szélesebb körben nyúlik a die beszerzés felé.

Természetesen minden paneltag lelkes volt az általános irányvonalért, és egyértelműen a technológiák és az eszközök gyorsan fejlődnek, ami magyarázza a nyüzsgést. Lalitha azzal indokolta ezt a lelkesedést, hogy megjegyezte, hogy a többszerszámos rendszerek megtervezése és tervezése még gyerekcipőben jár, és még nem áll készen arra, hogy a szerszámok kiterjedt újrafelhasználható piacát elindítsa. Ez nem lep meg. Úgy tűnik, hogy az ilyen összetett technológiának először a rendszertervezők, öntödék és az EDA-cégek közötti szoros partnerségben kell kifejlődnie, esetleg több éven keresztül, mielőtt nagyobb közönségre is kiterjedhetne.

Biztos vagyok benne, hogy az öntödék, a rendszerépítők és az EDA-cégek nem mutatják meg az összes kártyájukat, és lehet, hogy messzebb vannak, mint amennyit hirdetnek. Várom a továbbiakat. A panelbeszélgetést megtekintheti ITT.

Oszd meg ezt a bejegyzést ezen keresztül:

Időbélyeg:

Még több Semiwiki