Synopsys-paneelipäivitykset Multi-Die-järjestelmien tilasta - Semiwiki

Julkaissut Platon

seuraajia: 0

Synopsys isännöi äskettäin toimialojen välistä paneelia monisuulakejärjestelmien tilasta, jota pidin kiinnostavana etenkin sen merkityksen vuoksi, että se liittyy tekoälykeskeisen laitteiston nopeaan kiihtymiseen. Siitä lisää alla. Panelistit, joilla kaikilla oli merkittäviä rooleja monisuulakejärjestelmissä, olivat Shekhar Kapoor (tuotehallinnan johtaja, Synopsys), Cheolmin Park (yritysjohtaja, Samsung), Lalitha Immaneni (arkkitehtuuri-, suunnittelu- ja teknologiaratkaisujen johtaja, Intel), Michael Schaffert. (Vanhempi VP, Bosch) ja Murat Becer (VP R&D, Ansys). Paneelin moderaattorina toimi Marco Chiappetta (yhteisperustaja ja pääanalyytikko, HotTech Vision and Analysis).

monipuikko 525x315 valo

Suuren kysynnän kuljettaja

On yleistä, että tämän otsikon alla julkaistaan kaikki tavalliset epäillyt (HPC, Automotive jne.), mutta tämä luettelo myy lyhyesti ehkä suurimman taustalla olevan tekijän – nykyisen kamppailun hallitsevasta asemasta kaikessa LLM:ssä ja generatiivisessa tekoälyssä. Suuret kielimallit tarjoavat uudentasoisia SaaS-palveluita haussa, asiakirjojen luomisessa ja muissa toiminnoissa, ja suuria kilpailuetuja niille, jotka saavat tämän ensin. Mobiililaitteissa ja autossa ylivoimainen luonnollisen kielen ohjaus ja palaute saa nykyiset äänipohjaiset vaihtoehdot näyttämään primitiivisiltä verrattuna. Samaan aikaan generatiivisilla menetelmillä uusien kuvien luomiseksi Diffusion- ja Poisson-virtausmalleilla voidaan pumpata näyttäviä grafiikkapiirroksia tekstiin tai valokuvaan, jota täydennetään kuvakirjastoilla. Kuluttajien vetona tämä voi osoittautua seuraavaksi isoksi asiaksi tulevissa puhelinjulkaisuissa.

Vaikka muuntajapohjainen tekoäly tarjoaa valtavan $$$ mahdollisuuden, se sisältää haasteita. Teknologiat, jotka mahdollistavat tällaiset menetelmät, ovat jo todistettu pilvessä ja nousemassa esiin reunalla, mutta ne ovat tunnetusti muistinhimoisia. Tuotanto-LLM:t toimivat missä tahansa miljardeista biljooniin parametreihin, jotka on ladattava muuntajaan. Prosessin sisäisten työtilojen kysyntä on yhtä korkea; diffuusiopohjainen kuvantaminen lisää asteittain kohinaa koko kuvaan ja palaa sitten muokattuun kuvaan jälleen muuntajapohjaisten alustojen kautta.

Alkukuormitusta lukuun ottamatta millään näistä prosesseista ei ole varaa olla vuorovaikutuksessa ulkoisen DRAM:n kanssa. Viiveet olisivat mahdottomia hyväksyä, ja virrantarve kuluttaisi puhelimen akkua tai heikentäisi datakeskuksen tehobudjettia. Kaiken muistin on oltava lähellä - hyvin lähellä - laskentaa. Yksi ratkaisu on pinota SRAM kiihdytin päälle (kuten AMD ja nyt Intel ovat osoittaneet palvelinsirujensa suhteen). Suuren kaistanleveyden sisäinen muisti lisää toisen hieman hitaamman vaihtoehdon, mutta ei silti niin hidas kuin piirin ulkopuolinen DRAM.

Kaikki tämä vaatii monipuikkojärjestelmiä. Joten missä olemme tehdessämme tämän vaihtoehdon tuotantovalmiiksi?

Näkemyksiä siitä, missä olemme

Kuulin paljon innostusta kasvusta tällä alalla, adoptiossa, sovelluksissa ja työkaluissa. Intel, AMD, Qualcomm, Samsung ovat kaikki selvästi erittäin aktiivisia tällä alalla. Apple M2 Ultran tiedetään olevan kaksoissuulakesuunnittelu ja AWS Graviton 3 monisuuttimena. Olen varma, että suurten järjestelmien ja puolijohdetalojen joukossa on paljon muitakin esimerkkejä. Minusta tuntuu, että suulakkeet hankitaan edelleen pääosin sisäisesti (paitsi ehkä HBM-pinoja) ja kootaan TSMC:n, Samsungin tai Intelin valimopakkaustekniikoissa. Tenstorrent ilmoitti kuitenkin juuri, että he ovat valinneet Samsungin valmistamaan seuraavan sukupolven tekoälysuunnitteluaan siruksi (suulake, joka soveltuu käytettäväksi monisuolajärjestelmässä), joten tämä tila on jo pikkuhiljaa kohti laajempaa stanssausta.

Kaikki panelistit olivat luonnollisesti innostuneita yleisestä suunnasta, ja tekniikat ja työkalut kehittyvät selvästi nopeasti, mikä selittää vilinän. Lalitha perusti tämän innostuksen toteamalla, että tapa, jolla tällä hetkellä suunnitellaan ja suunnitellaan monisärmäisiä järjestelmiä, on vielä lapsenkengissään, eikä se ole vielä valmis käynnistämään laajoja uudelleenkäytettäviä muottimarkkinoita. Se ei yllätä minua. Tämän monimutkaisen teknologian pitäisi kypsyä ensin tiiviissä kumppanuuksissa järjestelmäsuunnittelijoiden, valimoiden ja EDA-yritysten välillä, ehkä useiden vuosien ajan ennen kuin se voi ulottua laajemmalle yleisölle.

Olen varma, että valimot, järjestelmien rakentajat ja EDA-yritykset eivät näytä kaikkia korttejaan ja saattavat olla pidemmällä kuin mainostavat. Odotan innolla kuulevani lisää. Voit katsoa paneelikeskustelun TÄÄLTÄ.

Jaa tämä viesti: