Pembaruan Panel Synopsys Tentang Keadaan Sistem Multi-Die - Semiwiki

Diterbitkan Ulang Oleh Plato

Followers: 0

Synopsys baru-baru ini menjadi tuan rumah panel lintas industri mengenai keadaan sistem multi-die yang menurut saya menarik, paling tidak karena relevansinya dengan akselerasi cepat dalam perangkat keras yang berpusat pada AI. Lebih lanjut tentang itu di bawah. Panelis, semuanya dengan peran penting dalam sistem multi-die, adalah Shekhar Kapoor (Direktur Senior Manajemen Produk, Synopsys), Cheolmin Park (VP Perusahaan, Samsung), Lalitha Immaneni (VP Arsitektur, Desain dan Solusi Teknologi, Intel), Michael Schaffert (VP Senior, Bosch), dan Murat Becer (VP R&D, Ansys). Panel ini dimoderatori oleh Marco Chiappetta (Co-Founder dan Principal Analyst, HotTech Vision and Analysis).

lampu multi mati 525x315

Penggerak Permintaan Besar

Dalam judul ini, sudah menjadi hal yang umum untuk meluncurkan semua tersangka yang biasa (HPC, Otomotif, dll) tetapi daftar tersebut mungkin tidak laku karena faktor mendasar terbesar – perebutan dominasi saat ini dalam segala hal LLM dan AI generatif. Model bahasa besar menawarkan layanan SaaS tingkat baru dalam pencarian, pembuatan dokumen, dan kemampuan lainnya, dengan keunggulan kompetitif yang besar bagi siapa pun yang terlebih dahulu menguasainya. Pada perangkat seluler dan di mobil, kontrol dan umpan balik berbasis bahasa alami yang unggul akan membuat opsi berbasis suara yang ada terlihat primitif jika dibandingkan. Sementara itu metode generatif untuk membuat gambar baru menggunakan model aliran Difusi dan Poisson dapat menghasilkan gambar grafis spektakuler pada teks atau foto yang dilengkapi dengan perpustakaan gambar. Sebagai daya tarik konsumen, hal ini bisa menjadi hal besar berikutnya untuk rilis ponsel di masa depan.

Meskipun AI berbasis transformator menghadirkan peluang $$$ yang sangat besar, namun ada juga tantangannya. Teknologi yang memungkinkan metode seperti itu sudah terbukti di cloud dan berkembang di edge, namun teknologi tersebut terkenal haus akan memori. LLM produksi menjalankan miliaran hingga triliunan parameter yang harus dimuat ke transformator. Permintaan akan ruang kerja dalam proses juga sama tingginya; pencitraan berbasis difusi secara bertahap menambahkan noise ke gambar penuh, kemudian kembali ke gambar yang dimodifikasi, lagi-lagi melalui platform berbasis transformator.

Terlepas dari pemuatan awal, tidak satu pun dari proses ini yang mampu menanggung beban interaksi dengan DRAM eksternal. Latensi tidak dapat diterima dan permintaan daya akan menguras baterai ponsel atau menghabiskan anggaran daya untuk pusat data. Semua memori harus berada di dekat – sangat dekat – komputasi. Salah satu solusinya adalah dengan menumpuk SRAM di atas akselerator (seperti yang telah ditunjukkan oleh AMD dan Intel untuk chip server mereka). Memori bandwidth tinggi dalam paket menambahkan opsi lain yang agak lebih lambat tetapi masih tidak selambat DRAM off-chip.

Kesemuanya memerlukan sistem multi-die. Jadi, di mana posisi kita dalam membuat opsi tersebut siap produksi?

Pemandangan di mana kita berada

Saya mendengar banyak antusiasme terhadap pertumbuhan dalam domain ini, dalam hal adopsi, aplikasi, dan peralatan. Intel, AMD, Qualcomm, Samsung jelas sangat aktif di bidang ini. Apple M2 Ultra dikenal dengan desain cetakan ganda, dan AWS Graviton 3 merupakan sistem multi-die. Saya yakin ada banyak contoh lain di antara sistem besar dan rumah semikonduktor. Saya mendapat kesan bahwa sebagian besar cetakan masih bersumber secara internal (kecuali mungkin untuk tumpukan HBM), dan dirakit dalam teknologi pengemasan pengecoran dari TSMC, Samsung atau Intel. Namun, Tenstorrent baru saja mengumumkan bahwa mereka telah memilih Samsung untuk memproduksi desain AI generasi berikutnya sebagai chiplet (die yang cocok untuk digunakan dalam sistem multi-die), sehingga ruang ini sudah mulai mengarah pada sumber die yang lebih luas.

Semua panelis tentu saja antusias dengan arahan umum ini, dan jelas sekali bahwa teknologi dan alat-alat berkembang dengan cepat sehingga menyebabkan desas-desus tersebut. Lalitha mendasari antusiasme tersebut dengan mencatat bahwa cara sistem multi-die yang saat ini sedang dirancang dan dirancang masih dalam tahap awal, belum siap untuk meluncurkan pasar die yang dapat digunakan kembali secara luas. Itu tidak mengejutkan saya. Teknologi dengan kompleksitas seperti ini sepertinya harus matang terlebih dahulu dalam kemitraan yang erat antara perancang sistem, pabrik pengecoran logam, dan perusahaan EDA, mungkin selama beberapa tahun sebelum dapat menjangkau khalayak yang lebih luas.

Saya yakin bahwa pabrik pengecoran logam, pembuat sistem, dan perusahaan EDA tidak menunjukkan seluruh kemampuan mereka dan mungkin lebih maju daripada memilih untuk beriklan. Saya berharap untuk mendengar lebih banyak. Anda dapat menyaksikan diskusi panel SINI.

Bagikan postingan ini melalui: