Çok Kalıplı Sistemlerin Durumuna İlişkin Özet Panel Güncellemeleri - Semiwiki

Plato tarafından yeniden yayınlandı

İzleyiciler: 0

Synopsys yakın zamanda çok kalıplı sistemlerin durumuyla ilgili sektörler arası bir panele ev sahipliği yaptı ve bunu özellikle yapay zeka merkezli donanımdaki hızlı ivmeyle olan ilişkisi açısından ilginç buldum. Aşağıda bununla ilgili daha fazla bilgi bulabilirsiniz. Hepsi çoklu kalıp sistemlerinde önemli rollere sahip olan panelistler arasında Shekhar Kapoor (Ürün Yönetimi Kıdemli Direktörü, Synopsys), Cheolmin Park (Kurumsal Başkan Yardımcısı, Samsung), Lalitha Immaneni (Mimari, Tasarım ve Teknoloji Çözümleri Başkan Yardımcısı, Intel), Michael Schaffert vardı. (Kıdemli Başkan Yardımcısı, Bosch) ve Murat Becer (Ar-Ge Başkan Yardımcısı, Ansys). Panelin moderatörlüğünü Marco Chiappetta (Kurucu Ortak ve Baş Analist, HotTech Vizyon ve Analiz) üstlendi.

çoklu kalıp 525x315 ışık

Büyük Talep Etkeni

Bu başlık altında tüm olağan şüphelilerin (HPC, Otomotiv, vb.) ortaya konması yaygındır, ancak bu liste yetersiz kalıyor belki de altta yatan en büyük faktör - yüksek lisans ve üretken yapay zeka ile ilgili her şeyde hakimiyet için mevcut mücadele. Büyük dil modelleri, arama, belge oluşturma ve diğer yeteneklerde yeni düzeylerde SaaS hizmetleri sunar ve bunu ilk önce yapan kişiye büyük rekabet avantajları sunar. Mobil cihazlarda ve arabada, üstün doğal dil tabanlı kontrol ve geri bildirim, mevcut ses tabanlı seçeneklerin kıyaslandığında ilkel görünmesine neden olacaktır. Bu arada, Difüzyon ve Poisson akış modellerini kullanarak yeni görüntüler oluşturmaya yönelik üretken yöntemler, görüntü kütüphaneleriyle tamamlanan metin veya fotoğraf üzerine çizim yapan muhteşem grafikler ortaya çıkarabilir. Bir tüketici olarak bu, gelecekteki telefon sürümleri için bir sonraki büyük şey olabilir.

Transformatör tabanlı yapay zeka çok büyük bir fırsat sunarken, beraberinde zorluklar da getiriyor. Bu tür yöntemleri mümkün kılan teknolojiler zaten bulutta kanıtlanmış ve uçta ortaya çıkıyor, ancak yine de belleğe aç oldukları biliniyor. Üretim LLM'leri, transformatöre yüklenmesi gereken milyarlarcadan trilyonlara kadar parametreyi çalıştırır. Süreç içi çalışma alanına olan talep de aynı derecede yüksektir; Difüzyon tabanlı görüntüleme, tam görüntüye aşamalı olarak gürültü ekler ve ardından yine transformatör tabanlı platformlar aracılığıyla değiştirilmiş görüntüye geri döner.

Başlangıç yükü dışında, bu işlemlerin hiçbiri harici DRAM ile etkileşimin getirdiği ek yükü karşılayamaz. Gecikmeler kabul edilemez olabilir ve güç talebi telefonun pilini tüketebilir veya bir veri merkezinin güç bütçesini tüketebilir. Tüm belleğin bilişimin yakınında, yani çok yakınında olması gerekir. Bir çözüm, SRAM'ı hızlandırıcının üzerine yığmaktır (AMD ve şimdi Intel'in sunucu yongaları için gösterdiği gibi). Paket içi yüksek bant genişliğine sahip bellek, biraz daha yavaş bir seçenek daha ekler ancak yine de çip dışı DRAM kadar yavaş değildir.

Bunların hepsi çoklu kalıp sistemleri gerektirir. Peki bu seçeneği üretime hazır hale getirme konusunda neredeyiz?

Nerede olduğumuza dair görüşler

Bu alanda, benimseme, uygulamalar ve araçlarda büyüme konusunda büyük bir heyecan duydum. Intel, AMD, Qualcomm ve Samsung'un hepsi bu alanda açıkça çok aktif. Apple M2 Ultra'nın ikili kalıp tasarımı, AWS Graviton 3'ün ise çoklu kalıp sistemi olduğu biliniyor. Büyük sistemler ve yarı iletken evler arasında pek çok başka örnek olduğuna eminim. Kalıpların hala ağırlıklı olarak içeriden tedarik edildiği (belki HBM yığınları hariç) ve TSMC, Samsung veya Intel'in dökümhane paketleme teknolojilerinde bir araya getirildiği izlenimini edindim. Ancak Tenstorrent, yeni nesil yapay zeka tasarımlarını chiplet (çoklu kalıp sisteminde kullanılmaya uygun bir kalıp) olarak üretmek için Samsung'u seçtiklerini duyurdu, dolayısıyla bu alan şimdiden daha geniş kalıp kaynağına doğru adım adım ilerliyor.

Tüm panelistler doğal olarak genel gidişat konusunda heyecanlıydı ve açıkça teknolojiler ve araçlar hızla gelişiyor ve bu da heyecanın nedeni. Lalitha, çoklu kalıp sistemlerinin şu anda tasarlanmakta ve tasarlanmakta olan yönteminin henüz başlangıç aşamasında olduğunu ve kalıp için kapsamlı bir yeniden kullanılabilir pazar başlatmaya henüz hazır olmadığını belirterek bu heyecanı temellendirdi. Bu beni şaşırtmadı. Bu karmaşıklıktaki teknolojinin, daha geniş bir kitleye ulaşması için öncelikle sistem tasarımcıları, dökümhaneler ve EDA şirketleri arasındaki sıkı ortaklıklarda, belki de birkaç yıl içinde olgunlaşması gerekiyor gibi görünüyor.

Dökümhanelerin, sistem kurucularının ve EDA şirketlerinin tüm kartlarını göstermediklerinden ve reklamını yapmayı seçtiklerinden daha ileride olabileceklerinden eminim. Daha fazlasını duymak için can atıyorum. Panel tartışmasını izleyebilirsiniz İŞTE.

Bu gönderiyi şu yolla paylaş: