การอัปเดตแผง Synopsys เกี่ยวกับสถานะของระบบ Multi-Die - Semiwiki

เผยแพร่ซ้ำโดยเพลโต

ผู้ติดตาม: 0

เมื่อเร็วๆ นี้ Synopsys เป็นเจ้าภาพจัดการประชุมข้ามอุตสาหกรรมเกี่ยวกับสถานะของระบบมัลติไดย์ ซึ่งฉันพบว่าน่าสนใจไม่น้อยเลยสำหรับความเกี่ยวข้องกับการเร่งความเร็วอย่างรวดเร็วในฮาร์ดแวร์ที่เน้น AI เพิ่มเติมเกี่ยวกับที่ด้านล่าง ผู้ร่วมอภิปรายซึ่งมีบทบาทสำคัญในระบบ multi-die ได้แก่ Shekhar Kapoor (ผู้อำนวยการอาวุโสฝ่ายการจัดการผลิตภัณฑ์, Synopsys), Cheolmin Park (รองประธานบริษัท, Samsung), Lalitha Immaneni (รองประธานฝ่ายสถาปัตยกรรม, การออกแบบและเทคโนโลยีโซลูชั่น, Intel), Michael Schaffert (รองประธานอาวุโส Bosch) และ Murat Becer (รองประธานฝ่ายวิจัยและพัฒนา Ansys) ผู้ร่วมอภิปรายได้รับการดูแลโดย Marco Chiappetta (ผู้ร่วมก่อตั้งและนักวิเคราะห์หลัก HotTech Vision and Analysis)

มัลติไดย์ 525x315 ไลท์

ตัวขับเคลื่อนความต้องการขนาดใหญ่

เป็นเรื่องปกติภายใต้หัวข้อนี้ที่จะเปิดตัวผู้ต้องสงสัยตามปกติทั้งหมด (HPC, ยานยนต์ ฯลฯ ) แต่รายการดังกล่าวขายชอร์ตอาจเป็นปัจจัยพื้นฐานที่ใหญ่ที่สุด – การแย่งชิงในปัจจุบันเพื่อครอบงำทุกอย่าง LLM และ AI กำเนิด โมเดลภาษาขนาดใหญ่นำเสนอบริการ SaaS ในระดับใหม่ในการค้นหา การสร้างเอกสาร และความสามารถอื่นๆ โดยมีข้อได้เปรียบทางการแข่งขันที่สำคัญสำหรับผู้ที่ได้รับสิทธิ์นี้ก่อน บนอุปกรณ์เคลื่อนที่และในรถยนต์ การควบคุมและการตอบรับตามภาษาธรรมชาติที่เหนือกว่า จะทำให้ตัวเลือกที่ใช้เสียงที่มีอยู่ดูดั้งเดิมเมื่อเปรียบเทียบ ในขณะเดียวกัน วิธีการกำเนิดสำหรับการสร้างภาพใหม่โดยใช้แบบจำลอง Diffusion และ Poisson flow สามารถสร้างภาพวาดกราฟิกที่สวยงามบนข้อความหรือภาพถ่ายที่เสริมด้วยไลบรารีรูปภาพได้ เนื่องจากผู้บริโภคดึงดูดสิ่งนี้สามารถพิสูจน์ได้ว่าเป็นสิ่งที่ยิ่งใหญ่ต่อไปสำหรับการเปิดตัวโทรศัพท์ในอนาคต

แม้ว่า AI ที่ใช้หม้อแปลงไฟฟ้าจะมอบโอกาสมหาศาล แต่ก็มาพร้อมกับความท้าทาย เทคโนโลยีที่ทำให้วิธีการดังกล่าวเป็นไปได้ได้รับการพิสูจน์แล้วในระบบคลาวด์และเกิดขึ้นที่ Edge แต่ก็มีชื่อเสียงในด้านความจำที่หิวโหย LLM การผลิตทำงานได้ทุกที่ตั้งแต่พารามิเตอร์นับพันล้านถึงล้านล้านซึ่งต้องโหลดลงในหม้อแปลง ความต้องการพื้นที่ทำงานระหว่างดำเนินการก็มีสูงพอๆ กัน การสร้างภาพแบบกระจายจะค่อยๆ เพิ่มสัญญาณรบกวนให้กับภาพเต็ม จากนั้นจะกลับมาเป็นภาพที่แก้ไขอีกครั้งผ่านแพลตฟอร์มที่ใช้หม้อแปลงไฟฟ้า

นอกเหนือจากการโหลดครั้งแรก ไม่มีกระบวนการใดที่สามารถรองรับค่าใช้จ่ายในการโต้ตอบกับ DRAM ภายนอกได้ เวลาแฝงเป็นสิ่งที่ยอมรับไม่ได้ และความต้องการพลังงานจะทำให้แบตเตอรี่โทรศัพท์หมดหรืออาจทำให้งบประมาณด้านพลังงานสำหรับศูนย์ข้อมูลหมด หน่วยความจำทั้งหมดต้องอยู่ใกล้ – ใกล้มาก – การประมวลผล วิธีแก้ปัญหาหนึ่งคือการซ้อน SRAM ไว้บนตัวเร่งความเร็ว (ดังที่ AMD และตอนนี้ Intel ได้สาธิตให้เห็นแล้วสำหรับชิปเซิร์ฟเวอร์ของพวกเขา) หน่วยความจำแบนด์วิธสูงในแพ็คเกจจะเพิ่มตัวเลือกอื่นที่ค่อนข้างช้ากว่า แต่ก็ยังไม่ช้าเท่ากับ DRAM แบบนอกชิป

ซึ่งทั้งหมดนี้ต้องใช้ระบบมัลติดาย แล้วเราอยู่ที่ไหนในการทำให้ตัวเลือกนั้นพร้อมสำหรับการผลิต?

มุมมองว่าเราอยู่ที่ไหน

ฉันได้ยินมาว่ามีความกระตือรือร้นอย่างมากในการเติบโตในด้านนี้ ทั้งในด้านการใช้งาน แอปพลิเคชัน และเครื่องมือ Intel, AMD, Qualcomm, Samsung ล้วนมีความกระตือรือร้นในด้านนี้อย่างชัดเจน Apple M2 Ultra เป็นที่รู้จักว่าเป็นดีไซน์แบบ dual die และ AWS Graviton 3 เป็นระบบแบบ multi-die ฉันแน่ใจว่ายังมีตัวอย่างอื่นๆ อีกมากมายในบรรดาระบบขนาดใหญ่และบ้านเซมิคอนดักเตอร์ ฉันรู้สึกว่าแม่พิมพ์ยังคงมีแหล่งที่มาจากภายในเป็นส่วนใหญ่ (ยกเว้นจากสแต็ค HBM) และประกอบในเทคโนโลยีบรรจุภัณฑ์แบบหล่อจาก TSMC, Samsung หรือ Intel อย่างไรก็ตาม Tenstorrent เพิ่งประกาศว่าพวกเขาเลือก Samsung ให้ผลิตการออกแบบ AI เจเนอเรชันถัดไปเป็นชิปเล็ต (แม่พิมพ์ที่เหมาะสำหรับใช้ในระบบ multi-die) ดังนั้นพื้นที่นี้จึงมุ่งไปสู่การจัดหาแม่พิมพ์ที่กว้างขึ้น

ผู้ร่วมอภิปรายทุกคนมีความกระตือรือร้นกับทิศทางทั่วไปโดยธรรมชาติ และเห็นได้ชัดว่าเทคโนโลยีและเครื่องมือมีการพัฒนาอย่างรวดเร็วซึ่งเป็นสาเหตุให้เกิดกระแสฮือฮา Lalitha ให้ความสำคัญกับความกระตือรือร้นดังกล่าวโดยสังเกตว่าวิธีการที่ระบบแม่พิมพ์หลายตัวได้รับการออกแบบและออกแบบในปัจจุบันยังอยู่ในช่วงเริ่มต้น ยังไม่พร้อมที่จะเปิดตัวตลาดแม่พิมพ์ที่นำกลับมาใช้ใหม่ได้อย่างกว้างขวาง นั่นไม่ทำให้ฉันประหลาดใจ เทคโนโลยีของความซับซ้อนนี้ดูเหมือนว่าควรจะเติบโตเป็นอันดับแรกด้วยความร่วมมือที่แน่นแฟ้นระหว่างนักออกแบบระบบ โรงหล่อ และบริษัท EDA ซึ่งอาจต้องใช้เวลาหลายปีก่อนที่จะขยายไปสู่กลุ่มผู้ชมที่ใหญ่ขึ้น

ฉันแน่ใจว่าโรงหล่อ ผู้สร้างระบบ และบริษัท EDA ไม่ได้แสดงบัตรทั้งหมดของพวกเขา และอาจอยู่ไกลกว่าที่พวกเขาเลือกที่จะโฆษณา ฉันหวังว่าจะได้ยินมากขึ้น คุณสามารถดูการอภิปรายแผง ที่นี่.

แชร์โพสต์นี้ผ่าน: