Обновления панели Synopsys о состоянии многокристальных систем - Semiwiki

Переиздано Платоном

Читают: 0

Компания Synopsys недавно провела межотраслевую дискуссию о состоянии многокристальных систем, которая показалась мне интересной не в последнюю очередь из-за ее актуальности для быстрого ускорения аппаратного обеспечения, ориентированного на искусственный интеллект. Подробнее об этом ниже. В дискуссии приняли участие Шекхар Капур (старший директор по управлению продуктами, Synopsys), Чолмин Парк (корпоративный вице-президент Samsung), Лалита Имманени (вице-президент по архитектуре, дизайну и технологическим решениям, Intel), Майкл Шафферт. (старший вице-президент Bosch) и Мурат Бесер (вице-президент по исследованиям и разработкам, Ansys). Модератором дискуссии выступил Марко Кьяппетта (соучредитель и главный аналитик HotTech Vision and Analysis).

мульти-матрица 525x315 светлая

Большой драйвер спроса

Под этим заголовком принято перечислять всех обычных подозреваемых (высокопроизводительные вычисления, автомобилестроение и т. д.), но в этом списке недостаточно, возможно, самого главного основного фактора – нынешней борьбы за доминирование во всем, что касается LLM и генеративного искусственного интеллекта. Большие языковые модели предлагают новые уровни SaaS-услуг в области поиска, создания документов и других возможностей, предоставляя серьезные конкурентные преимущества тому, кто получит это право первым. На мобильных устройствах и в автомобиле превосходное управление и обратная связь на основе естественного языка по сравнению с ними покажутся примитивными. Между тем, генеративные методы создания новых изображений с использованием моделей диффузии и пуассонового потока могут создавать впечатляющие графические изображения на тексте или фотографии, дополненные библиотеками изображений. Учитывая потребительский интерес, это может стать следующим большим событием для будущих выпусков телефонов.

Хотя искусственный интеллект на основе трансформаторов открывает огромные возможности, он сопряжен с проблемами. Технологии, которые делают такие методы возможными, уже опробованы в облаке и появляются на периферии, однако они, как известно, требуют памяти. Производственные LLM управляют от миллиардов до триллионов параметров, которые необходимо загрузить в преобразователь. Спрос на рабочее пространство в процессе производства одинаково высок; визуализация на основе диффузии постепенно добавляет шум к полному изображению, а затем возвращается к модифицированному изображению, опять же через платформы на основе трансформаторов.

За исключением начальной загрузки, ни один из этих процессов не может позволить себе накладные расходы на взаимодействие с внешней DRAM. Задержки будут неприемлемыми, а спрос на электроэнергию приведет к разрядке аккумулятора телефона или к снижению энергопотребления центра обработки данных. Вся память должна находиться рядом – очень близко – с вычислительным устройством. Одним из решений является установка SRAM поверх ускорителя (как AMD, а теперь и Intel продемонстрировали на своих серверных чипах). Встроенная память с высокой пропускной способностью добавляет еще один несколько более медленный вариант, но все же не такой медленный, как внекристальная DRAM.

Все это требует многокристальных систем. Итак, на каком этапе мы находимся в подготовке этого варианта к производству?

Мнения о том, где мы находимся

Я слышал много энтузиазма по поводу роста в этой области, в области внедрения, приложений и инструментов. Intel, AMD, Qualcomm, Samsung явно очень активны в этой сфере. Известно, что Apple M2 Ultra представляет собой систему с двумя кристаллами, а AWS Graviton 3 — систему с несколькими кристаллами. Я уверен, что среди крупных системных и полупроводниковых компаний есть множество других примеров. У меня складывается впечатление, что кристаллы по-прежнему производятся преимущественно собственными силами (за исключением, возможно, стеков HBM) и собираются с использованием литейных упаковочных технологий TSMC, Samsung или Intel. Тем не менее, Tenstorrent только что объявила, что они выбрали Samsung для производства своей конструкции искусственного интеллекта следующего поколения в виде чиплета (кристалла, подходящего для использования в системе с несколькими кристаллами), так что это пространство уже постепенно движется к более широкому выбору кристаллов.

Все участники дискуссии, естественно, с энтузиазмом относились к общему направлению, и очевидно, что технологии и инструменты быстро развиваются, что и объясняет такой ажиотаж. Лалита обосновал этот энтузиазм, отметив, что способы проектирования и проектирования многокристальных систем все еще находятся в зачаточном состоянии и еще не готовы к запуску обширного рынка многоразовых кристаллов. Меня это не удивляет. Кажется, что технология такой сложности должна сначала созреть в тесном партнерстве между проектировщиками систем, литейными заводами и компаниями EDA, возможно, в течение нескольких лет, прежде чем она сможет распространиться на более широкую аудиторию.

Я уверен, что литейные заводы, производители систем и компании EDA не раскрывают всех своих карт и, возможно, продвинулись дальше, чем они хотят рекламировать. Я с нетерпением жду возможности услышать больше. Вы можете посмотреть панельную дискуссию ВОТ.

Поделитесь этим постом через: