Мнения о генеративном искусственном интеллекте в CadenceLIVE - Semiwiki

Переиздано Платоном

Читают: 0

По мнению некоторых мечтателей об искусственном интеллекте, мы почти у цели. Нам больше не понадобятся специалисты по проектированию аппаратного или программного обеспечения — просто кто-то, кто введет базовые требования, из которых на другом конце выпадут полностью реализованные системные технологии. Мнения экспертов в отрасли восторженные, но менее преувеличенные. Боб О'Доннелл, президент, основатель и главный аналитик TECHnaанализ Research, модерировал дискуссию по этой теме в CadenceLIVE с участниками дискуссии Робом Кристи (технический директор и заслуженный инженер по внедрению - центральные инженерные системы в Arm), Прабалом Даттой (доцент кафедры электротехники) и компьютерные науки в Калифорнийском университете в Беркли), доктор Пол Каннингем (старший вице-президент и генеральный менеджер группы систем и верификации в Cadence), Крис Роуэн (вице-президент по разработке, искусственному интеллекту для совместной работы в Cisco) и Игорь Марков (исследования) Ученый из Meta) — люди, которые знают больше, чем большинство из нас, о проектировании чипов и искусственном интеллекте. Все участники дискуссии высказали ценную информацию. Я подвел итоги обсуждения здесь.

Мнения о генеративном искусственном интеллекте

Изменит ли генеративный ИИ дизайн чипов?

Консенсус был и да, и нет. ИИ может автоматизировать большую часть взаимодействия человека в цикле поверх необходимых технологий строительных блоков: размещения и маршрутизации, логического моделирования, моделирования цепей и т. д. Это позволяет нам исследовать более широкий — возможно, гораздо более широкий — диапазон вариантов, чем было бы возможно при ручном исследовании.

ИИ по своей сути является вероятностным, он идеален там, где уместны вероятностные ответы (обычно улучшаются по сравнению с базовым уровнем), но не там, где обязательна высокая точность (например, синтез вентилей). Более того, генеративные модели сегодня очень хороши в ограниченном наборе областей, не обязательно где-то еще. Например, они очень неэффективны в математических приложениях. Также важно помнить, что на самом деле они не учатся навыкам — они учатся подражать. Например, нет базового понимания электротехники, физики или математики. На практике некоторые ограничения можно компенсировать строгой проверкой.

Тем не менее, то, что они могут делать в языковых приложениях, просто поразительно. В других массивных наборах данных, специфичных для предметной области, например, в сетевых технологиях, большие модели могут изучать структуру и делать выводы о многих интересных вещах, не имеющих ничего общего с языком. Вы могли бы представить себе сверхлинейное обучение в некоторых областях, если бы обучение могло проводиться совместно с корпорациями по всему миру, при условии, что мы сможем справиться с трудными проблемами интеллектуальной собственности и конфиденциальности.

Могут ли генеративные методы способствовать развитию навыков?

В области проектирования полупроводников и систем мы сталкиваемся с серьезной нехваткой талантов. Участники дискуссии полагают, что ИИ поможет молодым и менее опытным инженерам быстрее достичь более опытного уровня производительности. Эксперты тоже станут лучше, у них будет больше времени для изучения и применения новых методов из постоянно расширяющихся границ исследований в области микроархитектуры и реализации. Это должно стать напоминанием о том, что методы, основанные на обучении, помогут получить знания, «которые знает каждый опытный дизайнер», но всегда будут отставать от экспертных.

Позволят ли такие инструменты создавать разные типы чипов? В ближайшем будущем ИИ поможет создавать более качественные чипы, а не новые типы чипов. Генеративные модели хороши с последовательностью шагов; Если вы повторяете один и тот же процесс проектирования много раз, ИИ может оптимизировать/автоматизировать эти последовательности лучше, чем мы. В дальнейшем генеративные методы могут помочь нам создавать новые виды микросхем ИИ, что может быть интересно, поскольку мы понимаем, что все больше и больше проблем можно преобразовать в проблемы ИИ.

Еще одна интересная область — проектирование нескольких кристаллов. Это новая область даже для экспертов в области дизайна. Сегодня мы думаем о блоках чиплетов с интерфейсами, созданных как заранее определенные детали Lego. Генеративный ИИ может предложить новые способы улучшения оптимизации, давая ответы, отличные от тех, которые могут быстро найти даже эксперты.

Ловушки

Каковы потенциальные подводные камни применения генеративного ИИ при проектировании чипов и/или систем? Мы сами представляем одну проблему. Если ИИ хорошо справляется со своей задачей, начинаете ли вы доверять ему больше, чем следовало бы? Подобные вопросы уже вызывают беспокойство в отношении автономного вождения и автономных дронов с вооружением. Доверие — это хрупкий баланс. Мы можем доверять, но проверять, но что тогда, если проверка также станет основанной на обучении, чтобы справиться со сложностью? Когда проверочный ИИ доказывает правильность созданного ИИ проекта, где мы пересекаем грань между оправданным и необоснованным доверием?

ChatGPT — предостерегающий пример. Великое очарование и большое заблуждение ChatGPT заключается в том, что вы можете спрашивать у него что угодно. Мы поражены его особой изобретательностью и тем фактом, что он охватывает так много разных областей. Такое ощущение, что проблема автоматического общего интеллекта решена.

Но почти все реальные приложения будут гораздо более узкими и будут оцениваться по другим критериям, чем способность удивлять или развлекать. В бизнесе, инженерии и других реальных приложениях мы ожидаем высокого качества результатов. Нет сомнений в том, что такие приложения будут постепенно совершенствоваться, но если шумиха слишком сильно опередит реальность, ожидания оправдаются, а доверие к дальнейшим достижениям пошатнется.

Если говорить более прагматично, можем ли мы интегрировать устоявшиеся точечные навыки в генеративные системы? Опять же, да и нет. Существуют некоторые расширенные модели, которые очень продуктивны и способны выполнять арифметические операции и манипуляции с формулами, например WolframAlpha, которая уже интегрирована с ChatGPT. WolframAlpha обеспечивает символическое и числовое рассуждение, дополняя ИИ. Думайте об искусственном интеллекте как о человеко-машинном интерфейсе, а о расширении WolframAlpha как о глубоком понимании этого интерфейса.

Можно ли обойти аугментацию, изучить и загрузить навыки непосредственно в ИИ в виде модулей, как Нео смог выучить Короля Фу в Матрице? Насколько локально представление таких навыков в языковых моделях? К сожалению, даже сейчас приобретенные навыки представлены в модели весами и являются глобальными. В этом случае загрузка обученного модуля в качестве расширения существующей обученной платформы невозможна.

Существует несколько связанный с этим вопрос о ценности обучения по всему миру по сравнению с обучением только внутри компании. Теоретически, если ChatGPT может так хорошо выполнять свою работу, обучаясь на глобальном наборе данных, то и инструменты проектирования должны быть способны делать то же самое. Эта теория терпит неудачу в двух отношениях. Во-первых, проектные данные, необходимые для обучения, являются строго конфиденциальными и ни при каких обстоятельствах не подлежат разглашению. Глобальное обучение также кажется ненужным; Компании EDA могут предоставить достойную отправную точку на основе примеров проектирования, которые обычно используются для совершенствования инструментов, не связанных с искусственным интеллектом. Клиенты, опираясь на эту базу и обучаясь с использованием собственных данных, сообщают о значительных улучшениях для своих целей.

Во-вторых, неясно, будет ли вообще полезно совместное обучение во многих несходных областях проектирования. Каждая компания хочет оптимизировать свою работу с учетом своих особых преимуществ, а не с помощью универсального супа из «лучших практик».

Надеюсь на повторное использование в ИИ и с нетерпением жду

Учитывая предыдущие ответы, застряли ли мы в использовании уникальных моделей для каждой узкой области? Неясно, может ли одна архитектура делать все, но открытые интерфейсы будут способствовать развитию экосистемы возможностей, возможно, подобно стеку протоколов. Приложения будут расходиться, но общей инфраструктуры по-прежнему будет много. Кроме того, если мы подумаем о приложениях, требующих последовательности обученных моделей, некоторые из этих моделей могут быть менее запатентованными, чем другие.

Заглядывая в будущее, генеративный ИИ — это быстро движущийся поезд. Новые идеи появляются ежемесячно, даже ежедневно, поэтому то, что невозможно сегодня, относительно скоро может стать возможным или решиться другим способом. В любой области по-прежнему существуют серьезные проблемы конфиденциальности, зависящие от обучения на обширных наборах данных. Доказать, что выученное поведение в таких случаях не будет нарушать патенты или коммерческую тайну, кажется очень сложной проблемой, которую, вероятно, лучше всего избегать, ограничивая такое обучение неконфиденциальными способностями.

Несмотря на все предостережения, в этой области нужно быть бесстрашным. Генеративный ИИ будет преобразующим. Мы должны научиться лучше использовать ИИ в нашей повседневной жизни. И, в свою очередь, применять полученные знания для более амбициозного использования в технологиях проектирования.

Отличный разговор. Обнадеживающий, с хорошим пониманием ограничений и практического применения.