Кто-нибудь действительно удивлен, что Apple разрабатывает искусственный интеллект на устройствах?

КОММЕНТАРИЙ Усилия Apple по добавлению генеративного искусственного интеллекта в свои iDevices не должны никого удивлять, но существующее использование этой технологии в Купертино и ограничения мобильного оборудования позволяют предположить, что в ближайшем будущем она не станет важной функцией iOS.

Apple не присоединилась к недавней волне поддержки генеративного искусственного интеллекта, даже в целом избегая терминов «ИИ» или «искусственный интеллект» в своих недавних основных презентациях по сравнению со многими компаниями. Тем не менее, машинное обучение было и продолжает оставаться ключевой возможностью для Apple – в основном на заднем плане, служащей тонким улучшениям пользовательского опыта.

Использование Apple искусственного интеллекта для обработки изображений — один из примеров технологии, работающей в фоновом режиме. Когда iThings снимает фотографии, алгоритмы машинного обучения идентифицируют и помечают объекты, выполняют оптическое распознавание символов и добавляют ссылки.

В 2024 году такого рода невидимый ИИ не поможет. Конкуренты Apple рекламируют генеративный искусственный интеллект как важную возможность для каждого устройства и приложения. Согласно недавнему Financial Times отчетуApple потихоньку покупает компании, занимающиеся искусственным интеллектом, и разрабатывает свои собственные большие языковые модели, чтобы обеспечить их эффективность.

Аппаратное преимущество Apple

Нейронные процессоры (NPU) в самодельном кремнии Apple управляют существующими реализациями искусственного интеллекта. Apple применяет ускорители, которые она называет «нейронными двигателями», с момента дебюта системы на кристалле A2017 в 11 году и использует их для обработки небольших рабочих нагрузок машинного обучения, чтобы освободить центральный и графический процессор устройства для других задач.

NPU Apple особенно мощны. A17 Pro найден в iPhone 15 Pro способен развивать мощность 35 TOPS, что вдвое больше, чем у его предшественника, и примерно вдвое больше некоторых NPU, которые Intel и AMD предлагают для использования в ПК.

Новейшие чипы Snapdragon от Qualcomm не уступают процессорам Apple по производительности NPU. Как и Apple, Qualcomm также имеет многолетний опыт работы с NPU в мобильных устройствах. AMD и Intel относительно новички в этой области.

Apple не поделилась производительностью с плавающей запятой или целочисленной производительностью для графического процессора чипа, хотя она рекламировала свое мастерство в запуске игр, таких как Resident Evil 4 Remake и Assassin's Creed Mirage. Это говорит о том, что вычислительная мощность не является ограничивающим фактором для запуска на платформе более крупных моделей ИИ.

Дополнительным подтверждением этого является тот факт, что процессоры Apple серии M, используемые в линейках Mac и iPad, оказались особенно эффективными для выполнения рабочих нагрузок вывода ИИ. В нашем тестировании при наличии достаточной памяти (у нас были проблемы с объемом менее 16 ГБ) Macbook Air M1 трехлетней давности был более чем способен работать с Llama 2 7B с 8-битной точностью и даже быстрее с 4-битной точностью. квантованная версия модели. Кстати, если вы хотите попробовать это на своем Mac M1, Оллама.ай делает запуск Llama 2 проще простого.

Apple, возможно, придется пойти на уступки в области аппаратного обеспечения, так это в отношении памяти.

Вообще говоря, моделям искусственного интеллекта требуется около гигабайта памяти для каждого миллиарда параметров при работе с 8-битной точностью. Это можно уменьшить вдвое либо за счет понижения точности, например Int-4, либо за счет разработки меньших квантованных моделей.

Llama 2 7B стал общепринятым ориентиром для ПК и смартфонов с искусственным интеллектом из-за относительно небольших размеров и требований к вычислениям при работе с небольшими партиями. Используя 4-битное квантование, требования модели можно сократить до 3.5 ГБ.

Но даже с 8 ГБ оперативной памяти на iPhone 15 Pro мы подозреваем, что следующему поколению телефонов Apple может потребоваться больше памяти, или модели должны будут быть меньше и более целенаправленными. Вероятно, это одна из причин, по которой Apple предпочитает разрабатывать свои собственные модели, а не использовать такие модели, как Stable Diffusion или Llama 2, для работы на Int-4, как мы видели на примере Qualcomm.

Есть также некоторые свидетельства того, что Apple, возможно, нашла способ обойти проблему с памятью. Как заметил Financial TimesЕще в декабре исследователи Apple опубликовали [PDF] документ, демонстрирующий возможность запуска LLM на устройстве с использованием флэш-памяти.

Ожидайте более консервативного подхода к ИИ

Когда Apple действительно представит функциональность искусственного интеллекта на своих настольных и мобильных платформах, мы ожидаем, что она примет относительно консервативный подход.

Превращение Siri во что-то, с чем, по мнению людей, не нужно разговаривать, как с ребенком дошкольного возраста, кажется очевидным началом. Это может означать, что LLM должен будет преобразовать вводимые данные в форму, которую Siri будет легче понять, чтобы бот мог давать более качественные ответы.

Siri будет легче запутаться, если вы сформулируете запрос окольными путями, что приведет к более эффективному ответу.

Теоретически это должно иметь несколько преимуществ. Во-первых, Apple должна иметь возможность использовать гораздо меньшую модель, чем что-то вроде Llama 2. Во-вторых, ей следует в значительной степени избежать проблемы, связанной с ошибочными ответами LLM.

Мы можем ошибаться, но у Apple есть опыт опозданий с внедрением новейших технологий, но затем достижения успеха там, где другие потерпели неудачу, тратя время на совершенствование и полировку функций до тех пор, пока они не станут действительно полезными.

И что бы это ни стоило, генеративный ИИ еще не доказал, что он является хитом: большая ставка Microsoft на чат-бот вдохнет жизнь в никому не любимую поисковую систему Bing не перевел в значительное увеличение доли рынка.

Тем временем Apple взяла на себя корону 2024 года. ведущий производитель смартфонов при этом используя только невидимый ИИ. ®

• SEO-контент и PR-распределение. Получите усиление сегодня.
• PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
• ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
• ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
• ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
• Источник: https://go.theregister.com/feed/www.theregister.com/2024/01/25/apple_generative_ai/