КОММЕНТАРИЙ Усилия Apple по добавлению генеративного искусственного интеллекта в свои iDevices не должны никого удивлять, но существующее использование этой технологии в Купертино и ограничения мобильного оборудования позволяют предположить, что в ближайшем будущем она не станет важной функцией iOS.
Apple не присоединилась к недавней волне поддержки генеративного искусственного интеллекта, даже в целом избегая терминов «ИИ» или «искусственный интеллект» в своих недавних основных презентациях по сравнению со многими компаниями. Тем не менее, машинное обучение было и продолжает оставаться ключевой возможностью для Apple – в основном на заднем плане, служащей тонким улучшениям пользовательского опыта.
Использование Apple искусственного интеллекта для обработки изображений — один из примеров технологии, работающей в фоновом режиме. Когда iThings снимает фотографии, алгоритмы машинного обучения идентифицируют и помечают объекты, выполняют оптическое распознавание символов и добавляют ссылки.
В 2024 году такого рода невидимый ИИ не поможет. Конкуренты Apple рекламируют генеративный искусственный интеллект как важную возможность для каждого устройства и приложения. Согласно недавнему Financial Times отчетуApple потихоньку покупает компании, занимающиеся искусственным интеллектом, и разрабатывает свои собственные большие языковые модели, чтобы обеспечить их эффективность.
Аппаратное преимущество Apple
Нейронные процессоры (NPU) в самодельном кремнии Apple управляют существующими реализациями искусственного интеллекта. Apple применяет ускорители, которые она называет «нейронными двигателями», с момента дебюта системы на кристалле A2017 в 11 году и использует их для обработки небольших рабочих нагрузок машинного обучения, чтобы освободить центральный и графический процессор устройства для других задач.
NPU Apple особенно мощны. A17 Pro найден в iPhone 15 Pro способен развивать мощность 35 TOPS, что вдвое больше, чем у его предшественника, и примерно вдвое больше некоторых NPU, которые Intel и AMD предлагают для использования в ПК.
Новейшие чипы Snapdragon от Qualcomm не уступают процессорам Apple по производительности NPU. Как и Apple, Qualcomm также имеет многолетний опыт работы с NPU в мобильных устройствах. AMD и Intel относительно новички в этой области.
Apple не поделилась производительностью с плавающей запятой или целочисленной производительностью для графического процессора чипа, хотя она рекламировала свое мастерство в запуске игр, таких как Resident Evil 4 Remake и Assassin's Creed Mirage. Это говорит о том, что вычислительная мощность не является ограничивающим фактором для запуска на платформе более крупных моделей ИИ.
Дополнительным подтверждением этого является тот факт, что процессоры Apple серии M, используемые в линейках Mac и iPad, оказались особенно эффективными для выполнения рабочих нагрузок вывода ИИ. В нашем тестировании при наличии достаточной памяти (у нас были проблемы с объемом менее 16 ГБ) Macbook Air M1 трехлетней давности был более чем способен работать с Llama 2 7B с 8-битной точностью и даже быстрее с 4-битной точностью. квантованная версия модели. Кстати, если вы хотите попробовать это на своем Mac M1, Оллама.ай делает запуск Llama 2 проще простого.
Apple, возможно, придется пойти на уступки в области аппаратного обеспечения, так это в отношении памяти.
Вообще говоря, моделям искусственного интеллекта требуется около гигабайта памяти для каждого миллиарда параметров при работе с 8-битной точностью. Это можно уменьшить вдвое либо за счет понижения точности, например Int-4, либо за счет разработки меньших квантованных моделей.
Llama 2 7B стал общепринятым ориентиром для ПК и смартфонов с искусственным интеллектом из-за относительно небольших размеров и требований к вычислениям при работе с небольшими партиями. Используя 4-битное квантование, требования модели можно сократить до 3.5 ГБ.
Но даже с 8 ГБ оперативной памяти на iPhone 15 Pro мы подозреваем, что следующему поколению телефонов Apple может потребоваться больше памяти, или модели должны будут быть меньше и более целенаправленными. Вероятно, это одна из причин, по которой Apple предпочитает разрабатывать свои собственные модели, а не использовать такие модели, как Stable Diffusion или Llama 2, для работы на Int-4, как мы видели на примере Qualcomm.
Есть также некоторые свидетельства того, что Apple, возможно, нашла способ обойти проблему с памятью. Как заметил Financial TimesЕще в декабре исследователи Apple опубликовали [PDF] документ, демонстрирующий возможность запуска LLM на устройстве с использованием флэш-памяти.
Ожидайте более консервативного подхода к ИИ
Когда Apple действительно представит функциональность искусственного интеллекта на своих настольных и мобильных платформах, мы ожидаем, что она примет относительно консервативный подход.
Превращение Siri во что-то, с чем, по мнению людей, не нужно разговаривать, как с ребенком дошкольного возраста, кажется очевидным началом. Это может означать, что LLM должен будет преобразовать вводимые данные в форму, которую Siri будет легче понять, чтобы бот мог давать более качественные ответы.
Siri будет легче запутаться, если вы сформулируете запрос окольными путями, что приведет к более эффективному ответу.
Теоретически это должно иметь несколько преимуществ. Во-первых, Apple должна иметь возможность использовать гораздо меньшую модель, чем что-то вроде Llama 2. Во-вторых, ей следует в значительной степени избежать проблемы, связанной с ошибочными ответами LLM.
Мы можем ошибаться, но у Apple есть опыт опозданий с внедрением новейших технологий, но затем достижения успеха там, где другие потерпели неудачу, тратя время на совершенствование и полировку функций до тех пор, пока они не станут действительно полезными.
И что бы это ни стоило, генеративный ИИ еще не доказал, что он является хитом: большая ставка Microsoft на чат-бот вдохнет жизнь в никому не любимую поисковую систему Bing не перевел в значительное увеличение доли рынка.
Тем временем Apple взяла на себя корону 2024 года. ведущий производитель смартфонов при этом используя только невидимый ИИ. ®
- SEO-контент и PR-распределение. Получите усиление сегодня.
- PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
- ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
- ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
- ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
- Источник: https://go.theregister.com/feed/www.theregister.com/2024/01/25/apple_generative_ai/
- :имеет
- :является
- :нет
- :куда
- $UP
- 15%
- 2024
- 35%
- 8
- a
- способность
- в состоянии
- О нас
- ускорители
- По
- на самом деле
- Добавить
- добавить
- AI
- AI модели
- AIR
- алгоритмы
- причислены
- Несмотря на то, что
- AMD
- an
- и
- ответы
- кто угодно
- Apple
- Применение
- подхода
- МЫ
- около
- искусственный
- искусственный интеллект
- AS
- убийца
- At
- избежать
- избегающий
- прочь
- назад
- фон
- BE
- становиться
- было
- не являетесь
- Преимущества
- Ставка
- Лучшая
- большой
- больший
- миллиард
- Bing
- Бот
- ДЫШАТЬ
- бизнес
- но
- покупка
- by
- CAN
- возможности
- способный
- захватить
- персонаж
- распознавание символов
- Chatbot
- ребенок
- чип
- чипсы
- CO
- Общий
- Компании
- сравненный
- вычисление
- вычислительный
- вычислительная мощность
- уступки
- спутанный
- консервативный
- ограничения
- продолжается
- может
- Пара
- ЦП
- Корона
- Порез
- дебют
- Декабрь
- доставить
- демонстрирующий
- развертывание
- компьютера
- развивать
- развивающийся
- устройство
- Устройства
- Вещание
- приносит
- не
- дело
- Дон
- двойной
- Опустившись
- два
- легко
- Эффективный
- усилия
- или
- занятых
- Двигатель
- обеспечивать
- существенный
- Даже
- Каждая
- , поскольку большинство сенаторов
- пример
- существующий
- опыт
- факт
- фактор
- Oшибка
- Избранное
- Особенность
- Особенности
- чувствовать
- поле
- обнаружение
- First
- Flash
- плавающий
- след
- Что касается
- принудительный
- форма
- найденный
- Бесплатно
- от
- FT
- функциональность
- будущее
- Игры
- Gen
- в общем
- генеративный
- Генеративный ИИ
- получить
- данный
- Отдаете
- Go
- GPU / ГРАФИЧЕСКИЙ ПРОЦЕССОР
- вдвое
- обрабатывать
- Аппаратные средства
- Есть
- Удар
- HTTPS
- определения
- if
- изображений
- осуществлять
- реализации
- улучшение
- in
- Увеличение
- вход
- Intel
- Интеллекта
- в
- вводить
- невидимый
- iOS
- IPad
- iPhone
- мобильной
- вопрос
- IT
- ЕГО
- работа
- присоединился
- JPG
- Основные
- Ключевые заметки
- Основные презентации
- этикетка
- язык
- большой
- в значительной степени
- Поздно
- последний
- изучение
- Меньше
- ЖИЗНЬЮ
- такое как
- Вероятно
- линий
- связи
- Лама
- ниже
- макинтош
- MacBook
- машина
- обучение с помощью машины
- основной
- сделать
- ДЕЛАЕТ
- многих
- рынок
- доля рынка
- Май..
- значить
- Между тем
- Память
- Microsoft
- небольшая
- Мираж
- Мобильный телефон
- мобильных устройств
- модель
- Модели
- БОЛЕЕ
- в основном
- много
- Возле
- Необходимость
- потребности
- Новые
- следующий
- следующего поколения
- нет
- сейчас
- Очевидный
- of
- предлагают
- on
- ONE
- только
- оптическое распознавание символов
- or
- Другое
- Другое
- наши
- собственный
- бумага & картон
- параметры
- особенно
- ПК
- производительность
- телефоны
- Фото
- Часть
- Платформа
- Платформы
- Платон
- Платон Интеллектуальные данные
- ПлатонДанные
- Точка
- Польский
- мощный
- мощностью
- мощный
- Точность
- предшественник
- Presentations
- Pro
- Проблема
- обработка
- производства
- Доказывать
- доказанный
- доблесть
- опубликованный
- Нажимать
- Qualcomm
- тихо
- Оперативная память
- скорее
- на самом деле
- причины
- последний
- признание
- запись
- ссылка
- совершенствовать
- относительно
- Требования
- исследователи
- Resident Evil 4
- ответы
- в результате
- правую
- соперников
- Run
- Бег
- s
- Поиск
- Поисковая система
- Во-вторых
- кажется
- видел
- обслуживание
- Поделиться
- общие
- должен
- кремний
- с
- краб
- Размеры
- небольшой
- меньше
- смартфон
- смартфоны
- Львиный зев
- So
- некоторые
- удалось
- Говоря
- говорят
- стабильный
- Начало
- успех
- предлагать
- Предлагает
- поддержки
- сюрприз
- удивлен
- T
- TAG
- взять
- с
- целевое
- технологии
- технологии
- Технологии
- terms
- Тестирование
- чем
- который
- Ассоциация
- Их
- тогда
- теория
- Там.
- они
- этой
- время
- в
- приняли
- Топы
- расхваливали
- трек
- беда
- стараться
- понимать
- единиц
- до
- использование
- используемый
- полезный
- Информация о пользователе
- Пользовательский опыт
- использования
- через
- Ve
- версия
- хотеть
- законопроект
- Wave
- Путь..
- we
- Что
- когда
- который
- в то время как
- будете
- Работа
- стоимость
- Неправильно
- лет
- еще
- являетесь
- ВАШЕ
- зефирнет