Как Edge IoT меняет отрасль

Отслеживание автопарка, отслеживание активов, автономные транспортные средства, автоматизация производства и складирование — все это области, в которых технологии чипов со встроенным искусственным интеллектом могут разгрузить сетевую нагрузку по передаче данных. Они могут делать это, предоставляя информацию в режиме реального времени.

Для активации многих из этих оперативных процессов требуется много данных. В то же время им нужны эти данные в режиме реального времени и в пути. Подобные процессы не получают такой большой выгоды от облачных вычислений, как другие процессы с интенсивным использованием данных, такие как обучение данных посредством машинного обучения. Вместо этого эти процессы получают наибольшую выгоду от периферийных вычислений, которые передают вычислительные, сетевые и другие ресурсы непосредственно на устройства и данные, которые в них нуждаются.

Активируя искусственный интеллект (нагрузка обработки AI0 на уровне системы-на-чипе (SOC), ИТ-отдел может расширить свои возможности по распределению и разгрузке нагрузки по обработке данных на различные уровни корпоративной архитектуры (например, облако, центральный Центр обработки данных или сама периферия). Это улучшает управление и обработку данных. Это также экономит полосу пропускания и ускоряет получение данных и результатов.

Встроенные микроконтроллеры SOC использовать более узкую память и энергопотребление чем требуется традиционным графическим процессорам (графическим процессорам), FPGA (программируемым пользователем вентильным матрицам) или другим типам интегральных схем (ИС).

«В ближайшие пять лет мы увидим, что искусственный интеллект на переднем крае станет обычным явлением», — сказал Стив Конвей, старший советник по исследованиям Hyperion, HPC Market Dynamics.

«ARM Atom, графический процессор и другие встроенные процессоры уже широко распространены в периферийных устройствах, таких как сотовые телефоны, датчики, автомобили, системы диагностической медицинской визуализации, игровые системы и многие другие устройства. Эти признанные встроенные процессоры, вероятно, станут основным средством поддержки методов искусственного интеллекта по мере того, как эти методы получат распространение», — сказал он.

Влияние периферийного Интернета вещей на отрасль

В 2011 году впервые появился термин «Производство 4.0». Он возник в результате стремления правительства Германии к компьютеризации производства и представил будущее видение цифровизации, автоматизации и искусственного интеллекта для фабричного производства. В этой схеме периферийные технологии могут облегчить принятие решений в месте возникновения проблемы или ситуации, где SOC со встроенным ИИ играют важную роль.

Сегодня это принятие решений в режиме реального времени реально. Производственные процессы основаны на решениях с поддержкой искусственного интеллекта на периферии. В будущем периферийный чип с поддержкой искусственного интеллекта сможет отправлять действенное предупреждение покупателям о нехватке сырья или предупреждать продавцов о возможности нехватки продукта, если будет обнаружен дефектный компонент.

Автоматизация Edge AI-чипов также меняет логистику.

Колонна грузовиков может обмениваться данными с помощью периферийной связи с малой задержкой, развернутой для экономии топлива и оптимизации маршрутов. В дальнейшем только один из этих грузовиков сможет иметь водителя-человека, а остальная часть колонны будет работать на автоматизации, управляемой SOC.

Это могло бы решить главную проблему грузоперевозок: нехватку квалифицированных водителей. «Это одна из причин, по которой в отрасль грузоперевозок приходит так много технологий», — сказала Шелли Симпсон, исполнительный вице-президент, главный коммерческий директор и президент дорожного сервиса JB Hunt Transport Services.

Скоропортящиеся товары также могут контролироваться интеллектуальными датчиками температуры и влажности в грузовом отсеке каждого грузовика.

Например, грузовик, перевозивший продукцию в Атланту, был перенаправлен на более близкий рынок в Вашингтоне, округ Колумбия. Изменение маршрута было заказано после того, как датчик внутри грузового отсека грузовика предупредил водителя и логистическую компанию об опасности порчи продукции из-за перегрева. Способность компании реагировать на информацию в режиме реального времени предотвратила порчу и сэкономила деньги. В пищевой промышленности это важно. Продовольственная и сельскохозяйственная группа ООН По оценкам, каждый год продовольствие теряется или выбрасывается на 1 триллион долларов..

Технология чипов с поддержкой искусственного интеллекта также меняет работу воздушных и наземных транспортных средств.

С логистическими проблемами сталкиваются военнослужащие, когда они наблюдают за опасной зоной и/или входят в нее. В прошлом рискованная работа по наблюдению могла потребовать от людей непосредственного осмотра территории, что подвергало персонал опасности и гибели людей.

Теперь с периферийная обработка ИИПарк беспилотных дронов осуществляет разведку и связь в режиме реального времени. Если дрон в эскадрилье сбит, флот обнаруживает проблему и корректирует свой строй для продолжения миссии. «Требовательные рабочие нагрузки, требующие обработки нескольких сенсорных входных данных, включая видео и аудио, могут начать выходить за рамки возможного, если они не поддерживаются специализированными чипами», — сказал Саураб Мишра, старший менеджер по управлению продуктами в подразделении IoT и Edge компании SAS. «Автономные дроны, роботизированное оружие и промышленная автоматизация — хорошие примеры того, как можно использовать эти чипы».

Геополитика и инновации

Тем не менее, компании обеспокоены геополитическими силами, действующими в сфере производства микросхем и полупроводников.

В 2019 году Huawei вошла в число ограниченный список США. Затем NVIDIA приобрела Arm, Ltd. в рамках сделки стоимостью 40 миллиардов долларов, в которой участвовали Google, Microsoft, Qualcomm, Apple, Intel, Samsung, Huawei и Amazon обеспокоен критическим поставщиком.

В 2019 году Intel приобрела стартап по производству AI-чипов. Habana Labs за 2 миллиарда долларови AMD приобрела Xiliinx за $35 млрд..

«Тенденция последних 50 лет заключалась в том, чтобы держать несвязанные с ней проблемы национальной безопасности в стороне от экономического анализа, определяющего антимонопольные решения. Однако там, где потенциальное антиконкурентное поведение также наносит ущерб национальной безопасности, нам не следует удивляться, если правительство США примет более агрессивный подход к правоприменению». написал Каллен О'Киф, научный сотрудник Центра управления искусственным интеллектом Оксфордского университета.

ИТ-отдел должен учитывать эти судебные иски и антимонопольные действия, когда он оправдывает и пытается «оправдать будущее» инвестиций в ИИ.

«Сегодня ИИ широко рассматривается как ключ к будущему экономическому лидерству, и в Китае, Японии и Европе действуют сильные инициативы, направленные на то, чтобы отказаться от зависимости от США и развивать местные переработчики», — сказал Конвей. «ИТ-отделы мало что могут сделать, чтобы повлиять на эти геополитические сражения, но они могут планировать обеспечение безопасности поставок необходимых им процессоров, особенно путем заключения долгосрочных контрактов с поставщиками с оговорками о штрафах и поддержания надлежащего уровня запасов».

Список дел ИТ

Переход к Интернету вещей меньшего форм-фактора заставит ИТ-специалистов сосредоточиться на трех ключевых областях:

ИТ архитектура. ИТ-архитектуру необходимо перестроить, чтобы она соответствовала бизнес-сценариям использования, которые компании хотят решить с помощью ИИ на уровне чипа. Как минимум, этот пересмотр архитектуры, скорее всего, приведет к созданию трех уровней архитектуры ИТ-технологий, обработки и данных: центр обработки данных, облако и периферия.

«Отправной точкой, конечно, является планирование и оптимизация сквозного процесса и использование этой информации для распределения соответствующих ресурсов на каждом этапе пути», — сказал Конвей, сославшись на работу PayPal.

«Полдюжины лет назад у PayPal возникла серьезная проблема с мошенничеством при транзакциях по кредитным картам», — сказал Конвей. «На выявление мошенничества уходило до двух недель, и к тому времени мошенничество уже часто затрагивало карты клиентов. Компания установила высокопроизводительный компьютер, который мог обнаружить и предотвратить мошенничество в момент его возникновения в течение 150 миллисекунд, сэкономив PayPal более 700 миллионов долларов за первый год или около того.

Приложение PayPal и других фирм использует встроенные процессоры в устройствах чтения карт, а также Интернет для процесса двусторонней авторизации и серверные системы с невстроенными процессорами для выполнения тяжелых операций, локально или в облаках».

ИТ-навыки. Только 47% респондентов опроса в отчете Microsoft IoT Signals Report за 2019 год считают, что на рынке есть люди с необходимыми навыками работы в сфере Интернета вещей. https://news.microsoft.com/2019/07/30/microsoft-announces-iot-signals-research-report-on-state-of-iot-adoption/.

«Наличие квалифицированных ресурсов для управления развертыванием моделей искусственного интеллекта на чипах останется проблемой», — сказал Саураб Мишра, старший менеджер по управлению продуктами в подразделении IoT и Edge компании SAS. «Компании также должны признать, что

Edge AI-чипы — это не панацея. Они работают в контексте более крупной системы. При развертывании чипов со встроенным искусственным интеллектом крайне важно учитывать весь конвейер, поскольку слабое звено восходящего или нисходящего потока может свести на нет их целевое усиление».

Коммерческие стеки программного и аппаратного обеспечения Интернета вещей могут помочь решить проблемы интеграции конвейеров, но обработка по-прежнему должна определяться на каждом уровне ИТ-специалистами. Это включает в себя построение моделей и программирование SOC.

Управление инвестициями. Консолидации, судебные иски по антимонопольному законодательству и защите интеллектуальной собственности будут продолжать разгораться в сфере ИИ/чипов, как и в других областях ИТ.

Хорошей новостью является то, что корпоративным ИТ-отделам это не чуждо.

Выбор широко распространенного стека IOT-решения с большой базой пользователей — это одна из форм готовности к будущему, а также гарантия того, что используемый вами Интернет вещей соответствует общим стандартам безопасности и API. Вторая стратегия — это переговоры с поставщиками IoT об ответственности и защите инвестиций, которые вы определяете в своих контрактах.

Наконец, чипы с поддержкой искусственного интеллекта должны приносить бизнес-результаты.

«Влияние периферийного Интернета вещей на ИТ-архитектуру будет сводиться к сценариям использования, которые ИТ-специалистам придется реализовать, где ИИ предлагает возможность предварительной обработки информации в реальном времени и передачи только актуальных и полезных данных», — сказал Мурали Гопалакришна, руководитель менеджер по управлению продуктами для автономных машин и генеральный менеджер по робототехнике в NVIDIA.

«Автоматизированный процесс проверки ИИ на заводе будет использовать информацию в режиме реального времени для принятия решений за доли секунды на периферии, одновременно передавая соответствующие данные в серверные системы для постобработки, аналитики и внеполосной разработки новых моделей на периферию IoT. основанные решения».

Приложения могут обнаруживать пассажиров в масках или подсчитывать количество пассажиров. количество людей, входящих и выходящих из помещения путем создания тепловых карт, чтобы гарантировать, что пределы занятости не превышены. По словам Гопалакришны, с появлением дополнительных датчиков, камер и автоматизации в IoT и на периферии ИИ станет более актуальным для ИТ-менеджеров и архитектуры инфраструктуры.