Як Edge IoT переробляє галузь

Відстеження автопарку, відстеження активів, автономні транспортні засоби, автоматизація виробництва та складування – це всі сфери, у яких технології штучного інтелекту, вбудовані в мікросхеми, можуть розвантажити мережеве навантаження, що передає дані. Вони можуть робити це, надаючи першу інформацію в режимі реального часу.

Багато з цих процесів, що працюють на ходу, потребують великої кількості даних для активації. У той же час їм потрібні ці дані в режимі реального часу та в дорозі, щоб мати місце. Ці види процесів не отримують такої користі від хмарних обчислень, як інші процеси, що інтенсивно працюють з даними, наприклад навчання даних за допомогою машинного навчання. Натомість ці процеси отримують найбільшу користь від периферійних обчислень, які передають обчислювальні, мережеві та інші ресурси безпосередньо до пристроїв і даних, які їх потребують.

Активуючи штучний інтелект (обробка навантажень AI0 на рівні системи-на-чіпі (SOC), ІТ може розширити свої можливості для розподілу та розвантаження навантажень обробки даних на різні рівні корпоративної архітектури (наприклад, хмара, центральна це покращує керування даними та обробку даних, а також прискорює передачу даних і результати.

Вбудовані мікроконтролери SOC використовуйте менший обсяг пам'яті та споживання енергії ніж те, що вимагається традиційними GPU (графічними процесорами), FPGA (програмованими вентильними матрицями) або іншими типами інтегральних схем (IC).

«Ми побачимо, як штучний інтелект на межі стане звичним явищем протягом наступних п’яти років», — сказав Стів Конвей, старший радник з досліджень Hyperion HPC Market Dynamics.

«ARM Atom, GPU та інші вбудовані процесори вже поширені в периферійних пристроях, таких як стільникові телефони, датчики, автомобілі, діагностичні медичні системи візуалізації, ігрові системи та багато інших пристроїв. Ці встановлені вбудовані процесори, швидше за все, стануть основними для підтримки методів штучного інтелекту, коли ці методи отримають поширення», – сказав він.

Вплив Edge IoT на галузь

У 2011 році вперше з’явився термін «Виробництво 4.0». Вона виникла внаслідок прагнення уряду Німеччини комп’ютеризувати виробництво та представила майбутнє бачення цифровізації, автоматизації та штучного інтелекту для заводського виробництва. У схемі периферійна технологія може сприяти прийняттю рішень у центрі проблеми чи ситуації, де вбудовані ШІ SOC відіграють важливу роль.

Сьогодні це прийняття рішень у режимі реального часу є реальним. Виробничі процеси забезпечуються рішеннями з підтримкою ШІ. У майбутньому периферійний чіп із підтримкою штучного інтелекту може надсилати відповідне сповіщення закупівлям про брак сировини або сповіщати відділ продажів про можливість браку продукту, якщо буде виявлено дефіцитний компонент.

Автоматизація чіпів Edge AI також трансформує логістику.

Колона вантажівок може перехресно спілкуватися за допомогою граничних комунікацій із низькою затримкою, які розгорнуті для економії пального та оптимізації маршрутів. У майбутньому лише одна з цих вантажівок зможе мати людину-водія, а решта колони працюватиме на автоматизованій системі SOC.

Це могло б вирішити головну проблему галузі вантажних перевезень: нестачу кваліфікованих водіїв. «Це одна з причин, чому ви бачите так багато технологій, які надходять у галузь вантажних перевезень», — сказала Шеллі Сімпсон, виконавчий віце-президент, головний комерційний директор і президент відділу дорожніх послуг JB Hunt Transport Services,

Швидкопсувні товари також можуть контролюватися інтелектуальними датчиками температури та вологості у вантажному відділенні кожної вантажівки.

Наприклад, вантажівка, що перевозила продукцію до Атланти, була перенаправлена ​​на найближчий ринок у Вашингтоні, округ Колумбія. Змінити маршрут було наказано після того, як датчик усередині вантажного відділення вантажівки попередив водія та логістичну компанію про небезпеку псування продуктів через перегрів. Здатність компанії оперативно реагувати на інформацію запобігла псування та заощадила гроші. У харчовій промисловості це головне. Продовольча та сільськогосподарська група ООН За оцінками, щороку втрачається або витрачається їжа на 1 трильйон доларів.

Технологія мікросхем із підтримкою штучного інтелекту також змінює роботу бортових і наземних транспортних засобів.

З матеріально-технічними проблемами стикається військовий персонал, коли він спостерігає за небезпечною зоною та/або потрапляє в неї. У минулому ризикова робота зі спостереження могла вимагати від людей оглядати територію з перших вуст, піддаючи персонал небезпеці та втраті життя.

Тепер з обробка краю ШІ, флот безпілотних дронів проводить розвідку та спілкується між собою в режимі реального часу. Якщо безпілотник в ескадрильї збитий, флот виявляє проблему та коригує свій склад для продовження місії. «Вимогливі робочі навантаження, які вимагають обробки кількох сенсорних вхідних даних, включаючи відео та аудіо, можуть почати розширювати межі, якщо вони не підтримуються спеціальними чіпами», — сказав Саураб Мішра, старший менеджер з управління продуктами у відділі IoT та Edge SAS. «Автономні дрони, роботизована зброя та промислова автоматизація — усе це гарні приклади того, як можна використовувати ці чіпи».

Геополітика та інновації

Тим не менш, компанії хвилюються через геополітичні сили, які діють у промисловості мікросхем і напівпровідників.

У 2019 році Huawei була розміщена на Заборонений список США. Після цього NVIDIA придбала компанію Arm, Ltd в рамках угоди на 40 мільярдів доларів, у якій брали участь Google, Microsoft, Qualcomm, Apple, Intel, Samsung, Huawei та Amazon стурбований критичним постачальником.

У 2019 році Intel придбала стартап із штучним інтелектом Habana Labs за 2 мільярди доларів, і AMD придбала Xiliinx за 35 мільярдів доларів.

«Тенденція останніх 50 років полягала в тому, щоб не пов’язані з цим проблеми національної безпеки залишалися поза увагою економічного аналізу, що керує антимонопольними рішеннями. Однак там, де потенційна антиконкурентна поведінка також завдає шкоди національній безпеці, ми не повинні дивуватися, якщо Уряд США застосує більш агресивний підхід до примусу», – написав Каллен О’Кіф, науковий співробітник Центру управління штучним інтелектом Оксфордського університету.

ІТ-спеціалісти повинні розглядати ці судові позови та антимонопольні дії, коли вони виправдовують і намагаються «забезпечити майбутні» інвестиції в ШІ.

«Сьогодні штучний інтелект багато хто розглядає як ключ до майбутнього економічного лідерства, і в Китаї, Японії та Європі є сильні ініціативи, спрямовані на те, щоб відмовитися від залежності від США та розвивати місцеві процесори», — сказав Конвей. «ІТ-відділи не можуть багато чого зробити, щоб вплинути на ці геополітичні баталії, але вони можуть спланувати, щоб забезпечити безпеку поставок необхідних їм процесорів, особливо шляхом укладення довгострокових контрактів з постачальниками із штрафними застереженнями та підтримки належного рівня запасів».

Це список справ

Перехід до IoT меншого форм-фактора змусить ІТ зосередитися на трьох ключових сферах:

ІТ-архітектура. ІТ-архітектура має бути налаштована відповідно до бізнес-випадків, які компанії хочуть вирішувати за допомогою ШІ на рівні чіпа. Цей перегляд архітектури, швидше за все, призведе до трьох рівнів ІТ-технологій, обробки та архітектури даних: центр обробки даних, хмара та край.

«Відправною точкою, звичайно, є планування та оптимізація наскрізного процесу та використання цієї інформації для призначення відповідних ресурсів у кожній точці шляху», — сказав Конвей, який посилався на роботу PayPal.

«Півдюжини років тому у PayPal була серйозна проблема з шахрайством під час операцій з кредитними картками», — сказав Конвей. «Виявлення шахрайства займало до двох тижнів, і до того часу шахрайство часто потрапляло на картки клієнтів. Компанія встановила високопродуктивний комп’ютер, який міг виявляти та запобігати шахрайству, коли це відбувалося, протягом 150 мілісекунд, що заощадило PayPal понад 700 мільйонів доларів за перший рік або близько того.

Додаток у PayPal та інших компаніях покладається на вбудовані процесори в пристрої для зчитування карток разом із Інтернетом для процесу авторизації в обидві сторони та серверні системи з невбудованими процесорами для важкої роботи, локально або в хмарах».

ІТ-навички. Лише 47% респондентів у звіті Microsoft IoT Signals Report за 2019 рік вважали, що на ринку є люди з необхідними професійними навичками IoT https://news.microsoft.com/2019/07/30/microsoft-announces-iot-signals-research-report-on-state-of-iot-adoption/.

«Наявність кваліфікованих ресурсів для керування розгортанням моделей штучного інтелекту на чіпах залишатиметься проблемою», — сказав Саураб Мішра, старший менеджер із управління продуктами у відділі IoT та Edge SAS. «Компанії також повинні це визнати

мікросхеми штучного інтелекту edge — це не срібна куля. Вони працюють у контексті більшої системи. Дуже важливо думати про повний конвеєр під час розгортання чіпів із вбудованим штучним інтелектом, оскільки слабка ланка вгорі чи внизу може звести нанівець цільове прискорення».

Комерційне програмне забезпечення та апаратні пакети IoT можуть допомогти вирішити проблеми конвеєрної інтеграції, але обробка все одно повинна визначатися на кожному рівні ІТ. Це включає створення моделей і програмування SOC.

Управління інвестиціями. Консолідація, антимонопольні позови та позови щодо інтелектуальної власності продовжуватимуть відбуватися в сфері ШІ/чипів, як це було в інших сферах ІТ.

Хороша новина полягає в тому, що корпоративним ІТ-відділам це не чуже.

Вибір загальноприйнятого стекового рішення IOT із великою базою користувачів є однією з форм підготовки до майбутнього, а також забезпечення того, що IoT, який ви використовуєте, відповідає загальним стандартам безпеки та API. Друга стратегія полягає в переговорах з постачальниками IoT щодо відповідальності та захисту інвестицій, які ви визначаєте у своїх контрактах.

Нарешті, чіпи з підтримкою штучного інтелекту повинні забезпечувати бізнес-результати.

«Вплив периферійного IoT на ІТ-архітектуру зводитиметься до варіантів використання, які ІТ просять реалізувати, де ШІ пропонує можливість попередньо обробляти інформацію в режимі реального часу та передавати лише релевантні та корисні дані», — сказав Муралі Гопалакрішна, керівник управління продуктами для автономних машин і генеральний менеджер з робототехніки в NVIDIA.

«Автоматизований процес інспекції штучного інтелекту на заводі використовуватиме інформацію в режимі реального часу для прийняття рішень за частки секунди на межі, одночасно передаючи релевантні дані до внутрішніх систем для постобробки, аналітики та розробки нових моделей поза межами мережі Інтернету речей. засновані рішення».

Програми можуть виявляти пасажирів у масках або рахувати кількість людей, які входять і виходять з приміщення шляхом створення теплових карт, щоб гарантувати, що ліміти заповнюваності не перевищуються. А з додатковими датчиками, камерами та автоматизацією, які відбуваються в IoT та на периферії, ШІ стане більш актуальним для ІТ-менеджерів та архітектури інфраструктури, сказав Гопалакрішна.