Вибір платформи Achronix для ШІ на межі

Колін Александер (директор з маркетингу продуктів Achronix) нещодавно випустив вебінар на цю тему. Вебінар, який триває лише 20 хвилин, є легким для перегляду та корисним оновленням щодо трафіку даних і варіантів реалізації. Серед завантажень все ще переважає відео (понад 50% для Facebook), яке тепер значною мірою залежить від кешування на краю або близько до нього. Який із них застосовний, залежить від вашого визначення «краю». Світ IoT розглядає себе як межу, хмара та світ інфраструктури, очевидно, розглядають останній обчислювальний вузол в інфраструктурі, перед цими кінцевими пристроями, як край. Картопля, картопля. У будь-якому випадку, перегляд інфраструктури краю — це місце, де ви знайдете кешування відео, щоб обслуговувати найпопулярніші завантаження якомога ефективніше та якомога швидше.

Параметри обчислень на межі (і в хмарі)

Спочатку Колін говорить про перевагу інфраструктури, де потрібна певна потужність для обчислень і ШІ. Він представляє стандартні варіанти: CPU, GPU, ASIC або FPGA. Рішення на основі процесора має найбільшу гнучкість, оскільки ваше рішення буде повністю засноване на програмному забезпеченні. З тієї ж причини, як правило, це буде найповільніший, найбільш енергоємний варіант із найдовшою затримкою (я припускаю, для зворотного зв’язку до кінцевих вузлів). Графічні процесори дещо кращі за продуктивністю та потужністю з трохи меншою гнучкістю, ніж центральні процесори. ASIC (нестандартне обладнання) буде найшвидшим, матиме найменшу потужність і найнижчу затримку, хоча в концепції найменш гнучко (усі розумні засоби знаходяться в апаратному забезпеченні, яке не можна змінити).

Він представляє FPGA (або вбудовану FPGA/eFPGA) як хороший компроміс між цими крайнощами. Кращий за продуктивністю, потужністю та затримкою, ніж ЦП або ГП, і десь середній за ЦП і ГП за гнучкістю. Хоча гнучкість набагато краща, ніж ASIC, оскільки FPGA можна перепрограмувати. Що для мене має сенс, хоча я вважаю, що історія мала бути завершена додаванням DSP до лінійки платформ. Вони можуть мати специфічні апаратні переваги штучного інтелекту (векторизація, масиви MAC тощо), що покращує продуктивність, потужність і затримку. Зберігаючи гнучкість програмного забезпечення. Інший важливий момент — вартість. Звичайно, це завжди делікатна тема, але процесори, графічні процесори та пристрої FPGA, що підтримують ШІ, можуть бути дорогими, що викликає занепокоєння щодо переліку матеріалів крайового вузла.

Аргумент Коліна має для мене найбільший сенс щодо eFPGA, вбудованого у більший SoC. У хмарних програмах обмеження інші. Розумна мережева інтерфейсна плата, ймовірно, не настільки чутлива до ціни, і рішення на основі FPGA може мати перевагу в продуктивності порівняно з рішенням на основі програмного забезпечення.

Підтримка додатків ШІ на межі обчислень через eFPGA виглядає як варіант, який варто дослідити далі. Далі до вузлів листя для мене нечітко. Логістичний трекер або датчик вологості ґрунту напевно не забезпечать значних обчислень, але як щодо пульта дистанційного керування телевізором із голосовою активацією? Або розумна мікрохвильова піч? Обидва потребують штучного інтелекту, але жодному не потрібно багато кінських сил. Мікрохвильова піч має дротове живлення, але пульт дистанційного керування телевізором або дистанційна розумна колонка працюють від батарейок. Було б цікаво дізнатися про компроміси eFPGA.

Можливості eFPGA для ШІ

Відповідно до таблиці даних, Speedster 7t пропонує повністю розривні цілі MAC, гнучку плаваючу кому, вбудовану підтримку bfloat і ефективне множення матриці. Я не міг знайти жодних даних щодо TOPS або TOPS/Watt. Я впевнений, що це залежить від реалізації, але приклади будуть корисними. Навіть на межі деякі програми дуже чутливі до продуктивності – наприклад, інтелектуальне спостереження та виявлення спрямованих вперед об’єктів в автомобілях. Було б цікаво дізнатися, де eFPGA може підійти до таких програм.

Вебінар, що спонукає до роздумів. Ви можете дивитися це ТУТ.

Поділитися цим дописом через:

• Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
• Платоблокчейн. Web3 Metaverse Intelligence. Розширені знання. Доступ тут.
• джерело: https://semiwiki.com/efpga/323785-achronix-on-platform-selection-for-ai-at-the-edge/