Hoe Edge IoT de industrie opnieuw vormgeeft

Het volgen van wagenparken, het volgen van activa, autonome voertuigen, productieautomatisering en warehousing zijn allemaal gebieden waarop in kunstmatige intelligentie ingebedde chiptechnologieën de lading van netwerkgegevens kunnen ontlasten. Ze kunnen dit doen terwijl ze realtime informatie in de frontlinie verstrekken.

Voor veel van deze processen onderweg zijn veel gegevens nodig om te worden geactiveerd. Tegelijkertijd hebben ze deze gegevens in realtime en onderweg nodig om te kunnen plaatsvinden. Dit soort processen profiteren niet zo veel van cloud computing als andere data-intensieve processen, zoals het trainen van gegevens via machinaal leren. In plaats daarvan profiteren deze processen het meest van edge computing, waardoor rekenkracht, netwerken en andere bronnen rechtstreeks naar de apparaten en gegevens worden gebracht die deze nodig hebben.

Door kunstmatige intelligentie te activeren (AI0-verwerkingsbelastingen op het niveau van een systeem-op-een-chip (SOC), kan IT zijn mogelijkheden uitbreiden voor het distribueren en overbrengen van gegevensverwerkingsbelastingen naar verschillende lagen van de bedrijfsarchitectuur (bijvoorbeeld de cloud, een centrale datacenter of de rand zelf). Dit verbetert het gegevensbeheer en de verwerking ervan. Het bespaart ook bandbreedte en versnelt gegevens en resultaten.

SOC-ingebedde microcontrollers gebruik een kleiner geheugen en energieverbruik dan vereist door traditionele GPU's (grafische verwerkingseenheden), FPGA's (field-programmable gate arrays) of andere typen geïntegreerde schakelingen (IC's).

“We zullen zien dat AI aan de rand de komende vijf jaar gemeengoed zal worden”, zegt Steve Conway, senior research adviseur bij Hyperion, HPC Market Dynamics.

“ARM Atom, GPU en andere ingebedde processors zijn al gebruikelijk in edge-apparaten zoals mobiele telefoons, sensoren, auto's, diagnostische medische beeldvormingssystemen, spelsystemen en vele andere apparaten. Deze gevestigde embedded processors zullen waarschijnlijk de mainstream worden voor het ondersteunen van AI-methoden naarmate deze methoden terrein winnen”, zei hij.

De industriële impact van Edge IoT

In 2011 verscheen de term ‘Manufacturing 4.0’ voor het eerst. Het kwam voort uit het streven van de Duitse overheid om de productie te automatiseren en introduceerde een toekomstvisie op digitalisering, automatisering en kunstmatige intelligentie voor de fabrieksproductie. In het plan zou edge-technologie beslissingen kunnen vergemakkelijken op de plaats van een probleem of situatie, waarbij in AI ingebedde SOC’s een belangrijke rol spelen.

Vandaag dit realtime edge-besluitvorming is reëel. Productieprocessen worden aangedreven door AI-gestuurde beslissingen aan de edge. In de toekomst zou een AI-compatibele edge-chip een actiegerichte waarschuwing naar de inkoop kunnen sturen over een tekort aan grondstoffen, of de verkoop kunnen waarschuwen over de mogelijkheid van een producttekort als er een defect onderdeel wordt gevonden.

Edge AI-chipautomatisering transformeert ook de logistiek.

Een vrachtwagenkonvooi kan communiceren met edge-communicatie met lage latentie die wordt ingezet om brandstof te besparen en routes te optimaliseren. In de toekomst zal het mogelijk zijn dat slechts één van deze vrachtwagens een menselijke chauffeur heeft, terwijl de rest van het konvooi op SOC-gestuurde automatisering rijdt.

Dit zou een groot probleem in de vrachtwagensector kunnen oplossen: het tekort aan gekwalificeerde chauffeurs. “Dit is een van de redenen waarom je zoveel technologie ziet binnenkomen in de vrachtwagenindustrie”, zegt Shelley Simpson, executive vice president, chief commercial officer en president van snelwegdiensten bij JB Hunt Transport Services.

Bederfelijke goederen kunnen ook worden gemonitord door intelligente sensoren in de laadruimte van elke vrachtwagen op temperatuur en vochtigheid.

Een vrachtwagen die producten naar Atlanta vervoerde, werd bijvoorbeeld omgeleid naar de meer nabijgelegen markt in Washington, DC. De omleiding werd bevolen nadat een sensor in de laadruimte van de vrachtwagen de chauffeur en het logistieke bedrijf had gewaarschuwd voor het gevaar van productbederf door oververhitting. Het vermogen van het bedrijf om in realtime op de informatie te reageren, voorkwam bederf en bespaarde geld. In de voedingsindustrie is dat een groot probleem. De Voedsel- en Landbouwgroep van de Verenigde Naties schat dat jaarlijks 1 biljoen dollar aan voedsel verloren gaat of verspild wordt.

Door AI ondersteunde chiptechnologie verandert ook de prestaties van voertuigen in de lucht en op de grond.

Logistieke uitdagingen worden geconfronteerd met militair personeel wanneer zij een gevaarlijk gebied observeren en/of betreden. In het verleden kon het voor een riskante surveillancetaak nodig zijn geweest dat mensen een gebied uit de eerste hand moesten inspecteren, waardoor het personeel aan gevaar en verlies van mensenlevens werd blootgesteld.

nu met edge AI-verwerkingvoert een vloot onbemande drones verkenningen uit en communiceert ze in realtime. Als een drone in een squadron wordt neergehaald, detecteert de vloot het probleem en past de formatie aan om de missie voort te zetten. “Veeleisende werklasten die de verwerking van meerdere sensorische inputs vereisen, waaronder video en audio, kunnen de grenzen verleggen, tenzij ze worden ondersteund door gespecialiseerde chips”, zegt Saurabh Mishra, Senior Manager Product Management bij de IoT- en Edge-divisie van SAS. “Autonome drones, robotarmen en industriële automatisering zijn allemaal goede voorbeelden van hoe deze chips kunnen worden gebruikt.”

Geopolitiek en innovatie

Niettemin maken bedrijven zich zorgen vanwege de geopolitieke krachten die aan het werk zijn in de chip- en halfgeleiderindustrie.

In 2019 werd Huawei op de lijst geplaatst Amerikaanse beperkte lijst. NVIDIA nam vervolgens Arm, Ltd. over in een deal van $40 miljard waarbij Google, Microsoft, Qualcomm, Apple, Intel, Samsung, Huawei en Amazon maakt zich zorgen over een cruciale leverancier.

In 2019 verwierf Intel het opstarten van AI-chips Habana Labs voor $ 2 miljard, en AMD overgenomen Xiliinx voor 35 miljard dollar.

“De trend van de afgelopen vijftig jaar is geweest om niet-gerelateerde nationale veiligheidsproblemen buiten de economische analyse te houden die ten grondslag ligt aan antitrustbeslissingen. Waar potentieel concurrentiebeperkend gedrag echter ook schadelijk is voor de nationale veiligheid, moeten we niet verbaasd zijn als de USG een agressievere aanpak hanteert bij de handhaving”, schreef Cullen O'Keefe, onderzoeksfiliaal bij het Centre for the Governance of AI, Universiteit van Oxford.

IT moet deze rechtszaken en antitrustacties in overweging nemen wanneer het AI-investeringen rechtvaardigt en probeert deze ‘toekomstbestendig’ te maken.

“Tegenwoordig wordt AI algemeen gezien als de sleutel voor toekomstig economisch leiderschap, en er zijn krachtige initiatieven in China, Japan en Europa om de afhankelijkheid van de VS af te schaffen en inheemse verwerkers te ontwikkelen”, aldus Conway. “IT-afdelingen kunnen niet veel doen om deze geopolitieke strijd te beïnvloeden, maar ze kunnen wel plannen maken om ervoor te zorgen dat de bevoorrading van de processors die ze nodig hebben veilig is, vooral door te onderhandelen over lange termijn leverancierscontracten met boeteclausules en het aanhouden van adequate voorraadniveaus.”

IT's takenlijst

De overstap naar IoT met een kleinere vormfactor zal een IT-focus op drie belangrijke gebieden afdwingen:

IT-architectuur. De IT-architectuur moet opnieuw worden afgestemd op de zakelijke gebruiksscenario’s die bedrijven willen oplossen met AI op chipniveau. Deze herziening van de architectuur zal waarschijnlijk minimaal drie niveaus van IT-technologie, verwerkings- en data-architectuur opleveren: het datacenter, de cloud en de edge.

“Het uitgangspunt is uiteraard het in kaart brengen en optimaliseren van het end-to-end proces en het gebruiken van die informatie om op elk punt onderweg de juiste middelen toe te wijzen”, aldus Conway, die verwees naar het werk van PayPal.

“Een half dozijn jaar geleden had PayPal een ernstig probleem met fraude bij creditcardtransacties”, aldus Conway. “Het duurde wel twee weken om fraude op te sporen, en tegen die tijd had de fraude vaak de kaarten van klanten bereikt. Het bedrijf installeerde een krachtige computer die fraude binnen 150 milliseconden kon opsporen en voorkomen, waardoor PayPal in het eerste jaar ongeveer $700 miljoen bespaarde.

De toepassing bij PayPal en andere bedrijven is afhankelijk van ingebedde processors in de kaartlezers, samen met internet voor het round-trip autorisatieproces, en serversystemen met niet-ingebedde processors voor het zware werk, op locatie of in de cloud.”

IT vaardigheden. Slechts 47% van de respondenten in een Microsoft IoT Signals Report uit 2019 was van mening dat de markt over mensen beschikt met de nodige IoT-werkvaardigheden https://news.microsoft.com/2019/07/30/microsoft-announces-iot-signals-research-report-on-state-of-iot-adoption/.

“De beschikbaarheid van bekwame middelen om de inzet van AI-modellen op chips te beheren zal een uitdaging blijven”, zegt Saurabh Mishra, Senior Manager Product Management bij de IoT- en Edge-divisie van SAS. “Bedrijven moeten dat ook onderkennen

edge AI-chips zijn geen wondermiddeltjes. Ze werken in de context van een groter systeem. Het is van cruciaal belang om aan de volledige pijplijn te denken bij de inzet van AI-ingebedde chips, omdat een zwakke schakel stroomopwaarts of stroomafwaarts de beoogde boost teniet kan doen.”

Commerciële IoT-software en hardwarestacks kunnen helpen bij het aanpakken van uitdagingen op het gebied van pijplijnintegratie, maar de verwerking moet nog steeds op elk niveau door IT worden gedefinieerd. Dit omvat het bouwen van modellen en het programmeren van SOC's.

Beheer van beleggingen. Consolidaties, rechtszaken op het gebied van antitrust en intellectueel eigendom zullen zich blijven afspelen op het gebied van AI/chips, net als op andere gebieden van de IT.

Het goede nieuws is dat IT-afdelingen van bedrijven hier geen onbekende in zijn.

Het selecteren van een breed geaccepteerde IoT-stackoplossing met een groot gebruikersbestand is een vorm van toekomstbestendigheid, en zorgt er ook voor dat het IoT dat u gebruikt voldoet aan de algemene beveiligingsstandaarden en API's. Een tweede strategie is onderhandelen met IoT-leveranciers over aansprakelijkheids- en investeringsbescherming die u in uw contracten definieert.

Ten slotte moeten AI-chips bedrijfsresultaten opleveren.

“De impact van edge IoT op de IT-architectuur zal neerkomen op de gebruiksscenario’s die IT moet implementeren, waarbij AI de mogelijkheid biedt om informatie in realtime voor te verwerken en alleen relevante en nuttige gegevens over te dragen”, zegt Murali Gopalakrishna, hoofd van productbeheer voor autonome machines en algemeen manager voor Robotica bij NVIDIA.

“Een geautomatiseerd AI-inspectieproces in een fabriek zal realtime informatie gebruiken om in een fractie van een seconde beslissingen te nemen aan de edge, terwijl relevante gegevens worden overgedragen naar back-endsystemen voor naverwerking, analyse en nieuwe modelontwikkeling buiten de band naar de IoT-edge. gebaseerde beslissingen.”

Toepassingen kunnen inzittenden detecteren die maskers dragen of het aantal tellen aantal mensen dat een ruimte betreedt en verlaat door hittekaarten te maken om ervoor te zorgen dat de bezettingslimieten niet worden overschreden. En met extra sensoren, camera's en automatisering in het IoT en aan de edge zal AI relevanter worden voor IT-managers en infrastructuurarchitectuur, aldus Gopalakrishna.