Hur Edge IoT omformar industrin

Spårning av flottor, tillgångsspårning, autonoma fordon, tillverkningsautomation och lagerhållning är alla områden där artificiell intelligens-inbäddade chipteknologier kan lasta av nätverksdatabärande laster. De kan göra detta samtidigt som de tillhandahåller frontlinjeinformation i realtid.

Många av dessa on-the-go processer kräver massor av data för att aktiveras. Samtidigt behöver de dessa data i realtid, och under överföring, för att äga rum. Den här typen av processer drar inte lika stor nytta av molnberäkning som andra dataintensiva processer, som träningsdata genom maskininlärning. Istället drar dessa processer mest nytta av edge computing, som för beräkning, nätverk och andra resurser direkt till de enheter och data som behöver dem.

Genom att aktivera artificiell intelligens (AI0-bearbetning av belastningar på nivån av ett system-on-a-chip (SOC), kan IT utöka sina alternativ för att distribuera och avlasta databehandlingsbelastningar till olika lager av företagsarkitektur (t.ex. moln, en central datacenter eller själva kanten). Detta förbättrar datahantering och bearbetning. Det sparar också bandbredd och påskyndar data och resultat.

SOC inbyggda mikrokontroller använda smalare minne och strömförbrukning än vad som krävs av traditionella GPU:er (grafiska bearbetningsenheter), FPGA:er (fältprogrammerbara gate arrays) eller andra typer av integrerade kretsar (IC).

"Vi kommer att se AI i kanten bli vanligt förekommande under de kommande fem åren", säger Steve Conway, senior rådgivare för Hyperion Research, HPC Market Dynamics.

"ARM Atom, GPU och andra inbyggda processorer är redan vanliga i edge-enheter som mobiltelefoner, sensorer, bilar, diagnostiska medicinska bildsystem, spelsystem och många andra enheter. Dessa etablerade inbäddade processorer kommer sannolikt att bli mainstream för att stödja AI-metoder när dessa metoder vinner mark”, sa han.

Inverkan på industrin av Edge IoT

2011 dök termen "Manufacturing 4.0" upp för första gången. Det härstammar från den tyska regeringens strävan att datorisera tillverkningen, och den introducerade en framtidsvision om digitalisering, automatisering och artificiell intelligens för fabriksproduktion. I schemat kan edge-teknologi underlätta beslut på platsen för ett problem eller en situation, där AI-inbäddade SOC:er spelar stora roller.

Idag, detta kantbeslut i realtid är verkligt. Tillverkningsprocesser drivs av AI-aktiverade beslut på kanten. I framtiden kan ett AI-aktiverat kantchip skicka en handlingsbar varning till inköp om brist på råvaror, eller varna försäljning om möjligheten av ett produktbrist om en bristfällig komponent hittas.

Edge AI-chipautomation förändrar också logistiken.

En lastbilskonvoj kan korskommunicera med kantkommunikation med låg latens som används för att spara bränsle och optimera rutter. Framöver kommer det att vara möjligt för endast en av dessa lastbilar att ha en mänsklig förare, medan resten av konvojen körs på SOC-driven automation.

Detta skulle kunna lösa ett stort problem inom lastbilsbranschen: bristen på kvalificerade förare. "Detta är en av anledningarna till att du ser så mycket teknik komma in i lastbilsindustrin", säger Shelley Simpson, vicepresident, kommersiell chef och chef för motorvägstjänster på JB Hunt Transport Services,

Förgängliga varor kan också övervakas av intelligenta sensorer i varje lastbils lastutrymme för temperatur och luftfuktighet.

En lastbil som transporterade produkter till Atlanta, till exempel, omdirigerades till den mer närliggande marknaden i Washington, DC. Omdirigeringen beställdes efter att en sensor inuti lastbilens lastrum uppmärksammat föraren och logistikföretaget på risken för att produkter förstörs på grund av överhettning. Företagets förmåga att proagera i realtid till informationen avvärjde förstörelse och sparade pengar. Inom livsmedelsindustrin är det stort. FN:s livsmedels- och jordbruksgrupp uppskattar att 1 biljon dollar mat går förlorad eller slösas bort varje år.

AI-aktiverad chipteknologi förändrar också hur luftburna och markbaserade fordon presterar.

Logistiska utmaningar möter militär personal när de observerar och/eller går in i ett farligt område. Tidigare kunde ett riskfyllt övervakningsarbete ha krävt att människor inspekterade ett område på egen hand, vilket utsatte personal för fara och förlust av liv.

nu med edge AI-bearbetning, en flotta av obemannade drönare utför spaning och kommunicerar med varandra i realtid. Om en drönare i en skvadron nedsätts, upptäcker flottan problemet och justerar dess formation för att fortsätta uppdraget. "Krävande arbetsbelastningar som kräver bearbetning av flera sensoriska ingångar inklusive video och ljud kan börja pressa envelopet om de inte stöds av specialiserade chips", säger Saurabh Mishra, Senior Manager för Product Management i SAS IoT och Edge Division. "Autonoma drönare, robotarmar och industriell automation är alla bra exempel på hur dessa chips kan användas."

Geopolitik och innovation

Trots det oroar företag sig på grund av geopolitiska krafter som verkar i chip- och halvledarindustrin.

2019 placerades Huawei på USA:s begränsade lista. NVIDIA förvärvade sedan Arm, Ltd. i en affär på 40 miljarder dollar som hade Google, Microsoft, Qualcomm, Apple, Intel, Samsung, Huawei och Amazon oroar sig över en kritisk leverantör.

2019 köpte Intel uppstart av AI-chip Habana Labs för 2 miljarder dollar, och AMD förvärvade Xiliinx för 35 miljarder dollar.

"Trenden under de senaste 50 åren har varit att hålla orelaterade nationella säkerhetsproblem undanhållna från den ekonomiska analysen som driver antitrustbeslut. Men där potentiellt konkurrensbegränsande beteende också är skadligt för den nationella säkerheten bör vi inte bli förvånade om USG tar en mer aggressiv inställning till verkställighet, skrev Cullen O'Keefe, forskningsfilial vid Center for the Governance of AI, University of Oxford.

IT måste överväga dessa stämningar och antitruståtgärder när den motiverar och försöker "framtidssäkra" AI-investeringar.

"Idag ses AI allmänt som nyckeln för framtida ekonomiskt ledarskap, och det finns starka initiativ i Kina, Japan och Europa för att avskaffa beroendet av USA och utveckla inhemska processorer," sa Conway. "IT-avdelningar kan inte göra mycket för att påverka dessa geopolitiska strider, men de kan planera för att säkerställa att leveranserna av processorer de behöver är säkra, särskilt genom att förhandla fram långsiktiga leverantörskontrakt med straffklausuler och upprätthålla adekvata lagernivåer."

DET är att göra-lista

Övergången till mindre formfaktor IoT kommer att tvinga fram ett IT-fokus på tre nyckelområden:

IT-arkitektur. IT-arkitekturen måste anpassas för att passa de affärsanvändningsfall som företag vill lösa med AI på chipnivå. Som minimum kommer denna arkitekturrevision sannolikt att ge tre nivåer av IT-teknik, bearbetning och dataarkitektur: datacentret, molnet och kanten.

"Utgångspunkten är naturligtvis att kartlägga och optimera hela processen och använda den informationen för att tilldela lämpliga resurser vid varje punkt på vägen," sa Conway, som refererade till PayPals arbete.

"För ett halvdussin år sedan hade PayPal ett allvarligt problem med bedrägerier i kreditkortstransaktioner", sa Conway. ”Det tog upp till två veckor att identifiera bedrägerier, och vid den tiden hade bedrägeriet ofta drabbat kundernas kort. Företaget installerade en högpresterande dator som kunde upptäcka och förhindra bedrägeri när det hände, inom 150 millisekunder, vilket sparade PayPal mer än 700 miljoner USD under det första året eller så.

Applikationen hos PayPal och andra företag förlitar sig på inbäddade processorer i kortläsarna, tillsammans med Internet för godkännandeprocessen tur och retur, och serversystem med icke-inbäddade processorer för tunga lyft, lokalt eller i moln."

IT kunskaper. Endast 47 % av de tillfrågade i en 2019 Microsoft IoT Signals Report trodde att marknaden hade individer med de nödvändiga IoT-jobbkunskaperna https://news.microsoft.com/2019/07/30/microsoft-announces-iot-signals-research-report-on-state-of-iot-adoption/.

"Tillgängligheten av skickliga resurser för att hantera utplaceringen av AI-modeller på chips kommer att förbli en utmaning", säger Saurabh Mishra, Senior Manager för Product Management i SAS IoT och Edge Division. ”Företagen bör också inse det

edge AI-chips är inte silverkulor. De arbetar i ett större system. Det är viktigt att tänka på hela pipelinen när du distribuerar AI-inbäddade chip eftersom en svag länk uppströms eller nedströms kan motverka deras riktade boost."

Kommersiell IoT-mjukvara och hårdvara kan hjälpa till att hantera pipelineintegreringsutmaningar – men bearbetning måste fortfarande definieras på varje nivå av IT. Detta inkluderar modellbyggande och programmering av SOC.

Investeringshantering. Konsolideringar, antitrust- och immaterialrättsprocesser kommer att fortsätta att spela ut i AI/chip-utrymmet, precis som det har gjort inom andra IT-områden.

Den goda nyheten är att företagens IT-avdelningar inte är främmande för detta.

Att välja en brett accepterad IOT-stacklösning med en stor användarbas är en form av framtidssäkring, samt att säkerställa att IoT du använder överensstämmer med vanliga säkerhetsstandarder och API:er. En andra strategi är att förhandla med IoT-leverantörer om ansvar och investeringsskydd som du definierar i dina kontrakt.

Slutligen måste AI-aktiverade chips leverera affärsresultat.

"Effekten av Edge IoT på IT-arkitekturen kommer att bero på de användningsfall som IT uppmanas att implementera, där AI erbjuder möjligheten att förbearbeta information i realtid och bara överföra relevant och användbar data", säger Murali Gopalakrishna, chef. av produkthantering för autonoma maskiner och general manager för Robotics på NVIDIA.

"En automatiserad AI-inspektionsprocess i en fabrik kommer att använda realtidsinformation för att fatta beslut på en del av en sekund vid kanten samtidigt som relevant data överförs till back-end-system för efterbehandling, analys och utveckling av nya modeller utanför bandet till IoT-kanten baserade beslut."

Applikationer kan upptäcka passagerare som bär masker eller räkna antal personer som går in i och ut ur ett utrymme genom att skapa värmekartor för att säkerställa att beläggningsgränserna inte överskrids. Och med ytterligare sensorer, kameror och automatisering som sker inom IoT och på kanten, kommer AI att bli mer relevant för IT-chefer och infrastrukturarkitektur, sa Gopalakrishna.