Mnoho prípadov použitia analytiky a strojového učenia sa pripája k údajom uloženým v dátových skladoch alebo dátových jazerách, spúšťa algoritmy na kompletných množinách údajov alebo podmnožine údajov a počíta výsledky na cloudových architektúrach. Tento prístup funguje dobre, keď sa údaje nemenia často. Čo však v prípade, ak sa údaje často menia?
Dnes musí viac firiem spracovávať údaje a počítať analytiku v reálnom čase. IoT riadi veľkú časť tejto zmeny paradigmy, pretože tok údajov zo senzorov vyžaduje okamžité spracovanie a analýzu na riadenie nadradených systémov. Analýza v reálnom čase je dôležitá aj v mnohých odvetviach vrátane zdravotníctva, finančných služieb, výroby a reklamy, kde malé zmeny v údajoch môžu mať významné finančné, zdravotné, bezpečnostné a ďalšie obchodné dopady.
Ak máte záujem o povolenie analýzy v reálnom čase - a o vznikajúce technológie, ktoré využívajú kombináciu edge computingu, AR / VR, senzorov IoT vo veľkom meradle a strojového učenia vo veľkom rozsahu -, je dôležité porozumieť úvahám o dizajne analytiky edge. Prípady použitia počítačov na hrane, ako sú autonómne drony, inteligentné mestá, správa maloobchodných reťazcov a herné siete v rozšírenej realite, sa zameriavajú na nasadenie rozsiahlych a vysoko spoľahlivých analytických riešení na hrane.
Edge analytics, streamovacie analýzy a edge computing
S analytikou edge súvisí niekoľko rôznych paradigiem analytiky, strojového učenia a edge computingu:
- Edge analytics označuje analytiku a algoritmy strojového učenia nasadené do infraštruktúry mimo cloudovej infraštruktúry a „na hrane“ v geograficky lokalizovanej infraštruktúre.
- Streamovaná analytika sa týka výpočtovej analýzy v reálnom čase pri spracovaní údajov. Streamovacie analýzy sa dajú robiť v cloude alebo na okraji v závislosti od prípadu použitia.
- Spracovanie udalostí je spôsob spracovania údajov a riadenia rozhodnutí v reálnom čase. Toto spracovanie je podmnožinou analytiky streamovania a vývojári používajú architektúry založené na udalostiach na identifikáciu udalostí a spustenie následných akcií.
- Edge computing označuje nasadenie výpočtu na okrajové zariadenia a sieťovú infraštruktúru.
- Fog computing je všeobecnejšia architektúra, ktorá rozdeľuje výpočty medzi okrajové, blízke okrajové a cloudové výpočtové prostredia.
Pri navrhovaní riešení vyžadujúcich analytiku na hrane musia architekti brať do úvahy fyzické a napájacie obmedzenia, náklady a spoľahlivosť siete, bezpečnostné aspekty a požiadavky na spracovanie.
Dôvody pre nasadenie analytiky na okraji
Možno sa pýtate, prečo by ste nasadili infraštruktúru na hrane analytiky? Pri rozhodovaní sa zohľadňujú technické hľadiská, náklady a súlad s predpismi.
Aplikácie, ktoré ovplyvňujú bezpečnosť ľudí a vyžadujú odolnosť vo výpočtovej architektúre, sú jedným prípadom použitia pre edge analytics. Aplikácie, ktoré vyžadujú nízku latenciu medzi zdrojmi údajov, ako sú senzory IoT a analytická výpočtová infraštruktúra, sú druhým prípadom použitia, ktorý často vyžaduje hraničnú analýzu. Medzi príklady týchto prípadov použitia patria:
- Autá s vlastným pohonom, automatizované stroje alebo akékoľvek prepravy, pri ktorých riadiace systémy automatizujú celú navigačnú časť alebo jej časti.
- Inteligentné budovy, ktoré majú ovládacie prvky zabezpečenia v reálnom čase a chcú sa vyhnúť závislostiam od sieťovej a cloudovej infraštruktúry, ktoré by ľuďom umožnili bezpečný vstup a výstup z budovy.
- Inteligentné mestá, ktoré sledujú verejnú dopravu, nasadzujú inteligentné merače pre fakturáciu energií a inteligentné riešenia nakladania s odpadom.
Úvahy o nákladoch sú významným faktorom pri využívaní okrajovej analýzy vo výrobných systémoch. Zvážte sadu kamier, ktoré skenujú vyrobené výrobky na chyby na rýchlo sa pohybujúcich dopravných pásoch. Môže byť nákladovo efektívnejšie nasadiť zariadenia na hranu výpočtovej techniky v továrni na vykonávanie spracovania obrazu, ako mať nainštalované vysokorýchlostné siete na prenos videozáznamov do cloudu.
Hovoril som s Achalom Prabhakarom, viceprezidentom pre inžinierstvo v spoločnosti Landing AI, priemyselnej spoločnosti zameranej na AI, s riešeniami zameranými na počítačové videnie. "Výrobné závody sa úplne líšia od bežných analytických aplikácií, a preto vyžadujú prehodnotenie umelej inteligencie vrátane nasadenia," povedal mi Prabhakar. „Veľkou oblasťou zamerania je pre nás nasadenie komplexných modelov videnia s hlbokým učením s kontinuálnym učením priamo na výrobných linkách pomocou schopných, ale komoditných okrajových zariadení.“
Nasadzovanie analýz do vzdialených oblastí, ako sú stavby a vrtné pracoviská, tiež ťaží z využívania okrajových analýz a výpočtov. Namiesto toho, aby sa spoliehali na drahé a potenciálne nespoľahlivé rozsiahle siete, nasadia inžinieri infraštruktúru okrajovej analýzy na mieste, aby podporili požadované údaje a analytické spracovanie. Napríklad ropná a plynárenská spoločnosť nasadila streamovacie analytické riešenie s distribuovanou výpočtovou platformou v pamäti po okraj a znížila čas vŕtania až o 20 percent, z typických 15 dní na 12 dní.
Dodržiavanie predpisov a správa údajov sú ďalším dôvodom analytiky na hrane. Nasadenie lokalizovanej infraštruktúry môže pomôcť splniť súlad s GDPR a ďalšími predpismi o zvrchovanosti údajov ukladaním a spracovaním obmedzených údajov v krajinách, kde sa údaje zhromažďujú.
Navrhovanie analytických riešení na hrane
Získanie modelov a ďalších analýz a ich nasadenie na okrajovú výpočtovú infraštruktúru, bohužiaľ, nie je vždy triviálne. Výpočtové požiadavky na spracovanie veľkých množín údajov prostredníctvom výpočtovo náročných dátových modelov môžu vyžadovať opätovné inžinierstvo pred ich spustením a nasadením na okrajovú výpočtovú infraštruktúru.
Po prvé, veľa vývojárov a vedcov v oblasti dát teraz využíva analytické platformy vyššej úrovne, ktoré sú k dispozícii na verejných a súkromných cloudoch. IoT a senzory často využívajú zabudované aplikácie napísané v C / C ++, čo môže byť pre vedcov a technikov natívnych cloudov neznámy a náročný terén.
Ďalším problémom môžu byť samotné modely. Keď vedci v oblasti dát pracujú v cloude a škálovajú výpočtové zdroje na požiadanie s relatívne nízkymi nákladmi, sú schopní vyvinúť komplexné modely strojového učenia s mnohými funkciami a parametrami na úplnú optimalizáciu výsledkov. Ale pri nasadení modelov na infraštruktúru edge computing by príliš zložitý algoritmus mohol dramaticky zvýšiť náklady na infraštruktúru, veľkosť zariadení a požiadavky na napájanie.
O problémoch nasadenia AI modelov som hovoril s Marshall Choy, viceprezidentom pre produkt spoločnosti SambaNova Systems. „Vývojári modelov pre okrajové aplikácie umelej inteligencie sa čoraz viac zameriavajú na veľmi podrobné modely, aby dosiahli vylepšenia pri znižovaní parametrov a výpočtových požiadavkách,“ poznamenal. „Požiadavky na školenie týkajúce sa týchto menších, veľmi podrobných modelov sú stále skľučujúce.“
Ďalším aspektom je, že nasadenie vysoko spoľahlivého a bezpečného analytického systému na hrane vyžaduje návrh a implementáciu vysoko odolných architektúr, systémov, sietí, softvéru a modelov.
Hovoril som s Dale Kimom, vyšším riaditeľom produktového marketingu v spoločnosti Hazelcast, o prípadoch použitia a obmedzeniach pri spracovaní údajov na okraji. Poznamenal, že zatiaľ čo optimalizácia zariadení, preventívna údržba, kontroly zabezpečenia kvality a kritické výstrahy sú k dispozícii na okraji, existujú nové výzvy, ako je obmedzený hardvérový priestor, obmedzená fyzická dostupnosť, obmedzená šírka pásma a väčšie obavy o bezpečnosť.
„To znamená, že infraštruktúra, na ktorú ste vo svojom dátovom centre zvyknutí, nemusí nevyhnutne fungovať,“ uviedla Kim. "Takže musíte preskúmať nové technológie, ktoré sú navrhnuté s ohľadom na architektúry edge computing."
Ďalšia hranica v analytike
Bežnejšími prípadmi použitia analytiky na hrane sú dnes funkcie spracovania údajov vrátane filtrovania a agregácie údajov. Ale keďže viac spoločností nasadzuje senzory IoT v rozsiahlom meradle, bude potrebné aplikovať analytiku, strojové učenie a algoritmy umelej inteligencie v reálnom čase vyžadovať viac nasadení na hrane.
Možnosti na okraji umožňujú veľmi vzrušujúcu budúcnosť inteligentných výpočtov, keď senzory zlacnejú, aplikácie si vyžadujú viac analýz v reálnom čase a vývoj optimalizovaných a nákladovo efektívnych algoritmov pre hranicu sa uľahčí.
