Edge AI: potenza e intelligenza nelle periferie della rete

In che cosa consiste l’Edge AI, come funziona e quali sono gli aspetti da considerare per quanto riguarda le sue applicazioni, sempre più numerose e frequenti in vari ambiti di business.

L’evoluzione delle tecnologie di Intelligenza Artificiale, la diffusione dei sistemi Internet of Things e il progressivo miglioramento della connettività a banda larga e basso consumo hanno reso possibile l’integrazione dell’AI a livello periferico. L’Edge AI necessita di piattaforme scalabili, in grado di accelerare lo svolgimento di moltissime operazioni sul campo, al fine di automatizzare le procedure e supportare in tempo reale le decisioni in moltissimi settori applicativi, che spaziano dalla fabbrica intelligente alla guida autonoma, passando per le più semplici applicazioni domestiche. Per comprendere al meglio la sua importanza strategica e operativa, vediamo pertanto in cosa consiste l’Edge AI, come funziona e quali sono gli aspetti da considerare per quanto riguarda le sue applicazioni, sempre più numerose e frequenti in vari ambiti di business.

Edge AI: cos’è e come funziona

L’Edge AI è una tecnologia che sfrutta la capacità di calcolo dei dispositivi IoT per implementare funzionalità basate sull’Intelligenza Artificiale, al fine di elaborare e analizzare i dati direttamente alla fonte, in prossimità del punto di acquisizione.

Grazie all’Intelligenza Artificiale e alle funzionalità dell’Edge Computing, è oggi possibile utilizzare i processi di apprendimento automatico (Machine Learning) per elaborare in tempo reale i dati ai fini di garantire – al servizio o all’utente finale – la migliore esperienza possibile in termini di automatizzazione e supporto decisionale.

Molte aziende stanno, al tempo stesso, cercando soluzioni AI in Cloud, ma le risorse centralizzate, per quanto insuperabili dal punto di vista delle risorse computazionali e della scalabilità in funzione dei carichi di lavoro, attualmente non sono in grado di dare una risposta a tutte le esigenze operative di un business digitale.

La questione è ormai ampiamente nota. Il Cloud mette a disposizione grandi risorse di calcolo e memoria, ma la lontananza dai dati può generare oggettivi problemi di latenza operativa, unitamente alle condizioni in cui non è disponibile una connessione Internet per permettere lo scambio dei dati tra i sistemi centralizzati e quelli periferici.

I dispositivi IoT, collocati in condizione periferica e interconnessi tramite le architetture edge, agiscono in prossimità del punto di acquisizione del dato, in condizioni di latenza ridotta, ma non sono in grado di soddisfare le operazioni di calcolo più gravose. Questo contesto funzionale vale anche per le applicazioni basate sull’Intelligenza Artificiale.

Per quanto concerne il contributo delle varie tecnologie di Intelligenza Artificialel’Edge AI può offrire soluzioni efficienti per le elaborazioni in tempo reale a bassa latenza, mentre la Cloud AI può essere utilizzata per i carichi di lavoro più impegnativi dal punto di vista computazionale, come le operazioni basate sul Deep Learning, che richiedono enormi quantità di dati e di risorse computazionali per completare i processi di apprendimento e analisi per cui sono sviluppati.

Un sistema IoT dotato di funzionalità Edge AI può infatti operare in maniera selettiva sui dati, scremando alla fonte le informazioni da trasmettere ai servizi Cloud AI, che coincidono con quelle effettivamente richieste dalle analisi. Tale approccio consente di ottimizzare notevolmente l’impiego di banda e di storage e di ridurre in maniera significativa i costi, considerando che i servizi in Cloud sono quasi sempre basati su un modello di pricing pay-per-use scalabile in funzione delle risorse effettivamente impiegate.

Realisticamente, per quanto i dispositivi IoT siano sempre più potenti e performanti, soprattutto per quanto concerne le operazioni più complesse, come quelle in ambito industriale, è al momento difficile pensare a un sistema Edge AI funzionalmente del tutto autonomo. La disponibilità di alcune risorse tipicamente accessibili in un data center centralizzato va contemplata funzionalmente alle esigenze da soddisfare, evitando soluzioni radicali nell’approccio tecnologico.

La chiave del successo risiede pertanto nel trovare il corretto equilibro, creando il giusto mix tra la rapidità e la connettività dell’Edge, con la potenza elaborativa e la capacità di storage del Cloud, senza trascurare gli aspetti legati alla sicurezza e alla conformità con le normative relative al trattamento dei dati, che spesso condizionano la scelta di un’architettura IT ancor prima delle ragioni di opportunità tecnologica.

Illustrazione con, in primo piano, un cerchio con, all’interno, la scritta “Edge Computing” e, intorno, una serie di icone tecnologiche all’interno di altri cerchi che formano ingranaggi.
Grazie all’Intelligenza Artificiale e alle funzionalità dell’Edge Computing, è possibile utilizzare i processi del Machine Learning per elaborare in tempo reale i dati, garantendo, così – al servizio o all’utente finale – la migliore esperienza possibile in termini di automatizzazione e supporto decisionale

I vantaggi dell’utilizzo della Edge AI

L’impiego di tecnologie Edge AI consente di ottenere una serie di vantaggi, tra cui – di seguito – possiamo evidenziare quelli di più immediato riscontro.

Riduzione dei tempi nelle operazioni

Operare a latenze ridotte consente una maggior efficienza per tutte quelle operazioni time sensitive che si riscontrano a livello periferico, come l’analisi di un’immagine in tempo reale da parte di una videocamera o il riconoscimento di un ostacolo sul percorso da parte di un veicolo con guida autonoma. A livello di fabbrica, questo aspetto assume una rilevanza fondamentale, soprattutto considerando il numero di operazioni che vengono quotidianamente effettuate dagli impianti sulle linee di produzione.

Riduzione delle risorse banda e storage dei dati

I dispositivi IoT dotati di funzionalità AI consentono di pre-elaborare i dati, generando buona parte delle risposte a livello operativo, oltre a scremare e selezionare i dati che necessitano di analisi più approfondite. Soltanto queste informazioni vengono trasmesse ai data center per essere oggetto di ulteriori operazioni.

Questa pipeline di gestione del dato consente di ridurre sensibilmente la disponibilità di banda e di storage necessaria a svolgere le operazioni, rispetto alla condizione in cui tutti i carichi di lavoro vengono svolti dai data center centralizzati.

I dispositivi IoT sono, quindi, sia concettualmente che operativamente, equiparabili ai micro data center – o “data center periferici” – in quanto assolvono a buona parte delle funzioni per cui tradizionalmente è previsto l’impiego di server centralizzati.

Riduzione dei costi di esercizio in Cloud

La sovrapposizione degli effetti dei due punti citati in precedenza genera una naturale riduzione dei costi per quanto concerne l’impiego dei servizi Cloud AI. Il fatto di sottoporre all’analisi dei sistemi centralizzati soltanto una parte dell’enorme quantità di dati che i dispositivi IoT generano a flusso continuo consente, infatti, di impiegare meno risorse in Cloud e di risparmiare sui costi di esercizio.

Tale risparmio è sostanzialmente dovuto alla riduzione dell’impiego di risorse CPU, GPU, di memoria e di rete nell’infrastruttura IT in Cloud, necessarie a soddisfare i carichi di lavoro dell’analisi dei dati.

Riduzione dei consumi energetici

La miniaturizzazione dei semiconduttori e la maggior efficienza dei dispositivi elettronici che compongono i dispositivi IoT consentono di limitare i consumi energetici, aumentando nel contesto l’autonomia di sistemi che spesso e volentieri, data la loro portabilità, sono alimentati a batteria.

Tale aspetto, unitamente alla riduzione dei carichi di lavoro eseguiti sui data center, contribuisce a un generale contenimento dei consumi energetici, in funzione di una maggior sostenibilità economica ed ambientale dei processi aziendali.

Al di là dell’aspetto puramente etico, il contenimento dei consumi energetici è infatti uno dei principali driver delle strategie di miglioramento continuo delle aziende, anche nell’ottica di avvalersi degli incentivi e degli sgravi fiscali messi a disposizione da varie iniziative promosse a livello comunitario.

Impulso all’innovazione dei processi

L’Edge AI e la disponibilità di potenza di calcolo a livello periferico consentono di sperimentare con successo differenti layout architetturali, in modo da soddisfare in maniera sempre più puntuale e precisa le esigenze delle varie applicazioni.

La natura proattiva dell’Intelligenza Artificiale consente inoltre di automatizzare i carichi di lavoro previsti in funzione delle condizioni che si generano nel contesto, incrementando in maniera significativa il livello di efficienza delle operazioni previste, riducendo al tempo stesso la possibilità di errore umano.

Architettura agile ed estendibile nel tempo della Edge AI

La modularità e la facoltà di aggiungere dispositivi IoT a una rete periferica agevolano i sistemisti nell’implementazione di architetture facilmente espandibili nel tempo, senza doversi preoccupare troppo degli eventuali colli di bottiglia che potrebbero facilmente presentarsi nei data center locali. E soprattutto consente di farlo senza dover necessariamente ricorrere alla proverbiale scalabilità del Cloud.

Privacy nel trattamento dei dati

Le operazioni svolte grazie all’Edge AI consentono di mantenere la maggior parte, o in molti casi la totalità dei dati, all’interno del perimetro aziendale. Si tratta di un vantaggio tutt’altro che irrilevante, in quei contesti in cui le normative sulla privacy o specifici accordi con i clienti rendono impossibile la conservazione e il trattamento dei dati presso un Cloud, dove l’infrastruttura, pubblica o privata che sia, fa capo a terzi.

Oltre a tutte le altre buone ragioni, l’Edge AI costituisce quindi un’ottima alternativa per gestire internamente i dati senza rinunciare alle funzionalità offerte dall’Intelligenza Artificiale. Dal punto di vista della protezione e della sicurezza dei dati, vi sono invece alcune criticità che metteremo in evidenza nel corso del successivo paragrafo.

Le criticità da superare: Edge AI e Cloud AI, una questione di bilanciamento

Non tutto oro è quel che luccica e anche l’Intelligenza Artificiale porta con sé una serie di condizioni che non costituiscono di per sé una barriera insormontabile, ma vanno valutate sia per quanto concerne gli aspetti di natura tecnologica che di natura organizzativa. Ciò in funzione di progettare sistemi facilmente espandibili nel tempo e non rischiare di compromettere a priori i vantaggi costitutivi tipici di un’architettura edge.

I punti su cui riflettere quando si prende in considerazione l’Edge AI sono sostanzialmente cinque e possono essere approcciati con un punto di vista mirato a trovare un buon bilanciamento con il Cloud AI, ai fini di garantire all’infrastruttura IT/OT nel suo complesso il miglior livello di efficienza, a fronte di costi di struttura ed esercizio sostenibili per i business che scelgono di diventare sempre più smart.

Capacità di calcolo

I dispositivi IoT dispongono di una potenza limitata e sono difficilmente espandibili. Va pertanto studiata un’architettura in cui, in previsione di un aumento dei carichi di lavoro nelle periferie, sia semplice aggiungere e rimuovere continuamente dispositivi capaci di lavorare in maniera interconnessa, senza dover puntualmente procedere alla sostituzione con sistemi dotati di maggior potenza elaborativa.

Latenza

Anche quando il Cloud risulterebbe preferibile per l’esecuzione di processi di analisi dei dati basati sull’Intelligenza artificiale, le latenze potrebbero sconsigliarne a priori l’impiego. Le applicazioni basate sulla computer vision non possono, ad esempio, prescindere da tempi di risposta molto rapidi, giusto per citare una delle funzioni AI più diffuse sui sistemi IoT. L’impiego dell’Edge AI è in molti casi l’unica soluzione attualmente percorribile.

Consumi energetici della Edge AI

L’Edge AI comporta l’impiego di dispositivi e soluzioni di connettività a basso consumo, compatibili in molti casi con l’alimentazione tramite batterie. È dunque necessario sviluppare applicazioni capaci di contenere i consumi energetici, onde evitare che un’autonomia troppo limitata possa condizionare lo svolgimento delle operazioni.

Connettività

Le applicazioni Edge AI costituiscono una via obbligata in quei contesti in cui non è possibile garantire una connettività stabile e una banda sufficiente al traffico dei dati necessario a soddisfare determinate esigenze applicative. Un caso frequente è quello dei sistemi di guida autonoma, in quanto i veicoli possono non disporre con continuità di una connessione ad Internet necessaria a svolgere le funzioni Cloud AI. I processi AI-driven vengono pertanto implementati in locale, grazie all’Edge AI.

Edge AI e sicurezza

La sicurezza informatica rappresenta con ogni probabilità l’aspetto più critico in assoluto quando si tratta di proteggere i dati, che costituiscono la risorsa più preziosa nell’era del digitale. L’aumento dei device e dei nodi della rete corrisponde a un sensibile aumento della superficie di attacco a disposizione dei cybercriminali per cercare di penetrare all’interno del perimetro di sicurezza delle aziende.

L’investimento di tecnologia sui dati deve sempre corrispondere a un adeguato impegno nelle attività di cybersecurity, sia per prevenire che per rimediare agli eventuali incidenti di sicurezza informatica che si possono presentare.

Esistono inoltre alcune applicazioni specifiche che non possono prescindere da una valutazione contestuale alla natura della tecnologia impiegata, come nel caso dei sistemi di rilevamento biometrico, in cui sono largamente impiegati dispositivi IoT con funzioni Edge AI. In tale contesto, al di là degli aspetti normativi, non va sottovalutata l’influenza psicologica.

I sistemi periferici garantiscono una maggior sensazione di sicurezza rispetto a ciò che avviene in Cloud, laddove non c’è quel controllo diretto dove “non si vede cosa succede”. Per quanto, a livello informatico, una considerazione simile possa apparire una bestialità, nell’ambito della user experience tali aspetti sono già stati più di una volta capaci di costituire una discriminante tra il successo o il fallimento di una determinata tecnologia.

Immagine che illustra l’integrazione delle tecnologie IoT, computer visione e deep learning per rilevare automaticamente quando i prodotti vengono prelevati o riposti negli scaffali, tenendone tracica in un carrello virtuale.
Il retail è un ambito di applicazione che può godere di un’ampia gamma di soluzioni grazie all’Edge AI: l’Intelligenza Artificiale è, infatti, in grado di supportare molteplici processi legati alla vendita al dettaglio e alle relazioni con i clienti, oltre a facilitare molte operazioni per i dipendenti.

Esempi e applicazioni della Edge AI

L’esempio che segue comprende soltanto alcuni tra gli ambiti in cui l’impiego dell’Edge AI ha già raggiunto un buon livello di diffusione.

Smart Factory: IIoT, dove tutto ebbe inizio

La fabbrica intelligente è una rete continua e interconnessa di sensori e dispositivi IoT in grado di acquisirli e analizzarli sul campo, in tempo reale. L’Edge AI costituisce pertanto una risorsa molto utile nell’integrazione tra i sistemi IT e le interfacce OT che garantiscono il controllo puntuale delle macchine.

L’Edge AI costituisce inoltre un naturale continuum e punto di contatto con la Industrial Internet of Things e tutto quel che concerne l’automatizzazione delle linee di produzione della Smart Factory. Le applicazioni basate sull’Intelligenza Artificiale sono sempre più diffuse nell’ambito della manutenzione predittiva e nel controllo di qualità (sistemi di ispezione ottica), oltre a supportare in maniera più informata le decisioni grazie ai processi di Business Intelligence e Business Analytics.

Guida autonoma: al sicuro anche senza Internet

I veicoli dotati di funzionalità di guida autonoma sono sempre più diffusi e si stanno avviando a recepire funzionalità sempre più avanzate, in cui è di fatto indispensabile l’impiego di funzioni basate sull’Intelligenza Artificiale.

I veicoli a guida autonoma costituiscono uno degli esempi più efficaci di Edge AI, in quanto la disponibilità di funzioni AI-driven – come la navigazione e il riconoscimento di ostacoli lungo il percorso – non sempre risulta conforme con le latenze e le problematiche di connessione a Internet correlate ai sistemi Cloud AI.

La necessità di operare anche offline o in condizioni di latenza ridotta comporta molto spesso l’ibridazione tra funzionalità Cloud AI e Edge AI, dove i dispositivi IoT svolgono anche quella pre-elaborazione indispensabile per trasmettere al Cloud il minor quantitativo di dati possibile.

Edge AI e droni

Per i droni, pur in un contesto applicativo differente, valgono in buona parte le osservazioni descritte per la guida autonoma, soprattutto se ci riferiamo alle attività di monitoraggio, in cui l’azione dei droni risulta sempre più imprescindibile, data la capacità di raggiungere praticamente qualsiasi luogo.

I droni operano molto spesso in luoghi dove non è presente la connessione a Internet e, dunque, devono supportare l’operatività dei loro sistemi (sensori, videocamere ecc.) con funzionalità intelligenti on-board, tipiche dell’Edge AI.

Assistenti virtuali

L’assistente virtuale rappresenta un esempio molto efficace di congiunzione tra i servizi Cloud AI ed Edge AI. È il caso degli assistenti domestici, come quelli implementati sugli ecosistemi Amazon Alexa o Google Nest. I dispositivi IoT con cui gli utenti interagiscono in locale operano in tempo reale grazie all’Edge AI, che consente di innescare una conversazione efficace in condizioni di latenza ridotta, senza rinunciare all’enorme know-how in termini di apprendimento disponibile grazie alle funzionalità centralizzate della Cloud AI. La continuità comunicazione tra edge e cloud è del tutto trasparente all’utente finale.

Sistemi di videosorveglianza intelligenti

I moderni sistemi di videosorveglianza sono in grado di utilizzare funzioni di computer vision per rilevare anomalie nel tracciamento delle immagini acquisite. Tali operazioni vengono svolte direttamente on-board, grazie all’Edge AI. Nel caso in cui il sistema producesse un alert, può essere attivata una procedura automatica di messa in sicurezza in loco o l’inoltro a un sistema Cloud AI centralizzato per svolgere approfondimenti più dettagliati.

Sanità: Smart Hospitals e servizi per i pazienti

Gli ospedali necessitano con frequenza sempre maggiore di funzionalità basate sull’Intelligenza Artificiale che non sempre possono essere risolte in Cloud, per via delle restrizioni causate dalle normative sulla privacy. La disponibilità di dispositivi IoT consente di assolvere a molte funzioni, senza rendere necessario il ricorso alla Cloud AI.

Le condizioni di sicurezza che le strutture ospedaliere devono soddisfare tendono a privilegiare approcci IT favorevoli all’Edge AI e a un’ampia gamma di funzionalità on-premise.

La necessità di ospedali intelligenti sta rapidamente aumentando per molte ragioni. Le distribuzioni di software legacy richiedono un’amministrazione significativa e un’infrastruttura costosa. Le soluzioni Cloud pubbliche sollevano preoccupazioni sulla privacy e la latenza dei dati, perché inviano i dati al di fuori di un firewall al Cloud per l’elaborazione prima che i risultati vengano trasferiti all’ospedale. Inoltre, le incoerenze nell’hardware, nei driver e nei sistemi operativi portano gli ospedali a mantenere più versioni delle applicazioni per la distribuzione in dispositivi, nodi server o Cloud.

L’Edge AI consente inoltre un approccio fortemente innovativo in ambito ospedaliero, grazie alla capacità di abilitare applicazioni di analisi di dati video e interfacce conversazionali AI in grado di esonerare in buona parte l’intervento umano per preservarne la sicurezza, specie in questi contesti dove sono presenti effettivi rischi dovuti a radiazioni o infezione biologica. L’operatore umano può supervisionare le attività dei robot operativi negli ambienti contaminati, che grazie alle funzionalità AI sono in grado di generare insight in tempo reale.

Retail: il negozio intelligente

Il retail è un ambito di applicazione che può godere di un’ampia gamma di soluzioni grazie all’Edge AI. L’Intelligenza Artificiale è infatti in grado di supportare moltissimi processi legati alla vendita al dettaglio e alle relazioni con i clienti, spesso avvalendosi di semplici smartphone o tablet.

I sistemi retail integrano infatti numerose applicazioni AI per migliorare il coinvolgimento digitale del cliente nella sua esperienza d’acquisto, oltre a facilitare molte operazioni per i dipendenti. Si pensi ai sistemi di computer vision per il riconoscimento dei codici a barre, indispensabili per verificare che l’articolo passato in cassa sia effettivamente quello associato al catalogo prodotti in back-end.

L’analisi dei dati video può inoltre attivare delle strategie di customer engagement in real time, notificando via app o sms al cliente dei suggerimenti per l’acquisto o delle promozioni personalizzate, ai fini di incentivare favorevolmente all’acquisto.

L’Edge AI risulta, inoltre, una tecnologia pratica ed efficace per la logistica, in quanto il monitoraggio delle merci consente di automatizzare le procedure di approvvigionamento degli scaffali, ottimizzando tutta la filiera, grazie alla generazione e alla gestione di ordini automatici.

Sicurezza stradale: i servizi della Smart City

Un contesto in cui l’Edge AI trova applicazione con crescente successo è caratterizzato dalla Smart City. Tra le funzioni che l’Intelligenza Artificiale è in grado di supportare nei servizi della città intelligente ritroviamo l’intero comparto della mobilità sicura, grazie a sistemi in grado di garantire un sensibile incremento della sicurezza stradale.

L’impiego di dispositivi IoT interconnessi come semafori, videocamere o lampioni dotati di funzionalità AI consente di regolare in maniera autonoma il traffico in funzione dei flussi di veicoli presenti, assicurandosi ad esempio che i servizi di emergenza abbiano puntualmente la precedenza rispetto al traffico ordinario.

La comunicazione tra servizi Edge AI e Cloud AI consente alla Smart City di individuare anomalie corrispondenti a conducenti pericolosi, ostacoli sulle sedi stradali e altre situazioni in cui automobilisti, ciclisti e pedoni possono aver bisogno di assistenza per garantire una mobilità sicura.

Default image
Francesco La Trofa
Da vent’anni attivo nella ricerca relativa alle tecnologie 3D, divulgatore sul tema delle applicazioni enterprise di tali tecnologie e autore di “VR Developer. Il creatore di contenuti in realtà virtuale ed aumentata” (2018), edito da Franco Angeli (vrdeveloper.info). Scrive di IT anche per il portale https://www.sergentelorusso.it/
Articles: 54