Cos'è l'edge AI?

In poche parole, l'edge AI, o "AI on the edge", si riferisce alla combinazione di edge computing e intelligenza artificiale per eseguire attività di machine learning direttamente su dispositivi edge interconnessi. L'edge computing consente di memorizzare i dati vicino alla posizione del dispositivo e gli algoritmi di AI consentono l'elaborazione direttamente sull'edge della rete, con o senza una connessione Internet. Questa funzionalità facilita il trattamento dei dati in pochi millisecondi, fornendo un feedback in tempo reale.

Le auto a guida autonoma, i dispositivi indossabili, le telecamere di sicurezza e gli elettrodomestici intelligenti sono tra le tecnologie che utilizzano le funzionalità dell'edge AI per fornire tempestivamente agli utenti informazioni in tempo reale quando è più essenziale.

L'edge AI sta diventando popolare man mano che i settori trovano nuovi modi per sfruttare la sua potenza per ottimizzare i workflow, automatizzare i processi aziendali e promuovere l'innovazione. Allo stesso tempo, aiuta ad affrontare preoccupazioni critiche come latenza, sicurezza e riduzione dei costi.

Scopri di più sulle soluzioni di edge computing di IBM.

L'edge AI consente il processo decisionale in loco, eliminando la necessità di trasmettere costantemente i dati a una posizione centrale e attendere l'elaborazione, il che semplifica l'automazione delle operazioni aziendali. Tuttavia, i dati devono ancora essere trasmessi al cloud per riaddestrare le pipeline di AI e implementare modelli aggiornati.

L'implementazione di questo modello in numerose sedi e diverse applicazioni presenta sfide come la data gravity, l'eterogeneità, la scalabilità e i vincoli delle risorse. L'AI distribuita aiuta a superare questi ostacoli integrando la raccolta intelligente dei dati, automatizzando i cicli di vita dei dati e dell'AI, adattando e monitorando i raggi e ottimizzando le pipeline di dati e AI.

L'intelligenza artificiale distribuita (DAI) è responsabile della distribuzione, del coordinamento e della previsione delle prestazioni di attività, obiettivi o decisioni in un ambiente multiagente. La DAI adatta le applicazioni a un gran numero di spoke e consente agli algoritmi AI di elaborare autonomamente su più sistemi, domini e dispositivi all'edge.

Attualmente, il cloud computing e le application programming interface (API) vengono utilizzate per addestrare e implementare modelli di machine learning. Successivamente, l'edge AI svolge attività di machine learning come l'analytics predittiva, il riconoscimento vocale e il rilevamento di anomalie in prossimità dell'utente, distinguendosi dai comuni cloud service in vari modi. Invece di sviluppare ed eseguire le applicazioni interamente sul cloud, i sistemi di edge AI elaborano e analizzano i dati più vicino al punto in cui sono stati creati. 

Gli algoritmi di machine learning sono in grado di essere eseguiti all'edge e le informazioni possono essere elaborate direttamente a bordo dei dispositivi IoT, piuttosto che in un data center privato o in una struttura di cloud computing.

L'edge AI si presenta come un'opzione migliore ogni volta che sono necessari la previsione e il trattamento dei dati in tempo reale. Consideriamo i più recenti progressi nella tecnologia dei veicoli a guida autonoma. Per garantire la navigazione sicura di queste auto e la loro prevenzione di potenziali pericoli, devono rilevare e rispondere rapidamente a una serie di fattori come segnali stradali, conducenti irregolari e cambi di corsia. Inoltre, devono tenere conto dei pedoni, dei cordoli e di numerose altre variabili.

La capacità dell'edge AI di elaborare localmente queste informazioni all'interno del veicolo attenua il rischio potenziale di problemi di connettività che potrebbero derivare dall'invio di dati a un server remoto attraverso l'AI basata sul cloud. In scenari di questo tipo, in cui risposte rapide ai dati potrebbero determinare esiti di vita o morte, la capacità del veicolo di reagire rapidamente è cruciale.

Al contrario, la cloud AI si riferisce all'implementazione di algoritmi e modelli di AI su server cloud. Questo metodo offre maggiori capacità di data storage e di elaborazione, facilitando l'addestramento e l'implementazione di modelli AI più avanzati.

Nel 2022, il mercato globale dell' edge AI era valutato 14.787,5 milioni di USD e dovrebbe crescere fino a 66,47 milioni di USD entro il 2023, secondo un rapporto condotto da Grand View Research, Inc. La crescente domanda di servizi di edge computing basati sull'IoT, insieme ai vantaggi intrinseci dell'edge AI, guida la rapida espansione dell'edge computing. I principali benefici dell'edge AI comprendono:

Grazie all'elaborazione completa sul dispositivo, gli utenti possono sperimentare rapidi intervalli di risposta senza ritardi causati dalla necessità di riportare le informazioni da un server distante.

Poiché l'edge AI elabora i dati a livello locale, riduce al minimo la quantità di dati trasmessi su Internet, con conseguente conservazione della larghezza di banda Internet. Quando si utilizza una larghezza di banda inferiore, la connessione dati può gestire un volume maggiore di trasmissione e ricezione simultanea di dati.

Gli utenti possono eseguire il trattamento dei dati in tempo reale sui dispositivi senza bisogno di connettività e integrazione del sistema, consentendo loro di risparmiare tempo consolidando i dati senza dover comunicare con altre sedi fisiche. Tuttavia, l'edge AI potrebbe avere difficoltà a gestire l'enorme volume e la diversità dei dati richiesti da alcune applicazioni AI. Per superare queste limitazioni, deve integrarsi con il cloud computing per utilizzarne le risorse e le capacità.

La privacy aumenta perché i dati non vengono trasferiti su un'altra rete, dove diventano vulnerabili agli attacchi informatici. Attraverso il trattamento delle informazioni localmente sul dispositivo, l'edge AI riduce il rischio di cattiva gestione dei dati. Nei settori soggetti alle normative sulla sovranità dei dati, l'edge AI può aiutare a mantenere la conformità elaborando e memorizzando localmente i dati all'interno di giurisdizioni designate.

Tuttavia, qualsiasi database centralizzato ha il potenziale per diventare un bersaglio allettante per potenziali aggressori, il che significa che l'edge AI è ancora esposta a rischi per la sicurezza.

L'edge AI espande i sistemi utilizzando piattaforme basate sul cloud e funzionalità edge intrinseche alle tecnologie dei produttori di attrezzatura originale (OEM), che comprendono sia software che hardware. Queste aziende OEM hanno iniziato a integrare funzionalità edge native nelle loro attrezzature, facilitando la scalabilità del sistema. Questa espansione consente inoltre alle reti locali di mantenere la funzionalità anche in situazioni in cui i nodi a monte o a valle subiscono tempi di inattività.

Le spese associate ai servizi di AI in hosting sul cloud possono essere elevate. L'edge AI offre la possibilità di utilizzare costose risorse cloud come un repository per l'accumulo di dati post-elaborazione, destinati all'analisi successiva piuttosto che alle operazioni immediate sul campo. Questo accorgimento riduce i workload dei computer e delle reti del cloud.

L'utilizzo di CPU, GPU e memoria subisce una notevole riduzione poiché i workload vengono distribuiti tra i dispositivi edge, evidenziando l'edge AI come l'opzione più conveniente tra le due.

Quando il cloud computing gestisce tutte le computazioni per un servizio, la posizione centralizzata sopporta un workload significativo. Le reti sopportano un traffico elevato per trasmettere i dati alla fonte centrale. Man mano che le macchine eseguono le attività, le reti tornano ad essere attive, trasmettendo i dati all'utente. I dispositivi edge eliminano questo continuo trasferimento di dati avanti e indietro. Di conseguenza, sia le reti che le macchine subiscono una riduzione dello stress quando vengono sollevate dall'onere della gestione di ogni aspetto.

Inoltre, le caratteristiche autonome dell'edge AI eliminano la necessità di una supervisione continua da parte dei data scientist. Sebbene l'interpretazione umana svolga un ruolo fondamentale nel determinare il valore finale dei dati e i risultati che producono, le piattaforme di edge AI si assumono parte di questa responsabilità. Questo cambiamento si traduce in definitiva in un risparmio sui costi per le aziende.

L'edge AI utilizza reti neurali e deep learning per addestrare i modelli a riconoscere, classificare e descrivere con precisione gli oggetti all'interno dei dati forniti. Questo processo di formazione di solito utilizza un data center centralizzato o il cloud per elaborare il volume sostanziale di dati necessari per la formazione del modello.

Dopo l'implementazione, i modelli di edge AI migliorano progressivamente nel tempo. Quando l'AI incontra un problema, i dati problematici vengono spesso trasferiti nel cloud per un ulteriore addestramento dei modelli AI iniziali, che alla fine sostituiscono il motore di inferenza all'edge. Questo ciclo di feedback contribuisce in modo significativo a migliorare le prestazioni del modello.

Attualmente, esempi comuni di edge AI comprendono smartphone, accessori indossabili per il monitoraggio della salute (ad esempio, orologi intelligenti), aggiornamenti sul traffico in tempo reale sui veicoli autonomi, dispositivi connessi ed elettrodomestici intelligenti. Vari settori stanno inoltre implementando sempre più applicazioni di edge AI all'avanguardia per ridurre i costi, automatizzare i processi, migliorare il processo decisionale e ottimizzare le operazioni.

Gli operatori sanitari stanno attraversando una trasformazione sostanziale attraverso l'implementazione pratica dell'edge AI e l'introduzione di dispositivi all'avanguardia. Se combinata con ulteriori avanzamenti nell'edge, questa tecnologia è pronta a creare sistemi sanitari più intelligenti, salvaguardando nel contempo la privacy dei pazienti e riducendo i tempi di risposta.

Utilizzando modelli AI incorporati localmente, i dispositivi di monitoraggio della salute indossabili valutano metriche come la frequenza cardiaca, la pressione sanguigna, i livelli di glucosio e la respirazione. I dispositivi di edge AI indossabili possono anche rilevare quando un paziente cade improvvisamente e avvisare gli operatori sanitari, una funzione già inclusa negli smartwatch più comuni sul mercato.

Dotando i veicoli di emergenza di funzionalità di trattamento dei dati rapido, i paramedici possono estrarre insight dai dispositivi di monitoraggio della salute e consultare i medici per determinare strategie efficaci di stabilizzazione del paziente. Allo stesso tempo, il personale del pronto soccorso può prepararsi a soddisfare le esigenze di assistenza specifiche dei pazienti. L'integrazione dell'edge AI in tali circostanze contribuisce a facilitare lo scambio in tempo reale di informazioni sanitarie critiche.

I produttori di tutto il mondo hanno avviato l'integrazione della tecnologia edge AI per rivoluzionare le loro operazioni di produzione, migliorando l'efficienza e la produttività nel processo.

I dati dei sensori possono essere utilizzati per identificare in modo proattivo le anomalie e prevedere i guasti delle macchine, un processo noto anche come manutenzione predittiva. I sensori dell'attrezzatura individuano le imperfezioni e notificano tempestivamente alla direzione le riparazioni cruciali, consentendo una risoluzione tempestiva e prevenendo i tempi di inattività operativi.

L'edge AI può essere applicata anche ad altre aree di necessità in questo settore, come il controllo della qualità, la sicurezza dei lavoratori, l'ottimizzazione della resa, gli analytics della supply chain e l'ottimizzazione del layout produttivo.

Non è un segreto che le aziende abbiano registrato una tendenza massiccia con l'aumento della popolarità dell'e-commerce e dello shopping online. I tradizionali negozi retail fisici sono stati costretti a innovare per creare un'esperienza di acquisto senza interruzioni e coinvolgere i clienti. Con questo cambiamento, sono emerse nuove tecnologie, come i negozi "pick-and-go", i carrelli della spesa intelligenti con sensori e le casse intelligenti. Queste soluzioni utilizzano la tecnologia edge AI per elevare e accelerare l'esperienza convenzionale in negozio dei clienti.

Il landscape contemporaneo è saturo di dispositivi "smart" come campanelli, termostati, frigoriferi, sistemi di intrattenimento e lampadine controllate. Queste case smart contengono ecosistemi di dispositivi che utilizzano l'edge AI per migliorare la qualità della vita dei residenti.

Che un residente debba identificare qualcuno alla porta o controllare la temperatura della propria casa tramite il proprio dispositivo, la tecnologia edge può elaborare rapidamente i dati in loco. Questa strategia elimina la necessità di trasmettere informazioni a un server remoto centralizzato, aiuta a mantenere la privacy del residente e riduce il rischio di accesso non autorizzato ai dati personali.

La velocità è di fondamentale importanza per i video analytics di sicurezza. Numerosi sistemi di computer vision non dispongono della velocità adeguata richiesta per l'analisi in tempo reale. Invece di elaborare localmente le immagini o i video acquisiti dalle telecamere di sicurezza, questi sistemi li trasmettono a una macchina basata su cloud dotata di funzionalità di trattamento ad alte prestazioni. Senza trattare i dati a livello locale, questi sistemi basati sul cloud incontrano ostacoli dovuti a problemi di latenza, caratterizzati da ritardi nel caricamento e nel trattamento dei dati.

Le applicazioni di computer vision e le funzionalità di rilevamento degli oggetti dell'edge AI sui dispositivi di sicurezza smart identificano le attività sospette, avvisano gli utenti e attivano gli allarmi. Queste funzionalità forniscono ai residenti un maggiore senso di sicurezza e tranquillità.