Cosa sono gli agenti AI?

I chatbot AI utilizzano tecniche di AI conversazionale come l'elaborazione del linguaggio naturale (NLP) per comprendere le domande degli utenti e automatizzare le risposte ad esse. Questi chatbot sono una modalità mentre l'agenzia è un framework tecnologico. 

Gli AI chatbot non agenti sono quelli che non dispongono di strumenti, memoria e ragionamento. Possono raggiungere solo obiettivi a breve termine e non sono in grado di pianificare in anticipo. Per come li conosciamo, i chatbot non agenti richiedono un input continuo da parte dell'utente per rispondere. Possono fornire risposte a richieste comuni che molto probabilmente sono in linea con le aspettative degli utenti ma offrono scarsi risultati su domande specifiche dell'utente e dei suoi dati. Poiché questi chatbot non hanno memoria, non possono imparare dai loro errori se le loro risposte sono insufficienti.

Al contrario, gli AI chatbot agenti imparano ad adattarsi alle aspettative degli utenti nel tempo, fornendo un'esperienza più personalizzata e risposte complete. Possono completare compiti complessi creando sotto-compiti senza l'intervento umano e considerando piani diversi. Questi piani possono anche essere corretti e aggiornati in base alle esigenze. Gli AI chatbot agenti, a differenza di quelli non agenti, valutano i loro strumenti e utilizzano le risorse disponibili per colmare le lacune informative. 

Non esiste un'architettura standard per la creazione di agenti AI. Esistono diversi paradigmi per risolvere problemi in più fasi.

Con questo paradigma, possiamo istruire gli agenti a "pensare" e pianificare dopo ogni azione intrapresa e con ogni risposta dello strumento per decidere quale strumento utilizzare successivamente. Questi cicli Think-Act-Observe vengono utilizzati per risolvere i problemi passo dopo passo e migliorare iterativamente le risposte.

Attraverso la struttura dei prompt, gli agenti possono essere istruiti a ragionare lentamente e a visualizzare ogni "pensiero".4 Il ragionamento verbale dell'agente fornisce insight su come vengono formulate le risposte. In questo framework, gli agenti aggiornano continuamente il loro contesto con nuovi ragionamenti. Questo può essere interpretato come una forma di chain-of-thought prompting.

Il metodo ReWOO, a differenza di ReAct, elimina la dipendenza dagli output degli strumenti per la pianificazione delle azioni. Gli agenti, invece, pianificano in anticipo. L'utilizzo di strumenti ridondanti viene evitato anticipando quali strumenti utilizzare al momento del prompt iniziale da parte dell'utente. Ciò è auspicabile da una prospettiva incentrata sull'uomo poiché l'utente può confermare il piano prima che venga eseguito.

Il workflow ReWOO è composto da tre moduli. Nel modulo di pianificazione, l'agente anticipa i suoi prossimi passi in base al suggerimento dell'utente. La fase successiva prevede la raccolta degli output prodotti chiamando questi strumenti. Infine, l'agente abbina il piano iniziale con gli output dello strumento per formulare una risposta. Questa pianificazione anticipata può ridurre notevolmente l'utilizzo dei token e la complessità computazionale, nonché le ripercussioni di un guasto intermedio dello strumento.⁵

Gli agenti AI possono essere sviluppati con diversi livelli di funzionalità. Un agente semplice può essere preferito per obiettivi semplici per limitare la complessità computazionale non necessaria. Esistono 5 tipi principali di agenti, dal più semplice al più avanzato:

Gli agenti con riflessi semplici sono la forma di agente più semplice che basa le azioni sulla percezione attuale. Questo agente non detiene alcuna memoria, né interagisce con altri agenti se mancano informazioni. Questi agenti agiscono in base a una serie di cosiddetti riflessi o regole. Ciò significa che l'agente è pre-programmato per eseguire azioni che corrispondono al soddisfacimento di determinate condizioni.

Se l'agente incontra una situazione per la quale non è preparato, non può rispondere in modo appropriato. Gli agenti sono efficaci solo in ambienti completamente osservabili che garantiscono l'accesso a tutte le informazioni necessarie.⁶

Esempio: un termostato che accende l'impianto di riscaldamento a un'ora prestabilita ogni notte. La regola della condizione-azione è, ad esempio, che se sono le 20:00, il riscaldamento si attiva.

Gli agenti con riflessi basati su modelli utilizzano sia la loro percezione attuale che la memoria per mantenere un modello interno del mondo. Man mano che l'agente continua a ricevere nuove informazioni, il modello viene aggiornato. Le azioni dell'agente dipendono dal suo modello, dai riflessi, dai precetti precedenti e dallo stato attuale.

Questi agenti, a differenza degli agenti con riflessi semplici, possono memorizzare informazioni e possono operare in ambienti parzialmente osservabili e mutevoli. Tuttavia, sono ancora limitati dal loro insieme di regole.⁶

Esempio: un robot aspirapolvere. Mentre pulisce una stanza sporca, rileva ostacoli come i mobili e si adatta a essi. Il robot memorizza anche un modello delle aree che ha già pulito per non rimanere bloccato in un ciclo di pulizia ripetuta.

Gli agenti basati su obiettivi hanno un modello interno del mondo e anche un obiettivo o un insieme di obiettivi. Questi agenti cercano sequenze di azioni per raggiungere il loro obiettivo e pianificano queste azioni prima di agire su di esse. Questa ricerca e pianificazione migliorano la loro efficacia rispetto agli agenti con riflessi semplici e basati su modello.⁷

Esempio: un sistema di navigazione che consiglia il percorso più veloce per raggiungere la destinazione. Il modello considera vari percorsi che raggiungono la destinazione prevista o, in altre parole, l'obiettivo. In questo esempio, la regola condizione-azione dell'agente stabilisce che se viene trovato un percorso più veloce, l'agente lo consiglia al suo posto.

Gli agenti basati sull’utilità selezionano la sequenza di azioni che raggiunge l’obiettivo e massimizza anche l’utilità o la ricompensa. L’utilità viene calcolata utilizzando una funzione di utilità. Questa funzione assegna un valore di utilità, una metrica che misura l’utilità di un’azione o quanto "felice" renderà l’agente, a ciascun scenario in base a un insieme di criteri fissi.

I criteri possono includere fattori quali la progressione verso l'obiettivo, i requisiti di tempo o la complessità computazionale. L'agente seleziona quindi le azioni che massimizzano l'utilità prevista. Pertanto, questi agenti sono utili nei casi in cui più scenari raggiungono un obiettivo desiderato e bisogna selezionarne uno ottimale.⁷

Esempio: un sistema di navigazione che consiglia il percorso verso la destinazione prevista che ottimizza l'efficienza del carburante e riduce al minimo il tempo trascorso nel traffico e il costo dei pedaggi. Questo agente misura l'utilità attraverso questa serie di criteri per selezionare il percorso più favorevole.

Gli agenti di apprendimento possiedono le stesse capacità degli altri tipi di agenti, ma si distinguono per la loro capacità di apprendere. Le nuove esperienze vengono aggiunte alla loro base di conoscenza iniziale, un processo che avviene in modo autonomo. Questo apprendimento migliora la capacità dell’agente di operare in ambienti sconosciuti. Gli agenti di apprendimento possono essere basati sull’utilità o sugli obiettivi nel loro ragionamento e sono composti da quattro elementi principali:⁷

• Apprendimento: questo migliora le conoscenze dell'agente che impara dall'ambiente attraverso i suoi precetti e sensori.
• Critico: fornisce un feedback all'agente per sapere se la qualità delle sue risposte soddisfa lo standard di prestazioni.
• Prestazioni: questo elemento è responsabile della selezione delle azioni dopo l'apprendimento.
• Generatore di problemi: crea varie proposte di azioni da intraprendere.

Esempio: consigli personalizzati su siti di e-commerce. Questi agenti tengono traccia dell'attività e delle preferenze dell'utente nella loro memoria. Queste informazioni vengono utilizzate per consigliare determinati prodotti e servizi all'utente. Il ciclo si ripete ogni volta che vengono formulate nuove raccomandazioni. L'attività dell'utente viene continuamente memorizzata a scopo di apprendimento. In tal modo, l'agente migliora la sua precisione nel tempo.

Con i continui progressi nell'AI generativa, c'è un crescente interesse verso l'ottimizzazione del workflow tramite l'AI, o automazione intelligente. Gli agenti AI sono strumenti di AI in grado di automatizzare attività complesse che altrimenti richiederebbero risorse umane. Ciò consente di raggiungere obiettivi in modo economico, rapido e su larga scala. A loro volta, questi progressi fanno sì che gli agenti umani non debbano fornire indicazioni all'assistente AI per la creazione e la gestione dei suoi compiti.

I framework multiagente tendono ad avere prestazioni superiori a quelle degli agenti singoli.11 Questo perché più piani d'azione sono disponibili per un agente, più processi di apprendimento e riflessione si verificano. Un agente AI che incorpora la conoscenza e il feedback di altri agenti AI specializzati in aree correlate può essere utile per la sintesi delle informazioni. Questa collaborazione nel backend tra agenti AI e la capacità di colmare le lacune nelle informazioni sono caratteristiche uniche dei framework di agenti, il che li rende uno strumento potente e un avanzamento significativo nell'intelligenza artificiale.

Gli agenti AI forniscono risposte più complete, accurate e personalizzate per l'utente rispetto ai modelli AI tradizionali. Questo è molto importante per gli utenti poiché risposte di qualità superiore in genere consentono un'esperienza migliore. Come descritto in precedenza, ciò è reso possibile dallo scambio di informazioni con altri agenti, l'utilizzo di strumenti esterni e l'aggiornamento del loro flusso di memoria. Questi comportamenti emergono autonomamente e non sono pre-programmati.¹²

Per svolgere determinati compiti complessi è necessaria la conoscenza di più agenti AI. Quando si implementano questi framework multiagente, esiste il rischio di malfunzionamento. I sistemi multiagente basati sugli stessi foundation model possono presentare insidie comuni. Tali debolezze potrebbero causare un malfunzionamento a livello di sistema di tutti gli agenti coinvolti o renderli vulnerabili ad attacchi dannosi. ¹³ Ciò evidenzia l'importanza della governance dei dati nella creazione dei foundation model e la necessità di processi di addestramento e test approfonditi.

La comodità del ragionamento automatico per gli utenti umani che utilizzano agenti AI comporta anche dei rischi. Gli agenti che non sono in grado di creare un piano completo o di riflettere sui loro risultati potrebbero ritrovarsi a chiamare ripetutamente gli stessi strumenti, generando loop di feedback infiniti. Per evitare queste ridondanze, potrebbe essere necessario un certo livello di monitoraggio umano in tempo reale.¹³

Creare agenti AI da zero richiede molto tempo e può essere anche molto costoso dal punto di vista computazionale. Le risorse necessarie per addestrare un agente ad alte prestazioni possono essere ingenti. Inoltre, a seconda della complessità del compito, gli agenti possono impiegare diversi giorni per completarlo.¹²

Per risolvere i problemi delle dipendenze multiagente, gli sviluppatori possono fornire agli utenti l'accesso a un log delle azioni degli agenti.¹⁴ Le azioni possono includere l'uso di strumenti esterni e descrivere gli agenti esterni utilizzati per raggiungere l'obiettivo. Questa trasparenza garantisce agli utenti insight sul processo decisionale iterativo, offre l'opportunità di rilevare errori e promuove la fiducia.

Si consiglia di evitare che gli agenti AI rimangano in funzione per periodi di tempo eccessivamente lunghi. In particolare, nei casi di cicli di feedback infiniti non voluti, di cambiamenti nell'accesso a determinati strumenti o di malfunzionamenti dovuti a difetti di progettazione. Un modo per raggiungere questo obiettivo è implementare l'interrompibilità.

Mantenere il controllo di ciò implica consentire agli utenti umani la possibilità di interrompere tranquillamente una sequenza di azioni o l'intera operazione. Scegliere se e quando interrompere un agente AI richiede una certa ponderazione, poiché alcune interruzioni possono causare più danni che benefici. Per esempio, può essere più sicuro consentire a un agente difettoso di continuare a fornire assistenza in un'emergenza critica, piuttosto che spegnerlo completamente.⁵

Per mitigare il rischio che i sistemi di agenti vengano utilizzati con cattive intenzioni, è possibile utilizzare identificatori univoci.14 Se questi identificatori fossero richiesti affinché gli agenti possano accedere a sistemi esterni, sarebbe più facile risalire all'origine degli sviluppatori, dei responsabili del loro impiego e degli utenti. Ciò sarebbe particolarmente utile in caso di uso improprio o danno involontario arrecato dall'agente. Questo livello di responsabilità fornirebbe un ambiente più sicuro per l'operatività di questi agenti AI.

Per facilitare il processo di apprendimento degli agenti AI, soprattutto nelle fasi iniziali in un nuovo ambiente, può essere utile fornire un feedback umano occasionale. Ciò consente all'agente AI di confrontare le sue prestazioni con lo standard previsto e di regolarsi di conseguenza. Questa forma di feedback è utile per migliorare l'adattabilità dell'agente alle preferenze dell'utente.⁵

Oltre a ciò, una best practice è quella di richiedere l'approvazione umana prima che un agente AI intraprenda azioni di grande impatto. Ad esempio, le azioni che vanno dall'invio di e-mail di massa al trading finanziario dovrebbero richiedere una conferma umana.⁷ Per questi settori ad alto rischio si raccomanda un certo livello di monitoraggio umano.