Un agente AI non è un chatbot con un nome diverso: è un sistema in cui il modello decide quali strumenti usare e in che ordine per raggiungere un obiettivo. Più potere dai all'agente, più servono permessi, fallback e supervisione. Progettarlo bene è ingegneria, non prompt.
Cos'è un agente
Un agente combina un modello, un insieme di strumenti (tool/funzioni) e un loop di esecuzione: il modello osserva lo stato, decide un'azione, la esegue tramite uno strumento, legge il risultato e ripete fino a completare il compito.
La differenza con un chatbot è l'autonomia: l'agente agisce sul mondo (chiama API, scrive su database, invia email), non si limita a rispondere.
Strumenti, permessi e confini
Ogni strumento che dai all'agente è anche una superficie di rischio. Vanno definiti permessi minimi, confini chiari e azioni reversibili dove possibile.
- Principio del privilegio minimo: l'agente accede solo a ciò che gli serve
- Azioni distruttive o irreversibili → conferma umana obbligatoria
- Tool con input validati: l'agente non passa parametri arbitrari senza controllo
- Timeout e limiti: numero massimo di passi per evitare loop infiniti
Memoria, fallback e supervisione
Un agente robusto gestisce gli errori invece di ignorarli: se uno strumento fallisce, riprova, cambia strategia o si ferma e chiede aiuto. La memoria (stato, decisioni, risultati intermedi) va gestita esplicitamente.
while (!done && passi < MAX) {azione = modello.decidi(stato)if (azione.rischiosa) → richiedi conferma umanarisultato = esegui(azione) // con validazione inputstato = aggiorna(stato, risultato)}
Osservabilità: vedere cosa fa l'agente
Un agente senza logging è una scatola nera che agisce sui tuoi sistemi. Servono tracce di ogni decisione, strumento chiamato, input e output, per debugging, audit e miglioramento. Senza osservabilità non c'è governance possibile.
In sintesi
- Un agente agisce, non solo risponde: ogni strumento è anche un rischio.
- Privilegio minimo + conferma umana sulle azioni irreversibili.
- Gestisci esplicitamente errori, fallback, memoria e limiti di passi.
- Senza logging e tracciabilità un agente non è governabile.
FAQ tecniche
Quando serve un agente e quando basta un workflow?
Se i passi sono noti e fissi, un workflow deterministico è più affidabile e prevedibile. L'agente serve quando il percorso varia e va deciso dinamicamente. Spesso si combinano.
Come evito che un agente faccia danni?
Permessi minimi, validazione degli input degli strumenti, conferma umana sulle azioni critiche, limiti di esecuzione e logging completo. La sicurezza è nell'architettura, non nel prompt.