Guardrail per agenti IA, con esempi
I guardrail per agenti IA sono limiti fissi attorno a un agente IA che tengono piccolo un errore. Un agente IA è un programma che usa l'IA per svolgere compiti al posto tuo. I guardrail decidono cosa l'agente può vedere, cosa può fare e quando deve passare la mano a una persona. I buoni guardrail non si affidano al fatto che l'IA si comporti bene. Reggono anche quando sbaglia.
Un'istruzione non è un guardrail
Pensa a una carta aziendale. Puoi dire a un dipendente: «Per favore non spendere più di 500 euro.» Quella è un'istruzione. Oppure la banca può impostare sulla carta un limite di 500 euro. Quello è un guardrail. La prima dipende dalla persona. Il secondo funziona qualunque cosa accada.
Con un agente è lo stesso. «Non offrire mai più del dieci per cento di sconto» scritto nelle sue istruzioni è una richiesta. L'agente la seguirà quasi sempre. Un guardrail è il controllo che blocca un preventivo con il dodici per cento, qualunque cosa l'agente abbia scritto. Scrivi anche l'istruzione, ma non contarla come protezione.
Quattro tipi di guardrail, con esempi
- Cosa vede. L'agente della fatturazione riceve solo domande sulle fatture. Può leggere ordini e fatture. Non può leggere le buste paga.
- Cosa può fare. Può preparare una risposta. Non può inviarla. Non ha modo di cancellare nulla.
- Quanto può fare. Al massimo venti voci in una volta. Un messaggio per cliente al giorno. Rimborsi solo fino a un importo stabilito.
- Quando passa la mano. Se un cliente nomina un avvocato, una disdetta o un reclamo contro una persona, l'agente passa il caso a un responsabile e non scrive nulla.
Un insieme di guardrail per un agente
Ecco come può essere un insieme completo per un agente che prepara bozze di risposta alle richieste dei clienti.
- Riceve solo le richieste arrivate dal modulo di contatto.
- Legge gli ordini e le richieste precedenti di quel cliente e i tuoi testi di aiuto. Nient'altro.
- Scrive una bozza. Non può inviarla.
- La bozza deve nominare il testo di aiuto o l'ordine su cui si basa.
- Non promette mai una data, un rimborso o una modifica di prezzo. Dove ne serve uno, lascia uno spazio segnalato per la persona.
- Se non riesce a rispondere con ciò che ha letto, lo dice e passa la richiesta.
Sei regole, e ognuna si può controllare. Nessuna chiede all'agente di «fare attenzione».
Come scrivere un guardrail che funziona
- Si può verificare con un sì o un no. «I rimborsi sopra i 100 euro vanno alla contabilità» si può verificare. «Usa buon senso con i rimborsi» no.
- Dice cosa succede dopo. Fermarsi, chiedere o passare a un ruolo preciso. Una regola che si limita a bloccare lascia del lavoro in sospeso.
- Ha una ragione. Ogni regola dovrebbe risalire a un errore accaduto o a uno che puoi immaginare chiaramente.
- Qualcuno se ne occupa. Limiti ed elenchi invecchiano. Una persona li tiene aggiornati.
Quanti guardrail bastano?
Parti severo e allenta passo dopo passo man mano che l'agente si dimostra affidabile. Con troppo pochi guardrail, una sola esecuzione sbagliata fa danni. Con troppi, l'agente passa la mano su tutto e il tuo team ha il vecchio carico di lavoro più una coda. L'equilibrio è giusto quando i passaggi di mano sono una piccola parte del lavoro e la maggior parte risulta giustificata.
Come lo gestisce Worknano
In Worknano ciò che un agente può raggiungere dipende da due cose: gli strumenti che dai a quell'agente e il ruolo della persona che fa la richiesta. Le modifiche ai record compaiono come anteprima da confermare. Per i limiti che dipendono da un importo, le catene di approvazione possono includere un passaggio come l'approvazione della contabilità solo sopra un importo che scegli tu. Le condizioni del workflow decidono quali record arrivano a un agente.
- Ruoli e permessi: cosa può vedere e fare ogni ruolo
- Approvals: catene, condizioni ed escalation
- Workflow: condizioni prima di un passaggio con un agente
Crea un workspace gratuito e imposta i primi limiti per un agente tuo.