Gli agenti IA possono andare fuori controllo?
Gli agenti IA possono andare fuori controllo? Non come nei film. Un agente IA è un programma che usa l'IA per svolgere compiti al posto tuo. Non ha desideri propri e non fa nulla tra un compito e l'altro. Ma può fraintendere un compito e fare la cosa sbagliata. Quanto danno provoca dipende da ciò che l'agente può raggiungere, e questo lo decidi tu.
Che aspetto ha il «fuori controllo» in un'azienda vera
I casi realistici sono ordinari. L'agente cerca di fare il proprio lavoro e lo fa male.
- Ti prende troppo alla lettera. Gli dici di «svuotare l'elenco degli scaduti» e segna le attività come fatte. L'elenco è vuoto. Il lavoro no.
- Non sa dove fermarsi. Gli chiedi di ricordare ai ritardatari di pagare e scrive a ogni cliente con una fattura aperta, anche a chi ha ancora tempo.
- Mette in ordine troppo bene. Gli chiedi di togliere i duplicati e unisce due clienti diversi che hanno lo stesso nome.
- Ascolta la voce sbagliata. Una riga dentro un'email gli dice cosa fare e lui obbedisce. Questo trucco si chiama prompt injection e ha un suo articolo.
Pensa a un assistente volenteroso al primo giorno. Ha buone intenzioni. Il rischio non è la cattiva volontà. Il rischio è un malinteso unito alle chiavi di tutte le stanze.
Tre cose che devono coincidere
Ognuno di questi casi richiede tre cose insieme:
- un compito che si può capire in più di un modo,
- più accesso di quanto serva al lavoro,
- nessuno che guardi prima che il risultato sia definitivo.
Togline una e l'incidente si riduce a un suggerimento sbagliato che qualcuno rifiuta. L'accesso è la più facile da controllare delle tre, perché non dipende da come si comporta l'IA in un certo giorno.
L'esercizio del giorno peggiore
Prima che un agente inizi a lavorare, prenditi dieci minuti e rispondi per iscritto a cinque domande.
- Cosa può leggere questo agente?
- Cosa può modificare, inviare o cancellare?
- Supponi che sbagli tutto in un colpo solo. Quale sarebbe il danno?
- Quanto potresti annullare entro domattina?
- Come te ne accorgeresti e chi può fermarlo?
Se la risposta alla terza domanda ti preoccupa, non cercare una formulazione migliore nelle istruzioni. Accorcia gli elenchi delle domande uno e due finché il giorno peggiore è solo un brutto pomeriggio.
Tenere piccolo il raggio d'azione
- Un agente, un lavoro. Un agente per le fatture non ha niente da fare nei fascicoli del personale.
- Nessuna chiave universale. L'agente agisce per una persona precisa, con i diritti di quella persona. Non riceve mai un account condiviso che può fare tutto.
- Parti dalla lettura. Consenti le modifiche più tardi, area per area, quando i risultati se le sono guadagnate.
- Tieni un interruttore. Qualcuno deve sapere come mettere in pausa l'agente e avere il permesso di farlo.
Cosa non può fare un agente
Aiuta conoscere i confini della preoccupazione. Un agente non può darsi diritti che non gli sono stati dati. Non può usare uno strumento che nessuno ha collegato. Non parte da solo: lo avvia una persona, una pianificazione o un evento. Non conserva nessun piano nascosto da un compito al successivo. Tutto ciò che fa passa attraverso l'accesso che hai configurato. Per questo «andare fuori controllo» è una questione di configurazione molto più che di IA.
Come lo gestisce Worknano
In Worknano un agente può leggere solo ciò che l'utente collegato può leggere. Quando vuole cambiare qualcosa, ti mostra prima la modifica e aspetta la tua conferma. Non può aggirare i permessi. I ruoli definiscono cosa ogni persona può vedere e fare, fino ai singoli campi e righe, e l'agente resta dentro il ruolo di chi ha fatto la richiesta. Inoltre ogni agente riceve solo gli strumenti che gli servono.
- Ruoli e permessi in Worknano
- Demo: l'agente propone e aspetta il tuo sì
- Crea il tuo agente, con i suoi limiti dichiarati con onestà
Crea un workspace gratuito e scopri fin dove arriva un agente con il tuo ruolo.