Chi è responsabile degli errori dell'IA?
Chi è responsabile degli errori dell'IA? Come regola pratica, l'azienda che mette al lavoro un'IA risponde di ciò che fa, come risponde dei suoi altri strumenti e dei suoi dipendenti. Un'IA non è una persona e non può assumersi responsabilità. Questo articolo dà un orientamento generale. Non è una consulenza legale, e i dettagli dipendono dal tuo paese, dal tuo settore e dai tuoi contratti.
Perché «l'ha fatto l'IA» non è una risposta
Un cliente ha a che fare con la tua azienda, non con i tuoi strumenti. Se la cassa di un panificio stampa il prezzo sbagliato, il cliente parla con il panettiere, non con il produttore della cassa. Con l'IA è lo stesso. Se un agente IA, un programma che usa l'IA per svolgere compiti al posto tuo, manda un prezzo sbagliato, la tua azienda ha mandato un prezzo sbagliato.
Se quel prezzo ti vincola e se dopo puoi rivolgerti a un fornitore sono questioni legali per un consulente. Nella pratica di tutti i giorni la regola prudente è semplice: ciò che esce dalla tua azienda a tuo nome è tuo.
Cosa puoi stabilire oggi
Le questioni legali non puoi risolverle da solo. Puoi risolvere quella interna: chi in azienda si occupa di cosa. Un agente di cui nessuno si occupa è il vero rischio. Bastano pochi ruoli chiari. In una piccola azienda una persona può ricoprirne diversi.
| Ruolo | Risponde di | Esempio |
|---|---|---|
| Direzione | Quali compiti può svolgere l'IA e le regole per farlo | «Gli agenti possono preparare le bozze delle email ai clienti. Non possono inviarle.» |
| Responsabile dell'agente | A cosa serve l'agente e quanto bene funziona | Il responsabile vendite è il responsabile dell'agente di follow-up |
| Amministratore | Cosa l'agente può raggiungere | L'agente di follow-up vede le trattative, non le buste paga |
| Chi approva | Ogni proposta a cui dice sì | Il commerciale legge la bozza prima che parta |
Tre situazioni, smistate
- L'agente ha agito da solo, entro le sue regole, e il risultato era sbagliato. La regola consentiva troppo. La direzione e il responsabile dell'agente la restringono.
- Una persona ha approvato una proposta sbagliata. Chi approva risponde del suo sì. Ma se le proposte sono troppo lunghe o troppo poco chiare per essere controllate, anche il responsabile dell'agente ha del lavoro da fare.
- Qualcuno ha usato un agente per qualcosa per cui non era pensato. Risponde prima quella persona. Se l'agente non avrebbe mai dovuto avere quell'accesso, risponde anche l'amministratore.
Una pagina da mettere per iscritto
Una piccola azienda non ha bisogno di una policy sull'IA voluminosa. Basta una pagina.
- Quali compiti può svolgere l'IA e quali no.
- Quali azioni richiedono il sì di una persona.
- Chi è il responsabile di ogni agente, con nome e cognome.
- Come si segnala un errore, chi lo corregge e chi lo comunica al cliente.
- Una data in cui la pagina viene rivista.
Mostra questa pagina una volta ai tuoi consulenti legali e assicurativi. Possono dirti cosa aggiunge il tuo settore. Leggi anche cosa dicono sugli errori i tuoi contratti con i fornitori di software, prima di affidarti a un agente per qualcosa che costa denaro.
Responsabilità non vuol dire colpa
Lo scopo di nominare i responsabili è che qualcuno agisca quando qualcosa va storto. Se dire sì alla proposta di un agente significa portare tutta la colpa, le persone smettono di dire sì e l'agente smette di essere utile. Rendi normale segnalare in fretta un risultato sbagliato. Considera ogni segnalazione un motivo per migliorare la configurazione. E tieni traccia di ciò che l'agente ha fatto, così la discussione riguarda i fatti.
Come lo gestisce Worknano
In Worknano un agente lavora entro i permessi della persona che ha fatto la richiesta. Quindi ogni azione di un agente appartiene a un utente con nome e cognome. Gli agenti propongono modifiche, e quella persona vede i valori e li conferma. Le decisioni che spettano a un responsabile passano dal modulo Approvals, dove ogni approvazione e rifiuto viene registrato con l'orario e l'utente. Le approvazioni seguono la struttura della tua organizzazione, così la richiesta arriva al responsabile giusto.
Crea un workspace gratuito e dai a ogni azione degli agenti un responsabile con nome e cognome.