Quem é responsável pelos erros da IA?
Quem é responsável pelos erros da IA? Em regra, a empresa que põe uma IA a trabalhar responde pelo que ela faz, tal como responde pelas suas outras ferramentas e pelos seus colaboradores. Uma IA não é uma pessoa e não pode assumir responsabilidades. Este artigo dá uma orientação geral. Não é aconselhamento jurídico, e os pormenores dependem do seu país, do seu setor e dos seus contratos.
Porque é que «foi a IA» não é resposta
Um cliente lida com a sua empresa, não com as suas ferramentas. Se a caixa registadora de uma padaria imprime o preço errado, o cliente fala com o padeiro, não com o fabricante da caixa. Com a IA é igual. Se um agente de IA, um programa que usa IA para executar tarefas por si, envia um preço errado, foi a sua empresa que enviou um preço errado.
Saber se fica vinculado a esse preço, e se pode recorrer depois a um fornecedor, são questões jurídicas para um consultor. Na prática do dia a dia, a hipótese segura é simples: o que sai da sua empresa em seu nome é seu.
O que pode resolver hoje
Não consegue resolver sozinho as questões jurídicas. Consegue resolver a interna: quem, na sua empresa, cuida de quê. Um agente de que ninguém cuida é o verdadeiro risco. Bastam algumas funções claras. Numa pequena empresa, uma pessoa pode ter várias.
| Função | Responde por | Exemplo |
|---|---|---|
| Direção | Que tarefas a IA pode fazer e as regras para elas | «Os agentes podem redigir e-mails a clientes. Não os podem enviar.» |
| Responsável pelo agente | Para que serve o agente e como funciona | O diretor comercial é o responsável pelo agente de seguimento |
| Administrador | A que o agente tem acesso | O agente de seguimento vê negócios, não os salários |
| Aprovador | Cada proposta a que diz sim | O comercial lê o rascunho antes de sair |
Três situações, arrumadas
- O agente agiu sozinho, dentro das suas regras, e o resultado foi errado. A regra permitia demais. A direção e o responsável pelo agente apertam-na.
- Uma pessoa aprovou uma proposta errada. O aprovador responde pelo sim. Mas se as propostas são demasiado longas ou pouco claras para verificar, o responsável pelo agente também tem trabalho a fazer.
- Alguém usou um agente para algo para que não foi pensado. Essa pessoa responde primeiro. Se o agente nunca devia ter tido aquele acesso, o administrador também.
Uma página para pôr por escrito
Uma pequena empresa não precisa de uma política de IA volumosa. Uma página chega.
- Que tarefas a IA pode fazer e quais não pode.
- Que ações precisam do sim de uma pessoa.
- Quem é o responsável por cada agente, por nome.
- Como se comunica um erro, quem o corrige e quem avisa o cliente.
- Uma data em que a página é revista.
Mostre esta página uma vez aos seus consultores jurídicos e de seguros. Eles dirão o que o seu setor lhe acrescenta. Leia também o que os seus contratos com fornecedores de software dizem sobre erros antes de confiar num agente para qualquer coisa que custe dinheiro.
Responsabilidade não é culpa
O objetivo de nomear responsáveis é que alguém aja quando algo corre mal. Se dizer sim à proposta de um agente significa carregar toda a culpa, as pessoas deixam de dizer sim e o agente deixa de ser útil. Torne normal comunicar depressa um resultado errado. Trate cada comunicação como uma razão para melhorar a configuração. E guarde um registo do que o agente fez, para que a discussão seja sobre factos.
Como o Worknano trata disto
No Worknano, um agente trabalha dentro das permissões de quem o pediu. Assim, cada ação de um agente pertence a um utilizador identificado. Os agentes propõem alterações, e essa pessoa vê os valores e confirma-os. As decisões que cabem a um gestor passam pelo módulo Approvals, onde cada aprovação e rejeição fica registada com a hora e o utilizador. As aprovações seguem a estrutura da sua organização, por isso o pedido chega ao gestor certo.
- Approvals: quem aprovou e quando
- Funções e permissões
- Organization: equipas, funções e linhas hierárquicas
Crie um workspace gratuito e dê a cada ação de um agente um responsável identificado.