Guardrails de agentes de IA, com exemplos
Os guardrails de agentes de IA são limites fixos à volta de um agente de IA que mantêm um erro pequeno. Um agente de IA é um programa que usa IA para executar tarefas por si. Os guardrails decidem o que o agente pode ver, o que pode fazer e quando tem de passar a mão a uma pessoa. Bons guardrails não dependem de a IA se portar bem. Aguentam-se mesmo quando ela erra.
Uma instrução não é um guardrail
Pense num cartão da empresa. Pode dizer a um colaborador: «Por favor, não gaste mais de 500 euros.» Isso é uma instrução. Ou o banco pode definir um limite de 500 euros no cartão. Isso é um guardrail. A primeira depende da pessoa. O segundo funciona aconteça o que acontecer.
Com um agente é igual. «Nunca ofereça mais de dez por cento de desconto» nas instruções é um pedido. O agente vai cumpri-lo quase sempre. Um guardrail é a verificação que trava um orçamento com doze por cento, seja o que for que o agente tenha escrito. Escreva também a instrução, mas não a conte como proteção.
Quatro tipos de guardrail, com exemplos
- O que vê. O agente de faturação só recebe perguntas sobre faturas. Pode ler encomendas e faturas. Não pode ler os salários.
- O que pode fazer. Pode preparar uma resposta. Não a pode enviar. Não tem forma de apagar nada.
- Quanto pode fazer. No máximo vinte registos de uma vez. Uma mensagem por cliente por dia. Reembolsos só até um valor definido.
- Quando passa a mão. Se um cliente mencionar um advogado, um cancelamento ou uma queixa sobre uma pessoa, o agente passa o caso a um chefe de equipa e não escreve nada.
Um conjunto de guardrails para um agente
Eis como pode ser um conjunto completo para um agente que redige respostas a pedidos de clientes.
- Só recebe pedidos que entraram pelo formulário de contacto.
- Lê as encomendas e os pedidos anteriores desse cliente, e os seus textos de ajuda. Mais nada.
- Escreve um rascunho. Não pode enviar.
- O rascunho tem de indicar o texto de ajuda ou a encomenda em que se baseia.
- Nunca promete uma data, um reembolso nem uma alteração de preço. Onde for preciso, deixa um espaço assinalado para a pessoa.
- Se não conseguir responder com o que leu, diz que não consegue e passa o pedido.
Seis regras, e cada uma pode ser verificada. Nenhuma pede ao agente que «tenha cuidado».
Como escrever um guardrail que funciona
- Pode ser verificado com sim ou não. «Reembolsos acima de 100 euros vão para as finanças» pode ser verificado. «Use bom senso nos reembolsos» não pode.
- Diz o que acontece a seguir. Parar, perguntar ou passar a uma função concreta. Uma regra que só bloqueia deixa trabalho por aí esquecido.
- Tem uma razão. Cada regra deve remontar a um erro que aconteceu ou que consegue imaginar claramente.
- Alguém cuida dele. Limites e listas desatualizam-se. Uma pessoa mantém-nos em dia.
Quantos guardrails chegam?
Comece restrito e vá soltando passo a passo à medida que o agente prova o que vale. Com guardrails a menos, uma má execução faz estragos. Com guardrails a mais, o agente passa tudo a outros e a sua equipa fica com a carga antiga mais uma fila. O equilíbrio está certo quando as passagens são uma pequena parte do trabalho e a maioria se revela justificada.
Como o Worknano trata disto
No Worknano, o que um agente pode alcançar vem de dois sítios: as ferramentas que dá a esse agente e a função da pessoa que pede. As alterações a registos aparecem como pré-visualização a confirmar. Para limites que dependem de um valor, as cadeias de aprovação podem incluir um passo como a aprovação das finanças só acima de um valor que escolher. As condições do workflow decidem que registos chegam sequer a um agente.
- Funções e permissões: o que cada função pode ver e fazer
- Approvals: cadeias, condições e escalonamento
- Workflows: condições antes de um passo de agente
Crie um workspace gratuito e defina os primeiros limites para um agente seu.