Guardrails para agentes de IA, con ejemplos
Los guardrails de un agente de IA son límites fijos alrededor de un agente que mantienen pequeño un error. Un agente de IA es un programa que usa IA para ejecutar tareas por ti. Los guardrails deciden qué llega a ver el agente, qué puede hacer y cuándo debe pasar el caso a una persona. Unos buenos guardrails no dependen de que la IA se porte bien. Aguantan incluso cuando se equivoca.
Una instrucción no es un guardrail
Piensa en una tarjeta de empresa. Puedes decirle a un empleado: «Por favor, no gastes más de 500 euros.» Eso es una instrucción. O el banco puede fijar un límite de 500 euros en la tarjeta. Eso es un guardrail. La primera depende de la persona. El segundo funciona pase lo que pase.
Con un agente es igual. «Nunca ofrezcas más de un diez por ciento de descuento» en sus instrucciones es una petición. El agente la cumplirá casi siempre. Un guardrail es la comprobación que frena un presupuesto con un doce por ciento, escriba lo que escriba el agente. Escribe también la instrucción, pero no la cuentes como protección.
Cuatro tipos de guardrail, con ejemplos
- Qué ve. El agente de facturación solo recibe preguntas sobre facturas. Puede leer pedidos y facturas. No puede leer las nóminas.
- Qué puede hacer. Puede preparar una respuesta. No puede enviarla. No tiene forma de borrar nada.
- Cuánto puede hacer. Como máximo veinte entradas de una vez. Un mensaje por cliente y día. Reembolsos solo hasta un importe fijado.
- Cuándo pasa el caso. Si un cliente menciona a un abogado, una baja o una queja sobre una persona, el agente pasa el caso a un responsable de equipo y no escribe nada.
Un conjunto de guardrails para un agente
Así puede verse un conjunto completo para un agente que redacta respuestas a solicitudes de clientes.
- Solo recibe solicitudes que llegaron por el formulario de contacto.
- Lee los pedidos y las solicitudes anteriores de ese cliente, y tus textos de ayuda. Nada más.
- Escribe un borrador. No puede enviar.
- El borrador debe nombrar el texto de ayuda o el pedido en que se apoya.
- Nunca promete una fecha, un reembolso ni un cambio de precio. Donde hace falta uno, deja un hueco marcado para la persona.
- Si no puede responder con lo que leyó, lo dice y pasa la solicitud.
Seis reglas, y cada una se puede comprobar. Ninguna le pide al agente que «tenga cuidado».
Cómo escribir un guardrail que funcione
- Se comprueba con un sí o un no. «Los reembolsos de más de 100 euros van a finanzas» se puede comprobar. «Usa buen criterio con los reembolsos» no.
- Dice qué pasa después. Parar, preguntar o pasar el caso a un rol concreto. Una regla que solo bloquea deja trabajo tirado.
- Tiene un motivo. Cada regla debería remontarse a un error que ocurrió o que puedes imaginar con claridad.
- Alguien la mantiene. Los límites y las listas se quedan anticuados. Una persona los mantiene al día.
¿Cuántos guardrails bastan?
Empieza estricto y afloja paso a paso a medida que el agente demuestre su valía. Con muy pocos guardrails, una mala ejecución hace daño. Con demasiados, el agente lo deriva todo, y tu equipo tiene la carga de antes más una cola. El equilibrio es el correcto cuando los traspasos son una parte pequeña del trabajo y la mayoría resultan estar justificados.
Cómo lo resuelve Worknano
En Worknano, lo que un agente puede alcanzar viene de dos sitios: las herramientas que le das a ese agente y el rol de la persona que pregunta. Los cambios en los registros aparecen como una vista previa que hay que confirmar. Para los límites que dependen de un importe, las cadenas de aprobación pueden incluir un paso como una aprobación de finanzas solo por encima de un importe que tú eliges. Las condiciones de un workflow deciden qué registros llegan siquiera a un agente.
- Roles y permisos: qué puede ver y hacer cada rol
- Approvals: cadenas, condiciones y escalado
- Workflows: condiciones antes de un paso con un agente
Crea un workspace gratuito y define los primeros límites para un agente tuyo.