Modos de fallo de los agentes de IA y cómo detectar cada uno
Los modos de fallo de los agentes de IA son las formas típicas en que un agente de IA hace mal una tarea. Un agente de IA es un programa que usa IA para ejecutar tareas por ti. Puede mirar en el sitio equivocado, usar datos equivocados, pararse a medias o dar vueltas en círculo. Hay solo un puñado de estos errores, y cada uno se detecta con una comprobación sencilla.
Por qué los agentes fallan en silencio
El software normal falla con ruido. Muestra un mensaje de error y se detiene. Un agente tiende a fallar con educación. Te dice con una frase segura que el trabajo está hecho, mientras una parte falta o está mal.
Es como un becario entusiasta que dice «todo listo» después de archivar cuarenta de doscientas cartas. No te enteras esperando una queja. Te enteras mirando el resultado.
Seis modos de fallo de un vistazo
| Modo de fallo | Qué ves | Cómo detectarlo |
|---|---|---|
| Sitio equivocado | Busca en contactos cuando preguntaste por facturas | Dale al agente solo las herramientas que necesita |
| Datos equivocados | El tipo de entrada correcto, pero el cliente, la fecha o el importe equivocados | Haz que muestre los valores antes de guardarlos |
| Dar vueltas en círculo | Repite el mismo paso y nunca termina | Pon un límite de pasos y de tiempo |
| Pararse pronto | «Hecho», tras tres de diez elementos | Cuenta lo que entró y lo que salió |
| Hueco oculto | Una consulta falló y el agente siguió sin ella | Una consulta fallida debe detener el trabajo |
| Datos inventados | Un detalle creíble sin fuente | Pide la fuente de cada dato |
Los datos inventados suelen llamarse alucinaciones. Tienen su propio artículo.
Los dos que mejor se esconden
Pararse pronto y el hueco oculto merecen atención extra, porque en ambos casos la respuesta parece completa. Un resumen de «todas las solicitudes abiertas» se lee igual de bien cuando cubre cuarenta de doscientas.
El remedio es aburrido y funciona. Cada vez que un agente recorra una lista, anota el número de elementos al principio y compáralo al final. Y asegúrate de que el agente te diga con claridad cuando no pudo consultar algo. «No encontré nada» y «no pude consultar» nunca deben sonar igual.
Del síntoma a la causa
Cuando un trabajo sale mal, la respuesta final dice poco. Tres pasos llevan a la causa.
- Mira los pasos, no solo la respuesta. ¿Qué consultó el agente, en qué orden y qué volvió?
- Ponle nombre al modo de fallo. Busca su fila en la tabla. Si encajan dos filas, el trabajo probablemente es demasiado grande para un solo agente.
- Arregla el tipo de error, no el caso concreto. Si el agente miró en el sitio equivocado, quítale las herramientas que no necesita. Añadir una frase más a las instrucciones después de cada incidente las alarga y no las hace más seguras.
Qué fallos importan más
Un fallo que acaba en una frase equivocada en una pantalla cuesta un momento. Un fallo que acaba en una ficha de cliente modificada, un correo enviado o un pago cuesta más. Así que clasifica tus agentes según lo que toca su trabajo. Pon las comprobaciones más estrictas donde un error llegaría a tus datos o a un cliente. En el resto, basta con un vistazo rápido.
Cómo lo resuelve Worknano
En Worknano, el registro de auditoría guarda un historial de cada ejecución de un agente: qué entró, qué salió, qué modelo de IA se usó y cuánto tardó. Así una ejecución que salió mal se puede leer después. La forma de la respuesta de un agente se fija de antemano. Cuando un agente quiere cambiar un registro, te muestra una vista previa y tú confirmas. Donde la decisión corresponde a un responsable o a finanzas, el módulo Approvals la pasa por una cadena fija de personas, con plazos y escalado.
- Agentes de IA: entradas, salidas y el registro de auditoría
- Approvals: aprobaciones ordenadas con historial
- Demo: un cambio propuesto, confirmado antes de guardarse
Crea un workspace gratuito y lee tu primera ejecución de un agente paso a paso.