¿Quién es responsable de los errores de la IA?
¿Quién es responsable de los errores de la IA? Como regla general, la empresa que pone una IA a trabajar responde por lo que hace, igual que responde por sus demás herramientas y por su personal. Una IA no es una persona y no puede asumir responsabilidad por sí misma. Este artículo ofrece una orientación general. No es asesoramiento jurídico, y los detalles dependen de tu país, de tu sector y de tus contratos.
Por qué «lo hizo la IA» no es una respuesta
Un cliente trata con tu empresa, no con tus herramientas. Si la caja registradora de una panadería imprime un precio equivocado, el cliente habla con el panadero, no con el fabricante de la caja. Con la IA pasa lo mismo. Si un agente de IA, un programa que usa IA para ejecutar tareas por ti, envía un precio equivocado, tu empresa envió un precio equivocado.
Si ese precio te obliga y si después puedes acudir a un proveedor son cuestiones jurídicas para un asesor. Para el día a día, la suposición segura es simple: lo que sale de tu empresa con tu nombre es tuyo.
Lo que puedes dejar resuelto hoy
No puedes resolver tú solo las cuestiones jurídicas. Sí puedes resolver la interna: quién se ocupa de qué en tu empresa. Un agente del que nadie se ocupa es el verdadero riesgo. Bastan unos pocos roles claros. En una empresa pequeña, una misma persona puede tener varios.
| Rol | Responde de | Ejemplo |
|---|---|---|
| Dirección | Qué tareas puede hacer la IA y las reglas para ellas | «Los agentes pueden redactar correos a clientes. No pueden enviarlos.» |
| Responsable del agente | Para qué sirve el agente y lo bien que funciona | El jefe de ventas es responsable del agente de seguimiento |
| Administrador | A qué puede acceder el agente | El agente de seguimiento ve los tratos, no las nóminas |
| Aprobador | Cada propuesta a la que dice que sí | El comercial lee el borrador antes de que salga |
Tres situaciones, clasificadas
- El agente actuó solo, dentro de sus reglas, y el resultado fue erróneo. La regla permitía demasiado. La dirección y el responsable del agente la ajustan.
- Una persona aprobó una propuesta equivocada. El aprobador responde de su sí. Pero si las propuestas son demasiado largas o poco claras para revisarlas, el responsable del agente también tiene trabajo.
- Alguien usó un agente para algo para lo que no estaba pensado. Esa persona responde primero. Si el agente nunca debió tener ese acceso, el administrador también.
Una página para dejar por escrito
Una empresa pequeña no necesita una política de IA voluminosa. Una página basta.
- Qué tareas puede hacer la IA y cuáles no.
- Qué acciones necesitan el sí de una persona.
- Quién es responsable de cada agente, con nombre y apellido.
- Cómo se comunica un error, quién lo corrige y quién se lo cuenta al cliente.
- Una fecha en la que se revisa la página.
Enséñale esta página una vez a tus asesores jurídicos y de seguros. Pueden decirte qué añade tu sector. Lee también qué dicen tus contratos con los proveedores de software sobre los errores antes de apoyarte en un agente para algo que cueste dinero.
Responsabilidad no es culpa
El sentido de nombrar responsables es que alguien actúe cuando algo sale mal. Si decir que sí a la propuesta de un agente significa cargar con toda la culpa, la gente deja de decir que sí y el agente deja de ser útil. Haz que sea normal comunicar rápido un resultado erróneo. Trata cada aviso como un motivo para mejorar la configuración. Y guarda un registro de lo que hizo el agente, para que la conversación sea sobre hechos.
Cómo lo resuelve Worknano
En Worknano, un agente trabaja dentro de los permisos de la persona que lo pidió. Así, cada acción de un agente pertenece a un usuario con nombre. Los agentes proponen cambios, y esa persona ve los valores y los confirma. Las decisiones que corresponden a un responsable pasan por el módulo Approvals, donde cada aprobación y rechazo queda registrado con la hora y el usuario. Las aprobaciones siguen la estructura de tu organización, de modo que la solicitud llega al responsable adecuado.
- Approvals: quién dio el visto bueno y cuándo
- Roles y permisos
- Organization: equipos, roles y líneas de dependencia
Crea un workspace gratuito y dale un responsable con nombre a cada acción de un agente.