Lista de seguridad antes de lanzar una herramienta interna hecha con IA
Esta lista de seguridad para apps hechas con IA es para el momento justo antes de que tu equipo empiece a usar una herramienta interna que construyó una IA. Pregunta cuatro cosas: quién puede entrar, qué puede ver cada persona, dónde se guardan las contraseñas y quién cuida la herramienta. La mayoría de las comprobaciones se hacen simplemente probando, sin leer nada de código.
Para qué una lista
Cuando alquilas una oficina nueva, la recorres una vez antes de mudarte. ¿Cierran las puertas? ¿Quién tiene llave? ¿Dónde está la caja de fusibles? Una herramienta hecha por IA merece el mismo recorrido. En pantalla puede parecer terminada y aun así tener una puerta abierta.
Cómo usar la lista
Repásala con dos personas: quien construyó la herramienta y otra que no. La segunda persona es la que prueba. Si falla una comprobación de los tres primeros grupos, espera con el lanzamiento hasta que se arregle.
1. Entrar
- Cada página pide inicio de sesión. Copia la dirección web de una página dentro de la herramienta. Abre una ventana privada del navegador y pégala. Si algo se muestra sin iniciar sesión, la comprobación falla.
- Cada persona tiene su propia cuenta. Una contraseña compartida para todo el equipo significa que nunca podrás saber quién hizo qué.
- Las cuentas de prueba han desaparecido. Las herramientas hechas con IA suelen conservar los accesos de ejemplo que se crearon durante la construcción.
2. Ver y cambiar
- Dos personas ven cosas distintas. Entra una vez como usuario normal y otra como responsable. Si ambos lo ven todo, nunca se construyeron reglas de acceso.
- Cambiar la dirección web no abre la entrada de otra persona. Abre una entrada, cambia el número del final de la dirección y mira qué pasa.
- Los datos sensibles están realmente ocultos. Los sueldos, las notas privadas y los datos bancarios deben ser invisibles para quien no puede verlos.
- Borrar y descargar están limitados a las personas que lo necesitan.
3. Contraseñas y conexiones
- Ninguna contraseña está escrita en la propia herramienta. Muchas herramientas se conectan a otros servicios, como el correo o un servicio de pagos, y necesitan para ello una contraseña o una clave API. Una clave API es una contraseña que un programa usa para iniciar sesión en otro. Pregunta a la IA que construyó la herramienta: «Enumera todos los lugares donde aparece una clave o contraseña». Cada una pertenece a un lugar protegido.
- Las contraseñas usadas durante la construcción se sustituyen. Han pasado por chats y capturas de pantalla.
4. Cuidarla
- Una persona concreta es responsable de la herramienta. Esa persona sabe dónde se guardan los datos, que hay copia de seguridad y cómo apagar la herramienta.
Lo que la lista no puede decirte
Estas comprobaciones encuentran los fallos comunes y visibles. No sustituyen la revisión de un desarrollador. Si la herramienta guarda datos de clientes, cobra pagos o es accesible para personas ajenas a la empresa, haz que un desarrollador la revise antes del lanzamiento.
También importa cómo se construyó la herramienta. Si la IA escribió un programa aparte, todas las comprobaciones son tuyas. Si la herramienta se construyó dentro de una plataforma que ya ofrece inicio de sesión, reglas de acceso y almacenamiento, los primeros grupos pasan a ser ajustes que solo tienes que confirmar.
Después del lanzamiento
- Repite los grupos 1 a 3 después de cada cambio importante. Cuando una IA reescribe parte de una herramienta, una protección anterior puede desaparecer sin que nadie lo note.
- Quita a las personas que ya no necesitan acceso un día fijo cada mes.
Cómo lo resuelve Worknano
Las herramientas creadas como módulos en Worknano empiezan con los grupos 1 a 3 ya resueltos. El acceso se define una vez mediante roles. Las reglas deciden qué registros ve una persona y qué campos, de modo que los datos sensibles, como los sueldos, siguen ocultos. Un módulo personalizado nuevo recibe automáticamente las mismas reglas de acceso. Los cambios de rol, los nuevos derechos de acceso y las exportaciones quedan registrados con quién hizo qué y cuándo. Los accesos compartidos y las claves API van a Secrets, una caja fuerte cifrada. Allí los roles deciden quién ve una entrada, las personas pueden solicitar acceso y puedes ver quién la consultó o la copió.