Lista de verificação de segurança antes de lançar uma ferramenta interna feita com IA
Esta lista de verificação de segurança de apps feitas com IA serve para o momento antes de a sua equipa começar a usar uma ferramenta interna que uma IA construiu. Pergunta quatro coisas: quem pode entrar, o que cada pessoa vê, onde se guardam as palavras-passe e quem cuida da ferramenta. Pode fazer a maioria das verificações simplesmente experimentando, sem ler código de programação.
Porquê uma lista de verificação
Quando arrenda um escritório novo, dá uma volta antes de se mudar. As portas fecham à chave? Quem tem chave? Onde fica o quadro elétrico? Uma ferramenta construída por IA merece a mesma volta. Pode parecer acabada no ecrã e ter uma porta aberta.
Como usar a lista
Percorra-a com duas pessoas: quem construiu a ferramenta e quem não construiu. A segunda pessoa faz as experiências. Se uma verificação dos três primeiros grupos falhar, espere para lançar até estar resolvida.
1. Entrar
- Todas as páginas pedem início de sessão. Copie o endereço web de uma página dentro da ferramenta. Abra uma janela privada do navegador e cole-o. Se aparecer alguma coisa sem início de sessão, a verificação falha.
- Cada pessoa tem a sua conta. Uma palavra-passe partilhada por toda a equipa quer dizer que nunca saberá quem fez o quê.
- As contas de teste desapareceram. As ferramentas feitas com IA muitas vezes mantêm os acessos de exemplo criados durante a construção.
2. Ver e alterar
- Duas pessoas veem coisas diferentes. Inicie sessão uma vez como utilizador normal e outra como gestor. Se ambos veem tudo, as regras de acesso nunca foram construídas.
- Mudar o endereço web não abre a entrada de outra pessoa. Abra uma entrada, mude o número no fim do endereço e veja o que acontece.
- Os pormenores sensíveis estão mesmo escondidos. Salários, notas privadas e dados bancários devem ser invisíveis a quem não os pode ver.
- Apagar e descarregar estão limitados a quem precisa.
3. Palavras-passe e ligações
- Nenhuma palavra-passe está escrita na própria ferramenta. Muitas ferramentas ligam-se a outros serviços, como o email ou um serviço de pagamentos, e precisam de uma palavra-passe ou de uma chave API para isso. Uma chave API é uma palavra-passe que um programa usa para iniciar sessão noutro. Pergunte à IA que construiu a ferramenta: «Lista todos os sítios onde aparece uma chave ou palavra-passe.» Cada uma pertence a um lugar protegido.
- As palavras-passe usadas durante a construção foram substituídas. Passaram por chats e capturas de ecrã.
4. Cuidar da ferramenta
- Uma pessoa indicada é responsável pela ferramenta. Essa pessoa sabe onde os dados estão guardados, que existe uma cópia de segurança e como desligar a ferramenta.
O que a lista não lhe pode dizer
Estas verificações encontram as falhas comuns e visíveis. Não substituem a verificação de um programador. Se a ferramenta guarda dados de clientes, recebe pagamentos ou pode ser acedida por pessoas de fora da empresa, peça a um programador que a veja antes do lançamento.
A forma como a ferramenta foi construída também conta. Se a IA escreveu um programa separado, todas as verificações são suas. Se a ferramenta foi construída dentro de uma plataforma que já oferece início de sessão, regras de acesso e armazenamento, os primeiros grupos passam a ser definições que só precisa de confirmar.
Depois do lançamento
- Repita os grupos 1 a 3 depois de cada alteração maior. Quando uma IA reescreve parte de uma ferramenta, uma proteção anterior pode desaparecer sem ninguém reparar.
- Retire as pessoas que já não precisam de acesso num dia fixo de cada mês.
Como o Worknano trata disto
As ferramentas construídas como módulos no Worknano começam com os grupos 1 a 3 já tratados. O acesso define-se uma vez através de funções. As regras decidem que registos uma pessoa vê, e que campos, por isso os dados sensíveis, como salários, ficam escondidos. Um novo módulo personalizado recebe automaticamente as mesmas regras de acesso. As mudanças de função, os novos direitos de acesso e as exportações ficam registados com quem fez o quê e quando. Os acessos partilhados e as chaves API vão para o Secrets, um cofre cifrado. Aí, as funções decidem quem vê uma entrada, as pessoas podem pedir acesso e vê quem a consultou ou copiou.