Beveiligingschecklist voor je een interne tool lanceert die AI heeft gebouwd
Deze beveiligingschecklist voor AI-apps is bedoeld voor het moment voordat je team een interne tool gaat gebruiken die een AI heeft gebouwd. Hij vraagt vier dingen: wie kan erin, wat kan elke persoon zien, waar worden wachtwoorden bewaard en wie zorgt voor de tool. De meeste controles doe je door gewoon dingen uit te proberen, zonder programmacode te lezen.
Waarom überhaupt een checklist
Als je een nieuw kantoor huurt, loop je er één keer doorheen voordat je erin trekt. Gaan de deuren op slot? Wie heeft een sleutel? Waar zit de meterkast? Een tool die door AI is gebouwd, verdient dezelfde ronde. Hij kan er op het scherm af uitzien en toch een open deur hebben.
Hoe je de lijst gebruikt
Loop hem door met twee mensen: degene die de tool heeft gebouwd en iemand die dat niet heeft gedaan. De tweede persoon doet het uitproberen. Als een controle in de eerste drie groepen faalt, wacht dan met de lancering tot het is opgelost.
1. Binnenkomen
- Elke pagina vraagt om een login. Kopieer het webadres van een pagina in de tool. Open een privévenster in je browser en plak het erin. Als er iets verschijnt zonder login, faalt de controle.
- Iedereen heeft een eigen account. Eén gedeeld wachtwoord voor het hele team betekent dat je nooit kunt zien wie wat heeft gedaan.
- Testaccounts zijn weg. Tools die met AI zijn gebouwd, houden vaak de voorbeeldlogins die tijdens het bouwen zijn gemaakt.
2. Zien en wijzigen
- Twee mensen zien verschillende dingen. Log één keer in als gewone gebruiker en één keer als manager. Als beiden alles zien, zijn er nooit toegangsregels gebouwd.
- Het webadres wijzigen opent niet het item van iemand anders. Open een item, verander het getal aan het eind van het adres en kijk wat er gebeurt.
- Gevoelige gegevens zijn echt verborgen. Salarissen, privénotities en bankgegevens moeten onzichtbaar zijn voor mensen die ze niet mogen zien.
- Verwijderen en downloaden is beperkt tot de mensen die het nodig hebben.
3. Wachtwoorden en koppelingen
- Er staat geen wachtwoord in de tool zelf. Veel tools koppelen aan andere diensten, zoals e-mail of een betaaldienst, en hebben daarvoor een wachtwoord of een API-sleutel nodig. Een API-sleutel is een wachtwoord waarmee het ene programma inlogt bij een ander. Vraag de AI die de tool heeft gebouwd: "Noem elke plek waar een sleutel of wachtwoord voorkomt." Elk daarvan hoort op een beschermde plek.
- Wachtwoorden die tijdens het bouwen zijn gebruikt, zijn vervangen. Ze zijn door chats en schermafbeeldingen gegaan.
4. Ervoor zorgen
- Eén genoemde persoon is verantwoordelijk voor de tool. Die persoon weet waar de gegevens zijn opgeslagen, dat er een back-up is en hoe je de tool uitzet.
Wat de lijst je niet kan vertellen
Deze controles vinden de gewone, zichtbare gaten. Ze vervangen geen controle door een ontwikkelaar. Als de tool klantgegevens bevat, betalingen aanneemt of bereikbaar is voor mensen buiten het bedrijf, laat dan voor de lancering een ontwikkelaar ernaar kijken.
Ook hoe de tool is gebouwd telt. Als de AI een los programma schreef, is elke controle van jou. Als de tool is gebouwd binnen een platform dat al login, toegangsregels en opslag levert, worden de eerste groepen instellingen die je alleen hoeft te bevestigen.
Na de lancering
- Herhaal groep 1 tot en met 3 na elke grotere wijziging. Als een AI een deel van een tool herschrijft, kan een eerdere beveiliging ongemerkt verdwijnen.
- Verwijder mensen die geen toegang meer nodig hebben op een vaste dag elke maand.
Zo pakt Worknano dit aan
Tools die als modules in Worknano zijn gebouwd, starten met groep 1 tot en met 3 op orde. Toegang stel je één keer in via rollen. Regels bepalen welke records een persoon ziet, en welke velden, zodat gevoelige gegevens zoals salarissen verborgen blijven. Een nieuwe eigen module krijgt automatisch dezelfde toegangsregels. Rolwijzigingen, nieuwe toegangsrechten en exports worden vastgelegd met wie wat deed en wanneer. Gedeelde logins en API-sleutels gaan in Secrets, een versleutelde kluis. Daar bepalen rollen wie een item ziet, kunnen mensen toegang aanvragen en kun je zien wie het bekeek of kopieerde.
- Permissions: rollen, toegang en wie wat kan zien
- Secrets: een wachtwoordkluis voor je team in de workspace
- Beveiliging en infrastructuur
Maak een gratis workspace en bouw je volgende interne tool waar de toegangsregels al bestaan.