Sicherheits-Checkliste für KI-gebaute interne Tools
Diese Sicherheits-Checkliste für KI-Apps ist für den Moment, bevor dein Team ein internes Tool nutzt, das eine KI gebaut hat. Sie fragt vier Dinge: wer hineinkommt, was jede Person sieht, wo Passwörter liegen und wer sich um das Tool kümmert. Die meisten Prüfungen schaffst du durch einfaches Ausprobieren, ohne Programmcode zu lesen.
Wozu überhaupt eine Checkliste
Wenn du neue Büroräume mietest, gehst du vor dem Einzug einmal herum. Schließen die Türen? Wer hat einen Schlüssel? Wo ist der Sicherungskasten? Ein von KI gebautes Tool verdient denselben Rundgang. Es kann auf dem Bildschirm fertig aussehen und trotzdem eine offene Tür haben.
So nutzt du die Liste
Geh sie zu zweit durch: mit der Person, die das Tool gebaut hat, und mit einer, die es nicht gebaut hat. Die zweite Person probiert aus. Fällt eine Prüfung in den ersten drei Gruppen durch, warte mit dem Start, bis sie behoben ist.
1. Hineinkommen
- Jede Seite verlangt einen Login. Kopiere die Webadresse einer Seite im Tool. Öffne ein privates Browserfenster und füge sie ein. Wird irgendetwas ohne Login angezeigt, ist die Prüfung durchgefallen.
- Jede Person hat ein eigenes Konto. Ein gemeinsames Passwort für das ganze Team heißt, dass du nie sagen kannst, wer was getan hat.
- Testkonten sind weg. Mit KI gebaute Tools behalten oft die Beispiel-Logins, die beim Bauen angelegt wurden.
2. Sehen und ändern
- Zwei Personen sehen Unterschiedliches. Melde dich einmal als normaler Benutzer an und einmal als Führungskraft. Sehen beide alles, wurden nie Zugriffsregeln gebaut.
- Die Webadresse zu ändern öffnet nicht den Eintrag einer anderen Person. Öffne einen Eintrag, ändere die Zahl am Ende der Adresse und sieh, was passiert.
- Sensible Angaben sind wirklich verborgen. Gehälter, private Notizen und Bankdaten sollten für Personen unsichtbar sein, die sie nicht sehen dürfen.
- Löschen und Herunterladen sind auf die Personen beschränkt, die es brauchen.
3. Passwörter und Verbindungen
- Kein Passwort steht im Tool selbst. Viele Tools verbinden sich mit anderen Diensten, etwa E-Mail oder einem Zahlungsdienst, und brauchen dafür ein Passwort oder einen API-Key. Ein API-Key ist ein Passwort, mit dem sich ein Programm bei einem anderen anmeldet. Frag die KI, die das Tool gebaut hat: „Liste jede Stelle auf, an der ein Key oder Passwort vorkommt.“ Jedes davon gehört an einen geschützten Ort.
- Passwörter, die beim Bauen benutzt wurden, sind ersetzt. Sie sind durch Chats und Screenshots gelaufen.
4. Pflege
- Eine namentlich genannte Person ist für das Tool verantwortlich. Sie weiß, wo die Daten gespeichert sind, dass es ein Backup gibt und wie man das Tool abschaltet.
Was die Liste dir nicht sagen kann
Diese Prüfungen finden die häufigen, sichtbaren Lücken. Sie ersetzen keine Prüfung durch einen Entwickler. Enthält das Tool Kundendaten, nimmt es Zahlungen an oder können Menschen außerhalb der Firma darauf zugreifen, lass vor dem Start einen Entwickler draufschauen.
Auch wie das Tool gebaut wurde, spielt eine Rolle. Hat die KI ein eigenes Programm geschrieben, ist jede Prüfung deine. Wurde das Tool in einer Plattform gebaut, die Login, Zugriffsregeln und Speicherung schon bietet, werden die ersten Gruppen zu Einstellungen, die du nur bestätigen musst.
Nach dem Start
- Wiederhole die Gruppen 1 bis 3 nach jeder größeren Änderung. Wenn eine KI einen Teil eines Tools neu schreibt, kann ein früherer Schutz unbemerkt verschwinden.
- Entferne Personen, die keinen Zugriff mehr brauchen, an einem festen Tag im Monat.
So löst Worknano das
Tools, die als Module in Worknano gebaut werden, starten mit den Gruppen 1 bis 3 schon an Ort und Stelle. Der Zugriff wird einmal über Rollen festgelegt. Regeln bestimmen, welche Datensätze eine Person sieht und welche Felder, sodass sensible Daten wie Gehälter verborgen bleiben. Ein neues eigenes Modul bekommt automatisch dieselben Zugriffsregeln. Rollenänderungen, neue Zugriffsrechte und Exporte werden protokolliert, mit wer wann was getan hat. Gemeinsame Logins und API-Keys kommen in Secrets, einen verschlüsselten Tresor. Dort bestimmen Rollen, wer einen Eintrag sieht, Personen können Zugriff anfragen, und du siehst, wer ihn angesehen oder kopiert hat.