Чек-лист безопасности перед запуском внутреннего инструмента, созданного AI
Этот чек-лист безопасности AI-приложения предназначен для момента перед тем, как команда начнёт пользоваться внутренним инструментом, который создал AI. Он задаёт четыре вопроса: кто может войти, что видит каждый, где хранятся пароли и кто следит за инструментом. Большинство проверок можно сделать, просто пробуя, не читая никакого программного кода.
Зачем вообще чек-лист
Когда вы арендуете новый офис, перед переездом вы один раз обходите его. Запираются ли двери? У кого ключи? Где щиток? Инструмент, созданный AI, заслуживает такого же обхода. На экране он может выглядеть готовым и при этом иметь открытую дверь.
Как пользоваться списком
Проходите его вдвоём: один человек, который создал инструмент, и один, который не создавал. Пробует второй. Если не проходит проверка в первых трёх группах, подождите с запуском, пока это не исправят.
1. Вход
- Каждая страница требует входа. Скопируйте веб-адрес страницы внутри инструмента. Откройте приватное окно браузера и вставьте его. Если что-то показывается без входа, проверка не пройдена.
- У каждого свой аккаунт. Один общий пароль на всю команду значит, что вы никогда не узнаете, кто что сделал.
- Тестовых аккаунтов нет. Инструменты, созданные AI, часто сохраняют примеры логинов, которые появились при создании.
2. Просмотр и изменение
- Два человека видят разное. Войдите один раз как обычный пользователь и один раз как руководитель. Если оба видят всё, правила доступа так и не были созданы.
- Изменение веб-адреса не открывает чужую запись. Откройте запись, измените число в конце адреса и посмотрите, что произойдёт.
- Чувствительные данные действительно скрыты. Зарплаты, личные заметки и банковские данные должны быть невидимы для тех, кому их видеть нельзя.
- Удаление и скачивание ограничены теми, кому они нужны.
3. Пароли и соединения
- Ни один пароль не записан в самом инструменте. Многие инструменты подключаются к другим сервисам, например к почте или платёжному сервису, и для этого им нужен пароль или API-ключ. API-ключ это пароль, с помощью которого одна программа входит в другую. Спросите у AI, который создал инструмент: «Перечисли все места, где появляется ключ или пароль». Каждое из них должно находиться в защищённом месте.
- Пароли, использованные при создании, заменены. Они прошли через чаты и скриншоты.
4. Забота об инструменте
- Один названный человек отвечает за инструмент. Он знает, где хранятся данные, что есть резервная копия и как инструмент выключить.
О чём список не скажет
Эти проверки находят распространённые видимые пробелы. Они не заменяют проверку разработчиком. Если инструмент содержит данные клиентов, принимает платежи или доступен людям извне компании, пусть разработчик посмотрит его перед запуском.
Важно и то, как инструмент создан. Если AI написал отдельную программу, каждая проверка на вас. Если инструмент создан внутри платформы, которая уже обеспечивает вход, правила доступа и хранилище, первые группы превращаются в настройки, которые нужно лишь подтвердить.
После запуска
- Повторяйте группы с 1 по 3 после каждого крупного изменения. Когда AI переписывает часть инструмента, ранее действовавшая защита может пропасть незаметно.
- Убирайте людей, которым доступ больше не нужен, в определённый день каждого месяца.
Как с этим работает Worknano
Инструменты, созданные как модули в Worknano, начинают работу с уже готовыми группами с 1 по 3. Доступ задаётся один раз через роли. Правила определяют, какие записи и какие поля видит человек, поэтому чувствительные данные, например зарплаты, остаются скрытыми. Новый собственный модуль автоматически получает те же правила доступа. Изменения ролей, новые права доступа и выгрузки записываются в журнал: кто, что и когда сделал. Общие логины и API-ключи попадают в Secrets, зашифрованное хранилище. Там роли определяют, кто видит запись, люди могут запрашивать доступ, а вы видите, кто просматривал или копировал её.