Worknano

Ограничения ИИ-агентов (guardrails): примеры

Updated 2026-11-15

Guardrails ИИ-агента, или ограничения, это жёсткие рамки вокруг агента, которые не дают ошибке разрастись. ИИ-агент это программа, которая с помощью ИИ выполняет за вас задачи. Ограничения определяют, что агент может видеть, что ему можно делать и когда он обязан передать дело человеку. Хорошие ограничения не зависят от того, хорошо ли ведёт себя ИИ. Они держатся, даже когда он ошибается.

Инструкция это ещё не ограничение

Подумайте о корпоративной карте. Сотруднику можно сказать: «Пожалуйста, не трать больше 500 евро». Это инструкция. А банк может поставить на карту лимит в 500 евро. Это ограничение. Первое зависит от человека. Второе работает при любых обстоятельствах.

С агентом так же. «Никогда не предлагай скидку больше десяти процентов» в его инструкциях это просьба. Агент выполнит её почти всегда. Ограничение это проверка, которая не пропустит предложение с двенадцатью процентами, что бы агент ни написал. Записывайте и инструкцию, но не считайте её защитой.

Четыре вида ограничений, с примерами

Набор ограничений для одного агента

Вот как может выглядеть полный набор для агента, который готовит ответы на обращения клиентов.

  1. Он получает только обращения, пришедшие через контактную форму.
  2. Он читает заказы и предыдущие обращения этого клиента, а также ваши справочные тексты. Больше ничего.
  3. Он пишет черновик. Отправить не может.
  4. В черновике должно быть названо справочное руководство или заказ, на которые он опирается.
  5. Он никогда не обещает дату, возврат или изменение цены. Там, где это нужно, он оставляет помеченный пропуск для человека.
  6. Если он не может ответить по тому, что прочитал, он так и говорит и передаёт обращение дальше.

Шесть правил, и каждое можно проверить. Ни одно не просит агента «быть осторожным».

Как написать ограничение, которое работает

Сколько ограничений достаточно?

Начните строго и ослабляйте шаг за шагом, когда агент докажет себя. Если ограничений слишком мало, один неудачный запуск наносит ущерб. Если слишком много, агент всё передаёт людям, и у вашей команды прежняя нагрузка плюс очередь. Баланс правильный, когда передач человеку немного и большинство из них оказывается оправданным.

Как с этим работает Worknano

В Worknano то, до чего может дотянуться агент, определяют два источника: инструменты, которые вы даёте этому агенту, и роль того, кто его спрашивает. Изменения записей появляются в виде предварительного просмотра, который нужно подтвердить. Для лимитов, зависящих от суммы, в цепочки согласования можно включить шаг, например одобрение финансового отдела только выше суммы, которую вы выберете. Условия workflow решают, какие записи вообще попадают к агенту.

Создайте бесплатный workspace и задайте первые ограничения для собственного агента.