Human in the loop и human on the loop: когда AI должен спрашивать заранее?
Human in the loop означает, что AI спрашивает человека до действия. Human on the loop означает, что AI действует сам, а человек проверяет потом и может вмешаться. Когда вы доверяете AI настоящую работу, главное решение в том, каким задачам достаётся какой из двух вариантов.
Сравнение из жизни
Представьте нового сотрудника. В первые недели он показывает вам каждое письмо перед отправкой. Это human in the loop. Позже он сам отправляет рутинные письма, а вы в конце недели просматриваете несколько из них. Это human on the loop. С AI выбор тот же.
| Human in the loop | Human on the loop | |
|---|---|---|
| AI | Предлагает | Действует |
| Человек | Сначала говорит «да» или «нет» | Проверяет потом |
| Скорость | Такая же, как у человека | Мгновенно |
| Подходит для | Дорогих шагов, которые трудно отменить | Частых мелких шагов, которые легко отменить |
Два вопроса, которые всё решают
О любом действии, которое мог бы выполнить AI, спросите:
- Можно ли легко это отменить? Изменённую дату можно. Письмо клиенту нельзя.
- Сколько стоит ошибка? Неверная метка стоит минуту. Неверный платёж стоит денег и доверия.
Если это легко отменить и ошибка обходится дёшево, пусть AI действует, а вы проверите позже. Если отменить трудно или ошибка дорогая, AI должен сначала спросить.
Список для старта в небольшой компании
- AI может действовать сам: сортировка и разметка, краткие изложения, внутренние заметки, напоминания.
- AI предлагает, человек подтверждает: смена дат или ответственного, массовые изменения записей, ответы клиентам.
- Всегда человек: платежи, договоры, удаление информации, найм и оплата труда, решение о том, кто что может видеть.
Как сделать так, чтобы вопросы заранее не тормозили работу
Вопросы заранее перестают работать, когда запросы накапливаются и никто на них не смотрит. Предотвратят это три привычки.
- Показывайте само изменение. «Срок: с 3 марта на 10 марта» можно подтвердить за секунду.
- Собирайте похожее вместе. Десять смен дат в одном вопросе, а не в десяти отдельных.
- Назначьте заместителя и срок. Если никто не ответил за два дня, вопрос уходит тому, кто может ответить.
По мере роста доверия правило можно ослабить. Если вы много раз подтверждали один и тот же вид изменений, ни разу не поправив, пусть он выполняется сам.
В любом случае ведите запись
Спрашивает AI заранее или действует сам, храните запись о том, что он сделал и когда. Если кто-то это одобрил, отметьте кто. По такой записи можно проверять всё позже. Она же показывает, где AI безопасно дать больше свободы.
Как с этим работает Worknano
Агенты в Worknano предлагают изменения и ждут вашего «да», прежде чем что-либо изменить. Вы видите, что именно изменится, и подтверждаете это. Для решений, которые принадлежат руководителю или финансовой команде, Approvals добавляют согласования несколькими людьми в заданном порядке, с ограничением по времени и постоянной историей. Каждый агент может делать только то, что разрешено человеку, который его попросил. Поэтому он никогда не изменит больше, чем мог бы этот человек.
Создайте бесплатный workspace и посмотрите, как агент спрашивает, прежде чем действовать.