Worknano

Кто отвечает за ошибки ИИ?

Updated 2026-11-15

Кто отвечает за ошибки ИИ? Как правило, за то, что делает ИИ, отвечает компания, которая поставила его на работу, так же как она отвечает за другие свои инструменты и за сотрудников. ИИ не человек и сам нести ответственность не может. Эта статья даёт общую ориентировку. Это не юридическая консультация, а детали зависят от вашей страны, вашей сферы деятельности и ваших договоров.

Почему «это сделал ИИ» не ответ

Клиент имеет дело с вашей компанией, а не с вашими инструментами. Если касса в пекарне пробила неверную цену, клиент разговаривает с пекарем, а не с производителем кассы. С ИИ так же. Если ИИ-агент, программа, которая с помощью ИИ выполняет за вас задачи, отправил неверную цену, то неверную цену отправила ваша компания.

Обязывает ли вас эта цена и можно ли потом обратиться к поставщику, это юридические вопросы для консультанта. Для повседневной практики надёжное допущение простое: всё, что уходит из вашей компании под вашим именем, ваше.

Что можно решить уже сегодня

Юридические вопросы в одиночку не решить. Решить можно внутренний: кто в вашей компании за что отвечает. Настоящий риск это агент, за которым никто не следит. Достаточно нескольких чётких ролей. В малой компании один человек может совмещать несколько.

РольОтвечает заПример
РуководствоКакие задачи может выполнять ИИ и правила для них«Агенты могут писать черновики писем клиентам. Отправлять их нельзя».
Владелец агентаДля чего нужен агент и насколько хорошо он работаетРуководитель продаж отвечает за агента для напоминаний
АдминистраторДо чего агент может дотянутьсяАгент для напоминаний видит сделки, но не ведомость зарплат
СогласующийЗа каждое предложение, которому он говорит «да»Менеджер по продажам читает черновик, прежде чем он уйдёт

Три ситуации по полочкам

Одна страница, которую стоит записать

Малой компании не нужна толстая политика по ИИ. Хватит одной страницы.

  1. Какие задачи ИИ может выполнять, а какие нет.
  2. Какие действия требуют согласия человека.
  3. Кто владелец каждого агента, по имени.
  4. Как сообщают об ошибке, кто её исправляет и кто сообщает клиенту.
  5. Дата, когда страницу пересматривают.

Покажите эту страницу один раз вашим юридическим и страховым консультантам. Они подскажут, что добавляет ваша сфера деятельности. Прочитайте также, что говорят об ошибках ваши договоры с поставщиками программ, прежде чем доверять агенту что-то, что стоит денег.

Ответственность это не вина

Смысл назначать владельцев в том, чтобы кто-то действовал, когда что-то идёт не так. Если сказать «да» предложению агента значит нести всю вину, люди перестанут говорить «да», и агент станет бесполезным. Сделайте нормой быстро сообщать о неверном результате. Каждое такое сообщение считайте поводом улучшить настройку. И ведите запись того, что делал агент, чтобы обсуждение шло о фактах.

Как с этим работает Worknano

В Worknano агент работает в рамках прав того, кто его спросил. Поэтому каждое действие агента принадлежит конкретному пользователю. Агенты предлагают изменения, а этот человек видит значения и подтверждает их. Решения, которые принадлежат руководителю, проходят через модуль Approvals, где каждое одобрение и отказ записываются со временем и пользователем. Согласования следуют структуре вашей организации, поэтому запрос доходит до нужного руководителя.

Создайте бесплатный workspace и назначьте владельца каждому действию агента.