Worknano

Типичные ошибки ИИ-агентов и как поймать каждую

Updated 2026-11-15

Типичные ошибки ИИ-агентов это характерные способы, которыми ИИ-агент неправильно выполняет задачу. ИИ-агент это программа, которая с помощью ИИ выполняет за вас задачи. Он может посмотреть не в том месте, взять не те данные, остановиться на полпути или ходить по кругу. Таких ошибок всего несколько, и каждую можно поймать простой проверкой.

Почему агенты ошибаются тихо

Обычная программа ломается громко. Она показывает сообщение об ошибке и останавливается. Агент ошибается вежливо. Он уверенным предложением сообщает, что работа сделана, хотя часть её не сделана или сделана неверно.

Это как старательный стажёр, который говорит «всё готово», подшив сорок писем из двухсот. Узнать об этом, дожидаясь жалобы, не получится. Узнаёшь, глядя на результат.

Шесть видов ошибок с первого взгляда

Вид ошибкиЧто вы видитеКак поймать
Не то местоОн ищет в контактах, когда вы спрашивали про счетаДайте агенту только нужные ему инструменты
Не те данныеЗапись правильного вида, но не тот клиент, дата или суммаПусть показывает значения до сохранения
Хождение по кругуОн повторяет один и тот же шаг и никак не заканчиваетЗадайте лимит шагов и времени
Ранняя остановка«Готово» после трёх элементов из десятиСчитайте, что вошло и что вышло
Скрытый пробелПоиск не удался, а агент продолжил без негоНеудавшийся поиск должен останавливать работу
Выдуманные фактыПравдоподобная деталь без источникаПросите источник для каждого факта

Выдуманные факты часто называют галлюцинациями. Им посвящена отдельная статья.

Две ошибки, которые прячутся лучше всего

Ранняя остановка и скрытый пробел требуют особого внимания, потому что в обоих случаях ответ выглядит полным. Сводка «всех открытых запросов» читается так же хорошо, даже если охватывает сорок из двухсот.

Лекарство скучное, но работает. Когда агент проходит по списку, запишите число элементов в начале и сравните в конце. И добейтесь, чтобы агент прямо говорил, когда не смог что-то найти. «Я ничего не нашёл» и «я не смог посмотреть» никогда не должны звучать одинаково.

От симптома к причине

Когда работа пошла не так, итоговый ответ говорит мало. К причине ведут три шага.

  1. Смотрите на шаги, а не только на ответ. Что агент искал, в каком порядке и что вернулось?
  2. Назовите вид ошибки. Найдите её строку в таблице. Если подходят две, задача, скорее всего, слишком велика для одного агента.
  3. Исправляйте вид ошибки, а не единичный случай. Если агент смотрел не в том месте, уберите ненужные ему инструменты. Если после каждого происшествия добавлять в инструкции ещё одно предложение, они станут длинными, но не безопаснее.

Какие ошибки важнее всего

Ошибка, которая заканчивается неверным предложением на экране, стоит одного мгновения. Ошибка, которая заканчивается изменённой записью клиента, отправленным письмом или платежом, стоит дороже. Поэтому сортируйте агентов по тому, чего касается их работа. Самые строгие проверки ставьте там, где ошибка попадёт в ваши данные или дойдёт до клиента. Везде остальное достаточно беглого взгляда.

Как с этим работает Worknano

В Worknano журнал аудита хранит запись каждого запуска агента: что поступило, что получилось, какая ИИ-модель использовалась и сколько это заняло времени. Поэтому запуск, который пошёл не так, можно потом прочитать. Форма ответа агента задаётся заранее. Когда агент хочет изменить запись, он показывает предварительный просмотр, и вы подтверждаете. Там, где решение принадлежит руководителю или финансовому отделу, модуль Approvals передаёт его по фиксированной цепочке людей, со сроками и эскалацией.

Создайте бесплатный workspace и прочитайте свой первый запуск агента шаг за шагом.