Модель выбирает инструмент по описанию, схеме и текущему контексту. Если несколько tools обещают сделать одно и то же, параметры неоднозначны или агенту показан слишком широкий набор, ошибки маршрутизации становятся закономерными.

Сохраните обезличенный trace: запрос, список доступных tools, выбранный tool, аргументы и ожидаемый выбор. Соберите набор подобных случаев, а не исправляйте один prompt без измерения.

Что проверить в первую очередь

Для ситуации «AI-агент вызывает неподходящий инструмент для пользовательской задачи» сначала зафиксируйте один воспроизводимый пример: время, идентификатор объекта, пользователя или операции, входные данные, версию приложения и фактический результат. Отдельно запишите ожидаемое поведение: доступные tools ограничены контекстом, их назначения не пересекаются, аргументы валидируются, а рискованные действия требуют подтверждения и проверяемой политики. Не меняйте сразу несколько настроек: один контролируемый шаг должен подтверждать или исключать одну гипотезу.

Начинайте с чтения состояния и журналов. До массового перерасчёта, повторной отправки, удаления записей или изменения прав подготовьте резервную копию и способ отката. Секреты, токены, персональные данные и содержимое документов в диагностические выгрузки не включайте.

  • Проверьте пересечение descriptions.
  • Уберите лишние tools из шага.
  • Сверьте required параметры и enums.
  • Определите риск и необходимость confirmation.

Почему возникает проблема

Видимый симптом обычно появляется в конце цепочки. Первичная ошибка может находиться в API, фоновой задаче, кеше, очереди, базе, правах доступа или внешнем сервисе. Основной риск этого сценария: агент читает не те данные, выполняет лишнее действие или запускает необратимую операцию в неправильной системе. Поэтому ручная правка итогового статуса часто временно скрывает проблему, но не устраняет причину.

Разбирайте события по хронологии и ищите первую точку расхождения с бизнес-правилом. Учитывайте повтор запроса, задержку события, параллельное выполнение и восстановление после временного отказа: именно в этих условиях проявляются ошибки согласованности и идемпотентности.

  • Названия слишком общие.
  • Контекст tenant отсутствует.
  • Schema допускает неоднозначные аргументы.
  • Fallback автоматически выполняет действие.

Пошаговая диагностика

Создайте безопасный тестовый сценарий, который не затрагивает реальные списания, рассылки и клиентские данные. Назначьте операции единый correlation ID и проследите его через запрос, бизнес-логику, базу, очередь и внешние интеграции. Для каждого этапа сохраните вход, результат, код ответа, длительность и версию записи.

Сравните рабочий и ошибочный случаи по одним полям. Проверьте формат идентификаторов, часовой пояс, порядок событий, права сервисной учётной записи и актуальность конфигурации на каждом экземпляре. Если результат зависит от повтора, задержки или конкретного узла, это важная часть причины, а не случайность.

  • Сравните успешные и ошибочные traces.
  • Проведите ablation списка tools.
  • Проверьте validation errors.
  • Измерьте confusion matrix по eval-набору.

Как построить безопасный выбор инструмента

Маршрутизация сочетает ограничение доступного набора, чёткий контракт каждого tool, серверную авторизацию и подтверждение перед значимым внешним действием.

Надёжная реализация хранит бизнес-состояние явно. У каждого значимого действия есть стабильный идентификатор, владелец, версия правила и проверяемый переход статуса. Повторная доставка события не создаёт второе действие, а запоздавший ответ не возвращает объект в невозможное состояние.

  • Tool names отражают одно действие.
  • Descriptions содержат условия применения и запреты.
  • Arguments строго типизированы.
  • Policy проверяет actor и resource независимо от модели.

Как исправить проблему

Разделите исправление кода и восстановление исторических данных. Сначала устраните подтверждённую первопричину, затем повторите исходный сценарий и только после этого готовьте контролируемую коррекцию записей. Для финансовых данных, прав и аудита предпочтительны компенсирующие действия, а не переписывание истории.

Для существующих записей сформируйте dry-run: объект, старое значение, предлагаемое новое значение и основание. Обновление должно быть идемпотентным, ограниченным точной выборкой и создавать отчёт. Любой временный обход ограничьте сроком, пользователями и областью действия.

  • Разделите неоднозначные tools.
  • Добавьте preconditions и examples.
  • Используйте allowlist по этапу.
  • Для низкой confidence задавайте уточнение вместо действия.

Безопасный порядок внедрения

  • Сохраните конфигурацию, связанные записи и необходимые журналы; отдельно проверьте реальное восстановление резервной копии.
  • Воспроизведите проблему на тестовом объекте и сохраните результат до изменения для последующего сравнения.
  • Внесите минимальное изменение под контролем версий, опишите причину, ожидаемый эффект и точный откат.
  • Проверьте нормальный сценарий, ошибочный ввод, повтор запроса, параллельную операцию и временный отказ зависимости.
  • Выпустите изменение на ограниченную долю трафика или один процесс, если архитектура это позволяет.
  • После стабильного наблюдения исправьте исторические данные отдельным контролируемым запуском.

Как проверить результат

Один успешный пример недостаточен. Проверьте крайние значения, одновременные действия, перезапуск процесса и восстановление после сбоя сети. Результат подтверждайте не только интерфейсом, но и состоянием базы, очереди, внешнего сервиса и журналом аудита. Особенно важна повторная доставка уже обработанного события.

Критерии приёмки сформулируйте заранее. Каждый пункт должен давать однозначный ответ, а не субъективную оценку. Если тест нельзя автоматизировать, сохраните короткий регрессионный чек-лист с тестовыми данными и ожидаемыми статусами.

  • Eval покрывает похожие намерения.
  • Неполный запрос не выполняет действие.
  • Чужой tenant отклоняется сервером.
  • Повтор tool call идемпотентен.

Типичные ошибки при исправлении

  • Давать агенту все инструменты всегда.
  • Полагаться только на prompt для безопасности.
  • Скрывать ошибки tool.
  • Автоматически подтверждать необратимое действие.

Не отключайте авторизацию, валидацию, TLS, аудит или контроль дублей ради исчезновения симптома. Такое изменение может сделать интерфейс успешным, но увеличить ущерб при следующем сбое. Временная мера должна иметь владельца, наблюдаемость и дату удаления.

Как предотвратить повторение

Профилактика строится вокруг явных контрактов, идемпотентных обработчиков, наблюдаемости и повторяемых релизов. Система должна быстро показывать нарушение правила после обновления, роста нагрузки или отказа интеграции. Ошибку, которая уже привела к потере денег, данных или заявок, закрепите автоматическим тестом.

Мониторьте полный пользовательский путь, а не только доступность серверов. Техническая метрика должна быть связана с бизнес-результатом: заказ завершён, доступ выдан, файл восстановлен, событие обработано один раз, данные изолированы. Уведомление должно содержать контекст для первого решения.

  • Точность tool selection.
  • Ошибки аргументов.
  • Отменённые пользователем действия.
  • Cross-tenant denied calls.

Что подготовить для технического разбора

  • Описание ожидаемого и фактического поведения с точной последовательностью действий.
  • Время возникновения, идентификатор тестового объекта и версии затронутых компонентов.
  • Обезличенные журналы до и после ошибки с единым correlation ID.
  • Список последних изменений, выполненных проверок и условий исчезновения симптома.
  • Безопасный доступ к тестовой среде либо минимальный пример без паролей, токенов и персональных данных.

Частые вопросы

Поможет ли более длинное описание?

Только если оно ясно разделяет условия; избыточный текст может увеличить путаницу.

Нужен ли отдельный router?

Для большого набора часто полезен этап выбора домена и ограничение allowlist.

Может ли модель решать права?

Нет, авторизация всегда проверяется сервером.

Когда нужна помощь специалиста

Если AI выбирает не те tools, я могу разобрать traces, схемы и evals и настроить безопасную маршрутизацию. Для оценки нужны обезличенные запросы и описания инструментов.