Рефлексия ИИ-агента: как агент проверяет и исправляет собственный ответ

Рефлексией в контексте ИИ-агентов называют шаг, на котором агент оценивает собственный результат и улучшает его до того, как отдать пользователю. Проще говоря, агент сначала пишет черновик, затем перечитывает его глазами строгого проверяющего и вносит правки. Идея описана в исследованиях 2023 года (например, подход Reflexion) и сегодня встроена во многие агентные фреймворки.

Зачем агенту проверять себя

Языковая модель генерирует ответ по словам слева направо и не возвращается назад, пока ей не скажут. Поэтому первая версия часто содержит пропуски: забыт пункт из задания, перепутан формат, вывод не следует из данных. Отдельный проход «найди ошибки» заставляет модель взглянуть на текст целиком — и многие огрехи она замечает сама.

Как выглядит цикл рефлексии

1. Выполнение: агент решает задачу и получает черновик.
2. Оценка: тот же или другой экземпляр модели проверяет черновик по критериям.
3. Комментарий: формулируется, что именно не так и почему.
4. Исправление: агент переписывает результат с учётом замечаний.
5. Остановка: цикл заканчивается, когда критерии выполнены или исчерпан лимит попыток.

Важная деталь — критерии. Проверка «сделай лучше» почти ничего не даёт. Проверка «все ли пять пунктов брифа учтены, нет ли цифр, которых нет в исходных данных, укладывается ли текст в 600 знаков» даёт заметный эффект.

Внешняя проверка сильнее внутренней

Самокритика модели ограничена её же знаниями: если модель не знает факта, она не поймёт, что ошиблась. Поэтому лучше всего рефлексия работает, когда у агента есть внешний сигнал:

• результат запуска кода или формулы (ошибка или нет);
• сверка с документом из базы знаний;
• ответ сервиса — например, CRM вернула «такого клиента нет»;
• проверочный список, который составил человек.

В таких случаях агент не гадает, а видит конкретную причину и исправляет её.

Где рефлексия помогает бизнесу

• Тексты по брифу: проверка, что учтены тон, длина, обязательные факты и запреты.
• Ответы клиентам: перед отправкой агент сверяет цену и условия с базой и убирает обещания, которых в базе нет.
• Сводки и отчёты: проверка, что каждый вывод опирается на строку данных.
• Многошаговые задачи: после неудачного шага агент записывает, что не сработало, и не повторяет ту же ошибку.

Где она бесполезна или вредна

Если критериев нет, модель может «исправить» правильный ответ на неправильный — просто потому, что её попросили что-то поменять. Рефлексия удлиняет ответ по времени и увеличивает расход запросов к модели, поэтому в быстром чате с клиентом её часто ограничивают одной лёгкой проверкой. И она не заменяет человека там, где цена ошибки высока: договоры, медицинские и финансовые рекомендации.

Как добавить самопроверку без программирования

Даже в обычном ChatGPT или Claude можно построить простую рефлексию запросом из трёх частей:

1. «Выполни задачу».
2. «Теперь проверь результат по этому списку критериев и выпиши все несоответствия».
3. «Исправь текст с учётом найденного и покажи финальную версию».

В конструкторах агентов то же самое делают отдельным узлом-проверяющим с собственной инструкцией. Полезный приём — дать проверяющему другую роль: «ты редактор, который ищет фактические ошибки» или «ты клиент, который читает это сообщение впервые». Смена точки зрения помогает заметить то, что автор черновика пропустил.

Что учесть при настройке

Ограничьте число повторов — двух-трёх кругов обычно достаточно. Логируйте замечания проверяющего: по ним видно, какие ошибки агент делает чаще всего, и их стоит закрыть уже в основной инструкции. А если проверяющий раз за разом не находит проблем там, где их находят люди, значит, критерии сформулированы слишком размыто.