Как работает ИИ-агент изнутри: модель, инструкция, память и инструменты

ИИ-агент работает как цикл: получает сообщение, решает, что нужно сделать, при необходимости пользуется инструментами, формирует ответ и запоминает ход разговора. Понимание этого цикла помогает настраивать агента и разбираться в его ошибках.

Языковая модель — «мышление» агента

В основе — языковая модель: она понимает текст запроса и формулирует ответ. Модель сама по себе не знает ничего о вашей компании, её знания ограничены тем, на чём её обучали. Поэтому всё специфичное для бизнеса агент получает из других источников.

Системная инструкция — правила поведения

Перед каждым разговором модель получает инструкцию: роль, тон, цель, запреты, порядок действий. Клиент её не видит, но она определяет почти всё поведение агента. Ошибки в инструкции — самая частая причина странных ответов.

Память диалога

Агент видит предыдущие сообщения разговора и поэтому понимает, что «а доставка?» относится к товару, о котором шла речь выше. Память ограничена по объёму, поэтому в очень длинных диалогах ранние детали могут теряться. Важные данные — имя, телефон, выбранная услуга — лучше сохранять отдельно.

База знаний

Когда клиент задаёт вопрос, агент ищет в базе знаний подходящие фрагменты и использует их для ответа. Этот подход называют RAG. От того, как устроена база — насколько коротки и однозначны записи, — зависит, найдёт ли агент правильный факт.

Инструменты

Инструменты позволяют агенту действовать: проверить расписание, записать заявку в таблицу, найти заказ по номеру, отправить уведомление менеджеру. Модель решает, когда вызвать инструмент, а сам инструмент выполняет действие строго по заданным правилам.

• Чтение данных: расписание, наличие, статус заказа
• Запись данных: заявка, бронь, отметка в CRM
• Уведомления: сообщение сотруднику в рабочий чат

Где агент может ошибиться

Неверно понять вопрос, не найти факт в базе, вызвать не тот инструмент или придумать ответ, когда данных нет. Каждый из этих сбоев лечится по-своему: уточнением инструкции, переписыванием записей в базе, ограничением инструментов и правилом передачи человеку. Поэтому журнал диалогов с видимыми шагами агента — обязательный элемент нормальной настройки.

Что происходит за несколько секунд ответа

Представим вопрос клиента: «а у вас есть доставка в Самарканд и сколько дней?». Агент получает сообщение вместе с историей разговора и инструкцией. Модель понимает, что вопрос о доставке, и ищет в базе знаний записи об условиях доставки по регионам. Найдя запись, агент формулирует ответ в принятом тоне. Если в инструкции предусмотрено, он предлагает оформить заказ и спрашивает контакт.

Если записи о Самарканде нет, правильно настроенный агент не придумывает срок, а отвечает, что уточнит у менеджера, и передаёт вопрос сотруднику.

Почему один и тот же вопрос может получать разные ответы

Языковые модели формулируют ответ каждый раз заново, поэтому формулировки могут отличаться. Это нормально, пока факты остаются точными. Если же отличаются сами факты, значит, в базе знаний есть противоречивые записи или инструкция допускает свободное толкование. Такие места нужно находить в журнале и исправлять.

Что стоит знать руководителю

• Агент не учится сам на каждом разговоре — его улучшают люди
• Качество ответов напрямую зависит от базы знаний
• Действия агента ограничены выданными ему инструментами
• Журнал диалогов — главный инструмент контроля