ИИ для ответов на обращения: как формируется ответ

ИИ для ответов на обращения помогает службе поддержки быстрее обрабатывать повторяющиеся вопросы, собирать недостающие данные и готовить ответы для операторов. Однако языковая модель не «знает» правила конкретной компании автоматически.

Чтобы ответ был полезным и управляемым, системе необходимы контекст диалога, инструкции, база знаний и ограничения. Без них ИИ может сформировать убедительный, но неточный текст.

Поэтому автоматизация должна строиться не только вокруг самой модели, но и вокруг процесса: какие данные передаются ИИ, где он ищет информацию, как проверяется результат и в какой момент диалог переходит специалисту.

Общую архитектуру таких решений мы разобрали в статье о том, как устроена система автоматизации поддержки клиентов.

Настройте инструкции для ИИ-агента и проверьте ответы на типовых вопросах ваших клиентов. Перейдите и попробуйте xMessenger.

Что происходит после сообщения клиента

Упрощенно процесс формирования ответа выглядит так:

Сообщение клиента
        ↓
Определение темы и контекста
        ↓
Поиск информации
        ↓
Применение инструкций
        ↓
Формирование ответа
        ↓
Проверка ограничений
        ↓
Ответ клиенту или передача оператору

Каждый этап влияет на качество результата. Если система неправильно определила тему, получила устаревшую инструкцию или не учла историю переписки, итоговый ответ может оказаться нерелевантным.

Из чего складывается ответ ИИ

Сообщение пользователя

Система получает текст обращения и анализирует его смысл.

Например, фразы:

• «Не могу войти»;
• «Не приходит код»;
• «Авторизация не работает»;
• «Система не пускает в аккаунт»

могут относиться к одной категории — проблеме доступа.

ИИ удобен тем, что способен работать со свободными формулировками, опечатками и разговорной речью. Но одного последнего сообщения часто недостаточно.

Контекст диалога

Для корректного ответа системе может понадобиться:

• предыдущая переписка;
• уже предоставленные данные;
• источник обращения;
• текущий статус;
• действия, которые пользователь уже выполнил;
• версия продукта;
• сведения, переданные из сайта или приложения.

Без контекста ИИ может повторно запросить информацию или предложить действие, которое клиент уже выполнял.

Системные инструкции

Системный промпт задает правила поведения агента.

В нем можно определить:

• роль ИИ;
• допустимые темы;
• стиль общения;
• максимальную длину ответа;
• запрещенные действия;
• порядок уточнений;
• условия передачи оператору;
• источники, на которые можно опираться.

Пример:

Отвечай только на основании утвержденных инструкций. Не придумывай цены, сроки и статусы. Если информации недостаточно, задай один уточняющий вопрос. Если ответ не найден, передай диалог оператору.

Чем точнее описан процесс, тем стабильнее работает агент.

База знаний

База знаний содержит информацию о продукте и правилах компании:

• инструкции;
• описания функций;
• условия тарифов;
• ответы на частые вопросы;
• ограничения;
• порядок действий при ошибках;
• регламенты;
• критерии эскалации.

ИИ не заменяет базу знаний. Он помогает найти подходящую информацию и сформулировать ее под конкретный вопрос.

Если материалы противоречат друг другу или давно не обновлялись, модель может использовать неверную версию ответа.

Бизнес-правила

Некоторые действия лучше определять не моделью, а четкими условиями.

Например:

Если пользователь сообщает о взломе
→ немедленно передать специалисту.

Если вопрос касается режима работы
→ отправить утвержденный ответ.

Если инструкция не помогла
→ собрать данные и подключить оператора.

Такие правила снижают риск в чувствительных сценариях.

Как ИИ использует базу знаний

В простом сценарии инструкции помещаются непосредственно в промпт. Такой подход подходит для небольшого количества коротких правил.

При большом объеме материалов обычно используется поиск по базе знаний:

1. Система определяет тему сообщения.
2. Находит релевантные документы или фрагменты.
3. Передает их модели вместе с вопросом.
4. ИИ формирует ответ на основании найденной информации.

Такой подход часто называют RAG — генерацией с дополненным поиском. Он позволяет использовать корпоративные материалы без добавления всей базы знаний в каждое сообщение.

Но наличие поиска не гарантирует правильный результат. Необходимо проверять:

• насколько точно находятся документы;
• актуальны ли они;
• достаточно ли информации для ответа;
• не противоречат ли источники друг другу;
• что происходит, если релевантный материал не найден.

Почему ИИ может отвечать неправильно

В базе нет нужной информации

Если системе не задано правило отказа, модель может попытаться дополнить отсутствующие сведения предположением.

Правильное поведение:

В доступных материалах нет информации по этому вопросу. Я передам обращение специалисту.

Инструкция сформулирована слишком широко

Промпт «помогай клиентам по любым вопросам» не задает границы. Агенту нужно объяснить, какие темы он обрабатывает и какие действия запрещены.

Используются устаревшие материалы

После изменения тарифа, интерфейса или процесса старый документ необходимо удалить либо явно обозначить как неактуальный.

Не передан контекст

ИИ может предложить повторить действие, которое пользователь уже выполнял, или не учесть предыдущий результат.

Модель пытается быть полезной любой ценой

Языковые модели настроены на формирование связного ответа. Поэтому системе нужны прямые ограничения: не придумывать, не давать ответ без источника, не принимать определенные решения.

Подробнее о рисках и контроле ИИ-систем можно прочитать в AI Risk Management Framework от NIST.

Когда ИИ должен передавать диалог оператору

Эскалация необходима, если:

• информация отсутствует в базе знаний;
• клиент повторно сообщает, что решение не помогло;
• вопрос требует доступа к внутренней системе;
• обращение связано с безопасностью;
• речь идет о возврате или спорной оплате;
• пользователь просит подключить человека;
• инструкции противоречат друг другу;
• система не может уверенно определить тему;
• требуется индивидуальное решение.

Передача оператору должна происходить вместе с контекстом:

• исходным вопросом;
• историей диалога;
• найденными инструкциями;
• собранными данными;
• предложенными действиями;
• причиной эскалации.

Иначе оператору придется начинать диагностику заново.

Как проверить качество ответов

До запуска необходимо подготовить тестовый набор.

В него следует включить:

• прямые вопросы;
• разговорные формулировки;
• сообщения с ошибками;
• неполные обращения;
• несколько вопросов одновременно;
• вопросы вне базы знаний;
• просьбу подключить оператора;
• конфликтные сообщения;
• попытки получить запрещенную информацию.

Для каждого теста задается ожидаемое поведение.

Ситуация	Ожидаемый результат
Вопрос есть в базе	Точный ответ по инструкции
Не хватает данных	Короткий уточняющий вопрос
Информации нет	Отказ от предположений и эскалация
Пользователь просит оператора	Быстрая передача специалисту
Вопрос относится к рисковой теме	Эскалация без автономного решения
Инструкция не помогла	Сбор контекста и передача

После запуска нужно регулярно просматривать реальные диалоги и корректировать инструкции.

Какие показатели использовать

Для оценки ИИ-ответов полезно отслеживать:

• долю ответов без участия оператора;
• количество эскалаций;
• причины передачи специалисту;
• долю ответов, исправленных оператором;
• повторные обращения;
• оценки клиентов;
• темы, по которым чаще возникают ошибки;
• время первого ответа;
• время решения.

Высокий процент автоматизации не является достаточным результатом. Важно, чтобы пользователь получил корректное решение и не был вынужден повторно объяснять проблему.

ИИ для ответов на обращения в xMessenger

В xMessenger можно задавать собственные инструкции и промпты для ИИ-агента.

Практический сценарий запуска:

1. Выбрать одну категорию частых обращений.
2. Подготовить актуальные ответы и ограничения.
3. Указать, какие данные нужно запросить.
4. Настроить условия передачи оператору.
5. Провести тестовые диалоги.
6. Проверить ответы и скорректировать промпт.
7. Постепенно добавлять новые категории.

Обращения можно принимать через виджет сайта, Telegram, чат в мобильном приложении или отдельную страницу.

ИИ-агент обрабатывает стандартные вопросы, а сложные ситуации передает оператору.

Подготовьте инструкции, протестируйте ответы и оцените, какие обращения можно автоматизировать без потери контроля. Перейдите и попробуйте xMessenger.

Часто задаваемые вопросы

Откуда ИИ берет информацию для ответа?

Из переданного контекста, системных инструкций и подключенной базы знаний. Если нужной информации нет, система должна передать вопрос оператору.

Можно ли настроить стиль ответов?

Да. В промпте можно задать тон общения, структуру, длину и запрещенные формулировки.

Как запретить ИИ придумывать информацию?

Нужно использовать четкие ограничения, актуальную базу знаний и правило эскалации при отсутствии источника. Полностью исключить ошибки нельзя, поэтому ответы необходимо тестировать и контролировать.

Может ли оператор редактировать ответ ИИ?

Да. На первом этапе безопаснее использовать ИИ для подготовки ответа, который специалист проверяет перед отправкой.

Заключение

Ответ ИИ формируется не только на основании вопроса пользователя. На результат влияют история диалога, системный промпт, база знаний, бизнес-правила и ограничения.

Надежная автоматизация требует:

• актуальных источников;
• четких инструкций;
• тестирования;
• правил эскалации;
• контроля реальных диалогов;
• участия оператора в сложных случаях.

ИИ наиболее эффективен там, где вопрос повторяется, ответ можно проверить, а последствия ошибки ограничены.