RAG в поддержке клиентов: как ИИ ищет ответы в базе знаний

Чтобы ответы поддержки на вопросы клиентов были точными, необходимо найти конкретную информацию в документах компании. Основной инструмент, который позволяет сделать это быстро и получить сформулированный ответ – Retrieval Augmented Generation (RAG), когда модель находит подходящие материалы и формулирует ответ с опорой на них.

Что такое база знаний

RAG использует внешние источники данных для ответа – как правило, базу знаний конкретной организации. Для компании база знаний – это собрание документов, в которых она описывает свои продукты, правила, процессы и типовые ситуации. В ней могут храниться инструкции для клиентов, внутренние регламенты и описания услуг. 

Обычно документы разбивают по темам, продуктам, сценариям обслуживания и уровням доступа, чтобы система могла точнее понять, какой текст относится к какому запросу. Важна и внутренняя логика самих материалов: одни документы описывают общие правила, другие – исключения, третьи – точные формулировки для общения с клиентом. Если нет четкой структуры, ИИ не будет понимать, какой именно фрагмент нужно использовать в ответе.

При использовании RAG документы в базе знаний разбиваются на короткие смысловые части (чанки). Когда поступает запрос, система сравнивает смысл вопроса со смыслами этих фрагментов и извлекает наиболее подходящие данные для формирования ответа. Ответ получается точнее, потому что ИИ опирается не на общий массив текста, а на конкретный фрагмент, связанный с запросом.

Еще одна важная часть базы знаний – это связи между документами. Например, общая статья о подписке может быть связана с отдельной статьей о возврате денег и инструкцией для оператора на спорный случай. Связи позволяют ИИ лучше ориентироваться в базе, подбирая ответ на основе нескольких связанных документов.

Качество и структурированность данных в базе знаний оказывает решающее влияние на качество работы RAG – на опыте BSS, оптимизация базы знаний повышает качество ответов на 33%. Если документы хорошо разделены по темам, связаны между собой и написаны без лишней путаницы, системе легче выбирать нужные фрагменты на каждом шаге диалога. Если же правила разбросаны по длинным текстам и частично дублируются, и суфлеру, и агентному боту труднее удерживать точную линию ответа.

Как устроен RAG

Обычный языковой ИИ строит ответ на основе общего опыта обучения и подбирает наиболее правдоподобное продолжение текста. Это дает возможность построить естественный диалог, который однако не учитывает правила и корпоративную информацию компании.

RAG соединяет два процесса: с одной стороны, система понимает живую речь клиента, даже если вопрос сформулирован неточно, с другой – дает точный ответ, а не угадывает удачную формулировку. Основные отличия между классическим ИИ и RAG:

Работа RAG делится на два основных этапа:

1. Система получает запрос и с помощью векторизации ищет тексты, которые ближе всего к его смыслу. 

2. Языковая модель формулирует короткий, понятный и связный ответ на основе собранных документов с учетом контекста диалога с клиентом.

Благодаря тому, что система использует поиск не по словам, а по смыслу, информация находится гораздо проще, если запрос непрямой. Например, если клиент с оформленной подпиской спрашивает: «Почему у меня снова списались деньги», система сможет взять информацию из статьи об автопродлении.

Для такого семантического поиска, система переводит и вопрос клиента, и фрагменты документов в специальное числовое представление, где близкие по смыслу тексты оказываются рядом – это и называется векторизация. 

Таким образом, для машины текст превращается в набор чисел, в котором содержатся и тема, и контекст, и смысловые связи. А значит, вопрос о списании денег может оказаться рядом с документом про автопродление, даже если одинаковых слов там почти нет.

Но одного смыслового поиска часто недостаточно – его дополняют обычной проверкой по ключевым словам, чтобы не потерять точные термины, названия услуг или формулировки из регламентов. Так система старается совместить поиск по смыслу и поиск по важным словам, чтобы ответ был и гибким, и точным.

Кроме того, система учитывает контекст текущего разговора: что клиент уже спросил, что было уточнено ранее и какая именно задача решается сейчас. Поэтому в RAG запросом становится не одна последняя реплика, а небольшой срез диалога, где видно тему, детали и направление разговора.

Именно здесь RAG заметно отличается от классического языкового ИИ. Обычная модель отвечает на вопрос сходу, а RAG строит ответ через обращение к базе знаний и за счет этого выдает точный ответ, учитывающий контекст организации.

Как RAG помогает в клиентской поддержке

В клиентской поддержке RAG помогает опираться на актуальные материалы и быстро давать клиентам точные ответы. Разберем, как это работает в двух сценариях – в суфлере оператора и в агентном чат-боте.

Суфлер оператора

Подробнее о работе суфлера можно узнать в этой статье. 

Чтобы передавать оператору как можно более точные подсказки на каждый вопрос клиента, RAG в суфлере опирается на поток диалога: читает реплики клиента и оператора и отслеживает изменение темы. Если в начале речь шла о доставке, а затем разговор сместился к возврату, система сформулирует новые подсказки в реальном времени.

Здесь важна непрерывность поиска: суфлер фактически пересобирает контекст после каждого нового сообщения, чтобы подсказка соответствовала текущему состоянию диалога.

RAG в суфлере работает как цепочка маленьких шагов. Сначала он определяет тему обращения, затем вытаскивает статьи по этой теме, потом сужает выбор с учетом деталей и, наконец, помогает собрать текст ответа для оператора. Если появляются новые вводные, эта цепочка запускается снова уже на обновленном контексте.

Суфлеру важно не только найти правильный документ, но и выделить в нем правильный фрагмент. Для сотрудника в момент диалога не так полезна ссылка на большой регламент, как короткая выжимка из нужного места. Поэтому RAG в таком режиме обычно старается передать ту часть, которая отвечает на текущий вопрос клиента.

Отдельная задача возникает там, где разговор опирается не только на базу знаний, но и на конкретные данные клиента. Например, фактический статус заказа, дата оплаты или наличие возврата берутся из учетных систем, а объяснение смысла этих данных – из базы знаний.

Чат-бот с ИИ-агентом

В агентном чат-боте логика похожа, но роль системы шире. Здесь RAG не просто подсказывает человеку, а сам становится рабочим механизмом диалога: читает запрос, уточняет детали, ищет нужные фрагменты, формулирует ответ и решает, какой следующий вопрос задать клиенту. То есть поиск по базе знаний становится частью сценария общения, а не внутренней подсказкой.

Это особенно заметно в многошаговых обращениях. Бот постепенно собирает недостающие детали, исходя из уточнений клиента. После каждого уточнения RAG может заново пересчитать, какие документы релевантны, и скорректировать ответ уже с учетом новых данных.

Например, клиент пишет, что не может отменить услугу. Для начала этого недостаточно, потому что нужно понять, о чем идет речь. Бот задает уточняющие вопросы, а RAG после каждого ответа клиента сужает круг подходящих материалов и подбирает следующую реплику.

Так агентный чат-бот использует RAG в несколько шагов в рамках одного разговора: сначала ищет общий контекст по теме, потом – уточнение по конкретному случаю, затем – правила для следующего шага, а иногда и условия передачи обращения человеку.

Еще одна тонкость состоит в том, что агентный бот должен удерживать не только знания, но и состояние разговора. Ему важно понимать, что уже было выяснено, какие шаги пройдены и чего пока не хватает для решения. Поэтому RAG в такой схеме работает вместе с памятью текущего диалога, а поиск идет не по абстрактному вопросу, а по вопросу, встроенному в живой контекст общения.

Если в разговоре появляется новая тема, бот должен это заметить и перестроить перестроить поиск RAG, чтобы подтянуть другой набор материалов.

В итоге RAG помогает сделать клиентскую поддержку не просто более автоматизированной, а более точной и быстрой – например, на одном из наших кейсов внедрение этой технологии помогло увеличить скорость обработки ответов в 8 раз.