В отличие от сценарного бота, которому для ответа, прописанного в сценарии, требуется задавать уточняющие вопросы, ИИ-помощник с технологией RAG не нуждается в них. При генерации текста в ответ на запрос пользователя такой чат-бот обращается к различным источникам, находя информацию в базах знаний и релевантных документах ПСБ. Связка LLM с внутренней базой знаний позволяет генерировать ответы на основе актуальных данных, минимизируя «галлюцинации».
ИИ-помощник оперативно анализирует данные и формирует наиболее полный и естественный ответ, адаптируя найденную информацию под контекст вопроса клиента. База знаний, на которую опирается технология RAG, обновляется в реальном времени, что позволяет учитывать актуальные изменения.
Как отмечает Дмитрий Шенберг, заместитель директора департамента электронного бизнеса малого и среднего предпринимательства ПСБ, применение технологии RAG стало одной из значимых вех в стратегии внедрения генеративного искусственного интеллекта. Она позволяет за считанные секунды формировать исчерпывающие ответы на любые вопросы, связанные с банковским обслуживанием наших клиентов малого и среднего бизнеса. За счет высокой точности и качества ответов чат-бот с технологией RAG повышает автоматизацию обработки вопросов пользователей: после масштабирования технологии на все тематики прогнозируется рост автоматизации практически на 10%.