"Цифромед" представил ИИ-консультанта на базе RAG-системы для автоматизации служб техподдержки
"Цифромед" (головная компания цифрового кластера "Медицина" ПАО "Ростелеком") развернул инновационное решение для автоматизации служб технической поддержки на базе RAG[1]-системы. Решение сокращает время ответа пользователю с 5–7 минут до 30 секунд за счет поиска ответов в актуальной базе знаний вместо "ручного" просмотра документации.
За последние годы существенно выросло количество подсистем и документации, с которой работают пользователи и операторы технической поддержки. Каждая новая информационная система добавляет слой регламентов и инструкций. Информация динамично обновляется и часто дублируется. RAG-система связывает большую языковую модель (LLM) с единой актуальной базой знаний, позволяя операторам и пользователям получать верифицированные ответы за счет документов, загруженных в систему.
Локальное развертывание RAG-решения имеет ряд существенных преимуществ по сравнению с облачными LLM-сервисами, доступ к которым предоставляется через интерфейс компании-разработчика либо по API[2]: система обеспечивает более точные ответы за счет специализированной базы знаний, снижает количество галлюцинаций нейросети и гарантирует безопасность чувствительных данных. Кроме того, RAG-системы позволяют оперативно обновлять базу знаний без дорогостоящего и длительного переобучения модели.
Разработанное решение было апробировано на реальных пользователях. Система обработала свыше 2,5 тыс запросов, в 90% случаев она нашла релевантные ответы в базе знаний. Более 78% пользователей оценили качество ответа как достаточное для решения их задачи. При этом половина пользователей возвращалась для повторного использования ИИ-консультанта.
Евгений Барсуков, руководитель направления искусственного интеллекта и внутренней автоматизации "Цифромед":"Итоги апробации показали, что RAG решает одну из главных проблем техподдержки — потерю времени на поиск правильного ответа. Мы видим серьезную перспективу в дальнейшем совершенствовании данной технологии. В частности, планируем повысить качество ответов за счет расширения базы знаний новыми документами, расширить функциональные возможности ИИ-консультанта, а также увеличить количество информационных систем, по которым предоставляются консультации. В дальнейшем рассчитываем, что RAG-система разовьется в полноценного ИИ-агента".
* * *
ГК "Цифромед" (головная компания цифрового кластера "Медицина" ПАО "Ростелеком") — технологический партнер Минздрава, ФМБА России и ФОМС, более 20 лет развивает крупнейшие государственные информационные системы и проекты по цифровизации здравоохранения, разрабатывая продукты как для федеральных ведомств, так и для пациентов на Госуслугах. Лидер рейтинга крупнейших поставщиков ИТ-решений для здравоохранения по версии CNews Analytics 2023.
[1] RAG (Retrieval-Augmented Generation) — генерация с дополненной выборкой — архитектурный подход, который позволяет языковой модели (LLM) перед ответом искать релевантную информацию во внешних источниках и использовать её как контекст для формирования ответа.
[2] API (Application Programming Interface — "интерфейс программирования приложений") — набор правил, протоколов и инструментов, который позволяет одной компьютерной программе взаимодействовать с другой программой, сервисом или операционной системой. Он выступает посредником, обеспечивая обмен данными и выполнение действий между системами.