«Сбераналитика» внедрила оболочку GenAI для своего сервиса «Геоаналитика». Решение используется внутри компании для оптимизации процессов и способно стать серьезным помощником в бизнесе. В дальнейшем планируется вывод решения на внешний рынок. О реализации проекта рассказывает Денис Козицкий, управляющий директор по развитию продуктов компании «Сбераналитика» и номинант на премию BI Award.

- Как вы пришли к реализации этого проекта? Традиционной аналитики становится недостаточно?

Идея создания GenAI «Геоаналитики» возникла для упрощения пользовательского пути наших клиентов. Нашей отправной точкой стало замещение интерфейса сервиса «Геоаналитика» на диалоговый формат между GenAI и клиентом, что позволило пользователям получать нужную информацию быстрее. Например, находить и анализировать с помощью GenAI конкретные бизнес-метрики из объемного отчета по локации, который ранее клиенту приходилось искать самостоятельно.

- Какие требования предъявлялись к создаваемому решению, какие принципы пытались соблюдать?

При разработке решения мы руководствовались рядом ключевых принципов и требований.

Во-первых, особое внимание уделялось разработке полноценной мультиагентной системы, а не помощника или ассистента. Наша главная задача состояла в том, чтобы создать инструмент, способный сопровождать клиента на каждом этапе открытия бизнеса. Агент выясняет бюджет, направление деятельности и предпочтения клиента, помогая выбрать оптимальное местоположение будущего предприятия. Затем он задает уточняющие вопросы, чтобы подобрать наилучшие варианты и стратегии для успешного старта бизнеса.

Во-вторых, агент обеспечивает комплексное сопровождение, выполняя весь спектр задач, необходимых для запуска дела. Если решение принято, агент проводит экономические расчеты, рассчитывая стоимость аренды, коммунальных платежей и прочие расходы, и при необходимости подсказывает подходящие кредитные продукты для финансирования начинания. Далее агент формирует детальные описания вакансий, адаптированные под нужды бизнеса, что позволяет оперативно приступить к процессу подбора кадров.

Третье важное требование касалось точности и полноты данных. Чтобы избежать недостоверных сведений, мы интегрировали проверенный традиционный инструментарий аналитики, обеспечивающий надежность исходной информации. Каждое обращение клиента проходит тщательную проверку и адаптацию под его личные обстоятельства.

Четвертый принцип состоял в обеспечении комфортного опыта работы с системой. Мы создали механизм, позволяющий агенту легко общаться с клиентом, постепенно выявлять нужные подробности и давать персонализированные советы и рекомендации. Все диалоги сохраняются, что гарантирует последовательное и точное ведение переговоров с каждым клиентом.

Наконец, наше решение направлено на максимальное удовлетворение потребностей бизнеса, обеспечивая быструю доставку качественной информации и поддержку на всех этапах жизненного цикла предприятия.

- На каких платформах реализовано решение?

GenAI реализован с помощью платформы «Геоаналитика», которая работает на базе связки Django и Vue. В данный момент MVP проекта развернут на внутренних стендах компании, с целью оптимизации внутренних процессов – например, подготовка рекомендаций для клиентов при построении консалтинговых презентаций. То есть речь идет об оптимизации работы бизнес-аналитиков и консультантов.

- Что представляет собой созданная система с технической точки зрения?

На данном этапе проект GenAI «Геоаналитики» включает в себя несколько элементов. Первый из них – MCP-сервер, содержащий в себе набор инструментов и промптов для внешнего, по отношению к серверу, агента. Второй элемент – агент на базе модели GigaChat и библиотеки langflow, взаимодействующий с MCP-сервером и способный поддержать уникальный контекст диалога для каждого пользователя. Кроме того, продолжается разработка мультиагентной системы, позволяющей разделить задачи между несколькими узкоспециализированными агентами.

- А в чем бизнес-суть решения?

Это интеллектуальный агент на базе модели GigaChat, способный стать серьезным помощником и во внутренних проектах, и для наших клиентов в сфере бизнеса. Среди ключевых направлений его применения выделяются рекомендации и автоматизация процессов. С точки зрения рекомендаций GenAI «Геоаналитики» формирует ответ на интересующие вопросы в конкретной сфере, что позволяет пользователям принимать обоснованные решения – например, про открытие нового бизнеса или масштабирование текущего бизнеса. Говоря об автоматизации, агент дает возможность осуществления действий на различных ресурсах, как внутренних, так и внешних. Например, составление конкретных заявок на основе диалога между агентом и клиентом, и передача их в соответствующий сервис. Это позволяет упростить выполнение повседневных действий.

- Что было сложнее всего в ходе реализации проекта? Где возникали основные проблемы?

Наиболее сложной частью проекта стала его разработка с чистого листа. Изначально команде пришлось столкнуться с отсутствием четкого понимания требуемой структуры решения: отсутствовали ясные представления относительно выбора библиотек, механизмов хранения данных, интеграции моделей машинного обучения и иных технических вопросов.

Для преодоления этой неопределенности команда приняла стратегию параллельного изучения различных технологий и архитектурных решений. Специалисты исследовали разные подходы к созданию интеллектуальных агентов и архитектуру системы в целом.

Далее возникли специфические трудности, связанные с разработкой самих моделей и управлением их поведением. Например, промпт-инжиниринг и настройка гиперпараметров моделей стали серьезной проблемой, поскольку неправильный подбор параметров приводил к появлению ошибок – пресловутым «галлюцинациям» – в выводимых моделях. Оптимизация расходов ресурсов также оказалась непростой задачей, так как нужно было снизить затраты на обработку большого объема данных, передаваемых в модели посредством токенов.

Эти препятствия потребовали значительных усилий и глубокого погружения в предметную область, однако позволили создать эффективное и надежное решение.

- Что в решении удалось особенно удачно, чем можно гордиться?

Проект отличается не только масштабностью, но и глубиной анализа данных. За основу берется обширная база данных, включающая информацию о более чем 111 млн физических лиц и около 10 млн терминалов. Вся информация предоставляется в агрегированном и обезличенном виде, обеспечивая защиту персональных данных и соблюдение требований конфиденциальности. Сервис охватывает всю территорию России, даже малые населенные пункты с численностью населения от 5 тыс. человек. Это делает его универсальным инструментом для любого региона страны.

Кроме того, сервис не только предоставляет информацию, но и активно содействует достижению целей, поставленных пользователями. Например, пользователь может спросить: «Сообщи мне средний чек в ресторанах города Москва на улице Обручева, дом 30». После этого агент запрашивает данные у нашего внутреннего сервиса, который в свою очередь производит геокодирование, строит изохрону вокруг указанной локации, возвращает набор данных. Из этих данных агент формирует и возвращает ответ, строго ориентируясь на запрос пользователя, так как данные включают в себя множество метрик, о которых человек не спрашивал. Другими словами, агент предпринимает конкретные действия за клиента или заказчика. Кроме того, он способен составить подробное описание вакансии, подготовить детальный отчет и предложить конкретную географическую точку, наиболее подходящую для открытия нового бизнеса.

- Что говорят внутренние пользователи решения?

Генеративный ИИ в «Геоаналитике» получил высокие оценки от внутренних пользователей. Сотрудники отметили существенный рост своей продуктивности благодаря тому, что теперь работа с большими объемами данных осуществляется гораздо быстрее и удобнее. Они особо подчеркнули ценность быстрой доставки необходимых сведений и построения отчетов, что экономит значительное количество рабочего времени. Пользователи также высоко оценили возможность получать готовые рекомендации и выводы, основываясь на реальных данных, что облегчает понимание тенденций рынка и принятие эффективных решений.

Особенно позитивно воспринимается способность системы автоматически создавать качественные презентации с описанием нужной информации по заданному запросу буквально за считанные минуты, тогда как ранее на такую работу уходило несколько часов. Это ощутимо снижает нагрузку на аналитический отдел и высвобождает больше времени для решения стратегических задач.

- Как оцениваются результаты внутреннего использования системы? Какими цифрами можете поделиться?

Опыт внутреннего использования показывает впечатляющие результаты в плане повышения эффективности сотрудников. Генеративный ИИ «Геоаналитики» позволил уменьшить временные затраты на рутинные операции на порядки. Раньше создание базовой аналитической презентации занимало 2–3 часа, теперь этот процесс автоматизирован и занимает менее двух минут. Такой скачок производительности привел к снижению ежедневной нагрузки на команду аналитиков приблизительно на четыре часа, освобождая их время для выполнения более сложных и творческих задач.

Применение инновационного подхода с использованием генеративного ИИ демонстрирует высокую степень улучшения операционной эффективности и открывает новые перспективы для роста бизнеса.

- В чем роль проекта для бизнеса компании?

Продукт разработан специально для удовлетворения потребностей как физических, так и юридических лиц. Он обладает значительным потенциалом для расширения возможностей бизнеса. Во-первых, это повышение эффективности сотрудников. Использование генеративного ИИ «Геоаналитики» позволит значительно сократить трудозатраты сотрудников при построении рекомендаций для клиентов, а также построение отчетов-саммари для топ-менеджеров и лиц, принимающих решения.

Во-вторых, помощь с внутренними процессами. Агент позволяет ускорить процесс найма сотрудников, он умеет вести диалог для составления вакансии на необходимую должность, с конкретными условиями, с целью дальнейшего поиска сотрудников.

Наконец, дополнительная клиентская база. Система позволяет нам отвечать на вопросы не только юридических лиц, но и помогать новым предпринимателям в различных сферах.

- Каковы основные направления развития проекта?

Основные направления дальнейшего развития проекта включают несколько важных этапов. Первый из них – интеграция существующих и будущих инструментов. Мы завершаем процесс внедрения всех текущих функций интерфейса сервиса «Геоаналитика» в систему искусственного интеллекта, одновременно дополняя ее новыми инструментами, находящимися в стадии разработки. Цель – обеспечить комплексный и унифицированный доступ ко всей функциональности через единый интерфейс.

Далее планируется расширение возможностей взаимодействия с внешними сервисами. Будет происходить расширение спектра услуг путем подключения внешних сервисов, таких как рекрутинговые платформы и базы недвижимости. Это обеспечит полное удовлетворение потребности клиентов в открытии и развитии бизнеса, включая подбор персонала и поиск помещений.

Следующий шаг – разделение агентов на специализированные модули, переход от единого универсального агента к сети специализированных агентов, каждый из которых фокусируется на определенной задаче. Такая архитектура позволит повысить качество и точность рекомендаций, снижая вероятность ошибок, вызванных несоответствием выбранного инструмента конкретной ситуации.

Наконец, распространение через партнеров. Интеграция нашей технологии в экосистемы партнеров через интеграционные решения, такие как встраиваемые диалоговые окна. Это расширит доступность продукта и повысит удобство использования для конечных потребителей.

Эти шаги позволят нам значительно расширить функциональность и полезность проекта, улучшив взаимодействие с клиентами и удовлетворяя растущие потребности рынка.