Агентный ИИ стремительно переходит из категории «модных» технологических трендов в разряд существенных статей корпоративных расходов. В отличие от обычных чатботов, выполняющих задания по одному, агентные системы работают на достижение определенных целей. Агент раскладывает задачу на составляющие, извлекает контекст, выбирает варианты решения, вызывает различные API, проверяет выходные данные, и эта цепочка может многократно повторяться до получения конечного результата.
Подобный уровень автономии выглядит многообещающе, но во что она обойдется? По данным экспертов, один агент может потреблять более миллиарда токенов в год в зависимости от сценария использования. Упрощенный агент по набору персонала или адаптации сотрудников расходует порядка 0,4 млрд токенов в год, а агент для программной инженерии — уже 1,3 млрд. Однако затраты не ограничиваются потреблением токенов. Необходимо учитывать расходы на платформы оркестрации, векторные базы данных, средства наблюдаемости и мониторинга, оценку качества моделей, механизмы обеспечения безопасности и контроля выполнения рабочих процессов, экспертную проверку результатов, интеграцию с корпоративными приложениями, конвейеры обработки данных, ведение журнала аудита, управление промптами, а также оплату труда инженеров, разрабатывающих и поддерживающих эти системы. По оценкам специалистов, совокупные эксплуатационные расходы могут в два-пять раз превышать стоимость самих токенов. В регулируемых отраслях и для критически важных систем этот коэффициент может быть еще выше.
В этой связи подготовка финансово-экономического обоснования внедрения агентного ИИ может быть затруднительной. Вызов модели может обходиться недорого, но система на ее основе — нет.
В числе сценариев применения, имеющих экономический смысл, эксперты называют клиентскую поддержку. В типичном случае здесь используются восемь агентов: для классификации обращений, извлечения знаний, подготовки ответа, эскалации, оценки качества, ввода данных в CRM, анализа тональности высказывания и аналитики. Затраты — примерно 2 млн токенов в расчете на агента в день. Если такая система берет на себя даже умеренное количество заявок или повышает продуктивность работы операторов, ее внедрение будет целесообразным.
Еще пример — расширение клиентской базы. Здесь нужны пять агентов — для поиска потенциальных клиентов, дополнения их профилей, персонализации сообщений электронной почты, ввода данных в CRM и планирования последующих контактов. Расход — ориентировочно 1,2 млн токенов в расчете на агента в день. Если за счет такой системы удастся повысить эффективность воронки продаж, внедрение может быть оправданным.
Программная инженерия будет обходиться дороже, но может приносить больше выгоды. Система из 12 агентов для анализа требований, проектирования архитектуры, генерации и ревизии кода, тестирования, проверок безопасности, подготовки документации, отладки конвейеров непрерывной интеграции, рефакторинга, подготовки примечаний к выпуску, анализа зависимостей и поддержки при срочном исправлении ошибок, может потреблять порядка 3,5 млн токенов в расчете на агента в день. В сравнении с зарплатами соответствующих специалистов расходы на токены будут низкими. Но такая система должна устойчиво повышать темпы выпуска релизов без увеличения количества дефектов, брешей безопасности и роста сложности сопровождения.
Процессы обеспечения информационной безопасности также хорошо подходят для агентных систем, поскольку значительная часть работы носит повторяющийся характер, требует оперативного реагирования и зависит от большого объема контекстной информации. Система для первичной обработки инцидентов безопасности может состоять из 10 агентов, отвечающих за обработку оповещений, анализ журналов событий и данных о киберугрозах, расследование инцидентов на конечных устройствах и в сети, подготовку сводок по инцидентам, управление заявками, сбор доказательств соответствия нормативным требованиям, эскалацию и разбор инцидентов. Такой подход легко оправдать, если он позволит снизить потерю концентрации специалистов из-за потока оповещений и ускорить реагирование. Однако он сопряжен с рисками, если агенты начинают ошибочно устанавливать причинно-следственные связи или систематически составляют убедительные резюме инцидента, за которыми теряются критически важные сигналы.
Агентные системы также могут быть эффективны в таких областях, как юридическая деятельность, административные процессы в здравоохранении, маркетинговая аналитика, управление персоналом и цепочки поставок.
При оценке экономической эффективности агентного ИИ его всегда следует сравнивать с более простыми альтернативами. Во многих случаях традиционные методы автоматизации — системы на основе правил, роботизация бизнес-процессов или обычные ИИ-чатботы оказываются дешевле, проще в управлении и более предсказуемыми. Агентный ИИ нередко является избыточным решением для таких задач, как классификация, извлечение данных, обобщение, маршрутизация запросов или подготовка типовых текстов. Лучшая архитектура обычно гибридная — традиционная автоматизация для предсказуемых процессов, агентная для ситуаций, которые невозможно целиком описать правилами.