По словам технического инвестора Джейсона Калаканиса, в одной из его организаций при использовании Claude API расходы на ИИ-агентов быстро выросли до 300 долл. в день. При этом такие агенты лишь частично заменяли собой человека.

По мнению генерального директора венчурной компании Social Capital Чамата Палихапитии, чтобы оправдать затраты, ИИ-агент должен быть как минимум вдвое продуктивнее сотрудника. Но при наличии надлежащего контроля, агенты не должны стоить так дорого.

ИИ – это инструмент, а не внешний мозг. Искусственный интеллект используют, чтобы быстрее получать ответы, однако, если слепо довериться ему, вы не достигнете положительного результата.

Стоимость в 300 долл. в день без учета контекста зачастую вводит в заблуждение. Такое происходит, когда вы ставите перед моделью общего назначения масштабную задачу и позволяете ей работать без каких-либо ограничений. Это все равно что нанять подрядчика без четкого плана работ, и, получив от него впоследствии счет, испытать настоящий шок. Стоимость SRE-агента (Site Reliability Engineering — дисциплина технического обслуживания сайтов. — Прим. ред.), разработанного компанией Cleric, составляет лишь малую часть от указанных 300 долл. в день. При этом он создан для конкретной цели и хорошо знает, какие вопросы следует задавать и когда нужно остановиться.

Во многих случаях агенты могут оказаться более эффективными с точки зрения затрат, чем привлечение большого числа ИТ-специалистов. При полной загрузке расходы на старшего инженера превышают порой 200 тыс. долл. в год. Если агент способен выполнять 80% его работы по расследованию инцидентов за небольшую часть этих денег, то важно лишь, достаточно ли хорош результат, чтобы ему можно было доверять.

Но при отсутствии ограничений легко можно увлечься. Допустим, кто-то из команды запускает агента для выполнения какой-то задачи, рассказывает об этом коллегам, и вот внезапно у вас появляется уже 15 работающих агентов, и никто не имеет представления о том, что они делают.

Существуют также более дешевые способы развертывания агентов. Если на постоянной основе использовать агента с большим потреблением токенов, длинными окнами контекста и многоступенчатыми рассуждениями, экономика быстро ухудшится. Затраты на выполнение задачи могут оказаться выше, чем если бы работу выполнял человек. Однако агент с ограниченной областью действия, обращающийся к небольшой, тонко настроенной модели искусственного интеллекта, которая работает локально или на уровне контролируемого логического вывода, будет стоить намного дешевле.

Агенты, находящиеся на разных концах спектра, представляют собой совершенно разные операционные модели, но многие компании не видят различий между ними. Услышав слово «агент», руководители закладывают на них расходы, относящиеся только к одной категории, хотя на самом деле это не так. Круг предлагаемых услуг достаточно широк, и разница в стоимости между разумным и небрежным развертыванием может отличаться на порядок и более.

Руководителям следует смоделировать объем токенов для каждой задачи, оценить затраты на логический вывод на уровне модели, которую предполагается использовать, и сравнить эти затраты с трудозатратами на рабочие процессы, подлежащие замене или дополнению. Агенты, оправдывающие затраты на себя, как правило, применяются для работы, которую никто не хочет выполнять вручную. При этом рамки задачи ограничены, выходные данные можно проверить, а человек способен выявить возможные ошибки еще до того, как они начнут повторяться. Организации, хорошо управляющие агентами, относятся к ним как к любому другому операционному ресурсу со своим бюджетом, контролем, владельцем и подотчетностью.

Основные поставщики ИИ-инструментов позволяют заказчикам устанавливать жесткие ограничения на расходы для каждого API-ключа или организации. Руководители могут создавать отдельные API-ключи для каждой команды или инженера и устанавливать ежемесячный лимит в долларах.

В конечном итоге все зависит от получаемого результата. Если инженер выдает высококачественные, высокоэффективные компоненты, возможно, результат будет эквивалентен тому, что команда из 10 человек смогла бы создать за год. В этом случае затраты оправданы, и их действительно нельзя сравнивать с зарплатой одного человека.

Следует понимать, что ИИ-агенты – не волшебная таблетка для сокращения штата. Это мощный инструмент, требующий такой же дисциплины управления, как и любые другие ИТ-ресурсы. Без стратегии, метрик и границ контроля, инвестиции в агентные системы рискуют превратиться в статью убытков, а не конкурентное преимущество.