Для многих ИТ-директоров главной проблемой масштабирования искусственного интеллекта сегодня является уже не создание приложений, а понимание их реальной стоимости. Сложные структуры ценообразования на основе токенов делают расходы на мультиагентные ИИ-системы непрозрачными. Это затрудняет сравнение предложений разных поставщиков, оценку эффективности и доказательство окупаемости инвестиций.
Чтобы решить эту задачу, Linux Foundation объявила о намерении запустить независимую от поставщиков организацию Tokenomics Foundation, которая займется разработкой открытых стандартов, оценочных критериев и лучших практик управления затратами на ИИ.
Фонд будет сотрудничать с FinOps Foundation – еще одной инициативой Linux Foundation, направленной на развитие дисциплины облачного финансового управления и управления стоимостью технологий.
Ключевой частью этого сотрудничества станет расширение FinOps Open Cost and Usage Specification (FOCUS) – открытого стандарта, разработанного для нормализации данных о расходах и использовании облачных технологий. Планируется адаптировать спецификации для учета потребления ИИ на основе токенов за счет создания общей структуры для измерения, сравнения и регулирования затрат на ИИ для разных моделей и платформ.
Управляющий совет Tokenomics Foundation возьмет на себя стратегическое планирование и распределение финансирования, а Технический комитет совместно с участниками FinOps разработает необходимые спецификации и справочные системы.
Новый фонд уже заручился поддержкой широкой группы поставщиков корпоративных технологий, облачных провайдеров и организаций конечных пользователей, включая Accenture, Booking.com, Flexera, Google Cloud, IBM, JPMorgan, KPMG, Microsoft, Oracle, Salesforce, SAP и ServiceNow.
Сегодня в отрасли отсутствуют единые стандарты для измерения затрат и эффективности искусственного интеллекта. Это затрудняет ИТ-директорам сравнение моделей и поставщиков, что, в свою очередь, затрудняет оценку рентабельности инвестиций, оптимизацию расходов и выбор моделей, обеспечивающих наилучшую отдачу. Нейтральный орган, должен помочь выработать общую терминологию, критерии и систему учета, подобно тому, как FinOps привнес дисциплину в расходы на облачные технологии. Стандартизация призвана сделать затраты на ИИ от разных поставщиков более прозрачными и сопоставимыми.
Общие затраты предприятий на искусственный интеллект продолжают расти из-за неэффективных методов проектирования и использования неоптимальных моделей при решении конкретных задач. Один и тот же рабочий процесс в конечном итоге обходится по-разному в зависимости от входных запросов и пользовательских промптов. В таких условиях ИТ-директору сложно принимать обоснованные бюджетные решения и рассчитывать рентабельность инвестиций. А это в свою очередь затрудняет выбор решений, обеспечивающих наилучший результат при наименьших затратах. Акцент Tokenomics Foundation на стандарты и передовую практику должен помочь ИТ-директорам принимать более обоснованные решения.
Управление затратами и лучшие практики проектирования – только часть уравнения. Еще одна задача, стоящая перед ИТ-директорами, заключается в определении того, в каких ситуациях модели с открытым исходным кодом имеют больший экономический смысл, чем запатентованные альтернативы. Когда предприятия используют такие модели, как Llama или Mistral, в своей собственной инфраструктуре, затраты смещаются с оплаты за токен на оплату графических процессоров, электроэнергии и использования инфраструктуры. Определение точки, в которой запуск собственной ИИ-платформы становится дешевле, чем потребление ИИ как услуги, может стать одним из важнейших финансовых решений при управлении корпоративным ИИ.
Несмотря на громкий анонс и мощную поддержку отрасли, точные сроки официального запуска и начала операционной деятельности Tokenomics Foundation пока не раскрываются.