В OpenAI начали предварительное тестирование разработанных в Google тензорных процессоров (TPU). В компании сообщили об этом агентству Reuters, отметив, что в настоящее время не планируют их массовое внедрение. Тензорные процессоры Google — специализированные интегральные схемы (ASIC), ускоряющие решение задач машинного обучения, которые оптимизированы для выполнения матричных вычислений в современных нейросетях.

Тестирование в OpenAI свидетельствует об изучении разработчиками больших языковых моделей (LLM) возможностей специализированного оборудования для снижения растущих затрат на формирование логических выводов и повышения эффективности вычислений в условиях роста интенсивности использования моделей, считают в Forrester Research.

В Barclays отмечают, что такие разработчики LLM, как OpenAI, вынуждены применять вместо дорогостоящих графических процессоров потребительские чипы ASIC для снижения расходов на логические выводы и "продвижения к прибыльности". По прогнозам Barclays, капитальные затраты на чипы, обеспечивающие применение обученных ИИ-моделей к реальным данным (consumer AI inference), составят в 2026 году около 120 млрд долл., а к 2028-му – более 1,1 трлн.

На логические выводы уходит более половины вычислительных ресурсов OpenAI, пояснили в Forrester, а тензорные процессоры заметно снижают стоимость по сравнению с графическими процессорами Nvidia. Они не могут сравниться по производительности с новыми чипами Nvidia, но минимизируют энергозатраты и простаивание ресурсов, что делает их более экономичными при масштабировании решений.

В настоящее время можно приобрести тензорные процессоры пяти поколений — v2, v3, v4, v5 и v6 (Trillium). В апреле в Google представили процессор следующего поколения — Ironwood, который, по мнению аналитиков, характеризует более привлекательное соотношение цены и производительности, чем у Trillium, а также чипов Nvidia, AMD, AWS и Microsoft. Эксперты считают, что, возможно, в OpenAI протестировали чипы Ironwood, массовый заказ которых в настоящее время маловероятен.

В Forrester полагают, что переход OpenAI к тензорным процессорам Google позволит избежать проблем нехватки графических процессоров и увеличить число потенциальных поставщиков чипов, получив определенное преимущество в переговорах о ценах. Сейчас в список поставщиков чипов OpenAI входят такие компании, как Microsoft, Oracle и CoreWeave. Другие эксперты считают, что применение тензорных процессоров поможет решить собственные задачи OpenAI, включая тестирование, обучения сотрудников и кэширование приложений.