На протяжении 36 лет в Arm Holdings проектировали процессоры и выдавали лицензии на них всем желающим, а те в свою очередь разрабатывали и производили собственные модификации.
Но ситуация меняется. Впервые в своей истории Arm объявила о вступлении в сферу производства кремниевых изделий. Первым продуктом компании стал центральный процессор Arm AGI, разработанный специально для ЦОДов, которые обслуживают системы ИИ, а первым ее заказчиком стала Meta (компания признана экстремистской и запрещена в России. — Прим. ред.).
По словам генерального директора Arm Рене Хааса, искусственный интеллект коренным образом изменил подходы к созданию и внедрению вычислительных систем, а агентные вычисления ускоряют эти изменения. Сегодня наступает переломный момент. С появлением Arm AGI у партнеров появится больше возможностей для глобальной поддержки агентной инфраструктуры ИИ на базе высокопроизводительных и энергоэффективных технологий Arm.
Чип был разработан и изготовлен компанией Ampere, стартапом Arm, основанным бывшей главой Intel Рене Джеймс. Инвестиционный фонд SoftBank, которому принадлежит Arm, приобрел Ampere в прошлом году за 6,5 млрд долл. Производство чипа будет осуществляться компанией TSMC по 3-нанометровой технологии.
По мере перехода от моделей обучения к развертыванию постоянно работающих агентов, которые рассуждают, планируют и действуют, объем токенов, генерируемых в системах ИИ, начинает расти быстрыми темпами и требовать значительно большего количества процессоров для обработки рассуждений, координации и перемещения данных.
Ожидается, что процессор Arm AGI станет основой для построения агентных ЦОДов. Он может включать в себя до 136 ядер Arm Neoverse V3 и использоваться в однокристальных системах, блейд-серверах или в системах, монтируемых в стойки. Пропускная способность памяти составляет 6 Гбит/с на ядро, а задержки не превышают 100 нс. По утверждению разработчиков, в случае монтирования в стойке процессоры AGI обеспечивают в два раза более высокую производительность по сравнению с процессорами x86.
При TDP в 300 Вт процессор AGI потребляет значительно меньше энергии по сравнению с чипами x86 Intel и AMD. Установка в серверное шасси высокой плотности высотой 1U позволяет использовать системы с воздушным охлаждением и размещать в стойке до 8160 ядер. В случае жидкостного охлаждения число ядер в стойке можно довести до 45 тыс.
Компания Meta выступает в качестве ведущего партнера и соразработчика AGI CPU, оптимизируя его для своего семейства приложений и программного обеспечения Meta Training and Inference Accelerator (MTIA). Помимо Meta, Arm поддерживает взаимодействие с компаниями Cerebras, Cloudflare, F5, OpenAI, Positron, Rebellions, SAP и SK Telecom. В рамках OEM-соглашений Arm сотрудничает с ведущими производителями, включая ASRock Rack, Lenovo, Quanta Computer, Supermicro и др.
Что касается перспектив нового процессора, они остаются неясными. По словам главного аналитика Tirias Research Джима Макгрегора, Arm предложила конкурентные тесты, но не сообщила никаких подробностей о том, какие системы использовались для сравнения. Будет ли это процессор общего назначения, тоже пока неизвестно. Возможно, речь идет о чипе искусственного интеллекта наподобие Nvidia Vera, который позволит максимально эффективно использовать ИИ-ускорители.