С увеличением мощности серверного оборудования растет энергопотребление, и все больше средств уходит на охлаждение, что заставляет разработчиков уделять особое внимание оптимизации этих процессов и создавать новые архитектуры. Одновременно им приходится заботиться об обеспечении гибкости, средствах консолидированного управления, прозрачных механизмах виртуализации, автоматизации выполнения процедур и задач, а также об удобстве обслуживания. Модульные серверы (blade) становятся привлекательным решением для все более широкого круга компаний, нуждающихся в экономичной и масштабируемой вычислительной среде (см. статью автора «Разделяй и властвуй» в январском номере «Журнала сетевых решений/LAN» за 2005 г.). Их архитектура нацелена на повышение эксплуатационной эффективности за счет снижения стоимости управления, ускоренного внедрения изменений, консолидации инфраструктуры ЦОД и высокой плотности оборудования.

Модульная платформа (шасси или полка) вмещает 14-16 вертикально установленных серверов (в противовес семи стоечным серверам высотой 1U того же совокупного объема), да еще и часть сетевой инфраструктуры (коммутаторы Ethernet и Fibre Channel), чем значительно упрощается подключение оборудования к внешним сетям и системам хранения. Общие для всех серверов блоки питания, вентиляторы и модули управления потребляют меньше электроэнергии, хотя высокая плотность оборудования ставит сложные инженерные задачи по отводу тепла.

В IBM модульную платформу BladeCenter позиционируют как готовое инфраструктурное решение. Оно включает в себя серверы (с процессорами, памятью, дисками, сетевой подсистемой и подсистемой ввода/вывода), инфраструктуру питания, консоли, интегрированные коммутаторы локальной сети и системы хранения, сеть системного управления. Как поясняет Илья Крутов, брэнд-менеджер System x IBM EE/A, по сравнению с традиционными серверами при использовании модульных серверов можно сэкономить даже на этапе закупки, не говоря уже о сокращении затрат на управление, поддержку и функционирование, поскольку не придется приобретать многие инфраструктурные компоненты.

В «Микротесте» считают, что применение модульных серверов позволяет сократить расходы на эксплуатацию почти вдвое, на инженерную инфраструктуру — до 30%, а на приобретение систем — до 10%. По данным Dell, ее модульные серверы PowerEdge 1955 электроэнергии потребляют на 24% меньше по сравнению с аналогичными стоечными серверами 1U, а выделение тепла сокращается примерно на 20%. Sun Microsystems, в свою очередь, заявляет, что в отличие от популярных стоечных серверов платформа Sun Blade 8000 обладает на 20% более низкой стоимостью владения (TCO), экономит 10% электроэнергии, имеет вдвое большую плотность. Как подсчитали в HP, применение модульных серверов дает выигрыш примерно в 25% по капитальным и эксплуатационным затратам, а уровень энергосбережения, который обеспечивает ее новая архитектура c-Class, составляет 33%.

По мнению аналитиков IDC, использование в ЦОД модульных серверов HP позволяет на 25-35% уменьшить занимаемые оборудованием площади, снизить энергопотребление, необходимое для функционирования серверов и систем охлаждения, и на 80-90% сократить затраты на системы коммутации и кабельное хозяйство. Согласно оценкам Dell, объем работ по подключению сетевых шнуров, кабелей питания, клавиатуры, видео и мыши к десяти серверам высотой 1U этой компании можно сократить на 70%, заменив их десятью модульными серверами в одном шасси. По словам Сергея Члека, руководителя направления HP BladeSystem, логическая простота — главное требование, ради которого и создавались эти системы, — достигается благодаря технологической архитектуре, механизмам консолидации, интеграции и контроля, что позволяет обеспечивать высокую степень управляемости и готовности системы в целом.

Первую пятерку мирового серверного рынка в EMEA составляют IBM, HP, Sun, FSC и Dell. По прогнозам IDC, в течение трех лет мировой серверный рынок ежегодно будет расти на 3% по обороту и на 10-12% по числу проданных серверов, при этом сегмент модульных серверов станет самым быстро развивающимся. Как сообщает IDC, в III квартале 2006 г. продажи модульных серверов в денежном выражении увеличились на 29,9% по сравнению с тем же периодом прошлого года, а по числу серверов — на 24,5%.

В сегменте x86 на модульные серверы приходится свыше 10% продаж. IBM остается лидером на этом рынке, ее доля достигла 42,3%, тогда как у HP — 35%. Ближайшему конкуренту, компании Dell, принадлежит 9% рынка (12% по количеству проданных серверов).

Рисунок 1. С моменaта их появления в 2002 г. продажи модульных серверов постоянно увеличиваются, однако прогнозы аналитиков IDC, предполагавших, что уже в 2006 г. доля этого оборудования достигнет 20% от общего объема поставок серверов, так и не оправдались.

Модульные серверы будут постепенно вытеснять стоечные на протяжении двух последующих лет, считают аналитики Illuminata. Сегодня их инсталлированная база относительно невелика, однако именно они в значительной степени обеспечивают рост рынка платформ x86 несмотря на то, что прежний прогноз IDC оказался завышенным (см. Рисунок 1). Тем не менее, как ожидается, к 2009 г. оборот этого рынка увеличится с 2 до 10 млрд долларов, и в 2010 г. каждый третий продаваемый сервер может стать модульным. У производителей весьма агрессивные планы, к тому же лидеры активно обновляют свои линейки. Например, HP намерена удвоить продажи модульных серверов в течение года, а IBM предлагает наиболее широкий выбор шасси различного назначения, серверов-«лезвий», модулей-коммутаторов, поддерживающих новейшие технологии.

Физическая консолидация серверов на модульных платформах создает предпосылки для внедрения виртуализации. По мнению Юрия Садовченко, руководителя направления вычислительных систем «Микротеста», консолидацию и виртуализацию можно рассматривать как шаг к реализации концепции ресурсных вычислений и решению острых проблем ЦОД, включая сложность и низкую адаптируемость инфраструктуры, а также неэффективное использование ресурсов. По словам Виктора Городничего, руководителя отдела серверов стандартной архитектуры «HP Россия», в настоящее время рынок нащупывает оптимальные пути использования серверов следующих поколений, сочетания модульных, стоечных серверов и серверов старших моделей, применения виртуализации. Одновременно осуществляется перенос приложений с устаревающих серверов SMP и платформ RISC на серверы стандартной архитектуры.

Рисунок 2. Поскольку спрос на модульные серверы в России пока невелик (продается около 2 тыс. устройств в квартал), расклад сил постоянно меняется. По данным IDC, в III квартале 2006 г. HP удалось выйти в лидеры в этом сегменте.

По данным IDC за III квартал 2006 г., на российском рынке серверов x86 лидирует HP с долей почти 30%, за ней следуют IBM (15%), Kraftway (6%), Depo Computers и Dell (примерно по 5% каждая), а также Fujitsu Siemens Computers (около 3%), причем аналитики констатируют постепенное снижение доли российских компаний. Россия теперь — четвертый крупнейший европейский потребитель серверов HP. Что касается отечественного сегмента модульных серверов, то на нем практически полностью доминируют HP и IBM. В III квартале прошлого года HP впервые удалось обогнать IBM (см. Рисунок 2), однако в IBM, ссылаясь на тот же источник, называют другие цифры — у нее 64%. Так или иначе, доля других производителей (FSC, Sun Microsystems и Dell) остается очень небольшой, впрочем, они позднее вышли на этот рынок, и расклад сил, несомненно, будет меняться. Модульные серверы выпускают и ведущие российские производители — DEPO Computers, Kraftway, «К-Системс» и R-Style, но их продажи пока невелики.

Обновив линейку модульных серверов, HP увеличила их долю в своих продажах на российском серверном рынке с 3,2% до 5,3%. Данные системы быстро становятся важным направлением бизнеса для самой компании и ее партнеров. По прогнозам Виктора Городничего, в 2007 г. их доля в поставках может вырасти до 8%. Со времени выпуска BladeCenter IBM уже инсталлировала более полумиллиона этих платформ по всему миру. Как заявила Ребекка Джоунс, бизнес-менеджер по корпоративным решениям Dell в регионе EMEA, в последнем квартале Dell стала самым быстро растущим поставщиком модульных платформ, и в компании намерены добиться аналогичного результата на рынке России.

КЛАССИКА ЖАНРА

Рисунок 3. IBM eServer BladeCenter T соответствует требованиям NEBS-3-/ETSI и поддерживает широкий спектр функций, которые соответствуют жестким требованиям телекоммуникационных стандартов.

Модульные решения трех лидеров строятся по однотипной схеме (см. врезку «Стандартная платформа нестандартной архитектуры»): серверные модули («лезвия») представляют собой компактный и модернизированный вариант их стоечных аналогов, а блоки питания, вентиляторы и модули управления вынесены в шасси вместе с коммутационной инфраструктурой. HP поставляет в Россию две модульные системы — выпущенную в 2002 г. систему HP BladeSystem p-Class и новую c-Class (PC Blade, еще один продукт HP, у нас не продается). IBM предлагает модульные серверы с сентября 2002 г., и в настоящее время ее линейка более разнообразна. Она включает в себя шасси BladeCenter, BladeCenter T (см. Рисунок 3) и BladeCenter H с обширным набором коммутационных и серверных модулей. В отличие от IBM, предлагающей модели BladeCenter для вертикальных отраслей (например, версию промышленного применения), HP формирует «горизонтальную» линейку BladeSystem, но пока единственным представителем шасси c-Class остается модель c7000. Во второй половине 2007 г. планируется выпустить уменьшенную версию для удаленных филиалов (например, отделений банков) и малых компаний, совместимую с c-Class по компонентам.

Рисунок 4. В IBM BladeCenter H пропускная способность внутренней подсистемы ввода/вывода каждого из модульных серверов составляет более 40 Гбит/с. Архитектура IBM Virtual Fabric Architecture реализует новые технологии организации взаимодействия и средств управления для увеличения скорости и эффективности передачи данных между «лезвиями» и сетями (10GbE и 4X InfiniВand, Fibre Channel на 4 Гбит/c).

Линейка серверов BladeCenter T для телекоммуникационной отрасли (включая версию с питанием от постоянного тока), отвечающая стандартам NEBS 3 и ETSI, была анонсирована в марте 2004 г. Около года назад компания представила шасси BladeCenter H (см. Рисунок 4) и три новых серверных модуля — на базе процессоров Cell, двухъядерных IBM PowerPC 970MP и двухъядерных Intel Xeon. BladeCenter H отличается готовностью к применению новейших технологий ввода/вывода, в том числе InfiniBand. Серверные модули разных шасси взаимозаменяемы (см. врезку «HP идет другим путем»). Во II квартале планируется начать поставки IBM BladeCenter HT — новой системы с высокопроизводительными коммутационными компонентами для ресурсоемких сетевых приложений следующего поколения, отвечающей международным телекоммуникационным стандартам.

В линейке модульных серверов HP используются только процессоры Intel и AMD, причем, в отличие от IBM, в линейке HP p-Class присутствуют и «лезвия» с Intel Itanium 2, а с февраля планируется поставка их аналогов для шасси c-Class. Четырехпроцессорные «лезвия» у HP доступны только в версии на базе процессоров AMD, тогда как у IBM же этот вариант предлагается и на базе Intel Xeon MP. HP также собирается выпускать такие модели с четырехъядерными Xeon MP (Tigerton). Представленная в июне прошлого года линейка модульных серверов HP BladeSystem c-Class, поддерживающая популярные версии Windows, Linux, а также Solaris x86, стала результатом трехлетних разработок. HP стремилась упростить и автоматизировать управление, расширить возможности виртуализации и снизить энергопотребление. Серверы c-Class изначально оснащались двухъядерными процессорами Intel, в сентябре появились серверы на базе AMD Opteron, а в ноябре — с четырехъядерными Intel Xeon 5300. Поскольку по тепловыделению (120 Вт) эти процессоры соответствуют требованиям для Xeon 5100, в конструкцию двух новых моделей серверов на базе Xeon 5300 для шасси c-Class и одной для p-Class не потребовалось вносить существенных изменений.

Обновляет свою линейку и IBM: в январе объявлено о выпуске серверов BladeCenter HS21 на базе четырехъядерных Intel Xeon 5300, совместимых с прежним шасси BladeCenter, а ранее, в сентябре 2006 г., компания представила BladeCenter QS20 — первые модульные серверы с процессорами Cell Broadband Engine. Процессор с девятью ядрами (на 3 ГГц каждое) предназначен для параллельных вычислений, а производительность системы сравнима с суперкомпьютерами. С IV квартала прошлого года они поставляются в Россию. Тогда же IBM сообщила о появлении новых модульных серверов LS21 (ориентированных на коммерческие приложения, финансовый сектор, Microsoft SQL Server) и LS41 (масштабируемый сервер уровня предприятия) на базе AMD Opteron 2,4 или 2,6 ГГц. LS41 можно масштабировать с помощью дочерней платы (snap-in), превращающей серверный модуль в четырехпроцессорный. Модульные платформы на базе процессоров AMD Opteron с хорошими показателями «производительности на ватт» выпускают IBM, HP и Sun.

Как отмечает Алексей Шелобков, руководитель отдела продаж серверов System X IBM EE/A, модульные серверы — один из ключевых сегментов, и анонс LS21 и LS41 в IBM относят к наиболее важным событиям минувшего года. В этих системах помимо улучшенной масштабируемости и производительности реализован ряд усовершенствований, касающихся энергосбережения и охлаждения. IBM вновь перенесла на серверы стандартной архитектуры технологии, опробованные в системах старшего класса, причем в компании утверждают, со ссылкой на исследования Gabriel Consulting, что новые платформы IBM опережают схожие решения HP по технологиям системного управления и степени надежности, пиковой производительности, общему уровню технологий и сервисного обслуживания, точности соблюдения намеченных планов, видению будущего платформы x86 и ценности приобретения для клиентов. Более того, по данным IBM, ее BladeCenter экономят больше электроэнергии, чем аналогичная линейка HP BladeSystem.

В IBM сравнивали серверы LS21 и HP BL465c для шасси c-Class на базе двухъядерных AMD Opteron. При полной нагрузке система IBM потребляла на 30% меньше электроэнергии и на 18% превзошла систему HP по энергоэффективности. При сравнении серверов IBM HS21 с Intel Xeon и сопоставимых систем HP BL460c выигрыш составил, соответственно, 26% и 13%. Однако деталей тестирования не приводится.

По словам Андрея Иванова, ведущего специалиста компании «Тринити Солюшнс», энергопотребление системы более чем на 40% определяется подсистемами питания и охлаждения. Поэтому, несмотря на схожие технологии, разница в компоновке и деталях реализации может привести к существенному расхождению в объемах энергопотребления. На результат влияет и КПД блоков питания при различной нагрузке. В любом случае для установления истины требуется независимое тестирование.

Рисунок 5. Dell PowerEdge 1955 поддерживает процессоры Quad Core Intel Xeon E5310 и обеспечивает повышение плотности на 43%: стойка 42U вмещает до 60 модульных серверов, что существенно экономит пространство в центрах обработки данных.

Как поясняет Илья Крутов, хорошей энергоэффективности IBM BladeCenter способствует конструкция системы охлаждения, высокий КПД блоков питания (свыше 90%) и применение технологии IBM Calibrated Vectored Cooling, обеспечивающей максимальный отвод тепла и высокую степень интеграции компонентов. Сходные аргументы могут привести и в HP. Интересно, что и в Dell говорят о лидирующих позициях по энергоэффективности. Как утверждает Ребекка Джоунс, PowerEdge 1955 (см. Рисунок 5) потребляет меньше электроэнергии, чем эквивалентные конфигурации HP или IBM, а также модель PowerEdge 1950. Правда, тестирования в Dell не проводили, а просто рассчитали энергопотребление по заявленным на сайтах производителей параметрам.

В HP намерены завершить перевод заказчиков на платформу c-Class в течение текущего года с тем, чтобы в следующем снять с производства p-Class. Пока же для p-Class будут выпускаться новые модели серверов и компонентов, а поддерживать эту платформу планируется вплоть до 2012 г. Их пользователям доступны серверы с процессорами Xeon 5100/5300 и AMD Opteron Rev.F, сервисные процессоры iLO 2 Standard Blade Edition с улучшенным временем отклика и высоким качеством изображения на удаленной консоли, заменяемые в «горячем» режиме компактные жесткие диски SAS и SATA, многофункциональные интегрированные контроллеры iSCSI/RDMA/TOE и память FB DIMM (DDR2) — все это новинки, предлагаемые заказчикам c-Class.

Рисунок 6. Шасси HP BladeSystem c7000 высотой 10U с 16 серверами ProLiant BL460c. В нижней части корпуса находится ЖК-дисплей. Новое шасси (или полка, в терминологии HP) позволяет использовать два форм-фактора модульных серверов — полноразмерный (в этом случае их можно установить до восьми в одной полке) или половинной высоты (до 16 на одной полке). Поддерживаемые модули включают BL460c, BL465c, BL480c, BL685c, SB40c на базе новейших процессоров AMD Opteron (до четырех процессоров) и Intel Xeon. Кроме того, в шасси можно устанавливать так называемые модули хранения (storage blade) емкостью до 420 Гбайт (до 90 дисков в одной полке).

Хотя высота шасси c-Class увеличилась с 7U до 10U, оно вмещает до 16 эквивалентов серверов BL20p, для которых ранее требовалось 14U. Каждый сервер половинной высоты для системы c-Class по своим функциональным возможностям соответствует серверу полной высоты для p-Class, поэтому плотность оборудования в c-Class выросла. Ближайшее по классу шасси IBM BladeCenter H еще компактнее — всего 9U, однако, как считают в HP, по количеству серверов (14 вместо 16), дисков (28 вместо 32), модулей DIMM и мезонин-адаптеров ввода/вывода оно уступает c-Class. В отличие от подхода большинства производителей, когда модульные серверы устанавливаются вертикально в ряд в корпус стандартной ширины 19″, HP разместила серверы «в два этажа» — по восемь в ряд (см. Рисунок 6). Это позволило сделать каждый сервер достаточно вместительным для расширений и опций. В IBM же утверждают, что более плотная «набивка» шасси BladeCenter (14 тонких серверов в ряд) повышает эффективность управления и электропитания и требует меньше коммутаторов и кабелей, а потому такой дизайн экономичнее.

С передней панели шасси c7000 доступны и блоки питания — до шести модулей с «горячей» заменой мощностью по 2,25 кВт. Для локального управления можно использовать ЖК-дисплей BladeSystem Insight Display. Экран размером 2х2″ показывает состояние отдельных серверов или их компонентов (идея позаимствована у принтеров HP). Если понадобится, система предоставит данные о температурных условиях внутри шасси, что позволяет администратору следить за энергопотреблением и своевременно принимать меры по охлаждению отдельных «лезвий». IBM использует центральную информационную панель на светодиодах и светодиодные индикаторы отдельных серверов: они показывают, в каком состоянии находятся компоненты, и помогают выявить неисправность, даже если система выключена.

НАРАЩИВАЯ ЕМКОСТЬ

Наиболее «ходовые» серверы HP BL460c половинной высоты, более «толстые» и низкие, чем IBM HS21, вмещают до двух процессоров Intel Xeon 5100 или 5300, до восьми FB DIMM на 667 МГц (до 32 Гбайт), два диска SFF SAS с «горячей» заменой, контроллер RAID 0/1 с буфером BBWC, два контроллера GbE, сервисные процессоры iLO 2. Двухпроцессорные серверы полной высоты HP ProLiant BL480c оснащаются оперативной памятью емкостью до 48 Гбайт (это больше, чем в стоечном аналоге DL380/385), четырьмя жесткими дисками и сетевыми контроллерами. От емкости оперативный памяти зависит количество поддерживаемых виртуальных машин, а ее увеличение заметно улучшает производительность виртуальной среды. В IBM LS41 можно установить до 16 модулей памяти (64 Гбайт), работающих на максимальной частоте, что, как подчеркивает разработчик, позволяет добиться хороших показателей производительности и оптимизировать сервер для задач виртуализации. В IBM HS21 емкость памяти составляет до 32 Гбайт при использовании модуля расширения Memory and I/O Expansion Unit. «Горячая» замена дисков у IBM реализуется с помощью модулей расширения IBM BladeCenter Storage и I/O Expansion Unit. Помимо дисков указанные модули поддерживают до двух дополнительных плат расширения, чем увеличивается емкость подсистемы ввода/вывода.

Рисунок 7. HP BladeSystem c7000 содержит восемь коммутационных отсеков — до четырех резервируемых коммутаторов Ethernet, 5-терабитную объединительную панель, один или два модуля управления Onboard Administrator; питание резервируется по схеме N+N и N+1. Десять вентиляторов HP Active Cool обеспечивают эффективное воздушное охлаждение. Система предназначена для решения широкого круга задач в небольших серверных комнатах или крупных автоматизированных ЦОД: Web и электронная коммерция, потоковая передача данных, почта и обмен сообщениями, а также корпоративные приложения, включая ERP и CRM.

Большая емкость дисков помогает консолидировать большее число виртуальных машин. Между тем применение четырехъядерных процессоров требует адекватного увеличения возможностей подсистемы ввода/вывода. Чтобы заказчики могли наращивать емкость хранения, не приобретая внешних систем, HP разработала модульную систему хранения HP StorageWorks SB40c (см. Рисунок 7), устанавливаемую в шасси с-Class. О ее выпуске было объявлено в конце ноября 2006 г. Модуль предоставляет выделенную емкость хранения для соседнего сервера (пока только для одного). В текущем году планируется выпуск модуля SB, совместно используемого несколькими серверами в шасси. По словам Сергея Члека, такие решения могут быть востребованы для большого числа приложений, например для терминальной службы Citrix, где важна возможность наращивания дисковой подсистемы сервера для обслуживания растущего числа пользователей, или в удаленном офисе, когда использование SAN не оправдано. Кроме того, его можно применять для поддержки файловых серверов, систем обмена сообщениями, потокового видео и небольших баз данных. По прогнозам аналитиков, интеграция систем хранения в модульные платформы станет одной из тенденций года. Подобный подход использует и Hitachi (системы BladeSymphony).

ВИРТУАЛИЗАЦИЯ СОЕДИНЕНИЙ

Ввод/вывод — «центральная нервная система» модульной платформы, обеспечивающая взаимодействие между серверами, шасси и коммутаторами, а кроме того, связывающая серверы с внешними сетями Ethernet и SAN. Модульные платформы имеют резервируемые встроенные коммутаторы Ethernet, Fibre Channel и InfiniBand либо пассивные коммутационные панели (в более дешевом варианте), которые по шине подключаются к сетевым интерфейсам (NIC) серверов и хост-адаптерам (HBA).

Рисунок 8. Модуль HP StorageWorks SB40c для шасси c7000 позволяет модернизировать имеющиеся модульные серверы HP за счет DAS без миграции к сетевым системам NAS/SAN. После его установки соседний сервер автоматически распознает дополнительную дисковую емкость и запускает приложение настройки конфигурации. В состав модуля SB40c для шасси c7000 входят шесть жестких дисков SAS или SATA формата 2,5″ с поддержкой «горячей» замены общей емкостью до 876 Гбайт и контроллер SmartArray P400 с кэш-буфером записи и аппаратной поддержкой RAID 0, 1, 5 и 6.

Шасси HP c7000 содержит восемь коммутационных отсеков (см. Рисунок 8) и поддерживает четыре независимых резервируемых «фабрики» ввода/вывода — коммутаторы локальной сети (Cisco или Nortel) и сети хранения (Brocade) позволяют реализовать отказоустойчивую архитектуру. В прошлом году HP интегрировала в шасси коммутатор FC от Brocade (4 Гбит/с). Серверы HP BL460c могут оснащаться многофункциональными контроллерами FC на 4 Гбит/с, InfiniBand и 10GbE. С сентября HP предлагает коммутаторы и платы расширения InfiniBand, благодаря чему система может использоваться для создания кластеров HPC, а к лету, как планируется, для нее станет доступной поддержка 10GbE.

Среди новых сетевых возможностей HP с-Class — архитектура Virtual Connect. Один раз выполнив физическую коммутацию, администратор ЦОД сможет перераспределять ресурсы с помощью виртуальных соединений Ethernet и FC. Модули HP Virtual Connect позволяют заменять, добавлять и переконфигурировать серверы, не нарушая взаимодействия с существующими доменами локальных сетей и сетей хранения. После первоначальной настройки устанавливается соответствие между аппаратными интерфейсами со стороны серверов и внешними портами, и при добавлении или перемещении сервера модифицировать настройки сети не приходится.

Как пояснил Илья Крутов, решения виртуализации ввода/вывода на платформе IBM BladeCenter основаны на стандартных средствах и технологиях, в частности Cisco Systems InfiniBand, а для управления такой инфраструктурой используется ПО Cisco Systems VFrame. Оно дает возможность устанавливать соответствие друг другу для пула вычислительных и инфраструктурных ресурсов в зависимости от предъявляемых требований. Коммутаторы Ethernet/FC/IB в шасси IBM являются теперь частью IBM Virtual Fabric Architecture — новых технологий организации взаимодействия и средств управления для IBM BladeCenter H, нацеленных на увеличение скорости и эффективности передачи данных между «лезвиями» и сетями.

Первое интегрированное решение Cisco InfiniBand Switch Module и платы расширения Cisco HCA Expansion Card для IBM BladeCenter были выпущены в 2004 г. Благодаря встроенной поддержке 10GbE и 4X InfiniBand в платформе IBM BladeCenter H предлагается ряд новых решений InfiniBand, включая виртуализацию. В ней применяются коммутаторы InfiniBand — Cisco IB 4X High Speed Switch Module и платы расширения Cisco IB 4X High Speed HCA Expansion Card. Для организации доступа к локальной сети и системе хранения через InfiniBand предусмотрены интегрированные модули QLogic InfiniBand Ethernet Bridge Module и QLogic Infiniband Fibre Channel Bridge Module, реализующие функции шлюзов с внешними сетями Ethernet или FC для нескольких соединенных по InfiniBand систем BladeCenter H. Кроме того, IBM Multi-Switch Interconnect Module (MSIM) позволяет удвоить число соединений FC или Ethernet с каждым сервером; он устанавливается в слоты коммутаторов и пригоден для всей серии BladeCenter.

ПО IBM BladeCenter Address Manager реализует виртуализацию портов соединений Ethernet и FC в системе. Используемые серверами адреса портов можно назначать программно. При этом поддерживаются коммутаторы разных производителей, применяемые в IBM eServer BladeCenter, — около десяти вариантов вместо четырех у HP. Dell предлагает для PowerEdge 1955 гигабитные коммутаторы Ethernet (PowerConnect 5316, Cisco CBS-3030), коммутаторы FC (Brocade 4016, McData 4416) и InfiniВand, однако без виртуализации соединений.

В середине января IBM объявила о доступности для BladeCenter H высокоскоростного коммутатора Nortel 10G Ethernet High Speed Switch Module и платы расширения 10GbE, обеспечивающих сквозное подключение со скоростью 10 Гбит/с от ядра сети до серверного модуля. В компании утверждают, что Virtual Fabric Architecture в BladeCenter H дает значительное преимущество (до 43%) по пропускной способности системы по сравнению с HP BladeSystem.

ЗАЩИТА ОТ «ГЛОБАЛЬНОГО ПОТЕПЛЕНИЯ»

Первостепенным требованием становится энергоэффективность, поэтому и HP, и IBM в дополнение к производительности и надежности стали уделять особое внимание энергосбережению, эффективному контролю управления питанием, теплообмену и охлаждению серверов. В системах обоих вендоров оптимизирован путь прохождения воздушных потоков, что позволяет обойтись меньшим числом вентиляторов при максимальной плотности оборудования. Кроме того, обе компании решают задачи энергосбережения и охлаждения комплексно, на уровне ЦОД.

Аппаратные и программные технологии контроля энергопотребления и охлаждения IBM CoolBlue объединяют в себе блоки питания серверов с КПД более 90%, систему теплообмена Calibrated Vector Cooling, дверцы серверных стоек с водяным охлаждением, комплект программного и аппаратного обеспечения PowerExecutive. Последнее служит для контроля за потреблением питания, тепловыделением и показателями окружающей среды, помогая отслеживать тенденции с целью выявления потенциальных проблем и управлять энергопотоками внутри системы. Тепловой анализатор IBM Thermal Diagnostics позволяет выявлять зоны повышенного тепловыделения в помещении ЦОД и автоматически выполняет корректирующие действия (например, отключает некритичное оборудование). IBM CoolBlue содержит средства начального планирования энергопотребления и тепловыделения ЦОД — калькулятор питания IBM System x and BladeCenter Power Calculator для оценки энергопотребления в конкретной конфигурации. В IBM BladeCenter поддерживается до четырех блоков питания мощностью по 1,2 кВт с перераспределением нагрузки и восстановлением после сбоев.

Средство централизованного мониторинга и анализа энергопотребления и тепловыделения PowerExecutive для серверной части ЦОД позволяет отслеживать тенденции энергопотребления по различным критериям, в том числе по серверам, типам приложений, местоположению и др. Оно обеспечивает эффективное планирование и использование энергоресурсов ЦОД на основании реальных данных и рабочей нагрузки. Кроме того, в скором времени IBM PowerExecutive станет способно не только отслеживать энергопотребление, но и активно управлять им: например, ограничивать энергопотребление ЦОД определенным количеством киловатт, распределяя мощности между серверами без ущерба для критически важной функциональности. IBM PowerExecutive поддерживает не только серверные модули, но и многие традиционные серверы IBM System x.

Вместо того чтобы по мере роста мощностей перестраивать всю систему кондиционирования для удовлетворения потребностей в охлаждении, на стандартный шкаф IBM Enterprise Rack можно установить дверь с водяным охлаждением IBM Rear Door Heat eXchanger. Таким образом, отвод тепла увеличивается до 55% (до 50000 BTU), а температура выходящего из стойки воздуха снижается. Интегрированное векторное охлаждение управляет потоками воздуха внутри сервера. По словам Андрея Иванова, стоимость навесной двери сопоставима с внешней системой кондиционирования с аналогичными, а зачастую и более низкими, параметрами теплоотвода. Кроме того, в ряде случаев использование специальных решений для увеличения плотности в стойке оказывается не только экономически оправданным, но и единственно возможным подходом.

Высокая плотность монтажа оборудования требует хорошей продувки для отвода тепла. В системе HP Blade Thermal Logic применяется десять мощных вентиляторов со скоростью вращения 18 тыс об/мин для прокачивания воздуха по каналам корпусов серверов, при этом, по данным HP, на охлаждение 16 серверов затрачивается всего 100 Вт. Если датчик показывает, что охлаждения не требуется, вентилятор отключается. Как отмечают в HP, это экономит энергопотребление не менее чем на 60%. Кроме того, вентиляторы можно устанавливать в зависимости от наполнения шасси. Например, более холодные модули хранения работают в ином температурном режиме, поэтому вентиляторы следует переставить для эффективной продувки «горячих» серверов. В ЦОД с высокой плотностью оборудования воздушного охлаждения иногда не хватает. На этот случай HP, как и IBM, предусматривает водяное охлаждение стойки — система HP Modular Cooling System способна отводить до 60 кВт на стойку.

Механизмы HP Thermal Logic реализуют также функции контроля и регулирования энергоснабжения компонентов. Поскольку максимальная эффективность источников питания достигается при высоких нагрузках, HP Dynamic Power Saver задействует именно то количество источников питания, которое необходимо для установленных в шасси компонентов, а HP Power Regulator позволяет согласовать энергопотребление процессоров с общей нагрузкой. Кроме того, в HP разработали ПО для численного моделирования полей температуры, потоков, давления воздуха во всем объеме ЦОД, исходя из реальной геометрии помещения и оборудования; по результатам соответствующих вычислений предоставляются конкретные рекомендации. Такое моделирование имеет достаточно высокую точность и применимо к существующим или проектируемым ЦОД.

Как и у лидеров рынка, архитектура Dell рассчитана на снижение энергопотребления и тепловыделения. В декабре компания анонсировала конфигурации Dell PowerEdge Energy Smart 1950 и 2950, где производительность на 1 Вт улучшена до 25%, а энергопотребление — на 20%, что в масштабах ЦОД выливается в огромную экономию. Разработчики использовали вентиляторы специальной конструкции, высокоэффективные источники питания и низковольтные двухъядерные процессоры Intel Xeon, переписали BIOS и задействовали конструктивные элементы, повышающие эффективность «продувки» корпуса.

СИСТЕМЫ УПРАВЛЕНИЯ

Очень серьезное внимание HP и IBM уделяют вопросам управления модульными серверами, причем, обладая большим опытом разработки систем управления, они предлагают в своих продуктах чрезвычайно широкий спектр функций. По заверениям представителей HP, Dell и Sun, максимальная эффективность достигается только при унифицированном управлении инфраструктурой ЦОД, включающей модульные и стоечные серверы. В «Тринити Солюшнс» также полагают, что средства управления должны быть одинаковыми для модульных и обычных серверов. Дополнительные компоненты для реализации новых возможностей модульных систем должны интегрироваться в общую среду управления. Именно такой подход способен обеспечить эффективное управление инфраструктурой и снижение расходов на управление при внедрении модульных серверов.

Как поясняет Илья Крутов, решение системного управления IBM BladeCenter состоит из нескольких компонентов. Во-первых, это модули управления внутри шасси и сервисные процессоры Baseboard Management Controller на «лезвиях». Модули управления взаимодействуют с сервисными процессорами «лезвий» в целях управления питанием, контроля состояния системы, доступа к консоли (функции KVM) и т. п. Во-вторых, ПО IBM Director реализует централизованное управление серверной инфраструктурой и вместе с дополнительными модулями автоматизирует задачи ИТ, включая развертывание системы, управление и поддержку, контроль и оптимизацию, поиск и устранение неисправностей. IBM Director справляется и с управлением системами на стандартной платформе других производителей.

В HP BladeSystem серверные модули оснащаются интерфейсами виртуальной консоли системного администратора и сервисными процессорами iLO 2, благодаря чему управление модульными серверами может осуществляться удаленно, с получением полного контроля над системой без применения Java. Благодаря новой функции Virtual KVM с удаленной консоли iLO 2 доступны различные средства для администрирования и устранения неполадок. Интегрированный в шасси c7000 модуль управления Onboard Administrator агрегирует сеть iLO как 16-портовый коммутатор Ethernet. Доступ к выделенной сети управления осуществляется только через внешний порт. Onboard Administrator упрощает развертывание шасси, управление конфигурацией, энергоснабжением и охлаждением компонентов, дает возможность быстро диагностировать неисправности, получать статистику по энергопотреблению и охлаждению, иметь доступ к функциям iLO, упростить начальную настройку. По данным HP, инсталляция новейших шасси с модульными серверами занимает не более 5 мин.

Новое ПО управления HP предусматривает улучшенную интеграцию с серверами другого класса и поддержку виртуализации систем хранения, позволяя управлять большим количеством серверов. Интегрируемое с HP OpenView решение HP Insight Control Management включает в себя интеллектуальные аппаратные средства и интерфейсы, встраиваемые в серверы и шасси, а также ПО HP System Insight Manager (SIM) и HP ProLiant Essentials, где реализованы усовершенствованные технологии развертывания и замены оборудования, средства анализа уязвимостей и управления обновлением программ. Для автоматизации операций задаются различные правила. Администратор может централизованно управлять ресурсами ИТ, выводить отчеты по их использованию, осуществлять мониторинг производительности, энергопотребления и тепловыделения, отключать ненужные серверы. Чтобы упростить установку многочисленных программных модулей (plug-in) SIM, с января HP выпускает новое интегрированное ПО управления Inside Control Environment.

Не обладая опытом IBM и HP в области средств управления, Dell сотрудничает с другими производителями, предлагая ПО Dell OpenManage для развертывания, модификации и текущего контроля состояния системы. Как поясняет Ребекка Джоунс, компания применяет стандартные программные средства управления, предоставляя единую консоль, что повышает эффективность управления стоечными и модульными серверами.

С каждым сервером поставляется ПО Dell OpenManage, в дополнение к которому рекомендуется использовать инструменты Microsoft, Altiris, Novell, среды управления BMC, CA, Tivoli и др.

Удаленное управление шасси и серверами Dell, в том числе управление питанием и создание отчетов, обеспечивает резервируемый модуль контроллера DRAC/MC (Dell Remote Access Card). В шасси устанавливается до двух таких карт, поддерживающих полное удаленное управление системой и удаленную загрузку с виртуального носителя. Серверы Dell оснащаются также контроллерами Baseboard Management Controller (BMC) с поддержкой IPMI 2.0. Кроме того, в шасси встраивается переключатель KVM от Avocent с функциональностью KVM over IP. По одному подключению KVM можно управлять десятком серверов.

ЗАКЛЮЧЕНИЕ

Судя по позиционированию модульных платформ их производителями, сегодня трудно выделить области, где эти решения оказались бы неуместны. В HP отмечают, что первоначально модульные серверы нашли применение в системах массового обслуживания клиентов (телекоммуникации, электронная коммерция), но оказались очень эффективными при создании гибкой и масштабируемой инфраструктуры корпоративного ЦОД. В ближайшее время стратегия реализации корпоративных ЦОД будет состоять в выборе оптимального сочетания стоечных, модульных и высокопроизводительных серверов с применением многоядерных процессоров. Однако, по мнению Сергея Члека, с обеспечением характерной для систем SMP максимальной производительности, а также высокой отказоустойчивости лучше всего справляются серверы традиционной архитектуры. Модульные решения не вполне адекватны и для малых компаний, эксплуатирующих лишь несколько серверов; не подходят они и для задач управления технологическими процессами, где используются серверы со специальными интерфейсными платами.

Модульную платформу HP BladeSystem можно использовать не только как решение для крупных ЦОД, но и, например, на удаленных площадках, где нужна готовая архитектура с возможностями дистанционного управления. Корпоративные приложения, крупные СУБД, системы электронной почты, обмена сообщениями и поддержки коллективной работы, в частности телекоммуникационные, банковские и торговые системы, виртуальные серверы, системы на основе SOA и целый ряд других приложений вполне позволяют применять модульные платформы под управлением основных ОС. В отличие от «классических» подходов тройки лидеров рынка модульных серверов, другие игроки пытаются предложить новые модульные архитектуры, о чем мы поговорим подробнее в следующем номере.

Современные модульные серверы представляют собой универсальные системы, пригодные как для инфраструктурных и бизнес-приложений, так и для высокопроизводительных вычислений. И в России, и во всем мире, подчеркивают в IBM, флагманом внедрения передовых технологий в инфраструктуре ИТ традиционно является финансовая отрасль. Кроме того, модульные серверы востребованы в телекоммуникационной, нефтегазовой и других отраслях, их приобретают и компании из сектора малого и среднего бизнеса. В прошлом году наметился заметный перелом в отношении к этой архитектуре со стороны российских заказчиков. Хотя в середине прошлого года модульные серверы значительно уступали по популярности стоечным, составляющим 56,8% рынка, однако на мировом рынке темпы роста соответствующего сегмента составляют около 30% в квартал. В России постепенно диспропорция уменьшается.

В «Тринити Солюшнс» отмечают существенный рост интереса к модульным серверам в самых различных областях. Их внедрение позволяет упорядочить уже существующую неоднородную инфраструктуру. В этом году рост рынка будет обеспечиваться компаниями, планирующими реструктуризацию ИТ и переход к использованию сетей хранения данных, а среди наиболее перспективных заказчиков выделяют тех, кто заинтересован в построении высокопроизводительных кластеров HPC — промышленность, НИОКР, производство цифрового видео.

Сергей Орлов — обозреватель «Журнала сетевых решений/LAN». С ним можно связаться по адресу: sorlov@lanmag.ru.


Стандартная платформа нестандартной архитектуры

В архитектуре модульных серверов применяются стандартные процессоры, компоненты и средства подключения, используемые в традиционных стоечных серверах, и поддерживаются те же стандарты, протоколы, ОС и приложения, характерные для корпоративных систем, однако инновационный характер многих разработок превращает их в уникальные фирменные решения. Представляя относительно новую архитектуру, модульные серверы менее стандартизованы, чем стоечные системы. Сами серверы, коммутаторы (даже если их выпускает Cisco), вентиляторы — все это «заточено» под конструкцию конкретного шасси или полки (корпуса особой конструкции, где размещаются серверы, коммутаторы, блоки питания и управления). Шасси HP, IBM, Dell и других разработчиков «привязывают» заказчиков к решению выбранного производителя, так как используют несовместимые компоненты. Проблемой остаются и применение собственных средств управления: выигрыш от применения в ЦОД модульных серверов разных марок будет минимальным.

В «Тринити Солюшнс» считают, что подобная привязка не является проблемой или сдерживающим фактором. Во-первых, многие компании уже имеют корпоративный стандарт на использование техники того или иного производителя, и добавление еще одной (пусть и модульной) платформы выбранного вендора в существующую инфраструктуру вполне ему соответствует. Во-вторых, предприятиям, обладающим разнородной инфраструктурой, возможность иметь стандартизованную систему управления и мониторинга хотя бы для нескольких серверов поможет упростить администрирование и снизить расходы. Эффективность затрат на управление инфраструктурой остается острой проблемой, и модульные платформы позволяют сделать первый шаг к поставленной цели.

Как новое «модное» решение, модульная архитектура способствует не только обновлению серверов, но и «удержанию клиента»: теперь не надо стараться продать вместе с сервером как можно больше опций. Напротив, заказчика можно убедить начать с малого и приобрести шасси и пару серверов (например, Dell при покупке трех «лезвий» предлагает шасси бесплатно). Все равно при расширении бизнеса он будет вынужден вернуться к тому же производителю. При покупке серверов новой архитектуры заказчики стремятся свести риск к минимуму, предпочитая проверенные рынком решения признанных лидеров. Отсюда столь заметный отрыв IBM и HP от конкурентов в сегменте модульных серверов.

Более двух лет назад IBM сделала важный шаг в деле «стандартизации» своей платформы BladeCenter. Intel и IBM стали предоставлять разработчикам и партнерам по внедрению конструктивные спецификации шасси BladeCenter на базе процессоров Intel, что можно рассматривать как попытку создания стандарта де-факто на модульные серверы. Формирование вокруг них «экосистемы» повышает ценность решения благодаря появлению дополнительных сертифицированных продуктов сторонних производителей. Intel выпускает готовые серверные модули и ПО управления, которые предназначены для производства серверных систем. Их используют, в частности, российские сборщики.

За пять лет вокруг архитектуры IBM BladeCenter сформировался обширный круг партнеров. Отраслевое сообщество Blade.org объединяет более 80 компаний, разрабатывающих решения на базе модульных серверов. Оно задумывалось как организация, нацеленная на расширение применения платформы BladeCenter. Партнеры получили возможность тестировать свои продукты и испытывать их на совместимость с системами BladeCenter. Blade.org помогает разработчикам решений в создании приложений для модульных серверов и распространении BladeCenter в вертикальных отраслях. Пока лишь IBM решилась открыть спецификации своих модульных серверов.

В декабре IBM и Intel выступили с еще одной инициативой, призванной помочь заказчикам в выборе, развертывании и оценке производительности решений на базе виртуальных серверов для ЦОД. Один из первых инструментов, реализованных в ее рамках, — методика vConsolidate для оценки производительности систем виртуализации, представленная в отраслевой комитет стандартов. Впрочем, и IBM BladeCenter, и HP BladeSystem развиваются как «экосистемы» решений, объединяющие разработчиков оборудования и ПО.


HP идет другим путем

Еще в 2002 г. в IBM заявили, что все последующие модульные серверы будут совместимы с прежними шасси. Этого подхода в компании придерживаются и поныне. Совместимость поколений BladeCenter в компании считается важнейшим аспектом использования масштабируемой платформы. Шасси IBM пережило смену нескольких поколений процессоров Intel Xeon и переход на сети хранения данных Fibre Channel с поддержкой 4 Гбит/c. Компания следует стратегии внедрения новых технологий при сохранении вложений клиентов и долгосрочной защите инвестиций. BladeCenter можно наращивать по мере необходимости в течение длительного времени, что особенно актуально для небольших и средних компаний, начинающих строить инфраструктуру с нескольких серверов. Совместимость компонентов шасси BladeCenter, BladeCenter T и BladeCenter H дает заказчикам несомненные преимущества.

В отличие от IBM eServer BladeCenter, у HP совместимость компонентов p-Class и c-Class не обеспечивается. В компании решили отказаться от преемственности в пользу новой архитектуры и полагают, что разработчики IBM пошли не тем путем, придерживаясь технологии пятилетней давности, да и совместимость модулей относительна. Однако, как утверждает Илья Крутов, в настоящее время никаких ограничений на поддержку серверов IBM BladeCenter HS21 с процессорами Intel Xeon семейства 5100, включая и 5160, в шасси BladeCenter нет.

Шасси Dell PE 1855 выпуска 2004 г. и новые PE 1955 тоже поддерживают одни и те же компоненты. Ребекка Джоунс считает это важным для защиты инвестиций заказчиков: те, кто приобрел шасси в 2004 г., могут комплектовать их выпускаемыми сегодня серверами. Такая совместимость будет обеспечиваться еще не менее 15 месяцев. По словам Ивана Макарова, менеджера по продукции Fujitsu Siemens Computers, жизненный цикл шасси составляет три-четыре года. За это время успевают обновиться два-три поколения серверных модулей. Производителям приходится искать компромисс между интересами заказчиков, вложивших немалые средства в приобретение шасси, и переходом на новые технологии, дабы преуспеть в конкурентной борьбе. В HP для шасси выбрали пятилетний жизненный цикл, и, судя по объемам продаж за последнее полугодие, число заказчиков от этого не уменьшилось, хотя в июне компания внезапно отказалась от прежних обещаний совместимости. Тем не менее, по словам Сергея Члека, анонсированные прошлым летом системы c-Class были хорошо восприняты на российском рынке.

По мнению Андрея Иванова, для крупных организаций, приобретающих шасси, полностью заполненные модулями, влияние смены поколений не окажется слишком значительным, хотя небольшие компании, планировавшие докупать модули в течение нескольких лет, могут расценить это обстоятельство как критичное для их бизнеса.

Поделитесь материалом с коллегами и друзьями