МИР модульных ЦОДов. Развенчивая мифы

 

МИФ № 1. МОДУЛЬНЫЙ = МОБИЛЬНЫЙ = КОНТЕЙНЕРНЫЙ

Во многом проблемы взаимопонимания участников рынка связаны с отсутствием единого, общепринятого определения, что же такое модульные ЦОДы. Очень часто заказчики отождествляют понятия «модульный», «мобильный» и «контейнерный». Этому есть свое объяснение, поскольку первые решения, давшие старт развитию отрасли модульных и мобильных ЦОДов более 10 лет назад, создавались на базе стандартных ISO-контейнеров. Заказчиками таких решений были военные, а одно из главных требований состояло в возможности быстро перевезти и развернуть ЦОД, например, для организации командного центра или узла связи. По сути, это были мобильные контейнерные ЦОДы, для которых едва ли подходит определение «модульный».

МИР модульных ЦОДов. Развенчивая мифы

Термин «модульность» означает возможность простого и быстрого масштабирования ЦОДа. По мнению Валентина Фосса, модульность — это в первую очередь характеристика ограждающей конструкции ЦОДа, поскольку большинство инженерных систем — кондиционеры, чиллеры, ИБП и т. д., — так или иначе являются модульными. Что касается средств для размещения ИТ-оборудования, то стойка, по сути, и есть один модуль.

МИР модульных ЦОДов. Развенчивая мифы

Конструктив модульного ЦОДа может быть различным: это и ISO-контейнеры, и нестандартные контейнеры, и специализированные блоки, и быстровозводимые легкие конструкции (см. рис. 1). Минимальный шаг наращивания таких решений может быть тоже очень разным: от одной стойки до сотен и тысяч стоек.

Рис. 1. Классификация ЦОДов
Рис. 1. Классификация ЦОДов

 

При этом многие эксперты довольно резко критикуют ЦОДы на основе ISO-контейнеров. По мнению Федора Клименко, такие решения имеют серьезные ограничения по функциональности из-за заданных транспортных габаритов. «Самый главный ограничитель — ширина, она у ISO-контейнера всего 2,4 м, что сильно осложняет задачу организации холодного и горячего коридоров достаточной ширины», — объясняет он. Для обеспечения доступа к оборудованию приходится идти на компромиссные решения — например, устанавливать стойки на салазках (для обслуживания их сдвигают вперед или назад, см. рис. 2) или размещать стойки поперек контейнера. В любом случае это затрудняет монтаж/демонтаж стойки и установку тяжелого оборудования, практически исключает возможность размещения нестандартных шкафов и пр.

Рис. 2. Стойки на салазках внутри ЦОДа на базе контейнера
Рис. 2. Стойки на салазках внутри ЦОДа на базе контейнера

 

Проблемы вызывает и ограничение по высоте: внутри ISO-контейнера от пола до потолка всего 2,1 м. Это означает невозможность установки стоек высотой более 42U (стойка 42U имеет высоту 2 м), а также организации фальшпола, который часто бывает удобен для прокладки кабелей или подвода холодного воздуха. Указанное ограничение по высоте создает стесненные условия для организации кабельных трасс. В частности, в таком контейнере нельзя установить шинопровод, который пользуется все большей популярностью в ЦОДах.

Компания GreenMDC пошла по пути разработки модульных ЦОДов, собираемых из отдельных конструкций (блоков), каждая из которых имеет разрешенный транспортный габарит (см. рис. 3). При этом ширина холодного коридора в ЦОДе, собранном из таких конструкций, составляет минимум 1,3 м (даже в ЦОДе, рассчитанном всего на две стойки), что позволяет без проблем в любое время и в любой последовательности устанавливать стойки глубиной 1200 мм, в том числе высоконагруженные. Кроме того, подобный подход дает возможность при необходимости организовать фальшпол, проложить шинопроводы и установить различные типы кондиционеров.

Рис. 3. ЦОДы GreenMDC собираются из отдельных конструкций (блоков), каждая из которых имеет разрешенный транспортный габарит
Рис. 3. ЦОДы GreenMDC собираются из отдельных конструкций (блоков), каждая из которых имеет разрешенный транспортный габарит

 

Эксперты компании «Утилекс» также критически относятся к ЦОДам на базе ISO-контейнеров. Они используют такие контейнеры, но только для перевозки элементов быстровозводимой легко демонтируемой каркасной конструкции. Основа модульных ЦОДов «Утилекс» — металлический каркас, который собирается на месте установки из готовых элементов (см. рис. 4). Стены и кровля такого ЦОДа выполняются из сэндвич-панелей.

Рис. 4. ЦОД компании «Утилекс» снаружи и внутри
Рис. 4. ЦОД компании «Утилекс» снаружи и внутри

 

МИФ № 2. ДОСТАТОЧНО ВКЛЮЧИТЬ В РОЗЕТКУ

Одно из преимуществ модульных ЦОДов, по сравнению с традиционными (предполагающими этап капитального строительства или реконструкции здания), — значительное сокращение сроков реализации проекта. Однако это не означает, что такой ЦОД достаточно снять краном с трейлера, установить на землю, «включить в розетку» и… все готово.

Быстровозводимый модульный ЦОД не относится к объектам капитального строительства, а значит, исключается необходимость подготовки и согласования большого объема документации, которая требуется при таком строительстве. Но это не означает отсутствия потребности в подготовке площадки, на что может уйти немало времени: создание основания (фундамента) под ЦОД, подведение электроэнергии и каналов связи, организация охраны площадки, установка ограждений, обустройство подъездных путей и т. д.

«Обещание построить модульный ЦОД за 12–16 недель часто расслабляет заказчика, — поясняет Валентин Фосс. — Однако, надо отдавать себе отчет в том, что большинство таких ЦОДов не могут быть построены и сданы в эксплуатацию в холодное время года. Скажем, если проект начат в сентябре, а контракт заключен в октябре, то заказчик получит ЦОД, скорее всего, только в мае, поскольку заливка фундамента зимой крайне нежелательна. Если залить фундамент в декабре, то в мае он может просто «поплыть».

Помимо подготовки площадки, как правило, требуется установка инженерного оборудования, демонтированного при перевозке ЦОДа. На самом деле существуют ЦОДы, которые можно перевозить, не снимая большую часть инженерного оборудования, включая ИБП и внутренние блоки кондиционеров, но все равно требуется выполнение работ по консервации и отключению (или снятию) внешних блоков. Более того, на рынке имеются ЦОДы, которые можно перевозить даже без демонтажа ИТ-оборудования. Но при этом используются специальные ИТ-системы и предпринимаются дополнительные меры по гашению вибрации при движении (сайлент-блоки, пружинные и/или канатные развязки, подушки безопасности), что, конечно, повышает стоимость решения. Подобные ЦОДы применяются для весьма специфических задач, например для организации передвижных узлов связи или полевых вычислений. Такие объекты могут использоваться военными или геолого-разведочными группами, а доставляться на место — транспортными самолетами.

Приведенные выше примеры наглядно показывают, что мобильные ЦОДы — решения очень специальные — читай, дорогие. Правда, и решаемые ими задачи, как говорится, «дороже денег». При этом мобильный ЦОД вовсе не обязан быть модульным, равно как и типовой модульный ЦОД нельзя классифицировать как мобильный. «Спросите у производителя серверов или СХД, продлят ли они вам гарантию на свое оборудование, если узнают, что оно было перевезено не в заводской упаковке, а в каком-то железном шкафу, да еще и по российским дорогам?!» — вопрошает Валентин Фосс. Ясно, что в подавляющем большинстве случаев для транспортировки придется демонтировать ИТ-оборудование, а также часть инженерных блоков. Поэтому сразу по переезду на новое место «воткнуть в розетку» и запустить ЦОД вряд ли получится.

МИФ № 3 (ЛОГИСТИЧЕСКИЙ). КОНТЕЙНЕРЫ И ПРЕДСОБРАННЫЕ МОДУЛЬНЫЕ ЦОДЫ ПЕРЕВОЗИТЬ ЛЕГКО И ДЕШЕВО

Модульные ЦОДы, в отличие от традиционных, создаваемых в капитальных зданиях, можно перевозить. Но далеко не всегда это делается легко, дешево и быстро. Как уже говорилось, оптимизированным для транспортировки является стандартный ISO-контейнер. Если модульный ЦОД (его элементы, блоки) по своим размерам не помещается в транспортный контейнер, то его перевозка значительно осложняется. Так, перемещение по обычным дорогам будет возможно только при специальном сопровождении. Сложности возникнут и с перевозкой по железной дороге, а для транспортировки по морю придется довольно долго ждать сухогруз, способный перевозить нестандартные контейнеры.

При использовании ISO-контейнеров тоже есть свои нюансы, в частности, не должна быть нарушена их оболочка. Как рассказывает Валентин Фосс, был случай, когда наличие маленького сервисного отверстия в контейнере (для работы системы кондиционирования) обернулось дополнительными затратами на перевозку примерно в полмиллиона рублей, потому что такой контейнер уже считается поврежденным.

Как уже говорилось выше, производители предпочитают собирать модульные ЦОДы из конструкций (блоков), которые имеют разрешенный транспортный габарит. Но при этом надо также учитывать упомянутые выше меры по подготовке к перевозке инженерного и ИТ-оборудования.

Эксперты рекомендуют самым тщательным образом подойти к оценке уровня мобильности модульного ЦОДа. «Как часто ваш ЦОД будет переезжать? Требовать возможности ‘‘перевозки за неделю’’ — значит тратить деньги на избыточную функциональность», — отмечает Валентин Фосс.

«На деле то, ради чего часто выбирают контейнерный ЦОД, — мобильность — является фикцией, — добавляет Федор Клименко. — Нельзя просто подогнать кран, погрузить контейнер на автомобиль, перевезти на другое место, установить и сразу же запустить в работу».

МИФ № 4. МОДУЛЬНЫЙ ЦОД — ЭТО ОЧЕНЬ ДОРОГО

Первые модульные (в действительности — контейнерные) ЦОДы, которые появились на российском рыке, предлагали такие известные производители, как Sun, IBM, HP. Они действительно были отнюдь не дешевыми. По данным, которые приводит Валентин Фосс, стоимость доходила до 1,5 млн долларов за ЦОД из восьми стоек — по текущему курсу получается около 12 млн рублей за стойку.

Согласно исследованию, проведенному весной 2015 года OSP Data, средняя стоимость модульных решений на базе фреоновых кондиционеров составила примерно 2 млн рублей в пересчете на одну стойку. Вариант на основе чиллерной системы охлаждения — примерно в 1,5 раза дороже (подробнее см. статью автора «Модульный ЦОД: обзор решений», «Журнал сетевых решений/LAN», № 04, 2015 год). Как бы то ни было, налицо кардинальное сокращение стоимости такого рода решений.

Отечественные производители стараются использовать в модульных ЦОДах как можно больше отечественного оборудования, что, в частности, снижает зависимость от курса национальной валюты. Так, «Утилекс» применяет собственные кондиционеры, а также ИБП российской компании «Связьинжиниринг». Правда, и в них немало импортных комплектующих, например компрессоры в кондиционерах. По словам Валентина Фосса, при использовании собственных кондиционеров «Утилекса», а также отечественных ИБП стоимость импортных комплектующих в цене конечного решения может опуститься до 25%. Однако многие заказчики предпочитают известные бренды, поэтому в модульные ЦОДы приходится устанавливать инженерные системы западного производства. В этом случае, по данным представителя компании «Утилекс», доля импортных комплектующих возрастает до 50–60%.

Еще одна причина повышения цен на отечественные модульные ЦОДы — необоснованная жадность интеграторов, привыкших в «жирные» годы к высокой марже. «Мы как производитель не работаем напрямую с заказчиками, для этого есть партнеры-интеграторы, которым мы изначально не задаем уровень маржи, — рассказывает представитель ‘‘Утилекса’’. — В результате пришлось столкнуться с тем, что некоторые интеграторы ‘‘накручивали’’ буквально 100% на наше коммерческое предложение. Такая закладываемая норма прибыли интегратора не позволяла нашим решениям конкурировать в некоторых проектах. Теперь будем стараться контролировать те цены, которые предлагаются заказчикам».

МИФ № 5 (ПРОТИВОПОЛОЖНЫЙ МИФУ № 4). МОДУЛЬНЫЙ ЦОД ДОЛЖЕН СТОИТЬ ОЧЕНЬ ДЕШЕВО

Если часть заказчиков считает модульный ЦОД «дорогим удовольствием», то есть и другие, полагающие, что такие ЦОДы должны стоить очень дешево. Поставщики модульных ЦОДов часто повторяют, что заказчик экономит на отсутствии необходимости в проектировании, капитальном строительстве (или реконструкции здания), экономит на том, на сем… — в итоге многие уверовали в то, что модульный ЦОД должен стоить сущие копейки.

«Конечно, если взять старый, отслуживший свое контейнер, утеплить его пенопластом, повесить бытовой кондиционер, установить бывший в употреблении ИБП, вы получите дешевое решение, — рассуждает Валентин Фосс. — Но сколько такой ЦОД прослужит и каковы будут операционные затраты?»

Ясно, что стоимость конкретного решения зависит от целого ряд факторов: необходимого уровня отказоустойчивости, выбранного типа охлаждения, конкретного инженерного оборудования. Выше уже была названа некая «точка отсчета» для определения стоимости. И это, конечно, не «копейки».

«Модульность — это в первую очередь возможность развивать ИТ-инфраструктуру по мере расширения бизнеса, возможность разнести свои затраты и инвестировать в ИТ по мере роста потребностей, а не способ сэкономить ‘‘здесь и сейчас’’», — считает Валентин Фосс.

СПЕЦИАЛЬНЫЕ ЗАДАЧИ И МАСШТАБИРОВАНИЕ

Одна из типичных областей применения для модульных и предварительно собранных ЦОДов — организация передвижных узлов связи или ИТ-комплексов для полевых вычислений. Как уже говорилось, основными клиентами с такими задачами являются военные, но немало среди заказчиков и гражданских. Так, например, к таким решениям могут обращаться нефтедобывающие компании, которым требуется обработка «тяжелых» данных в удаленных местах, где проводятся сложные геологические исследования. В некоторых ситуациях аренда спутникового канала для передачи большого объема данных в центральный ЦОД оказывается дороже развертывания локального. С учетом сложностей транспортировки для подобных задач часто оптимальным оказывается как раз решение на базе ISO-контейнеров. При необходимости в таких контейнерах могут быть размещены как ИТ-залы, так и модули питания, ДГУ и система охлаждения.

В ряде случаев модульный ЦОД устанавливается рядом с капитальным. Причина, как правило, такова: свободной площади в основном здании не осталось, а ресурсы систем электропитания и охлаждения задействованы далеко не все (например, заложенная в проект плотность мощности на деле оказалась существенно ниже). Не пропадать же столь ценным ресурсам, поэтому рядом с капитальным ЦОДом устанавливают внешние ИТ-модули, которые подключают к существующей инженерной инфраструктуре.

И все же ключевая характеристика и, пожалуй, главное преимущество модульных ЦОДов — масштабирование. Ряд поставщиков предлагают решения с поддержкой «горячего» масштабирования. Это означает возможность в любое время увеличить полезную площадь ЦОДа, не останавливая работу уже установленных систем (см. рис. 5). Как утверждает Федор Клименко, при использовании решений GreenMDC стыковка модулей занимает всего несколько часов, а производить ее (при наличии фундамента) можно в любое время года. Ясно, что установка, подключение и проверка инженерных систем займут, скорее всего, гораздо больше времени, но оперативность установки базовых конструкций впечатляет.

Рис. 5. Модульные ЦОДы с возможностью «горячего» масштабирования позволяют в любое время увеличить полезную площадь, не останавливая работу уже установленных систем
Рис. 5. Модульные ЦОДы с возможностью «горячего» масштабирования позволяют в любое время увеличить полезную площадь, не останавливая работу уже установленных систем

 

Итак, не надо мифологизировать модульные ЦОДы, с одной стороны, требуя от них невозможного, а с другой — представляя их какими-то недоЦОДами. Современные модульные решения позволяют получить полнофункциональный ЦОД, при этом сроки реализации проекта в несколько раз меньше, чем при традиционном подходе (с учетом капитального строительства или реконструкции здания), а средства можно вкладывать постепенно, по мере роста потребностей и соответствующего масштабирования ЦОДа. Для многих заказчиков это чрезвычайно важно в нынешних условиях.

Александр Барсков, ведущий редактор «Журнала сетевых решений/LAN»