О планах по созданию мобильных центров обработки данных уже заявили многие мировые компании. Патентные заявки на мобильный контейнер с серверной инфраструктурой подали Google и Sun Microsystems, хотя первая не планирует заниматься их активным продвижением или поставкой на рынок. Среди других вендоров, представивших аналогичные решения, необходимо отметить Dell, IBM и Rackable Systems Inc. Однако пионерами были не они, а американские вооруженные силы, которые давно используют контейнеры с предустановленными и готовыми к работе серверами. Это быстрое и модульное решение более удобно для развертывания ЦОД, чем установка серверов и настройка систем при перемещении центра.

Перспективной областью применения мобильных центров обработки данных является их использование в чрезвычайных ситуациях. Очевид-ное преимущество состоит в скорости развертывания компьютерной и коммуникационной инфраструктуры для помощи местным властям и облегчения координации работы служб, занятых в мероприятиях по устранению катастрофы. Например, компания Cisco после урагана «Катрина» разработала для Американской службы спасения несколько действительно мобильных контейнерных ЦОД. Один из них был задействован прошлой осенью в Южной Калифор-нии во время масштабных лесных пожаров.

Между тем Microsoft строит стационарный мега-ЦОД, состоящий из 220 морских контейнеров. Стоимость проекта — около полумиллиарда долларов. Центр разместится на окраине Чикаго, в Нордлейке, на площади около 52 тыс. м2. В эксплуатацию его планируется ввести в конце лета текущего года. По сообщению Майка Маноса, директора Microsoft по сервисам ЦОД, каждый контейнер рассчитан на установку от 1000 до 2000 серверов. Всего может быть установлено 440 тыс. серверов Windows, в то время как обычные центры обработки данных позволяют разместить на той же площади от 40 до 80 тыс. серверов (http://www.computerworld.com/action/article.do?command=viewArticleBasic&articleId=9075519 ). Для энергоснабжения и охлаждения оборудования построено три электрических подстанции общей мощностью 198 МВт (согласно информации новостного сайта http://www.datacenterknowledge.com ), причем на создание электрической и механической инфраструктуры, обеспечивающей охлаждение ЦОД, было потрачено примерно 82% от запланированных средств.

Несмотря на огромные размеры и работу в круглосуточном режиме, открытие нового центра обработки данных не вызовет серьезного спроса на ИТ-персонал. Его обслуживанием будут заниматься всего 30 человек, в том числе системные администраторы, охранники и другие сотрудники. По утверждению Microsoft, чем меньше персонала в центре обработки данных, тем выше надежность его работы, так как от 20% до 50% системных отказов вызваны «ошибками администраторов» (human administrative error). Тем временем Google заявила, что в ее новом ЦОД стоимостью 600 млн долларов, построенном в г. Каунсил Блаффс, штат Айова, и готовящемся к открытию в следующем году, будет работать не менее 200 сотрудников.

Если Microsoft сосредоточена на строительстве ЦОД для собственных нужд, то Dell, Sun, Rackable и IBM предлагают контейнерные решения своим заказчикам (Sun MD, ранее Blackbox, от Sun Microsystems, RACK от Rackable, Forest от Verari Systems и iDataPlex от IBM). Все компании заявляют о серьезных планах в отношении контейнерных центров обработки данных. Чем же так привлекает данный рынок все эти серверные компании? Вывод очевиден: контейнерные центры обработки данных обеспечивают более высокую плотность размещения оборудования, их обслуживание требует меньше персонала ИТ по сравнению с традиционным ЦОД, а в ряде случаев мобильный ЦОД — единственно возможный вариант создания инфраструктуры ИТ.

ПЕРСПЕКТИВЫ МОБИЛЬНЫХ ЦОД В РОССИИ

Российский бизнес вынужден решать те же проблемы, что и компании во всем мире, с той лишь разницей, что выбираются иные приоритеты. Например, если на Западе проблемой № 1 является увеличение энергопотребления и, соответственно, высокие затраты на обеспечение питания и охлаждения, то у нас, в силу более умеренных тарифов на электроэнергию, это пока не ключевой фактор. Вместе с тем, ограниченная доступность энергетических ресурсов и неразвитость инфраструктуры (в том числе дорожной и телекоммуникационной) оказывает более существенное влияние, чем, например, в Америке. Таким образом, при проектировании и строительстве центров обработки данных российским компаниям приходится сталкиваться с несколькими ограничениями. Во-первых, с дефицитом потенциально пригодных для ЦОД площадей, даже с учетом их возможной реконструкции. Во-вторых, с недостатком энергетических мощностей, связанным с морально устаревшей инфраструктурой энергосистемы страны. В-третьих, с ростом энергопотребления и тепловыделения оборудования, для обеспечения охлаждения которого требуются все новые энергетические мощности. И, наконец, в-четвертых, с нехваткой квалифицированного персонала.

На этом фоне в последние годы наблюдается сущест-венный рост инвестиций в развитие корпоративной инфраструктуры ИТ, особенно в наиболее зависимых от информационных технологий отраслях, в первую очередь, в банковской и телекоммуникационной сфере, в добывающей и перерабатывающей промышленности. Наращивание инфраструктуры неизбежно ведет к увеличению эксплуатационных расходов, к тому же она требует грамотного и квалифицированного управления. Для многих компаний критичными становятся риски, связанные с информационной безопасностью. Данные необходимо защищать как для обеспечения доступности важных сервисов, так и для защиты от утечек, недобросовестного использования и т.д.

Еще одна значимая тенденция связана с развитием потребительского рынка и активной экспансией компаний в регионы. Такие задачи решают сейчас многие крупные многофилиальные банки, торговые сети, строительные предприятия, промышленные холдинги и другие. Продвижение идет главным образом за счет поглощения более мелких региональных игроков, поскольку найти ресурсы для создания полноценного филиала или отделения «с нуля» очень непросто. В результате задача обеспечения и сохранения централизованного контроля за деятельностью всех филиалов и подразделений компании превращается в «головную боль» как для руководителя предприятия, так и для директора ИТ, поскольку никто из них не хочет, чтобы инфраструктура стала препятствием в развитии бизнеса.

Для оптимизации инфраструктуры нужны новые со-временные решения. Любопытно, что в силу целого ряда факторов новые подходы, в частности мобильные контейнерные ЦОД, предлагают не вендоры ИТ или инженерного оборудования, а системные интеграторы. Дело в том, что именно они находятся на «переднем крае» и общаются непосредственно с заказчиками. К тому же российские заказчики вряд ли захотят приобретать ЦОД, жестко «привязанный» к оборудованию одного поставщика. И наконец, все прекрасно понимают, что любой ЦОД, мобильный или стационарный, — это не только инфраструктура ИТ, а прежде всего, сложный комплекс строительных решений, инженерных систем, кабельной проводки и интегрированных инструментов управления для обеспечения надежной работы оборудования ИТ. Пока большинство компаний-интеграторов, пытающихся продвигать контейнерные ЦОД, идут по пути разработки индивидуального решения для кон-кретного заказчика. Однако на рынке начали появляться и типовые решения (см. врезку «Российский ЦОД в контейнере»).

Другой вопрос, готовы ли российские корпоративные заказчики принять мобильный ЦОД, или «ЦОД в коробке», в качестве реальной альтернативы традиционным серверным комнатам и более масштабным центрам обработки данных? Информации о российских проектах, связанных с контейнерными ЦОД, не так много. Несколько лет назад Sun Microsystems привезла контейнерное решение Blackbox в Россию, но дальнейшая его судьба неизвестна. По некоторым сведениям, этот контейнер используется компанией МТС. В свое время Сбербанк пытался создать передвижной «офис на колесах» на базе инкассаторского броневика. Такой офис мог бы обслуживать несколько точек в одном районе, но, видимо, руководство банка сочло стационарное местное отделение более эффективным решением, несмотря на усугубляющиеся проблемы с персоналом, арендой, охраной и т.д.

ПРЕИМУЩЕСТВА МОБИЛЬНОГО ЦОД

Во многих ситуациях мобильное решение является либо единственно возможным, либо более эффективным по сравнению со стационарным центром обработки данных. Во-первых, мобильный, или контейнерный, ЦОД эффективен в тех случаях, когда инфраструктуру ИТ требуется развернуть на удаленной площадке. С такими задачами обычно сталкиваются нефтяные, газодобывающие и телекоммуникационные компании. Во-вторых, мобильный ЦОД может быть основным для офисов, местоположение которых часто меняется. Здесь потенциальные области применения весьма разнообразны —начиная от задач министерства обороны и служб МЧС и заканчивая строительными площадками, где создается временная инфраструктура. В-третьих, мобильный ЦОД — эффективное решение для резервирования основного центра обработки данных. В принципе, и основной, и резервный ЦОД могут быть контейнерными. Если, например, компании предстоит масштабный переезд в новый офис, то на время переезда резервному мобильному ЦОД передаются функции основного. Кроме уже упомянутых задач, мобильный ЦОД может применяться для расширения инфраструктуры ИТ. При активной экспансии в регионы или поглощении других компаний он дает существенный выигрыш: новые торговые площадки и филиалы открываются без задержек, а приобретенные активы оперативно интегрируются в единую информационную инфраструктуру.

Преимущества эксплуатации мобильного центра обработки данных тоже весомы. Мобильность подразумевает не только перемещение с места на место, но дает возможность выбора места размещения и, в случае необходимости, быстрой миграции на другую площадку. Его развертывание занимает в 7-10 раз меньше времени, чем ввод в эксплуатацию стационарного ЦОД, к тому же все системы заранее установлены, налажены и протестированы. Экономические плюсы состоят в возможности размещения поблизости от дешевых источников энергии, в отсут-ствии арендной платы за помещение и сохранении инвестиций при переезде или перемещении офиса. Мобильный ЦОД отличают гибкость конфигурирования, практически неограниченные возможности масштабирования, а также настройка решения в соответствии с индивидуальными требованиями заказчика. Вот далеко не полный, но весьма внушительный список преимуществ контейнерных ЦОД, на которые стоит обратить внимание при принятии решения о создании центра обработки данных.

ЭКОНОМИЧЕСКОЕ ОБОСНОВАНИЕ

Необходимость создания полномасштабного ЦОД возникает тогда, когда появляется реальная потребность в отказоустойчивой, управляемой и масштабируемой инфраструктуре ИТ. Это происходит, когда от ее работы зависит стабильность и успешность бизнеса в целом. Принципиальное отличие ЦОД, в том числе и мобильного, от привычной «серверной комнаты» — его комплексное оснащение всем спектром инженерных систем и применение специальных мер по обеспечению функционирования информационной инфраструктуры предприятия в том режиме, который необходим бизнесу.

Следовательно, при подготовке проекта по созданию ЦОД в первую очередь надо определить, какие требования предъявляет бизнес к надежности функционирования информационной инфраструктуры в целом и к ее отдельным системам в частности. Критерием может выступать максимальное время простоя систем ИТ, не критичное для основного бизнеса компании. Совокупное время простоя системы можно охарактеризовать двумя параметрами:

  • время с момента последнего сохранения данных до момента сбоя;
  • время восстановления работоспособности системы после сбоя.

Сумма обоих параметров является общим временем простоя.

От того, какие параметры надежности указаны в техническом задании, будет зависеть выбор аппаратно-программных решений и, соответственно, стоимость решения. Если совокупное время неработоспособности системы равно 0, а потери данных не допустимы, это означает, что к ЦОД предъявляются высшие требования надежности, подразумевающие работу в режиме нон-стоп. С точки зрения обеспечения надежности и даже катастрофоустойчивости ЦОД, мобильные решения очень эффективны. Для этого можно разместить несколько одинаковых мобильных ЦОД на достаточном удалении друг от друга, обеспечив полное тиражирование данных между ними.

ИНЖЕНЕРНАЯ ИНФРАСТРУКТУРА МОБИЛЬНОГО ЦОД

Необходим комплексный подход к проектированию всех систем мобильных центров обработки данных, особенно если их эксплуатация предполагается в труднодоступных районах при минимальном участии обслуживающего персонала. Под комплексным подходом подразумевается выбор решений, оптимальных по соотношению «требуемая надежность/функциональность/стоимость» в области инженерии, сетевого и ИТ-оборудования, и проверка всех систем на совместимость. Минимальный комплект инженерных систем мобильного ЦОД включает:

  • гарантированное энергоснабжение (ИБП и дизель-генераторные установки);
  • прецизионное кондиционирование с необходимым уровнем резервирования системы;
  • комплексную систему безопасности (газовое пожаротушение, охранно-пожарную сигнализацию, контроль доступа и видеонаблюдение);
  • автоматизированную систему диспетчерского управления;
  • кабельное и сетевое оборудо-вание.

Прецизионная система кондиционирования может быть организована при помощи и воздушного, и водяного охлаждения. Она призвана обеспечить требуемые климатические условия для оборудования ИТ при установке контейнера в жестких климатических условиях, например, при повышенной влажности, резких перепадах температур, высоком электромагнитном излучении, нестан-дартном составе атмосферы.

Контроль за работой систем и оборудования осуществляется в удаленном режиме посредством автоматизированной системы диспетчерского управления. Минимальный функционал АСДУ предполагает контроль:

  • состояния инженерного оборудования;
  • температуры и влажности;
  • системы энергоснабжения;
  • аварийных ситуаций всех СИО;
  • противопожарной ситуации в ЦОД;
  • систем безопасности.

Сообщения от АСДУ могут передаваться как по локальной сети, так и через Internet на удаленное рабочее место оператора и различные информационные устройства других ответ-ственных лиц.

Контейнер, в котором находится оборудование, должен быть соответствующим образом подготовлен. Стены и пол следует утеплить специальными материалами, а все пространство контейнера разделить на две зоны посредством тамбур-шлюза. Первая отделяется от входа при помощи тамбур-шлюза и специальных перегородок, чтобы изолировать оборудование от резких перепадов температур и влажности. Здесь устанавливается вычислительная техника и резервный ИБП. Во втором отсеке размещаются все остальные технологические системы.

ИНФРАСТРУКТУРА ИТ МОБИЛЬНОГО ЦОД

При проектировании инфраструктуры ИТ мобильного центра обработки данных необходимо учитывать ряд ограничений и требований:

  • небольшая площадь;
  • высокое тепловыделение;
  • пригодность для эксплуатации в удаленных точках и, возможно, в суровых климатических условиях;
  • минимум обслуживающего персонала.

Как уже упоминалось, оборудование ИТ в контейнере отделяется от входа и остального оборудования при помощи тамбур-шлюза и специальных перегородок. Климатические параметры обеспечивает система прецизионного кондиционирования. В контейнерном ЦОД не обойтись без самых передовых технологических решений, которые предлагают сегодня производители оборудования ИТ. Среди таких технологий выделим модульную серверную архитектуру (blade). Ее преимущест-ва заключаются в следующем:

  • высокая плотность размещения серверов, сетевой инфраструктуры, дисковых модулей, ленточных накопителей;
  • отсутствие кабелей для подключения серверов к коммутаторам;
  • резервирование модулей охлаждения и энергопитания.

Отдельно назовем преимущества эксплуатации этого решения:

  • резервирование модулей охлаждения и энергопитания по схеме 2N;
  • экономия электроэнергии (до 30%);
  • сокращение времени подготовки сервера к работе (до 6 раз);
  • экономия пространства для размещения (до 4 раз).

Для повышения эффективности использования оборудования разработаны программные решения по консолидации и виртуализации инфраструктуры ИТ. Они позволяют улучшить управляемость, снизить количество аппаратных сбоев, уменьшить общее время простоев, повысить доступность приложений. В последнее время особенности виртуализации и консолидации обсуждаются довольно часто, поэтому лишь кратко перечислим основные преимущества этих решений. Консолидация позволяет получить следующие результаты:

  • увеличение плотности размещения серверов приложений;
  • возможность запускать любые ОС, в том числе и достаточно старые, которые новым оборудованием не поддерживаются;
  • сокращение простоев, как плановых, так и незапланированных, благодаря гибкой системе перераспределения нагрузки между серверами и миграции приложений в случае выхода из строя одного из серверов;
  • повышение надежности и отказоустойчивости всей системы в целом.

Применение виртуализации на модульных серверах дает дополнительные выгоды:

  • наличие предустановленных виртуальных серверов;
  • установка до восьми сетевых интерфейсов на сервер;
  • развитые инструменты управления;
  • поддержка виртуализации на аппаратном уровне.

В целях повышения надежности всей системы рекомендуется формализовать выбор оборудования для мобильного ЦОД, особенно если речь идет о работе в нетипичных условиях. Для серверного и сетевого оборудования предпочтительнее приобретать продукцию, сертифицированную в соответствии с определенными международными стандартами, например, NEBS и ETSI для телекоммуникационных мобильных контейнеров, эксплуатация которых осуществляется при похожих условиях (при этом, правда, следует помнить, что телекоммуникационные контейнеры потребляют существенно меньше энергии).

Для удаленного контроля оборудования ИТ и информационных приложений понадобится самостоятельная система мониторинга, объединяющая несколько подсистем, контролирующих работу серверов, систем хранения данных, сетевого оборудования и приложений.

ПОДГОТОВКА И ВВОД В ЭКСПЛУАТАЦИЮ

Как уже упоминалось, одно из ключевых преимуществ мобильного решения состоит в быстроте его развертывания. Процесс подготовки мобильного ЦОД к вводу в эксплуатацию состоит из нескольких этапов (работа по некоторым из них ведется параллельно). Первый — подготовка ровной площадки, подведение к ней энергоснабжения и кабельных коммуникаций, возведение солнцезащитного шатра, обеспечение заземления и молниезащиты, выполнение других необходимых мероприятий. Контейнер может быть установлен как «в чистом поле», так и в любом другом подходящем месте: в ангаре, на складе, на территории завода и т.д. В случае использования воздушного охлаждения специальный подвод воды и/или установка чиллера не требуются.

Зачастую одновременно выполняется второй этап — сборка самого контейнера, заказ оборудования, установка и наладка всех необходимых систем. Третий этап — монтаж и тестирование работы контейнера на площадке заказчика. Во многих подобных решениях используются стандартные 20-футовые транспорт-ные контейнеры. Соответственно, и транспортировка осуществляется любыми стандартными способами: на трейлере, по железной дороге, мор-ским путем и т.д.

ПЕРСПЕКТИВЫ РАЗВИТИЯ МОБИЛЬНЫХ РЕШЕНИЙ

Перспективы развития логично вытекают из тех ограничений, с которыми приходится сталкиваться при проектировании мобильных ЦОД повышенной мощности. Если необходимо существенно увеличить теплоотвод, применение водяного охлаждения становится неизбежным. Это позволяет увеличить мощность ЦОД до 120 кВт, но в результате требуется расширить площадь, чтобы разместить чиллер и дополнительные системы контроля, в частности, систему защиты от протечек воды. Для более мощных мобильных ЦОД лучший вариант — 40-футовые стандартные транспортные контейнеры, куда интегрируются необходимые инженерные системы, ИБП, ДГУ, оборудование ИТ, сетевое оборудование, система охраны и АСДУ.

Константин Величко — начальник отдела аппаратных решений компании ЧЕРУС. С ним можно связаться по адресу: velichko@cherus.ru.


Российский ЦОД в контейнере

реди российских интеграторов одной из первых типовой мобильный центр обработки данных разработала компания «Черус». Решение рассчитано на 25 кВт потребляемой/выделяемой мощности и предусматривает воздушное охлаждение. Оборудование ИТ размещается в пяти стоках 19” высотой 1800 мм с тепловыделением по 5 кВт каждая (или четырех, если не требуется устанавливать дополнительный ИБП). Все системы помещаются в стандартный транспортный 20-футовый контейнер. Компания ведет проектную проработку второго типового мобильного ЦОД, рассчитанного на 120 кВт потребляемой/выделяемой мощности. Он будет размещаться в стандартном 40-футовом контейнере. «Типовое решение» не исключает широкие возможности его адаптации в соответствии с требованиями заказчиков.

Решением предусматривается воздушное прецизионное кондиционирование с возможностью естественного охлаждения в холодное время года (Free Cooling). Проанализировав несколько вариантов системы прецизионного кондиционирования, специалисты компании пришли к выводу, что система с воздушным охлаждением наиболее эффективна для ЦОД мощностью 25 кВт. Ее работу обеспечивают три прецизионных кондиционера Liebert HPW WM15MD — моноблочные, наружной установки. При этом реализована схема резервирования 2+1. Для повышения надежности системы охлаждения один из кондиционеров постоянно подключен к ИБП. Это сделано на случай потери основного электропитания от сети в жару, когда с учетом ограниченного пространства контейнера температура в помещении быстро достигает и даже превышает предельно допустимую, поскольку запуск системы гарантированного энергоснабжения от ДГУ потребует некоторого времени.

Как утверждается, полное оснащение контейнера с момента размещения заказа занимает четыре месяца. На монтаж и тестирование отводится две недели без учета времени доставки.