Затраты на потребленную в ЦОДах электроэнергию, наряду с фондом оплаты труда, продолжают оставаться одной из двух наиболее существенных статей эксплуатационных расходов. Тем не менее в несколько раз больше средств теряется из-за неверных концептуальных допущений: ошибок при планировании, в том числе финансовом, неверного прогнозирования и позиционирования, чрезмерно оптимистичного бизнес-плана, необдуманных управленческих решений. В этом контексте важно отметить, что для достижения наибольшей эффективности следует внедрять качественное планирование, высокопроизводительные процессы и процедуры, оптимизированные решения, а также использовать результативные методы и подходы, применяемые при создании лучших ЦОДов.

 

В последнее время все чаще популярный в отрасли ЦОДов термин «энергоэффективность» расширяют до более общего «эффективность» или даже «рентабельность». Безусловно, затраты на потребленную в ЦОДах электроэнергию, наряду с фондом оплаты труда, продолжают оставаться одной из двух наиболее существенных статей эксплуатационных расходов. Тем не менее в несколько раз больше средств теряется из-за неверных концептуальных допущений: ошибок при планировании, в том числе финансовом, неверного прогнозирования и позиционирования, чрезмерно оптимистичного бизнес-плана, необдуманных управленческих решений. К слову, модульная концепция набирает свою популярность именно как реализация эффективных механизмов внедрения ЦОДа, а центры обработки данных все больше становятся похожи на продукт, состоящий из стандартных блоков.

В этом контексте важно отметить, что для достижения наибольшей эффективности следует внедрять качественное планирование, высокопроизводительные процессы и процедуры, оптимизированные решения, а также привлекать результативные методы и подходы, применяемые при создании лучших ЦОДов. Использование всех этих механизмов требует формализации и стандартизации, да и накопленный в отрасли опыт должен закрепляться и трансформироваться в формальные процедуры, решения и наработки. Фактически речь идет о создании и развитии отечественной методологической базы в отрасли ЦОДов. Безусловно, апробированные наработки могут и должны заимствоваться из лучших международных практик, как это сейчас и происходит в подавляющем большинстве случаев. Правда, не всегда данные методы (а то и положения известных международных стандартов) полны и очевидны для понимания или соответствуют российской действительности.

«МИР ЦОД – 2015»: ПОЛЕЗНЫЙ ПРАКТИКУМ

В рамках международного форума «Мир ЦОД – 2015», который проходил в Москве в мае, был организован мастер-класс «Управление пространством и объемно-планировочные решения в ЦОДе». Участникам форума было предложено найти ошибки в предложенной планировке машинного зала и вспомогательных помещений ЦОДа. Подобная задача не претендует на оригинальность, в той или иной форме анализ планировок часто используется на практикумах. Разбор подобных задач полезен как инженерам подрядных организаций, так и заказчикам: он позволяет сформировать задание и получить достоверные исходные данные, составить критический взгляд на решения, понять результат проектной работы.

Целью данного мастер-класса было формирование целостного системного подхода к анализу ЦОДа. Присутствовавшие на мероприятии специалисты выявили около пяти ошибок и неувязок. С учетом малого количества отведенного на это времени и не самой большой заинтересованности в задаче, результат неплохой и вполне предсказуемый. В действительности, в зависимости от того, что считать ошибками, недостатками, некорректными решениями и спорными вопросами, можно предъявить более 30 претензий к «пристойно выглядевшей», как выразился один из участников, планировке.

Чтобы найти их все, здравого смысла, к сожалению, недостаточно. Анализ следует проводить системно, с делением на общие технологические вопросы, локальные и комплексные компоновочные решения, с учетом влияния инженерных систем на объемно-планировочные решения, а также рассматривать взаимную связь имеющихся систем. Понятно, что вряд ли стоит строить ЦОД с таким количеством ошибок, ведь исправлять их — задача неблагодарная. Устранение одних ошибок в случае комплексного сложного технологического объекта, которым является ЦОД, потенциально приведет к появлению новых. Проще не исправлять, а выполнить планировочные решения заново.

Второй целью проведения мастер-класса была демонстрация некоторых гармонизирующих методов и подходов, которые могут применяться для упрощения инженерной работы. Применительно к приведенному выше примеру нужно отметить, что это обычная задача по оптимизации технологического пространства с фиксированным (хотя многочисленным и разнообразным) перечнем решений, а также достаточным количеством накладываемых ограничений. Возвращаясь к теме создания методологии ЦОДов, нужно заметить, что никто не мешает отечественным специалистам разрабатывать и использовать технологические инженерные подходы — от простых инженерных хитростей до сколь угодно сложных моделей. Кроме того, неплохим вариантом являются перенос и адаптация таких подходов из других сфер инжиниринга. Чтобы они получили признание, необходимо выполнение двух условий: потенциальный метод должен быть удобен в использовании, а его применение должно давать реальный результат, экономическую выгоду или выигрыш во времени либо выполнять гармонизирующую функцию. В рамках того же мастер-класса были приведены некоторые полезные правила — например, совмещение площадей в машзале для реализации разных технологических функций или выделение коридоров и эшелонов для трасс коммуникаций.

ИЕРАРХИЧЕСКАЯ МОДЕЛЬ ЦОДА

В качестве примера более сложной модели можно привести иерархическую модель ЦОДа (рис. 1). Данный подход предполагает разбиение ЦОДа и его окружения на иерархические уровни (в зависимости от пространственного масштаба) от глобального к локальному, поэтому ЦОД представляется некой матрешкой. Особенно удачно такая модель накладывается на задачу планирования площадки ЦОДа и инженерной инфраструктуры — так называемого управления пространством ЦОДа.

Общие вопросы развития отечественной методологии в отрасли ЦОДов
Рис. 1. Иерархическая модель ЦОДа

 

Для крупных или насыщенных инженерными системами объектов актуальными становятся их классификация и систематизация. Данную модель полезно применять и для структурной декомпозиции проекта. Возникающие вопросы и задачи нужно структурировать, в частности, для определения зон ответственности. Каждый уровень имеет свои специфические признаки и характеристики (для смежных уровней они могут быть общими). В зависимости от реалий проекта некоторые уровни нередко объединяются, и тогда, например, уровень контролируемой территории становится эквивалентен уровню здания. Для каждого уровня характерны свои группы актуальных вопросов, которые могут решать участники проектной команды с разной специализацией и функциональными обязанностями.

На уровнях региона и окружающей местности главными целями являются следующие: снижение общих негативных факторов экономического и административного характера за счет выбора места или внедрений компенсирующих решений, обеспечение ЦОДа выгодными ресурсами, соответствие планируемого ЦОДа потребностям клиентов. На этих уровнях оцениваются глобальные риски, климатические условия, обеспеченность ресурсами.

Задачи, относящиеся к внутренним уровням (контролируемая территория, здание и машинный зал), носят прикладной характер. Здесь в условиях реального объекта требуется «выжать» максимум из реальной площадки: по надежности, количеству, качеству, экономии и т. д., а также по минимизации локальных рисков.

Контролируемая территория обычно ограничена периметром площадки, которой управляет владелец ЦОДа. Кроме того, сюда можно отнести территорию на некотором расстоянии (не более одного километра), а также важные для функционирования ЦОДа объекты, например внешнюю трансформаторную подстанцию. К рассматриваемым вопросам относятся планирование самой площадки, коммуникаций и транспортных путей, оценка окружения (в том числе населения) и анализ локальных угроз.

Разработка решений ЦОДа на уровне здания и машинного зала является самой частой задачей, которую приходится решать инженерам, — так называемой внутрянкой. Несмотря на наличие богатого опыта проектирования на внутренних уровнях, здесь есть ряд специфических проблем, которые требуют отдельного решения.

Уровень шкафа уже прерогатива производителей шкафов (с точки зрения конструктивных решений) или эксплуатирующих ИТ-инфраструктуру специалистов. Модель можно детализировать и далее — до уровней оборудования или электронных компонентов, но за размещение, охлаждение и электропитание комплектного оборудования отвечают не инжиниринговые компании, а производители.

ПРАКТИЧЕСКОЕ ПРИМЕНЕНИЕ МОДЕЛИ

Практическое применение модели проиллюстрируем на примере планирования схемы электроснабжения ЦОДа. На рис. 2, 3 представлены два различных варианта общей схемы электроснабжения, при этом оговоримся, что данные схемы не претендуют на полноту решений в ЦОДе, а также на уникальность. Построение подобных схем на таком уровне обобщения полезно на этапе планирования при разработке концептуальных решений и топологий, формировании команды проекта, решении оргвопросов, описании и планировании организационных процедур, определении зон ответственности при составлении технического задания и проектировании, создании матрицы коммуникаций. Как показывает практика, наиболее распространенными проблемами являются наложение зон ответственности по работам или — противоположный случай — наличие «белых пятен», когда про часть работ просто забывают (они ничьи), а смежные части системы, которые внедряются разными исполнителями, не соответствуют друг другу по функциональным и техническим характеристикам. Для предупреждения такого двойного толкования в схему включены точки разграничения зон ответственности.

Рис. 2. Вариант А схемы электроснабжения
Рис. 2. Вариант А схемы электроснабжения

 

Рассматривая графические схемы и ориентируясь на уровни иерархической модели, можно получить информацию об основных параметрах планируемой системы. Так, например, трансформаторная подстанция на схеме А является наружной, отдельно стоящей, а на схеме Б — встроенной в здание, что следует из ее расположения на разных уровнях иерархии. Аналогичным образом можно сделать вывод про размещение дизель-генераторной установки, но он будет прямо противоположным. Что касается источников бесперебойного питания, то на схеме А такое устройство размещается в помещении, находящемся внутри здания, а на схеме Б оно установлено в машинном зале.

Рис. 3. Вариант Б схемы электроснабжения
Рис. 3. Вариант Б схемы электроснабжения

 

К указанному представлению можно привязывать различные объекты, ресурсы, задачи, исполнителей и т. д., задавать для них параметры и функции. Например, применительно к схеме А может быть сформирована отдельная проектная команда (см. таблицу). Из числа смежных исполнителей в таблице указаны лишь наиболее важные.

Общие вопросы развития отечественной методологии в отрасли ЦОДов
Состав команды проектировщиков по системе электроснабжения ЦОД

 

В рамках данной статьи нет возможности описать все отношения внутри проектной команды, поэтому отметим лишь, что основные взаимодействия должны быть централизованы и осуществляться через главного инженера проекта и технолога. Например, для решения простого вопроса установки в шкафу блоков распределения питания (PDU) придется привлекать специалиста по информационным технологиям для выяснения требований по размещению PDU, количеству и составу разъемов и определению мощностных характеристик, а кроме того, специалиста по СКС (для установки необходимого оборудования) и специалиста по охлаждению (для правильного планирования воздушных потоков внутри шкафа). А при установке ДГУ внутри здания решение придется согласовывать с архитектором, инженером по охлаждению и вентиляции, пожарным консультантом и проектировщиком систем газового пожаротушения.

Данную таблицу можно усложнять и дальше, включая в нее, например, данные и документы, которыми должны обменяться специалисты, или отслеживая соответствие ключевых характеристик, о которых говорилось ранее.

Очевидно, что иерархическая модель не является революционным подходом, но ее применение для ЦОДа в целом и для решения различных локальных задач может быть полезно. Модель формализует технические решения, позволяет разложить их «по полочкам», выполняет гармонизирующую функцию и заставляет участников проекта, обладающих разными компетенциями, говорить на одном языке.

Игорь Дорофеев — генеральный директор компании «АйКорд», член правления Ассоциации участников отрасли ЦОДов.