Большинство компаний рассчитывают, что их центры обработки данных будут способны предоставлять требуемые услуги как минимум в течение 20 лет. К сожалению, ключевые компоненты инженерных сетей в таких центрах редко проектируются в расчете на столь длительный срок службы.

В данной статье рассматривается, как износ инженерных сетей может повлиять на центры обработки данных, предлагается ряд эффективных мер по модернизации и описывается передовой опыт успешного планирования, внедрения и испытания вносимых изменений.

ТЕНДЕНЦИИ, ХАРАКТЕРНЫЕ ДЛЯ ЦОД

Десять и более лет тому назад лишь немногие проектировщики центров обработки данных могли предположить, что информационные технологии изменятся столь значительно. К важнейшим из них относятся следующие.

Виртуализация. Стремясь снизить капитальные затраты и эксплуатационные расходы путем консолидации недостаточно загруженного оборудования, компании широко используют виртуализацию серверов, благодаря чему один физический сервер, так называемый хост, способен поддерживать множество виртуальных машин, каждая из которых имеет собственную операционную систему и необходимые приложения.

Блейд-серверы. Эти вычислительные модули, подключаемые по принципу plug-and-play, часто используются вместе с виртуализацией. Несколько таких модулей имеют общие блоки питания, вентиляторы, кабельные соединения и ресурсы хранения. Благодаря сосредоточению значительных вычислительных мощностей в небольшом пространстве, блейд-серверы могут существенно снизить потребности центров обработки данных в занимаемой площади.

Облачные вычисления. В стремлении уменьшить накладные расходы и улучшить производительность, предприятия активно внедряют облачные вычисления. Так, аналитическая компания IDC предполагает, что в 2015 году расходы на общедоступные облачные решения с доставкой приложений и инфраструктурных ресурсов через Интернет достигнут 72,9 млрд долларов. Частные облачные инфраструктуры, которые используют те же базовые технологии, что и общедоступные облака, но размещаются за межсетевым экраном организации-владельца, тоже быстро получают признание в корпоративных центрах обработки данных.

Увеличение плотности мощности. Виртуализация, блейд-серверы и облачные вычисления — все это ведет к размещению в сокращающемся объеме пространства растущего числа все более загруженных устройств с повышенным уровнем тепловыделения. В результате все три технологии способствуют радикальному увеличению плотности мощности в современных серверных стойках. По сути, если типичная стойка для традиционных серверов потребляет от 4 до 6 кВт электроэнергии; то стойка, где установлены шасси блейд-серверов, способна потреблять до 30 кВт (см. Таблицу 1).

Таблица 1. Комбинированное применение виртуализации, блейд-серверов и облачных вычислений ведет
Уровень плотности мощности Защищаемое оборудование Мощность потребления стойки
Стандартная плотность 5–15 серверов  1U 2–4 кВт
Средняя плотность 15–30 серверов  1U 4–8 кВт
Высокая плотность 42 1U или 2–3 блейда 8–15 кВт
Сверхвысокая плотность  4–6 блейд-серверов  15–30 кВт

 

Больший акцент на эффективном использовании электроэнергии и устойчивом развитии. Растущие цены на электроэнергию, ужесточение природоохранного законодательства и возрастающая озабоченность общества такими проблемами, как глобальное потепление и загрязнение окружающей среды, сделали задачи повышения эффективности и устойчивости развития главными приоритетами для компаний любого рода деятельности. При измерении энергоэффективности центров обработки и постановке реалистичных целей по ее увеличению большинство операторов ЦОД полагаются на такой показатель, как эффективность использования энергии (Power Usage Effectiveness, PUE). Он предложен некоммерческим консорциумом промышленных технологий The Green Grid, который занимается поиском способов повышения эксплуатационной эффективности центров обработки и хранения данных. Для вычисления PUE вся энергия, поступающая на ИТ-объект, делится на общее количество энергии, используемой работающим здесь ИТ-оборудованием. Чем ближе итоговая цифра к 1,0, тем выше эффективность функционирования ЦОД.

БОЛЯЧКИ СТАРЫХ ЦОД

Унаследованные центры обработки данных обычно недостаточно хорошо оснащены, чтобы соответствовать тенденциям, которые мы только что обсудили. На то есть несколько причин.

  • Износ оборудования. В старых ЦОД основные механические и электрические компоненты, такие как источники бесперебойного питания (ИБП) и блоки распределения питания (PDU), зачастую уже выработали свой ресурс. Со временем такие системы неизбежно становятся менее надежными, а стоимость их обслуживания возрастает.
  • Малоэффективное силовое и охлаждающее оборудование. Энергоэффективность устаревших механических и электрических систем значительно ниже, чем у современных продуктов, что тоже увеличивает эксплуатационные расходы.
  • Проблемы с соблюдением нормативных требований. Низкая производительность и эффективность охлаждения могут значительно затруднить соблюдение природоохранного законодательства.
  • Недостаточная охлаждающая способность. Системы охлаждения, используемые в большинстве старых ЦОД, появились во времена, когда плотность мощности была гораздо ниже. Зачастую они с трудом справляются с отводом тепла, генерируемого современным энергоемким ИТ-оборудованием.
  • Хаос в кабельной сети. Во многих старых центрах обработки данных кабельная проводка под фальш-полом представляет собой беспорядочное переплетение многочисленных пучков кабелей, наличие которых препятствует прохождению воздушных потоков.

РЕКОМЕНДУЕМАЯ МОДЕРНИЗАЦИЯ ИНЖЕНЕРНОЙ ИНФРАСТРУКТУРЫ

Зачастую обновление старого центра обработки данных обходится значительно дешевле, чем строительство совершенного нового объекта. Вот несколько самых экономичных и практических шагов, которые могут предпринять организации для увеличения надежности, производительности и мощности имеющегося вычислительного центра.

Замена ИБП. Замена старых ИБП на более новые модели — это относительно малозатратный способ повышения надежности и сокращения расходов на техническое обслуживание при минимуме риска. Более того, он позволяет значительно снизить потери энергии. В то время как у ИБП старого поколения КПД составлял всего 80–82% при стандартной загрузке, более новые модели, как правило, имеют КПД не ниже 92–95%. При этом у новейших, самых «продвинутых» ИБП КПД достигает 99% даже при частичной нагрузке.

Обновление систем распределения электропитания. Установка современных стоечных PDU позволяет старым ЦОД надежно и эффективно поддерживать более высокую плотность мощности. В частности, 32-амперные трехфазные блоки распределения питания обычно предоставляют более чем достаточную мощность для высокоплотных стоек, не производя избыточного тепла.

При использовании более мощных PDU повышение плотности ИТ-оборудования в стойке ведет к тому, что рабочая температура внутри серверных помещений возрастает до такой степени, что традиционные системы охлаждения перестают справляться с отводом тепла. Это вынуждает компании инвестировать средства в дорогие жидкостные системы охлаждения.

Обновление схемы распределения электропитания от распределительных щитов до стоек позволяет убрать кабели из-под пола и проложить их поверх серверных стоек, что упрощает доступ к ним и способствует более эффективному охлаждению.

Изоляция стоек или коридоров. Используемые во многих старых ЦОД схемы охлаждения предусматривают «хаотическое» распределение воздуха, когда располагающиеся по периметру устройства кондиционирования закачивают охлажденный воздух, который одновременно остужает ИТ-оборудование и вытесняет горячий отработанный воздух из серверов к обратным воздухопроводам объекта. Однако, давая воздуху возможность свободно перемещаться по ЦОД, такие схемы оказываются крайне неэффективными, так как отработанный воздух может проникнуть в воздухозаборники сервера, а охлажденный приточный — примешаться к обратному потоку.

Расставив стойки таким образом, чтобы в результате были сформированы «горячие/холодные коридоры», то есть воздух либо выдувался в проход, либо забирался из него, можно несколько повысить эффективность охлаждения благодаря генерации конвекционных потоков с непрерывным перемещением охлаждающего воздуха. Однако наилучшим решением является изоляция серверных стоек.

Для регулирования и контроля воздушных потоков серверные стойки заключаются в изолированные конструкции. Выбрасываемый горячий воздух удерживается внутри и втягивается в устройства кондиционирования воздуха, а охлажденный доставляется прямо к воздухозаборникам серверного оборудования (см. Рисунок 1). В результате повышается эффективность охлаждения, оборудование работает более надежно, а расходы на электроэнергию уменьшаются.

 

Рисунок 1. Стратегия охлаждения с ограничением воздушных потоков повышает эффективность путем полной изоляции приточных и вытяжных воздушных потоков.
Рисунок 1. Стратегия охлаждения с ограничением воздушных потоков повышает эффективность путем полной изоляции приточных и вытяжных воздушных потоков. 

 

Модернизация электрических переключателей или распределителей. Коммутационное оборудование, используемое во многих старых ЦОД, способно работать в течение 20 лет. Однако организации могут улучшить рабочие характеристики, безопасность и эффективность используемых переключателей путем регулярного обслуживания и обновления автоматических прерывателей и релейных схем после 10–12 лет службы.

Установка или модернизация систем мониторинга и управления. Многие старые центры обработки данных не контролируют должным образом использование ресурсов. А те, кто занимается решением данной задачи, зачастую используют для мониторинга и управления устаревшие технические средства и программные платформы. Внедрение современного решения по управлению питанием, оптимизированного в соответствии с потребностями виртуализированных сред, способно помочь ИТ-менеджерам и руководителям объектов значительно повысить готовность изнашивающегося оборудования. Например, новейшие системы управления электропитанием тесно интегрированы с такими ведущими продуктами по управлению виртуализацией, как VMware vCentre Server, благодаря чему менеджеры ЦОД могут при помощи единого пульта управления отслеживать, контролировать и администрировать не только физические и виртуальные серверы, но и ИБП, блоки распределения и другие устройства энергоснабжения (см. Рисунок 2).

 

Рисунок 2. Подключаемые модули, которые в настоящее время поставляются вместе с некоторыми решениями по управлению электропитанием, тесно интегрируются с основными системами управления виртуализацией, что позволяет техническим специалистам отслеживать, контролировать и администрировать все серверное оборудование, накопители и устройства управления электропитанием с единой консоли.
Рисунок 2. Подключаемые модули, которые в настоящее время поставляются вместе с некоторыми решениями по управлению электропитанием, тесно интегрируются с основными системами управления виртуализацией, что позволяет техническим специалистам отслеживать, контролировать и администрировать все серверное оборудование, накопители и устройства управления электропитанием с единой консоли.

 

Новейшие системы управления электропитанием позволяют:

  • при нарушении электроснабжения автоматически перемещать виртуальные машины с хост-серверов на незатронутые серверы, находящиеся в любом месте сети, благодаря бесшовной интеграции с такими системами динамической миграции, как VMware vMotion;
  • получать в режиме реального времени уведомление об ухудшении рабочих характеристик ИБП, перегреве батарей и других проблемах, чтобы предпринять необходимые действия до того, как произойдет серьезная авария;
  • собирать и архивировать данные по энергопотреблению в масштабах всего предприятия, чтобы затем задействовать их для регулирования энергопотребления, расчета коэффициентов эффективности использования энергии, проведения тщательного расследования системных сбоев и технического обслуживания.

Благодаря хорошей масштабируемости эти системы соответствуют требованиям мощных потребителей энергии, системных интеграторов и предприятий с разнородным спектром устройств. Системные разработчики могут воспользоваться преимуществом утилит разработки для интеграции SNMP и Modbus и возможной интеграции с системами управления зданием. Это поможет реализации биллинга в совместно используемых средах и лучшему распределению нагрузок между ИТ-объектами.

Развертывание резервной электротехнической инфраструктуры. Центры обработки данных с архитектурой двойной шины содержат два ИБП (или комплекта ИБП), каждый с собственной подводящей линией до серверных стоек. Это позволяет сохранить работоспособность критически важных рабочих нагрузок, даже если один ИБП выйдет из строя или потребует технического обслуживания. Организация сдвоенных шин значительно улучшает избыточность и доступность, но и увеличивает капитальные и эксплуатационные расходы, поэтому данный вариант можно рекомендовать только для объектов, где необходимо поддерживать безотказную работу. В случае модульных ИБП можно использовать N+1, а не полностью резервированную структуру.

ВЫГОДЫ ОТ МОДЕРНИЗАЦИИ ИНЖЕНЕРНОЙ ИНФРАСТРУКТУРЫ СТАРЫХ ЦОД

Как следует из приведенных выше рекомендаций, модернизация механической и электрической инфраструктуры старых ЦОД может улучшить доступность, повысить мощность систем электропитания и охлаждения, снизить эксплуатационные расходы и сократить выбросы парниковых газов в атмосферу. Однако не следует забывать и о менее очевидных преимуществах.

  • Повышенная гибкость и многофункциональность. Модернизиро-
  • ванный центр обработки данных более приспособлен для применения широкого спектра новейших технологий, в частности облачных вычислений, а также для внедрения будущих инноваций.
  • Улучшенная обслуживаемость. Переоборудование инженерных сетей устаревшего ЦОД обычно повышает их избыточность, облегчая ремонт электрооборудования или решение задач по техническому обслуживанию без снижения доступности.
  • Большая масштабируемость. Уве-личение мощности электропитания и охлаждения ЦОД старшего поколения позволяет максимально использовать виртуализацию и блейд-серверы — в случае применения этих технологий масштабируемость увеличивается благодаря высвобождению занимаемых площадей для последующего расширения.

ПРОБЛЕМЫ МОДЕРНИЗАЦИИ ИНФРАСТРУКТУРЫ СТАРЫХ ЦОД

Несмотря на многочисленные преимущества, при планировании и эксплуатации центров обработки данных их модернизация вызывает ряд значительных проблем.

  • Чтобы обновить старый вычислительный центр, сначала необходимо убедить высшее руководство выделить необходимые финансовые средства и утвердить проект. Для этого необходимо составить детальную и убедительную бизнес-модель и рассчитать рентабельность инвестиций. Однако такую задачу можно решить только при наличии соответствующего опыта, а сбор необходимых фактов и цифр может оказаться проблематичным.
  • Бессистемное переоборудование имеющихся электрических систем ЦОД может привести к перегрузкам и другим опасным последствиям. Чтобы предотвратить возникновение подобных проблем, руководителям объектов нужны полные и точные чертежи существующей электрической инфраструктуры. Однако на сегодняшний день лишь немногие компании располагают необходимой и достоверной документацией.
  • Мало кто может позволить себе остановить работу ЦОД на несколько месяцев с целью его модернизации. Однако замена электрических и механических систем в условиях текущей эксплуатации может оказаться трудной задачей, особенно если требуется сохранить доступность на прежнем уровне.
  • Операторы ЦОД должны убедиться в том, что любые вносимые ими изменения в электрические системы объекта соответствуют действующим требованиям по защите от дуговой вспышки. Тщательное изучение дуговой защиты, проведенное таким образом, чтобы критически важные рабочие нагрузки не подвергались риску, требует специальных инженерных знаний и навыков.

КЛЮЧЕВЫЕ ЭТАПЫ ОПТИМАЛЬНОЙ МОДЕРНИЗАЦИИ ЦОД

Модернизация инфраструктуры инженерных сетей старых ЦОД является сложным мероприятием, которое не поддается краткому описанию. Тем не менее мы постараемся дать обзор самых важных стадий данного процесса.

Оценка и планирование. Перед началом модернизации ЦОД организациям следует создать полный список слабых мест своего объекта и определить несколько вариантов их ликвидации. Для любой конкретной проблемы обычно существует несколько решений, и оценка каждого из них является лучшим способом убедиться в том, что выбранный в итоге подход учитывает все специфические потребности предприятия. Поставщик, имеющий опыт модернизации ЦОД, подскажет, какие возможные варианты необходимо изучить.

Кроме того, следует опросить обслуживающий персонал о любых трудностях, с которыми они сталкивались на протяжении нескольких предшествующих лет. Этот опрос можно использовать для сбора исторических данных с целью выработки экономического обоснования и определения основных составляющих затрат на текущий момент.

Экономическое обоснование. После определения потенциальных вариантов компании могут взвесить свои затраты и выгоды, чтобы сделать обоснованный выбор. На основании такого анализа менеджеры подготовят технико-экономическое обоснование модернизации центра обработки данных для выделения необходимого финансирования.

Отметим, что, скорее всего, на первый план будут выдвигаться экономия и получение прибыли, но важную роль играют и некоммерческие соображения. Например, иногда самый убедительный довод состоит в том, что достижение долгосрочных стратегических целей организации окажется невозможно без проведения модернизации ЦОД.

Заметим также, что многие коммунальные службы, органы исполнительной власти и управления предлагают материальное стимулирование для центров обработки данных, если последние повышают свою энергоэффективность. Хотя в настоящее время полного каталога таких программ не существует, опытный поставщик поможет определить, какие предложения применимы к инициативе конкретных компаний.

Определение целей проекта. После решения финансовых вопросов менеджеры центров обработки данных должны составить список задач с перечнем критериев успеха модернизации, где четко указывается не только то, какие инфраструктурные изменения предполагается выполнить в рамках проекта, но и то, какие требуемые улучшения оказались отложенными.

Создание плана проекта. Следующий шаг — подготовка подробного плана действий, включая реалистичный график. Кроме того, хороший план проекта должен содержать:

  • перечень конкретных действий по сокращению перебоев в функционировании ЦОД, если он должен оставаться в рабочем состоянии в течение всего процесса модернизации;
  • список потенциальных вопросов, которые могут возникать в процессе работ, и чрезвычайных мер, предпринимаемых для их решения. (Что вы будете делать, например, если электрик случайно обесточит главную цепь или весь ваш объект будет на какое-то время отключен от Интернета? Предварительная проработка таких проблем впоследствии сэкономит немало ценного времени.)

Выполнение плана. Чтобы обеспечить качественные результаты, компаниям следует работать только с теми подрядчиками, которые имеют навыки управления проектами аналогичного объема, завершенными в срок и в пределах выделенного бюджета.

Обновление чертежей. Хотя в процессе переоснащения ЦОД эта задача является в большей степени административной, обновление чертежей сегодня считается передовой практикой, следование которой значительно облегчит жизнь будущим ИТ-менеджерам и руководителям объекта. Чтобы обеспечить максимальную точность документации, следует воспользоваться услугами профессионального инженера или чертежника.

Проведение испытаний. Процесс сдачи в эксплуатацию модернизированного ЦОД предусматривает тщательное тестирование любой системы, которая подверглась изменениям, была добавлена или заменена. Такие испытания должны проводиться для измененных компонентов, как по отдельности, так и совместно. Например, если организация обновила свои ИБП, развернула новые PDU и изолировала коридоры или стойки, необходимо сначала убедиться в том, что каждая система по отдельности работает надлежащим образом, а затем проверить совместную работу устройств, подвергнув их различным модельным рабочим нагрузкам.

Оценка результатов. Перед вводом в эксплуатацию модернизированного центра обработки данных следует вернуться к сформулированным ранее целям и задачам и оценить степень их достижения. Эта оценка реальных рабочих параметров и мощностей модернизированного объекта должна быть тщательной, объективной и проводиться с участием опытных консультантов, предоставленных поставщиками оборудования и ПО.

Анализ риска возникновения дуговой вспышки. Если переоборудование ЦОД предполагало внесение изменений в электрическую часть инфраструктуры, то чрезвычайно важной становится проверка последней на предмет соблюдения действующих правил безопасности в отношении дуговой вспышки. Это поможет компаниям определить риски возникновения дуговой вспышки и разработать соответствующие стратегии по их снижению. К проведению данного анализа следует привлечь квалифицированного инженера-электрика.

ЗАКЛЮЧЕНИЕ

В последние годы мир технологий претерпел множество изменений. Чтобы не отстать от прогресса, владельцам центров обработки данных, срок эксплуатации которых составляет 10 или более лет, следует всерьез задуматься о модернизации таких объектов. Обновление механической и электрической инфраструктуры устаревших ЦОД может значительно повысить их надежность, производительность, гибкость и масштабируемость при одновременном снижении эксплуатационных расходов. Кроме того, компании сэкономят значительные средства благодаря отказу от строительства новых ЦОД.

Хотя такая модернизация — процесс непростой, тщательное планирование и умелое исполнение могут существенно ускорить выполнение работ и повысить рентабельность инвестиций. Организациям, планирующим переоснащение инфраструктуры инженерных сетей, следует привлечь к сотрудничеству опытного в подобных делах поставщика.

Джон Коллинз — менеджер сегмента ЦОД компании Eaton.

Поделитесь материалом с коллегами и друзьями

Купить номер с этой статьей в PDF