Свою деятельность компания Caravan начала в 1996 году с предоставления услуг коммутируемого доступа в Интернет. Затем портфель предложений компании пополнился услугами высокоскоростного доступа в Интернет, физического и виртуального хостинга, обработки и хранения данных. Она построила в Москве волоконно-оптическую сеть, а в 2008 году ввела в эксплуатацию центр обработки данных Telehouse Caravan, который стал одним из первых российских ЦОД, соответствующих требованиям категории надежности Tier III (сертифицировать центр в организации Uptime Institute владелец не стал).

Этот объект, расположенный в Москве по адресу проспект Мира, 222, интересен в первую очередь тем, что представляет собой комплекс из нескольких независимых залов (гермозон), помещения которых герметичны и изготовлены из огнеупорных материалов. Это повышает отказоустойчивость ЦОД, а также позволяет более гибко подходить к реализации индивидуальных запросов заказчиков в отношении безопасности и надежности.

Экскурсия в ЦОД Telehouse Caravan (Москва)

 

 

Вход в одну из гермозон. Стены выполнены из панелей класса огнестойкости EI-60 (двери EI-90). Они препятствуют проникновению огня внутрь зоны (и повышению температуры в зале) в случае пожара. Цифры в обозначении — это время в минутах, которое панели способны противостоять огню. Буква «E» указывает на сохранение целостности конструкции (образование сквозных трещин или отверстий, через которые будут проникать продукты горения или пламя, возможно не ранее, чем через 60 мин.), а «I» — на сохранение теплоизолирующей способности.
Вход в одну из гермозон. Стены выполнены из панелей класса огнестойкости EI-60 (двери EI-90). Они препятствуют проникновению огня внутрь зоны (и повышению температуры в зале) в случае пожара. Цифры в обозначении — это время в минутах, которое панели способны противостоять огню. Буква «E» указывает на сохранение целостности конструкции (образование сквозных трещин или отверстий, через которые будут проникать продукты горения или пламя, возможно не ранее, чем через 60 мин.), а «I» — на сохранение теплоизолирующей способности.

 

 

Внутри каждой гермозоны установлен комплекс APC InfraStruXure, состоящий из шкафов, внутрирядных кондиционеров, а также дверей и крыши, обеспечивающих изоляцию горячего коридора. Кроме того, все незанятые позиции в шкафах закрыты заглушками. Для защиты оборудования от воздействий внешней среды и проникновения пыли используется система приточно-вытяжной вентиляции, которая фильтрует подаваемый в гермозону воздух и поддерживает в помещении заданные параметры избыточного давления.
Внутри каждой гермозоны установлен комплекс APC InfraStruXure, состоящий из шкафов, внутрирядных кондиционеров, а также дверей и крыши, обеспечивающих изоляцию горячего коридора. Кроме того, все незанятые позиции в шкафах закрыты заглушками. Для защиты оборудования от воздействий внешней среды и проникновения пыли используется система приточно-вытяжной вентиляции, которая фильтрует подаваемый в гермозону воздух и поддерживает в помещении заданные параметры избыточного давления. 

 

 

Внутрирядные кондиционеры InRow RP обеспечивают температуру 24°C (+/–1°С). Варьируя число кондиционеров в одном «кубе» InfraStruXure, можно менять максимальное количество тепла, снимаемого с одной стойки, — вплоть до 30 кВт. Каждый кондиционер снабжен блоком парогенератора (для поддержания требуемой влажности 45%) и подключен через трехходовой клапан к двум независимым магистралям, по которым подается холодоноситель (40-процентный раствор этиленгликоля).
Внутрирядные кондиционеры InRow RP обеспечивают температуру 24°C (+/–1°С). Варьируя число кондиционеров в одном «кубе» InfraStruXure, можно менять максимальное количество тепла, снимаемого с одной стойки, — вплоть до 30 кВт. Каждый кондиционер снабжен блоком парогенератора (для поддержания требуемой влажности 45%) и подключен через трехходовой клапан к двум независимым магистралям, по которым подается холодоноситель (40-процентный раствор этиленгликоля).

 

 

Магистрали с холодоносителем проходят через коллекторную в чиллеры, установленные снаружи здания.
Магистрали с холодоносителем проходят через коллекторную в чиллеры, установленные снаружи здания.

 

 

Система бесперебойного гарантированного электропитания построена по классической схеме. От города подведены две независимые линии на 10 кВ (основная и резервная). На объекте установлен комплекс ИБП (Chloride 90 NET) мощностью 300 кВА каждый; схема резервирования N+1.
Система бесперебойного гарантированного электропитания построена по классической схеме. От города подведены две независимые линии на 10 кВ (основная и резервная). На объекте установлен комплекс ИБП (Chloride 90 NET) мощностью 300 кВА каждый; схема резервирования N+1. 

 

 

Холодильные машины (чиллеры) RС Group MaximoScrew 740 позволяют остудить холодоноситель до необходимой температуры +8°С. При низкой температуре наружного воздуха раствор этиленгликоля предварительно охлаждается в теплообменнике холодоноситель — воздух (freecooling). Между чиллерами установлен 10-тонный резервуар с холодоносителем, обеспечивающий стабильность климатических параметров.
Холодильные машины (чиллеры) RС Group MaximoScrew 740 позволяют остудить холодоноситель до необходимой температуры +8°С. При низкой температуре наружного воздуха раствор этиленгликоля предварительно охлаждается в теплообменнике холодоноситель — воздух (freecooling). Между чиллерами установлен 10-тонный резервуар с холодоносителем, обеспечивающий стабильность климатических параметров. 

 

 

Дизель-генераторная установка SDMO T1400 мощностью 1,4 МВА и топливное хранилище для ДГУ емкостью 10 т способны обеспечить автономную работу ЦОД Telehouse Caravan без дополнительной дозаправки в течение двух суток.
Дизель-генераторная установка SDMO T1400 мощностью 1,4 МВА и топливное хранилище для ДГУ емкостью 10 т способны обеспечить автономную работу ЦОД Telehouse Caravan без дополнительной дозаправки в течение двух суток.

 

 

Хотя емкость установленных вместе с ИБП аккумуляторов позволяет обеспечить автономное питание не менее 20 мин., автомат ввода резерва переводит нагрузку на дизель-генератор уже через 1 мин. после отключения внешнего (городского) напряжения.
Хотя емкость установленных вместе с ИБП аккумуляторов позволяет обеспечить автономное питание не менее 20 мин., автомат ввода резерва переводит нагрузку на дизель-генератор уже через 1 мин. после отключения внешнего (городского) напряжения.

 

 

Распределение электропитания организовано по схеме 2N. К каждому шкафу с оборудованием подходят две  магистрали — соответственно, серверы с двумя блоками питания могут быть подключены сразу к обеим. В ЦОД установлены «интеллектуальные» блоки распределения (PDU) с функциями мониторинга, часть PDU дополнительно реализует и функции активного управления (удаленного выключения/включения питания). Созданная инфраструктура электроснабжения позволяет выделить до 30 кВт на стойку.
Распределение электропитания организовано по схеме 2N. К каждому шкафу с оборудованием подходят две  магистрали — соответственно, серверы с двумя блоками питания могут быть подключены сразу к обеим. В ЦОД установлены «интеллектуальные» блоки распределения (PDU) с функциями мониторинга, часть PDU дополнительно реализует и функции активного управления (удаленного выключения/включения питания). Созданная инфраструктура электроснабжения позволяет выделить до 30 кВт на стойку.

 

 

Организация независимых гермозон позволила существенно снизить расходы на систему газового пожаротушения (используемый в ней инертный газ — Хладон R125 — стоит весьма недешево) с сохранением высокого уровня надежности. На тушение одного помещения достаточно двух баллонов, всего таких помещений восемь (шесть гермозон и две щитовые комнаты), а баллонов — шесть. Таким образом, в случае пожара в одной гермозоне имеется даже тройной резерв.
Организация независимых гермозон позволила существенно снизить расходы на систему газового пожаротушения (используемый в ней инертный газ — Хладон R125 — стоит весьма недешево) с сохранением высокого уровня надежности. На тушение одного помещения достаточно двух баллонов, всего таких помещений восемь (шесть гермозон и две щитовые комнаты), а баллонов — шесть. Таким образом, в случае пожара в одной гермозоне имеется даже тройной резерв.

 

 

Клиентам ЦОД предоставляется возможность удаленного обслуживания своего оборудования с помощью установленных переключателей KVM. Для удобства службы эксплуатации на двери гермозон прикреплены таблички с указанием номеров переключателей KVM, установленных в данных залах.
Клиентам ЦОД предоставляется возможность удаленного обслуживания своего оборудования с помощью установленных переключателей KVM. Для удобства службы эксплуатации на двери гермозон прикреплены таблички с указанием номеров переключателей KVM, установленных в данных залах.

 

 

Сетевая инфраструктура ЦОД в соответствии с классической архитектурой имеет три уровня (ядро, агрегация и доступ). Уровень доступа реализуется путем установки коммутатора в каждую стойку (Top of the Rack, ToR) или одного коммутатора на несколько стоек (Middle of the Row, MoR). Коммутаторы агрегации и ядра (на фото) зарезервированы по схеме 2N. Используется сетевое оборудование Cisco. На базе продукта этого производителя (Cisco Guard) реализована и система защиты от атак DDoS. Она имеет пропускную способность более 1 млн пакетов в секунду с возможностью оперативного наращивания мощности. Волоконно-оптические линии связи Telehouse Caravan связаны с собственной опорной сетью компании и имеют разные маршруты прокладки до основных точек обмена трафиком (ММТС-9, ММТС-10).
Сетевая инфраструктура ЦОД в соответствии с классической архитектурой имеет три уровня (ядро, агрегация и доступ). Уровень доступа реализуется путем установки коммутатора в каждую стойку (Top of the Rack, ToR) или одного коммутатора на несколько стоек (Middle of the Row, MoR). Коммутаторы агрегации и ядра (на фото) зарезервированы по схеме 2N. Используется сетевое оборудование Cisco. На базе продукта этого производителя (Cisco Guard) реализована и система защиты от атак DDoS. Она имеет пропускную способность более 1 млн пакетов в секунду с возможностью оперативного наращивания мощности. Волоконно-оптические линии связи Telehouse Caravan связаны с собственной опорной сетью компании и имеют разные маршруты прокладки до основных точек обмена трафиком (ММТС-9, ММТС-10).