Основная причина вынесения вычислительных мощностей и данных на специализированные площадки — в центры обработки данных — заключается в невозможности обеспечить высокий уровень надежности и катастрофоустойчивости корпоративной инфраструктуры ИТ в помещениях, где располагаются офисы компаний. Как бы хорошо ни был спроектирован и оборудован бизнес-центр, он никогда не будет защищен от внешних воздействий и оснащен соответствующей инфраструктурой так же, как специализированная площадка ЦОД.

Даже если компания занимает все здание целиком, в нем неизбежно присутствуют различные службы, интересы которых порой весьма далеки от функционирования ин-фраструктуры ИТ, так что своими непреднамеренными действиями они могут нарушить ее сохранность и целостность. Серверные комнаты, столь популярные в конце прошлого века, постепенно уходят в прошлое, и вычислительные мощности, системы хранения данных и другие критические составляющие корпоративной инфраструктуры ИТ перекочевывают из офисов в хорошо спроектированные и защищенные ЦОД, благодаря чему надежность ИТ-составляющей бизнеса многократно повышается.

Естественно, в первую очередь встает вопрос связи ЦОД (или нескольких ЦОД, например, когда компания содержит основной и резервный центры) с офисом и другими объектами, принадлежащими предприятию. Тема обеспечения связью центра обработки данных обсуждалась специалистами компаний «СИТРОНИКС Информационные Технологии» (бывшая «Квазар-Микро»), «Мастертел», «Синтерра», IBS DataFort и Stack Group во время выставки «Связь-Экспокомм 2008» на круглом столе, организованном «Журналом сетевых решений/LAN» совместно с ЗАО «Экспоцентр».

НАДЕЖНОСТЬ И СВЯЗНОСТЬ

Главное требование к связи для ЦОД — высокая надежность каналов при достаточной пропускной способности. Дополнительно должна быть обеспечена высокая связность всей сети, объединяющей ЦОД и другие объекты предприятия, то есть нужны альтернативные (резервные) каналы и точки их пересечения, в которых возможна коммутация трафика. Чем выше уровень связности сети, тем вероятнее сохранение работоспособности при отказе тех или иных каналов, а кроме того, эффективнее функционирует инфраструктура ИТ предприятия.

С точки зрения требований к подключению существует значительная разница между обычной точкой доступа в сеть и ЦОД. В последнем случае, как правило, используются более надежные и интеллектуальные устройства, развитые методы резервирования и управления. Как и каналы, оборудование передачи данных следует зарезервировать с необходимой избыточностью, чтобы любые плановые регламент-ные работы, замена и модернизация устройств не влияли на доступность ЦОД и его связь с клиентами, которые должны быть уверены, что обрыва связи с ЦОД не произойдет и доступность его ресурсов ИТ всегда будет очень высокой.

На случай чрезвычайных обстоятельств (различных аварий и прочих неприятностей) нужен план восстановления после катастроф (Disaster Recovery Plan, DRP), где описывается последовательность действий по восстановлению работоспособности ЦОД и инфраструктуры ИТ компании-клиента, тем более что далеко не всегда восстановление работоспособности всей инфраструктуры возможно без участия специалистов заказчика. В качестве меры противодействия нештатным ситуациям провайдер может предложить воспользоваться резервным оборудованием или услугами резервного ЦОД, вплоть до развертывания резервного офиса клиента на площадке ЦОД. В некоторых странах наличие подробного DRP оговорено в законодательных актах, вполне вероятно, что со временем подобные нормы появятся и в нашей стране.

ДАЛЬШЕ — ЛУЧШЕ?

Построение новых ЦОД на территории Москвы, по мнению Дениса Калинина, генерального директора IBS DataFort, стало экономически нецелесообразно и больше напоминает пресловутую точечную застройку. В столице ЦОД строят лишь те компании, которые уже располагают необходимыми помещениями и энергетическими мощностями. Ситуация осложняется тем, что в соответствии с экологическими нормами создавать системы гарантированного электропитания с применением дизель-генераторов разрешается лишь в промышленных зонах, которых в пределах МКАД остается все меньше.

Поэтому современные ЦОД располагают за переделами мегаполиса (например, в Дубне, как компания IBS DataFort, или в Пущи-но — Stack Group), а «Синтерра» реализует масштабную программу 40х40: 40 ЦОД будут построены в крупных российских городах во всех семи федеральных округах и объединены в общую сеть каналами, общая пропускная способность которых составит не менее 40 Гбит/с. При этом центры подключаются к магистральной телекоммуникационной инфраструктуре «Синтерры», а вся сеть обладает высокой степенью связности. Кроме того, компания максимально привлекает в эти ЦОД местных операторов, сервис- и контент- провайдеров.

В то же время Алексей Криво-шеев, руководитель направления «Инженерная инфраструктура» компании «СИТРОНИКС Информационные Технологии», считает, что и при построении ЦОД за пределами Москвы возникает немало сложностей. В частности, найти подходящую площадку порой довольно сложно, поскольку энергообеспечение различных районов Московской области сильно различается: в некоторых из них ситуация с электроэнергией не лучше московской, поэтому в каждом случае данный вопрос решается индивидуально. При размещении ЦОД в соседних областях придется содержать на месте (или хотя бы периодически отправлять в командировки) штат квалифицированных специалистов, к тому же заметно возрастет (по сравнению с Москвой) время замены оборудования. Отчасти поэтому значительное количество клиентов ЦОД пока не готово устанавливать свое оборудование далеко за пределами Москвы.

Стоимость связи с ЦОД в Подмосковье и соседних областях немного выше, чем если бы они располагались в Москве, но в любом случае речь идет о небольшой доле в общих затратах на по-строение ЦОД. Основные расходы приходятся на электроэнергию, а подвод необходимой мощности в Подмосковье и других областях России обходится в несколько раз дешевле, чем в столице. В принципе, возможно вынесение ЦОД и за пределы России; в Канаде, например, энергетические ресурсы еще дешевле, но именно телекоммуникационные ограничения сдерживают массовую «эмиграцию» ЦОД. Кроме того, для российских государственных и финансовых структур существуют законодательные барьеры (инфраструктура ИТ этих организаций должна находиться на территории нашей страны). Для крупных же транснациональных корпораций вполне естественной может быть картина, когда одна часть вычислительных мощностей располагается в Европе, другая — в Северной Америке, а все остальное — в Азиатском регионе.

КАНАЛЫ И ИНТЕРФЕЙСЫ

По своему назначению ЦОД традиционно делятся на два основных типа — корпоративные и коммерческие. Первые создаются компаниями для собственных нужд, вторые строятся для сдачи в аренду. Причем услуги ЦОД нередко предлагает сервис-провайдер, который арендует ЦОД у его владельца.

Среди клиентов коммерческих ЦОД можно выделить две группы. Первая — корпоративные клиенты, работающие в основном с офисными приложениями, а вторая — Internet-компании, генерирующие большие объемы трафика. Корпоративные клиенты менее требовательны к скоростям передачи данных, и, как правило, довольствуются каналами в десятки и сотни мегабит в секунду, в то время как Internet-компаниям порой нужны каналы в десятки гигабит в секунду. Несколько ЦОД, соединенных кольцом в 1 или 10 Гбит/с — довольно обычная структура для корпоративного рынка, но для Intrernet-бизнеса требуются полосы в десятки и даже сотни гигабит. Современные оптические технологии позволяют передавать по одному волокну сотни гигабит и даже терабиты информации в секунду, и к концу года такие каналы, как полагает Денис Калинин, должны появиться в спектре услуг российских ЦОД.

Для ЦОД и компаний-клиентов обычно организуются каналы IP (IP VPN и корпоративная голосовая связь по IP), заметного спроса на каналы другого типа нет. Тем не менее, по словам Людмилы Стариковой, руководителя группы стратегического маркетинга компании «Синтерра», в ближайшем будущем полностью перейти на соединения по IP вряд ли удастся. Некоторые заказчики по-прежнему предпочитают выделенные оптические линии, вплоть до STM-1, а кому-то до сих пор нужен уже ставший почти экзотическим протокол Frame Relay. На физическом уровне для подключения клиентов и связи с операторами используются в основном интерфейсы оптического или электрического Ethernet.

В Москве широко востребована услуга темной оптики для связи с корпоративными ЦОД. Зачастую это корпоративный стандарт клиента, поскольку в таком случае сеть предоставляет очень высокие скорости передачи данных, которые ни один оператор обеспечить не может. Эта услуга, в частности, очень популярна у клиентов компании «Мастертел».

БЕЗ ЭКСКЛЮЗИВА И «БУТЫЛОЧНЫХ ГОРЛЫШЕК»

Исторически хозяевами первых ЦОД были операторы связи, которые предпочитали не допускать в них других операторов и предлагали только свои услуги. Они строили ЦОД для обслуживания бизнес-центров, в которых зачастую являлись эксклюзивными провайдерами услуг связи. Сейчас ситуация меняется: безальтернативных предложений становится все меньше, особенно если рассматривать коммерческие (специально построенные для предоставления услуг) ЦОД. Корпоративные ЦОД обслуживают потребности какой-то одной компании и работают с устоявшимся пулом телекоммуникационных операторов. По мнению Людмилы Стариковой, чем больше местных операторов присутствует в ЦОД, тем лучше. Этого же принципа придерживаются и другие поставщики услуг ЦОД, представители которых принимали участие в круглом столе.

Важно, чтобы линии различных операторов не вводились в ЦОД через одну асбестовую трубу, которая в этом случае становится своеобразным «бутылочным горлышком», поскольку может быть легко разрушена неосторожными действиями строителей или инженерного персонала. Более того, возможна ситуация, когда линии связи нескольких операторов, проложенные в ЦОД разными маршрутами, при пересечении мостов, железнодорожных магистралей и других препятствий опять сближаются. Все это надо заранее предусмотреть и предпринять необходимые меры, которые повысят надежность связи с ЦОД.

Александр Суржик, руководитель отдела планирования и развития сети компании «Мастертел», указывает, что пресловутая асбестовая труба — порой не такой уж и плохой вариант. Зачастую возможность нормального ввода оптического кабеля и построения канализации просто отсутствует, поэтому примерно в четверти случаев приходится прокладывать кабель по заборам, столбам, фасадам и другим поверхностям, не слишком пригодным для таких целей. Дополнительные сложности возникают на режимных предприятиях, где прокладкой кабеля по территории вправе заниматься лишь штатные связисты, поэтому проконтролировать качество их работы и маршрут, как правило, не удается. Он посетовал и на то, что на стадии планирования и строительства сторонних операторов редко привлекают к проектам по обеспечению ЦОД связью, и поэтому их каналы вводятся в ЦОД далеко не оптимальным образом, а лишь с учетом возможностей, уже существующих на момент сдачи объекта в эксплуатацию.

Как отмечает Сергей Зайцев, заместитель коммерческого директора компании Stack Group, выбор оператора для подключения ЦОД зависит от того, какие услуги планируется предлагать клиентам. Четких универсальных критериев выбора, на его взгляд, не существует. Если речь идет о центре, который предоставляет каналы до офисов заказчиков, то надо привлекать операторов, умеющих выполнять свою работу качественно и надежно. Компания Stack Group взаимодействует с пятью операторами национального масштаба, чего, по мнению ее представителей, вполне достаточно для решения всех задач, связанных с обслуживанием клиентов. Тем не менее, если кто-то из них хочет воспользоваться услугами оператора, не входящего в эту пятерку, то ему, как правило, предоставляется такая возможность. Нередко клиент уже имеет свои представления о том, как организовать связь, на чем сэкономить, а что построить с запасом. И задача ЦОД — обеспечить ему необходимые технические условия, а не диктовать, к каким именно операторам надо подключиться.

Как подчеркнул Денис Калинин, если заказчик не заключает соглашения непосредственно с операторами, то владелец ЦОД должен обладать всеми необходимыми лицензиями на предоставление услуг связи, поскольку по российским законам посредничество в лицензируемых услугах (каковыми являются услуги связи) запрещено. Иными словами, договор с владельцем ЦОД о том, например, что последний обязуется обеспечить услуги связи для клиента ЦОД с помощью других операторов, не будет иметь юридической силы.

ПЛОЩАДКА ИЛИ УСЛУГА?

На круглом столе широко обсуждался еще один вопрос: что же такое ЦОД — площадка для установки оборудования заказчика, куда тот самостоятельно приглашает операторов и обеспечивает подключение и контроль за работой устройств, или услуга, в случае предоставления которой всю ответственность за надлежащее функционирование оборудования и каналов связи берет на себя владелец ЦОД?

В соответствии с различными подходами можно выделить два типа заказчиков. Первый — технологический, когда клиент предпочитает во всем участвовать и все контролировать, разбирается во всех технических тонкостях услуг, оборудования и ПО для мониторинга. Когда-то появление таких заказчиков было обусловлено практической необходимостью, поскольку ЦОД еще не предлагали комплекс-
ную поддержку инфраструктуры ИТ клиента.

По мере совершенствования и расширения портфеля услуг ЦОД начали появляться бизнес-ориентированные заказчики, которые все заботы по поддержке своей ИТ-инфраструктуры, подключению к оператору и совместимости оборудования перекладывают на сервис-провайдера ЦОД. Выбор такого провайдера происходит рыночными методами — главное, чтобы у клиента были варианты. После заключения соглашения сервис-провайдер ЦОД периодически предоставляет отчет о выполнении взятых на себя обязательств (мониторинг тоже входит в перечень услуг), а клиент на основании этих отчетов и субъективных оценок решает, продлевать ли с ним соглашение или предпочесть другого.

Пока встречаются оба типа клиентов и оба подхода, но более практичным и целесообразным является второй. При этом все обязатель-ства и риски, которые берет на себя владелец (или сервис-провайдер услуг) ЦОД перечисляются в соответствующем документе о качестве обслуживания (Service Level Agreement, SLA). В случае убытков клиента по причине простоя ЦОД оператор компенсирует их согласно достигнутым договоренностям. В SLA указывается, что ИТ-системы клиента должны работать с определенными показателями качества и доступности, при необходимости оговариваются и другие параметры работы ЦОД.

Конечно, подобный сервис обойдется дороже, чем обычное предоставление услуг связи за абонентскую плату в рамках существующего законодательства, но для тех компаний, которые намерены сконцентрироваться на собственном бизнесе, а не на контроле за деятельностью оператора, такое решение, несомненно, привлекательнее. Важно, чтобы инфраструктура ЦОД была достаточно мощной и надежной, способной поддерживать весь спектр необходимых клиентам услуг.

В типовых SLA для услуг связи обычно указывается уровень доступности (допустимое количест-во минут простоя в месяц или год) и минимальная пропускная способность каналов связи. При передаче видеоконтента оговариваются такие специфические параметры для ви-деосигнала, как допустимый уровень задержки, вариации, потери кадров и т.д. Дополнительно могут быть согласованы степень резервирования оборудования передачи данных и линий связи (обычно в интервале от N+1 до N+N) и максимальное время восстановления в случае аварий.

По мнению Людмилы Стариковой, желательно, чтобы все услуги предоставлялись «под ключ» и именно владелец ЦОД нес ответственность за взаимоотношения с операторами. При этом целесообразно, чтобы со стороны заказчика (особенно если инфраструктура ИТ имеет критическое значение для его бизнеса) контроль осуществлял руководитель проекта, отвечающий за взаимодействие с владельцами и провайдерами услуг ЦОД.

Перечень услуг ЦОД может быть чрезвычайно широким — от прос-того размещения оборудования в стойках с гарантированным питанием и стабильными климатическими условиями до администрирования и аренды приложений. Возможно предоставление резерв-ного офиса на площадках ЦОД, различные способы защиты информации заказчика и многое другое, в том числе заключение соответствующих соглашений SLA. Связь с ЦОД, как правило, занимает весьма скромное место в этом списке.

Ростислав Сергеев — зам. главного редактора «Журнала сетевых решений/LAN». С ним можно связаться по адресу: rsergeev@lanmag.ru.


Мнение эксперта

а вопросы круглого стола отвечает Олег Коверзнев, менеджер Cisco Systems по развитию бизнеса центров обработки данных в России и странах СНГ, который не принимал очного участия в мероприятии.

Что такое хорошая связь для ЦОД?

Главным критерием качества функционирования ЦОД является высокая доступность приложений. Опираясь на данный критерий, можно сказать, что связь будет хорошей в том случае, когда имеется надежная и высокопроизводительная инфраструктура для взаимодействия устройств внутри ЦОД, а также с внешними объектами, будь то удаленные пользователи приложений или устройства резервного ЦОД.

Каковы критерии выбора оператора при подключении ЦОД к сетям связи?

Независимо от размеров и типа ЦОД критерии таковы: тип подключения, пропускная способность, стабильность и надежность операторской сети, безопасность подключения, возможность резервирования канала и, конечно, стоимость этого подключения и тарифный план.

Каковы типичные проблемы при подключении и как их преодолеть?

Несмотря на достаточно широкое предложение операторских услуг связи, до сих пор приходится сталкиваться с отсутствием закрепленных в сервисном контракте параметров качества услуги, нестабильным функ-
ционированием каналов (что выражается в непредсказуемой задержке, ее вариации и потери пакетов) и недоступностью альтернативных каналов связи.

Чтобы избежать подобных проблем, надо детально изучить предложения различных операторов и постараться найти вариант альтернативного подключения для обеспечения отказоустойчивости. При необходимости типовой контракт на предоставление услуг следует дополнить, зафиксировав в нем требуемые параметры качества. Проблемы с качеством работы канала могут решаться и за счет дополнительных устройств для оптимизации работы приложений в случае задержек и потерь в канале.

Готова ли инфраструктура современных ЦОД для обслуживания операторами? Что лучше — подключить ЦОД к оператору или пригласить операторов в ЦОД?

Это насущный вопрос — как для операторов связи, так и для потенциальных пользователей услуг аутсорсинга ресурсов ЦОД. Для его решения нужна нормативно-правовая практика разграничения зон ответственности оператора связи и заказчика. Исторически ответ-ственность оператора заканчивалась предоставлением порта на своем каналобразующем оборудовании или прокладкой последней мили до оборудования заказчика. В случае с ЦОД провести границу намного сложней, поэтому перспективным видится вариант, когда оператор владеет всей инфраструктурой ЦОД, предоставляя своим заказчикам вычислительные ресурсы, сетевую инфраструктуру и ресурсы для хранения информации.

Какие параметры необходимо оговаривать в SLA и как контролировать их исполнение?

Ответ зависит от вида услуги, которую предоставляет оператор связи. В частности, если это канал связи, то надо указать степень его доступности (например, при доступности в 99,999% время простоя составляет меньше 5 мин в год). В SLA должна иметься инструкция по взаимодействию со службой поддержки, разграничиваться зоны ответственности оператора и заказчика, указываться инструменты отслеживания параметров качества канала и граничные величины (например, допустимые значения вариации задержки и потерянных пакетов на канале).

Если же оператор предоставляет услугу Managed Services, то параметры и процесс контроля усложняются. В итоге все должно сводиться к показателю доступности вычислительных ресурсов, которые предоставляются заказчику, и допустимым значениям их производительности. Для услуг связи существуют отработанные инструменты мониторинга каналов связи, но практика аутсорсинга ЦОД пока не устоялась из-за отсутствия достаточного предложения на рынке.

Каким должно быть резервирование каналов связи для ЦОД?

Учитывая важность ЦОД, вопросам резервирования каналов связи нужно уделять особое внимание. Это касается как внутренних подключений, так и внешних каналов. Желательно иметь несколько внешних альтернативных каналов для обеспечения нормального функционирования ЦОД в случае выхода из строя одного из них. При строительстве внутренней сети ЦОД надо исходить из соображений резервируемости всех элементов — каналов, источников питания, сетевых, вычислительных ресурсов, систем хранения.

Каков оптимальный набор технологий/протоколов связи при подключении ЦОД? Следует ли переводить связь современного ЦОД только на IP?

Ответить на данный вопрос можно лишь после анализа задач, стоящих перед компанией, которая строит или модернизирует свой ЦОД. На окончательный выбор технологий влияют и приложения, и модели серверов, и системы хранения, и системы управления жизненным циклом информации. Оптимальным является решение, способное обеспечить выполнение поставленных задач, отвечающее принципам удобства эксплуатации, надежности, масштабируемости и, конечно, соответствующее ожиданиям по стоимости. В настоящее время в ЦОД применяются Ethernet, Fibre Channel, IP. На подходе новые стандарты — DataCenter Ethernet (DCE) и Fibre Channel over Ethernet (FCoe). Все эти технологии могут сосуществовать, решая свои задачи.

ЦОД для связи или связь для ЦОДа?

Связь не является самоцелью. Необходим быстрый доступ к нужной информации. И с этой точки зрения связь и сетевая инфраструктура — всего лишь средства обеспечения данного доступа. В зависимости от задач и архитектуры ЦОД требования к связи могут меняться, но главным остается первичность информации как центрального объекта ЦОД.

Поделитесь материалом с коллегами и друзьями

Купить номер с этой статьей в PDF