Современные тенденции развития инфокоммуникационных технологий продиктованы требованиями пользователей к увеличению пропускной способности сетей и повышению производительности вычислительных ресурсов. При этом заказчиков интересует рациональное использование имеющегося у них оборудования, снижение капитальных и эксплуатационных затрат.

Ответами на ожидания клиентов стали разработка высокоскоростных протоколов передачи данных (10GE, 40GE и 100GE) и появление новых подходов к организации работы с данными. С легкой руки маркетологов новые способы организации вычислений получили название «облачных», но, по сути, их основой стали два принципа — консолидация в единое целое распределенных ресурсов (GRID-системы) и предоставление ресурсов по требованию (виртуализация). Как показывает опыт реализации первых проектов, для эффективного функционирования «облака» необходимы надежные высокоскоростные каналы связи между компонентами единой системы.

Новые времена — новые технологии

Традиционно при создании любого информационно-вычислительного комплекса используется разделение информационных потоков на сети передачи данных (LAN) и сети хранения данных (SAN). Не будем вдаваться в историю вопроса, но до недавнего времени такая топология себя вполне оправдывала. Основным протоколом SAN является Fibre Channel, который поддерживает передачу данных между серверами и системами хранения (СХД) со скоростью до 8 Гбит/с. Этот протокол полностью стандартизирован и хорошо себя зарекомендовал. Однако поддержка двух и более параллельных, но не взаимозаменяемых сетей передачи приводит к росту издержек и снижению надежности работы всей территориально-распределенной вычислительной системы. По данным компании Brocade, стоимость SAN-инфраструктуры обычно составляет 10—12% стоимости СХД и серверов дата-центра.

Ответом на требование времени стало решение объединить в единую инфраструктуру сети LAN и SAN без потери их преимуществ. В результате появился протокол Fibre Channel over Ethernet (FCoE), который сейчас также полностью стандартизирован: он был окончательно утвержден институтом ANSI в середине прошлого года.

При создании протокола FCoE разработчики не стали особо мудрить и воспользовались принципом инкапсуляции. В данном случае пакеты Fibre Channel без каких-либо изменений встраиваются в Ethernet-пакеты. Такой подход гарантирует прозрачность среды передачи для протокола верхнего уровня и обеспечивает интеграцию с уже имеющимися системами и инструментами управления SAN. Побочным эффектом является увеличение доли служебной информации в Ethernet-пакете, что приводит к снижению эффективной скорости передачи данных. Однако с этой избыточностью можно смириться на фоне многократного увеличения общей пропускной способности сетей Ethernet.

Гораздо более серьезной проблемой протокола FCoE стало отсутствие механизма гарантированной доставки обычного пакета Ethernet. В результате потребовалось создание нового стандарта, получившего название Converged Enhanced Ethernet (CEE). Впрочем, CEE — пока еще лишь кандидат в стандарты, его окончательное утверждение ожидается будущим летом.

В CEE реализованы механизмы доставки пакетов без потерь на основе распределения трафика по разным уровням приоритета и выделения для каждого потока гарантированной пропускной способности (принцип виртуального канала). В периоды перегрузки потоки с низким уровнем приоритета «притормаживают», пропуская вперед чувствительный к задержкам трафик (такой как трафик SAN). Другой важной характеристикой CEE является поддержка протокола обмена Data Center Bridging (DCB). Так как основной метод работы FCoE — это инкапсуляция, задачей стандарта CEE становится минимизация перегрузок в сети Ethernet. Гарантированную доставку пакетов SAN продолжает обеспечивать протокол Fibre Channel.

На практике внедрение стандартов FCoE и CEE даст возможность упростить сетевую инфраструктуру дата-центров и корпоративных сетей, в которых необходимо поддерживать распределенные системы хранения. Протоколы CEE и FCoE позволяют объединить потоки традиционного Ethernet и Fibre Channel на интерфейсах 10 GE, сократив число необходимых физических портов на коммутационном и серверном оборудовании.

Специалисты считают, что наибольшие преимущества от внедрения FCoE и CEE будут достигнуты в трех областях. В первую очередь, это консолидация виртуализированных серверных ресурсов. Помимо несомненных достоинств виртуализация породила и новые проблемы, одна из которых — более интенсивная загрузка физического сервера операциями ввода-вывода. Сейчас, по сведениям Brocade, на одном блейд-шасси в среднем запускаются порядка 256 виртуальных машин. В ближайшее время их среднее число достигнет 4096. Использование интерфейсов CEE 10 GE позволит резко сократить число каналов ввода-вывода.

Другой областью применения FCoE станет объединение на уровне аппаратной стойки серверного оборудования с сетями передачи и хранения данных. Такой вариант решения часто именуется Top-of-Rack. Коммутаторы с поддержкой FCoE смогут заменить раздельно используемые коммутаторы Ethernet и SAN, причем снизится энергопотребление и освободится пространство в аппаратной стойке.

Наконец, применение коммутаторов CEE с поддержкой FCoE позволит иначе строить магистральный уровень не только в центрах обработки данных, но и в рамках всей корпоративной сети. Новый подход End-of-Row дает возможность единообразно модернизировать сеть на участке от серверов до ядра сети.

Для создания инфраструктуры FcoE помимо коммутаторов, поддерживающих данный протокол, требуются конвергентные сетевые адаптеры (CNA) с поддержкой CEE и FCoE. Поэтому далее мы рассмотрим предложения не только ведущих поставщиков коммутационных решений, но и производителей сетевых адаптеров.

Инкапсуляция пакетов Fibre Channel в структуру стандартного фрейма Ethernet

Производители и их продукты

В качестве решения для конвергентных сетей ЦОДов компания Brocade предлагает коммутатор Brocade 8000 Switch, модуль Brocade FCOE10-24 Blade и сетевые адаптеры Brocade 1010/1020.

Коммутатор серии 8000 имеет 24 порта СЕЕ и восемь портов FC, но возможна поставка модели только с 24 портами СЕЕ. Для увеличения пропускной способности сети в коммутаторе предусмотрена возможность объединения нескольких портов в транковую линию со скоростью 64 Гбит/с. Порты FC являются универсальными и могут работать в полнодуплексном режиме на скорости до 8 Гбит/с. Для подключения портов СЕЕ используются медные или оптические кабели, в зависимости от применяемого варианта интерфейса. Коммутатор Brocade 8000 выполнен в корпусе высотой 1U и, в полном соответствии с нынешними традициями, характеризуется невысоким энергопотреблением.

Модуль FCOE10-24 Blade, разработанный для платформы DCX Backbone, позволяет непосредственно подключать серверное оборудование по протоколу FCoE к магистральному сегменту сети дата-центра. Это «лезвие» имеет 24 порта 10 GE стандарта СЕЕ. По основным техническим и функциональным возможностям модуль FCOE10-24 соответствует коммутатору 8000.

Комплект для построения конвергентной сети дата-центра дополнен двумя сетевыми адаптерами CNA, различающимися числом портов. Модель 1010 имеет один полнодуплексный порт СЕЕ, а 1020 поддерживает два таких порта.

От столь многообещающего направления развития сетевых технологий, разумеется, не осталась в стороне и корпорация Cisco. Она предлагает поддерживающие технологию FcoE коммутаторы Nexus 5010 и 5020, которые различаются числом портов, производительностью и, соответственно, габаритами.

Старшая модель 5020 имеет 40 фиксированных портов 10 GE с поддержкой протокола СЕЕ и 16 портов Fibre Channel, выполненных в виде сменных интерфейсных модулей. Первые 16 портов 10 GE поддерживают подключение и на скорости Gigabit Ethernet, что позволяет осуществлять плавную интеграцию нового оборудования в действующую инфраструктуру. Суммарная производительность Nexus 5020 составляет 1,04 Тбит/с.

Коммутатор Nexus 5010 выполнен в корпусе высотой 1U и имеет вдвое меньшее число портов — 20 фиксированных 10 GE с поддержкой протокола СЕЕ (из них первые восемь портов тоже имеют возможность подключения к Gigabit Ethernet) и восемь портов Fibre Channel, выполненных в виде сменных модулей. Пропускная способность коммутатора — 520 Гбит/с.

Для обеих моделей созданы четыре вида интерфейсных модулей, различающихся числом и типами портов. Кроме модулей с оптическими интерфейсами FC, работающих на скоростях 1, 4 или 8 Гбит/с, в коммутаторы можно установить комбинированные модули с интерфейсами 10 GE CEE и FC или только с интерфейсами 10 GE CEE.

Для конвергентных сетей, совмещающих функции передачи данных и сетей хранения, компания HP предлагает три коммутатора и адаптер CNA. Модель HP 2408 FCoE Converged Network имеет восемь портов Fibre Channel 8 Гбит/с и 24 порта Ethernet 10 Гбит/с. Порты 10 GE поддерживают передачу по стандарту CEE. Агрегированная по всем портам и видам трафика полоса пропускания достигает 608 Гбит/с. Для интерфейсов FC обеспечено автоматическое определение скорости работы портов коммутатора (1, 2, 4 и 8 Гбит/с). Модель НР 2408 оснащена встроенной системой управления и контроля FCoE и FC. Коммутатор выполнен в корпусе размером 1U и, конечно же, отличается низким энергопотреблением.

Также компания HP предлагает две разновидности более мощных коммутаторов, выпускаемых по лицензионному соглашению с Cisco. Это HP Nexus 5010 и 5020, которые мы рассматриваем как решения Cisco.

Для установки в серверное оборудование служит сетевой адаптер, поддерживающий передачу трафика Ethernet и FC по каждому порту. Он имеет два порта 10 Гбит/с СЕЕ, к которым могут подключаться медные или оптические кабели.

Среди производителей сетевых адаптеров для конвергентных сетей следует выделить компании QLogic и Emulex, продукцию которых часто используют на основе OEM-соглашений многие ведущие поставщики сетевого оборудования. Сейчас Emulex предлагает две модели CNA — LightPulse 21000 FCoE и OneConnect OCe10102-F FCoE. Обе оснащены интерфейсом 10 GE с поддержкой СЕЕ и FCoE и предназначены для установки в PCI-разъем сервера. Компания QLogic поставляет для конвергентных сетей одну модель QLogic QLE8042, которая имеет два интерфейса 10 GE.

Стоит отметить, что в сегменте сетевого оборудования с поддержкой технологии FCoE широко практикуются OEM-контракты между производителями. Все без исключения поставщики оборудования имеют в своих продуктовых линейках OEM-оборудование. Именно поэтому мы не стали отдельно рассматривать предложения компаний EMC и NetApp, чьи продукты FCoE являются полными клонами моделей других производителей. Впрочем, каждый из вендоров, использующих политику OEM, дополняет этими компонентами свои более комплексные решения. В частности, NetApp — пока единственная компания, сумевшая интегрировать CNA-адаптеры непосредственно в системы хранения. В результате она смогла предложить сквозное решение CNA для сервера, конвергентный коммутатор и адаптер для СХД, что позволяет отказаться от использования портов FC на коммутаторах.

Типовая схема конвергентной сети дата-центра

Рыночная ниша

Как всегда бывает, появление нового направления технологических решений проходит ряд этапов «созревания». Вначале отрабатываются и утверждаются протоколы, появляются первые решения, которые «обкатываются» в пилотных проектах. Спустя некоторое время технологии выходят на рынок, где пытаются занять свои ниши. Подобный сценарий развития ожидает и технологию FCoE. Сейчас, по мнению специалистов компании Brocade, она находится в фазе активного начального роста. Эта стадия обусловлена отсутствием утвержденного стандарта СЕЕ, описывающего обязательные требования к оборудованию для построения конвергентных сетей дата-центров.

Определенным сдерживающим фактором в продвижении систем FCoE является дальнейшее развитие технологии Fibre Channel. Сейчас идет массовое внедрение оборудования, позволяющего сетям хранения данных работать на скорости 8 Гбит/с. При этом стоимость решений нового поколения уже сопоставима с расценками на оборудование предыдущего поколения, обеспечивающего скорость 4 Гбит/с. Вскоре, как прогнозируют участники рынка, следует ожидать анонсов продуктов FC, поддерживающих скорость обмена данными 16 Гбит/с. В такой ситуации универсальную связку технологий FCoE и CEE ждут серьезные испытания.

Тем не менее все крупные производители инвестируют в развитие нового направления. Этому способствует ряд факторов, считает Виталий Артемьев, менеджер по продажам корпоративным клиентам российского представительства Brocade. Во-первых, конвергентные сети дата-центров интересны заказчикам, поскольку удобны в эксплуатации и сильно упрощают кабельную инфраструктуру. Во-вторых, с окончанием кризиса вновь активизируется строительство ЦОДов. Как показывают расчеты, внедрение FCoE в уже действующих дата-центрах зачастую экономически не оправданно, но при строительстве таких объектов «с нуля» эта технология очень привлекательна.

Такую позицию разделяет Дмитрий Литвинов, руководитель направления СХД компании Netwell, официального дистрибьютора NetApp в России. По его мнению, FCoE позволит снизить стоимость обслуживания всей инфраструктуры сетей хранения данных.

Ожидается, что серьезный спрос на оборудование конвергентных сетей возникнет уже в 2011—2012 годах. К тому времени технология FCoE достигнет определенной зрелости, и, естественно, поддерживающая ее продукция заметно подешевеет. Дополнительным важным стимулом станет появление на рынке серверов со встроенными CNA-адаптерами. Впрочем, гарантировать успех любой инновационной технологии следует с оглядкой: время покажет, какую рыночную нишу она сможет занять.