Модернизация информационной инфраструктуры осложняется тем, что часто подобные проекты требуется реализовать без остановки рабочего процесса и с минимальным влиянием на деятельность предприятия.

В данной рубрике мы стараемся рассказывать об интересных примерах внедрения сетевых и информационных технологий на российских предприятиях, в представительствах зарубежных компаний, при этом наибольшее внимание, в соответствии с тематикой журнала, уделяется сетевой части корпоративных решений. Не стал исключением и этот материал.

Завод «ГАЗ» известен прежде всего как производитель автомобилей марок «Волга», «ГАЗель» и «Соболь» и ряда моделей грузовых машин. ОАО «ГАЗ» — градообразующее предприятие. Его продукция составляет немалую долю в промышленном производстве Нижнего Новгорода. В ближайшие годы планируется продолжить выпуск текущих моделей, сделав основной акцент на повышении качества продукции, а также провести частичное обновление модельного ряда.

Несмотря на ряд проблем, а отчасти и по их причине, изменение претерпевает не только производство, но и дистрибуция. Новое руководство «ГАЗа» намерено тщательно контролировать продукцию, бюджетное планирование и сбыт. Еще в 2000 г. предприятие ввело принципиально новую систему дистрибуции автомобилей, организовав десятки региональных складов и образовав дочернюю компанию по сбыту — торговый дом «РусавтоГАЗ». Для обеспечения эффективной работы нового предприятия на его административных площадях понадобилось создать информационную инфраструктуру для обслуживания потребностей создаваемой компании. Заказчиком выступило ОАО «ГАЗ».

В результате проведенного тендера реализацию проекта взяла на себя нижегородская компания «Сонет НН», одно из подразделений группы «АПРЕЛЬ», предлагающая решения на базе оборудований Alcatel, HP, 3COM, APC, Allied Telesyn, Zyxel и др. «Сонет НН» ранее уже принимала участие в создании локальных сетей на отдельных объектах «ГАЗа», а группа «АПРЕЛЬ» была генеральным поставщиком средств автоматизации для «РусавтоГАЗ».

ОТ ХАОСА К ПОРЯДКУ

На момент начала проекта компания «РусавтоГаз» размещалась в трех зданиях высотой в два и три этажа, где уже имелась сеть Ethernet (10BaseT) с оборудованием разных производителей. Для соединения сегментов этой сети применялся коаксиальный кабель, а в магистральных каналах — коаксиальный и волоконно-оптический кабель (10BaseFL). Старая система отличалась отсутствием четкой иерархии в оборудовании локальной сети; ее наращивание происходило хаотично и непродуманно, применялось оборудование разных производителей и разных типов, а многие сетевые кабели (от Категории 3 до 5e) в помещениях были проложены просто по полу. При этом документация по сети передачи данных и по СКС в зданиях вообще отсутствовала.

Компании «Сонет НН» предстояло создать структурированную кабельную систему (СКС) и систему передачи данных (СПД) предприятия в трех зданиях «РусавтоГАЗ» и затем связать их магистральными каналами. Новая инфраструктура предназначалась для обслуживания более 400 рабочих мест.

Существующая сеть была не только не упорядочена и не документирована, но уже и не отвечала требованиям постоянно растущего бизнеса, а дальнейшее расширение оказывалось проблематичным. Показательно, что именно по причине корректировки задач со стороны заказчика подготовленное к началу работ техническое задание уже через месяц потребовало существенных исправлений и утратило свою актуальность. Таким образом, проект обладал характерными для подобных объектов особенностями, когда на этапе развития предприятия требования к характеристикам системы постоянно меняются в сторону увеличения. Однако, несмотря на изменения, стратегические направления проекта оставались прежними. Выбранная классическая схема построения СКС на основе коммуникационных центров этажа и здания позволила сохранить неизменной основную структурную схему кабельной сети на всем этапе работ.

Чтобы избежать возникновения «узких мест» при обмене данными между тремя зданиями, удаленными друг от друга на расстояние около 1 км, их было решено связать гигабитными одномодовыми волоконно-оптическими каналами с запасом волокон, что позволило бы впоследствии без дополнительных затрат увеличить пропускную способность. По той же причине оптику выбрали для большинства межэтажных магистральных соединений.

Учитывая растущие требования заказчика к сетевой инфраструктуре и стратегические планы развития, в наиболее критичных сегментах сети, в двух из трех занимаемых «РусавтоГАЗ» зданиях (2 и 3), приняли решение инсталлировать СКС Категории 6. Кабельные системы имеют более продолжительный срок службы, чем другие компоненты сети (10—15 лет и более). Выбор Категории 6, одобренной этим летом международными организациями в качестве стандарта и поддерживающей приложения вплоть до 1000BaseT (Gigabit Ethernet), давал определенный «задел на будущее» и гарантировал, что сеть через какое-то время не потребуется вновь перестраивать (а это значительные расходы). Внедрение на объектах заказчика СКС Категории 6 позволило компании «Сонет НН» обеспечить соответствие системы требованиям развертываемых в сети приложений и протоколов в течение всего гарантийного срока службы.

Для здания 1 был выбран более экономичный вариант — СКС Категории 5e. В настоящее время компоненты СКС Категории 6 в среднем на 15—20% дороже соответствующего оборудования Категории 5e, хотя на момент начала проекта разница доходила до полутора раз.

При создании СКС компания «Сонет НН» использовала компоненты известных производителей: коммутационные панели, соединительные и коммутационные шнуры, модули информационных розеток от Siemon, кабель горизонтальной подсистемы Alcatel/Nexans, кабельные каналы и другие электроустановочные изделия производства Legrand. На систему в целом предоставлена 15-летняя гарантия от инсталлятора.

В качестве магистрального кабеля между зданиями 2 и 3 проложили отечественный оптический бронированный кабель производства «Москабель-Фуджикура», а межэтажные волоконно-оптические соединения выполнены на многомодовом кабеле 4х62,5/125 от компании «АйТи». Для организации магистрального соединения между зданиями 1 и 2 использовался резерв линий в проложенном ранее магистральном кабеле с многомодовыми и одномодовыми волокнами.

ВЫБОР АКТИВНОГО ОБОРУДОВАНИЯ

Особое внимание уделялось выбору активного оборудования для сети передачи данных. На предприятиях «ГАЗ» применяется в основном техника Cisco, а часть парка концентраторов и коммутаторов составляет продукция 3Com, так что выбор пал, прежде всего, на оборудование этих производителей, тем более что они предлагают достаточно полный спектр решений для сетей Fast/Gigabit Ethernet.

Проанализировав технические и стоимостные характеристики коммутаторов 3Com и Cisco, специалисты «Сонет НН» выбрали в качестве активного сетевого оборудования (этажных и магистральных коммутаторов) устройства 3Com. Исполнитель обосновал свое предпочтение такими факторами, как более низкая цена коммутаторов 3Com при близких к оборудованию Cisco технических характеристиках, наличие опыта работы специалистов заказчика с оборудованием данного производителя, простота освоения устройств и работы с ними, доверие к оборудованию 3Com со стороны заказчика по опыту его эксплуатации.

По результатам тестирования, проведенного по заказу 3Com компанией Tolly Group, коммутатор 3Com SuperStack 3 Switch 4300 с 48 портами Fast Ethernet и четырьмя портами Gigabit Ethernet имеет почти в два с половиной раза более низкую стоимость на миллионы пакетов в секунду (304 против 877 долларов) при более высокой производительности по сравнению с коммутатором Cisco Catalyst 3548 XL. Именно коммутаторы 4300 составили основной «парк активного оборудования» новой сети «РусавтоГАЗ». Девять этажных коммутаторов 4300 дополнили четыре коммутатора 3Com SuperStack 3 Switch 3300XM, а также три 12- и 24-портовых коммутатора 3Com SuperStack II Switch 3300 (см. Рисунок 1).

В связи со значительным количеством рабочих мест, в зданиях 2 и 3 функции основных этажных коммутаторов выполняют устройства 4300, поскольку они обладают большей плотностью портов и производительностью, чем коммутаторы серии 3300. Кроме того, у модели 4300 богаче выбор модулей расширения, что увеличивает масштабируемость этажных коммуникационных центров.

С помощью дополнительно устанавливаемых гигабитных модулей коммутаторы 3300 и 4300 соединены в двух зданиях с магистральными коммутаторами 3Com SuperStack 3 Switch 4900, а в третьем здании — с коммутатором Switch 4005. В здании 1 для повышения мощности коммутации в двух сегментах сетей организованы стеки из двух коммутаторов 3300XM, соединенные агрегированным каналом 200 Мбит/с с коммутаторами 4300/4900. Коммутаторы 3300 и 4300 поддерживают агрегирование каналов по протоколу Link Aggregation Control Protocol (LACP), что позволило повысить пропускную способность восходящего соединения стека.

В качестве магистральных коммутаторов было решено использовать устройства 3Com SuperStack 3 Switch 4900, 4900SX и Switch 4005. Высокопроизводительные коммутаторы 4900 характеризуются достаточно широким набором возможностей и хорошо подходят для сетей среднего масштаба с растущими требованиями к пропускной способности. Специфика объекта потребовала применения магистральных коммутаторов 4900 одновременно и с медными, и с оптическими портами. Так, установленный в здании 2 коммутатор 4900SX, обеспечивающий взаимодействие сетей двух зданий с центром обработки данных, оснащен 12 оптическими портами 1000BaseSX и четырьмя портами 1000BaseLX. Он связан волоконно-оптическими линиями на 2 Гбит/с с коммутатором 4900 в здании 1. Высокоскоростной магистральный канал 4 Гбит/с соединяет его с ядром корпоративной сети — расположенным в здании 3 коммутатором 4005. Этажные коммутаторы 4300 подключены к магистральным коммутаторам зданий 2 и 3 по резервированным оптическим каналам с интерфейсами 1000BaseSX. В здании 1 этажные и магистральные коммутаторы соединены медными кабелями через интерфейсы 1000BaseT.

Коммутаторы 4900 имеют ряд расширенных функций коммутации второго уровня. Такие возможности могут потребоваться компании «РусавтоГАЗ» уже в ближайшем будущем при увеличении масштабов сети и применении новых приложений. Как и в других современных коммутаторах, для повышения отказоустойчивости и резервирования в устройствах серии 4900 предусмотрены такие встроенные средства, как поддержка протокола Rapid Spanning Tree, технологии отказоустойчивых соединений и объединения каналов. Для бесперебойного функционирования оборудования при отказе встроенного блока питания в зданиях 1 и 2 коммутаторы подключены к системе питания SuperStack 3 Advanced Redundant Power System (ARPS).

В сети здания 3 размещается центр обработки данных — серверы предприятия и кластер из двух серверов Dell PowerEdge 4400 с ОС Windows 2000 Advanced Server, соединенных шиной Fibre Channel и связанных с системой хранения данных (RAID). На машинах установлена СУБД SQL Server и «1С Предприятие». Узлы кластера оснащены сетевыми адаптерами 3Com 3C985B-SX Gigabit EtherLink Server NIC с интерфейсами 1000BaseSX. Кластер подключен непосредственно к магистральному коммутатору. Серверы предприятия Compaq ProLiant ML350 под управлением ОС Windows 2000 Server выполняют функции службы имен (WINS), контроллеров домена, DHCP, DNS. Часть из них работает под управлением UNIX; поддерживается СУБД Oracle.

Наличие в инфраструктуре здания центра обработки данных, серверов БД и систем, где выполняются ответственные приложения, требовало повышенной производительности и надежности сети. В качестве магистрального коммутатора здесь установлен 3Com Switch 4005 — высокопроизводительный коммутатор третьего уровня с поддержкой широкого набора функций. По словам специалистов «Сонет НН», этот коммутатор обладает большой гибкостью, а к зданию подходят линии от удаленных объектов предприятия с различными интерфейсами. К коммутаторам 4005 на базе модульного шасси можно подключать до 14 модулей. Модульная архитектура позволяет выбрать нужное соотношение портов по оптике и меди (10/100/1000 Мбит), а для наращивания сети достаточно приобрести необходимый модуль расширения.

Полная пропускная способность 3Com Switch 4005 составляет 24 Гбит/с (18 млн пакетов в секунду). В выбранной конфигурации коммутатор имеет два модуля управления, находящихся в «горячем» резерве, шасси с резервированными источниками питания, шесть однопортовых модулей интерфейса 1000BaseSX и два модуля 1000BaseТ, два модуля GBIC (LX) и один 8-портовый модуль с интерфейсами 10/100 BaseТX. Восемь портов Fast Ethernet, интегрированных на одном модуле, связывают устройство с удаленными подразделениями предприятия.

Коммутатор 4005 поддерживает классификацию и приоритезацию трафика, виртуальные локальные сети (VLAN), а также фильтрацию многоадресных сообщений. Функция приоритезации трафика уже используется в сети «РусавтоГАЗ», а в будущем могут потребоваться и другие развитые функции коммутатора, в частности для поддержки планируемой системы видеоконференций. Кроме того, специалисты «Сонет НН» предложили заказчику установить систему IP-телефонии 3Com NBX100, инфраструктура для которой фактически уже создана. Это повысило бы эффективность работы предприятия, поскольку функциональные возможности систем отвечают требованиям его бизнес-процессов. Поддерживаемые коммутатором четыре группы протокола RMON упрощают управление сетью.

В двух зданиях, где была инсталлирована СКС Категории 6, в качестве межэтажных магистральных каналов использовались волоконно-оптические линии Ethernet 1000BaseSX, а в третьем здании — межэтажные соединения Ethernet 1000BaseT. Выбор гигабитных межэтажных соединений должен позволить в будущем увеличить количество рабочих мест на этажах зданий и внедрить новые приложения. Горизонтальная подсистема сети передачи данных всех трех зданий выполнена на базе Ethernet 10/100BaseTX. Основная магистраль сети состоит из гигабитных каналов Ethernet 1000BaseLX с пропускной способностью 2 Гбит/с. Благодаря агрегированию каналов, пропускная способность магистрального соединения между зданиями 2 и 3 составила 4 Гбит/с, что помогло устранить «узкие места» и обеспечить высокую скорость взаимодействия рабочих группах пользователей с серверами предприятия и базами данных. Такая пропускная способность обеспечивает хороший задел на будущее. Кроме того, наличие резерва оптических волокон в каждой магистральной линии и возможность объединять в агрегированный канал до четырех портов коммутатора позволит увеличивать пропускную способность по мере необходимости.

ПРОБЛЕМЫ ПЕРЕСТРОЙКИ
Рисунок 2. Этажный коммутационный центр.

Одна из особенностей данного проекта — необходимость проведения всех работ по созданию новой информационной инфраструктуры и перехода на нее с минимальным влиянием на рабочие процессы предприятия. Основные работы производились в вечернее время и в выходные дни. Новая СКС создавалась параллельно существующей сети: на рабочих местах устанавливались информационные розетки, прокладывались короба, монтировались коммуникационные центры (см. Рисунки 2 и 3). В них устанавливались активное оборудование и системы бесперебойного питания.

Рисунок 3. Коммутационный центр здания 2.

После монтажа СКС специалисты протестировали сегменты системы и провели настройку активного сетевого оборудования и развертывание системы мониторинга сети. Затем настал самый ответственный момент — переход на новую инфраструктуру. Если ранее деятельность инсталляторов не затрагивала работу сотрудников предприятия, то теперь нужно было переключать рабочие места на новую сеть.

Хотя в конечном счете старую сеть пришлось демонтировать полностью, однако какое-то время она функционировала параллельно с новой, и это осложняло задачу. Для их взаимодействия на магистральном коммутаторе осуществлялась коммутация третьего уровня. Поскольку адресация сетей не совпадала, на период перехода к новой были задействованы функции коммутации третьего уровня и настроена маршрутизация между старой и новой сетью. В новой сети была создана административная подсеть для управления коммутаторами.

После этого компьютеры на рабочих местах последовательно подключались к вновь установленным розеткам и оборудованию. Изменение сетевых настроек и запуск рабочих сетевых приложений позволяло сотруднику продолжать работу, но уже в новой сети. Серверы предприятия были переведены в последнюю очередь, в выходной день. В завершении процесса функции маршрутизации коммутатора были отключены, так как пока в ней нет необходимости: сеть «РусавтоГАЗ» имеет в настоящее время «плоскую» топологию.

В процессе перехода производился непрерывный мониторинг сети с помощью ПО 3Com Network Supervisor. Особое внимание уделялось таким параметрам, как загрузка каналов связи и уровень ошибок в канале.

УПРАВЛЕНИЕ СЕТЬЮ

Компания «Сонет НН» внедрила систему мониторинга сети 3Com Network Supervisor v3.5, что позволило круглосуточно отслеживать состояние сети и основных ее систем, включая серверы предприятия, удаленные рабочие площадки и ответственные рабочие места, для чего к коммутатору 3Com Switch 4005 подключили ПК с ПО 3Com Network Supervisor. Обладая достаточно высокой функциональностью, эта система бесплатно поставляется с оборудованием 3Com. Уведомления о событиях SMTP можно направлять администратору через почтового клиента, в виде электронного письма, SMS или сообщения на пейджер. Кроме того, Network Supervisor интегрируется с системой управления HP OpenView, перенаправляя в нее прерывания SNMP и предупредительные сообщения. Это позволяет встраивать сети подразделений и удаленных филиалов в централизованную схему управления.

3Com Network Supervisor отображает карту подсетей, входящих в состав корпоративной сети. Это упрощает поиск неисправностей и позволяет, например, проследить пути между подсетями, просмотреть сети с разными диапазонами IP-адресов сетевого оборудования и оконечных устройств, визуально показать проблемный сегмент сети или неработающее устройство. Дважды щелкнув мышью на символе коммутатора, можно перейти в режим управления им через telnet/ Web. Функции инвентаризации оборудования позволяют собрать статистику по количеству незадействованных портов, по устройствам с заданным типом или серийным номером и т. д. Это существенно облегчает учет, планирование и управление информационной системой «РусавтоГАЗ».

Для применения политики безопасности в сети компании используются списки доступа по IP-адресам. Политика реализуется на аппаратном уровне, не снижая скорости коммутации и пропускной способности.

ЗАКЛЮЧЕНИЕ

Задача создания современной информационной инфраструктуры для подразделения крупного производственного предприятия сопряжена с проблемами выбора пассивного и активного сетевого оборудования, а решать ее приходится в сложных условиях обеспечения непрерывности рабочего процесса.

При выборе типа СКС в данном проекте принимались во внимание и возможность использования Gigabit Ethernet до рабочего места. Отдельные сетевые ресурсы уже сейчас можно подключать к сети этажа по интерфейсам 1000BaseТ благодаря наличию в коммутаторах 4300 свободных слотов для модулей Gigabit Ethernet.

Разработчики считают также, что в сети «РусавтоГАЗ» можно с выгодой применять технологию 3Com eXpandable Resilient Networking (XRN), выход которой намечен на осень этого года. Благодаря ей соединенные друг с другом специальными каналами XRN коммутаторы 3Com будут функционировать как единая наращиваемая коммутирующая и маршрутизирующая распределенная инфраструктура.

Решение «РусавтоГАЗ» развернуть на предприятии СКС Категории 6 говорит о понимании теми, кто отвечает в компании за принятие решений, принципов, заложенных в понятие СКС. Кабельные системы Категории 6 позволяют наиболее эффективно использовать капиталовложения в создание сетевой инфраструктуры и получить систему со сроком службы, превышающим 15 лет.

Коммутация представляет собой экономичную и гибкую технологию, обеспечивая увеличение пропускной способности и повышение управляемости сети. Ее внедрение сопряжено с минимальными перестройками в сети. Производители предлагают достаточно широкий спектр решений для коммутируемых сетей заказчикам с самыми разными потребностями с применением технологий Ethernet 10/100/1000 Мбит/с. Это дает возможность создать гибкую, масштабируемую инфраструктуру и решить проблему расширения пропускной способности сети. Быстрое развитие элементной базы коммутаторов, увеличение их функциональности и снижение цен постепенно приводят к вытеснению с рынка таких активных устройств, как концентраторы, доля которых в новых проектах постоянно падает.

Развернутая компанией «Сонет НН» система работает уже более полугода. Вероятно, проект получит дальнейшее развитие. Недавно был проведен тендер на создание СКС и локальной сети еще в одном здании и подключение ее к магистрали предприятия по уже проложенной волоконно-оптической линии между новым зданием и зданием 3. Результаты тендера будут известны в ближайшее время. Кроме того, в планах — внедрение второй очереди системы, в рамках которой предусматривается оснащение информационной инфраструктурой и подключение к корпоративной сети «РусавтоГАЗ» двух зданий, удаленных на расстоянии более 5 км от здания 3.

Сергей Орлов — обозреватель «Журнала сетевых решений/LAN». С ним можно связаться по адресу: sorlov@lanmag.ru.


ООО «РУСАВТОГАЗ»

Общество с ограниченной ответственностью «РусавтоГАЗ»

603004, г. Нижний Новгород, пр. Ленина, 88.

тел.: (8312) 56-78-95,

факс: (8312) 96-26-65, 92-36-44.

http://www.gaz.ru/gaz/dil/dom/index.htm.

Исполнитель: «Сонет НН»

603022, г. Нижний Новгород, Окский съезд, 2.

тел.: (8312) 78-06-68,

факс: (8312) 78-06-67.

http://www.aprilnn.ru.

Факты. ООО «РусавтоГАЗ» создано в 2000 г. со 100-процентным участием в капитале ОАО «ГАЗ». Ему предоставлены исключительные права реализации (в том числе на экспорт) продукции завода «ГАЗ». Для сокращения сроков поставки автомобилей и снижения затрат торговый дом «РусавтоГАЗ» заключает прямые договоры поставок с корпоративными клиентами в России, в том числе по схеме лизинга. «РусавтоГАЗ» формирует по всей стране дилерскую сеть, ориентированную, прежде всего, на продажи в регионах. Перед предприятием стояла задача модернизации информационной инфраструктуры и приведение ее в соответствие с новыми требованиями повышения эффективности работы.

Задачи. Создание информационной инфраструктуры для торгового дома «РусавтоГАЗ», включая структурированную кабельную систему (СКС) и систему передачи данных предприятия, охватывающую три здания и связывающую в общей сложности более 400 портов. Инфраструктура ИТ предприятия должна была стать масштабируемой и обеспечивать возможность адаптации к изменяющимся требованиям к характеристикам системы, включая повышение быстродействия сети. Рабочие места необходимо было подключить по коммутируемым соединениям Ethernet 10/100 Мбит/с и обеспечить пропускную способность магистральных каналов не менее 1000 Мбит/с. При этом магистральное соединение зданий 2 и 3 должно было допускать агрегирование как минимум двух каналов. К коммутаторам предъявлялись требования коммутации со скоростью поступления данных, поддержки классификации и приоритезации трафика. При инсталляции сети нужно было свести к минимуму простои существующей сети и влияние выполняемых работ на функционирование предприятия.

Решение. В процессе проектирования компанией «Сонет НН» разработана структура СКС, основу которой составляют коммуникационные центры этажа и здания с магистральными оптическими или медными линиями связи между ними, создана магистраль предприятия, а в ее узлы (коммуникационные центры зданий) установлены магистральные коммутаторы 3Com SuperStack 3 Switch 4900, 4900SX и Switch 4005. Рабочие места с помощью коммутируемой сети Fast Ethernet подключены к этажным коммутаторам 3Com SuperStack 3 Switch 4300 и 3300, соединенным с магистральными. В результате получена упорядоченная, иерархическая структура СКС и СПД, управляемая, документированная и допускающая расширение. Общее количество портов активного оборудования превысило 500. Для мониторинга сети используется ПО 3Com Network Supervisor v3.5. Система сдана в промышленную эксплуатацию и работает уже более полугода.

Вывод. Те, кому сегодня необходимо установить коммутаторы Fast/Gigabit Ethernet, могут получить неблокирующую пропускную способность по всем портам и выбрать решение, подходящее по соотношению цены, производительности и функциональных характеристик. Расширение спектра предложений ведущими производителями коммутаторов дает возможность создавать достаточно экономичные системы передачи данных для корпоративных сетей, включающих несколько сотен рабочих мест. Выбор оборудования 3Com для данного проекта позволил создать экономичную, хорошо управляемую и масштабируемую сеть с большим количеством портов активного оборудования, причем новая система была развернута параллельно старой инфраструктуре, без перерывов в работе предприятия.

Поделитесь материалом с коллегами и друзьями