Геофизическая компания «Ларгео» была создана на базе вычислительного центра британской геофизической фирмы Large, специализирующейся на проведении и обработке данных сейсморазведки на море. После реструктуризации процессинговый центр Large стал независимой фирмой Large Data Processing, российским представительством которой и является «Ларгео». Обретение фактической независимости привело к существенному расширению круга задач компании. От поддержки морских проектов Large и финальной «шлифовки» данных сейсморазведки «Ларгео» перешла к предоставлению полного спектра услуг обработки и интерпретации геофизических данных, включая надзор за полевыми работами и контроль над качеством получаемых данных. Имея большой опыт взаимодействия с крупными представителями нефтегазовой отрасли, «Ларгео» ориентируется на обслуживание таких отечественных и международных предприятий, как «Роснефть», «Ритек», «Самара Нафто» и Лукойл.

При увеличении номенклатуры и объема работ на повестку дня неизбежно встал вопрос модернизации вычислительной платформы Центра обработки сейсмических данных (ЦОСД) «Ларгео». Хотя всего два года назад в московском вычислительном центре Large был установлен 24-процессорный сервер SunFire 6800, для «Ларгео» его мощностей оказалось недостаточно. Многопроцессорные SMP-серверы получили широкое распространение в геофизике, причем серверные платформы Sun пользуются популярностью. Однако сегодня в отрасли наблюдается новая тенденция — обращение к более экономичным, но почти не уступающим по производительности кластерным конфигурациям на базе процессоров Intel или AMD и под управлением ОС Linux. До недавнего времени для задач обработки данных сейсморазведки применялись преимущественно кластеры на базе 32-разрядных процессоров. Компания Arbyte, партнер «Ларгео», предложила собственное кластерное решение Zeeger Geo64 на базе 64-разрядных процессоров Itanium 2.

При сейсморазведке площадь порядка нескольких десятков квадратных километров покрывается системой датчиков и взрывных устройств. В результате произведенного на поверхности земли взрыва возникает сейсмическая волна, и датчики снимают данные о распространении возмущений внутри пластов. По этим данным создается геологическая модель, позволяющая определить потенциальные места расположения нефти и газа.

Задачи сейсморазведки делятся на два основных класса: двумерная (2D) и трехмерная (3D) съемка. В первом случае датчики располагаются по отдельным линиям (разрезам), и исследования проводятся в глубину и вдоль разреза. 3D-разведка предполагает распределение датчиков по поверхности исследуемой площади и позволяет получить трехмерную модель расположения ископаемых. Этот вариант обеспечивает более точную и полную информацию о месторождении, но требует больше вычислительных ресурсов, поскольку на порядок возрастает объем получаемых данных. Как правило, компании проводят разведку по двумерной технологии, по результатам которой выделяются зоны для более детального обследования с помощью 3D-съемки. Как правило, объем данных при 2D-съемке составляет 20-30 Гбайт, а при трехмерной разведке — до 1,5 Тбайт.

Дополнительную нагрузку, связанную с объемом и скоростью обработки данных, накладывают условия морской сейсморазведки. Производительность морских сейсмических работ намного выше, чем на суше, поэтому и объемы перерабатываемой информации здесь значительно больше (правда, данные морской сейсморазведки обрабатывать несколько проще). Обработка такой информации пока остается основной специализацией компании «Ларгео», которая предоставляет соответствующие услуги как 2D-, так и 3D-съемки.

Для получения наиболее точной информации о наличии месторождения данные сейсморазведки подвергаются процедуре так называемой «миграции». Картина распространения взрывной волны в среде, полученная по результатам регистрации датчиками колебаний, неизбежно оказывается искаженной из-за преломляющих и отражающих свойств этой среды. Миграция — попытка воспроизвести реальное распространение колебаний и построить максимально достоверную модель месторождения. Миграция является итерационным процессом, и количество проходов, которые удается выполнить, а соответственно, точность модели напрямую зависят от скорости обработки данных вычислительной системой. Проводя испытания кластера Arbyte Zeeger Geo64, в «Ларгео» получили 6-8-кратное ускорение вычислительного процесса в задачах миграции по сравнению с обеспечиваемым сервером SunFire 6800. В результате перехода на кластерную платформу обработка одной итерации, которая раньше занимала несколько суток, осуществляется за 30-40 мин. Это позволило геофизикам выполнять больше прогонов миграции и постепенно перейти от очень приблизительной картинки к «почти идеальной» модели месторождения.

Александр Яковлев: «Высокий уровень быстродействия кластерной системы на базе процессоров архитектуры IA-64 стал одним из решающих факторов в пользу выбора Arbyte Zeeger»

Архитектура SMP-серверов от Sun акцентирована на надежность вычислений, а для геофизиков приоритетна скорость обработки огромных массивов данных с помощью относительно недорогих решений. Гарантом высокой производительности, по убеждению специалистов «Ларгео» и Arbyte, сегодня становится 64-разрядная архитектура Intel. Вариант кластеров на платформе AMD Opteron, которые недавно начала продвигать компания Sun, также рассматривался в «Ларгео». Однако менеджеры последней не захотели рисковать, покупая системы, опыта эксплуатации которых у российских геофизиков на тот момент практически не было. Одновременно с поиском решения для модернизации аппаратной платформы «Ларгео» приобрела новое ПО фирмы Tricon Geophysics для поддержки процессов миграции — систему Tsunami, которая оптимизирована для кластерной конфигурации на основе 64-разрядных процессоров Intel (что также сыграло не последнюю роль в выборе платформы).

Помимо новой не только для компании, но и для всей отечественной геофизической отрасли системы Tsunami в «Ларгео» используются программные продукты известного разработчика геофизического ПО и конкурента «Ларгео» на рынке услуг обработки данных сейсморазведки Paradigm Geophysical. Система Focus этой компании, также предназначенная для решения задач миграции, изначально разрабатывалась для многопроцессорных SMP-архитектур. Однако специалисты «Ларгео» инсталлировали ее на кластере Zeeger Geo64 и получили впечатляющее ускорение обработки по сравнению со значениями, обеспечиваемыми сервером SunFire. По словам генерального менеджера «Ларгео» Александра Яковлева, опыт эксплуатации данного программного продукта на кластере является первым не только в России, но и в мире.

Кластер на базе стандартных компонентов сам по себе — более экономичное решение, чем многопроцессорные RISC-серверы. И хотя 64-разрядные процессоры Intel дороже 32-разрядных, приобретение кластера на базе Itanium дало «Ларгео» дополнительную выгоду не только в производительности, но и в цене. Дело в том, что стоимость лицензии на программные продукты для обработки данных сейсморазведки определяется количеством процессоров. Программная система для шестнадцати 64-разрядных процессоров дешевле системы для тридцати двух 32-разрядных. Эта разница в цене фактически сводит на нет возможную экономию от установки системы на базе более дешевых 32-разрядных процессоров.

Удачный тандем

Для такой компании, как «Ларгео», переход на принципиально новую аппаратную платформу — задача не просто сложная, но рискованная. Она чревата сбоями и остановками обработки данных, что совершенно недопустимо в этом бизнесе. Как объясняет Яковлев, сервисная геофизическая фирма — это посредническое звено в непрерывном конвейере, и она должна строго соблюдать сроки обработки данных и предоставления результатов. Нефтедобывающие предприятия не могут себе позволить простои буровой вышки стоимостью несколько десятков миллионов долларов из-за нерасторопности геофизиков. Размеры штрафных санкций для некоторых видов работ могут достигать 50% от суммы контракта.

Максим Неклюдов: «В результате развертывания конфигурации, состоящей из SGI Altix и Zeeger Geo64, мы получили настоящую электронную фабрику»

Снизить риск в проекте модернизации ЦОСД «Ларгео» позволило решение от Arbyte, в котором, как отмечает вице-президент компании Максим Неклюдов, были сведены к минимуму технические риски клиента. В конце 2004 года 16-процессорный кластер был предоставлен «Ларгео» для полномасштабного тестирования на основе производственных задач, а затем и для промышленной эксплуатации. Однако очень скоро стало ясно, что ресурсов одного кластера недостаточно для полной замены существующей аппаратной платформы. Кластерная архитектура хотя и подходит для любых типов приложений, но оптимальна для систем с хорошим распараллеливанием, каковой является и Tsunami. Однако продукты компаний Paradigm, Focus и GeoDepth этим свойством не отличаются. Для их поддержки специалисты Arbyte предложили 8-процессорный сервер SGI Altix 350 с архитектурой неоднородного доступа к памяти NUMA на базе Intel Itanium 2. Система Altix выбрана Paradigm Geophysical стандартной платформой для ее программных продуктов и рекомендована как база для оснащения геофизических центров.

Интеграция кластера Zeeger Geo64 и сервера Altix с помощью канала Gigabit Ethernet позволила оптимизировать рабочую нагрузку, распределив ее между разными задачами и реализовав обработку данных сейсморазведки одновременно для нескольких проектов (обычно компания ведет параллельно три-шесть заказов). Например, под требовательный к ресурсам процесс миграции могут быть отданы обе машины или же только отдельные процессоры кластера, в то время как на сервере Altix будут решаться задачи обработки данных других типов. Так, два проекта для «Роснефти» (обработка данных 2D-разведки на черноморском побережье и данных 3D-разведки на участке 400 кв. км в Алжире) реализовывались одновременно с использованием разных машин, кластера и сервера Altix.

Утром стулья — вечером деньги

Для «Ларгео» важно было получить комплексное решение, рассчитанное не только на текущие потребности в вычислительных мощностях, но и на перспективу. Компания быстро развивается, прогнозирует постоянное увеличение объема заказов и при этом находится в жесткой конкурентной среде, обусловленной ростом потребностей нефтегазовой отрасли в данных геологоразведки. Для того чтобы сохранять конкурентоспособность, «Ларгео» вынуждена постоянно модернизировать аппаратно-программную платформу с учетом развития технологий. Это понятно уже из того, что фирма предприняла коренное обновление ЦОСД спустя менее двух лет после приобретения сервера StarFire.

Однако проводить модернизацию со стопроцентной предоплатой приобретаемой техники — крайне сложный вариант для «Ларгео». Финансовое благополучие компании напрямую зависит от количества успешно реализованных проектов, а объем заказов, в свою очередь, зависит от возможностей вычислительной платформы. Выйти из этого замкнутого круга позволила нестандартная финансовая схема сделки, связанной с модернизацией ЦОСД, которую предложила компания Arbyte в сотрудничестве с немецкой лизинговой фирмой ЦХГ «Меридиан Лизинг», которая специализируется на лизинге компьютерной техники и лишь недавно начала работать в России, открыв здесь свое представительство. По условиям договора с ЦХГ «Меридиан Лизинг», «Ларгео» не покупает, а арендует аппаратные средства вычислительного комплекса для ЦОСД и может по той же схеме обновлять оборудование в течение двух лет.

Задел на будущее

По словам Яковлева, в стране наблюдается рост интереса к геологоразведочным работам. Данные о месторождениях нефти и газа, полученные методом сейсморазведки еще в советское время, практически исчерпаны, а в последнее двадцатилетие объем геофизических исследований значительно сократился. Постоянный вывод из эксплуатации известных резервов «черного золота» при растущей цене на нефть стимулирует активность в области сейсморазведки. Своего часа ждут новые морские регионы: Черное море, район Сахалина, Баренцево море.

Одновременно в мире развиваются технологии сейсморазведки. На подходе — такие новые методы, как непрерывный мониторинг месторождений, или 4D-разведка. Она позволяет отслеживать, как в процессе разработки месторождения изменяются свойства резервуара, и на основе этих данных контролировать правильность добычи нефти или газа, прогнозировать возможности месторождения. Эта технология применяется, например, на большинстве месторождений, разрабатываемых западными фирмами в Северном море, и к ней уже присматриваются передовые российские нефтяники.

С точки зрения ИТ увеличение числа проектов и внедрение новых технологий разведки означает для «Ларгео» серьезный рост объема данных, требующих обработки. А значит, необходимо увеличивать вычислительные мощности. На старой аппаратной платформе обрабатывать все заказы компании, объем которых увеличился за последний год более чем в два раза, было бы невозможно, но даже с новым вычислительным комплексом ЦОСД «Ларгео» балансирует на верхнем уровне производительности. Однако кластер Arbyte и сервер SGI — это модульные, хорошо масштабируемые решения, увеличение числа процессоров и емкости памяти которых занимают не больше часа. А финансовую возможность такого обновления обеспечит уже упомянутая схема лизинга оборудования.

Очередной коренной модернизации вычислительной платформы в обозримом будущем компания намерена избежать — она нацелена лишь на решение насущной задачи увеличения размеров внешнего дискового пространства. «Ларгео» за короткий срок удалось выйти на качественно иной уровень мощности и внедрить новую для российского рынка финансовую схему приобретения подобных систем. Благодаря переоснащению ЦОСД фирма сможет принимать больше заказов предприятий нефтегазовой отрасли, выполнять их с более высоким качеством и расширять спектр предоставляемых услуг.


Центр обработки данных «Ларгео»

В вычислительный комплекс входят следующие компоненты:

  • восьмипроцессорный сервер SGI Altix 350 с архитектурой NUMA, возможностью наращивания до 32 процессоров, с общей памятью объемом 384 Гбайт, под управлением ОС Linux;
  • вычислительный кластер Arbyte Zeeger Geo64 под управлением ОС Linux, оптимизированный для выполнения ПО сейсморазведки. Кластер состоит из управляющего четырехпроцессорного сервера Arbyte TI-64 и шести двухпроцессорных серверов Arbyte Alkazar TI-2, объединенных гигабитным коммутатором. Суммарный объем оперативной памяти составляет 56 Гбайт. Возможности кластера могут быть расширены до 30 вычислительных узлов. Кластер интегрирован с сервером SGI Altix 350 для параллельного решения задач, требующих обработки данных разного типа, и поддержки нескольких проектов обработки сейсмических данных;
  • профессиональные графические станции Arbyte, оснащенные сдвоенными широкоформатными профессиональными мониторами NEC MultiSync LCD 1970NXp и специализированными графическими адаптерами для реалистичного отображения, анализа и интерпретации сейсмических данных;
  • устройства вывода на печать цветных изображений высокого разрешения;
  • высокоскоростной дисковый массив на основе технологии Fiber Channel с общей емкостью хранения до 6 Тбайт;
  • сетевые решения и системы стабилизации электропитания.

На данный момент вычислительная часть комплекса включает в себя 24 процессора Intel Itanium 2. Для обработки данных используются программные продукты Focus и GeoDepth компании Paradigm Geophysical и Tsunami от Tricon Geophysics. Оперативную техническую поддержку бесперебойной работы Центра обеспечивает фирма Arbyte.

Поделитесь материалом с коллегами и друзьями