В вычислительном центре ТГУ начал работать суперкомпьютер «СКИФ Cyberia»
Всеволод Опанасенко заявил, что его компания гарантирует бесперебойную работу «СКИФ Cyberia» в течение пяти лет

Представленный в конце февраля суперкомпьютер Томского государственного университета «СКИФ Cyberia» вошел в первую сотню международного рейтинга Тор 500 самых производительных вычислительных центров; он также является одним из 15 самых современных и производительных вычислительных центров, функционирующих в ученых заведениях всего мира. И — самым мощным на данный момент суперкомпьютером на территории России, стран СНГ и Восточной Европы.

Несколько ключевых цифр, характеризующих новый СКИФ: пиковая производительность достигает 12 TFLOPS; реальная производительность, по данным теста Linpack, составила 7,8 TFLOPS (65% пиковой); скорость передачи данных между узлами достигает 950 Мбайт/с с задержкой не более 2,5 мкс; суммарная пропускная способность параллельной файловой системы составляет 700 Мбайт/с; кластер потребляет 90 кВт электроэнергии, а вся установка в целом — 115 кВт.

Суперкомпьютер был создан в рамках национального проекта «Образование». Его стоимость составила 51 млн. рублей, что, по словам Всеволода Опанасенко, генерального директора компании «Т-Платформы», победившей в тендере на создание «СКИФ Cyberia», заметно меньше стоимости аналогичного решения от иностранной компании. «Т-Платформы» ранее уже создавала высокопроизводительные системы в рамках суперкомпьютерной программы СКИФ союзного государства.

Как и подавляющее большинство всех суперкомпьютеров в мире, «СКИФ Cyberia» представляет собой кластер. Он включает 282 вычислительных и один управляющий модуль формфактора 1U, объединенные в восемь шкафов. Все модули содержат по два двухъядерных процессора Intel Xeon 5150/2,66 ГГц, всего 1132 вычислительных ядра. Опанасенко подчеркнул, что использовались не типовые модули, а изготовленные Intel на основе спецификаций инженеров компании «Т-Платформы». В частности, на системных платах модулей серверные наборы микросхем системной логики были заменены на чипсет Intel 5000x, который используется в графических рабочих станциях и обеспечивает более высокую скорость передачи данных между процессором, памятью и другими компонентами. Общий объем оперативной памяти кластера — 1136 Гбайт, внутреннего дискового пространства — 22,56 Тбайт; еще 10 Тбайт имеет внешняя система хранения данных. Архитектура кластера использует системную сеть на основе коммутатора InfiniPath на 288 портов производства компании QLogic.

Питание сервера обеспечивает модульная система бесперебойного электропитания компании APC. Ее максимальная мощность достигает 120 кВт, что позволяет в случае аварии на городских электросетях поддерживать работу суперкомпьютера «СКИФ Cyberia» еще как минимум на протяжении 10 минут. За это время персонал должен успеть корректно завершить все запущенные задачи и сохранить пользовательские данные. В системе бесперебойного питания предусмотрено резервирование модулей с горячей заменой по формуле N+1. Компания APC так же стала поставщиком системы охлаждения кластера. Это комбинированное воздушно-жидкостное решение. Модуль фреонового охлаждения через теплообменник охлаждает воду, которая поступает в теплообменники кластерных шкафов. Воздух через них циркулирует практически по замкнутому контуру — нагретый воздух с задней панели модулей кластера направляется на теплообменники, откуда снова поступает в область передней панели шкафа. Такое решение позволило снизить нагрев воздуха в серверном зале и использовать менее мощную систему глобального кондиционирования.

В зависимости от решаемых задач, «СКИФ Cyberia» может работать либо под управлением традиционной для суперкомпьютеров операционной системы SuSE Linux Enterprise Server 9.0, либо под Windows Compute Cluster Server 2003. В набор программного обеспечения суперкомпьютера сейчас включены библиотеки программирования стандартов параллельного программирования MPI и Open MP, комплект оптимизирующих компиляторов Intel с языков Cи, C++ и Фортран, средства отладки и трассировки приложений. Специализированное программное обеспечение включает в себя пакеты для научных и инженерных расчетов FLUENT и ANSYS; моделирующие системы для исследования погоды и климата MMS и WRF; системы для решения задач охраны окружающей среды CAMx и CMAQ; библиотеки для проведения параллельных вычислений ScaLapack, PETs и SPRING. Также развернуты средства защиты от несанкционированного доступа, мониторинга и управления комплексом.

Планируется, что суперкомпьютер будет использоваться при проведении фундаментальных исследований по таким направлениям, как наука, промышленность, производство; новые методы разведки нефтяных и газовых месторождений; моделирование полей давлений и движения флюидов в нефтегазовых пластах; моделирование магнитных полей сложной формы; предсказание погоды, климата и глобальных изменений в атмосфере; экологический мониторинг атмосферы и гидросферы; прогнозирование в финансовой и экономических областях; инженерные расчеты; оптимизация транспортных потоков; гидро- и газодинамика; расчет развития и прогнозирование возникновения лесных пожаров; задачи расчета стока вод сибирских рек; контроль за распространением эпидемий; проектирование шахтного оборудования; разработка фармацевтических препаратов; построение полупроводниковых приборов; генетика человека.

Стратегическими направлениями научных работ названы управляемый термоядерный синтез и расчет термоядерных реакторов; расчет поведения плазмы; моделирование взрывов и ядерных испытаний; разработка военной и авиакосмической техники; системы ПВО (распознавание и слежение за большим количеством целей); создание новых видов ракетного топлива; сверхтвердых покрытий на основе нанотехнологий.

Так как доступ к суперкомпьютеру возможен через Internet, то на базе «СКИФ Cyberia» в ТГУ планируется создать один из крупнейших в России центров коллективного пользования общегосударственного значения. В первую очередь ресурсы суперкомпьютера станут доступны исследовательским институтам Бийска, Краснодара, Москвы и Новосибирска.


В Томском политехе тоже запустили суперкомпьютер

Томский политехнический университет ввел в эксплуатацию суперкомпьютерный кластер, установленный компанией «Т-платформы», разработчиком и производителем комплексных решений для высокопроизводительных вычислений и центров обработки данных.

Кластер, который обошелся университету в 7 млн. рублей, обладает пиковой производительностью 1 TFLOPS, что является пятым показателем для России и стран СНГ. При проведении теста Linpack кластер достиг скорости 0,75 TFLOPS.

В суперкомпьютере использованы новейшие кластерные технологии, в частности 48 двухядерных процессоров Intel Xeon 5150, сеть Infiniband и операционные системы Linux и Windows Compute Cluster Server 2003.

Кластер подключен к университетской сети. В ТПУ планируют использовать его для исследовательских работ в области физики элементарных частиц, физики электронных пучков и переноса излучений, физики взаимодействия заряженных частиц с веществом, моделирования магнитных полей сложной формы. Суперкомпьютер будет также применяться для создания геологических моделей месторождений нефти и газа.

Кроме того, кластер предоставляет новые возможности изучения нанотехнологий и наноматериалов, моде­лирования полей давления и движения флюидов в нефтегазовых пластах. В дальнейшем на кластере будут установлены и другие программные системы, что позволит расширить спектр исследований.

— Юлия Дюкова