МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ РОССИЙСКОЙ ФЕДЕРАЦИИ ФЕДЕРАЛЬНОЕ АГЕНТСТВО ПО ОБРАЗОВАНИЮ Санкт – Петербургский государственный политехнический университет (ГОУ СПбГПУ) УДК Код ГРНТИ: 27.35.00 УТВЕРЖДАЮ Первый проректор, д.т.н., профессор _________________А.И. Рудской « » 2007 г. М.П. ОТЧЕТ Программа Союзного государства «Разработка и использование программноаппаратных средств Грид - технологий и перспективных высокопроизводительных (суперкомпьютерных) вычислительных систем семейства «СКИФ» (шифр «СКИФГРИД»)» Тема: Шифр 2007-СГ-01, наименование: «Развитие, исследование и внедрение средств высокопроизводительных вычислений на основе технологий Грид с поддержкой гетерогенных, территориально - распределенных вычислительных комплексов». Проект «Разработка и внедрение в промышленность параллельных программных систем для инженерного и естественнонаучного анализа на базе суперкомпьютеров семейства «СКИФ» и ГРИД- технологий» Вид отчета: промежуточный – 1 этап (Наименование этапа: Выбор направления исследований). Руководитель проекта: ______________д.т.н., проф. Ю. Я. Болдырев Санкт - Петербург 2007 г. 2 СПИСОК ОСНОВНЫХ ИСПОЛНИТЕЛЕЙ Должность, ученая степень и звание Научный руководитель, Зав. каф., д.т.н., профессор Подпись и дата Ф.И.О. Болдырев Юрий Яковлевич (разделы: введение, 1,2, заключение) Исполнители Профессор, д.т.н., профессор Григорьев Борис Семенович. (раздел: 1) Профессор, к.т.н., доцент Викторов Евгений Дмитриевич (разделы: 1,) Зав каф., к.ф-м.н., доцент Клавдиев Владимир Евгеньевич (раздел: 1) Доцент, к.ф-м.н., доцент Лупуляк Сергей Валерьевич (разделы: введение, 1,2 заключение) Профессор, д.т.н., доцент Снегирёв Александр Юрьевич (введение, 1, заключение) Доц., к.ф-м.н. Шиндер Юлия Константиновна (разделы: 1 ) Нормоконтролер Ровинец Жанета Ивановна 3 РЕФЕРАТ Отчет: с. 191, рис. 84, табл. 10. ист. 94 (67+27) ПРОГРАММНЫЕ СИСТЕМЫ (КОМПЛЕКСЫ), СТРУКТУРА ПРОГРАММНЫХ КОМПЛЕКСОВ, СУПЕРКОМЬЮТИНГ, ПАРАЛЛЕЛЬНЫЕ ВЫЧИСЛИТЕЛЬНЫЕ ТЕХНОЛОГИИИ, МУЛЬТИПРОЦЕССОРНЫЕ ВЫЧИСЛИТЕЛЬНЫЕ СИСТЕМЫ, ОПЕРАЦИОННАЯ СИСТЕМА MICROSOFT WINDOWS CCS, МЕЖДИСЦИПЛИНАРНЫЕ ЗАДАЧИ, ПРОМЫШЛЕННЫЕ И ЕСТЕСТВЕННОНАУЧНЫЕ ПРИЛОЖЕНИЯ СУПЕРКОМПЬЮТИНГА На настоящем этапе работ главными направлениями исследований, согласно техническому заданию, выбраны: - анализ научно-технического состояния в мире по направлению применения программных систем, использующих параллельные вычислительные процедуры для инженерных расчетов в промышленности и научных исследования; - анализ имеющихся на мировом рынке программных систем (комплексов) для инженерного и естественнонаучного анализа; включая демонстрацию апробации наиболее востребованных систем, на имеющихся у исполнителя программно-аппаратных высокопроизводительных ресурсах; - проведение первичного анализа ОС Microsoft Windows CCS совместно с корпорацией Microsoft на кластерах исполнителя; - на основе итогов работ по предыдущим направлениям формулируются возможные направления решения задач, поставленных в ТЗ, в части тестирования и определения характеристик используемых в проекте параллельных программных систем на базе имеющихся у исполнителя суперкомпьютеров и их сравнительная оценка В рамках первого, чрезвычайно широкого направления, акцент сделан на анализе наиболее программных востребованных системах мирового практикой уровня, междисциплинарных реализующих параллельные процедуры. Здесь рассматриваются программные системы CFX и FLUENT. При этом анализируются структура этих комплексов, то есть рассматриваются ключевые подсистемы, входящие в состав этих комплексов или имеющие «самостоятельный статус», как то - программные системы для построения геометрий расчётных областей; 4 - программные системы для построения расчётных сеток (сеточных пространств); - собственно вычислительные программные комплексы. В рамках апробации и тестирования, наиболее востребованных программных систем выбраны системы CFX и FLUENT, разрабатываемые компанией ANSYS (США), получившие широкое распространение в мировой практике, а также на отечественных производствах. Показаны возможности программных комплексов. Приведены примеры решения конкретных задач, выполненные по заказам отечественной и зарубежной промышленности. Результаты исследований находят самое широкое использование в учебном процессе кафедр взаимодействуют Физико-механического в рамках факультета межкафедеральной СПбГПУ, лаборатории которые Прикладная математика и механика [50] . Они используются, как в рамках лабораторных и практических работ, НИРС, так и при подготовке бакалаврских и магистерских работ. также они служат важнейшим инструментом при выполнении кандидатских и докторских диссертаций аспирантами и сотрудниками Политехнического университета. 5 Содержание Введение………………………………………………………………………………..6 Раздел 1. Анализ научно-технического состояния в мире по направлению применения программных систем, использующих параллельные вычислительные процедуры для инженерных расчетов в промышленности и научных исследованиях................................................................................................................10 1.1. Программные комплексы, для моделирования................................…….......10 1.2. Программные комплексы, для моделирования в области аэрогидродинамики ANSYS CFX, ANSYS FLUENT и Star CD…...........................62 1.3. Многопроцессорные версии программных систем ANSYS Workbench и ANSYS FLUENT и примеры их использования и тестирования на кластерах СПбГПУ для ряда промышленных задач....................................................................74 1.3.1. Применение программной среды ANSYS CFX для расчета гидромашин....................................................................................................................74 1.3.2. Применение программных систем ANSYS CFX и ANSYS FLUENT для определения аэродинамических нагрузок на конструкцию вертолетной площадки нефтяной платформы................................................................................116 1.3.3. К апробации и тестированию параллельных версий программных систем ANSYS CFX и ANSYS FLUENT...................................................................151 1.4.Замечание к нормативно-технической документации и другим материалам, относящимся к разрабатываемой теме и к проведению патентных исследований..………………………….......………..............................................….157 Список источников к Разделу 1…………………………………….………......164 Раздел 2. Освоение и проведение первичного анализа ОС Microsoft Windows CCS совместно с корпорацией Microsoft на кластерах исполнителя…………….........167 2.1. Постановка задачи и обзор принципов построения ОС Microsoft Windows CCS............................................................................................................................167 2.2. Набор и функциональность средств системного администрирования.......172 Список источников к Разделу 2……………………………….……………......184 Заключение. Формулирование возможных направлений решения задач, поставленных в ТЗ, в части тестирования используемых в проекте параллельных программных систем на базе имеющихся у исполнителя суперкомпьютеров и их сравнительная оценка.................................................................................................186 6 Введение Характеристика поставленной проблемы. Вторая половина XX и начало XXI века могут быть охарактеризованы как качественно новый этап научно-технической революции, характеризуемый внедрением во все сферы жизни общества информационно-коммуникационных технологий (ИКТ). Развитие глобальной компьютерной сети — Интернета лишь одна из видимых вершин этого внедрения и одна из его простых, внешних сторон. Гораздо более значительные, и не видимые большинством людей масштабы, представляют собой научно-исследовательские, производственные и другие аспекты развития и внедрения ИКТ, составляющие фундаментальную и материальную основу современной экономики. Ключевым направлением развития ИКТ в сегодняшнем мире является массовое применение в развитых экономиках технологий математического моделирования на основе суперЭВМ, где важнейшую роль играют параллельные вычисления. Российские предприятия, наука и образование имеют значительное отставание во внедрении, современных компьютерных технологий инженерного и естественнонаучного анализа, особенно с использованием суперЭВМ (суперкомпьютинга), что существенным образом сказывается на их конкурентной способности в мире. Проект нацелен на ускоренное преодоление этого отставания и заключается в освоении и внедрении в названные сферы наиболее передовых разработок в области прикладного суперкомпьютинга на основе параллельных вычислений в промышленную, исследовательскую и образовательную сферы, что служит обоснованием актуальности выбранного направления исследований. Важность проекта подчеркивается и тем фактом, что внедрение инженерных расчетов и проектирования на основе программных систем с использованием суперЭВМ имеет «тотальный» характер на всех высокотехнологичных производствах и исследовательских центрах ведущих стран мира, т.е. является важнейшей современной тенденцией развития науки и техники. Описание состояния исследований в данной области в России и за рубежом и результатов, определяющих мировой уровень. Как указывалось, Россия имеет значительное отставание в развитии технологий высокопроизводительных вычислений их приложений в различных сферах 7 экономики (заметим, попутно, что термины суперкомпьютинг и высокопроизводительные вычисления равнозначно используются далее). Анализ списка TOP 500 – 500 наиболее мощных суперЭВМ в мире, подтверждает наше сильное отставание. При этом, такое отставание в создании и внедрении суперкомпьютеров усугубляется полным отсутствием в России системных работ по созданию собственной индустрии программного обеспечения для нужд промышленности и исследований, где на мировом рынке доминируют компании США. На этом фоне серьезные отечественные работы в области параллельных вычислений остаются слабо востребованными внутри страны. Это же относится и к работам в области технологий высокопроизводительных вычислений для решения ресурсоемких задач, хотя проблемы данных классов задач становятся все более востребованными вычислителями, - как инженерами, так и исследователями. Подтверждением этому служат, например, такие обстоятельства, - при решении инженерных задач масштабы порядка сотен миллионов неизвестных уже не являются выдающимся событием, а переходят в разряд нормы. Сегодня мировой уровень работ в области ресурсоемких инженерных задач определяется преимущественно программными системами (комплексами), в которых «зашиты» Важнейшая мировая различные тенденция параллельные состоит в вычислительные использовании процедуры. именно таких программных систем, как массового инструментария для промышленности и исследований. Именно такие программные системы уже сегодня определяют мировой уровень инженерной деятельности предприятий. Итак, в настоящее время, в «мировом технологическом пространстве» сформировалось и интенсивно развивается новое направление – наукоёмкие компьютерные технологии проектирования и инженерного анализа. Его главной особенностью является непосредственная и тесная связь фундаментальных научных знаний с инженерными методами и подходами на основе компьютерных (суперкомпьютерных) технологий. Именно здесь, на основе компьютерных технологий, интегрируются такие области человеческой деятельности, как фундаментальная и прикладная науки, технологии и производство. 8 Характеристика новизны предлагаемых подходов к решению научных задач в сопоставлении с ведущимися в настоящее время в стране и за рубежом работами. В работе по проекту предлагается начать систематические исследования в области приложений наиболее востребованных программных систем мирового уровня, использующих параллельные вычислительные технологии и реализуемые на суперЭВМ. Начало работ в данном направлении важно по многим обстоятельствам, среди которых выделим - верификацию программных систем для различных классов задач; - изучение проблем распараллеливания и их эффективности для ряда классов ресурсоемких преимущественно мультифизичных аэрогидродинамика задач, где (области: их «ядром» служат аэротермодинамики и тепломассообмена, горение; многофазные проблемы и т.д.); - оценка адекватности математических моделей, заложенных в программных системах и эффективности вычислительных алгоритмов, реализующих решение соответствующих задач математической физики (сеточные аппроксимации, сходимость и т.д.); - изучение, освоение и анализ эффективности ОС Microsoft Windows CCS совместно с корпорацией Microsoft на кластерах исполнителя и её сравнение с ОС Linux; - решение конкретных мультифизичных задач, реализующих параллельные вычислительные технологии и иллюстрирующие возможности решения. Переходя к содержанию Отчета, укажем, что он состоит из двух Разделов (глав), Заключения и Списка источников. В Разделе 1 приведен подробный анализ научно-технического состояния в мире по направлениям параллельные применения вычислительные программных процедуры. систем, Рассматриваемые использующих программные системы находят широчайшее применение как для инженерных расчетов в промышленности, так и в научных исследованиях. При этом анализ современного высокотехнологичного производства на наших примерах применения высокопроизводительных вычислений показывает, что грань между научными исследованиями на основе использования математического моделирования и «инженерными» расчетами становится все более и более условной. 9 Дается описание программных систем их структура и функциональное место в методологии современного математического моделирования. Освещены нормативно-технические документы и другие материалы, относящихся к темам освоения и применения программных систем, а также к проведению патентных исследований по данной тематике. В Разделе 2 представлены первичные материалы по освоению и проведению первичного анализа ОС Microsoft Windows CCS совместно с корпорацией Microsoft. Работы проводятся на кластерах исполнителя. В Заключении сформулированы направления исследований по решению задач, поставленных в ТЗ, в части освоения, изучения и тестирования используемых в проекте параллельных программных систем на базе имеющихся у исполнителя суперкомпьютеров [50 (Раздел 1)], а также и их сравнительная оценка. На основе анализа проблем, с которыми сталкивается массовое внедрение программных систем и суперкомпьютинга в промышленность, проводится выбор, обоснование направлений исследований и способов решения поставленных задач на основе результатов тестирования ряда программных систем. Также приведена разработка общей методики проведения исследований по проекту. Также в сжатой форме содержатся результаты исследований по первому этапу работ по проекту. Для удобства пользования каждый из разделов снабжен своим списком источников.