Для заказа доставки данной работы воспользуйтесь поиском на
advertisement
Для заказа доставки данной работы воспользуйтесь поиском на сайте http://mydisser.com/search.html МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ, МОЛОДЁЖИ И СПОРТА УКРАИНЫ МЕЖДУНАРОДНЫЙ НАУЧНО-УЧЕБНЫЙ ЦЕНТР ИНФОРМАЦИОННЫХ ТЕХНОЛОГИЙ И СИСТЕМ На правах рукописи ПАВЛОВ АНДРЕЙ ВЛАДИМИРОВИЧ УДК 681.5.015:519.254 ТЕХНОЛОГИЯ ПОСТРОЕНИЯ РЕГРЕССИОННЫХ МОДЕЛЕЙ НА ОСНОВЕ ИТЕРАЦИОННОГО АЛГОРИТМА С РЕКУРРЕНТНЫМИ ВЫЧИСЛЕНИЯМИ 05.13.06 – информационные технологии Диссертация на соискание учёной степени кандидата технических наук Научный руководитель: доктор технических наук, профессор В.С. Степашко Цей примірник дисертації ідентичний за змістом з іншими, що подані до спеціалізованої вченої ради Д 64.052.01 Вчений секретар спеціалізованої вченої ради Д 64.052.01 С.Ф. Чалий Киев – 2012 2 СОДЕРЖАНИЕ Перечень условных обозначений………………………………………… 7 Введение……………………………………………………………………... 9 Раздел 1 Анализ методов, алгоритмов и технологий построения моделей по данным наблюдений……………………………………..…... 17 1.1 Типичные задачи и методы моделирования………………………... 17 1.2 Методы индуктивного моделирования……………………………... 20 1.2.1 Общая постановка задачи индуктивного моделирования……... 21 1.2.2 Методы решения задачи индуктивного моделирования………. 22 1.3 Метод группового учёта аргументов как метод индуктивного моделирования…………………………………………………………… ….. 25 1.3.1 Критерии метода группового учета аргументов………………... 27 1.3.2 Подходы к разбиению множества наблюдений………………… 29 1.3.3 Обзор работ по применению принципов МГУА в задаче классификации…………………………………………………………… ….. 30 1.4 Основные алгоритмы метода группового учёта аргументов……… 32 1.4.1 Итерационные алгоритмы МГУА……………………………….. 34 1.5 Обзор итерационных алгоритмов МГУА………................................ 37 1.6 Обзор информационных технологий построения моделей на основе МГУА ……………………………………………………………… 39 1.7 Основные задачи диссертационного исследования……………….. 45 1.8 Выводы и результаты………………………………………………… 47 Раздел 2 Разработка релаксационных итерационных алгоритмов МГУА с нерекуррентными и рекуррентными вычислениями………. 50 2.1 Анализ многорядного упрощённого алгоритма МУА МГУА……. 50 2.1.1 Идея построения моделей..……………………………………… 51 2.1.2 Организация процесса построения моделей……………………. 51 3 2.1.3 Метод оценивания параметров и расчета критериев селекции .. 54 2.1.4 Метод поиска лучшего мультипликативного одночлена………. 55 2.1.5 Пути повышения эффективности алгоритмов релаксационного типа…………………………………………………………………………… 58 2.2 Разработка обобщенного релаксационного итерационного алгоритма ОРИА МГУА …………………………………………………….. 60 2.2.1 Архитектура и процесс построения модели в ОРИА МГУА …. 60 2.2.2 Разработка методов оценивания параметров и расчета критериев селекции ……………………………………………….................. 65 2.2.3 Нерекуррентный метод…...………………………………………. 66 2.2.4 Рекуррентные методы ……………………………………………. 70 2.2.5 Теоретический анализ быстродействия разработанных алгоритмов…………………...................................... ....................................... 75 2.2.7 Усовершенствованный метод поиска лучшего мультипликативного аргумента …………………………………………….. 77 2.3 Результаты и выводы…………………………………………………. 81 Раздел 3 Численное исследование свойств разработанных алгоритмов……............................................................................................... 83 3.1 Основные задачи численного исследования итерационных алгоритмов…………………………………………………………………… . 83 3.2 Численное исследование скорости сходимости итерационных алгоритмов…………………………………………………………………… . 85 3.3 Метод численного исследования скорости сходимости итерационных алгоритмов…………………………………………………... 86 3.4 Численное исследование сходимости разработанных алгоритмов.. 88 3.4.1 Исследование скорости сходимости в зависимости от свойств исходной матрицы данных …………………………………………………. 93 3.4.2 Исследование скорости сходимости при варьировании свободы выбора решений и количества одночленов модели……………... 96 3.5 Численное исследование эффективности работы алгоритмов в 99 4 задаче идентификации истинной модели………………………………...… 3.5.1 Исследование идентифицирующих свойств алгоритмов в зависимости от характеристики данных и количества фиктивных аргументов…………………………………………………………………… . 100 3.5.2 Исследование идентифицирующих свойств алгоритмов при варьировании свободы выбора и количества фиктивных аргументов…… 104 3.6 Исследование адекватности работы алгоритмов при условии существования шума в данных……………………………………………… 106 3.7 Сравнение быстродействия разработанных алгоритмов………...… 110 3.7.1 Численное подтверждение вычислительной сложности разработанных алгоритмов………………………………………………….. 110 3.7.2 Сравнение быстродействия РИА НП и МУА МГУА………...… 112 3.8 Результаты и выводы…………………………………………………. 114 Раздел 4 Разработка ИТ и средств построения моделей на основе итерационного алгоритма МУА с рекуррентными вычислениями…... 116 4.1 Разработка информационной технологии…………………………... 116 4.2 Функциональные возможности и требования к автоматизированной системе построения моделей………........................... 119 4.3 Реализация информационной технологии объектноориентированными средствами………...………………............................... . 120 4.3.1 Структура проекта системы……………………………………… 121 4.3.2 Объектно-ориентированный анализ и проектирование………... 126 4.4 Методика использования ИТ в задачах автоматизированного построения моделей сложных объектов………………...………………... 138 4.5 Результаты и выводы…………………………………………………. 145 Раздел 5 Применение разработанной ИТ для решения практических задач моделирования…………………………………………….......................... 147 5.1 Прогнозирование космической погоды……………………………... 147 5.1.1 Описание исходных данных……………………………………... 149 5.1.2 Анализ известных подходов и методов…………………………. 151 5 5.1.3 Предварительная обработка данных……………………………. 152 5.1.4 Постановка задачи прогнозирования Dst индекса……………… 154 5.1.5 Решение задачи прогнозирования……………………………….. 155 5.1.6 Результаты прогнозирования…………………………………….. 158 5.1.7 Анализ результатов прогнозирования Dst индекса…………….. 159 5.1.8 Выводы по задаче прогнозирование космической погоды……. 164 5.2. Задача оценивания эффективности медицинских препаратов…… 165 5.2.1 Постановка задачи………………………………………………... 167 5.2.2 Решение задачи…………………………………………………… 169 5.2.3 Результаты моделирования……………………………………… 173 5.2.4 Анализ результатов моделирования…………………………….. 175 5.2.5 Выводы по задаче оценивания эффективности препаратов…… 177 5.3 Задача дифференциальной диагностики легких случаев патологии гемостаза……………………………………………………………………… 177 5.3.1 Постановка задачи………………………………………………... 178 5.3.2 Идея решения задачи…………………………………………… 178 5.3.3 Решение задачи…………………………………………………… 179 5.3.4 Результаты классификации………………………………………. 182 5.3.5 Анализ результатов классификации…………………………….. 185 5.3.6 Выводы по задаче дифференциальной диагностики…………… 186 5.4 Результаты и выводы………………………………………………… 186 Выводы по диссертационной работе…………………………………….. 188 Список использованных источников……………………………………. 190 Приложение A. Результаты теоретического анализа итерационных алгоритмов……………………...................................................................... 202 А.1 Обзор «классических» итерационных алгоритмов………………… 202 А.2 Обзор современных итерационных алгоритмов………………........ 210 А.3 Метод оценивания параметров и расчёта критерия селекции в МУА…………………………………………………………………………… 214 6 Приложение B. Результаты численного исследования разработанных алгоритмов…………………….......................................... 221 В.1 Обоснование использования числа наблюдений и детерминанта корреляционной матрицы для определения скорости сходимости алгоритма……………………………………………………………………... 221 В.2 Исследование чувствительности скорости сходимости РИА ПП к изменению коэффициентов модели………………………………………… 229 B.3 Исследование скорости сходимости РИА ПП при построении нелинейных моделей…………………………………………………………. 231 B.4 Исследование изменения минимумов значений критерия NRSSА при варьировании свободы выбора…………………………………………. 236 B.5 Исследование скорости сходимости алгоритмов при количестве наблюдений меньшем, чем число аргументов модели.................................. 240 Приложение C. Свидетельство про регистрацию авторского права… 243 Приложение D. Документы об использовании, апробации и внедрении результатов диссертационной работы……………………... 246 7 ПЕРЕЧЕНЬ УСЛОВНЫХ ОБОЗНАЧЕНИЙ АМТЭР алгоритм моделирования с трехэтапным разбиением АОД алгоритм обхода дерева АПД алгоритм построения дерева АПО алгоритм поиска одночлена БВ болезнь Виллебранда БД OMNI2 база данных OMNI2 БФОП блок формирования обобщенных переменных ДТ дезагрегационная тромбоцитопатия КОР квазиоптимальное разбиение КП коагулопатия КПСГ комбинированная патология системы гемостаза МАКСО модифицированный алгоритм с комбинаторной селекцией и ортогонализацией МГУА метод группового учёта аргументов МИА многорядный итерационный алгоритм ММП межпланетное магнитное поле МНК метод наименьших квадратов МУА многорядный упрощённый алгоритм ОРИА обобщенный релаксационный итерационный алгоритм ПГМ процедура генерации матрицы ПКМО процедура конструирования мультипликативных одночленов РИА релаксационный итерационный алгоритм РИА НВ РИА с нерекуррентными вычислениями РИА НП РИА с направленным перебором структур моделей на каждой итерации РИА ПП РИА с полным перебором структур моделей на каждой итерации РИА РВ РИА с рекуррентными вычислениями СЛАУ система линейных алгебраических уравнений 8 ТДС тиол-дисульфидное соотношение ФЧО функция частного описания ARMA модель авторегрессии скользящего среднего ARB = ARB|A критерий регулярности CML convergence multi layer – сходящийся многорядный СОМВІ комбинаторный алгоритм МГУА CR критерий селекции моделей (внешний критерий) Dst disturbance storm time – геомагнитный индекс, идентифицирующий магнитную бурю GSE Geocentric Solar Ecliptic - система координат, связанная с геоцентрической солнечной эклиптикой GSM Geocentric Solar Magnetospheric -система координат геоцентрической солнечной магнитосферы QR ошибка модели (внутренний критерий) PRT прогноз тенденции RSS residual sum squares - остаточная сумма квадратов SWF space weather forecaster – алгоритм построения моделей прогноза магнитных бурь А, B , C Обучающее, проверочное и экзаменационное множества (выборки) наблюдений соответственно U = A B рабочее множество наблюдений W исходное множество наблюдений n A, nB, nC, nU, nW Мощности множеств A, B, C, U, W соответственно F свобода выбора решений итерационного алгоритма X матрица данных исходных переменных y вектор значений выходной переменной W = (X y) исходная матрица данных d детерминант корреляционной матрицы X 9 ВВЕДЕНИЕ Актуальность темы. Информационные технологии (ИТ) моделирования процессов и объектов являются основным инструментом повышения эффективности принятия решений. В современных задачах управления сложными системами часто отсутствуют априорные знания о моделируемых процессах, что выдвигает на передний план ИТ построения математических моделей, основанные на методах, использующих только эмпирические данные. Весомый вклад в развитие статистических методов, использующих гипотезы о существовании функции распределения вероятностей, внесли Вальд A., Вапник В.Н., Нейман E., Шлезингер М.И. и другие. Теории и практике моделирования систем по данным наблюдений посвятили свои работы Айвазян С.А., Акаике Х., Бокс Дж., Бодянский Е.В., Дженкинс Г., Ивахненко А.Г. , Тьюки Дж. , Эфрон Б., Файнзильберг Л.С. и др. К методам математического моделирования, для которых некритичными являются точные априорные гипотезы, относится метод группового учета аргументов (МГУА), один из эффективных методов индуктивного моделирования. Индуктивный подход к построению моделей, опирающийся на принцип внешнего дополнения при выборе описания зависимостей вход-выход, разработан академиком НАН Украины А.Г. Ивахненко. Информационные технологии, основанные на МГУА, успешно применялись для решения задач анализа данных и выявления закономерностей, прогнозирования, интерполяции и распознавания образов. Метод даёт возможность автоматически находить взаимозависимости в данных, строя модели оптимальной сложности. На сегодняшний день разработано много разновидностей алгоритмов МГУА переборного и итерационного типов. В переборных алгоритмах МГУА, строящих модели, 10 линейные по параметрам, разработан подход на основе использования ковариационной матрицы, при этом вычислительная сложность стадии построения моделей-претендентов не зависит от мощности исходного множества наблюдений (длины выборки). Однако ввиду большого объема перебора вариантов моделей применение таких алгоритмов возможно только при небольшом количестве признаков (аргументов), в отличие от итерационных алгоритмов. В свою очередь, все имеющиеся итерационные алгоритмы используют подход к построению моделей, в котором вычислительная сложность стадии построения моделей-претендентов зависит от числа наблюдений. Кроме того, все алгоритмы этого типа на данной стадии имеют вычислительную сложность не ниже квадратичной, однако для решения практических задач большой размерности эта сложность слишком высока. В настоящее время на практике возникают задачи моделирования большой размерности по числу как аргументов, так и наблюдений. Примером является рассматриваемая в диссертации задача прогнозирования космической погоды, где число наблюдений в матрице данных измеряется сотнями тысяч. Таким образом, актуальность темы диссертации определяется ее направленностью не решение важной научно-прикладной задачи разработки информационной технологии, основанной на алгоритмах МГУА, для повышения быстродействия и качества результатов моделирования объектов большой размерности. Связь работы с научными программами, планами, темами. Работа выполнялась в соответствии с планами научных исследований отдела Информационных технологий индуктивного моделирования Международного научно-учебного центра информационных технологий и систем НАН и МОНмолодьспорт Украины. Главные результаты диссертации получены в рамках исследований по таким темам отдела: 11 1. «Дослідження і розробка нових інформаційних технологій аналізу та виявлення закономірностей нестаціонарних динамічних процесів в умовах невизначеності та неповноти інформації» (№ держреєстрації 0107U003270, 2007-2011 рр.). 2. «Розроблення та дослідження інтелектуальних інформаційних технологій індуктивного моделювання складних процесів і систем» (№ держреєстрації 0107U000568, 2007-2011 рр.). Цель и задачи исследования. Целью работы является повышение эффективности информационных технологий индуктивного моделирования в задачах большой размерности на основе повышения быстродействия итерационных алгоритмов МГУА релаксационного типа. Для достижения поставленной цели в работе решаются такие задачи: 1. Выполнить анализ методов, алгоритмов и технологий построения моделей по экспериментальным данным с применением современных методов, в частности, МГУА. 2. Усовершенствовать процесс построения моделей в итерационных алгоритмах МГУА релаксационного типа на основе разработки методов оценивания параметров и расчета критериев селекции, вычислительная сложность которых не зависит от количества наблюдений. 3. Провести исследование скорости сходимости предложенных алгоритмов на основе разработанного метода численного исследования скорости сходимости итерационных алгоритмов. 4. Разработать и реализовать усовершенствованную информационную технологию построения моделей сложных систем по данным наблюдений на основе разработанных методов и алгоритмов. 5. Применить разработанные программные средства и технологии для решения таких прикладных задач: краткосрочное прогнозирование космической погоды, оценивание эффективности медицинских препаратов и дифференциальная диагностика случаев патологий гемостаза. 12 Объектом исследования является процесс моделирования сложных систем по данным наблюдений в условиях неполноты информации. Предметом исследования являются методы и средства построения моделей по данным наблюдений с применением итерационных алгоритмов МГУА. Методы исследования. Методы индуктивного моделирования сложных систем, метод имитационного моделирования, методы статистического анализа, матричная алгебра, регрессионный анализ, рекуррентные методы вычислений. Научная новизна полученных результатов. Основные результаты, которые определяют научную новизну и выносятся на защиту, следующие: впервые разработаны рекуррентные методы оценивания параметров и расчета критериев для релаксационных алгоритмов МГУА, обеспечивающие линейную зависимость объема вычислений на каждой итерации алгоритма от числа аргументов вместо квадратичной в известных итерационных алгоритмах; впервые разработан метод численного исследования скорости сходимости итерационных алгоритмов МГУА, который, в отличие от известных, позволяет повысить статистическую достоверность оценивания их эффективности при имитационном моделировании построения регрессионной модели на тестовых данных; получил дальнейшее развитие метод оценивания параметров и расчёта критериев селекции моделей с использованием матриц нормальных уравнений за счёт расширения сферы его применения на итерационные алгоритмы МГУА релаксационного типа, что позволяет решать задачи моделирования размерности на порядки большие, чем ранее; усовершенствован метод поиска лучшей модели, который в отличие от известного, не имеет повторных расчётов моделей-претендентов и обеспечивает нахождение структуры модели, соответствующей глобальному оптимуму критерия селекции на каждой итерации алгоритма. 13 Практическое значение полученных результатов. В работе получила дальнейшее развитие информационная технология индуктивного моделирования за счёт расширения области применения итерационных алгоритмов МГУА на задачи моделирования объектов, которые описываются матрицами большой размерности. Впервые разработан, реализован и исследован обобщенный релаксационный итерационный алгоритм ОРИА МГУА, в котором применены новые методы оценивания параметров и расчёта критериев селекции моделей, позволяющие эффективно решать задачи индуктивного моделирования по выборкам данных большой размерности. Впервые разработана и реализована в виде автоматизированной компьютерной системы информационная технология построения моделей сложных систем по данным наблюдений на основе предложенного ОРИА МГУА. Эффективность разработанных средств продемонстрирована при решении трех практических задач моделирования: прогнозирование космической погоды – построена модель прогноза на один час вперёд индекса Dst, позволяющая предсказать наступление каждых двух из трёх магнитных бурь; оценивание эффективности медицинских препаратов – разработана методика обработки медицинских статистических данных, позволяющая уменьшить время обследования пациента с суток до часа, а также сократить финансовые затраты; дифференциальная диагностика случаев патологий гемостаза – разработана технология и алгоритм построения классификаторов, позволяющие уменьшить риск постановки неправильного диагноза и сэкономить средства на осуществления дорогостоящих лабораторных исследований. Результаты работы были использованы, апробированы и внедрены в трех организациях, что подтверждено соответствующими документами: 14 разработанный подход к построению алгоритмов прогнозирования геомагнитного индекса Dst использован в Институте космических исследований НАН Украины и НКА Украины; разработанный алгоритм МГУА релаксационного типа апробирован в процессе создания методики оценивания эффективности медицинских препаратов в медицинской практике кафедры торакальной хирургии и пульмонологии Национальной медицинской академии последипломного образования им. П.Л.Шупика Минздрава Украины; разработаные технология и алгоритм построения классификаторов для дифференциальной диагностики заболеваний и снижения рисков постановки неверного диагноза внедрены в ГУ «Институт гематологии и трансфузиологии АМН Украины». Личный вклад соискателя. Все результаты, составляющие основное содержание работы, получены автором самостоятельно. Личный вклад автора в работах [1-6, 8-11, 13], которые составили основу диссертации и выполнены в соавторстве, состоит в следующем: в работе [1] – сравнительный анализ точности нелинейных и линейных моделей, полученных различными алгоритмами МГУА для моделирования значения тиол-дисульфидного соотношения в последней точке измерений; в [2] – разработка алгоритма моделирования с двухэтапным разбиением выборки (АМДЭР) на основе МАКСО; в [3] – разработка и программная реализация алгоритма моделирования с трехэтапным разбиением выборки (АМТЭР) и анализ точности полученной пары моделей для предпоследней и последней точек измерений ТДС; в [4] – алгоритм построения прогнозирующих моделей ТДС в виде суммы модели тренда и модели остатков; в [5] – исследование возможности повышения точности моделей прогноза ТДС с помощью различных видов и схем разбиения выборки, наличия адаптивного прогноза, выделения трендовой модели и модели остатков, реализация соответствующих алгоритмов; в [6] – алгоритм предварительной обработки данных в задаче прогнозирования магнитных бурь, современное описание итерационного алгоритма МУА МГУА, 15 обработка результатов прогнозирования "космической погоды"; в [8] – разработка алгоритма синтеза классификаторов дифференциальной диагностики и геометрическая интерпретация процесса построения классификатора; в [9] – разработка алгоритма и программы построения классификатора, визуализация результатов классификации; в [10] – разработка и программная реализация алгоритма МГУА для диагностики заболеваний и анализ результатов диагностирования патологий гемостаза; в [11] – исследование вычислительной сложности, рекуррентные алгоритмы расчета коэффициентов и критериев селекции релаксационного алгоритма МГУА, обоснование линейной сложности расчета моделей на каждой итерации, теоретические оценки сравнения быстродействия предложенных алгоритмов и алгоритма МАКСО; в [13] – методика исследования релаксационных итерационных алгоритмов на основе статистических экспериментов. Апробация научных результатов. Результаты работы опубликованы и обсуждались на Международных конференциях и семинарах по индуктивному моделированию: IWIM-2007 в Праге (22-26 сентября 2007 г.), ICIM-2008 в Киеве (16-19 сентября 2008 г.), IWIM-2009 в Крынице, Польша (14-19 сентября 2009 г.), ICIM-2010 в Евпатории (17-23 мая 2010 г.), IWIM2011, IWIM-2012 в Киеве-Жукине (4-10 июля 2011 г.), (8-14 июля 2012 г.); на Международных научных конференциях «Интеллектуальные системы принятия решений и проблемы вычислительного интеллекта» ISDMCI'2006, ISDMCI'2007, ISDMCI'2008, ISDMCI'2010 в Евпатории в мае 2006, 2007, 2008, 2010 гг., на Первой Международной научно-технической конференции «Вычислительный интеллект» ОИ'2011 в Черкассах (10-13 мая 2011 г.). Публикации. Результаты диссертации изложены в 14 научных публикациях, в том числе в 9 статьях в журналах и сборниках научных трудов из перечня профессиональных изданий ВАК Украины, 5 докладах и 1 тезисе материалов конференций и 1 свидетельстве об авторском праве. Диссертация содержит введение, 5 глав, заключение, перечень литературы и приложения. Материал диссертации изложен на 197 страницах 16 текста, включая 34 страницы таблиц и рисунков (таблиц 10, рисунков 40). Перечень литературы на 13 страницах содержит 111 наименований источников. В приложениях приведены: результаты теоретического анализа итерационных алгоритмов МГУА (приложение А); результаты численного исследования разработанных алгоритмов (приложение В); свидетельство про регистрацию авторского права (приложение С); документы об использовании, апробации и внедрении (приложение D).__ ВЫВОДЫ ПО ДИССЕРТАЦИОННОЙ РАБОТЕ В диссертационной работе решена актуальная научно-прикладная задача создания информационной технологии решения практических задач моделирования большой размерности на основе разработанного обобщенного релаксационного алгоритма МГУА с рекуррентными вычислениями. В работе получили дальнейшее развитие как теория, так и практика индуктивного моделирования: усовершенствован метод поиска оптимальной модели, не имеющий повторных расчётов моделей-претендентов; впервые в итерационных алгоритмах применены рекуррентные вычисления, а также разработан новый метод численного исследования скорости сходимости итерационных алгоритмов. Эффективность разработанных алгоритмов и методов подтверждается вычислительными экспериментами на искусственных примерах и решением реальных задач моделирования. По результатам исследований можно сделать следующие выводы: 1. Разработаны методы оценивания параметров и расчёта критериев селекции для релаксационных алгоритмов МГУА на основе использования ковариационных матриц, что впервые позволяет решать задачи моделирования, входная матрица которых имеет сотни тысяч наблюдений и тысячи признаков. 2. Разработанные рекуррентные методы оценивания параметров и расчета критериев селекции обеспечивают линейную зависимость сложности её расчета модели на одной итерации релаксационного алгоритма МГУА от числа аргументов и позволяют на порядки ускорить работу известных итерационных алгоритмов. 3. Разработана архитектура обобщённого релаксационного итерационного алгоритма ОРИА МГУА, которая в отличие от известной, позволяет точнее и быстрее осуществлять построение моделей за счёт отыскания глобального оптимума критерия на каждой итерации алгоритма и отсутствия повторных расчётов моделейпретендентов. 189 4. Разработан и применён для исследования ОРИА метод численного исследования скорости сходимости итерационных алгоритмов, который позволяет повысить статистическую достоверность оценивания их эффективности при имитационном моделировании построения модели регрессии на искусственных данных. 5. Разработана информационная технология индуктивного моделирования на основе предложенного ОРИА для анализа и синтеза структурных информационных и функциональных моделей объектов и процессов, которые автоматизируются в задачах моделирования, по большим выборкам данных. 6. Эффективность разработанной ИТ продемонстрирована при решении трех различных типов задач индуктивного моделирования: прогнозирование космической погоды на час вперед – построенная модель позволяет прогнозировать каждые две из трёх магнитных бурь; оценивание эффективности медицинских препаратов с целью уменьшения временных и финансовых затрат на проведение медицинских обследований (точность модели 70%); построение системы классификаторов для дифференциальной диагностики четырех патологий гемостаза (процент правильной диагностики не менее 89%). 190 СПИСОК ИСПОЛЬЗОВАНЫХ ИСТОЧНИКОВ 1. Кондрашова Н. В. Модели тестирования образцов крови для оценивания диаграмм тиол-дисульфидных соотношений / Н. В. Кондрашова, А. А. Ободников, А. В. Павлов // Вісник Національного технічного університету України „КПІ”. Інформатика, управління та обчислювальна техніка. – К.: «Век+», 2006. – № 45. – С. 198-208. 2. Кондрашова Н. В. Прогнозирующие модели тестирования образцов крови для оценивания диаграмм тиол-дисульфидных соотношений / Н. В. Кондрашова, А. А. Ободников, А. В. Павлов // Системні технології. Регіональний міжвузівський збірник наукових праць, 2007. – Вип. 6(53). – Дніпропетровськ, 2007. – С.131-138. 3. Кондрашова Н. В. Прогнозирующие модели для оценки тиолдисульфидных соотношений при трехэтапном разбиении выборки / Н. В. Кондрашова, А. В. Павлов // Управляющие системы и машины. – 2008. – № 3. – С. 24-33. 4. Kondrashova N. V. GMDH-based Forecasting of the Test Results of Blood Samples in Task of the Effective Medicines Estimation / N. V. Kondrashova, A. V. Pavlov // Proceedings of the II International Conference on Inductive Modelling ICIM-2008, 15-19 September 2008, Kyiv, Ukraine. – Kyiv: IRTC ITS NANU, 2008. – P. 295-299. 5. Kondrashova N. V. GMDH-based Forecasting for the Estimation of Medicines Efficiency / N. V. Kondrashova, A. V. Pavlov // Proceedings of the 3rd International Workshop on Inductive Modelling IWIM-2009, 14-19 September 2009, Krynica, Poland. – Krynica, – 2009. – P. 60-67. 6. Kondrashova N. V. Modified algorithm with orthogonalized factors and its application for solving the task of space weather short-term forecast / N. V. Kondrashova, A. V. Pavlov // – Proc. of 3rd International conference on inductive 191 modelling IСIM 2010, May 16-22, 2010. Yevpatoria, Ukraine. – Kyiv: IRTC ITS NASU, 2010. – P. 139-148. – ISBN 978-966-02-4889. 7. Павлов А. В. Модифицированный алгоритм с комбинаторной селекцией и ортогонализацией переменных и его анализ // Індуктивне моделювання складних систем. Зб. наук. праць. – К.: МННЦІТС НАНУ, 2010. – С. 130-139. 8. Павлов А. В. Синтез классификаторов дифференциальной диагностики заболеваний легких форм гемостазиопатий методом группового учета аргументов / А. В. Павлов, В. А.Павлов, В. В.Томилин // ВосточноЕвропейський журнал передовых технологий. – Харьков, 2011. – № 2/2(50). – С.42-48. 9. Кондрашова Н. В. Решение задачи диагностики заболеваний легкой формой коагулопатии и тромбоцитопатии на основе МГУА / Н. В. Кондрашова, В. А. Павлов, А. В. Павлов // Обчислювальний інтелект (результати, проблеми, перспективи): Матеріали 1-ї Міжнародної науковотехнічної конференції, 10-13 травня 2011, м. Черкаси. – Черкаси: Маклаут, – 2011. – С. 184–185. 10. Kondrashova N. V. Inductive and Probabilistic Approaches Comparison in Mild Cases Pathology Hemostasis Diseases Diagnosis / N. V. Kondrashova, V. A. Pavlov, A. V. Pavlov // Proc. of 4th International Workshop on Inductive Modeling IWIM 2011, Kyiv-Zhukyn, Ukraine. – Kyiv: IRTC ITS NASU, – 2011. – Р. 38-45. – ISBN 978-966-02-6078-8 11. Павлов А. В. Рекуррентные алгоритмы расчёта коэффициентов и критериев селекции в релаксационном алгоритме МГУА / А. В. Павлов, В. С. Степашко // Кибернетика и вычислительная техника. – 2011. – Вып. 165. – С. 72-82. 12. Павлов А. В. Обобщённый релаксационный итерационный алгоритм МГУА // Індуктивне моделювання складних систем. Зб. наук. праць, вип. 2. – К.: МННЦІТС НАНУ, 2011. – С. 95108. 192 13. Павлов А. В. Методика экспериментальных исследований сходимости итерационных алгоритмов метода группового учёта аргументов / А. В. Павлов, В. А.Павлов // Вісник НТУУ „КПІ”. Інформатика, управління та обчислювальна техніка: Зб. наук. пр. – К.: «Век+», – 2011. – № 54. – С. С. 3-8. 14. Pavlov A. V. Performance Investigation of Generalized Relaxation Iterative Algorithm of GMDH // Proc. of 5th International Workshop on Inductive Modeling IWIM 2012, Kyiv-Zhukyn, Ukraine. – Kyiv: IRTC ITS NASU, – 2012. – P.33-36. 15. Ивахненко А. Г. Техническая кибернетика / Ивахненко А. Г. К.: Гостехиздат УССР, 1959. 16. Ляпунов А. А. Теоретические проблемы кибернетики / Ляпунов А. А., Яблонский С. В. // Проблемы кибернетики. Вып. 9. М.: Физматгиз, 1963. С. 5–22 17. Самарский А. А. Математическое моделирование. Идеи. Методы. Примеры. — 2-е изд., испр./ Самарский А. А., Михайлов А. П. — М.: Физматлит, 2001. — ISBN 5-9221-0120-X. 18. Ивахненко А. Г. Долгосрочное прогнозирование и управление сложными системами / Ивахненко А. Г. – К.: Технiка, 1975. – 312 с. 19. Madala H. R. Inductive Learning Algorithms for Complex Systems Modeling / Madala H. R., Ivakhnenko A. G. – Boca Raton, Florida: CRC Press Inc., 1994. – 368 p. 20. Советов Б. Я. Моделирование систем. Учебник для ВУЗов / Советов Б. Я., Яковлев С. А. – М.: Высшая школа, 1985.. – 320 с. 21. Ивахненко А. Г. Помехоустойчивость моделирования / Ивахненко А. Г., Степашко В. С. – К.: Наукова думка, 1985. – 214 с. 22. Космические супер-бури в истории [Електронний ресурс] / G. Marchenko — 2011. — С.1 — Режим доступа : — http://sw.astron.kharkov.ua/sw1700-now.htm 193 23. Степашко В.С. Автоматизована структурна ідентифікація прогнозуючих моделей складних об’єктів [Текст] : автореф. дис. ... доктора техн. наук : 05.13.01 / Степашко Володимир Семенович; Ін-т кібернетики НАН України. – К., 1994. – 46 с. 24. Дрейпер Н. Прикладной регрессионный анализ: в 2-х кн. / Дрейпер Н., Смит Г. – М.: Статистика. Кн. 2. – 1973. – 392 с. 25. Себер Дж. Линейный регрессионный анализ / Себер Дж. – М.: Мир, 1980. – 456 с. 26. Кондрашова Н. В. Сравнительный анализ методов сглаживания и МГУА для прогнозирования временных рядов / Н. В. Кондрашова, Я. В. Павлов // Индуктивне моделювання складних систем. Збірник наукових праць – К.: МННЦ ІТС, 2009.– C. 84-101. 27. Лукашин Ю. П. Адаптивные методы краткосрочного прогнозирования временных рядов / Ю. П. Лукашин – М.: Финансы и статистика, 2003. – 416 с. 28. Єріна А. М. Статистичне моделювання та прогнозування : навч. посіб. / А. М. Єріна — К.: КНЕУ, 2001. –170 с. 29. Электронный учебник Stat Soft [Електронний ресурс] / – StatSoft, Inc., 1984-2001. – Режим доступа к учебнику – http://www.statsoft.ru/home/textbook/modules/sttimser.html 30. Бокс Дж. Анализ временных рядов. Прогноз и управление / Дж. Бокс, Г. Дженкинс – М.: Мир, 1972, – 405с., –197 с. 31. Акаике Х. Развитие статистических методов / Акаике Х. // Современные методы идентификации систем. – М.: Мир, 1983.– C.148-176. 32. Вапник В. Н. Восстановление зависимостей по эмпирическим данным / Вапник В. Н. – М.: Наука, 1979.– 447с. 33. Mallows C. L. Some comments on Cp / Mallows C. L. // Technometrics. – 1973. – v.15. – P.661-667. 34. Kohavi Ron. A study of cross-validation and bootstrap for accuracy estimation and model selection / Kohavi Ron. // Proceedings of the Fourteenth 194 International Joint Conference on Artificial Intelligence. – 1995. – 2 (12). – Р. 1137–1143. 35. Mosteller F. A k-sample slippage test for an extreme population / Mosteller F.// Annals of Mathematical Statistics. – 1948. – Vol. 19 (1). – P. 58–65. 36. Tukey J. W. Bias and confidence in not-quite large samples (abstract) / Tukey J. W. // The Annals of Mathematical Statistics. – 1958. – Vol. 29, 2. – P. 614 37. Тьюки Дж. Анализ результатов наблюдений: Разведочный анализ / Тьюки Дж. – М.: Мир, 1981.– 693с. 38. Efron B. Bootstrap methods: Another look at the jackknife / Efron B. // The Annals of Statistics. – 1979. – 7. – P. 1-26. 39. Эфрон Б. Нетрадиционные методы многомерного статистического анализа / Эфрон Б. – М.: Финансы и статистика, 1988. - 263 с. 40. Breiman L. Technical Report No. 421/ Breiman L. – 1994. 41. Ивахненко А. Г. Метод группового учета аргументов – конкурент метода стохастической аппроксимации / А. Г. Ивахненко // Автоматика. – 1968.– №3.– С. 58–72. 42. Степашко В. С. Метод критических дисперсий как аналитический аппарат теории индуктивного моделирования / Степашко В. С. // Проблемы управления и информатики. – № 2. – 2008. – С 8-26. 43. Бир С. Кибернетика и управление производством / Бир С. [пер. с англ. В. Я. Алтаева]: — М.: Наука, 1963. — 276с. 44. Gabor D. Cybernetics and the future of industrial civilization / Gabor D. – J.Cybern. – 1971. – No2. – P. 1-4. 45. Нагель Е. Теорема Геделя |/ Нагель Е., Ньюмен Д. [пер. с анг.]: – М.: Знание, 1970 – 62 с. 46. Memorial resolution [Електронний ресурс] / M. Schiffer. 2011. 2c. – Режим доступа: http://translate.google.com.ua/translate?hl=ru&langpair=en%7Cru&u=http:/ / histsoc.stanford.edu/pdfmem/SzegoG.pdf 195 47. Ивахненко А. Г. Индуктивный метод самоорганизации моделей сложных систем / А. Г. Ивахненко – Киев : Наукова Думка, 1982. – 296 с. 48. Высоцкий В. Н. Идентификация динамических систем на основе принципов самоорганизации // Математические модели для прогнозирования и управления качеством вод./ Высоцкий В. Н.– Киев: ИК ФН УССР, 1976, С. 42-58. 49. Ивахненко А. Г. Самоорганизация моделей и долгосрочное прогнозирование речного стока при помощи балансового критерия / А. Г. Ивахненко, В. С. Степашко // Автоматика. – 1975. – № 5. – С. 34-41. 50. Ивахненко А. Г. Самоорганизация комбинированных моделей для прогнозирования циклических процессов с применением критерия баланса прогнозов / А. Г. Ивахненко, В. С. Степашко, Ю. В. Костенко и др. // Автоматика. – 1979. – № 2. – С. 8-21. 51. Івахненко О. Г. Алгоритми методу групового врахування аргументів (МГВА) з лінійними операторами / О. Г. Івахненко, Ю. В. Коппа // Автоматика. – 1969.– №4, С.69–78. 52. Павлов А. А. Критерий ранжировки для порогового самоотбора переменных в алгоритмах МГУА / А. А. Павлов // Автоматика. – 1969. – № 4. – С. 89-91. 53. Степашко В.С. Структурная идентификация прогнозирующих моделей в условиях планирования экспериментов / В.С. Степашко // Автоматика. – 1992. – №1. – С. 26-35. 54. Степашко В. С. Оценивание трансформации геометрических фигур / В. С. Степашко, Н. В. Кондрашова // Праці міжнародного семінару з індуктивного моделювання (МСІМ-2005). – К. : МННЦ ІТС, 2005. – С. 294301. 55. Сарычев А. П. Идентификация состояний структурнонеопределенных систем / А. П. Сарычев – Днепропетровск: НАНУ и НКАУ, Институт технической механики, 2008. – 268 с. 196 56. Сарычев А. П. Итерационный алгоритм МГУА для синтеза разделяющей функции в задаче дискриминантного анализа / Сарычев А. П. // Автоматика. – 1988. – № 2. – С. 20–24. 57. Tadashi Kondo. Multi-Layered GMDH-Type Neural Network SelfSelecting Optimum Neural Network Architecture and Its Application to Nonlinear System Identification / Tadashi Kondo, Junji Ueno. // Proceedings of International Workshop of Inductive Modelling (IWIM’2007). – Prague : CTU in Prague, 2007. – P. 55-62. 58. Tadashi Kondo, Junji Ueno. Feedback GMDH-Type Neural Network Self-Selecting Optimum Neural Network Architecture and Its Application to 3Dimensional Medical Image Recognition of the Lungs / Tadashi Kondo, Junji Ueno. // Proceedings of 2nd International Workshop of Inductive Modelling (IWIM’2007). – Prague : CTU in Prague, 2007. – P. 63-70. 59. Kordik P. Fully automated knowledge extraction using group of adaptive model evolution : Ph.D. thesis. : Electrical Engineering and Information Technology / Kordik P. – Prague, 2006. – 150 р. 60. Bodyanskiy Ye.V. The Neo-Fuzzy Neural Network Structure Optimization Using the GMDH for the Solving Forecasting and Classification Problems [Електронний ресурс] / Ye.V. Bodyanskiy, Yu.P. Zaychenko, E. Pavlikovskaya // Proceedings of the 3rd International Workshop on Inductive Modelling IWIM-2009, 14-19 September 2009, Krynica, Poland. – Krynica, – 2009. – P. 100-107. — 1 електрон. опт. диск (CD-ROM) 61. Сарычев А. П. Классификация объектов наблюдений, описываемых системами регрессионных уравнений с детерминированными коэффициентами / А. П. Сарычев // Штучний iнтелект. – 2005. – № 3. – С. 43- 56. 62. Сарычев А.П. Системный критерий регулярности в методе группового учёта аргументов / А.П. Сарычев // Проблемы управления и информатики. – 2006. - № 6. – С. 25-37. 197 63. Сарычев А.П. Классификация объектов наблюдений, описываемых системами регрессионных уравнений со случайными коэффициентами. Часть 1. Случай независимых коэффициентов / А. П. Сарычев // Штучний iнтелект. – 2006. – № 1. – С. 79-93. 64. Сарычев А.П. Классификация объектов наблюдений, описываемых системами регрессионных уравнений со случайными коэффициентами. Часть 2. Случай зависимых коэффициентов / А. П. Сарычев // Штучний iнтелект. — 2006. – № 2. – С. 97-107. 65. Степашко В. С. Комбинаторный алгоритм МГУА для структурной идентификации объектов управления с применением различных критериев селекции / Степашко В.С. — К. : РФАП, 1977. – С. 14. 66. Степашко В. С. Комбинаторный алгоритм МГУА с оптимальной схемой перебора моделей / Степашко В. С. // Автоматика. – 1981. – №3.– С. 31–36. 67. Степашко В. С. Потенциальная помехоустойчивость моделирования по комбинаторному алгоритму МГУА без использования информации о помехах / В. С. Степашко // Автоматика. – 1983.– №3.– С. 18– 27. 68. Степашко В. С. Конечная селекционная процедура сокращения полного перебора моделей / Степашко В. С. // Автоматика. – 1983.– №4.– С. 84–88. 69. Фаддеев Д. К. Вычислительные методы линейной алгебры / Д. К. Фаддеев, В. Н. Фаддеева. — 2-е изд. — М. : «Наука», 1963. — 656 c. 70. Воеводин В. В. Численные методы алгебры. Теория и алгоритмы / Воеводин В. В. — М.: «Наука», 1966. — 248 с. 71. Yefimenko S. M. Computer tests as an instrument for effectiveness investigation of modeling algorithms / Yefimenko S. M., Stepashko V. S. // Proceedings of International Workshop of Inductive Modelling (IWIM'2007).– 2007, Prague: Czech technical university in Prague.– P. 123 – 127. 198 72. Ивахненко А.Г. Моделирование сложных систем по экспериментальным данным / Ивахненко А.Г., Юрачковский Ю.П. – М.: Радио и связь, 1987.– 120 с. 73. Ивахненко Н.А. Самоорганизация математической модели для перспективного планирования строительно-монтажных работ / Ивахненко Н. А., Марчев А. А. // Автоматика. – 1978. – № 3 – С. 12-18. 74. Ivakhnenko A. G. Self-organization of Neural Networks with Active Neurons / Ivakhnenko A. G., Ivakhnenko G. A., Muller J.-A. // Pattern Recognition and Image Analysis. – v.4. – No. 2. – 1994. –P. 185-196. 75. Юрачковский Ю. П. Восстановление полиномиальных зависимостей на основе самоорганизации / Юрачковский Ю. П. // Автоматика. – 1981. – № 4. – С. 15-20. 76. Шелудько О.И. Самоорганизация математических моделей при решении некоторых задач надежности и контроля: Дис. ... канд. техн. наук : 05.13.01 / Шелудько Олег Иванович – К., 1975. – 166 с. 77. Hybrid Particle Swarm Optimization and Group Method of Data Handling for Inductive Modeling / [Godfrey Onwubolu, Anurag Sharma, Ashwin Dayal Deepak Bhartu et al.] // Proceedings of 2nd International Conference on Inductive Modelling (IСIM’2008). – 2008.– K. : IRTC. – P. 95-103. 78. Булгакова О. С. Узагальнений ітераційний алгоритм індуктивного моделювання з застосуванням мережевих технологій : дис. ... канд. техн. наук : 05.13.06 / Булгакова Олександра Сергіївна. – К., 2011. – 171 с. 79. Белозерский Е. А. Об одном подходе к построению алгоритмов МГУА с линейными частными описаниями / Белозерский Е. А., Ивахненко Н. А., Юрачковский Ю. П. // Автоматика. – 1981. – №5. – С. 3-7. 80. Buryan P. Enhanced MIA-GMDH Algorithm / Buryan P. // Proceedings of International Workshop of Inductive Modelling (IWIM’2007). – Prague : CTU in Prague, 2007. – P. 144-155. 81. Kordik P. The modified GMDH method applied to model complex systems / Kordik P., Snorek M., Genyk-Berezovskyj M. // Праці Міжнар. конф. з 199 індуктивного моделювання в 4-х томах (МКІМ-2002). – Т.3.– Львів : Державний НДІ інф. інфраструктури, 2002. – С. 150-155. 82. Marce Jirina. Genetic Selection and Cloning in GMDH MIA Method |/ Marce Jirina, Marce Jirina. // Proceedings of International Workshop of Inductive Modelling (IWIM’2007). – Prague : CTU in Prague, 2007. – P. 165-171. 83. Светальский Б. К., Ковальчук П. И. Многорядный алгоритм МГУА с селекцией первичных аргументов / Светальский Б. К., Ковальчук П. И. // Автоматика. – 1979. – № 4. – С. 31-35. 84. Johann-Adolf Muller. Self-organizing data mining. An intelligent approach to extract knowledge from data / Johann-Adolf Muller, Frank Lemke // Berlin, Dresden 1999 I. Edition. P 225. 85. Программное обеспечение GMDH Shell [Електронний ресурс] — 2011. — Режим доступа : http://www.gmdhshell.com/ 86. Єфименко С.M. Інструментальні засоби для дослідження та застосування методів моделювання за статистичними даними : автореф. дис. ... канд. техн. наук : 05.13.06 „Інформаційні технології” / С. M. Єфименко — К., 2009, — 20 с. 87. Ляхов А.Ф. Прямые методы решения систем линейных алгебраических уравнений / А. Ф. Ляхов, Е. В. Солдатов, Е. В. Чернова Н.Новгород: ННГУ, 1999. 16 c. 88. Ефименко С. Н. Имитационный эксперимент как средство для исследования эффективности методов моделирования по данным наблюдений / С. Н. Ефименко, В. С. Степашко// УСИМ. – №1. – 2009. – С. 69-78. 89. Префиксное дерево [Електронний ресурс] — 2011. — Режим доступа : http://ru.wikipedia.org/wiki/Префиксное_дерево 90. Boost C++ library [Електронний ресурс] — 2011. — Режим доступа: 200 http://www.boost.org/ 91. Mersenne twister [Електронний ресурс] – 2011. — Режим доступа: http://en.wikipedia.org/wiki/Mersenne_twister 92. Qt C++ library [Електронний ресурс] — 2011. — Режим доступа : http://qt.nokia.com/products/ 93. База данных OMNI2. FTP Directory. [Електронний ресурс] — 2012. — Режим доступа к базе : ftp://nssdcftp.gsfc.nasa.gov/spacecraft_data/omni/ 94. Burton R.K. An empirical relationship between interplanetary conditions and Dst / Burton R. K., McPherron R.L. Russel C.T. // J. Geophys. Res. — 1975. — V. 80. — P. 4202-4214. 95. Парновский А.С. Метод регрессионного моделирования и его применение к задаче прогнозирования космической погоды / Парновский А. С. // Проблемы управления и информатики.— 2009. — № 3. — С. 128-135. 96. Регрессионное моделирование индексов ap и Kp / [А. С. Парновский, А. Ю. Полонская, В. Н. Шевченко и др.] // Космічна наука і технологія. – 2011. – Т. 17. – № 1. – С. 36–38. 97. Павлов О. В. Алгоритми самоорганізації в задачах підвищення інформативності геометричних моделей процесів, заданих точковим каркасом : дис. ... канд. техн. наук [Текст] : дис... канд. техн. наук: 05.01.01 / Павлов Олександр Володимирович ; Національний технічний ун-т України "Київський політехнічний ін-т". - К., 2006. - 197 с. 98. Ободников А.А. Способ индивидуального подбора лечебных средств для определенного больного / Ободников А. А. — М.: Описание изобретения к патенту Российской Федерации № 2189587, 20.09.2002, — Бюл. № 26. 99. Соколовский В.В. Тиол-дисульфидное соотношение крови как показатель состояния неспецифической резистентности организма / Соколовский В.В. — СПб: СПб Медицинская Академия последипломного образования, 1996. — 27с. 201 100. Статистические методы [Електронний ресурс] — 2011. — Режим доступа: http://ru.wikipedia.org/wiki/Статистика#.D0.A1.D1.82.D0.B0.D1. 82.D0.B 8.D1.81.D1.82.D0.B8.D1.87.D0.B5.D1.81.D0.BA.D0.B8.D0.B5_.D0.BC.D0.B5. D1.82.D0.BE.D0.B4.D1.8B 101. Клюшин Д.А. Непараметричні методи розпізнавання з гарантованим рівнем значущості : дис. … доктора фіз.-мат. наук : 01.05.01 / Клюшин Дмитрий Анатольевич. – К., 2008. – 278 с. 102. Томілін, В. В. Етіологія, прогнозування, профілактика та лікування геморагічних ускладнень при легких формах коагулопатій і тромбоцитопатій [Текст] : автореф. дис. ... доктора мед. наук : 14.01.31 / Томілін Володимир Володимирович; АМН України, ДУ "Ін-т гематології та трансфузіології". – К., 2011. – 39 с. 103. Баркаган З.С. Исследования системы гемостаза в клинике / З.С. Баркаган. – Барнаул, 1975. – 186 с. 104. Баркаган З.С. Геморрагические заболевания и синдромы - переработанное и дополненное / Баркаган З.С. – 2-е изд. — М: Медицина. — 1988. — 528 с. 105. Юрачковский Ю. П. Сходимость многорядных алгоритмов МГУА / Ю. П. Юрачковский // Автоматика. – 1981. – № 3. – С. 36-43. 106. Колмогоров А. Н. О представлении непрерывных функций нескольких переменных в виде суперпозиции непрерывных функций одного переменного / А. Н. Колмогоров // Докл. АН СССР. – 1957. – Т. 114, – № 5. – С. 953-956. 107. Арнольд В. И. О представлении функций нескольких переменных в виде суперпозиции функций меньшего числа переменных / В. И. Арнольд // Мат. просвещение. – 1958. – Вып. 3. – С. 41-61. 108. Розенблатт Ф. Принципы нейродинамики: Персептроны и теория механизмов мозга / Ф. Розенблатт – М: Мир, 1965.__