Нейронные сети и генетические алгоритмы ..озировании

Национальный исследовательский университет «Высшая школа экономики»
Программа дисциплины «Нейронные сети и генетические алгоритмы в прогнозировании
финансовых рынков»
для направления 080100.68 «Экономика» подготовки магистра
Национальный исследовательский университет «Высшая школа экономики»
Программа дисциплины «Нейронные сети и генетические алгоритмы в прогнозировании
финансовых рынков»
для направления 080100.68 «Экономика» подготовки магистра
1. Область применения и нормативные ссылки
Настоящая программа учебной дисциплины устанавливает минимальные требования к
знаниям и умениям студента и определяет содержание и виды учебных занятий и отчетности.
Программа предназначена для преподавателей, ведущих данную дисциплину, учебных ассистентов и студентов 1 курса направления 080100.68 «Экономика», изучающих дисциплину
«Нейронные сети и генетические алгоритмы в прогнозировании финансовых рынков»
Программа разработана в соответствии с:
 Стандартом НИУ ВШЭ;
 Образовательными программами подготовки магистров по направлению 080100.68
«Экономика»
 Рабочим учебным планом университета подготовки магистров по направлению подготовки 080100.68 «Экономика», утвержденным в 2012г.
2. Цели освоения дисциплины
Целью изучение дисциплины «Нейронные сети и генетические алгоритмы в прогнозировании финансовых рынков» является ознакомить слушателей с основами прогнозирования фондового и других финансовых рынков с помощью искусственных нейронных сетей.
Задачи дисциплины:
 Проследить логику применения искусственных нейронных сетей в финансовом моделировании и прогнозировании
 Ознакомить слушателей с основными типами искусственных нейронных сетей, их отличием от биологических нейронных сетей
 Ознакомить слушателей с принципами построения искусственных нейронных сетей и их
обучения
 Показать возможность построения торговых стратегий для фондового рынка с помощью
искусственных нейронных сетей
3. Компетенции обучающегося, формируемые в результате освоения
дисциплины
В результате освоения дисциплины студент должен:
 Знать основные типы искусственных нейронных сетей и принципы их построения
 Уметь строить торговые стратегии с использованием искусственных нейронных сетей
для прогнозирования фондового и других финансовых рынков
 Понимать логическую связь между биологическими и искусственными нейронными сетями
Национальный исследовательский университет «Высшая школа экономики»
Программа дисциплины «Нейронные сети и генетические алгоритмы в прогнозировании
финансовых рынков»
для направления 080100.68 «Экономика» подготовки магистра
В результате освоения дисциплины студент осваивает следующие компетенции:
Компетенция
Код по Дескрипторы – основные признаки
ФГОС/ освоения (показатели достижения
НИУ
результата)
Способен совершенСК-М4 Использует полученные знания
ствовать и развивать
в своей работе, либо сфере деясвой интеллектуальный
тельности, которой планирует
и культурный уровень,
заниматься после окончания
строить траекторию
НИУ ВШЭ
профессионального развития и карьеры
Способен к самостояСК-М3 Воспроизводит модели, кототельному освоению норые были объяснены в рамках
вых методов исследовакурса и выполняет свои собния, изменению научноственные практические исслего и научнодования
производственного профиля своей деятельности
Формы и методы обучения,
способствующие формированию и развитию компетенции
Включение в курс наиболее актуальных и часто
используемых профессионалами финансового рынка теорий, моделей и
практических наработок
Самостоятельные домашние задания после каждой
лекции (семинара) на основе рассказанного материала
4. Место дисциплины в структуре образовательной программы
Настоящая дисциплина относится к циклу специальных дисциплин и блоку дисциплин,
обеспечивающих профессиональную подготовку.
Для специализаций факультета МЭиМП настоящая дисциплина является факультативной.
Изучение данной дисциплины базируется на следующих дисциплинах:

Дисциплины, читаемые кафедрой международных валютно-финансовых отношений
факультета МЭиМП
Для освоения учебной дисциплины, студенты должны владеть следующими знаниями и
компетенциями:
 Знание английского языка на уровне, позволяющем читать научные статьи в оригинале (включая специфическую математическую и финансовую лексику)
 Знания математического анализа, линейной алгебры и эконометрики (на уровне базовых университетских курсов)
 Базовые знания о финансовых рынках
 Желательно – навыки работы в программе MathCAD
Основные положения дисциплины должны быть использованы в дальнейшем при изучении следующих дисциплин:
Дисциплины, читаемые кафедрой международных валютно-финансовых отношений факультета МЭиМП
3
Национальный исследовательский университет «Высшая школа экономики»
Программа дисциплины «Нейронные сети и генетические алгоритмы в прогнозировании
финансовых рынков»
для направления 080100.68 «Экономика» подготовки магистра
5. Тематический план учебной дисциплины
№
1
2
3
4
5
6
7
8
Название раздела
Введение в искусственные
нейронные сети. Сеть прямого прохода.
Методы предварительной
обработки данных для искусственных нейронных
сетей
Сеть ЛевенбергаМарквардта
Всего
часов
Аудиторные часы
СамостояПрактические тельная рабоЛекции Семинары
та
занятия
10
2
2
6
14
4
4
6
16
4
4
8
Сеть Хакена
Стохастические методы
обучения искусственных
нейронных сетей
Карты самоорганизации
Генетические алгоритмы
обучения искусственных
нейронных сетей
Роевые механизмы обучения искусственных нейронных сетей
14
10
4
2
4
2
6
6
16
14
4
4
4
4
8
6
14
4
4
6
Итого:
108
28
28
52
6. Формы контроля знаний студентов
Тип кон- Форма контроля
троля
ИтогоЗачет
вый
1 год
3
Параметры **
4
*
a. Критерии оценки знаний, навыков
Оценка знаний и навыков производиться по следующим критериям:
- понимание рассматриваемых в рамках дисциплины моделей на теоретическом уровне
- способность самостоятельного практического построения рассматриваемых в рамках
дисциплины моделей
-возможность достройки и доработки рассматриваемых в рамках дисциплины моделей
- использование рассматриваемых в рамках дисциплины моделей в дальнейших исследованиях, а также в смежных дисциплинах
4
Национальный исследовательский университет «Высшая школа экономики»
Программа дисциплины «Нейронные сети и генетические алгоритмы в прогнозировании
финансовых рынков»
для направления 080100.68 «Экономика» подготовки магистра
b. Порядок формирования оценок по дисциплине
Результирующая оценка за итоговый контроль в форме зачета выставляется по следующей формуле:
О итоговый = 0,3* О семинары + 0,7*О зачет
где О семинары– оценка за работу на семинарах, О зачет – оценка за зачет
Способ округления итоговой оценки в пользу студента.
Содержание дисциплины
Тема 1. Введение в искусственные нейронные сети. Сеть прямого прохода.
Биологические нейронные сети. Классификация нейронных сетей и принципы построения. Применение нейронных сетей в различных областях. Сеть прямого прохода. Принципы
программирования искусственных нейронных сетей в программе MathCAD. Прогнозирование
макроэкономической динамики с помощью сети прямого прохода. Сеть прямого прохода Прогнозирование макроэкономической динамики с помощью сети прямого прохода.
Основная литература:
 БУ 1, глава 1
 БУ 2, глава 2
Дополнительная литература.
 Qin M. Predicting US recessions with leading indicators via neural network models// International Journal of Forecasting 17 (2001), p. 383–401
Тема 2. Методы предварительной обработки данных для искусственных нейронных
сетей
Метод главных компонент и метод независимых компонент как инструмент обработки
данных и прогнозирования различных временных рядов. Сравнение эффективности прогнозирования рыночной динамики с помощью метода главных компонент и метода независимых
компонент. Применение метода главных компонент и метода независимых компонент в качестве инструмента снижения размерности входных данных для искусственных нейронных сетей.
Основная литература:
 БУ 1, глава 8, 10
 БУ 3, глава 8
 БУ 4, глава 7
Дополнительная литература:
 Back A.D., Weigend A.S. A First Application of Independent Component Analysis to Extracting Structure from Stock Returns// International Journal of Neural Systems, Vol. 8, No.5 (October, 1997).
 Baek K., Draper B.F., J., Beveridge R., She K. PCA vs. ICA: A comparison on the FERET data
set// Colorado University
5
Национальный исследовательский университет «Высшая школа экономики»
Программа дисциплины «Нейронные сети и генетические алгоритмы в прогнозировании
финансовых рынков»
для направления 080100.68 «Экономика» подготовки магистра
 Hyvärinen A., Oja E. Independent Component Analysis: Algorithms and Applications//Neural
Networks, 13(4-5):411-430, 2000.
 Lu C.-J., Le T.-S., Chiu C.-C. Financial time series forecasting using independent component
analysis and support vector regression//Decision Support Systems 47 (2009) 115–125.
Тема 3. Сеть Левенберга-Марквардта
Построение сети, обученной по общему генерализованному методу распространения
ошибки (сети Левенберга-Марквардта). Применение метода главных компонент и метода независимых компонент в качестве инструмента предварительной обработки входных данных для
сети Левенберга-Марквардта. Прогнозирование фондового рынка с помощью сети ЛевенбергаМарквардта.
Обязательная литература:
 БУ 3, глава 7
Дополнительная литература.
 Хакен Г. Принципы работы головного мозга: Синергетический подход к работе мозга,
поведению и когнитивной деятельности. – М.: ПЭР СЭ, 2001 – 351 с.
Тема 4. Сеть Хакена
Построение синергетической сети Германа Хакена. Применение метода главных компонент
и метода независимых компонент в качестве инструмента предварительной обработки входных
данных для сети Хакена. Прогнозирование фондового рынка с помощью сети Хакена.
Обязательная литература:
Хакен Г. Принципы работы головного мозга: Синергетический подход к работе мозга,
поведению и когнитивной деятельности. – М.: ПЭР СЭ, 2001 – 351 с.
Тема 5. Стохастические методы обучения искусственных нейронных сетей
Построение искусственных нейронных сетей с помощью стохастического метода обучения и поиском глобального минимума ошибки. Применение стохастического метода для сетей
Левенберга-Марквардта и Хакена. Сравнение полученных результатов при прогнозировании
динамики фондового рынка.
Обязательная литература:
 БУ 1, глава 11
Дополнительная литература.
 БУ 2, глава 6
 БУ 4, глава 3
6
Национальный исследовательский университет «Высшая школа экономики»
Программа дисциплины «Нейронные сети и генетические алгоритмы в прогнозировании
финансовых рынков»
для направления 080100.68 «Экономика» подготовки магистра
Тема 6. Карты самоорганизации
Использование метода главных компонент с ядром для обучения искусственных нейронных сетей. Сравнение результатов прогнозирования фондового рынка с другими результатами,
полученными при помощи искусственных нейронных сетей.
Обязательная литература:
 БУ 4, глава 9
Дополнительная литература:
 Коhоnen Т. "Self-organized formation of topologically соrrect feature maps",
Bio1ogical Cybernetics, 1982, vo1. 43, р. 59¬-69.
 Kohonen Т. "The self-organizing mар", Proceedings of the Institute of Electrical
 and Electronics Engineers, 1990, vo1. 78, р. 1464-1480.
 Kohonen Т. "Exploration of very large databases bу self-organizing maps", 1997 Interactional Conference оn Neural Networks, 1997, vo1. 1, р. PL1¬-PL6,Houston.
 Ritter Н. "Self-organizing feature maps: Kohonen maps", in М.А. Arbib, ed., The
Handbook of Brain Theory and Neural Networks, 1995, р. 846¬851, Cambridge, МА:
MIТ Press.
Тема 7. Генетические алгоритмы обучения искусственных нейронных сетей
Использование генетических алгоритмов для обучения искусственных нейронных сетей.
Сравнение результатов прогнозирования фондового рынка с другими результатами, полученными при помощи искусственных нейронных сетей.
Обязательная литература:
 БУ 4, глава 6
Дополнительная литература:



Осовский С. Нейронные сети для обработки информации/ Пер. С польского
И.Д.Рудинского. – М.: Финансы и статистика, 2002. – 344 с.: ил.
Рутковская Д., Пилиньский М., Рутковский Л. Нейронные сети, генетические алгоритмы
и нечеткие системы: Пер. с польского И.Д.Рудинского. – М.: Горячая линия – 2004. – 452
с.: ил.
Holland J.H. Adaptation in Natural and Artificial Systems. The MIT Press, reprint edition,
1992
Тема 8. Кластеризация исходных данных и роевые механизмы обучения искусственных нейронных сетей
Использование методов кластеризации данных для предварительной обработки входных
значений искусственных нейронных сетей.
Использование роевых механизмов для обучения искусственных нейронных сетей.
Сравнение результатов прогнозирования фондового рынка с другими результатами, полученными при помощи искусственных нейронных сетей.
7
Национальный исследовательский университет «Высшая школа экономики»
Программа дисциплины «Нейронные сети и генетические алгоритмы в прогнозировании
финансовых рынков»
для направления 080100.68 «Экономика» подготовки магистра
Обязательная литература:
 БУ 1, глава 15
Дополнительная литература:
 Wong J. C.., Lian H. и Cheong S. A. Detecting macroeconomic phases in the Dow Jones Industrial Average time series [Журнал]. - [б.м.] : Physica A, 2009 г.. - 388.
 Kendall G., Su Y. a Particle Swarm Optimisation Approach in The Construction of Optimal
Risky Portfolios// Proceedings of the 23rd IASTED International Multi-Conference Artificial
Intelligence and Applications February 14-16, 2005, Innsbruck, Austria
 Majhi R., Panda G., Sahoo G. Panda A., Choubey A. Prediction of the S&P 500 and DJIA
Stock Indices using Particle Swarm Optimization Technique. //National Institute of Technology Rourkela
 Nenortaitė J. A Particle Swarm Optimization Approach in the Construction of DecisionMaking Model// issn 1392 – 124x information technology and control, 2007, Vol.36, No.1A
8 Образовательные технологии
В рамках дисциплины используются:
- интерактивные формы обучения в формате «вопрос-ответ»,
- разбор практических задач и кейсов,
- самостоятельная работа.
9 Оценочные средства для текущего контроля и аттестации студента
9.1 Вопросы для оценки качества освоения дисциплины
Примерный перечень вопросов к зачету по всему курсу:
Контрольные вопросы:
Биологические нейронные сети
Классификация нейронных сетей и принципы построения
Принципы программирования искусственных нейронных сетей в программе MathCAD
Применение различных торговых стратегий на фондовом рынке с использованием искусственных нейронных сетей
5. Искусственная нейронная сеть прямого прохода
6. Прогнозирование макроэкономической динамики с помощью сети прямого прохода
7. Метод главных компонент как инструмент обработки данных и прогнозирования различных временных рядов.
8. Метод независимых компонент как инструмент обработки данных и прогнозирования
различных временных рядов
9. Сравнение эффективности прогнозирования рыночной динамики с помощью метода
главных компонент и метода независимых компонент
10. Применение метода главных компонент и метода независимых компонент в качестве инструмента снижения размерности входных данных для искусственных нейронных сетей
11. Построение сети, обученной по общему генерализованному методу распространения
ошибки (сети Левенберга-Марквардта)
12. Построение синергетической сети Германа Хакена
1.
2.
3.
4.
8
Национальный исследовательский университет «Высшая школа экономики»
Программа дисциплины «Нейронные сети и генетические алгоритмы в прогнозировании
финансовых рынков»
для направления 080100.68 «Экономика» подготовки магистра
13. Применение метода главных и метода независимых компонент для снижения размерности данных для сетей Левенберга-Марквардта и Хакена
14. Правило Хебба для построения самообучающихся нейронных сетей
15. Построение сети Хопфильда-Хакена для прогнозирования фондового рынка
16. Применение стохастического метода обучения для построения сети ЛевенбергаМарквардта
17. Построение искусственных нейронных сетей с помощью стохастического метода обучения и поиском глобального минимума ошибки
18. Применение стохастического метода обучения для построения сети ЛевенбергаМарквардта и Хакена
19. Использование генетических алгоритмов для обучения искусственных нейронных сетей
20. Кластеризация как инструмент предварительной обработки данных для искусственной
нейронной сети
21. Использование роевых механизмов для обучения искусственных нейронных сетей
22. Использование карт самоорганизации (включая варианты построения и обучения) для
прогнозирования фондового рынка
23. Сеть Кохонена-Хакена как инструмент прогнозирования фондового рынка
24.
10 Учебно-методическое и информационное обеспечение дисциплины
10.1 Базовые учебники
1) Нейронные сети: полный курс, 2¬e издание. : Пер. с анrл. ¬ М. Издательский дом
"Вильямс", 2006. ¬ 1104 с. : ил. ¬ Парал. тит. анrл. (далее БУ 1)
2) Kröse B., van der Smagt P. An Introduction To Neural Networks, Eight Edition, November
1996. (далее БУ 2)
3) Bishop C.M. Neural Networks for Pattern Recognition. Oxford University Press, 1995 – 483
p. (далее БУ 3)
4) Fyfe C. Artificial Neural Networks and Information Theory. Edition 1.2., 2000 (далее БУ 4)
Основная литература
Указывается для каждой конкретной темы в рамках Содержания курса.
10.3. Дополнительная литература
Указывается для каждой конкретной темы в рамках Содержания курса.
10.2
10.4. Программные средства
В рамках дисциплины используется компьютерная программа MathCAD (не ниже версии
13).
11 Материально-техническое обеспечение дисциплины
В ходе лекций и семинаров используется проектор.
9