Методы распознавания образов - Учебно

РОССИЙСКАЯ ФЕДЕРАЦИЯ
МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ
Государственное образовательное учреждение
высшего профессионального образования
ТЮМЕНСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ
«УТВЕРЖДАЮ»:
И.о. проректора-начальник
управления по научной работе
_______________________ Г.Ф. Ромашкина
__________ _____________ 2011 г.
МЕТОДЫ РАСПОЗНАВАНИЯ ОБРАЗОВ
Учебно-методический комплекс. Рабочая программа
для аспирантов специальности 05.13.18 - математическое
моделирование, численные методы и комплексы программ
очной и заочной форм обучения
«ПОДГОТОВЛЕНО К ИЗДАНИЮ»:
Авторы работы
Шапцев В.А., Якунина М.В.
«_20_»_мая_2011г.
Рассмотрено на заседании кафедры ИС «__»________2011г.,
протокол № …
Соответствует требованиям к содержанию, структуре и оформлению.
«РЕКОМЕНДОВАНО К ЭЛЕКТРОННОМУ ИЗДАНИЮ»
Объем __14____стр.
Зав. кафедрой ______________________/Ивашко А.Г./
«__»_________ 2011 г.
Рассмотрено на заседании УМК Института математики, естественных наук и
информационных технологий «__»________2011г., протокол № …
Соответствует ФГТ к структуре основной профессиональной образовательной
программы послевузовского профессионального образования (аспирантура)
«СОГЛАСОВАНО»:
Председатель УМК __________________/Глухих И.Н./
«__»___________2011г.
«СОГЛАСОВАНО»:
Начальник отдела аспирантуры
и докторантуры_____________М.Р. Сорокина
«__»___________2011г.
2011
1
РОССИЙСКАЯ ФЕДЕРАЦИЯ
МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ
Государственное образовательное учреждение
высшего профессионального образования
ТЮМЕНСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ
Институт математики, естественных наук и
информационных технологий
Кафедра информационных систем
Валерий Алексеевич Шапцев
Марина Викторовна Якунина
МЕТОДЫ РАСПОЗНАВАНИЯ ОБРАЗОВ
Учебно-методический комплекс. Рабочая программа
для аспирантов специальности 05.13.18 - математическое
моделирование, численные методы и комплексы программ
очной и заочной форм обучения
Тюменский государственный университет
2011
2
Шапцев В.А., Якунина М.В. Методы распознавания образов.
Учебно-методический комплекс. Рабочая программа для аспирантов
специальности
05.13.18
математическое
моделирование,
вычислительные методы и комплексы программ очной и заочной
форм обучения. Тюмень, 2011. 14 стр.
Рабочая программа составлена в соответствии с ФГТ к структуре
основной
профессиональной
образовательной
программы
послевузовского профессионального образования (аспирантура).
Рабочая программа дисциплины опубликована на сайте ТюмГУ:
Методы распознавания образов [электронный ресурс] / Режим
доступа: http://www.umk3.utmn.ru., свободный.
Рекомендовано к изданию кафедрой информационных систем.
Утверждено и.о. проректора-начальника управления по научной
работе Тюменского государственного университета.
ОТВЕТСТВЕННЫЙ РЕДАКТОР: Шапцев В.А., профессор, д.т.н.
© Тюменский государственный университет, 2011.
© Шапцев В.А., Якунина М.В., 2011.
3
1.
Пояснительная записка.
1.1. Цели и задачи дисциплины.
Целью дисциплины «Методы распознавания образов» является
ознакомление аспирантов с современным состоянием проблемы
распознавания и основными методами решения задач распознавания
образов, формирование знаний, соответствующих как системному, так
и
информационно-технологическому
подходу
к
проблеме
распознавания.
К основным задачам изучения дисциплины относятся:
- формирование системного подхода к решению проблемы
анализа и распознавания образов;
- изучение математических методов и основных алгоритмов
решения задач распознавания образов;
- формирование навыков использования принципов и методов
распознавания образов.
1.2. Место дисциплины в структуре ООП.
«Методы распознавания образов» является дисциплиной по
выбору, опирающейся на знания математического анализа, линейной
алгебры, теории вероятностей и математической статистики,
дискретной математики.
1.3. Требования к результатам освоения дисциплины.
Процесс изучения дисциплины направлен на формирование
следующих компетенций.
Общекультурные компетенции.
 ОК-1  владение культурой мышления, способность к
обобщению, анализу, восприятию информации, постановке цели
и выбору путей ее достижения, умение логически верно,
аргументировано и ясно строить устную и письменную речи.
 ОК-2  готовность к кооперации с коллегами, работе в
коллективе; знание принципов и методы организации и
управления малыми коллективами; способность находить
организационно-управленческие решения в нестандартных
ситуациях и готов нести за них ответственность.
4
 ОК-3  понимание социальной значимости своей будущей
профессии, обладание высокой мотивацией к выполнению
профессиональной деятельности;
 ОК-4  способность научно анализировать социально значимые
проблемы и процессы, умение использовать на практике методы
гуманитарных, экологических, социальных и экономических наук
в различных видах профессиональной и социальной
деятельности;
 ОК-5  умение применять методы и средства познания, обучения
и самоконтроля для интеллектуального развития, повышения
культурного
уровня,
профессиональной
компетенции,
сохранения своего здоровья, нравственного и физического
самосовершенствования;
 ОК-6  владение широкой общей подготовкой (базовыми
знаниями) для решения практических задач в области
информационных систем и технологий;
 ОК-7  умение критически оценивать свои достоинства и
недостатки, наметить пути и выбрать средства развития
достоинств и устранения недостатков;
 ОК-8  осознание значения гуманистических ценностей для
сохранения и развития современной цивилизации; готовность
принять нравственные обязанности по отношению к окружающей
природе, обществу, другим людям и самому себе;
 ОК-9  знание своих прав и обязанностей как гражданина своей
страны; использование действующего законодательства, других
правовых документов в своей деятельности; демонстрация
готовности и стремления к совершенствованию и развитию
общества на принципах гуманизма, свободы и демократии;
 ОК-10  готовность использовать основные законы естественнонаучных дисциплин в профессиональной деятельности,
применять методы математического анализа и моделирования,
теоретического и экспериментального исследования;
 ОК-11  способность к письменной, устной и электронной
коммуникации на государственном языке и необходимое знание
иностранного языка (хороший английский язык);
5
 ОК-12

владение
основными
методами
защиты
производственного персонала и населения от возможных
последствий аварий, катастроф, стихийных бедствий;
 ОК-13  владеет средствами самостоятельного, методически
правильного использования методов физического воспитания и
укрепления здоровья, готов к достижению должного уровня
физической подготовленности для обеспечения полноценной
социальной и профессиональной деятельности.
 ОК-14  готов к толерантному восприятию социальных и
культурных различий, уважительному и бережному отношению к
историческому наследию и культурным традициям.
 ОК-15  способен понимать движущие силы и закономерности
исторического процесса, место человека в историческом
процессе, политической организации общества.
 ОК-16  способен использовать навыки публичной речи, ведения
дискуссии и полемики.
Профессиональные компетенции.
 ПК-31  способность осуществлять поиск, анализировать и
систематизировать научную информацию, отечественный и
зарубежный опыт по теме исследования.
 ПК-32  способность определять задачи исследования,
проводить эксперименты по заданной методике, обрабатывать
полученные данные, анализировать и интерпретировать
результаты.
 ПК-33  способность готовить научные отчеты по результатам
выполненных исследований.
В результате освоения дисциплины обучающийся должен:
знать
- основные методы и алгоритмы решения задач распознавания
образов;
уметь
- использовать принципы и методы теории распознавания
образов;
- пользоваться
основными
правилами
и
технологией
распознавания образов;
6
владеть
- способностью к участию в работах по моделированию продуктов,
технологических процессов, производств, средств и систем
автоматизации, контроля диагностики испытаний и управления
процессами, жизненным циклом продукции и ее качества с
использованием современных средств автоматизированного
проектирования;
- способностью участвовать в разработке алгоритмического и
программного обеспечения средств и систем автоматизации и
управления процессами;
- способностью
производить
эксперименты
по заданным
методикам с обработкой и анализом их результатов, составлять
описание выполненных исследований и подготавливать данные
для разработки научных обзоров и публикаций.
2. Трудоемкость дисциплины.
Семестр 1. Форма промежуточной аттестации  зачет. Общая
трудоемкость дисциплины составляет 1 зачетную единицу (36
академических часов). При этом аудиторные занятия в форме лекций 10 час.
3. Тематический план.
Таблица 1. Тематический план дисциплины
«Методы распознавания образов»
самостоятельная
работа*
Из них в интерактивной
форме
Формы контроля
1
2
3
1 Общая характеристика процесса
6
распознавания объектов и явлений.
Практические
занятия
Тема
лекции
№
Всего часов
Виды учебной и
самостоятельная
работы, час.
4
5
6
7
8
2
4
1
7
2 Классификаторы. Показатели
12
эффективности распознавания.
4 Алгоритмы распознавания образов. 18
Итого:
Из них часов в интерактивной
форме
36
2
2
8
4
Контр.
раб.
2
2
14
4
Контр.
раб.
6
4
26
Зачет
9
9
Таблица 2. Планирование самостоятельной работы аспирантов
№
Темы
1
Общая характеристика
процесса распознавания
объектов и явлений.
Классификаторы.
Показатели эффективности
распознавания.
Алгоритмы распознавания
образов.
ИТОГО:
2
3
Виды СРС
обязательные
Реферат
Доклад с
презентацией
дополнительные
Объем
часов
Работа с
литературой,
Интернетом.
Подготовка к
контрольным
работам,
реферата,
презентации
4
8
14
26
4. Разделы дисциплины и междисциплинарные связи с
обеспечиваемыми дисциплинами
Таблица 3. Связь с последующими дисциплинами
№
п/
п
1.
2.
3
4
Наименование
обеспечиваемых дисциплин
Организация наблюдения объекта и
обработка данных. Поиск закономерностей
в массиве данных
Моделирование слабо формализуемых
объектов и процессов. Математика
недоопределенных величин
Организация наблюдения объекта и
обработка данных. Поиск закономерностей
в массиве данных
Математические модели для поддержки
принятия решений
Темы дисциплины необходимые
для изучения обеспечиваемых
дисциплин
3
1
2
+
+
+
+
+
+
+
+
+
8
5. Содержание дисциплины.
Тема 1. Общая характеристика проблемы распознавания
объектов и явлений.
Понятие образа. Качественное описание задачи распознавания
образов. Типы задач распознавания и их характерные черты.
Структура системы распознавания образов. Задача распознавания
образов как одна из задач анализа данных.
Тема 2. Классификаторы.
Формальная постановка задачи распознавания образов.
Признаки и классификаторы. Классификация с обучением и без
обучения. Решающие функции. Классификация образов с помощью
функций расстояния. Классификация образов с помощью функций
правдоподобия.
Обучаемые
классификаторы
образов.
Детерминистский подход. Обучаемые классификаторы образов.
Статистический подход. Показатели эффективности распознавания.
Информативные параметры.
Тема 3. Алгоритмы распознавания образов.
Методы распознавания, основанные на сравнении с эталоном.
Мера близости, основанная на поиске оптимального пути на графе.
Задача сравнения контуров.
Статистические методы. Элементы теории статистических
решений
в
распознавании
образов.
Байесовский
подход.
Дискриминантные функции и поверхности решения. Алгоритм
персептрона.
Нейронные сети. Классификация нейронных сетей. Модель
нейрона. Модель нейронной сети с обратным распространением
ошибки (back propagation). Нейронные сети Хопфилда и Хэмминга.
Структурные и синтаксические методы. Методы предобработки.
Языки описания образов. Обработка изображений.
6. Перечень контрольных работ.
Контрольная работа №1. Задача классического обнаружения.
Статистические критерии принятия решения.
9
Цель работы:
–
изучить
методику
построения
решающего
правила
с
использованием критериев максимального правдоподобия и
максимума апостериорной вероятности;
–
получить
навыки
оценивания
показателей
качества
двухальтернативного непараметрического распознавания.
Контрольная работа №2. Методы группировки данных.
Цель работы:
– изучить основные принципы «обучения без учителя» и методики
группировки
данных
в
условиях
полной
апостериорной
неопределенности;
– получить навыки иерархической группировки данных с применением
различных мер внутриклассового расстояния.
7. Учебно-методическое обеспечение СРС. Оценочные
средства.
7.1. Реферат (от лат. refero  докладываю, сообщаю), краткое
изложение в письменном виде или в форме публичного выступления
содержания книги, научной работы, результатов изучения научной
проблемы; доклад на определённую тему, включающий обзор
соответствующих литературных и других источников. Как правило, Р.
имеет научно-информационное назначение. Р., называемые также
научными докладами, получили распространение в научноисследовательских учреждениях, высшей школе, в системе
политического просвещения, в народных университетах. В
общеобразовательной школе и средних специальных учебных
заведениях Р. называют специально подготовленные сообщения
учащихся на факультативных занятиях и др.
Самостоятельная работа аспирантов заключается в углубленном
изучении тем, предложенных аспирантам на лекционных и
практических занятиях. Контроль самостоятельной работы аспиранта
осуществляется в форме защиты реферата по выбранной теме.
7.2. Примерные темы рефератов.
1. Нейронные сети и их применение для решения задач
распознавания образов.
10
2. Адаптивные системы распознавания образов.
3. Классификация методов распознавания.
4. Простая модель распознавания образов.
5. Основные понятия распознавания образов.
6. Дихотомии.
7. Пространство образов и пространство весов.
8. Классификация образов с помощью функций расстояния.
9. Меры сходства и критерии кластеризации.
10. Классификация по критерию минимума расстояния.
11. Эвристические алгоритмы выявления кластеров.
12. Распознавание образов без учителя.
13. Классификация образов с помощью функций правдоподобия.
14. Байесовский классификатор нормально распределенных образов.
15. Аппроксимация плотностей распределения функциями.
16. Обучаемые классификаторы образов. Детерминистский подход.
17. Персептронный подход к распознаванию.
18. Построение алгоритмов классификации. Метод градиента.
19. Построение алгоритмов классификации. Метод персептрона.
20. Построение алгоритмов классификации. Метод минимума СКО.
21. Метод потенциальных функций при детерминированном подходе.
22. Обучаемые классификаторы образов. Стохастический подход.
23. Алгоритм Робинса-Монро.
24. Алгоритм корректирующих приращений.
25. Алгоритм наименьшего СКО – стохастический вариант.
26. Метод потенциальных функций. Стохастический вариант.
27. Роль кластеризации при формировании признакового
пространства.
28. Концепция минимума энтропии при выборе признаков.
29. Концепция дивергенции при выборе признаков.
30. Разложение Карунена-Лоэва для формирования признакового
пространства.
31. Последовательный алгоритм выбора двоичных признаков.
32. Параллельный алгоритм выбора двоичных признаков.
Предусмотрен текущий контроль успеваемости в виде сдачи
результатов практических работ, рубежный контроль в форме зачета.
11
7.3. Примерный перечень вопросов к зачету.
1. Понятие образа.
2. Качественное описание задачи распознавания образов.
3. Типы задач распознавания и их характерные черты.
4. Структура системы распознавания образов.
5. Задача распознавания образов как одна из задач анализа данных.
6. Формальная постановка задачи распознавания образов.
7. Признаки и классификаторы.
8. Классификация с обучением и без обучения.
9. Решающие функции.
10. Классификация образов с помощью функций расстояния.
11. Классификация образов с помощью функций правдоподобия.
12. Обучаемые классификаторы образов.
13. Детерминистский подход.
14. Обучаемые классификаторы образов.
15. Статистический подход.
16. Методы распознавания, основанные на сравнении с эталоном.
17. Мера близости, основанная на поиске оптимального пути на графе.
18. Задача сравнения контуров.
19. Статистические методы.
20. Элементы теории статистических решений в распознавании
образов.
21. Байесовский подход.
22. Дискриминантные функции и поверхности решения.
23. Алгоритм персептрона.
24. Классификация нейронных сетей.
25. Модель нейрона.
26. Модель нейронной сети с обратным распространением ошибки
(back propagation).
27. Нейронные сети Хопфилда и Хэмминга.
28. Структурные и синтаксические методы.
29. Методы предобработки.
30. Языки описания образов.
31. Обработка изображений.
8. Образовательные технологии.
Основой используемой в освоении курса образовательной
12
технологии является диалог с аудиторией, предоставление студентам
возможности высказать свое мнение и интерпретацию понятия,
ситуации, сведения.
Озвучивание материала курса сопровождается мультимедиапрезентацией при связи с Интернетом.
Практические занятия проводятся в компьютерном классе,
соединенном с Интернетом.
Предусмотрены встречи с представителями российских и
зарубежных компаний, государственных и общественных организаций,
мастер-классы экспертов и специалистов
9. Учебно-методическое и информационное обеспечение
дисциплины.
9.1. Основная литература.
1. Горелик А.Л. Скрипкин В.А. Методы распознавания. – М.: Высшая
школа, 1984. 208с.
2. Фу К. Структурные методы в распознавании образов. – М.: Мир,
1977. 320 .
3. Патрик Э. Основы теории распознавания образов / Пер. с англ.
под ред. Б.Р. Левина - М.: Сов. Радио, 1980. 408с.
4. Вапник Н.В., Червоненкис А.Я.  Теория распознавания образов
(статистические проблемы обучения). М.: Наука, Главная
редакция физико-математической литературы, 1974. 416с.
9.2. Дополнительная литература.
1. Гренандер У. Лекции по теории образов: Регулярные структуры /
Пер. с англ.  М.: Мир, 1983. 432с.
2. Ту. Дж., Гонсалес Р. Принципы распознавания образов / Пер. с
англ. – М.: Мир, 1978. 414с.
3. Загоруйко Н.Г., Прикладные методы анализа данных и знаний. –
Новосибирск: Изд-во Ин-та математики СО РАН, 1999. 270с.
4. Потапов А.С. Распознавание образов и машинное восприятие:
Общий подход на основе принципа минимальной длины
описания. – СПб: Политехника, 2007. 548с.
13
10. Материально-техническое обеспечение дисциплины.
Чтение лекций по дисциплине осуществляется в аудитории с
мультимедийным оборудованием.
14