Прикладная теория информации

Государственное образовательное учреждение высшего профессионального образования
«Национальный исследовательский Томский политехнический университет»
УТВЕРЖДАЮ
Проректор-директор ИК
___________Сонькин М.А.
«___»_____________2011 г.
РАБОЧАЯ ПРОГРАММА МОДУЛЯ (ДИСЦИПЛИНЫ)
Прикладная теория информации
НАПРАВЛЕНИЕ (СПЕЦИАЛЬНОСТЬ) ООП
010400, Прикладная математика и информатика
ПРОФИЛЬ ПОДГОТОВКИ (СПЕЦИАЛИЗАЦИЯ, ПРОГРАММА)
КВАЛИФИКАЦИЯ (СТЕПЕНЬ): бакалавр
БАЗОВЫЙ УЧЕБНЫЙ ПЛАН ПРИЕМА 2011 г.
КУРС 4; СЕМЕСТР 8;
КОЛИЧЕСТВО КРЕДИТОВ 4
ПРЕРЕКВИЗИТЫ «Теория вероятностей и математическая статистика»
КОРЕКВИЗИТЫ
ВИДЫ УЧЕБНОЙ ДЕЯТЕЛЬНОСТИ И ВРЕМЕННОЙ РЕСУРС:
ЛЕКЦИИ
24 час.
ПРАКТИЧЕСКИЕ ЗАНЯТИЯ
24 час.
АУДИТОРНЫЕ ЗАНЯТИЯ
48 час.
САМОСТОЯТЕЛЬНАЯ РАБОТА
36 час.
ИТОГО
84 час.
ФОРМА ОБУЧЕНИЯ
очная
ВИД ПРОМЕЖУТОЧНОЙ АТТЕСТАЦИИ:
ЗАЧЕТ
ОБЕСПЕЧИВАЮЩАЯ КАФЕДРА:
«Прикладная математика»
ЗАВЕДУЮЩИЙ КАФЕДРОЙ:
д.ф.-м.н., профессор В.П. Григорьев
РУКОВОДИТЕЛЬ ООП:
к.т.н., доцент Д.Ю. Степанов
ПРЕПОДАВАТЕЛИ:
к.т.н., ассистент В.В. Марченко
2011 г.
1. Цели освоения модуля (дисциплины)
В результате освоения данной дисциплины бакалавр приобретает знания,
умения и навыки, обеспечивающие достижение целей Ц3 и Ц5 основной
образовательной программы «Прикладная математика и информатика».
Основные цели освоения дисциплины: изучение прикладных вопросов
качественного обоснования и количественных оценок информационных
свойств систем и взаимодействующих объектов, освоение основных
закономерностей, преобразования передачи и кодирования информации.
2. Место модуля (дисциплины) в структуре ООП
Дисциплина входит в модуль «Информационные технологии»
вариативной части дисциплин профессионального цикла (Б.3.В3.3). Она
непосредственно связана с дисциплинами естественнонаучного и
математического цикла (теория вероятностей и математическая статистика,
информатика и программирование).
3. Результаты освоения модуля (дисциплины)
При изучении дисциплины бакалавры должны познакомиться с
понятиями энтропии и взаимной информации объектов, а также овладеть
способами их количественной оценки; изучить основные характеристики
каналов связи и уметь рассчитать их пропускную способность; приобрести
знания о способах кодирования сообщений и навыки построения кодов; узнать
основные алгоритмы шифрования информации.
После изучения данной дисциплины бакалавры приобретают знания,
умения и опыт, соответствующие результату Р31 основной образовательной
программы. Соответствие результатов освоения дисциплины «Прикладная
теория информации» формируемым компетенциям представлено в таблице.
Расшифровка кодов результатов обучения представлена в Основной образовательной
программе подготовки бакалавров по направлению (специальности) 010400, Прикладная
математика и информатика
1
2
Формируемые
компетенции в
соответствии с ООП
ПК-1. Способность
демонстрации
общенаучных базовых
знаний естественных наук,
математики и
информатики, понимание
основных фактов,
концепций, принципов
теорий, связанных с
прикладной математикой
и информатикой
OK-5. Способность
понимать сущность и
значение информации в
развитии современного
информационного
общества, сознавать
опасности и угрозы,
возникающие в этом
процессе, соблюдать
основные требования
информационной
безопасности, в том числе
защиты государственной
тайны
ПК-3. Способность
понимать и применять в
исследовательской и
прикладной деятельности
современный
математический аппарат
Результаты освоения дисциплины
3.1. Энтропия и взаимная информация объектов. Способы
их количественной оценки. Каналы связи и их
характеристики.
З.2. Кодирование и шифрование сообщений.
В.1. Количественно оценивать информацию объектов и
пропускную способность линий связи.
В.2. Кодировать сообщения; использовать цифровую
подпись.
У.1. Рассчитывать энтропию и информацию
взаимодействующих объектов; пропускную способность
каналов связи.
У.2. Строить оптимальный и помехо-защищенный код;
сравнивать различные алгоритмы шифрования
информации.
4. Структура и содержание модуля (дисциплины)
4.1. Структура модуля (дисциплины) по разделам, формам организации и
контроля обучения
№
Аудиторная работа
(час)
Лекции
Практ.
зан.
6
6
Название раздела/темы
СРС
(час)
Итого
9
21
1.
Энтропия (6 часов)
2
Информация (8 часов)
8
8
12
28
3.
Кодирование сообщений
(4 часа)
4
4
6
14
3
4.
Шифрование информации
(8 часов)
Итого
6
6
9
21
24
24
36
84
4.2. Содержание разделов дисциплины
ТЕМА 1. Энтропия (6 часов)
Введение. Основные определения. Информационная энтропия.
Логарифмическая мера. Энтропия объектов с неравновероятными исходами
состояний. Случайное и среднее значение энтропии. Условная энтропия,
основные свойства энтропии. Физическая и термодинамическая энтропии, их
взаимосвязь.
Вычисление энтропии для частных случаев. Информационная энтропия
алфавита и письменных сообщений. Энтропия двоичной числовой
последовательности. Энтропийная устойчивость. Энтропия непрерывных
случайных величин. Энтропия возмущенной физической системы,
взаимодействующей с внешней средой, энтропия и жизнь.
Практическое занятие №1. Расчет энтропии систем с равновероятными и
неравновероятными исходами.
Практическое занятие №2. Расчет энтропии взаимодействующих
случайных объектов.
ТЕМА 2. Информация (8 часов)
Введение. Взаимная информация в случайных величинах. Количество
информации. Скорость передачи информации и конечность потока
информации. Хранение информации. Тепловой предел информации. Частотновременные свойства сигналов. Обобщенный принцип неопределенности.
Количество информации конкретных сообщений. Письменное сообщение,
музыка, телевизионное изображение, устная речь. Количество информации при
измерениях.
Передача информации по линиям связи. Физические характеристики
информационных сигналов и каналов связи. Примеры передачи сообщений по
линиям связи. Двоичная симметричная линия. Двоичная симметричная линия
связи при наличии помех и при стирании.
Практическое занятие №3. Расчет взаимной информации.
Практическое занятие №4. Расчет информации конкретных сообщений.
Практическое занятие №5. Расчет физических характеристик
информационных каналов и каналов связи.
Практическое занятие №6. Расчет пропускной способности линий связи.
Практическое занятие №7. Контрольная работа.
Практическое занятие №8. Работа над ошибками.
ТЕМА 3. Кодирование сообщений (4 часа)
4
Введение. Основные определения. Кодирование сообщения при
отсутствии помех. Коды К. Шеннона-Фано, Хаффмана, блочное кодирование,
основная теорема кодирования.
Кодирование сообщений при наличии помех. Теорема Шеннона.
Методирование сообщений. Кодирование с проверкой на четность, коды
Хэмминга.
Практическое занятие №9. Кодирование информации.
ТЕМА 4. Шифрование информации (6 часов)
Введение. Основные определения. Криптографические системы. Методы
шифрования.
Прямые
подстановки,
многоалфавитные
подстановки,
монофонические шифры, шифрование гаммированием, шифр Цезаря, квадрат
Полибия. Шифрование подстановкой. Шифр простой подстановки,
многоалфавитные подстановки, шифр Винижера. Перестановки. Составные
преобразования, шифрование с помощью датчика случайных чисел.
Стандарты на шифрование. Алгоритмы симметричного шифрования.
Алгоритмы шифрования с открытым ключом.
Практическое занятие №10. Защита рефератов по энтропии и
информации.
Практическое занятие №11. Защита рефератов по кодированию и
шифрованию информации.
Практическое занятие №12. Итоговое тестирование.
4.3. Распределение компетенций по разделам дисциплины
Распределение по разделам дисциплины планируемых результатов
обучения по базовой образовательной программе, формируемых в рамках
данной дисциплины:
№
1
2
3
4
5
6
Формируемые
компетенции
З.1
З.2
У.1
У.2
В.1
В.2
Разделы дисциплины
2
3
Х
Х
Х
Х
Х
Х
1
Х
Х
Х
6
Х
Х
Х
5. Образовательные технологии
При освоении дисциплины используются следующие сочетания видов
учебной работы с методами и формами активизации познавательной
деятельности бакалавров для достижения запланированных результатов
обучения и формирования компетенций.
5
Виды учебной деятельности
Методы и формы активизации
деятельности
Дискуссия
IT-методы
Опережающая самостоятельная
работа
Индивидуальное обучение
Проблемное обучение
Поисковый метод
Разбор кейсов
Обучение на основе опыта
ЛК
Х
ПР
Х
СРС
Х
Х
Х
Х
Х
Х
Х
Х
Х
Для достижения поставленных целей преподавания дисциплины
реализуются следующие средства, способы и организационные мероприятия:
 изучение теоретического материала на лекциях;
 самостоятельное изучение теоретического материала дисциплины с
использованием Internet - ресурсов, информационных баз, методических
разработок, специальной учебной литературы;
 закрепление теоретического материала при проведении практических
занятий;
 подготовка к промежуточному и итоговому контролю.
6. Организация и учебно-методическое обеспечение самостоятельной
работы студентов (СРС)
6.1. Текущая и опережающая СРС
Текущая и опережающая самостоятельная работа студентов направлена
на углубление и закрепление знаний, а также практических умений. К ней
относятся:
 изучение тем, вынесенных на самостоятельную проработку;
 работа бакалавров с лекционным материалом;
 поиск и анализ литературы и электронных источников информации по теме
реферата;
 подготовка к контрольной работе и экзамену.
6.1.1.Перечень тем, выносимых на самостоятельную проработку:
Энтропия двоичной числовой последовательности.
Энтропийная устойчивость.
6
Энтропия непрерывных случайных величин.
Энтропия возмущенной физической системы, взаимодействующей с
внешней средой.
6.2. Творческая проблемно-ориентированная самостоятельная работа
Творческая
проблемно-ориентированная
самостоятельная
работа
ориентирована на
развитие интеллектуальных умений, комплекса
универсальных (общекультурных) и профессиональных компетенций,
повышение творческого потенциала студентов и заключается:
 в поиске, анализе и структурировании информации, необходимой для
составления реферата;
 оформлении реферата;
 защите реферата с ответами на вопросы одногруппников и преподавателя.
6.2.1. Примеры темы реферата
Сжатие информации.
Алгоритмы симметричного шифрования.
Алгоритмы с открытым ключом.
Хэш-функции.
Цифровая подпись.
6.2.2. Требования к подготовке и защите реферата:
 Содержание реферата должно соответствовать выбранной теме.
 Реферат должен раскрывать тему полно и в то же время лаконично (в
пределах 10-12 страниц формата А4).
 Отчет должен быть подготовлен средствами текстового процессора
Microsoft Word в соответствии с требованиями ГОСТа и ТПУ.
 Студент должен уверенно и грамотно отвечать на вопросы в пределах темы
и содержания подготовленного реферата.
6.3. Контроль самостоятельной работы
Оценка результатов самостоятельной работы организуется как единство
двух форм: самоконтроль и контроль со стороны преподавателей. Оценка
успеваемости бакалавров осуществляется по результатам:
 активной работы во время лекции, проявляющейся во внимательном
воспринятии материала и задавании уточняющих вопросов по ходу
изложения;
 активной работы на практических занятиях: работа у доски, ответы на
вопросы преподавателя;
 выполнении домашних заданий по результатам практических занятий;
7
 решении задач на контрольной работе;
 защите реферата.
6.4.Учебно-методическое обеспечение самостоятельной работы студентов
Образовательные ресурсы, рекомендуемые для использования при
самостоятельной работе студентов:
 В.И. Дмитриев. Прикладная теория информации. – М.: Высшая школа,
1989.
 В.А. Орлов, Н.И. Филиппов. Теория информации в упражнениях и задачах. – М.: Высшая школа, 1978.
 В.А. Кочегуров. Введение в прикладную теорию информации. Учеб.
пособие. - Томск: Изд. ТПУ, 1999. - 95 с.
 http://www.intuit.ru
–
веб-портал
«Интернет
университета
информационных технологий».
7. Средства (ФОС) текущей и итоговой оценки качества освоения модуля
(дисциплины)
Оценка качества освоения дисциплины, а также оценка успеваемости
бакалавров осуществляется по результатам:
 посещения лекций;
 работы на практических занятиях;
 выполнении домашних заданий;
 решении контрольной работы;
 подготовки и защиты реферата;
 сдачи экзамена.
7.1. Банк данных теоретических вопросов
Примерный перечень вопросов для оценки текущей успеваемости и
промежуточной аттестации студентов по итогам освоения модуля
(дисциплины):
Проведите анализ полученного сообщения.
Проследите последовательность смены носителей информации.
Приведите примеры сообщений, составленных из конкретного набора букв.
Установите алфавит в приведенных системах отображения информации.
Приведите примеры систем, характеризующихся термодинамической,
физической и информационной энтропиями.
6. Найдите численные соотношения между единицами измерения энтропии.
1.
2.
3.
4.
5.
8
7. Вычислите средние информационные энтропии в заданных примерах.
8. Вычислить количество информации в заданных примерах.
9. Вычислить пропускную способность линий связи.
10.Вычислить физические характеристики каналов связи.
11.Построить экономный код Хаффмана заданного алфавита.
12.Построить блочный код Шеннона-Фано.
13.Определить число контрольных сигналов при заданной кратности ошибок.
14.Привести возможные варианты шифрования заданного сообщения.
8. Учебно-методическое и информационное обеспечение модуля
(дисциплины)
Основная литература
1. В.А. Кочегуров. Введение в прикладную теорию информации. Учеб.
пособие. - Томск: Изд. ТПУ, 1999. - 95 с.
2. В.И. Дмитриев. Прикладная теория информации. – М.: Высшая школа,
1989.
3. В.А. Орлов, Н.И. Филиппов. Теория информации в упражнениях и
задачах. – М.: Высшая школа, 1978.
Дополнительная литература
1. У.М. Сиберт. Цепи, сигналы, системы. Т.1,2. – М.: Мир, 1988.
2. Р.Л. Стратонович. Теория информации. – М.: Сов. Радио, 1978.
3. Д.Д. Кловский, В.А. Шилкин. Теория передачи сигналов в задачах. –М.:
Связь, 1978.
4. А. Ренье. Трилогия о математике. – М.: Мир, 1980.
Программное обеспечение
1. Операционная система Windows 2000/NT/ХТ.
2. Антивирусные программы. Архиваторы.
3. Microsoft Office 2003/2007.
10. Материально-техническое обеспечение модуля (дисциплины)
Программа составлена на основе Стандарта ООП ТПУ в соответствии с
требованиями ФГОС по направлению и профилю подготовки 010400
«Прикладная математика и информатика».
Программа одобрена на заседании кафедры ПМ
__________________________________________________________
(протокол № ____ от «___» _______ 20___ г.).
9
Автор(ы): к.т.н., ассистент Марченко В.В.
10