Силлабус ТИЭ РЭТ рус

КАЗАХСКИЙ НАЦИОНАЛЬНЫЙ УНИВЕРСИТЕТ ИМ.АЛЬ-ФАРАБИ
Физико-технический факультет
Кафедра твердого тела и нелинейной физики
Утверждено
На заседании Ученого Совета физического факультета
Протокол № __ от "__"
2011г.
Декан факультета________ доц. Алиев Б.А.
"____"________________2011г.
По курсу Теория информации и энтропии
СИЛЛАБУС (SYLLABUS)
для студентов 2 курса специальности 5В071900-Радиофизика, электроника и
телекоммуникации
2 курс, р/о, осенний семестр, 3 кредита
ФИО лектора: Иманбаева Акмарал Каримовна
Телефон 3773346
ФИО преподавателя: Иманбаева Акмарал Каримовна.
Телефон: 37373346
e-mail: akmaral@physics.kz
каб.: 425
Пререквизиты: общая физика, информатика, математика1,2
Постреквизиты: методы защиты информации в телекоммуникационных системах,
Средства и методы радиоэлектронной борьбы.
Цель и задачи изучения дисциплины:
Цель преподавания курса - ознакомление с основами теории информации и теории
кодирования, которые являются фундаментом теории связи, информатики, и кодирования.
Задачи:
 Освоение способов измерения, передачи и обработки информации.
 Освоение методов кодирования источника (сжимающее кодирование).
 Освоение методов канального кодирования (помехоустойчивое кодирование).
 Вычисления информационной энтропии различных процессов.
 Освоение основ теории защиты информации.
При освоении курса «Теория информации и энтропии» студентам необходимо знать:
- способы хранения, обработки, преобразования, передачи и измерения информации;
- статистические и словарные методы сжатия информации;
- криптографические методы защиты информации.
Бакалавр должен уметь:
- измерять (вычислять) количество информации и информационную энтропию
дискретных случайных величин;
- вычислять полную, условную и случайную энтропию источника информации;
- использовать алгоритмы кодирования источника и канала связи.
© Иманбаева А.К.
1
Физика факультеті КазҰУ
Должен овладеть:
- методами кодирования источника информации;
- методами кодирования канала связи;
- криптографическими методами защиты информации.
Структура курса:
Н
ед
1
2
3
4
5
6
7
8
9
10
11
Наименование темы
Часы
Лек Предмет «Теория информации и энтропии».
Основные разделы кибернетики. Основоположники
кибернетики. Категория управления.
Пр Системы
счисления.
Арифметические
основы
компьютеров.
Лек Понятие информации. Определение Шеннона. Виды
информации. Дискретная (цифровая) и непрерывная
(аналоговая) информация. Процесс дискретизации,
частота дискретизации. Теорема Найквиста.
1
Пр
Представление натуральных чисел в 2-, 8-, 16-ти
системах счисления. Таблицы ASCII.
Лек Вероятностный подход к измерению дискретной и
непрерывной
информации.
Информационная
энтропия. Информационная энтропия или энтропия
Шеннона
Пр Измерение количества информации и энтропии.
2
Лек Радиотехническая модель передачи информации.
Источник
информации.
Кодирование.
Кодер
источника. Сжатие информации.
Пр Расчет количества информации и энтропии.
Контрольная работа №1
Лек Оптимальное кодирование. Простейшие алгоритмы
сжатия.
Пр Кодирование по методу Шеннона
Лек Адаптивные алгоритмы сжатия. Кодирование
Хаффмана. Адаптивное арифметическое кодирование.
Пр Кодирование по методу Хаффмана.
Алгоритм арифметического кодирования
Лек Словарно-ориентированные коды.
Пр Методы Лемпель-Зива.
Лек Кодер канала. Помехоустойчивое кодирование.
Модулятор. Функция модулятора. Канал связи
Приемник.
Пр Корректирующие коды Хэмминга
Лек Сжатие информации с потерями.
Пр Сжатие даных. Контрольная работа №2
Лек Сжатие изображений.
Пр Алгоритмы сжатия изображений. Фрактальное сжатие.
Лек Полная, условная и случайная энтропия. Энтропия
дерева.
Пр Расчеты условной энтропии и энтропия сложного
1
© Иманбаева А.К.
2
Темы СРС
2
1
1
2
2
1
2
1
2
1
2
1
2
1
2
1
2
1
2
Физика факультеті КазҰУ
12
13
14
15
процесса.
Лек Энтропия случайных процессов.
Пр Расчет информационной энтропии
сигналов
хаотических
Лек Основы
теории
защиты
информации.
Криптография. Криптосистема без передачи ключей.
Пр Шифры простой замены. Шифры перестановки.
Лек Криптосистема с открытым ключем.
Пр Алгоритмы криптосистем без передачи ключей.
Алгоритмы криптосистем с открытым ключем
Лек Электронная подпись. Информация в Интернет.
Пр Контрольная работа №3
1
2
1
2
1
2
1
2
Список рекомендуемой литературы
Основная:
1. Лидовский В.В. Теория информации: Учебное пособие. – М., 2002. – 116 с.
2. Хэмминг Р.В. Теория кодирования и теория информации. М.: Радио и связь. 1983. –
176 с.
3. Духин А.А. Теория информации. - Издательство: Гелиос АРВ (2007). 248 с.
4. Нечаев, В.И. Элементы криптографии: (Основы теории защиты информации).- М.:
Высш. шк., 1999.- 108, [1] с.
Дополнительная:
1. Яглом А.М. и Яглом И.М. Вероятность и информация. М.: Наука, 1973. – 511 с.
2. Молдовян, А. А. и др. Криптография: Учеб..- СПб.: Лань, 2001.- 218, [6] с.
3. http://aakytmanov.professorjournal.ru/inftheory
Формы контроля знаний:
1. Контрольная работа №1. Расчет количества информации и энтропии
2. Контрольная работа №2. Методы сжатия информации.
3. Контрольная работа №3. Криптография
Экзамен: во время сессии.
Критерии оценок знаний, баллы
Контрольная работа –
15 балл*3 = 45
Текущий контроль 15 = 15
СРСП
10 = 10
Экзамен –
40
Промежуточная аттестация проводится в виде экзамена. Максимальный показатель
успеваемости за промежуточную аттестацию составляет 40 %.
Итоговый показатель успеваемости по дисциплине определяется как сумма
показателей успеваемости по рубежным контролям (60%) и промежуточной аттестации –
экзамена (40%). Максимальное значение итогового показателя составляет 100%.
Политика курса:
а) Активность во время занятий;
с) Подготовка к занятиям, выполнение домашнего задания и СРС и т.д.
Недопустимо:
а) Уход с занятий; в) Обман и плагиат; с) Несвоевременная сдача заданий и др.
© Иманбаева А.К.
3
Физика факультеті КазҰУ
Карта учебно-методической обеспеченности дисциплины
№
Факульте
т
1
Физикотехническ
ий
2
Физикотехническ
ий
5В071900РЭТ
3
Физикотехническ
ий
5В071900РЭТ
4
Физикотехническ
ий
5В071900РЭТ
5
Физикотехническ
ий
Физикотехническ
ий
5В071900РЭТ
6
Код и
наименов
ание
специаль
ности
5В071900РЭТ
Наименова
ние
дисциплин
ы
Авторы и название учебника
Теория
информаци
ии
энтропии
Теория
информаци
ии
энтропии
Теория
информаци
ии
энтропии
Теория
информаци
ии
энтропии
Лидовский В.В. Теория
информации: Учебное пособие.
– М., 2002. – 116 с.
5В071900РЭТ
Хэмминг Р.В. Теория
кодирования и теория
информации. М.: Радио и связь.
1983. – 176 с.
Духин А.А. Теория
информации. - Издательство:
Гелиос АРВ (2007). 248 с.
Нечаев, В.И. Элементы
криптографии: (Основы теории
защиты информации).- М.:
Высш. шк., 1999.- 108, [1] с.
Молдовян, А. А. и др.
Криптография: Учеб..- СПб.:
Лань, 2001.- 218, [6] с.
Яглом А.М. и Яглом И.М.
Вероятность и информация. М.:
Наука, 1973. – 511 с.
Количество в библиотеке КазНУ
имени аль-Фараби
основная
дополнительн
ая
каз.
рус.
каз.
рус.
подана заявка в
библиотеку
подана заявка в
библиотеку
подана заявка в
библиотеку
10
10
2
Утверждено на заседании кафедры
Протокол №
« »
2011 г.
Заведующий кафедрой
О.Ю. Приходько
Преподаватель
А.К. Иманбаева
© Иманбаева А.К.
4
Физика факультеті КазҰУ