Реферат: Программа дисциплины опд. Р , дн. В. 2 Теория информационных процессов для студентов специальности 230102 Автоматизированные системы обработки информации и управления
Министерство образования и науки Российской Федерации
Федеральное агентство по образованию
ОБНИНСКИЙ ГОСУДАРСТВЕННЫЙ ТЕХНИЧЕСКИЙ УНИВЕРСИТЕТ АТОМНОЙ ЭНЕРГЕТИКИ (ИАТЭ)
УТВЕРЖДАЮ
Проректор по учебной работе
___________________ С.Б. Бурухин
«______»____________ 200__ г.
^ ПРОГРАММА ДИСЦИПЛИНЫ
ОПД.Р.1., ДН.В.2 ТЕОРИЯ ИНФОРМАЦИОННЫХ ПРОЦЕССОВ
для студентов специальности
230102 – Автоматизированные системы обработки информации и управления
направления 230100 – Информатика и вычислительная техника
Форма обучения: очная, заочная
Объем дисциплины и виды учебной работы в соответствии с учебными планами
Вид учебной работы
Всего часов
(230100, 230102
очное)
Семестры
Всего часов
(230102 заочн.)
Курс
6
4
Общая трудоемкость дисциплины
85
85
85
85
Аудиторные занятия
51
51
18
18
Лекции
34
34
10
10
Практические занятия и семинары
17
17
8
8
Лабораторные работы
–
–
–
–
Курсовой проект (работа)
–
–
–
–
Самостоятельная работа
34
34
67
67
Расчетно-графические работы
–
–
–
–
Вид итогового контроля (зачет, экзамен)
Зач.
Зач.
Зач.
Зач.
Обнинск 2008
Программа составлена с соответствии с Государственными образовательными стандартами высшего профессионального образования по направлению подготовки
дипломированного специалиста 654600 Информатика и вычислительная техника (№ 224 тех/дс от 27.03.2000),
дипломированного специалиста 654700 Информационные системы (№ 276 тех/дс от 27.03.2000),
бакалавров 552800 Информатика и вычислительная техника (№ 35 тех/бак от 13.03.2000).
Программу составила:
___________________ Н.И. Гонтарь, ассистент кафедры АСУ
Программа рассмотрена на заседании кафедры АСУ (протокол № 6-у от 25.01.2008 г.)
Заведующий кафедрой АСУ
___________________ А.Н. Анохин
«____»_____________ 200__ г.
СОГЛАСОВАНО
Начальник учебно-методического
управления
___________________ Ю.Д. Соколова
Декан
факультета кибернетики
___________________ А.В. Антонов
«____»_____________ 200__ г.
Декан
факультета заочного отделения
___________________ А.А. Росляков
«____»_____________ 200__ г.
^ 1. Цели и задачи дисциплины
Целью изучения дисциплины является освоение основных понятий, принципов и математических моделей теории информационных процессов, а также теоретических основ кодирования в каналах передачи информации.
Задачами дисциплины являются формирование базовых знаний об основных информационных характеристиках компонентов систем передачи данных, освоение фундаментальных понятий и теоретических принципов кодирования в каналах с помехами и без помех, изучение важнейших классов эффективных и помехоустойчивых кодов, получение практических навыков кодирования информации.
^ 2. Требования к уровню освоения содержания дисциплины
В результате изучения дисциплины студент должен
знать: основные свойства и характеристики информации, виды и общие принципы информационных процессов; классификацию и основные свойства каналов передачи информации; понятия энтропии, количества информации и информационные характеристики источников сообщений и каналов связи; принципы и алгоритмы кодирования, классификацию и свойства основных эффективных и помехоустойчивых кодов.
уметь: применять методы вычисления основных информационных характеристик в системах передачи данных, алгоритмы оптимального сжатия информации и помехоустойчивого кодирования, проводить анализ эффективности информационных систем и процессов.
иметь навыки: вычисления энтропии, количества информации и пропускной способности; построения сжимающих и помехозащищенных кодов.
^ Входные дисциплины: Математический анализ, Дискретная математика, Теория вероятностей и математическая статистика, Информатика.
Выходные дисциплины: Сетевые технологии, Информационная безопасность и защита информации, Проектирование АСОИУ.
^ 3. Содержание дисциплины
3.1. Лекции
Номер темы
Тема
Число часов
(очное)
Число часов
(заочн.)
1
Предмет, основные задачи и понятия теории информационных процессов
2
-
2
Принципы и модели передачи информации. Каналы связи и их классификация.
2
1
3
Количественные характеристики неопределенности и информации и их взаимосвязи
8
2
4
Статистические модели и информационные характеристики источников и каналов связи. Вычисление пропускной способности
6
1
5
Основные понятия теории кодирования. Принципы кодирования в каналах с помехами и без помех
4
1
6
Методы эффективного кодирования в каналах без помех
2
1
7
Принципы обнаружения и исправления ошибок в двоичных каналах с помехами. Помехоустойчивое кодирование
4
2
8
Линейные (n,k)-коды
4
1
9
Циклические БЧХ-коды
2
1
^ 1. Предмет, основные задачи и понятия теории информационных процессов. [1-3]. Прикладное значение теории информационных процессов. Понятие информации и информационного процесса. Основные характеристики и свойства информации. Виды информационных процессов. теория информации Шеннона.
^ 2. Принципы и модели передачи информации. Каналы связи и их классификация [2-3]. Функциональная модель процесса передачи информации. Канал передачи сообщений и его основные элементы. Понятие источника сообщений. Статистические модели дискретных и непрерывных источников. Возникновение ошибок в каналах связи. Диаграмма канала, вероятности ошибочной и верной передачи. Двоичный симметричный канал. Дискретные каналы без памяти, их свойства.
^ 3. Количественные характеристики неопределенности и информации и их взаимосвязи [1-3]. Понятие энтропии как меры неопределенности состояний источника. Количественное измерение энтропии. Энтропия дискретного источника с равновероятными состояниями и с различными вероятностями состояний. Основные свойства энтропии.
Энтропия зависимых сигналов. Условная энтропия дискретного источника, ее вычисление и основные свойства. Понятие совместной энтропии.
Определение взаимной информации между случайными событиями. Количество информации как мера снятой неопределенности. Средняя взаимная информация в канале передачи сообщений, способы ее вычисления и основные свойства. Соотношения между различными информационными характеристиками.
Непрерывные источники сообщений. Понятие дифференциальной энтропии источника. Свойства дифференциальной энтропии. Количество информации в непрерывных каналах. -энтропия и ее вычисление в гауссовском канале с независимым белым шумом.
^ 4. Статистические модели и информационные характеристики источников и каналов связи. Вычисление пропускной способности [2-3]. Обобщенная марковская модель эргодического источника сообщений. Свойства эргодических источников. Асимптотическая равновероятность длинных последовательностей и избыточность сообщений. Количественные показатели избыточности. Энтропия дискретного источника с зависимыми состояниями. Производительность дискретного источника.
Математические модели дискретных каналов. Характеристики скорости передачи информации по дискретному каналу. Понятие пропускной способности. Вычисление пропускной способности дискретных каналов с помехами и без помех. Способы повышения качества канала связи и эффективности передачи информации.
Информационные характеристики непрерывных источников сообщений. -производительность непрерывного источника. Пропускная способность гауссовского канала и ее свойства.
^ 5. Основные понятия теории кодирования. Принципы кодирования в каналах с помехами и без помех [1-3]. Цели и задачи кодирования. Определение кода, простейшие правила кодирования. Классификация кодов. Равномерные и неравномерные, обратимые и необратимые коды. Необходимые условия обратимости кода.
Избыточность кодовых комбинаций в каналах с помехами и без помех. Проблема эффективного кодирования и пути ее решения. Характеристики избыточности кодов. Основная теорема Шеннона об оптимальном кодировании при наличии и отсутствии помех.
^ 6. Методы эффективного кодирования в каналах без помех [1-3]. Неравномерные двоичные коды, условия их эффективности. Понятие средней длины кода. Префиксные коды, их графическое представление. Свойства префиксных кодов. Неравенство Крафта, его теоретический смысл и практическое значение. Построение оптимального неравномерного префиксного кода с использованием алгоритмов Шеннона-Фано и Хаффмана.
^ 7. Принципы обнаружения и исправления ошибок в двоичных каналах с помехами. Помехоустойчивое кодирование [1,2]. Математические модели ошибок в двоичных каналах с помехами. Общая классификация помехоустойчивых кодов. Принципы обнаружения ошибок в кодовых комбинациях. Использование контрольных разрядов. Разделимые и неразделимые коды. Коды с проверкой на четность. Понятие кодового пространства, метрики Хэмминга и Ли. Характеристики верности передачи информации в каналах связи. Понятие надежности кода.
Принципы исправления ошибок в двоичных блоковых кодах. Связь между корректирующей способностью кода и кодовым расстоянием. Оптимальные корректирующие коды. Неравенства Хэмминга.
^ 8. Линейные (n,k)-коды [1-3]. Определение и основные свойства линейных кодов. Матричное описание линейного кода. Порождающая матрица, алгоритм кодирования линейным (n,k)-кодом. Проверочная матрица линейного кода, ее свойства. Декодирование линейных кодов с обнаружением и исправлением ошибок. Коды Хэмминга.
^ 9. Циклические БЧХ-коды [1-3]. Полиномиальная структура и свойства циклических кодов. Коды Боуза-Чоудхури-Хоквингема (БЧХ). Способы описания циклических кодов. Порождающий полином циклического кода и его свойства. Выбор и построение порождающего полинома. Алгоритм кодирования циклическими кодами. Декодирование циклического кода с исправлением ошибок: проверочный полином, синдром ошибки, общий алгоритм. Построение разделимых и неразделимых циклических кодов.
^ 3.2. Практические и семинарские занятия
Тема
Тема практического или семинарского занятия
Число часов
(очное)
Число часов
(заочн.)
3
Понятие энтропии и ее вычисление. Энтропия дискретного источника информации, ее свойства [1-4]
2
1
3
Количество информации в дискретных каналах связи [1-4]
2
1
3
Непрерывные источники информации. Дифференциальная энтропия и ее свойства [1-3]
2
1
4
Информационные характеристики дискретных источников и каналов связи. Избыточность источника. Пропускная способность канала, ее вычисление [1-3]
2
1
5,6
Принципы и методы эффективного кодирования в каналах без помех. Характеристики избыточности кодов. Префиксные коды [1-3]
2
1
7
Модели ошибок в двоичных каналах. Понятие кодового пространства, кодовое расстояние. Оптимальные корректирующие коды [2]
2
1
8
Матричные линейные коды: свойства, алгоритмы кодирования и декодирования [2-3]
2
1
9
Циклические БЧХ-коды, их построение и декодирование [1-3]
2
1
^ 3.3. Лабораторный практикум – Не предусмотрен
3.4. Курсовые проекты (работы) – Не предусмотрены
3.5. Формы промежуточного контроля
Раздел(ы)
Форма контроля
Неделя
3
Домашнее задание
5
4-6
Контрольная работа
10
7-9
Контрольная работа
16
^ 3.6. Самостоятельная работа
Студентами очной формы обучения самостоятельно изучаются теоретические разделы и практические пособия, дающие углубленные сведения по основным темам дисциплины
Содержание самостоятельной работы
Литература
Объем, час.
Форма
контроля
Количественные характеристики неопределенности и информации
[1-3, 7]
4
Домашнее задание
Дифференциальная энтропия и взаимные информационные характеристики непрерывных источников информации
[3, 4, 7]
16
Модели и информационные характеристики источников и каналов связи
[3]
4
Контрольная работа №1
Эффективное кодирование
[1-3]
4
Помехоустойчивое кодирование
[1-3, 11]
6
Контрольная работа №2
Студентами заочной формы обучения самостоятельно изучаются материалы по всем разделам дисциплины, дополнительно к аудиторным занятиям
Содержание самостоятельной работы
Литература
Объем, час.
Форма
контроля
Модели дискретных и непрерывных источников информации
[3]
4
Контрольная работа
Количественные характеристики неопределенности и информации
[1-3, 7, 13]
10
Дифференциальная энтропия и взаимные информационные характеристики непрерывных источников информации
[3, 4, 7]
10
Модели и информационные характеристики источников и каналов связи
[1]
8
Основные принципы кодирования
[1-3]
4
Эффективное кодирование
[1-3]
8
Принципы обнаружения и исправления ошибок в каналах с помехами
[1-3]
8
Помехоустойчивое кодирование
[1-3, 11]
16
^ 4.1. Рекомендуемая литература
4.1.1. Основная литература
1. Яглом А.М., Яглом И.М. Вероятность и информация. – М.: КомКнига, 2007. – 512 с.
2. Лидовский В.В. Теория информации: Учебное пособие. – М.: Компания Спутник+, 2004. – 111с.
^ 4.1.2. Дополнительная литература
3. Дмитриев В.В. Прикладная теория информации. – М.: Высшая школа, 1989. – 320 с. (5 экз.)
4. Галлагер Р. Теория информации и надежная связь. – М.: Советское радио, 1974. – 720 с.
5. Игнатов В. А. Теория информации и передачи сигналов. – М.: Радио и связь, 1991. – 279 с.
6. Советов Б. Я. Теория информации. – Л.: Изд-во ЛГУ, 1987.
7. Орлов В.А., Филиппов Л.И. Теория информации в упражнениях и задачах. – М.: Высшая школа, 1976. – 136 с.
8. Куликовский Л.Ф., Мотов В.В. Теоретические основы информационных процессов. – М.: Высшая школа, 1987. – 248 с.
9. Шеннон К. Работы по теории информации и кибернетике. – М.: Изд-во иностр. лит., 1963. – 830 с.
10. Стратонович Р.Л. Теория информации. – М.: Советское радио, 1975. – 424 с.
11. Берлекэмп Э. Алгебраическая теория кодирования. – М.: Мир, 1971. – 480 с.
12. Мазур М. Качественная теория информации. – М.: Мир, 1974. – 240 с.
13. Бовбель Е.И., Дайнеко И.К., Изох В.В. Элементы теории информации. – Минск: Изд-во БГУ, 1974. – 112 с.
4.2. Средства обеспечения освоения дисциплины
Электронные учебники и учебные пособия; расчетные обучающие программы.
5. Материально-техническое обеспечение дисциплины
Не предусмотрено
еще рефераты
Еще работы по разное
Реферат по разное
Программа дисциплины (спецкурса) Ответственность за налоговые преступления для специальности 030501. 65 Юриспруденция подготовки специалиста
17 Сентября 2013
Реферат по разное
Программа дисциплины Философия для специальности 080504. 65 Государственное и муниципальное управление подготовки дипломированного специалиста
17 Сентября 2013
Реферат по разное
Учебная программа дисциплины дисциплина: Социальная экология Укрупненная группа: 040000 Социальные науки
17 Сентября 2013
Реферат по разное
Программа дисциплины дпп. Р. 01 Мутационные изменения растений и животных цели и задачи дисциплины
17 Сентября 2013