Основы теории кодирования, криптографии и передачи информации

При взаимодействии сигналов с физическими телами возникают изменения свойств.
Это явление называется регистрацией сигналов.
Зарегистрированные сигналы называют данными.
Наиболее распространены следующие определения информации:
Информация – это совокупность сведений, подлежащих хранению, передаче, обработке и использованию в человеческой деятельности.
Информация – это данные и методы их обрабатывающие.
Информация – это продукт взаимодействия данных и адекват­ных им методов преобразования данных.
Основные понятия и определения теории информации

Основные понятия и определения
Кодирование - это преобразование сообщений в сигнал, т.е. преобразование сообщений в кодовые комбинации.
Код - система соответствия между элементами сообщений и кодовыми комбинациями.
Кодер - устройство, осуществляющее кодирование.
Декодер - устройство, осуществляющее обратную операцию, т.е. преобразование кодовой комбинации в сообщение.
Алфавит - множество возможных элементов кода, т.е. элементарных символов (кодовых символов) X = {xi}, где i = 1, 2,..., m.

Задачи теории информации и кодирования
К теории информации относят результаты решения ряда фундаментальных теоретических вопросов:
-анализ сигналов как средства передачи сообщений, включающий вопросы оценки переносимого ими «количества информации»;
-анализ информационных характеристик источников сообщений и каналов связи и обоснование принципиальной возможности кодирования и декодирования сообщений, обеспечивающих предельно допустимую скорость передачи сообщений по каналу связи, как при отсутствии, так и при наличии помех.
Теория кодирования - раздел теории информации, связанный с задачами кодирования и декодирования сообщений, поступающих к потребителям и посылаемых из источников информации.

Цели Кодирования
Повышение эффективности передачи данных, за счет достижения максимальной скорости передачи данных.
-> Теория экономичного (эффективного, оптимального) кодирования занимается поиском кодов, позволяющих в каналах без помех повысить эффективность передачи информации за счет устранения избыточности источника и наилучшего согласования скорости передачи данных с пропускной способностью канала связи.
2) Повышение помехоустойчивости при передаче данных.
-> Теория помехоустойчивого кодирования занимается поиском кодов, повышающих достоверность передачи информации в каналах с помехами.

Виды информации
По признаку «область возникновения» информация делится на:
♦ элементарную — отражает процессы и явления не­одушевленной природы;
♦ биологическую — отражает процессы растительно­го и животного мира;
♦ социальную — отражает процессы человеческого об­щества.
По способу передачи и восприятия различают инфор­мацию:
♦ визуальную — передается видимыми образами и символами;
♦ аудиальную — передается звуками;
♦ тактильную — передается ощущениями;
♦ органо-лептическую — передается запахами и вку­сом;
♦ машинную — выдаваемую и воспринимаемую сред­ствами вычислительной техники.

Свойства информации
полезность;
полнота;
достоверность;
новизна, актуальность;
ценность;
ясность;
защищенность.

Качество информации
Репрезентативность;
Содержательность;
Достаточность;
Доступность;
Актуальность;
Своевременность;
Точность;
Достоверность;
Устойчивость.

Этапы обращения информации в автоматизированных системах

Схема системы передачи информации

Модель системы передачи дискретной информации

Методы и модели оценки количества информации
структурные (объёмные);
Геометрическая;
Комбинаторная;
Аддитивная;
энтропийный (статистический);
алгоритмический.

Геометрическая мера информации
предполагает измерение параметра геометрической модели информационного сообщения (длины, площади, объема и т. п.) в дискретных единицах.

В комбинаторной мере количество информации вычисляется как количество различных комбинаций элементов, содержащихся в сообщении.
L=mn
m- число элементов алфавита, n – число элементов в сообщении
Количество информации по Хартли определяется по формуле
где h - основание системы счисления (количество состояний, которое может принимать элемент, хранящий данное число);
l - число элементов.

Схематическое изображение демона Максвелла