Содержательный подход

Тема: Содержательный подход.

Информация - это сообщение, которое приводит к уменьшению неопределённости знаний.
С точки зрения теории информации:

1 бит
Сообщение, уменьшающее неопределенность знаний в два раза, несет 1 бит информации.

Поиграем:
Загадайте целое число в диапазоне от 1 до 8. Я отгадаю его с трёх попыток.
Загадайте целое число в диапазоне от 1 до 16. Я отгадаю его с четырёх попыток.
Каждый раз я задавал вопрос, который уменьшал неопределённость в 2 раза.

Формула вычисления количества информации
N=2I
N - возможное количество равновероятных событий
I - количество информации в сообщении о том, что произошло одно из N событий
Сообщение о загаданном числе в диапазоне от 1 до 8 несёт в себе 3 бита информации, т.к. 8=23.
Сообщение о загаданном числе в диапазоне от 1 до 16 несёт в себе 4 бита информации, т.к. 16=24.

Домашнее задание
§1.3.1-1.3.2
Задание 1.6