Измерение информации. Формула вычисления количества информации

Содержание

Слайд 2

Задание № 1. Определите количество информации с позиции «информативно» или «не информативно».

Столица

Задание № 1. Определите количество информации с позиции «информативно» или «не информативно».
России – Москва
Сумма квадратов катетов равна квадрату гипотенузы
Эйфелева башня имеет высоту 300 метров и вес 9000 тонн
Дифракцией света называется совокупность явлений, которые обусловлены волновой природой света и наблюдаются при его распространении в среде с резко выраженной оптической неоднородностью

Слайд 3

Для человека информация — это знания человека.
Получение новой информации приводит к

Для человека информация — это знания человека. Получение новой информации приводит к
расширению знаний. Если некоторое сообщение приводит к уменьшению неопределенности нашего знания, то можно говорить, что такое сообщение содержит информацию.
Отсюда следует вывод, что сообщение информативно (т.е. содержит ненулевую информацию), если оно пополняет знания человека.

Слайд 4

Информативность сообщения

Но для того чтобы сообщение было информативно оно должно еще быть

Информативность сообщения Но для того чтобы сообщение было информативно оно должно еще
понятно.
Получение всяких знаний должно идти от простого к сложному. И тогда каждое новое сообщение будет в то же время понятным, а значит, будет нести информацию для человека.
Сообщение несет информацию для человека, если содержащиеся в нем сведения являются для него новыми и понятными.
Количество информации – мера уменьшения неопределенности знания при получении информационного сообщения

Слайд 5

Единица измерения информации

Единица измерения информации была определена в науке, которая называется теорией

Единица измерения информации Единица измерения информации была определена в науке, которая называется
информации. Эта единица носит название «бит». Ее определение звучит так:
Сообщение, уменьшающее неопределенность знаний в два раза, несет 1 бит информации.
Неопределенность знаний о некотором событии — это количество возможных результатов события.

Слайд 6

Пример:

После сдачи зачета или выполнения контрольной работы ученик мучается неопределенностью, он не

Пример: После сдачи зачета или выполнения контрольной работы ученик мучается неопределенностью, он
знает, какую оценку получил.
«Зачет», «незачет»? «2», «3», «4» или «5»?
Наконец, учитель объявляет результаты, и он получаете одно из двух информационных сообщений: «зачет» или «незачет», а после контрольной работы одно из четырех информационных сообщений: «2», «3», «4» или «5».
Информационное сообщение об оценке за зачет приводит к уменьшению неопределенности знания в два раза, так как получено одно из двух возможных информационных сообщений. Информационное сообщение об оценке за контрольную работу приводит к уменьшению неопределенности знания в четыре раза, так как получено одно из четырех возможных информационных сообщений.

Слайд 7

Пример:

На книжном стеллаже восемь полок. Книга может быть поставлена на любую из

Пример: На книжном стеллаже восемь полок. Книга может быть поставлена на любую
них. Сколько информации содержит сообщение о том, где находится книга?

Задаем вопросы:
- Книга лежит выше четвертой полки?
- Нет.
- Книга лежит ниже третьей полки?
- Да .
- Книга — на второй полке?
- Нет.
- Ну теперь все ясно! Книга лежит на первой полке!
Каждый ответ уменьшал неопределенность в два раза.
Всего было задано три вопроса. Значит набрано 3 бита информации. И если бы сразу было сказано, что книга лежит на первой полке, то этим сообщением были бы переданы те же 3 бита информации.

Слайд 8

Формула вычисления кол-ва информации

Если обозначить возможное количество событий, или, другими словами, неопределенность

Формула вычисления кол-ва информации Если обозначить возможное количество событий, или, другими словами,
знаний N, а буквой I количество информации в сообщении о том, что произошло одно из N событий, то можно записать формулу:
2I = N
Количество информации, содержащееся в сообщении о том, что произошло одно из N равновероятных событий, определяется из решения показательного уравнения: 2I = N.

Слайд 9

Задание 1:

Сколько информации содержит сообщение о том, что из колоды карт достали

Задание 1: Сколько информации содержит сообщение о том, что из колоды карт достали король пик?
король пик?

Слайд 10

Задание 1:

Сколько информации содержит сообщение о том, что из колоды карт достали

Задание 1: Сколько информации содержит сообщение о том, что из колоды карт
король пик?
Решение:
В колоде 32 карты. В перемешенной колоде выпадение любой карты равновероятное событие.
N = 32. I - ?
2I = N
2I = 32
25 = 32
I = 5 бит

Слайд 11

Задание 2:

Сколько информации содержит сообщение о выпадении грани с числом 3 на

Задание 2: Сколько информации содержит сообщение о выпадении грани с числом 3 на шестигранном игральном кубике?
шестигранном игральном кубике?

Слайд 12

Задание 2:

Сколько информации содержит сообщение о выпадении грани с числом 3 на

Задание 2: Сколько информации содержит сообщение о выпадении грани с числом 3
шестигранном игральном кубике?
Решение:
N = 6. I - ?
2I = N
2I = 6
22 < 6 < 23
I = 2.58496 бит

Слайд 13

Задание 3:

Сколько информации содержит сообщение о том, что на поле 4х4 клетки

Задание 3: Сколько информации содержит сообщение о том, что на поле 4х4
одна из клеток закрашена?
В книге 512 страниц. Сколько информации несет сообщение о том, что закладка лежит на какой-либо странице?

Слайд 14

Задание 4:

Сколько бит информации содержит сообщение, что случайным образом выбрано одно число

Задание 4: Сколько бит информации содержит сообщение, что случайным образом выбрано одно
в диапазоне от 11 до 74 включительно?
Задумано нечётное число от 1 до 7. Сколько бит информации в сообщении о том, какое число угадано? Сколько вопросов надо задать, чтобы угадать это число?
Имя файла: Измерение-информации.-Формула-вычисления-количества-информации.pptx
Количество просмотров: 72
Количество скачиваний: 0