Измерение информации

Работа 2 (2 часа) за 07.10.2021г.
Изучите конспект
Выполните задания 1, 2 и 3 на последних слайдах. (можно письменно или в электронном виде.)
Фото выполненной работы (если выполняли письменно) или файл (если выполняли в электронном виде) присылать в личном сообщении в контакте https://vk.com/id106522472. В имени файла указывайте свою Фамилию, группу, предмет и номер работы.
Работу необходимо сдать до 07.10.21 г.

Сообщение
Люди обмениваются информацией в форме сообщений.
Сообщение – это и речь, которую мы слушаем (радиосообщение, объяснение учителя), и воспринимаемые нами зрительные образы (фильм по телевизору, сигнал светофора), и текст книги, которую мы читаем и т. д.
Информативным назовем сообщение, которое пополняет знания человека, то есть несет для него информацию.

Информативность сообщения
Для разных людей одно и то же сообщение с точки его информативности может быть разным.
Если сведения «старые», то есть человек это уже знает, или содержание сообщения непонятно человеку, то для него это сообщение неинформативно.
Информативно то сообщение, которое содержит новые и понятные сведения.

Примеры
Вопрос:
- Содержит ли информацию вузовский учебник по высшей математике с точки зрения первоклассника?
Ответ:
- Да, содержит с любой точки зрения!
Потому что в учебнике заключены знания людей: авторов учебника, создателей математического аппарата (Ньютона, Лейбница и др.), современных математиков.
Другой вопрос:
- Будет ли информативным текст этого учебника для первоклассника, если он попытается его прочитать?
Иначе говоря, может ли первоклассник с помощью этого учебника пополнить собственные знания?
Очевидно, что ответ отрицательный.
Читая учебник, то есть, получая сообщения, первоклассник ничего не поймет, а, стало быть, не обратит его в собственные знания.

Примеры
Вопрос:
- Какой город является столицей Франции?
Ответ:
- Столица Франции – Париж.
Сообщение информативно?
- Нет, так как известно.

Примеры
Вопрос:
- Что изучает коллоидная химия?
Ответ:
- Коллоидная химия изучает дисперсионные состояния систем, обладающих высокой степенью раздробленности.
Сообщение информативно?
- Нет, так не понятно.

Примеры
Вопрос:
- Какую высоту и вес имеет Эйфелева башня?
Ответ:
- Эйфелева башня имеет
высоту 300 метров
и вес 9000 тонн.
Сообщение информативно:
- Да.

Информативность сообщения
Если сообщение неинформативно для человека, то количество информации в нем с точки зрения этого человека равно нулю.
Количество информации в информативном сообщении больше нуля.

Информация и неопределенность
Допустим, вы оказались на перекрестке в незнакомом городе и не знаете, как пройти к вокзалу.
Ваше состояние можно охарактеризовать, как состояние неопределенности.
Но вот прохожий объяснил дорогу к вокзалу.
Теперь у вас появилась информация, а неопределенность пропала.

Информация и неопределенность
Пример: вы услышали по телевизору, что завтра будет солнечная погода.
Ваше состояние изменилось: вы стали обладателем информации, а неопределенность, которая до этого существовала, исчезла.

Информация и неопределенность
Подобное происходит всякий раз, когда у вас появляется та или иная информация, — неопределенность, если она до этого имела место, уменьшается или вовсе ликвидируется.

Информация и неопределенность
Эту интуитивно ясную связь между обыденными представлениями об информации и о неопределенности можно сформулировать так:
Появление информации суть уменьшение неопределенности.

Неопределенность знаний
Неопределенность знаний - сообщение, которое содержит сведения о том, что произошло одно из конечного множества (N) возможных событий.

Информация и неопределенность
Таким образом, если мы хотим получить более отчетливое представление об информации, стоит поразмышлять о том, что же такое неопределенность и можно ли каким-то образом оценить ее количественно.

Информация и неопределенность
Сделаем это на моделях простейших систем.
Пусть в нашем распоряжении имеются монета и игральный кубик.

Бросание монет
У монеты, как известно, две стороны:
«герб» «решка»
Если бросить ее на стол, монета обязательно упадет вверх либо «гербом», либо «решкой».
Таким образом, монету, лежащую на столе, можно рассматривать как простейшую систему, которая может находиться в одном из двух возможных состояний.

Бросание кубика
Игральный кубик — это кубик, грани которого пронумерованы от 1 до 6.
Аналогично монете игральный кубик, лежащий на столе, — это система, находящаяся в одном из шести возможных состояний (по номерам граней, обращенных вверх).

Неопределенность знаний
Неопределенность знания о результате некоторого события – это число возможных вариантов результата.
Для монеты – 2, для кубика – 6, для билетов – 30 (если на столе лежало 30 билетов).
Чем больше равновозможных событий, тем больше неопределенность ситуации.
Выбор одного из возможных состояний ликвидирует неопределенность, создавая тем самым информацию.

Случайность выбора
Есть еще одна особенность возникновения информации – случайность выбора, которая в полной мере демонстрируется на наших примерах.
Ну а если бы Вы, стоя на перекрестке, так и не дождались ни одного прохожего, Вам ничего не оставалось бы делать, как положиться на счастливый случай и выбрать дорогу наугад.
Тогда характер Вашего поведения при наличии двух возможных направлений движения в точности совпал бы с характером поведения монеты.

Равновероятные события
События равновероятны, если ни одно из них не имеет преимущества перед другими.
С этой точки зрения выпадение «герба» или «решки» – равновероятно.

Неравновероятностные события
Неравновероятные события: в сообщении о погоде в зависимости от сезона сведения о том, что будет дождь или снег, могут иметь разную вероятность.
Летом наиболее вероятно сообщение о дожде, зимой – о снеге, а в переходный период (в марте или ноябре) они могут оказаться равновероятными.

Симметричные события
Выбор состояния после подбрасывания монеты или кубика происходит симметрично.
Это значит, что отсутствуют какие-либо факторы, способные обусловить преимущественное попадание системы в то или иное состояние: выбор происходит случайно, причем все состояния равно возможны.
Проверить, так ли это на самом деле, можно, проделав большое число бросаний, регистрируя каждый раз состояние, в котором оказалась монета.
По мере роста количества бросаний доли «гербов» и «решек» в общем числе бросаний будут все меньше и меньше отличатся друг от друга.

Симметричные события не всегда симметричны!
«Однажды в детстве я уронил бутерброд. Глядя, как я виновато вытираю масляное пятно, оставшееся на полу, старший брат успокоил меня:
- Не горюй, это сработал закон бутерброда.
- Что еще за закон такой? - спросил я.
- Закон, который гласит: "Бутерброд всегда падает маслом вниз". Впрочем, это шутка, - продолжал брат.- Никакого закона нет. Просто бутерброд действительно ведет себя довольно странно: большей частью масло оказывается внизу.
- Давай-ка еще пару раз уроним бутерброд, проверим, - предложил я. - Все равно ведь его придется выкидывать.
Проверили. Из десяти раз восемь бутерброд упал маслом вниз.
И тут я задумался: а можно ли заранее узнать, как сейчас упадет бутерброд маслом вниз или вверх?
Наши опыты прервала мать…"
( Отрывок из книги "Секрет великих полководцев", В.Абчук).

Задание 1
Определите, какое из сообщений является для Вас информативным:
Площадь Тихого океана – 179 млн. кв. км.
Москва – столица России.
Вчера весь день шел дождь.
Завтра ожидается солнечная погода.
Дивергенция однородного векторного поля равна нулю.
Dog – собака (по-английски).
Ro do, may si, lot do may.
2*2 = 4.

Задание 2
Дайте следующим сообщениям оценки «важная», «полезная», «безразличная», «вредная» информации:
Сейчас идет дождь.
Занятия факультатива по информатике проводятся каждый вторник.
IBM – это первые буквы английских слов, которые звучат как «интернешнел бизнес машина», что по-русски означает «машины для международного бизнеса».
Завтра будет контрольная работа по физике.
Чтобы родители не узнали про двойку, надо вырвать страницу из дневника.
Лед – это твердое состояние воды.
Первым человеком, полетевшим в космос, был Юрий Гагарин.
Номер телефона скорой помощи 02