ЭНТРОПИЯ и ИНФОРМАЦИЯ

Теоретическое и практическое освоение нетрадиционного вопроса теории вероятностей
Применение полученных знаний для разработки тематического модуля по решению задач с помощью энтропии и информации
ЦЕЛЬ:

Элементы теории информации
Энтропия как мера степени неопределенности
Условная энтропия
Свойства энтропии
Понятие об информации
Свойства количества информации

ЭНТРОПИЯ
Где вероятности равновозможных исходов.
Он же предложил назвать эту величину энтропией
К. Шеннон

КОЛИЧЕСТВО ИНФОРМАЦИИ
Количество информации I(α,β) показывает, насколько осуществление опыта α уменьшает неопределенность β т.е. как много нового узнаем мы об исходе опыта β, произведя измерение (наблюдение) α;
Информацию можно измерить числом, которое называется количеством информации об опыте β, содержащемся в опыте α
I(α,β)=H(β) – H(β/α)

Где же правда?(задачи о лжецах)
Задачи на взвешивание
Угадывание задуманного
Решение логических задач с помощью подсчета информации

ТЕОРИЯ ИНФОРМАЦИИ
Человечество Всегда пользовалось информацией, но только в середине XX в. информационные процессы стали предметом научных исследований.
Совокупность наук об информационных процессах называют информатикой.
Одна из них – наука об измерении и передаче информации – называется теорией информации.

ЗАДАЧИ НА ВЗВЕШИВАНИЕ
Задача:
Имеется 12 монет одного достоинства, одна из которых фальшивая, отличающаяся от других по весу (причем неизвестно, легче она или тяжелее настоящих).
Каково наименьшее число взвешиваний на чашечных весах без гирь, которое позволяет обнаружить фальшивую монету?

Решение:
т.е. определение фальшивой монеты связано с получением информации, измеряющейся числом log24
или k*log3≥log24
Отсюда и
,т.к. k – целое число, то k≥3