Меры информации в системе

Содержание

Слайд 2

1. Мера Р. Хартли. Пусть имеется N состояний системы S или N

1. Мера Р. Хартли. Пусть имеется N состояний системы S или N
опытов с различными, равновозможными, последовательными состояниями системы. Если каждое состояние системы закодировать, например, двоичными кодами определенной длины d, то эту длину необходимо выбрать так, чтобы число всех различных комбинаций было бы не меньше, чем N.

Меры информации в системе

Слайд 3

Наименьшее число, при котором это возможно, называется мерой разнообразия множества состояний системы

Наименьшее число, при котором это возможно, называется мерой разнообразия множества состояний системы
и задается формулой Р. Хартли: H=klogаN, где k - коэффициент пропорциональности (масштабирования, в зависимости от выбранной единицы измерения меры), а - основание системы меры.

Меры информации в системе

Слайд 4

2. Мера К. Шеннона. Формула Шеннона дает оценку информации независимо, отвлеченно от

2. Мера К. Шеннона. Формула Шеннона дает оценку информации независимо, отвлеченно от
ее смысла:
где n - число состояний системы; рi - вероятность (или относительная частота) перехода системы в i-е состояние, причем сумма всех pi равна 1.

Меры информации в системе

Слайд 5

3. Термодинамическая мера. Информационно-термодинамический подход связывает величину энтропии системы с недостатком информации

3. Термодинамическая мера. Информационно-термодинамический подход связывает величину энтропии системы с недостатком информации
о внутренней структуре системы (не восполняемым принципиально, а не просто нерегистрируемым). При этом число состояний определяет, по существу, степень неполноты наших сведений о системе.

Меры информации в системе

Слайд 6

Пусть дана термодинамическая система (процесс) S, а Н0, Н1 - термодинамические энтропии

Пусть дана термодинамическая система (процесс) S, а Н0, Н1 - термодинамические энтропии
системы S в начальном (равновесном) и конечном состояниях термодинамического процесса, соответственно. Тогда термодинамическая мера информации (негэнтропия) определяется формулой:
Н(Н0,Н1)=Н0 - Н1.

Меры информации в системе

Слайд 7

4. Энергоинформационная (квантово-механическая) мера. Энергия (ресурс) и информация (структура) - две фундаментальные

4. Энергоинформационная (квантово-механическая) мера. Энергия (ресурс) и информация (структура) - две фундаментальные
характеристики систем реального мира, связывающие их вещественные, пространственные, временные характеристики.

Меры информации в системе

Слайд 8

5. Другие меры информации. Многими авторами в последнее время рассматриваются различные количественные

5. Другие меры информации. Многими авторами в последнее время рассматриваются различные количественные
меры для измерения смысла информации, например, мера, базирующаяся на понятии цели (А. Харкевич и другие);

Меры информации в системе

Имя файла: Меры-информации-в-системе.pptx
Количество просмотров: 42
Количество скачиваний: 0