Измерение информации

Алфавитный (объемный) подход
Содержательный (вероятностный) подход
Подходы к измерению информации

Алфавитный подход
Алфавит – это набор букв, знаков препинания, цифр, скобок и других символов, используемых в тексте
Мощность алфавита – это полное число символов алфавита (N)

Бит – это наименьшая единица измерения информации
С увеличением мощности алфавита увеличивается информационный вес символов этого алфавита
Единицы измерения информации

это комбинация из нескольких (двух, трех и т.д.) знаков двоичного алфавита
Двоичный код

N – мощность алфавита
b – разрядность двоичного кода
Разрядность двоичного кода и есть информационный вес символа

Алфавит состоит из 16 символов. Найти информационный вес символов
Пример №1

Информационный вес символа 5 бит. Найти
мощность этого алфавита
Пример №2

Информационный объем текста равен сумме информационных весов всех символов, составляющих текст
I = K * i
K – число символов в тексте
I – информационный объем текста

Сообщение содержит 15 символов. Мощность алфавита, на котором написан текст 16.
Найти информационный объем этого текста
Пример №3

Единицы измерения информации
В компьютерном алфавите – 256 символов

Единицы измерения информации

Пример №1
Книга, подготовленная с помощью компьютера, содержит 150 страниц. На каждой странице – 40 строк, в каждой строке – 60 символов (включая пробелы между словами). Каков объем информации в книге?

Мощность компьютерного алфавита равна 256, поэтому один символ несет 1 байт информации.
Значит, страница книги содержит 40*60 = 2400 байт информации.
[кол-во символов в строке]*[кол-во строк] = [информационный объем страницы]
Решение

Объем всей информации в книге:
[информационный объем страницы]*[кол-во страниц] = [информационный объем книга]
2400*150*8 бит =2 880 000 бит = 360000 байт/1024=351,5625 Кбайт/1024 = 0,34332275 Мбайт
Решение

Сообщение записано с помощью алфавита, содержащего 8 символов. Какое количество информации несет одна буква этого алфавита?
Пример №2

Алфавит племени состоит из 32 символов. Члены племени используют в своей речи и письме только слова длиной 8 символов. Какое количество информации несёт сообщение этого племени, состоящее из 20 слов?
Задача №1
895

Какое количество информации в битах содержится на СД – диске, емкостью 650 Мбайт?
Задача №2
5 452 595 200

Измерьте информационный объем сообщения, записанного на компьютере:
Ура! Каникулы!!!
Выразите этот объем в битах, байтах, килобайтах.
Задача №3
128 бит = 16 байт = 0,015625 кб