Измерение информации

Что меряем?
Единица
измерения
Расстояние
Метр, м
Масса
Килограмм, кг
Время
Секунда, с
Как меряем?
Измеряемая величина
Ед. измер.
Сопоставляем

Алфавит – набор знаков, используемых при кодировании информации с помощью некоторого языка.
Примеры: АБВГДЕЖЗИКЛМНОПРСТУФХЦЧШЩЪЫЬЭЮЯ 32
ABCDEFGHIJKLMNOPQRSTUVWXYZ 26
× O 2
0123456789 10
Мощность алфавита – количество символов алфавита.
Алфавитный подход
мощность алфавита
информационный
вес символа

Информационный вес символа
N=2
0
1
Компьютерный
алфавит
N=2I
2=2I
I=1бит
Информационный вес
символа двоичного
алфавита

Увеличение
мощности
алфавита
Увеличение
информационного
веса символа

N=2I
4=2I
I=2 бита

N 2 4 8 16
I 1 2 3 4
N=2I
Зависимость между мощностью
алфавита и информационным весом
символа (количеством
знаков в коде)
Формула
Хартли

Информационный объём текста
Информационный вес одного символа
Количество символов
X

Алфавитный подход
Задача. Определить объем информации в сообщении
ПРИВЕТВАСЯ
для кодирования которого используется русский алфавит (только заглавные буквы).
Ответ: 10·5 бит = 50 бит
считаем все символы (здесь 10 символов)
мощность алфавита – 32 символа (32=25)
1 символ несет 5 бит информации
Решение:
Слайд K. Полякова
kpolyakov.narod.ru

Подготовка текстового документа
С помощью
ручки и бумаги
С помощью
компьютера
Комп. алфавит
N=256
Алфавит
Знаки препин.
I=8 бит

Единицы измерения
1 байт (bytе) = 8 бит
1 Кб (килобайт) = 1024 байта
1 Мб (мегабайт) = 1024 Кб
1 Гб (гигабайт) = 1024 Мб
1 Тб (терабайт) = 1024 Гб
1 Пб (петабайт) = 1024 Тб
210