Измерение информации

Всю информацию
(видео, картинки, музыку, текст)
компьютер хранит и обрабатывает
в виде двоичных чисел

1 бит – самая маленькая
единица измерения информации.
1 бит соответствует объему
в один двоичный символ (1 или 0)

(!) Компьютерная память
адресуется порциями по 8 бит
1 байт – единица измерения информации
1 байт = 8 бит

Кратные единицы:
Килобайт = 1024 байт
Мегабайт = 1024 килобайт = 10242 байт
Гигабайт = 1024 мегабайта = 10243 байт
Терабайт = 1024 гигибайта = 10244 байт

Задание:
Переведите 4 килобайта в байты и биты

Подходы к изменению информации
Алфавитный
(объемный)
Содержательный
(вероятностный)

Алфавит –
полный набор символов
данного языка

Мощность алфавита (N) –
количество символов
в данном алфавите

Алфавит
русских букв
Алфавит
арабских цифр
Алфавит
азбуки Морзе

Информационный вес символа (i) –
количество бит информации,
выделенное на кодирование
каждого символа

Код с информационным весом i=1

Код с информационным весом i=3

Код с информационным весом i=4

(!) Чем больше мощность алфавита,
тем больше требуется
информационный вес символа

Представим, что нужно закодировать
двоичным кодом какой-то алфавит

0
1
i=1
Nmax=2
Nmax=4
i=2
Nmax=8
i=3

Формула связи информационного веса
и максимальной мощности алфавита:
Nmax=2i

Степени числа 2:

Алфавит закодировали двоичным кодом.
Информационный вес символа равен 4.
Какое максимальное количество букв
может быть в этом алфавите?
Пример решения задачи

Каким должен быть информационный вес
символа, чтобы можно было закодировать
двоичным кодом алфавит русских букв?
Пример решения задачи

Если n - общее количество букв в сообщении,
а i – информационный вес символа, тогда
общий информационный объем сообщения I
вычисляется по формуле:
I = i • n

В тексте 1200 символов.
Информационный вес символа равен 3 бит.
Чему равен общий объем информации
в сообщении (в байтах)?
Пример решения задачи