216566

Количество информации – число, адекватно характеризующее величину разнообразия (набор состояний, альтернатив и т.д.) в оцениваемой системе.
Мера информации – формула, критерий оценки количества информации.
Мера информации обычно задана некоторой неотрицательной функцией, определенной на множестве событий и являющейся аддитивной, то есть мера конечного объединения событий (множеств) равна сумме мер каждого события.

Ральф Винтон Лайон Хартли
1888 - 1970
«Когда кто-то получает информацию, каждый полученный символ позволяет получателю «устранять возможности», исключая другие возможные символы и их связанные значения.»

Измерение количества информации
Формула Хартли (1928):
H = log2 N
H – количество информации
N – количество возможных равновероятных альтернатив
N = 2 H=1

1 бит - количество информации, которое соответствует сообщению о выборе одной из 2-х равновероятных альтернатив:
истина ложь
да нет
1 0
Примеры:

Клод Элвуд Шеннон
1916-2001
Из статьи "Математическая теория связи»:
Одна из задач теории информации - поиск наиболее экономных методов кодирования, позволяющих передать необходимую информацию с помощью минимального количества символов.

Формула Шеннона (1948):
H = - Sumn(рi log2 рi)
H – среднее количество информации при многократном выборе
n – количество альтернатив рi – вероятности альтернатив
i = 1….n

H = - log2 р
H – количество информации
при однократном выборе р – вероятность выбранной альтернативы

В двоичном коде каждый двоичный символ несет 1 бит информации.
Кодовое слово длиной в H двоичных символов несет H бит информации
(при условии равной вероятности появления двоичных символов).
Общее количество кодовых слов
длиной H бит равно:
N = 2H
H=8 N = 28 = 256
1 байт = 8 бит

1 байт - количество информации, которое соответствует сообщению о выборе одной из 256 равновероятных альтернатив
Пример
Кодовая таблица ASCII : …….…………...... A 01000001
……………………
R 01010010
……………………
256 символов

Кодовая таблица Unicode
- используется 2 байта (16 бит)
на каждый символ
Количество возможных символов равно 216,
примерно 64000 символов

Информационная емкость устройств памяти ПК (объем памяти) оцениваются следующими единицами:
1 кбайт = 1024 байт (210 байт)
1 Мбайт = 1024 кбайт (220 байт)
1 Гбайт = 1024 Мбайт (230 байт)
1 Тбайт = 1024 Гбайт (240 байт)

Пропускная способность — метрическая характеристика, показывающая соотношение предельного количества единиц информации, проходящих через канал, систему, узел в единицу времени.
Кбит/сек, Мбит/сек, МБ/сек

Арифметические основы ЭЦВМ
Для представления чисел в ЭЦВМ используется двоичная система счисления — позиционная система счисления
с основанием 2

Преобразование двоичного числа в десятичное
100110111012 =
1*210+0*29+0*28+1*27+1*26+0*25+
1024 512 256 128 64 32
+1*24+1*23+1*22+0*21+1*20=
16 8 4 2 1
= 124510
Разряды числа
Веса
разрядов

Преобразование десятичного числа в двоичное (последовательными делениями на 2)
24510 2*122=244
2*61=122 1
2*30=60 0
2*15=30 1
2*7=14 0
2*3=6 1
2*1=2 1
1 =11101012
Остатки
от деления

Восьмеричная система счисления
{0, 1, 2, 3, 4, 5, 6, 7}
110 010 111 001 101
6 2 7 1 5
Шестнадцатиричная система счисления {0, 1, 2, 3, 4, 5, 6, 7, 8, 9, A, B, C, D, E, F}
1111 0101 1100 1101
F 5 C D
триады
тетрады

Суммирование двоичных чисел
10100101
00101111
11010100
+
переносы в следующий разряд

Представление отрицательных чисел в двоичном дополнительном коде
Пример: 14 – 6 = 8
1110 – 0110 = ?
Инверсный код вычитаемого: 1001
Дополнительный код вычитаемого: 1001+1=1010
Вычитание заменяется сложением с дополнительным кодом вычитаемого
1110
1010
1000
+

Логические основы ЭЦВМ
Алгебра высказываний
(Алгебра логики)
Высказывания представляются логическими переменными, которые могут иметь всего два значения:
истина true (1)
ложь false (0)

Джордж Буль
1815 -1864
«Имеется глубокая аналогия между символическим методом алгебры и символическим методом представления логических форм …
В такой символике высказывания могут быть сведены к форме уравнений»

Базовые операции алгебры логики
(задаются таблицами истинности) Логическое ИЛИ Логическое И Логическое НЕ (дизъюнкция V, |, OR) (конъюнкция ^,&, AND) (инверсия ¬, NOT)
Логические элементы:

Операции с константами: a + 0 = a a + 1 = 1 a * 0 = 0 a * 1 = a
Закон исключенного третьего: a + a = 1
Закон непротиворечия: a * a = 0
Законы идемпотенции: a + a = a a * a = a
Закон двойного отрицания: a = a
Законы де Моргана: a + b = a * b a * b = a + b
Закон поглощения: a + a * b = a
Закон склеивания: a * b + a * b = a
ОСНОВНЫЕ ЗАКОНЫ АЛГЕБРЫ ЛОГИКИ

Логическая операция «Импликация»: а -> b = a + b
Порядок выполнения операций можно изменять с помощью скобок:
a + bс (a + b)с a + b = (a + b)

Любая сколь угодно сложная логическая функция,
заданная своей таблицей истинности,
может быть представлена логическим выражением в совершенной дизъюнктивной нормальной форме (СДНФ)

S = abp+abp+abp+abp
P = abp+abp+abp+abp =
= ab+ap+bp
Пример: таблица истинности одноразрядного сумматора
Построение СДНФ:
для всех строк с единичными значениями выходной функции выписывается логическая сумма (дизъюнкция) из логических произведений (конъюнкций) всех входных переменных, при этом входная переменная пишется с инверсией, если ее значение в соответствующей строке равно нулю

Тестовые задания по теме лекции

Формула Хартли связывает
|1. количество информации с количеством возможных равновероятных альтернативных сообщений
|2. количество информации с вероятностями возможных альтернативных сообщений

Формула Шеннона связывает
|1. количество информации с количеством возможных равновероятных альтернативных сообщений
|2. количество информации с вероятностями возможных альтернативных сообщений

Количество информации, которое содержится в сообщении о выборе одной из 2-х равновероятных альтернатив, равно
|1. Один бит
|2. Два бита
|3. Восемь бит

1 бит – это
|1. Количество информации, которое содержится в сообщении о выборе одной из 2-х альтернатив
|2. Количество информации, которое содержится в сообщении о выборе одной из 8-ми альтернатив
|3. Количество информации, которое содержится в сообщении о выборе одной из 2-х равновероятных альтернатив

1 байт равен
|1. 2 бита
|2. 8 бит
|3. 256 бит

1 байт – это
|1. Количество информации, которое содержится в сообщении о выборе одной из 8 альтернатив
|2. Количество информации, которое содержится в сообщении о выборе одной из 256 альтернатив
|3. Количество информации, которое содержится в сообщении о выборе одной из 256 равновероятных альтернатив
|4. Количество информации, которое содержится в сообщении о выборе одной из 2 равновероятных альтернатив

Сообщение о выборе одной из 32 равновероятных альтернатив в соответствии с формулой Хартли дает количество информации в
|1. 5 бит
|2. 6 бит
|3. 7 бит

В соответствии с формулой Шеннона максимальное количество информации при многократном выборе одной из двух возможных альтернатив получается, если
|1. Вероятность одной альтернативы больше, чем вероятность другой
|2. Вероятность одной из альтернатив равна 1
|3. Вероятности двух альтернатив равны

Общее количество кодовых слов длиной в 1 байт равно
|1. 8
|2. 32
|3. 256
|4. 1024

Для кодирования одного печатного символа в коде ASCII используется кодовое слово длиной |1. 8 бит
|2. 1 байт
|3. 2 байта
|4. 8 байт

Для кодирования цвета 1 пиксела в режиме High Color (всего 65 536 цветовых оттенков) потребуется кодовое слово длиной
|1. 1 байт
|2. 2 байта
|3. 4 байта

Количество адресов ячеек памяти, которые можно закодировать с помощью кодового слова длиной 10 бит, равно
|1. 256
|2. 512
|3. 1024
|4. 2048

Числу в двоичном коде 1101 соответствует десятичное число
|1. 12
|2. 13
|3. 14
|4. 15

Десятичному числу 9 соответствует двоичное число
|1. 1100
|2. 1011
|3. 1001
|4. 0111

В числовом ряду весов двоичных разрядов 1,2,4,8,16,32,64,126,256,512,1024 допущена ошибка в разряде номер
|1. 1
|2. 4
|3. 8
|4. 10

Двоичному коду 00111101 соответствует восьмеричное число
|1. 75
|2. 101
|3. 331

Двоичному коду 11111010 соответствует шестнадцатиричное число
|1. AC
|2. 8D
|3. FA

Сумма двух двоичных чисел 1001 и 0011 равна двоичному числу
|1. 1010
|2. 1100
|3. 1011

Результат логической операции ДИЗЪЮНКЦИЯ (логическое ИЛИ) от двух переменных равен ИСТИНА, если
|1. Значение хотя бы одной из переменных равно ИСТИНА
|2. Значение обоих переменных равно ИСТИНА
|3. Значение только одной из переменных равно ЛОЖЬ
|4. Значение обоих переменных равно ЛОЖЬ

Результат логической операции КОНЪЮНКЦИЯ (логическое И) от двух переменных равен ИСТИНА, если
|1. Значение хотя бы одной из переменных равно ИСТИНА
|2. Значение обоих переменных равно ИСТИНА
|3. Значение только одной из переменных равно ЛОЖЬ
|4. Значение обоих переменных равно ЛОЖЬ

Результат логической операции ДИЗЪЮНКЦИЯ с ИНВЕРСИЕЙ (логическое ИЛИ-НЕ) от двух переменных равен ИСТИНА, если
|1. Значение хотя бы одной из переменных равно ИСТИНА
|2. Значение обоих переменных равно ИСТИНА
|3. Значение только одной из переменных равно ЛОЖЬ
|4. Значение обоих переменных равно ЛОЖЬ

Результат логической операции КОНЪЮНКЦИЯ с ИНВЕРСИЕЙ (логическое И-НЕ) от двух переменных равен ИСТИНА, если
|1. Значение только одной из переменных равно ИСТИНА
|2. Значение обоих переменных равно ИСТИНА
|3. Значение хотя бы одной из переменных равно ЛОЖЬ
|4. Значение обоих переменных равно ЛОЖЬ

В результате поиска в базе данных пациентов по условию ВОЗРАСТ больше 30 лет И ВОЗРАСТ меньше 20 лет будут отобраны
|1. Одна запись
|2. Ни одной записи
|3. Все записи

В результате поиска в базе данных пациентов по условию ВОЗРАСТ больше 30 лет ИЛИ ВОЗРАСТ меньше 40 лет будут отобраны
|1. Одна запись
|2. Ни одной записи
|3. Все записи

В приведенных ниже логических равенствах
(знак дизъюнкции +, знак конъюнкции *)
неверным является
|1. a + 1 = 1
|2. a + a = a
|3. a * 1 = 1
|4. a + a * b = a

Тестовые задания
с единого портала
интернет-тестирования
в сфере образования

223 бит = 220*23бит = 220*8бит = 220*1байт = 1 Мбайт

10 бит * 27 * 26 = 10 * 213 бит = 10 * 210 * 23 бит =
10 * 210 байт = 10 Кбайт

120 сек * 256000 бит/сек = 120 сек * 32000 байт/сек ~
120 сек * 32000 / 1024 кбайт/сек = 3750 кбайт

33 символа * 16 бит = 528 бит

500 * 20 * 64 символов * 1 байт = 640000 / 1024 кбайт =
= 625 кбайт

1/512 Мбайт = 220 / 29 байт = 211 байт = 2048 байт
2048/4096 байт/символ = 0,5 байт/символ = 4 бит/символ
Алфавит содержит 24 = 16 разных символов

Заданное в восьмеричной системе число 10538 равно
десятичному …..
1 * 83 + 0 * 82 + 5 * 8 + 3 = 1 * 29 + 40 + 3 = 55510
Заданное в шестнадцатиричной системе число F1A16
равно десятичному …..
15 * 162 + 1 * 16 + 10 = 15 * 28 + 26 = 15 * 256 + 26 = 386610

Инверсный код равен 10110010
Прямой код равен - 01001101
= - (26 + 23 + 22 + 1) = - 77

Отрицательное нечетное число в дополнительном коде
начинается на единицу и кончается на единицу,
поэтому первый вариант

Правильный ответ 3

Правильный ответ 1

По формуле де Моргана для выражения в скобках
правильный ответ 4

Правильный ответ 3