Алфавитный поход к определению количества информации

реклама
Алфавитный поход к
определению количества
информации
Содержательный
подход
Алфавитный
подход
Уменьшение
неопределенности
знаний
Последовательность
знаков определенной
знаковой системы
Алфавит
буквы расположенные в
определенном порядке
Алфавит ― это все множество символов,
используемых при записи текста.
Мощность алфавита (N) ― это полное
количество символов в алфавите.
N=2
N = 33
N = 26
N = 256
Символ
Информационная
емкость
N = 2I
Мощность
алфавита
— формула Хартли
N – мощность алфавита
I – информационный вес одного символа
Задача 1. Какое количество информации несет
один символ в русском алфавите, если из него
исключить редко используемую букву «ё»?
N = 32
N = 2I
2I = 32
2 I = 25
I=5
Ответ: 5 бит
Задача 2. Какое количество информации
содержит слово «ИНФОРМАЦИЯ», если
считать, что алфавит состоит из 32 букв?
информационный вес
всего сообщения
IC = I * K
ИНФОРМАЦИЯ
К знаков
информационный
вес одного символа
количество
знаков
Задача 2. Какое количество информации
содержит слово «ИНФОРМАЦИЯ», если
считать, что алфавит состоит из 32 букв?
информационный вес
всего сообщения
IC = I * K
IC = I * K
ИНФОРМАЦИЯ
К знаков
информационный
вес одного символа
количество
знаков
Задача 2. Какое количество информации
содержит слово «ИНФОРМАЦИЯ», если
считать, что алфавит состоит из 32 букв?
2I = N
N = 32
IC = I * K
2I = 32
IC = 10 * 5
2 I = 25
IC = 50
I=5
Ответ: 50 бит
1 2 3 4 5 6 7 8 9 10
ИНФОРМАЦИЯ
К знаков
10
информационный вес
всего сообщения
=
информационный вес
одного символа
*
количество
знаков
IC = I * K
Несколько
знаков
IC – суммарная информационная
емкость сообщения
I – информационная емкость
одного знака
K – длина кода
N = 2I
N – мощность алфавита
I – информационный вес одного
символа
Алфавитный
подход
Последовательность
знаков определенной
знаковой системы
IC = I * K
IC – суммарная информационная
емкость сообщения
I – информационная емкость
одного знака
K – длина кода
Скачать