Алфавитный поход к определению количества информации
advertisement
Алфавитный поход к определению количества информации Содержательный подход Алфавитный подход Уменьшение неопределенности знаний Последовательность знаков определенной знаковой системы Алфавит буквы расположенные в определенном порядке Алфавит ― это все множество символов, используемых при записи текста. Мощность алфавита (N) ― это полное количество символов в алфавите. N=2 N = 33 N = 26 N = 256 Символ Информационная емкость N = 2I Мощность алфавита — формула Хартли N – мощность алфавита I – информационный вес одного символа Задача 1. Какое количество информации несет один символ в русском алфавите, если из него исключить редко используемую букву «ё»? N = 32 N = 2I 2I = 32 2 I = 25 I=5 Ответ: 5 бит Задача 2. Какое количество информации содержит слово «ИНФОРМАЦИЯ», если считать, что алфавит состоит из 32 букв? информационный вес всего сообщения IC = I * K ИНФОРМАЦИЯ К знаков информационный вес одного символа количество знаков Задача 2. Какое количество информации содержит слово «ИНФОРМАЦИЯ», если считать, что алфавит состоит из 32 букв? информационный вес всего сообщения IC = I * K IC = I * K ИНФОРМАЦИЯ К знаков информационный вес одного символа количество знаков Задача 2. Какое количество информации содержит слово «ИНФОРМАЦИЯ», если считать, что алфавит состоит из 32 букв? 2I = N N = 32 IC = I * K 2I = 32 IC = 10 * 5 2 I = 25 IC = 50 I=5 Ответ: 50 бит 1 2 3 4 5 6 7 8 9 10 ИНФОРМАЦИЯ К знаков 10 информационный вес всего сообщения = информационный вес одного символа * количество знаков IC = I * K Несколько знаков IC – суммарная информационная емкость сообщения I – информационная емкость одного знака K – длина кода N = 2I N – мощность алфавита I – информационный вес одного символа Алфавитный подход Последовательность знаков определенной знаковой системы IC = I * K IC – суммарная информационная емкость сообщения I – информационная емкость одного знака K – длина кода
