Содержательный подход к измерению информации

10 класс
Сафонова Л.Ф., учитель информатики гимназии 184, г. Н.Новгород
Как измерить информацию?
Так как определять информацию можно по-разному,
то и способы измерения тоже могут быть разными.
Информация
Человек
Техническое
устройство
Знания
Последовательность
сигналов, символов
Подходы к измерению
информации
Содержательный
(вероятностный)
Алфавитный
Через
неопределенность
знаний с учетом
вероятности
событий
Через количество
символов с учетом
информационного
веса символов
Содержательный подход к
измерению информации
Основоположником
этого
подхода
является
американский учёный Клод Элвуд Шеннон (1916 —
2001).
По Шеннону, информация — уменьшение
неопределенности наших знаний.
Неопределенность некоторого события — это
количество возможных исходов данного события.
Так, например, если из колоды карт наугад
выбирают карту, то неопределенность равна
количеству карт в колоде.
При бросании монеты неопределенность равна 2.
Бросание монеты
Пусть у нас имеется монета, которую мы бросаем на ровную
поверхность. С равной вероятностью произойдет одно из двух
возможных событий – монета окажется в одном из двух положений:
«орёл» или «решка».
Возможные
события
Произошедшее
событие
События
равновероятны, если
при возрастающем
числе опытов
количества
выпадений «орла» и
«решки» постепенно
сближаются.
Перед броском существует неопределённость нашего
(возможны два события), а после броска наступает
определённость.
знания
полная
Неопределённость нашего знания уменьшается в два раза, так
как из двух возможных равновероятностных событий реализовалось
одно.
Содержательный подход
к измерению информации
В теории информации единица измерения информации была
определена как бит. Ее определение звучит так:
Сообщение, уменьшающее неопределенность знаний в два
раза, несет 1 бит информации (неопределенность знаний о
некотором событии — это количество возможных результатов
события).
При бросании равносторонней четырехгранной
пирамиды существуют 4 равновероятных
события.
При угадывании задуманного числа
существует 8 равновероятных событий.
При вытаскивании карты из колоды
существует 32 равновероятных событий.
При бросании шестигранного игрального
кубика существует 6 равновероятных
событий.
Как определить количество информации?
Содержательный подход
к измерению информации
Количество i информации, содержащееся в
сообщении о том, что произошло одно из N
равновероятностных событий, определяется из
решения показательного уравнения
2i = N
Количество
вариантов
2
4
8
16
32
64
128
256
512
1024
Количество
бит
информации
1
2
3
4
5
6
7
8
9
10
Содержательный подход
к измерению информации
Задача 1. Сообщение о том, что при
бросании четырехсторонней пирамиды
выпал красный цвет содержит …
N = 2i = 4 -> i = 2
Ответ: 2 бита
Задача 2. Сообщение о том, что было
задумано число 3 содержит…
N = 2i = 8 -> i =3
Ответ: 3 бита
Задача 3.
Сообщение о том, что из колоды в 32
карты выбрали короля пик содержит …
N = 2i = 32 -> i = 5
Ответ: 5 бит
Содержательный подход
к измерению информации
Задача 4. В рулетке общее количество лунок равно
128. Какое количество информации мы получим в
сообщении об остановке шарика в одной из лунок.
Дано:
N = 128
i-?
Решение:
2i = N
2i = 128
27 = 128
i = 7 бит
Ответ: i = 7 бит
Единицы измерения
1 байт (bytе)
= 8 бит
1 Кб (килобайт)
= 1024 байта
1 Мб (мегабайт) = 1024 Кб
1 Гб (гигабайт)
= 1024 Мб
1 Тб (терабайт)
= 1024 Гб
1 Пб (петабайт) = 1024 Тб
210
14
Вероятностный подход
Формула Шеннона
По этой формуле вычисляется количество информации
для событий с различными вероятностями
N – количество возможных событий
- вероятности отдельных событий
Вероятностный подход
Задача 1. В закрытом ящике имеется 8 черных
шаров и 24 белых. Рассчитать вероятность взятия
шаров и количества полученной при этом
информации.
Формула:
Решение:
1
I i   log 2 pi  log 2
pi
Алфавитный подход к
измерению информации
При алфавитном подходе к измерению информации
количество информации зависит не от содержания, а от
размера сообщения (K) и мощности алфавита (N).
Информационный объем сообщения (I), содержащего K символов
вычисляют по формуле:
I=К*i
где
I - информационный объем текста,
К - количество символов в тексте,
i - информационный объем одного символа,
N – мощность алфавита
N  2i
i  log 2 N
Основоположником этого подхода является
Андрей Николаевич Колмогоров,
(1903-1987), великий российский ученыйматематик.
Алфавитный подход к
измерению информации
АЛФАВИТ – это вся совокупность символов, используемых в некотором
языке для представления информации
МОЩНОСТЬ АЛФАВИТА ( N ) – это число символов в алфавите.
N
i
2 = N
N
I = K i
i
i
I
K
I
МОЩНОСТЬ АЛФАВИТА
число символов в алфавите (его размер)
ИНФОРМАЦИОННЫЙ ВЕС СИМВОЛА
количество информации в одном символе
K
ЧИСЛО СИМВОЛОВ В СООБЩЕНИИ
КОЛИЧЕСТВО ИНФОРМАЦИИ В СООБЩЕНИИ
Алфавитный подход к
измерению информации
Задача 1. Сообщение, записанное буквами 32-символьного
алфавита, содержит 140 символов. Какое количество
информации оно несёт?
Дано:
N = 32,
K = 140
I –?
Решение:

I = K i,
N=2i
32 = 2 i, i = 5, I = 140 х 5 = 700 (битов)
Ответ: 700 битов.
Алфавитный подход к
измерению информации
Задача 2. Информационное сообщение объёмом 720 битов
состоит из 180 символов. Какова мощность алфавита, с
помощью которого записано это сообщение?
Решение:
I = 720;
N = 2 i,
K = 180;
I = K  i,
N –?
i = I/K
Ответ: 16 символов.
i = 720/180 = 4 (бита);
N = 24 = 16 (символов)
Самостоятельно
Задача 3
Информационный объем сообщения – 7,5 Кбайт. Известно,
что данное сообщение содержит 7680 символов. Какова
мощность алфавита.
Задача 4
Для записи сообщения использовался 32-символьный
алфавит. Каждая страница содержит 30 строк. Все
сообщение содержит 8775 байт информации и занимает 6
страниц. Сколько символов в строке?
КОЛИЧЕСТВО ИНФОРМАЦИИ В СООБЩЕНИИ
Содержательный подход
ИЗМЕРЕНИЕ
Алфавитный подход
ИНФОРМАЦИЯ
N
Число
равновероятных
возможных
событий
i
2i = N
Количество
информации
в сообщении о том,
что произошло одно из N
равновероятных событий
I = K i
N
Число символов в алфавите
(его размер) – МОЩНОСТЬ АЛФАВИТА
i
ИНФОРМАЦИОННЫЙ ВЕС СИМВОЛА
количество информации
в одном символе
K
Число символов
в символьном сообщении
I
Количество информации
в символьном сообщении
i = 8 бит = 1 байт
N = 256
N=2
i = 1 бит
1 байт
1 Кб
1 Мб
1 Гб
Домашнее задание
 Учебник (стр. 9-11)
 Ответить на вопросы 6 (стр. 11) письменно
Источники
1. Угринович Н.Д. Информатика и информационные
технологии. Учебник для 10 класса. – М.: БИНОМ, 2012;
2. Угринович Н.Д. и др. Практикум по информатике и
информационным технологиям. Учебное пособие. – М.:
БИНОМ, 2009;
3. Угринович Н.Д. Преподавание курса «Информатика и ИКТ».
Методическое пособие для учителей
4. Единая коллекция цифровых образовательных ресурсов http://school-collection.edu.ru/
5. Коллекция картинок Яндекс –
http://yandex.ru/images/search?source