Количество информации как мера уменьшения

Количество
информации как мера
уменьшения
неопределенности
знаний
10 класс
Информация для человека -
это знания, которые он
получает из различных
источников.
Древнегреческий способ
изображения процесса познания
Парадокс: Чем большим объемом знаний обладает человек,
тем больше он ощущает недостаток знаний – тем больше
Вне
круга
– незнание,
кругкоторого
– знание,
окружность
граница
нашего
незнания, мерой
в данной
модели –
граница
между
знанием и незнанием.
является
длина
окружности.
Например:

Объем знаний выпускника школы гораздо больше,
чем объем знаний первоклассника, однако и граница
его незнания значительно больше. К примеру,
первоклассник ничего не знает о законах физики и
поэтому не осознает недостаточность своих
знаний, тогда как выпускник школы при
подготовке к экзамену по физике может
обнаружить, что существуют физические законы,
которые он не знает и не понимает.
Информация, которую
получает человек, считается
мерой уменьшения
неопределенности знаний.

Если некоторое сообщение приводит
к уменьшению неопределенности
наших знаний, то можно говорить,
что такое сообщение содержит
информацию.
Например:


Проснувшись зимним утром, вы не знаете какая
температура воздуха на улице – будет ли сегодня
в школе актированный день или же придется
идти на учебу? Вы мучаетесь
неопределенностью, пока на телеканале не
появится сводка, в которой сообщается о
температуре воздуха и есть ли отмена занятий в
школах поселка.
Происходит переход от незнания к полному
знанию, значит, сообщение в температурной
сводке содержит для вас информацию.
Подход к информации как мере
уменьшения неопределенности
знаний позволяет
количественно измерять
информацию, что чрезвычайно
важно для информатики.
Классический пример
«Бросание монеты»:


Бросаем монету на ровную поверхность. С
равной вероятностью произойдет одно из
двух возможных событий – выпадет решка
или выпадет орел.
Перед броском существует
неопределенность наших знаний
(возможны два события), как упадет
монета предсказать невозможно.


После броска наступает полная
определенность, так как получаем зрительное
сообщение, что монета находится в
определенном положении, например, «решка».
Это событие приводит к уменьшению
неопределенности наших знаний в 2 раза, так
как до броска мы имели 2 вероятных события,
а после броска – только одно, то есть в 2 раза
меньше.




Очень часто встречаются ситуации, когда
может произойти некоторое количество
равновероятных событий.
Например: Вы решаете контрольную работу по
алгебре. У вас до проверки работы учителем
существует 4 равновероятных события –
получите вы отметку «5», «4», «3» или «2» .
Или когда бросаете шестигранный кубик – 6
равновероятных событий.
Или при сдаче устного экзамена по любому
предмету вытягиваете один билет из 25
возможных – 25 равновероятных событий.
Чем больше количество
возможных событий, тем больше
начальная неопределенность и
соответственно тем большее
количество информации будет
содержать сообщение о
результатах опыта.
Единицы измерения



Для количественного выражения любой
величины необходимо определить единицу
измерения.
За единицу измерения количества
информации принимается такое количество
информации, которое содержит сообщение,
уменьшающее неопределенность в 2 раза.
Такая единица названа «бит»
Вам известно, что 8 бит = 23 бит = 1 байт.

Компьютер оперирует числами в двоичной
системе счисления, поэтому в кратных
единицах измерения количества информации
используется коэффициент 2n.

1 Кбайт = 210 байт = 1024 байт.
1 Мбайт = 210 Кбайт = 1024 Кбайт.
1 Гбайт = 210 Мбайт = 1024 Мбайт.


Количество возможных событий
и количество информации

Связь количества возможных событий
N и количества информации I:
N=2I
Например:

Определим количество возможных событий,
если количество информации = 5 битов.
N = 25 = 32
Ответ: 32 возможных события.
Пример
Определим количество информации, если
известно количество событий.
 Задача: в рулетке общее количество лунок
равно 128. какое количество информации мы
получаем в зрительном сообщении об
остановке шарика в одной из лунок?
Решение:
128 = 2I → 27 = 2I → I = 7.
Ответ: количество информации, которое мы получаем
об остановке шарика составляет 7 битов.

Выполните упражнения:



Какое количество информации несет в себе
сообщение о том, что нужная вам
программа находится на одной из восьми
дискет?
Какое количество информации получит
второй игрок при игре в крестики-нолики
на поле 8Х8, после первого хода первого
игрока, играющего крестиками?
Происходит выбор одной карты из колоды в
32 карты. Какое количество информации
мы получаем в зрительном сообщении о
выборе определенной карты?