Независимость семейства случайных величин и условные законы распределения

Нижегородский государственный университет им. Н.И. Лобачевского
Институт информационных технологий
математики и механики
Теория вероятностей и
математическая статистика
специальность: Программная инженерия
Лектор:
Пройдакова Екатерина Вадимовна,
доцент кафедры ТВиАД ИИТММ
Лекция 17.
Независимость семейства случайных величин
и условные законы распределения
17.1. Независимость семейства случайных
величин
Лекция 17. Независимость семейства случайных величин и условные законы распределения
3
17.1. Независимость семейства случайных величин
Известно,
что
вероятностные
свойства
случайного
вектора
(1,
2)
не
исчерпываются вероятностными свойствами отдельных случайных величин 1 и 2.
Поскольку между 1 и 2 может существовать разные типы зависимости.
Для некоторых экспериментов, зная значение одной случайной величины 1, можно
однозначно определить значение другой случайной величины 2. То есть существует
функциональная зависимость вида 2 = g(1), где y = g(x): R → R.
Пример 1. Число 1 всех вышедших из строя однотипных лампочек в подъезде жилого
дома в течение года и их общая стоимость 2 связаны функциональной зависимостью
2 = z1, где стоимость z электрической лампочки предполагается постоянной величиной.
Лекция 17. Независимость семейства случайных величин и условные законы распределения
4
17.1. Независимость семейства случайных величин
В общем случае, зная значение одной случайной величины 1, мы можем указать
только закон распределения другой случайной величины 2, и этот закон зависит от
конкретного значения случайной величины 1.
Такая
зависимость
между
случайными
величинами
называется
статистической (вероятностной, стохастической).
Пример 2. Высота 1 найденного наудачу гриба в лесу и его вес 2 зависимы, но эта
связь не является функциональной.
Лекция 17. Независимость семейства случайных величин и условные законы распределения
5
17.1. Независимость семейства случайных величин
В то же время можно указать примеры совершенно другой ситуации, когда
количественные признаки эксперимента на интуитивном уровне считаются
причинно несвязанными.
Пример 3. Рост 1 выбранного наудачу взрослого человека в Нижнем Новгороде
не связан с имеющейся у него суммой 2 наличных денег.
Лекция 17. Независимость семейства случайных величин и условные законы распределения
6
17.1. Независимость семейства случайных величин
Определение 1. Случайные величины 1, 2, … , n называются статистически
независимыми, если для точки x = (x1, x2, …, xn)  Rn имеем:
P({: 1 < x1, 2 < x2, …, n < xn}) = P({: 1 < x1})  P({: 2 < x2 })  …  P({: 2 < x2 })
или
F(x1, x2, …, xn) = F1(x1)  F2(x2)  …  Fn(xn).
Иначе случайные величины называются статистически зависимыми.
Утверждение. Любой набор из статистических независимых случайных величин
1, 2, … , n образует статистически независимые случайные величины.
Лекция 17. Независимость семейства случайных величин и условные законы распределения
7
17.2. Условные законы распределения
случайных величин
Лекция 17. Независимость семейства случайных величин и условные законы распределения
8
17.2. Условные законы распределения случайных
величин
Рассмотрим вероятностное пространство (, ℱ, P(.)) статистически устойчивого
эксперимента E, заданные на нем случайные величины 1, 2 и произвольное событие
B  ℱ. Известно, что при P(B)  0 для условного эксперимента Eу унифицированная
вероятностная модель имеет вид (, ℱ, P(. | B)), где условная вероятность вычисляется
по формуле:
( A  B )
( A | B ) =
( B )
Определение 2. Законы распределения случайных величин 1 и 2, которые
рассматриваются на условном пространстве (, ℱ, P(.| B)), называются условными.
Лекция 17. Независимость семейства случайных величин и условные законы распределения
9
17.2. Условные законы распределения случайных
величин
Условная интегральная функция распределения F ( x | B) случайной величины
 относительно события B  ℱ вычисляется по формуле:
F ( x | B) = ({  x}| B) =
При
P(B)  0
({  x}  B) ({  x, B})
=
( B )
( B )
условная вероятность вида P(. | B) на -алгебре ℱ обладает
свойствами априорной вероятности P(.) на ℱ. Поэтому условные и безусловные
законы распределения случайных величин имеют одинаковые свойства.
Лекция 17. Независимость семейства случайных величин и условные законы распределения
10
17.2. Условные законы распределения случайных
величин
Для дискретной случайной величины  , где   {x1, x2 , …} при P(B)  0 условное
распределение относительно события B находится по формуле:
({ = xi , B})
({ = xi }| B) =
( B )
Для непрерывной случайной величины , с известной плотностью f(x),
(1)
при
P(B)  0 условная плотность распределения относительно события B вычисляется по
формуле:
f ( x | B) =
d ( F ( x | B))
dx
(2)
Лекция 17. Независимость семейства случайных величин и условные законы распределения
11
17.2. Условные законы распределения случайных
величин
Совместная интегральная функция распределения F(x, y) двумерного случайного
вектора (1, 2) может быть вычислена через условные интегральные функции
одномерных случайных величин 1, 2 по следующим соотношениям:
F12 ( x, y ) = ({1  x, 2  y}) = ({2  y})  ({1  x}|{ 2  y}) = F2 ( y )  F 1 ( x | B y )
где
B y = { : 2 ()  y};
F12 ( x, y ) = ({1  x, 2  y}) = ({1  x})  ({ 2  y}|{1  x}) = F1 ( x)  F2 ( y | Bx )
где
Bx = { : 1()  x}.
Лекция 17. Независимость семейства случайных величин и условные законы распределения
12
17.3. Условные законы распределения
одной случайной величины при известном
значении другой случайной величины
Лекция 17. Независимость семейства случайных величин и условные законы распределения
13
17.2. Условные законы распределения одной случайной
величины при известном значении другой
Пусть 1 и 2 - дискретные случайные величины с заданными законами распределения,
причем 1  {x1, x2, …}, 2  {y1, y2, …} и известно совместное распределение
ri, j = P({: 1() = xi, 2() = yj}), i, j = 1, 2, …
Тогда условные законы распределения случайной величины 1, при условии, что 2 приняла
значение yj определяются следующими соотношениями:
({1 = xi , 2 = y j }) ri j
({1 = xi }|{2 = y j }) =
=
, i = 1, 2, …
({2 = y j })
 rij
i
 ({1 = xi , 2 = y j })
F1 ( x |{2 = y j }) =
i:xi  x
({2 = y j })
 ri j
=
i:xi  x
 rij
.
i
Аналогичные соотношения можно записать для случайной величины 2 .
Лекция 17. Независимость семейства случайных величин и условные законы распределения
14
17.2. Условные законы распределения одной случайной
величины при известном значении другой
Пусть 1 и 2 - непрерывные случайные величины с заданными плотностями f1(x) и
f2(y) соответственно и
известна совместная плотность распределения f12(x, y).
Тогда условные законы распределения случайной величины 1, при условии, что 2
приняла значение y, − < y < +, определяются соотношениями:
f1 ( x | 2 = y ) =
f12 ( x, y )
f 2 ( y )
=
+
f12 ( x, y )
,
 f12 ( x, y )dx
−
x
 f12 (u, y )du
F1 ( x | 2 = y ) = −
f 2 ( y )
x
 f12 (u, y )du
= −
+
.
 f12 ( x, y )dx
−
Лекция 17. Независимость семейства случайных величин и условные законы распределения
15
17.2. Условные законы распределения одной случайной
величины при известном значении другой
Непосредственно из предыдущих формул следует теорема умножения для плотностей:
f12 ( x, y ) = f2 ( y )  f1|2 ( x | y ) = f 1 ( x)  f 2 |1 ( y | x).
Если случайные величины 1 и 2 – независимые,
то теорема умножения для
плотностей примет следующий вид:
f12 ( x, y ) = f2 ( y )  f1 ( x),
так как
f2 |1 ( y | x) = f2 ( y ) и f1|2 ( x | y ) = f1 ( x) .
Лекция 17. Независимость семейства случайных величин и условные законы распределения
16
17.2. Условные законы распределения одной случайной
величины при известном значении другой
Пример 4. Задана матрица распределения двумерной случайной величины (, )
( = xi ,  = y j ) = pij , i = 1,3, j = 1,2
Найти все условные законы распределения дискретной случайной величины  и вычислить
вероятность ({ = 0}|{  0})
Решение: Из условий задачи следует, что с.в.   {-1, 2, 5} и с.в.   {0, 11}. Так как
случайная величина  принимает два возможных значения, то для  существует также два
условных закона распределения.
Лекция 17. Независимость семейства случайных величин и условные законы распределения
17
17.2. Условные законы распределения одной случайной
величины при известном значении другой
({ = xi ,  = y j })
pi j
({ = xi }|{ = y j }) =
=
,
({ = y j })
 pij
i = 1,3
i
В нашем случае для условных законов распределения получаются две формулы
( = xi ,  = 11) i = 1,3
( = xi ,  = 0)
,
( = xi |  = 0) =
, ( = xi |  = 11) =
( = 11)
( = 0)
Лекция 17. Независимость семейства случайных величин и условные законы распределения
18
17.2. Условные законы распределения одной случайной
величины при известном значении другой
Далее вычисляем условные законы распределения для .
Первый условный закон распределения при  = 0:
( = −1,  = 0)
p11
0,1 1
( = −1|  = 0) =
=
=
= ;
( = 0)
( = 0) 0,4 4
Лекция 17. Независимость семейства случайных величин и условные законы распределения
19
17.2. Условные законы распределения одной случайной
величины при известном значении другой
 = xi
P( = xi |  = 0)
Лекция 17. Независимость семейства случайных величин и условные законы распределения
20
17.2. Условные законы распределения одной случайной
величины при известном значении другой
Второй условный закон распределения, при  = 11:
Окончательно, для второго условного закона распределения  получаем:
 = xi
P( = xi |  = 11)
Лекция 17. Независимость семейства случайных величин и условные законы распределения
21
17.2. Условные законы распределения одной случайной
величины при известном значении другой
Найдем условную функцию распределения  для при  = 0 по формуле:
 ({ = xi ,  = 0})
F ( x |{ = 0}) =
i:xi  x
({ = 0})
 pi1
=
i:xi  x
 pi1
i
При x  -1
F ( x |{ = 0}) = 0;
 p i1
при -1 < x  2
F ( x |{ = 0}) =
i:xi  x
0,4
p11 0,1 1
=
=
= = 0,25;
0,4 0,4 4
Лекция 17. Независимость семейства случайных величин и условные законы распределения
22
17.2. Условные законы распределения одной случайной
величины при известном значении другой
 p i1
при 2 < x  5
F ( x |{ = 0}) =
i:xi  x
0,4
 p i1
при x > 5
F ( x |{ = 0}) =
i:xi  x
0,4
p11 + p21 0,1 + 0,2 3
=
=
= = 0,75;
0,4
0,4
4
p + p21 + p31 0,1 + 0,2 + 0,1 4
= 11
=
= = 1.
0,4
0,4
4
Лекция 17. Независимость семейства случайных величин и условные законы распределения
23
17.2. Условные законы распределения одной случайной
величины при известном значении другой
Найдем вероятность ({ = 0}|{  0}) . Для этого воспользуемся формулой (1):
({ = 0}| B) =
({ = 0, B})
,
( B )
где В ={ > 0}.
Событие В в нашей задаче можно представить в следующем виде:
B = {  0} = { = 2}  { = 5}
По совместному распределению находим вероятности P({ = 2}) и P({ = 5}):
2
( = 2) =  p2 j = p21 + p22 =0,2 + 0,25 = 0,45
j =1
2
( = 5) =  p3 j = p31 + p32 =0,1 + 0,05 = 0,15
j =1
Лекция 17. Независимость семейства случайных величин и условные законы распределения
24
17.2. Условные законы распределения одной случайной
величины при известном значении другой
Далее, используя совместное распределение случайной величины (, ), находим:
({ = 0}|{  0}) =
({ = 0,   0})
=
({  0})
({ = 0,  = 2}  { = 0,  = 5})
=
=
({ = 2}  { = 5})
({ = 0,  = 2}) + ({ = 0,  = 5})
0,2 + 0,1
1
=
=
= .
({ = 2}) + ({ = 5})
0,45 + 0,15 2
Лекция 17. Независимость семейства случайных величин и условные законы распределения
25
17.2. Условные законы распределения одной случайной
величины при известном значении другой
Теорема о полной вероятности для несчётного числа гипотез.
Если  − непрерывная случайная величина с плотностью распределения f(x),
событие A  ℱ и P(A | x) − условная вероятность события A относительно
значения x случайной величины , тогда справедлива следующая формула полной
вероятности для несчетного числа гипотез:
+
( A) =  ( A | x) f ( x)dx.
−
Лекция 17. Независимость семейства случайных величин и условные законы распределения
26
17.2. Условные законы распределения одной случайной
величины при известном значении другой
Теорема (формула) Байеса для несчётного числа гипотез.
Пусть выполняются все условия теоремы о полной вероятности для несчетного
числа гипотез и P(A) > 0. Тогда для условной плотности f(x | A)
непрерывной
случайной величины  имеет место равенство:
f ( x | A) =
( A | x) f  ( x)
+
.
 ( A | x) f ( x)dx
−
Лекция 17. Независимость семейства случайных величин и условные законы распределения
27
17.2. Условные законы распределения одной случайной
величины при известном значении другой
Пример 5. Определить вероятность обнаружения станцией слежения космического тела, если
тело может появиться равновероятно на участке от 100 до 200 километров от станции
слежения. При этом известно, что если расстояние от станции до космического тела равно x,
то вероятность его обнаружения равна 3000/x2.
Решение: Обозначим через  расстояние от станции слежения до объекта. По условию
задачи
 - это непрерывная случайная величина с плотностью распределения вида:
 1
, x  (100,200);

f ( x) = 100

x  (100,200).
0,
Лекция 17. Независимость семейства случайных величин и условные законы распределения
28
17.2. Условные законы распределения одной случайной
величины при известном значении другой
Обозначим через А случайное событие, заключающееся в том, что станция слежения
обнаружит объект. Из условия задачи получаем
( A | { = x}) = ( A | x) =
3000
x
2
.
Для вычисления вероятности события А используем формулу полной вероятности для
несчетного числа гипотез:
+
200 3000
200
1
1
3 3
( A) =  ( A | x) f ( x)dx = 

dx = −30 
= − + = 0,15
2 100
x 100
20 10
−
100 x
Лекция 17. Независимость семейства случайных величин и условные законы распределения
29
Заключение
1. На данной лекции мы дали определение понятия независимости
случайных величин.
2. Познакомились с условными законами распределения дискретных и
непрерывных случайных величин и узнали как их находить.
3. Познакомились с теоремой о полной вероятности и формулой Байеса в
случае несчетного числа гипотез.
Лекция 17. Независимость семейства случайных величин и условные законы распределения
30