iii. многомерные случайные величины

advertisement
III. МНОГОМЕРНЫЕ СЛУЧАЙНЫЕ ВЕЛИЧИНЫ
В предыдущих главах рассматривались так называемые скалярные (одномерные) сл. величины. При решении практических задач
приходится рассматривать совместно пары сл. величин ( 1 , 2 ),
тройки сл. величин ( 1 , 2 , 3 ) и т.д., которые называются сл. векторами или n – мерными сл. величинами, n  2 . Совместное изучение скалярных сл. величин позволяет получить информацию об их
зависимости.
3.1. СОВМЕСТНАЯ (n–МЕРНАЯ) ФУНКЦИЯ РАСПРЕДЕЛЕНИЯ
Дадим формальное определение многомерных сл. величин.
Пусть  , F, P  – некоторое вероятностное
пространство и
1 ,  2 ,...,  n – случайные величины, заданные на нем. Каждому зна 
чению
они
ставят
в
соответствие
вектор
(1 (), 2 (),..., n ())  (1, 2 ,..., n )  R n .
Определение. Отображение  :   R n , задаваемое совокупностью случайных величин    1 , 2 ,..., n  , называется случайным
вектором или многомерной случайной величиной или n – мерной случайной величиной.
Если учесть, что все k , k  1, n , измеримые функции, случайным вектором ξ следовало бы назвать отображение
127

  , где B R n 
 :  , F   R n , B R n
– борелевская σ – алгебра в
R n . Необходимым и достаточным условием измеримости случайного вектора ξ является выполнение условия: x1 , x 2 ,..., x n  R
{ : 1 ()  x1 , 2 ()  x 2 ,..., n ()  x n }  F.
Справедливо утверждение [1]: n – мерная случайная величина ξ
измерима тогда и только тогда, когда все функции k , k  1,..., n,
являются F– измеримыми функциями.
Основной характеристикой случайного вектора ξ является совместная
или
n-мерная
функция
распределения:
F12 ...n (x1, x 2 ,..., x n )  P{1  x1,..., n  x n }, x k  R, k  1, 2,..., n.
Если положить n=2, то двумерная функция распределения есть
ничто иное, как вероятность попадания случайной точки с координатами (1 ,  2 ) в область D  (x1, x 2 )  R 2 : 1  x1, 2  x 2 , ина-


че говоря, в угол с вершиной в точке (x1 , x 2 ) .
Далее везде, где упрощение обозначения не вызывает недоразумений, будем вместо F1...n  x1 , x 2 ,..., x n  писать F  x1 , x 2 ,..., x n  .
Свойства совместной функции распределения случайного вектора ξ аналогичны свойствам функции распределения скалярной
случайной величины, но есть и специальные свойства, вызванные
тем фактом, что ξ – вектор. Перечислим некоторые из них:
1. x k  R, k  1, n, 0  F  x1 , x 2 ,..., x n   1 .
2. F  x1 , x 2 ,..., x n  – функция неубывающая по каждому из своих
аргументов.
3. Функция F  x1 , x 2 ,..., x n  – непрерывная слева функция по
каждому из своих аргументов.
4. lim F  x1, x 2 ,..., x n   0,  k  1,n.
x k 
Результат следует из того, что событие k     и пересечение любого события A вида A  k  x k  , k  1, n, с невозможным событием есть событие невозможное.
128
Эти четыре свойства аналогичны свойствам одномерной функции распределения.
5. F  x1 ,..., x n   F x i1 ,..., x i n для всего множества перестановок


чисел 1, 2, …, n.
6.
Если
F  x1 ,..., x m   lim
x m 1 
x m  2 
...
x n 
m
<
n,
то,
F  x1 ,..., x m , x m1 ,..., x n   F  x1,..., x m , ,...,   .
Рассмотрим lim F  x1 ,...x n  , то есть m = n–1. Событие
x n 
n   – достоверное событие, произведение события А и достоверного события есть событие А, поэтому lim F  x1 ,...x n  
x 
n
 F  x1 ,...x n 1 ,    P 1  x1,..., n 1  x n 1, n   
 P 1  x1 ,..., n 1  x n 1,   P 1  x1,..., n 1  x n 1  F  x1,..., x n 1 .
Аналогичные рассуждения можно провести для любого 1<m<n.
Если m=1, то среди всего множества переменных x1 , x 2 ,..., x n отличными
от ∞ будет только одна из них, x k . Тогда
F  x k   F  ,..., , x k , ,...,   , k  1, n , представляет собой функ-
цию распределения сл. величины k , k  1, n . Это так называемые
маргинальные (частные) распределения случайных величин  k ,
k  1,n .
Функция F  x1,..., x m   F  x1,..., x m , ,...,   называется совместным маргинальным распределением случайных величин 1 ,..., m .
Если
m=n,
то
F  ,...,    1 .
lim F(x1 , x 2 ,..., x n )  1 .
x1 
x 2 
...
x n 
129
Иначе
говоря,
Свойства 5 и 6 называют свойством согласованности совместной функции распределения случайного вектора  .
7. Справедливо соотношение: P a1  1  b1 ,...,a n  n  bn  
 F  b1 ,..., bn    F(b1,...a i ,..., b n ) 
i


i, j,k(i  jk)
 F  b1,...,a i , bi1,...,a j ,..., bn  
i, j(i j)


F b1 ,...,a i ,...,a j ,...,a k ,..., bn  ...  (1) n F  a1 ,...,a n  .
мула
определяет
вероятность
(1 (), 2 (),..., n ())  a1 , b1   a 2 , b 2   ...  a n , b n  .

Фор-
события
На практике мы ограничимся рассмотрением двумерных сл. величин. Для этого случая (n=2) вышеперечисленные свойства функции распределения примут вид:
1. x1 , x 2 0  F(x1 , x 2 )  1 ;
2. F(x1 , x 2 ) – неубывающая функция по каждому из своих аргументов;
3. F(x1 , x 2 ) – непрерывная слева функция по каждому из своих
аргументов;
4. lim F(x1 , x 2 )  0, lim F(x1, x 2 )  0.
x1 
x 2 
5. F(x1 , x 2 )  F(x 2 , x1 ) ;
6. F(x1 )  lim F(x1 , x 2 ), F(x 2 )  lim F(x1 , x 2 ), lim F(x1 , x 2 )  1
x 2 
x1 
x1
x 2 
7. P a1  1  b1 ,a 2  2  b2   F  b1 ,b2   F  a1,b2   F  b1,a 2  
 F  a1 ,a 2  .
Эту формулу можно вывести, исходя из представления события
a
a
 в виде алгебраической суммы событий:
 b       b ;     b  
1
 1  b1;a 2  2  b 2
1
 1  b1;a 2  2
2
1
130
1
2
2

   
 
a .

   1  a1;    2  b 2    1  b1;    2  a 2 
1
 a1;    2
2
3.2. ДИСКРЕТНЫЕ ДВУМЕРНЫЕ СЛУЧАЙНЫЕ
ВЕЛИЧИНЫ
Двумерная случайная величина    1 , 2  будет дискретной,
если каждая из случайных величин 1 ,  2 дискретна. Как и в одномерном случае, двумерную дискретную сл. величину задают ее
рядом распределения:
(3.1)
pij  P 1  xi , 2  y j , i  1,2,... j  1,2,... ,


где x i , y j – все возможные значения сл. величин 1 , 2 соответственно. На числа p ij , таким образом, накладываются ограничения:
i, j
pij  0,
 pij  1 .
(3.2)
i, j
Если число возможных значений вектора (1 ,  2 ) конечно, то
сл. двумерную величину можно описать с помощью таблицы с
двумя входами, по смыслу схожей с таблицей распределения скалярной случайной величины.
Таблица 2
2

x1
x2
1
…
xn
p12
…
…
p1m
p 21
p 22
…
p 2m
…
…
…
…
p n1
p n2
…
p nm
y1
y2
p11
131
ym
В верхней строке таблицы перечислены все возможные значения случайной величины 2 : y1 , y 2 ,..., ym , в левом столбце – все
возможные значения случайной величины 1 : x1 , x 2 ,..., x n . В клетках на пересечении строк с номерами i и столбцов с номерами j
pij  P 1  x i , 2  y j ,
записывают
вероятности
событий


i  1, n, j  1, m .
Таблицу 2 можно расширить, включив в нее еще одну строку и
один столбец:
Таблица 3
2

1
P1
y1
y2
…
ym
x1
p11
p12
…
p1m
p 11
x2
p 21
p 22
…
p 2m
p1 2
…
…
…
…
…
xn
p n1
p n2
…
p nm
p 2 1
p 2 2
…
p2m
P 2
…
p1n
В последней строке новой таблицы P 2 записаны числа
n


p2 j   pij  P 2  y j , j  1,m.
i 1
(3.3)
Следовательно, первая и последняя строки таблицы образуют
ряд распределения случайной величины 2 . Аналогично, в последнем столбце новой таблицы P1 записаны числа
132
m
p1i   pij  P 1  x i , i  1, n ,
(3.4)
j1
потому первый и последний столбцы таблицы образуют ряд распределения случайной величины 1 .
Приведем обоснование формулы (3.4): действительно, если
обозначить за A i событие 1  xi  , i=1,2,…, n, за B j – событие


m
m
j1
j1
2  y j , j=1,2,..,m, то Ai  Ai   Ai  B j   Ai B j 
m

P 1  x i   P(Ai )  P   Ai B j   |события Ai B j попарно несов
 j1


местны при всех i,j| =
m
m
j1
j1
 P(Ai B j )   pij.
Иногда вместо обозначений p1i , i=1,2,…,n, применяются обо-
значения pi  P1  xi  , i  1, n, с тем, чтобы показать, что эти
числа не зависят от значений y1 , y 2 ,..., y m второй сл. величины.
p2 j , j  1,m, применяют обо-
Аналогично, вместо обозначений


значения p j  P 2  y j , j  1,m.
Формулы
m
n
j1
i 1
pi   pij , i  1, n, p j   pij , j  1,m,
(3.5)
называются формулами согласованности для дискретных сл. величин. Для чисел pi  , p j , таким образом, естественны ограничения
pi  0; i  1, n,
n
 pi  1;
i 1
p j  0;
j  1, m,
m
 p j  1;
(3.6)
j1
Для двумерных дискретных сл. величин функция распределения
может быть записана по аналогии с одномерным случаем в виде
133
F(x, y)  P 1  x, 2  y 
 
i:xi  x j:y j  y
(3.7)
pij
Суммирование распространяется на те значения i, j, для которых
выполняются неравенства xi  x, y j  y . Функция F(x, y) может
быть восстановлена по ряду распределения (3.1).
Пример 1. Двумерная дискретная сл. величина (1 ,  2 ) задана
таблицей распределения
1 \
1
2
3
0.2
0.3
1 12
16
13
2
16
16
1 12
Найти
пределения
1 и 2 и
в этой же таблице. Найти F(0;2), F(0.25; 3) .
Решение. Вычислим по формуле (3.4) числа
законы рассл. величин
записать их
pi  , i  1,2 :
p1  P1  0.2  1 12  1 6  1 3  7 12 ;
p2  P1  0.3  1 6  1 6  1 12  5 12 .
Теперь вычислим по формуле (3.3) числа
p1  P2  1  1 12  1 6  1 4;
p3  P2  3  1 3  1 12  5 12 .
p j ,
j=1,2,3.
p2  P2  2  1 6  1 6  1 3;
Проверкой полученных результатов являются выполнение равенств (3.5): 7 12  5 12  1; 1 4  1 3  5 12  1 .
Исходная таблица преобразуется к виду:
134
1 \ 2
1
2
P1
3
0.2
1 12
16
13
7 12
0.3
P 2
16
16
1 12
5 12
14
13
5 12
1
F(0;2) 
 
i:xi 0 j:y j  2
F(0.25;3) 
pij  0 ;
 
i:xi 0.25 j:y j 3
pij  1 12  1 6  1 4 .
3.3. НЕПРЕРЫВНЫЕ n–МЕРНЫЕ СЛУЧАЙНЫЕ ВЕЛИЧИНЫ
Если функция F  x1 ,..., x n  абсолютно непрерывна, то случайная
величина    1 ,..., n  называется непрерывной. Совместную
функцию распределения в этом случае можно записать в виде nкратного
интеграла
x1 x 2
xn
 

F  x1 ,..., x n  
  ...  f (t1,..., t n )dt1...dt n
и
функция f (x1 ,..., x n ) – плотность распределения n–мерной случайной величины  . Как и в случае одномерной сл. величины будем
полагать выполнение почти всюду равенства
f (x1 ,..., x n ) 
 n F  x1 ,..., x n 
x1 ,..., x n
Свойства совместной плотности распределения
1. f (x1 ,..., x n )  0 .
2.
 

 

  ...  f (x1,..., x n )dx1...dx n  1 .
135
(3.8)
 
3. Если A  B R n , то P  A   ... f (x1,..., x n )dx1...dx n .
A
4. Условие согласованности для совместной плотности распределения
имеет
вид
 
f (x1 ,..., x m ) 
 
 

...  f (x1,..., x m , x m1,..., x n ) dx m1dx m2 ...dx n , 1  m  n,

и f (x1 ,..., x m ) – маргинальная совместная плотность распределения
случайной
 
f (x k ) 
 
 
величины
 1 ,..., m  .
В
частности,

...  f (x1,..., x k , x k 1,..., x n )dx1...dx k 1dx k 1...dx n , k  1,n ,

– маргинальные плотности распределения сл. величин  k , k  1,n .
При n=2 свойства совместной функции распределения принимают вид:
1. f (x, y)  0 ;
 
2.
  f (x, y)dxdy  1 ;
 
3. P  A   f (x, y)dxdy, A  B(R 2 ) ;
A

4. f (x) 



f (x, y)dy ; f (y) 
 f (x, y)dx .

В заключение рассмотрим наиболее часто встречающееся на
практике многомерное нормальное распределение (гауссово распределение).
Говорят, что сл. вектор    1 ,..., n  , компонентами которого
являются непрерывные сл. величины  k , k  1,n , распределен по
нормальному закону, если совместная плотность распределения
вектора  определяется формулой:
136
f (x1 ,..., x n ) 
1
(2)
n
2
e
1
 (x m) т A 1 (x m)
2
,
(3.9)
A
где x   x1 ,..., x n   R n , m   m1,...,mn   R n – вектор математит
т
ческого ожидания сл. величины  1 ,..., n  или вектор средних, положительно определенная симметричная матрица A носит название
ковариационной матрицы, А – определитель этой матрицы. Вектор m и матрица A – параметры многомерного нормального распределения.
Если m=0 и A=I, то f (x1 ,..., x n ) 
1
 2 
n
e
1
 xтx
2
,
x  R n , – сов-
местная плотность стандартного нормального распределения.
1 1 
Пусть n=2, m  (1, 1) т , A  
 . Вектор m и матрица A мо1 2 
гут быть параметрами двумерного нормального распределения, так
как A > 0, симметрична. Определитель матрицы A равен 1,
 2  1
т 1
A 1  
 , квадратичная форма (x  m) A (x  m) имеет

1
1


вид 2(x  1)2  2(x  1)(y  1)  (y  1) 2 . Тогда плотность распределения двумерной сл. величины выглядит следующим образом:
f  x, y  
1  2  2 x 1
e
2
1
2
2
 2 x 1 y 1  y 1 

, x, y  R.
3.4. УСЛОВНЫЕ РАСПРЕДЕЛЕНИЯ
Для простоты изложения ограничимся случаем n = 2. Итак,
пусть (, ) – двумерная случайная величина с известными
функциями F (x, y) и f  (x, y) . Известно, что сл. величина 
приняла значение y :   y . Что можно сказать о распределении сл.
137
величины  при условии   y ? Из самой постановки вопроса
видно, что понятие условного распределения весьма схоже с определением условной вероятности событий, рассмотренной в п. 1.8.
Начнем с наиболее простого случая, пусть  – дискретная ве-

личина. Назовем условной функцией распределения F x   y j

случайной величины  при условии   y j условную вероятность
 
P   x,   y j
.
F  x   y j   P   x   y j 
P   y j
события {   x } при условии события   y j , то есть
(3.10)
Условная функция распределения обладает всеми свойствами
F1  F7 функции распределения.
Если  также дискретная случайная величина, причем


P   x i ,   y j  pij , то удобно вместо условной функции распре-
деления рассматривать условные вероятности ij случайной величины  , которая принимает значение xi при условии   y j , определяемые как



P   xi ,   y j
ij  P   x i   y j 

P   yj

  pij
(3.11)
pj
Составим таблицу:
Таблица 4
P
ξ\η
y1
y2
…
ym
x1
11
12
…
1m
p 1
x2
…
xn
 21
 22
 2m
p 2
…
 n1
…
n2
…
…
…
…
 nm
…
pn
P
p 1
p 2
…
p m
138
Ясно, что эта таблица получается из табл. 3 из п.3.2 заменой в
ней элементов рij элементами ij , вычисляемыми по формуле
(3.11): ij 
pij
p j
p 21
p
; ... 2m  2m и т.д. Очеp1
p m
. Так, например, 21 
видно, таблицу 3 можно получить из таблицы 4 заменой элементов
ij на рij по формуле
pij  ij  pj
(3.12)
Пусть теперь  не является дискретной величиной. Формулой
(3.10) для определения условной функции распределения пользоваться в этом случае не можем, так как P   y  0 .
Перейдем от события   y к событию y    y   , а событие
  y
получим из события
Определим P   x y    y   
y    y  
при   0 .
P   x, y    y  
P y    y  
и назовем
условной функцией распределения F  x   y  предел этой условной вероятности при   0 :
P   x, y    y  
F  x   y   lim
0
P y    y  
(3.13)
Поскольку событие   y   есть объединение непересекаю-
y    y   и   y , кроме того,
  y    y   , то согласно следствию из свойства
щихся событий
событие
ятностей
Р3 вероимеем
F  x   y   lim
0
P   x,   y    P   x,   y
P y    y  
139

F(x, y)
F(x, y  )  F(x, y)
1 F(x, y)
y
 lim


.
dF (y) f  (y) y
0 F (y   )  F (y)
dy
Итак,
1 F(x, y)
F  x   y  
f  (y) y
(3.14)
x y
Так как F (x, y) 
  f (u, v)dudv , то второй сомножитель в
 
x
формуле (3.14) можно переписать в виде
F(x, y)
  f (u, y)du ,
y

следовательно,
x
F  x   y  
 f (u, y)du

f  (y)
(3.15)
Если функция F  x   y  имеет производную по x , т.е. существует условная плотность распределения случайной величины 
при условии   y
f (x   y)  f  (x y) 
1  2 F(x, y) f (x, y)

f  (y) xy
f  (y)
(3.16)
С использованием свойства 4 совместных плотностей распределения и опустив в левой части у функции f  индекс  получим:
f (x y) 
f (x, y)

f  (y)
f (x, y)

(3.17)
 f (x, y)dx

Аналогичным рассуждением может быть получена формула:
140
f (y x) 
f (x, y)

f  (x)
f (x, y)
(3.18)

 f (x, y)dy

Из формул (3.16) и (3.18) можно получить соотношения:
f (x, y)  f (y)f (x y)  f (x)f (y x) ,
(3.19)
которые напоминают формулы умножения вероятностей для случайных событий.
Пример 2. Пусть (ξ,η) – нормально распределенный случайный
вектор
с
ковариационной
матрицей
2
 
12 
 , 1 ,  2  0, 1    1 ,
А 1
вектором
средних
2 
  

2 
 1 2
m  (m1 , m 2 ) т (см. равенство (3.9)). Найдем условное распределение случайной величины  при условии η=y.
Решение.
 1
 2
1
1 
1

А 
1  2 
 
 
 1 2
Сначала
 
12 

.

1 
22 
вычислим
Тогда согласно формуле (3.9): f  (x, y) 
A 1 :
матрицу
1
212 1  2



 (x  m1 )2 2(x  m1 )(y  m2 ) (y  m 2 ) 2  
1

 exp 


  ,
2 
2
2

12
1
2
 2(1   ) 



141

f (y) 

f (x, y)dx 

f (x y) 
1
2
2

 (y  m2 ) 

exp 
,
2
2
22 



(3.20)
f (x, y)
1


f  (y)  2(1  2 )
1
2


1 (y  m 2 )  
1
 exp  2
x  m1 
 .
2 
2
 
 21 (1   ) 
(3.21)
Видим, что условное распределение сл. величины  при условии   y – формула (3.21) – снова будет нормальным со средним
значением m1  1 (y  m 2 ) / 2 и средним квадратическим отклонением 1 1  2 .
Отметим еще, что маргинальное распределение f  (y) – формула
(3.20) – также является нормальным со средним значением m2 и
средним квадратическим отклонением  2 .
Определение. Случайные величины  1 ,..., n  называются независимыми, если имеет место равенство:
F1,...т (x1 ,...x n )  F1 (x1 )...Fn (x n )
(3.22)
или же, через плотности распределения,
f1,...n (x1 ,...x n )  f1 (x1 )...f n (x n )
(3.23)
В этом случае условные плотности распределений совпадают с
плотностями распределений. Так, при n=2 в случае независимости
случайных величин  и  имеем:
f (x y) 
f (x, y)
f (x, y)
 f  (y)
 f  (x) и f (y x) 
f  (x)
f  (y)
(3.24)
Отметим, что дискретные сл. величины будут независимыми,
если:
P1  x1,..., n  x n   P1  x1 P2  x 2   Pn  x n  (3.25)
142
3.5. ПРЕОБРАЗОВАНИЕ ВЕКТОРНЫХ СЛУЧАЙНЫХ ВЕЛИЧИН
Рассмотрим задачу нахождения закона распределения некоторой функции заданной сл. величины ξ для случая, когда ξ – n–
мерная случайная величина. Итак, пусть ξ –n–мерная случайная
величина с известной плотностью распределения f  (x) и имеется
функция   () ,  – m– мерная случайная величина . Ставится
задача нахождения f  (y) .
Остановимся на некоторых частных случаях этой задачи.
Случай 1. Пусть m=n>1,   (1 ,..., n ) – дифференцируемая
векторная функция. Предполагаем, что система уравнений y  (x)
 y1  1  x1 ,..., x n 

 y 2  2  x1 ,..., x n 

...
 y    x ,..., x 
n
1
n
 n
x  1 (y)  g(y)  x(y) ,
имеет
единственное
решение
 x1  g1  y1 ,..., y n 

 x  g 2  y1 ,..., y n 
g(y)  x(y)   2
.
...
 x  g  y ,..., y 
n
1
n
 n
Для любого борелевского множества Sx, являющегося некоторым
множеством значений случайной величины  ,   Sx , соответствующее борелевское множество SY  (Sx ) удовлетворяет усло-


вию  SY . Кроме того, P   Sx   P  Sy . Вычислим вероятность первого события, для чего воспользуемся свойством 3 плотностей распределения: P Sx    ...  f (x1,..., x n )dx1...dx n . СдеSx
лаем в интеграле замену переменных x = g(y), по известной из ма-
143
тематического анализа формуле замены переменных в кратном интеграле получим
(g1 ,...,g n )
P  Sx    ...  f  (x1,..., x n )dx1...dx n   ...  f  (g(y))
dy1...dy n .
Sx
SY
(y1 ,..., yn )

Но в силу соотношения P   Sx   P  Sy


и справедливости

формулы P  Sy   f   y  dy заключаем, что
Sy
f (y)  f  (g(y))
(g1 ,...,g n )
(y1 ,..., yn )
(3.26)
Замечание. Аналогично замечанию в п. 2.4, обозначение
x = g(y) удобнее заменить на обозначение: x = x(y), тогда последняя формула примет вид:
(x1 (y),..., x n (y))
(3.27)
f (y)  f (x(y))
(y1 ,..., yn )
Пример 3. Найти f (u, v) , если 1  1  2 , 2  1  2 , 1 и 2
–независимые сл. величины, 1 имеет равномерное на отрезке [0,1]
распределение, а сл. величина 2 распределена по экспоненциальному закону с параметром λ.
f 1  x   1, x   0,1 , f 1  x   0, x  0,1 ,
Решение. Итак,
f2 (y)  e y , y  0, f 2 (y)  0, y  0. Рассмотрим систему урав-
нений:
u  x  y

v  x  y
uv

 x  2  x  u, v 
;
 
 y  u  v  y  u, v 

2
144
J 
1
;
2
Используем формулу (3.27):
u v
1  2
f  (u, v)  1  e
J  e
, (u, v)  D,
2
D  (u, v) :0  u  1,  u  v  u; u  1,  u  v  2  u .
 y(u,v)
Случай 2. Пусть теперь m  n, n  2 , функция   (1 ,..., m ) –
дифференцируемая векторная функция. Этот случай сводится к
предыдущему, если к системе имеющихся уравнений
 y1  1  x1 ,..., x n 

 y 2  2  x1 ,..., x n 

...
 y    x ,..., x 
m
1
n
 m
y m+1 ,...,y n :
добавить n–m+1 новых переменных,
 y m+1  m 1  x1 ,..., x n 

 y m+2  m  2  x1 ,..., x n 

...
 y    x ,..., x 
n
1
n
 n
Функции m 1 ,..., n следует выбирать так, чтобы они были
дифференцируемыми, полученная система n уравнений с n неизвестными имела единственное решение и это решение могло быть
получено возможно проще. Чаще всего за новые переменные
m 1 ,..., n берут какие-нибудь из прежних переменных, например,
y m 1  x m 1 ,..., y n  x n . Тогда по формуле (3.27) получаем для слу  ()  ((), y m1 ,..., y n )
чайной
величины
функцию
(x1 (y),..., x n (y))
. По свойству 4 совместных плотно(y1,..., y n )
стей вероятностей:
f (y)  f  (y)
145

f (y)   ...  f  (y)

(x1 (y),..., x n (y))
dy m1...dy n
(y1 ,..., yn )
(3.28)
Пример 4. Пусть    1 , 2  – вектор положительных сл. величин, совместная плотность распределения которых f12 (x1, x 2 )
известна, η=ξ 1  2 . Найти f  (y) .
Решение. Здесь m=1, n=2, обратимся к случаю 2. Составим систему уравнений следующим образом:
 y1  x1  x 2

 y2  x 2
 x1  y1  y2  x1 (y1 , y2 )
,

 x 2  y2  x 2 (y1 , y2 )

(3.27)
f (y1 , y2 )  f  x1 (y), x 2 (y) 
 f 12 (y1  y 2 , y 2 )
(x1 (y), x 2 (y))

(y1 , y2 )
1 1
 f 12 (y1  y 2 , y 2 ) ,
0 1
y1
f (y1 )  f (y)   f 12 (y  y2 , y 2 )dy 2 .
0
Полученный интеграл называется интегралом типа свертки
(сверткой функций распределения двух независимых случайных

величин
и
называется
интеграл
вида

F    F (y2 )dy2  F (y1  y2 )dy1 – суперпозиция интегралов от
функций распределения случайных величин  и  ).
Пример 5. Пусть имеют место условия предыдущего примера,

но   1 , найти f  (y) .
2
Решение. Рассмотрим систему уравнений:
146
x1

 x1  y1y2  x1 (y1 , y 2 )
(x1 (y)x 2 (y))
 y1  x
 y2 ,
, J
2  

(y1 , y2 )
 x 2  y2  x 2 (y1 , y2 )
y  x
2
 2
y1 , y 2  0. По формуле (3.27) найдем f  (y1 , y 2 ) , где   (, 2 ) :

f (y1 , y2 )  f 12 (y1y2 , y2 )y2  f  (y1 )  f  (y)   f 12 (yy 2 , y 2 )y 2dy 2 .
0
Пример 6. Пусть имеют место условия примера 4, но
  12  22 , f (y)?
Решение. Решаем систему уравнений:
2
2
 y  x 2  x 2

1
2   x1  y1  y2 ;
 1

 y2  x 2

x 2  y2
y1
 y2
 (x1 (y), x 2 (y))
y1
 y12  y 2 2
, y 2  y1;
y12  y 2 2 
2
 (y1 , y 2 )
y1  y 2 2
0
1
(x1 (y), x 2 (y))
y1

, y2  y1;
(y1 , y2 )
y12  y22
(3.27)
f  (y1 , y 2 )  f 12 ( y12  y 2 2 , y 2 )
f  (y1 ) 
y1

y1
y12
 y22
f 12 ( y12  y 2 2 , y 2 )
, y 2  y1;
y1dy 2 , y1  R.
2
2
y

y
0
1
2
Решение этой задачи можно получить иным способом. Введем
новую случайную величину φ такую, что 1   cos , 2   sin  .
147
Решаем
систему
 x1  y cos 
,   0, 2 , y  0, 

 x 2  ysin 
уравнений:
 (x1 , x 2 )
y 
 (y, )
f (y, )  yf12 (ycos , ysin ) 
2
f (y) 
 yf12 (ycos , ysin )d .
0
Замечание 1. Рассмотренные приемы нахождения законов распределения известных функций от известных случайных величин
не являются единственно возможными. Данная задача может быть
решена в такой последовательности: сначала находим функцию
распределения новой сл. величины, а уж потом плотность распределения. Приведем решение примера 5 подобным образом. Итак,

  1 , 1, 2  0, f12 (x, y) известна. F  (t)  P   t 
2


 P  1  t    f 1 2 (x, y)dxdy, где D  D1
 2
 D
D2 ,

x 
D1  (x, y) : x  0, y  0 , D 2  (x, y) :  t ;
y 


yt
0
0
 D  (x, y) : 0  x  yt, y  0  F (y)   dy  f 12 (x, y)dx; 

f (t)  F (t)   yf 12 (yt, y)dy, t  0.
0
Видим, что результат получился тот же самый с точностью до
обозначений.
Замечание 2. С использованием рассмотренного в п. 3.5 способа нахождения закона распределения функций сл. величин могут
быть получены следующие результаты:
148
1. Пусть 1 ,  2 ,...,  n – независимые сл. величины, каждая из которых распределена нормально с параметрами 0 и 1. Тогда сл. веn
личина X   2k распределена по закону
k 1
 2n (хи – квадрат) с n
степенями свободы.
Непрерывная сл. величина Х имеет распределение  2n , если ее
плотность распределения задается в виде:
0, x  0

n
x
1 

1
2
f (x)  
x e 2 , x  0.
n
 2 n
2  2 
 

2. Пусть ξ и η – независимые сл. величины, ξ распределена по
нормальному закону с параметрами 0 и 1, η имеет распределение

 2n . Тогда сл. величина Tn 
распределена по закону Стью n
дента или имеет t – распределение.
Случайная величина Х имеет t – распределение с n степенями
свободы, если ее плотность распределения задается в виде
 n 1
n 1

  t 2  2
2 
f (t)  
, t R .
1  
n
 n  
n   
2
Случайная величина Tn при n→∞ имеет стандартное нормальное распределение.
3. Пусть ξ и η – независимые сл. величины, имеющие  2 распределение с m и n степенями свободы соответственно. Тогда сл.
 m
величина Fm,n 
имеет F – распределение или распределение
 n
Фишера , или распределение Снедекора с m и n степенями свободы.
Плотность F – распределения задается в виде:
149
0, z  0

m
   m  n 

 2  m2
f (z, m, n)  
   m 2    n 2   n 


m
1
z2
, z0
mn
 2
 m
1  z 
n 

Замечание 2. Если сумма двух независимых одинаково распределенных сл. величин подчиняется тому же закону распределения,
что и слагаемые сл. величины (с иными параметрами, естественно),
то этот закон распределения называется композиционно устойчивым или восприизводимым. Композиционно устойчивыми являются такие важные законы распределения как нормальный, закон
Пуассона, биномиальный (с одними и теми же параметрами) и  2 .
3.6. МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ ВЕКТОРНЫХ СЛУЧАЙНЫХ ВЕЛИЧИН
Как было отмечено в п.2.5, описание случайной величины с помощью функции распределения или плотности распределения является самым полным, самым подробным, но часто эти функции
просто неизвестны или требуют больших объемов исходных данных для их определения. Это замечание в полной мере относится и
к векторным случайным величинам.
Определение математического ожидания векторной сл. величины ничем не отличается от определения математического ожидания скалярной сл. величины, только это определение применяется
для компонент случайного вектора. Так, если  – n–мерная непрерывная
случайная
величина,
   1 , 2 ,..., n  ,
M  (M1 , M2 ,..., Mn ) т и k  1,n, Mk 
т

 x k fk (x k )dx k 

150
то


 

x
 k   ...  f (x)dx1...dx k 1dx k 1...dx n  dx k 

  






...  x k f (x1 ,..., x n )dx1...dx n
(3.29)

Свойства математического ожидания уже описаны в п. 2.5.
3.7. МОМЕНТЫ ВЕКТОРНЫХ СЛУЧАЙНЫХ ВЕЛИЧИН
Кроме определений моментов, приведенных в разделе 2.7:
начальных, центральных, абсолютных для векторных сл. величин
могут быть даны определения так называемых смешанных моментов.
Пусть 1 ,  2 ,...,  n – сл. величины с совместной функцией распределения F12 ...n (x1 , x 2 ,..., x n )  F(x1, x 2 ,..., x n ) . Величины
m  k1,k 2 ,...,k n   M1k1 2k2  nkn 
  ... x1k1 x 2k 2  x kn n dF(x1 , x 2 ,..., x n ),
где ki  0,
n
 ki  k ,
(3.30)
называются смешанными моментами по-
i 1
рядка k величин 1 ,  2 ,...,  n .
Аналогично определяются центральные смешанные моменты
к-го
порядка
  k1 ,k 2 ,...,k n   M(1  M1 ) k1  (n  Mn ) k n ,
n
 ki  k .
(3.31)
i 1
Среди смешанных моментов особую роль играют смешанные
моменты 2 порядка. Центральные смешанные моменты 2 порядка
сл. величин ξ и η –  1,1  M(  M)(  M) обозначают через
cov(ξ,η) и называют ковариацией сл. величин ξ и η:
cov  ,   M(  M)(  M) (см. также п. 3.11).
151
3.8. ДИСПЕРСИЯ ВЕКТОРНЫХ СЛУЧАЙНЫХ ВЕЛИЧИН
Относительно вычисления дисперсии векторной сл. величины
можно сказать то же самое, что и относительно ее математического
ожидания, а именно: определение дисперсии векторной сл. величины сводится к определению дисперсий компонент случайного вектора. Так, если  – n–мерная непрерывная случайная величина,
   1 , 2 ,..., n  , то k  1,n, Dk 
т

 (x k  Mk )

2
f k (x k )dx k 

 

2
  (x k  Mk )   ...  f (x)dx1dx 2 ...dx k 1dx k 1...dx n  dx k 



  




 ...  (x k  Mk )

2
f (x1,..., x n )dx1...dx n
(3.32)

Таким образом, можем считать, что D  (D1 , D2 ,..., Dn ) т .
Согласно формуле (3.31) вектор дисперсий D случайного вектора ξ – это вектор центральных моментов его компонент. Однако
для векторной сл. величины важны не только дисперсии ее компонент, но и ковариации между ними, определение которых приведено выше, в п. 3.6. В общем случае дисперсии и ковариации векторных сл. величин образуют так называемую матрицу ковариаций
или ковариационную матрицу, обозначают ее иногда символом




cov  1 , 2  ...
cov  1 , n  
 cov  1 , 1 
cov  ,     cov  2 , 1 
cov  2 , 2  . . . cov  2 , n  






. . .



cov  n , 2  . . .
cov  n, n  
 cov  n , 1 
или , с учетом сделанного замечания,
152


D1

cov  ,     cov  2 , 1 




 cov  n , 1 


cov  1 , 2  ...
cov  1 , n  
D 2
. . . cov   2 ,  n  



. . .


cov  n , 2  . . .
Dn 
Изучением ковариаций случайных величин мы займемся несколько позже (см. п. 3.11).
3.9. УСЛОВНОЕ МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ.
КРИВЫЕ РЕГРЕССИИ
Для простоты изложения ограничимся в этом параграфе рассмотрением только двумерных сл. величин. Следующая группа
числовых характеристик – это характеристики связи сл. величин.
Наиболее полно зависимость сл. величин  и  описывается с помощью условных распределений (см. п. 3.4). Однако это описание
довольно сложно. Более просто, хотя и менее полно, зависимость
между сл. величинами описывается при помощи условного математического ожидания.
Определение. Условным математическим ожиданием сл. величины  при условии   y , называется величина:

  xf (x y)dx

M(   y)  M( y)   xdF(x y)  
(3.33)


x k kj

k
Первая строка формулы справедлива для непрерывных сл. величин ξ и η, вторая – для дискретных сл. величин.
Очевидно, что величина M(   y) является функцией сл. ве
личины , что немедленно следует из ее определения, следовательно, сама является сл. величиной, которую мы будем обозначать M( ) . Область определения сл. величины M( ) совпадает
153
с множеством значений сл. величины  . Значения сл. величины
M( ) при различных значениях η принято иногда записывать в
виде: m  (y)  M(   y) .
Свойства условного математического ожидания.
1. M(C) = C
2. M(a + b) = aM() + b
3. M( + ) = M() + M()
4. M() = M()M(),если  и  независимы при условии ν.
Эти свойства аналогичны свойствам математического ожидания
(арифметические действия понимаются уже не как действия над
числами, а как действия над функциями, определенными для всех
значений ). Нижеследующие свойства присущи только условному
математическому ожиданию.
5. M[M()]=M
Доказательство приведем для непрерывных сл. величин.




M  M( )    M( y)dF (y)     xdF (x y)  dF (y) 


 
 
 



f (x, y)
  x
f (y)dxdy   xdx  f (x, y)dy   xf  (x)dx  M.
f (y)
 



Следствие. В процессе доказательства получено полезное соотношение

M 
 M( y)f (y)dy,
(3.34)

которое в литературе носит название формулы полного математического ожидания.
6. M ( )h()   h()M ()  , h и  – некоторые функции.
154
Действительно, для произвольного значения y сл. величины η

можем записать
M ()h(y) y  
 (x)h(y)dF (x y) 


 h(y)  (x)dF (x y)  h(y)M () y  .
Полученное
равенство

справедливо при любом значении y сл. величины .
7. M( ) = M, если  и  – независимы.
M  y 




xf  x y  dx   xf  x  dx  M в силу независимости

сл. величин. Полученное равенство справедливо при любом значении y сл. величины .
8. M  M  M( ) 
M     xyf  x, y dxdy   x   yf  y x  dy  f  x  dx 


  xM   | x  f  x  dx  M  M( ) .
Вернемся к определению условного математического ожидания
сл. величины  при условии η=y, M(    y) . Эта сл. величина,
рассматриваемая как функция , иначе, при различных значениях
, характеризует зависимость “в среднем” сл. величины  от сл.
величины . По этой причине функцию M(    y) ещё называют
функцией регрессии или просто регрессией сл. величины  на сл.
величину . Эта идеальная зависимость, освобожденная от случайностей. График функции M(    y) , ее в этом случае удобнее
обозначать как m (y) , называют линией регрессии сл. величины 
на сл. величину  (или просто линией регрессии  на ). Отметим,
M(    y )  m  (y)
что
линий
регрессии
две:
и
M(    x )  m (x) . В общем случае они между собой не совпа-
дают.
Пример 7. Рассмотрим двумерную сл. величину (,), имеющую нормальное распределение. В примере 2 этого раздела была
155
получена формула для условной плотности нормального распределения:
f (x y) 

1
1 2(1  2 )
Величина
m1 
e

1 (y  m 2 ) 
 x  m1 

2
2 12 (12 ) 

1
1 (y  m2 )
2
2
, x, y  R .
является условным математиче-
ским ожиданием M(    y) , то есть регрессией  на η. Перепишем
это
выражение
в
виде
M(    y)=
1



  1 y  a  by, где a= m1  m2 1 , b   1 .
2
2
2
2
На плоскости (x,y) уравнение этой прямой имеет вид х=a+by.
Очевидно, линия регрессии M(    x )  m (x) также пред m1  m2
ставляет
собой
прямую
линию
M(    x )  m  (x)  c+ dx,
2

, d   2 , которую на координатной плоско1
1
сти (x,y) представима в виде y= c+dх. В общем случае эти линии
не совпадают, как уже было отмечено выше.
Уравнения регрессии могут быть записаны в более симметризоy  m2
x  m1
y  m2 1 x  m1
ванной форме, а именно:
,

 
2
1
2
 1
для регрессии η на ξ и регрессии  на η соответственно.
Прямые регрессии проходят через центр рассеивания – точку
( m1 , m 2 ) с угловым коэффициентом ( по отношению к одной и той

1 2
же оси Ох) k  /    2 , k  /  
. Так как |ρ| ≤1 (см. п.3.12),
1
 1
то
| k  /  | ≥ | k  /  |, что геометрически означает, что прямая регде с= m2  m1
грессии ξ на η всегда расположена более круто по отношению к
оси Ох, чем вторая прямая регрессии η на ξ. При |ρ| =1 линии регрессии совпадают, при   0 прямые регрессии распадаются на
156
две прямые, параллельные осям координат – вырожденный случай
регрессии.
3.10. УСЛОВНАЯ ДИСПЕРСИЯ
Для того чтобы оценить насколько сильно отдельные значения
сл. величины могут отклоняться от кривых регрессии, используют
понятие условной дисперсии:

D(   y)  D( y) 
  x  M( y) 


D(   x)  D( x) 
2
f (x y)dx
(3.35)
  y  M( x) 
2
f (y x)dy

Случайная величина D( ) , рассматриваемая как функция η,
носит название скедастика, сами уравнения (3.35) называются
скедастическими (терминология справедлива и для сл. величины
D( ) .
Как и в случае условного математического ожидания, некоторые свойства условной дисперсии аналогичны свойствам обычной
дисперсии, другие же присущи только условной дисперсии. Первые только перечислим, вторые приведем с доказательствами.
1. D  C   0
2. D  a  b   a 2 D   


3. D     M 2   M2   
4. D  1  2   D  1   D  2  , если 1 ,  2 – независимые
сл. величины при условии η.
5. D           2   D      
Доказательство приведем для непрерывной сл. величины. Рас-

смотрим выражение   x    y   M    x    y  
157

2



 2  y    x   M        – использовали свойство 6 условного
2
математического ожидания. Далее используем формулу (3.34).
6. D  M  D      M  M      M 
2
или D  M  D      D  M     .
Согласно


свойству
D     M    M    
2
2
D4
имеем
M    D     M     .


дисперсии
2

2
Применим к обеим частям полученного равенства оператор математического ожидания: M  M 2    M  D      M  M 2     


или, используя свойство 5 условного математического ожидания в
левой части равенства, M2  M D     M M2    . Вы


чтем
из
обеих

(M) 2  M 2  :
частей
M 2  M 2  
 M D     M M2     M2 . В левой части получаем выра

жение для дисперсии Dξ, правую же часть полученного равенства
преобразуем следующим образом. Нетрудно показать, что
M M2     M2 = M  M      M  . Действительно,


2
M M     M  M M2     2M    M  M2  


2
2
2
 M M     2M M    M  M   M M     M2 . То



2
гда
получаем равенство
D  M  D      M  M     M  .
2
Остается показать, что D  M      M  M      M  :
2


D M     y    M   y   M M    f  y  dy 


2
  M   y   M f   y  dy  M  M     M  .
2
2
Замечание. В ходе доказательства получена формула, имеющая
самостоятельное значение
158
D  M      M  M     M 
2
(3.36)
Пример 8. Пусть (ξ,η) – двумерная сл. величина, имеющая
нормальное распределение. Известно (см. предыдущий пример),
что условная плотность распределения f  x y  имеет вид
1

f  x y 
1

1 2 1  2


e
2 12



1
2
 x  m1   y  m 2  
2

12 

, x, y  R .

Но тогда D   y   12 1  2 . Аналогично,

D   x   22 1  2 .
Обе дисперсии постоянны, т.е. не зависят от значений сл. величин ξ и η соответственно. При | ρ |=1 D   y   D   x   0 . О том,
как проинтерпретировать полученный результат, см. п. 3.12.
Проверим свойство 6 условной дисперсии: D  D  M     
2
 

 M  D     M  1    m2   m1   M12 1  2  12 1  2 
 2

2
12


M    m2   12 1  2  2
2
2
12
22






D  12 1  2  2 12  12 .
2
Мы получили хорошо известный результат.
Упражнение.
Проверить справедливость соотношений
1. D M     M M2     M2


2
2
2. M  D      M   M    f   y  dy

3. M       M      
, если ξ и η – независимые
2
одинаково распределенные сл. величины.
159
3.11. КОВАРИАЦИЯ СЛУЧАЙНЫХ ВЕЛИЧИН
Вышеописанные характеристики связи сл. величин являются
функциями значений условия. Одним числом зависимость между
сл. величинами описывается ковариацией или коэффициентом корреляции.
Определение. Ковариацией скалярных сл. величин  и  называют число, равное математическому ожиданию произведения
центрированных сл. величин     M и     M :
cov(,)= M   M(  M)(  M)
(3.37)
Ковариацией векторных случайных величин будет квадратная
матрица, элементами которой служат ковариации между компонентами векторов ξ и η – cov(i ,  j ), i, j  1,n, и n–размерность векторов ξ и η (см. также п. 3.7).
 (x i  M)(y j  M)pij
 i, j

cov(i ,  j )    

  (x  M)(y  M)fij (x, y)dxdy

 
(3.38)
Первая формула в равенстве (3.38) справедлива для дискретного
распределения, вторая – для непрерывного. Таким образом,




 cov  1 , 1  cov  1 , 2  ...cov  1 , n  
cov  ,    cov  2 , 1  cov  2 , 2  ...cov  2 , n  


 .

.
.


 cov  n , 1  cov  n , 2  ...cov  n , n  
160
Если ξ=η, то




 cov  1 , 1  cov  1 , 2  ...cov  1 , n  
cov  ,    A   cov   2 , 1  cov   2 ,  2  ...cov   2 ,  n   


 .

.
.


 cov  n , 1  cov  n , 2  ...cov  n , n  


 D1

  cov  2 , 1 
.

 cov  n , 1 



cov  1 , 2  ...cov  1 , n  

D 2 . . . cov   2 ,  n   ,

.
.


cov  n , 2  . . .D n

поскольку диагональные элементы матрицы являются дисперсиями
сл. величин 1 ,  2 , ,  n по свойству 1 ковариаций сл. величин




(см. ниже). Поскольку cov i ,  j  cov  j , i , что следует из
определения ковариации, то матрица A – симметричная матрица.
Если cov(,)=0, то сл. величины ξ и η называются некоррелированными.
Ковариация сл. величин обладает следующими свойствами:
1. cov (,) = D
cov (,) = M( – M)2 = D
2. Если  и  независимы, то cov(,) = 0. Иначе говоря, из независимости сл. величин следует их некоррелируемость.
Cov(,) = M(– M)( – M) =(по свойству М4 математического ожидания сл. величин)= M(– M)M( – M)=0.
Обратное утверждение в общем случае места не имеет. Существуют зависимые сл. величины, ковариация которых равна нулю.
Так, если ξ=sinν, η=cosν, сл. величина ν распределена равномерно
161
на отрезке [0,2π], то cov(,)= M 
1
2
2
 sin x cos x dx  0 , следо0
вательно, по определению сл. величины  и  не коррелированы.
Однако между этими сл. величинами существует функциональная
зависимость.
3.
Пусть 1  a11  b1 , 2  a 22  b 2 .
Тогда
cov(1 , 2 )  a1a 2 cov  1 , 2  .
Действительно,
cov(1 , 2 )  M  1  M1  2  M2   M(a1 (1  M1 ))(a 2 (2  M2 )) 
 a1a 2 cov  1 , 2  (по свойству М2 математического ожидания сл.
величин).
Замечание. Если в качестве ξ и η рассмотреть двумерные сл.
величины,
то
есть
   1 , 2  ,    1 , 2  ,
т
т
при
этом
1  A11  b1 , 2  A 22  b2 , где A1 , A 2 – неслучайные матрицы
порядка 2×2, b1 , b 2 – двумерные неслучайные векторы, тогда формула
претерпевает
очевидные
изменения:
cov  1, 2   A1 cov  1, 2  A2т .
4. c ov(, ) |  DD .
Рассмотрим сл. величину  = x –  , x – произвольное число.
D  M(  M) 2  M(x    xM  M) 2  M(x(  M)  (  M)) 2 
 M(x(  M)  (  M)) 2  x 2 M(  M) 2  2xM(  M)(  M) 
 M(  M) 2  x 2 D  2x cov(, )  D  0 . Квадратный трехчлен
относительно x неотрицателен тогда и только тогда когда его дискриминант
не
положителен,
т.е.
cov 2 (, )  D D  0

cov 2 (, )  D D

cov(, )  D D .
В случае если ξ и η – двумерные сл. величины, то неравенство
принимает
вид
и
cov  ,   DD
D= tr cov(,),
162
D= tr cov(,). Это неравенство называют неравенством КошиБуняковского.
При выводе свойства 4 получен интересный результат, имеющий самостоятельное значение:
(3.39)
D(  )  D  D  2cov(, ) .
Этот результат может быть получен повторением доказательства свойства 4 для сл. величины  = +. Полученное соотношение следует отнести к свойствам дисперсии, в качестве 5 ее свойства. Оно определяет дисперсию суммы произвольных сл. величин.
5. cov(, )  M  MM
cov(, )  M(  M)(  M)  M(  M  M  MM) 
 M  MM .
Пример 9. Рассмотрим двумерную сл. величину, имеющую
нормальное распределение (см. пример 2). Вычислить ковариацию
между компонентами вектора.
Решение.
cov(, )   (x  M)(y  M)f (x, y)dxdy 
 

 
 
u

(x  m1 )(y  m 2 )
21 2 1  2
x  m1
1
y  m2
v
2

e
 
 12
 (x  m ) 2 2(x  m )(y  m ) (y  m ) 2 
1
1
2 
2 


12

2(1 )  12
22
dxdy
1
2

uv
 
2
  2 1  
e
1
 u 2  2uv  v 2 


2(12 ) 
 u 2  2uv  v 2  (u  v) 2  v 2 (1  2 ),
  1  2
= 1 2


 te


t2

2 dt
 ve

v2
2 dv 

163
u  v
1 
2

t2
dudv 
 t, du  1  2 dt

v2


12
e 2 dt  ve 2 dv 

2 


= 1 2 , ( последний интеграл вычислили по частям).
Итак, cov(, )  1 2 . Поскольку D  12 , D  22 , то кова 2
1 2 
 . Мы ввели
риационная матрица A имеет вид A=  1
2 
  

2 
 1 2
этот термин “ковариационная матрица” раньше (см. формулу 3.9 и
пояснение к ней) , чем выяснили смысл этого понятия.
Пример 10. Пусть ( ,) – нормальный сл. вектор и матрица ко 2 0 
 , т.е. сл. величины  и 
вариаций для него имеет вид A=  1
 0 2 
2

не коррелированны.
Запишем плотность нормального распределения в этом частном
случае:
f (x, y) 
1
e
21 2

(x  m1 ) 2
212
(y  m 2 ) 2

222

1
e
21 2

(x m1 ) 2
212

e
(y m 2 ) 2
222

 f (x)f (y), x, y  R.
Итак, f (x, y)  f (x)f (y)  сл. величины  и  независимы.
Этот пример имеет принципиальное значение. Ранее мы отметили, что из независимости сл. величин следует их некоррелируемость. Обратное утверждение в общем случае места не имеет.
Только для нормально распределенных сл. величин из некоррелируемости случайных величин, следует независимость сл. величин ξ и η.
Пример 11. Докажем свойство М4 математического ожидания
из п. 2.5: M  MM , если сл. величины ξ и η независимы. Для
простоты записи будем считать сл. величины ξ и η непрерывными.
По определению математического ожидания функции случайной
 
величины имеем: M 
  xyf  x, y  dxdy  |по
определению
 
независимых
сл.
величин
164
(3.23)|=
 

 
 

xyf (x)f (y)dxdy   xf (x)dx


 yf (y)dy  MM
–
по

определению математического ожидания сл. величины.
3.12. КОЭФФИЦИЕНТ КОРРЕЛЯЦИИ
Существенным недостатком ковариации сл. величин является
то, что её размерность совпадает с произведением размерностей сл.
величин. Это так называемый абсолютный показатель тесноты связи сл. величин. Конечно же безразмерная (относительная) характеристика независимости сл. величин была бы лучше. Такой характеристикой служит коэффициент корреляции сл. величин
Определение. Коэффициентом корреляции сл. величин  и 
называют число  =  ( ,), определяемое соотношением:
cov(, )
(3.40)
(, ) 
D  D
Выпишем его свойства:
1. ( ,) =1
Справедливость утверждения следует из свойства 1 ковариаций.
2.   ,   1
Справедливость утверждения следует из свойства 4 ковариаций
(см. также пример 7 этого раздела).
3.Если  и  независимы, то ( ,) = 0, иначе, из независимости сл. величин следует их некоррелируемость.
Справедливость утверждения следует из свойства 2 ковариаций.
Обратное утверждение справедливо только для нормально распределенных сл. величин, в общем случае оно места не имеет.
1  a11  b1 , 2  a 2 2  b 2 .
4.
Пусть
Тогда
(1 , 2 )  (1 , 2 ) . Знак “+” надо брать, когда a1 и a 2 имеют
одинаковые знаки, и знак “–” – в противоположном случае.
Смысл полученного результата: коэффициент корреляции с
точностью до знака инвариантен относительно линейных преобразований сл. величин.
165
5. (,) =  1 тогда и только тогда, когда сл. величины  и 
линейно зависимы.
Действительно, если (,) =  1, то существуют числа a и b, такие, что  =a + b. Для определенности выберем для коэффициента
2
корреляции
знак
“+”.
Тогда
   M
  M 
M

 0
 D
D 

M(  M)2 M(  M)2
cov(, )

2
 0 . Поскольку числитеD
D
DD
ли первых двух дробей есть ничто иное как дисперсии соответствующих сл. величин, то получили неравенство 1    0.

2
   M
  M 

Так как =1, то 1    0 или M 
 0  c
 D
D 

  M
  M

0.
вероятностью 1
D
D
Последнее утверждение требует пояснений. Выражение, стоящее под знаком математического ожидания, неотрицательно; математическое ожидание – это интеграл Лебега по вероятностной мере
от неотрицательной функции и он равен 0. По свойству интеграла
Лебега это может быть только тогда, когда подынтегральная функция равна нулю почти всюду относительно этой меры, т.е. множества, на которых она отлична от нуля, имеют вероятностную меру
0.
Из
последнего
равенства
выразим

через
:
D
D

  M 
M = aξ+b.
D
D
Если взять  = –1, то следует рассмотреть квадрат математиче2
   M
  M 

ского ожидания суммы величин: M 
 , остальD

D



ные действия аналогичны.
Если же  =a + b, то cov  ,   a cov  ,   
166
  ,  
a cov  ,  
1.
D a 2 D
Рассмотренные свойства коэффициента корреляции выявляют
его смысл: как мера зависимости сл. величин он “улавливает”
только линейную зависимость. Значит, из условия (,) = 0 следует только один вывод: линейной зависимости между сл. величинами ξ и η нет. Нелинейная зависимость между сл. величинами при
этом может быть и даже очень сильная. Чем ближе  к 1, чем
больше линейная зависимость между сл. величинами, причем, если
 < 0, то сл. величины “растут” в разные стороны: с увеличением
одной из них вторая наоборот уменьшается, и наоборот.
Если (,) = 0, то сл. величины  и  называются некоррелированными (выше определение некоррелированных величин уже
было приведено с использованием понятия ковариации сл. величин).
Отметим в заключение, что для характеристики нелинейной зависимости между сл. величинами ξ и  используют корреляцион-
ные отношения   и   : 2  
D  M     
, 2  
D  M     
D
D
Приведем некоторые свойства корреляционных отношений:
1. 0≤   ≤1;
.
2.   =1 тогда и только тогда, когда сл. величина ξ функционально зависит от сл. величины μ;
3.   =0 тогда и только тогда, когда M      M  const .
Геометрически это означает, что линия регрессии M     горизонтальная прямая.
4.   ,      . Равенство возможно тогда и только тогда, когда регрессия M     – прямая линия.
167
3.13. ХАРАКТЕРИСТИЧЕСКИЕ ФУНКЦИИ ВЕКТОРНЫХ СЛУЧАЙНЫХ ВЕЛИЧИН
Определение характеристической функции для скалярной сл.
величины было приведено в разделе 2.8. Для векторных сл. величин определение остается справедливым с очевидными изменениями:
g (u)  Meiu

т



iu т x
e
(3.41)
dF (x)


Здесь u  u1,u 2 ,...,u n , x т   x1, x 2 ,..., x n  и ξ – n-мерная сл.
т
величина.
Свойства характеристических функций многомерных распределений аналогичны свойствам характеристических функций скалярных сл. величин, но есть и отличия, отметим только одно из них:
смешанные моменты порядка к можно определять также дифференцированием характеристических функций. При этом справедливо соотношение:
m12 ...n  k1 , k 2 ,..., k n  
kg  u 
 k1 u1 k2 u 2 ... k n u n
(3.42)
u 0
Отметим в заключение, что характеристическая функция многомерного нормального распределения может быть записана в виде
g (u)
1
iu т m  u т Au
2
e
, где вектор m и матрица A – параметры много-
мерного нормального распределения. Очень часто характеристическая функция многомерного нормального распределения используется вместо плотности распределения для описания случайного
вектора.
168
КОНТРОЛЬНЫЕ ВОПРОСЫ
1. Сформулируйте определение сл. вектора.
2. Что такое функция распределения сл. вектора.
3. Какой сл. вектор называется дискретным.
4. Напишите условия согласованности для двух дискретных сл.
величин. Какой цели они служат?
5. Дайте определение непрерывного сл. вектора.
6. Запишите условия согласованности для непрерывного сл. вектора через функции распределения и через плотности распределения.
7. Сформулируйте необходимое и достаточное условия независимости непрерывных сл. векторов.
8. Что такое числовая характеристика сл. величины?
9. Дайте определение математическому ожиданию, дисперсии,
начального и центрального моментов сл. величины. Назовите другие характеристики сл. величины.
10. Перечислите свойства математического ожидания, дисперсии.
11. Что такое ковариация (корреляционный момент), коэффициент корреляции? Назовите их основные свойства.
12. Сформулируйте основное правило нахождения закона распределения функции сл. величины.
13. Каким образом сл. величина  2 связана с нормальным распределением?
14. Какая с. величина имеет распределение Стьюдента?
15. Как вводится F- распределение?
16. Что означает композиционная устойчивость данного закона?
Примеры.
17. Что такое условное распределение?
18. Как вводится условное распределение в случае дискретных
сл. величин? В случае непрерывных сл. величин?
169
19. Дайте определение условного математического ожидания
сл. величин.
20. Каков вероятностный смысл регрессии ξ на η?
21. Что представляет собой линия регрессии для нормального
закона распределения? Какова геометрическая роль коэффициента
корреляции?
22. В чем разница между функциональной и вероятностной зависимостью между сл. величинами?
ЗАДАЧИ
137. Совместное распределение случайного вектора задается
таблицей:
X\Y
-1
1
-1
7
24
1
8
0
1
12
1
6
1
1
8
5
24
Найти а) одномерные законы распределения сл. величин X и Y; б)
закон распределения сл. величины X+Y; в) закон распределения
сл. величины X–Y: г) закон распределения сл. величины Z  Y 2 ; д)
совместный закон распределения сл. величин X+Y и X–Y.
138. Вычислить коэффициент корреляции (X, Y) в условиях
задачи 137.
139. Точка произвольным образом бросается в круг единичного
радиуса. Найти коэффициент корреляции между ее декартовыми
координатами.
140. Найти коэффициент корреляции (X, X  Y) , если X и Y независимы, одинаково распределены и имеют конечный второй момент.
141. Найти коэффициент корреляции (X, X 2 ) , если X имеет а)
стандартное нормальное распределение; б) показательное распределение с параметром λ.
170
142. Плотность совместного распределения величин  и  определяется равенствами f(u,v)=1, если (u,v)  G = {(u,v): 0≤u≤2,
0≤v<1– u/2}, и f(u,v)= 0,если (u,v) G. Найти f (x), f  (y), F (x, y) .
143. Плотность совместного распределения сл. величин 1 и 2
f12(u,v)=с(u+v), если (u,v) [0,1]  [0,1] и f12(u,v)=0, если (u,v)  [0,1]  [0,1]. Найти а) постоянную с; б) fi(xi), i=1,2; в)
плотность распределения =max(1,2).
144. Плотность
f
12
f
12
(u,v)=2/(u 2 +v 2 )3 ,
если u2+v21,
и
(u,v)=0, если u2+v2<1. Найти f(y), если = 12   22 .
145. Неотрицательные сл. величины 1 и 2 независимы и имеют
одну и ту же плотность распределения f(x), x≥0. Найти f12(u,v),
если 1= 1–2 и = 12   22 .
146. Случайные величины 1 и 2 независимы и имеют одно и то
же показательное распределение. Найти P{| 1  2 |  1} .
147. Случайные величины  и  независимы и имеют равномерное распределение на [0,a]. Найти плотность распределения сл. величин а) +; б)–; в) ; г) /.
148. Случайные величины  и  независимы и имеют показательное распределение с параметром =1. Найти плотность распределения сл. величин а) +; б) –; в) |–|; г) /.
149. Найти f+(х), если сл. величины  и  независимы и а) 
имеет равномерное распределение на [0,1],  – равномерно распределена на [0,2]; б)  имеет равномерное распределение на [0,1],  –
показательное распределение с параметром =1; в) обе сл. величины распределены по показательному закону с одним и тем же параметром; г) обе сл. величины распределены по закону Пуассона с
параметрами 1 и 2.
150. Найти плотность распределения сл. величины
= 1/ ( 1 +  2 ) , если i, i=1,2, независимы и равномерно распределены на [0,1].
151. В квадрат с вершинами в точках (0.0), (1.0), (0.1) и (1.1)
наудачу
брошена
точка.
Доказать,
что
для
171
u, v  (0,1), P X  u,Y  v  P X  u P Y  v  uv.
Найти
для
t  (0,1) P X  Y  t, PXY  t, P max(XY)  t ,
P min(XY)  t. Найти P X  Y  t , 0  t  2.
152. Точка бросается в треугольник с вершинами (0,0), (0,1),
(2,0). Найти функцию распределения и плотность распределения а)
декартовых координат точки; б) полярных координат точки.
153. Случайные величины X и Y независимы, причем
1
P X  0  P X  1  , а P Y  t  t, t  0,1. Найти функции
2
распределения сл. величин X+Y и XY.
154. Случайная величина  равномерно распределена на [0,2],
1=cos, 2=sin. Найти M1, M2, cov(1,2). Являются ли 1,2
независимыми?
155. Случайные величины  и  независимы и одинаково распределены. Найти f   (z x) в следующих случаях:
а)  и  имеют показательное распределение с параметром ;
б)  и  равномерно распределены на [0,1];
в)  и  имеют распределение, задаваемое плотностью распределения f(x)=2xe-x, x0.
156. Совместная плотность распределения сл. величин ξ и η
имеет
вид:
f(u,v)=1,
если
(u, v)  G,
G  {(u, v) : 0  u  2, 0  v  1  u / 2}, и 0 в противном случае.
Найти f  (z x).
157. Случайные величины 1,2,3 независимы и распределены
  2 3
нормально с одинаковыми параметрами а=0, =1; = 1
.
1  32
Найти распределение .
158. Cлучайные величины 1 и 2 независимы и имеют нормальное распределение с параметрами a, σ. Найти f(x), если
=12+22.
172
159. Случайная величина ξ имеет стандартное нормальное рас
 ,если   1
пределение. Пусть = 
.
Будет ли сл. величина

,если


1


ξ+η иметь нормальное распределение?
160. Случайные величины  и  независимы и имеют стандартное нормальное распределение. Найти P     1 .
161. Закон распределения двумерной дискретной случайной величины ( 1 , 2 ) задан в таблице:
1 \ 2
-2
-1
1
2
-1
0,02
0,03
0,09
0,01
0
0,04
0,20
0,16
0,10
1
0,05
0,10
0,15
0,05
Найти: а) законы распределения одномерных случайных величин 1 и 2 ; б) условные законы распределения случайной величины 1 при условии 2 =2 и случайной величины 2 при условии
1 =1; в) вероятность P( 2 > 1 ).
162. Двумерная случайная величина (1, 2) распределена равномерно внутри квадрата R с центром в начале координат. Стороны квадрата равны
2 и составляют углы 45◦ с осями координат.
Определить а) выражение совместной плотности двумерной слу-
173
чайной величины (1, 2); б) плотности вероятности одномерных
составляющих 1 и 2 .
163. Случайные величины 1 ,  2 имеют стандартное нормальное распределение. Найти совместное распределение сл. величин
1  a1  b2 , 2  a1  b 2 при a,b0.
164. Случайный вектор (1,2) имеет нормальное распределение
 2  
 . Найти распрес M1=M2=0 и матрицей ковариаций  1
  2 
2

деление вектора (с11,с22) при с1,с20.
165. Cлучайный вектор =(1,2) имеет нормальное распределе 2 0 
0
.
ние с М=   , и матрицей ковариаций  1
Найти
 0 2 
0
2

P 1  a 2 , a  0.
166. Cлучайный вектор =(1,2) имеет нормальное распределе 2  
0
ние с М=   , и матрицей ковариаций 
 , |  |<σ2. Найти
2

0
 
  
P{01x2}, x>0.
167. Случайные величиы  и  независимы и нормально распределены с параметрами 0, 1 и 0,  2 соответственно. Вычислить
при σ1=1, σ2=2 вероятность попадания сл. величины (,) в область:
а)|x|1,|y|2; б)0x2, |y|2; в) 0x2, 0y4; г) x+y0, |x|1,y–2;
x 2 y2

1.
д)
1
4
168. Случайные величины  и  независимы и нормально распределены с М=М=0, D=D=4. Найти вероятность, что сл. точка (,) попадает в область: а) 2  x 2  y 2  3 ; б)2min(|x|,|y|),
max(|x|,|y|)3; в) 2|x|+|y|3.
174
169. Совместная плотность сл. величины   (1 , 2 ) имеет вид:
f 12 (u, v)  u  v, (u, v)  G  0,1  0,1 , и 0 в противном случае.
Найти Мk, Dk, k=1,2, cov(1,2).
170. Совместная плотность сл. величины   (1 , 2 ) имеет вид:
2

, u 2  v2  1

2
2 3
f1,2(u,v)=  (u  v )
. Найти М 12   22 .

0,
иначе

171. Cлучайная величина  имеет равномерное распределение на
отрезке [0,1]. Найти ρ(1,2), если а) 1=а, 2=b, (a,b0); б) 1=а,
2=b, (a<0<b); в) 1=, 2=2, г) 1=-1/2, 2=(-1/2)2;


д) 1  sin , 1  cos .
2
2
172. Пусть (,) – координаты сл. точки, имеющей равномерное
распределение в области DR2. Найти (,), если а) D – часть
единичного круга x2+y21, x0, y0; б) D – треугольник x+y1,
x0, y0.
173. Случайные величины  и  не коррелированы. Доказать,
что M=MM.
174. Какие из матриц могут быть ковариационными для вектора
1 0 0
0 1 1
 1 1 1






=(1,2,3):
а)  0 1 0  ;
б)  1 0 1  ; в)  1 1 1 ;
0 0 1
1 1 0
 1 1 1






 1 1 1
1 2 3
 1 1 1
 1 1 1 








г) 1 1 1 ; д)  2 3 4  ; е)  1 1 1  ; ж)  1 1 1 ?
 3 4 5
 1 1 1 
 1 1 1 
 1 1 1








175. При каких значениях х существует сл. вектор =(1,2,3) с
ковариационной матрицей
1 x x
 1 x -x 




а)  x 1 x  ; б)  x 1 x  ?
x x 1
 -x x 1 




175
176. Cлучайные величины  и  обладают конечными дисперсиями D  12 , D  22 . Указать пределы, в которых может изменяться D(+).
177. Случайные величины  и  независимы и
P{=k}=P{=k}=pqk-1, q=1– p, k=1,2,… Найти а)P{=}; б)P{>};
в)P{<};
г)P{=k|>};
д)P{=k|<};
е)P{=k|=};
ж) P{=k|+=m}, з) M(|+=m), m≥2.
178. Cлучайные величины  и  независимы и одинаково распределены. Найти M(     z).
179. Найти в условиях задачи 156 дисперсию D(|+=z).
180. Cлучайные величины i, i=1,2, независимы и имеют стандартное нормальное распределение. Являются ли независимыми
сл. величины 1= 1+2, 2=1–2?
176
Download