А.В. Колесников Теория вероятностей 2. Случайные процессы. Высшая Школа Экономики. Математический факультет.

А.В. Колесников
Теория вероятностей 2. Случайные процессы.
Высшая Школа Экономики. Математический факультет.
Москва. 2013 гг.
Теорема Радона-Никодима. Условное математическое ожидание.
Всюду далее (Ω, F , P ) — вероятностное пространство, а B ⊂ F — σалгебра, содержащаяся в F .
1) Условное математическое ожидание относительно события
Простейшей версией понятия условного математического ожидания является понятие условного математического ожидания относительно события B ненулевой вероятности:
IE(ξ|B) =
IE(ξ · IB )
.
P (B)
Для ξ = IA математическое ожидание IE(ξ|B) равно условной вероятности
P (A|B).
Несложно проверить следующее свойство :
IEξ =
n
X
IE(ξ|Bi)P (Bi),
i=1
если {Bi} — разбиение Ω на непереcекающиеся множества Bi.
Пример 1. (Средняя продолжительность игры.) Вы приходите в казино с
k$. За одну партию вы выигрываете 1$ с вероятностью p и проигрываете
1$ с вероятностью q = 1 − p. Если у вас остается 0$, вы уходите. Если
вы приобретаете K$, где K > k — некоторая фиксированная сумма, вы
тоже уходите. Вычислите среднюю продолжительность игры.
Пусть τ (k) — с.в., равная числу проведенных партий при начальном капитале k (величина K фиксирована). Обозначим через η0 с.в., равную 1 в
случае выигрыша и 0 в случае проигрыша в первой партии. Предполагая
конечность IEτ , получаем
IEτ (k) = IE(τ
(k)|η0 = 1)p + IE(τ
(k)|η0 = 0)q = p 1 + IEτ (k + 1) + q 1 + IEτ (k − 1) = 1 + pIEτ (k + 1) + qIEτ (k − 1).
Очевидно,
τ (K) = τ (0) = 0.
Решая полученное рекуррентное уравнение, получаем при p 6= q
1
(q/p)k − 1
IEτ (k) =
K
−k .
K
p−q
(q/p) − 1
(более подробно см. в А.Н. Ширяев, Вероятность 1 т., 1(9)).
2) Условное математическое ожидание относительно разбиений
Пусть дано разбиение B вероятностного пространства Ω на конечное
число непересекающихся множеств положительной меры.
Ω = ∪n
i=1 Bi , Bi ∩ Bj = ∅, i 6= j.
Условным математическим ожиданием с.в. ξ относительно этого разбиения называется случайная величина
IE(ξ|B) =
n IE(ξ · I )
X
Bi
i=1
P (Bi)
IBi (ω) =
n
X
i=1
IE(ξ|Bi)IBi (ω).
(1)
Замечание 1. Нетрудно проверить следующие свойства условных математических ожиданий
1)
IE(IE(ξ|B)) = IEξ.
2) Если ξ = IA, то
IE(IA|B) =
n
X
P (A|Bi)IBi (ω)
i=1
3) 1) + 2) влечет формулу полной вероятности
P (A) =
n
X
P (A|Bi)P (Bi)
i=1
4) Для любого множества Bi
IE(IE(ξ|B)IBi ) = IE(ξIBi ).
Из свойства 4) следует, что
IE(IE(ξ|B)ϕ) = IE(ξϕ)
(2)
для любой функции ϕ, измеримой относительно разбиения.
Условное математическое ожидание как проекция
Пусть ξ — случайная величина с IE(ξ 2) < ∞. Условное математическое
ожидание можно характеризовать следующим образом: для любой Bизмеримой функции ϕ
IE(ξ − ϕ)2 ≥ IE(ξ − IE(ξ|B))2,
т.е. минимум функционала ϕ → IE(ξ − ϕ)2 среди B-измеримых функций
достигается на IE(ξ|B).
Действительно,
IE(ξ − ϕ)2 = IE(ξ − IE(ξ|B))2 + 2IE((ξ − IE(ξ|B))(IE(ξ|B) − ϕ)) + IE(IE(ξ|B) − ϕ)2
В силу свойства (2) среднее слагаемое равно нулю, поэтому
IE(ξ − ϕ)2 = IE(ξ − IE(ξ|B))2 + IE(IE(ξ|B) − ϕ)2 ≥ IE(ξ − IE(ξ|B))2.
Вывод: условное математическое ожидание относительно σ-алгебры B
является ортогональной ( в смысле L2(P )) проекцией на подпространство σ-измеримых случайных величин.
3) Для определения условного математического ожидания в общем случае нам понадобится
Теорема Радона-Никодима
При работе с измеримыми отображениями на пространствах, наделенных
мерами, важную роль играет следующее уточнение понятия измеримости.
Пусть µ — вероятностная мера на σ-алгебре F . Напомним, что с каждой
мерой можно связать σ-алгебру µ-измеримых множеств Fµ (пополнение
F по µ). А именно, множество A называется µ-измеримым, если оно
имеет вид A = B ∪ C, B ⊂ F , а множество C имеет внешнюю µ-меру нуль.
При этом µ продолжается на Fµ по формуле µ(A) = µ(B).
Определение 1. Функция f называется µ-измеримой, если f измерима
относительно Fµ.
Упражнение 1. Пусть µ — мера на σ-алгебре F . Докажите, что для любой µ-измеримой функции f существует ей эквивалентная F -измеримая
функция g (т.е. µ{f 6= g} = 0).
В дальнейшем, говоря о вероятностном пространстве (Ω, F , P ), мы будем подразумевать (не оговаривая это специально), что оно полно, т.е.
F = FP . В таком случае, множество измеримых случайных величин и
P -измеримых случайных величин будет совпадать.
Определение 2. Пусть даны вероятностные меры µ и ν на σ-алгебре F .
Мера ν называется абсолютно непрерывной относительно µ, если ν(A) =
0 для всякого множества A ∈ F с µ(A) = 0.
Мера ν называется сингулярной относительно µ, если существует такое
S ∈ F , что µ(S) = 0 и ν(S c) = 0.
Теорема 1. (Радона-Никодима). Мера ν абсолютно непрерывна относительно µ в точности тогда, когда существует такая µ-измеримая интегрируемая функция f , что
ν(A) =
Z
A
f dµ
для любого A ∈ F .
Функция f называется плотностью ν относительно µ. Обозначение ν =
f · µ.
4) Условное математическое ожидание относительно σ-алгебры.
Пусть ξ — неотрицательная с.в. со свойством IE|ξ| < ∞, а B ⊂ F —
некоторая σ-алгебра, содержащаяся в F .
Определение 3. Случайная величина IE(ξ|B) называется условным математическим ожиданием ξ относительно B, если
1) IE(ξ|B) измерима относительно σ-алгебры B и IE|IE(ξ|B))| < ∞
2) Для любой ограниченной функции ϕ, измеримой относительно B, выполнено равенство
IE(IE(ξ|B)ϕ) = IE(ξϕ).
Пример 2. Для σ-алгебры B, порожденной конечным (или даже счетным)
набором множеств, формула (1) задает условное математическое ожидание относительно B. Это немедленно вытекает из пункта 4) Замечания
1 и измеримости функции, заданной формулой (1), относительно B.
Еще один важный пример вытекает из теоремы Фубини.
Qn
n
Пример 3. Пусть Ω = R и P = i=1 µi — прямое произведение вероятностных мер. Обозначим через Fm σ-алгебру, порожденную первыми m
координатами. Функции, измеримые относительно Fm — это борелевские
функции вида g(x1, · · · , xm). Тогда для любой интегрируемой борелевской
функции f
IE(f |Fm) =
Z
f (x1, · · · , xm, xm+1, · · · , xn) dµm+1(xm+1) · · · dµn(xn).
Существование условного математического ожидания
Пусть теперь B — произвольная σ-алгебра, содержащаяся в F и ξ —
неотрицательная интегрируемая с.в. Рассмотрим меру ξ · P . Эта мера
абсолютно непрерывна относительно ограничения µ на σ-алгебру B. По
теореме Радона-Никодима существует такая интегрируемая функция g,
измеримая относительно пополнения B относительно P , что
IE(IAξ) =
Z
IA · ξ dP =
Z
IAg dP = IE(IAg)
для любого множества A ⊂ B. Выбрав B-измеримую модификацию, мы
получим условное математическое ожидание ξ. Произвольную интегрируемую с.в. ξ надо представить в виде ξ = ξ+ − ξ− и положить IE(ξ|B) =
IE(ξ+|B) − IE(ξ−|B).
Теорема 2. Выполнены следующие свойства
1) Условное математическое ожидание единственно с точностью до множества меры нуль (относительно сужения P на B!).
2) IE(ξ|B) = ξ почти наверное (т.е. P -п.в.) для всякой с.в. ξ, измеримой
относительно B.
3) IE(ξ|B) ≥ 0 п.н. для всякой с.в. ξ, т.ч. ξ ≥ 0 п.н.
4) Для всякой ограниченной B-измеримой g
IE(ξ · g|B) = gIE(ξ|B).