Программа и задачи курса “Случайные процессы”

Программа и задачи курса “Случайные процессы”
лектор — к.ф.-м.н. Д. А. Шабанов
осень — 2012
ПРОГРАММА
1. Понятие случайного процесса (случайной функции). Примеры: случайное блуждание, процессы восстановления, эмпирические меры, модель страхования Крамера –
Лундберга.
2. Простейшее симметричное случайное блуждание на прямой: распределение первого
момента возвращения в нуль для простейшего симметричного случайного блуждания на прямой, теорема о вероятности возвращения в нуль для простейшего случайного блуждания на прямой.
3. Равномерная интегрируемость семейства случайных величин. Критерий равномерной интегрируемости сходящейся по распределению последовательности случайных
величин.
4. Теорема об асимптотическом поведении времени, проведенном симметричным случайным блужданием в нуле за время n.
5. Ветвящиеся процессы Гальтона - Ватсона. Теорема о вероятности вырождения ветвящегося процесса.
6. Пространство траекторий случайного процесса, цилиндрическая сигма-алгебра на
нем. Эквивалентное определение случайного процесса, как одного измеримого отображения в пространство траекторий.
7. Конечномерные распределения случайного процесса. Теорема Колмогорова о согласованных распределениях (док-во необходимости). Условия согласованности вероятностных мер на (Rn , B(Rn )) в терминах характеристических функций.
8. Процессы с независимыми приращениями: критерий существования в терминах характеристических функций приращений.
9. Пуассоновский процесс постоянной интенсивности как процесс с независимыми приращениями. Явная конструкция пуассоновского процесса: процесс восстановления
для экспоненциальных случайных величин.
10. Напоминание: гауссовские случайные векторы (многомерное нормальное распределение). Три эквивалентных определения гауссовского вектора, основные свойства,
критерий независимости компонент гауссовского вектора.
1
11. Ковариационная и корреляционная функции случайного процесса, их неотрицательная определенность.
12. Гауссовские случайные процессы. Доказательство существования гауссовского процесса с заданными функцией среднего и ковариационной функцией.
13. Винеровский процесс (процесс броуновского движения). Теорема о двух эквивалентных определениях винеровского процесса.
14. Модификация случайного процесса. Теорема Колмогорова о существовании непрерывной модификации (б/д), следствие для гауссовских процессов. Непрерывность с
вероятностью 1 траекторий винеровского процесса.
15. Дополнительные свойства траекторий винеровского процесса: недифференцируемость
с вероятностью 1 (б/д), неограниченность вариации на любом конечном отрезке, закон повторного логарифма (б/д) и его локальное следствие.
16. Понятие фильтрации на вероятностном пространстве, естественная фильтрация случайного процесса. Марковские моменты и моменты остановки.
17. Строго марковское свойство и принцип отражения (б/д) для винеровского процесса.
Теорема Башелье.
18. Марковские цепи с дискретным временем. Теорема о независимости “будущего” и
“прошлого” при фиксированном “настоящем”. Примеры марковских цепей: простейшее случайное блуждание на прямой и ветвящиеся процессы Гальтона-Ватсона.
19. Фазовое пространство, матрицы переходных вероятностей и начальное распределение для марковской цепи с дискретным временем. Понятие однородной марковской
цепи. Уравнения Колмогорова – Чепмена и следствия из них. Стационарное и предельное распределения однородной марковской цепи. Свойства цепи с начальным
стационарным распределением.
20. Эргодическая теорема для марковских цепей с дискретным временем. Стационарность и предельность эргодического распределения марковской цепи.
21. Марковские цепи с непрерывным временем. Построение марковской цепи по начальному распределению и переходным вероятностям. Пуассоновский процесс как однородная цепь Маркова.
22. Однородные марковские цепи с непрерывным временем. Стохастическая полугруппа
матриц переходных вероятностей. Стационарное и предельное распределения марковской цепи. Эргодическая теорема (б/д). Три следствия из эргодической теоремы:
свойства эргодического распределения.
23. Инфинитезимальная матрица. Существование инфинитезимальной матрицы для стандартной марковской цепи (б/д). Прямые и обратные дифференциальные уравнения
Колмогорова. Стационарное и предельное распределения для цепей Маркова с непрерывным временем.
2
24. Общее понятие марковского процесса. Эквивалентные определения марковского процесса. Марковость процессов с независимыми приращениями. Критерий марковости
для гауссовских процессов.
25. Мартингалы, субмартингалы и супермартингалы. Критерий мартингальности для
процессов с независимыми приращениями и для марковских процессов. Разложение
Дуба для согласованных процессов с дискретным временем.
26. Мартингалы. Теорема Дуба об остановке и следствие из нее. Задача о разорении
игрока: мартингальный подход.
27. Пространство L2 (Ω, F, P) случайных величин, его основные свойства. Лемма о непрерывности скалярного произведения.
28. Стохастическая непрерывность и непрерывность в среднем квадратичном случайного процесса. Критерий непрерывности в среднем квадратичном L2 -процесса в терминах ковариационной функции. Критерий стохастической непрерывности в терминах
сходимостей двумерных конечномерных распределений.
29. Дифференцирование случайных процессов по вероятности и в среднем квадратичном. Критерий дифференцируемости в среднем квадратичном случайного процесса
на отрезке (б/д). Вычисление математического ожидания, корреляционной и ковариационной функций L2 -производной от случайного процесса.
30. Интегрирование случайных процессов в среднем квадратичном. Доказательство того, что из непрерывности в среднем квадратичном следует интегрируемость. Вычисление математического ожидания, корреляционной и ковариационной функций
L2 -интеграла от случайного процесса.
31. Стационарные случайные процессы: стационарность в узком и широком смыслах.
Доказательство эквивалентности этих понятий для гауссовских процессов. Стационарность в узком смысле марковской цепи с начальным стационарным распределением.
32. Ортогональные случайные меры на измеримых пространствах. Взаимная однозначность ортогональных случайных мер на B([a, b]) и L2 -процессами с ортогональными
приращениями.
33. Стохастический интеграл по ортогональной случайной мере. Продолжение с полукольца ортогональной случайной меры и ее структурной меры. Определение и свойства стохастического интеграла от простых функций. Построение стохастического
интеграла для произвольной функции из L2 (Λ, A, µ). Теорема об его основных свойствах (б/д).
34. Спектральное представление. Теорема Карунена (б/д). Теорема Герглотца (б/д). Теорема о спектральном представлении стационарной в широком смысле последовательности.
3
35. Теорема Бохнера – Хинчина (док-во необходимости). Спектральная плотность стационарного в широком смысле процесса, ее вычисление с помощью формулы обращения. Спектральное представление стационарного в широком смысле случайного
процесса на прямой.
СПИСОК ЛИТЕРАТУРЫ
1. Ширяев А. Н.
Вероятность. В 2-х кн. — 3-е изд. — М.: МЦНМО, 2004.
2. Булинский А. В., Ширяев А. Н.
2005.
3. Боровков А. А.
Теория случайных процессов. — М.: Физматлит,
Теория вероятностей. — 4-е изд. — М.: Едиториал УРСС, 2003.
4. Севастьянов Б. А. Курс теории вероятностей и математической статистики. — 2-е
изд. — М.-Ижевск: Институт компьютерных исследований, 2004.
5. Феллер В.
1984.
Введение в теорию вероятностей и ее приложения. В 2-х т. — М.: Мир,
6. Вентцель А. Д. Курс теории случайных процессов. — 2-е изд. — М.: Наука.Физматлит,
1996.
4
ЗАДАЧИ ДЛЯ САМОСТОЯТЕЛЬНОГО РЕШЕНИЯ
1. Случайное блуждание на прямой
1. Пусть (Sn , n ∈ N) — симметричное случайное блуждание на прямой. Используя принцип отражения докажите, что
P max Sk ≥ N, Sn < N = P (Sn > N ) .
k≤n
2. Пусть (Sn , n ∈ N) — симметричное случайное блуждание на прямой. Используя результат задачи 1, найдите распределение случайной величины
Mn = max Sk .
k≤n
Вычислите асимптотику EMn при n → +∞.
3. Пусть (Sn , n ∈ N) — случайное блуждание с вероятностью шага вправо p и шага
влево q, p + q = 1. Докажите, что для m ≤ N выполнено
P max Sk ≥ N, Sn = m = Cnu pv q n−v ,
k≤n
где v = (n + m/2), u = v − N .
4. Пусть (Sn , n ∈ N) — симметричное случайное блуждание на прямой. Используя результат задачи 3, докажите равенство
P max Sk = N, Sn = m = P (Sn = 2N − m) − P (Sn = 2N − m + 2) .
k≤n
2. Ветвящиеся процессы
1. Найдите производящую функцию числа частиц в n-м поколении, если производящая
функция числа потомков одной частицы равна
а) pz + 1 − p, б) (1 − p)/(1 − pz), в) 1 − p(1 − z)α , α ∈ (0, 1).
2. Найдите вероятности вырождения для ветвящихся процессов с производящей функцией числа потомков одной частицы
а) (1 − p)/(1 − pz), б) 1 − p(1 − z)α , α ∈ (0, 1), в) (1 + z + z 2 + z 3 )/4.
3. Найдите распределение момента вырождения N для ветвящихся процессов с производящей функцией числа потомков одной частицы
а) pz + 1 − p, б) 1 − p(1 − z)α , α ∈ (0, 1).
5
4. Пусть ξ — число потомков частицы в ветвящемся процессе Гальтона-Ватсона (Xn , n ≥
0). Обозначим Eξ = µ, Dξ = σ 2 . Найдите EXn и DXn .
5. Пусть (Xn , n ∈ Z+ ) — ветвящийся процесс с законом размножения частиц ξ. Обозначим через Yn = Xn + . . . + X0 — общее число частиц в процессе за время n, а через
ϕYn (s) — его производящую функцию. Докажите, что
ϕYn (s) = sϕξ (ϕYn−1 (s)).
6. Случайная величина ξ имеет геометрическое распределение с параметром p ∈ (0, 1),
а (Xn , n ∈ Z+ ) — ветвящийся процесс с законом размножения частиц ξ. Вычислите
производящую функцию общего числа частиц в процессе, а также найдите вероятность того, что всего в процессе было ровно k частиц.
3. Процессы с независимыми приращениями.
Пуассоновский процесс
1. Пусть (Xt , t ∈ R+ ) — процесс с независимыми приращениями. Докажите, что для
любых t > s случайная величина Xt − Xs не зависит от σ(Xu , u ≤ s).
P t
2. Задан процесс {Yt = N
j=1 ξj , t ≥ 0}, где (ξn , n ∈ N) — независимые одинаково распределенные случайные величины, не зависящие также от пуассоновского процесса
N = {Nt , t ≥ 0} интенсивности λ. Докажите, что процесс Yt имеет независимые
приращения.
3. Пусть (ξn , n ∈ N) — независимые экспоненциальные случайные величины с параметром λ, Sn = ξ1 + . . . + ξn , а N = {Nt , t ≥ 0} — процесс восстановления, построенный
по ним (пуассоновский процесс интенсивности λ). Для каждого t > 0 обозначим
Vt = SNt +1 − t (“перескок”) и Ut = t − SNt (“недоскок”).
а) Вычислите вероятность P(Vt > v, Ut > u) =?
б) Докажите, что Vt и Ut — независимы, и что Vt ∼ Exp(λ).
в) Вычислите функцию распределения Ut и EUt .
4. Пусть N = {Nt , t ≥ 0} — пуассоновский процесс интенсивности λ. Найти математическое ожидание числа таких его скачков на отрезке [0, T ], что а) в их правой
a-окрестности нет других скачков (эта окрестность может выходить и за пределы
отрезка), б) в их левой a-окрестности нет других скачков, в) в их a-окрестности нет
других скачков (эта окрестность может выходить и за пределы отрезка).
5. Пусть (Nt , t ≥ 0) — пуассоновский процесс интенсивности λ. Найдите предел п.н.
Nt /t при t → +∞.
4. Гауссовские процессы. Винеровский процесс
6
1. Пусть Wt — винеровский процесс. Докажите, что следующие процессы тоже винеровские
√
а) Xt = t W1/t I{t > 0}, б) Xt = c Wt/c , c > 0, в) Xt = Wt+a − Wa , a > 0, г)
Xt = Wt I{t < T } + (2WT − Wt )I{t ≥ T }.
2. Пусть (Yt , t ∈ [0, 1]) — гауссовский процесс с нулевой функцией среднего и ковариационной функцией r(s, t) = min(s, t) − st. Докажите, что такой процесс существует
и что процесс Xt = (t + 1)Yt/(t+1) , t ≥ 0 является винеровским.
3. Пусть Wt1 , . . . , Wtd — независимые винеровские процессы. Докажите, что с вероятностью 1 процесс Wt = (Wt1 , . . . , Wtd ) (многомерный винеровский процесс) выйдет из
шара произвольного фиксированного радиуса r с центром в нуле пространства Rd .
4. Докажите, что существует гауссовский процесс X = (Xt , t ∈ Rd+ ) с нулевой функцией
среднего и ковариационной функцией
R(s, t) =
d
Y
min(sk , tk ),
k=1
где s = (s1 , . . . , sd ) ∈ Rd+ , t = (t1 , . . . , td ) ∈ Rd+ .
5. Марковские моменты. Принцип отражения
для винеровского процесса
1. Пусть задана фильтрация F = (Fn , n ∈ N), а τ1 , τ2 , . . . — марковские моменты относительно F. Докажите, что случайные величины
m
X
k=1
τk ,
m
Y
τk , sup τk , inf τk
k
k=1
k
тоже являются марковскими моментами относительно F.
2. Пусть τ – марковский момент относительно фильтрации (Ft , t ≥ 0). Докажите, что
тогда марковским моментом будет и величина
τn :=
∞
X
k2−n IAn,k ,
k=1
где An,1 = {0 ≤ τ ≤ 2−n }, An,k = {(k − 1)2−n < τ ≤ k2−n } при k ≥ 2.
3. Пусть (Wt , t ≥ 0) — винеровский процесс. Положим τy = min{t : Wt = y} для y > 0.
С помощью теоремы Башелье найдите плотность случайной величины τy , а также
Eτy .
4. Пусть (Wt , t ≥ 0) — винеровский процесс. Положим τ = min{t : Wt = y} для
некоторого y > 0. Найдите плотность случайной величины Ya = supt∈[τ,τ +a] Wt .
7
5. Используя задачу 3 найдите
P (Wt не имеет нулей на отрезке [s, u]) ,
где Wt — винеровский процесс, а u > s > 0.
6. Мартингалы
1. Пусть (Wt , t ≥ 0) — винеровский процесс. Докажите, что процесс Yt = Wt2 −t является
мартингалом относительно естественной фильтрации процесса Wt .
2. Пусть ξ1 , . . . , ξn , . . . — такая последовательность случайных величин, что для любого n существует плотность fn (x1 , . . . , xn ) случайного вектора (ξ1 , . . . , ξn ). Пусть
η1 , . . . , ηn , . . . — другая последовательность случайных величин, причем также для
любого n существует плотность gn (x1 , . . . , xn ) случайного вектора (η1 , . . . , ηn ). Докажите, что процесс
gn (ξ1 , . . . , ξn )
Xn =
fn (ξ1 , . . . , ξn )
является мартингалом относительно фильтрации (Fn = σ(ξ1 , . . . , ξn ), n ∈ N).
3. Пусть (Wt , t ≥ 0) — винеровский процесс, а τ — момент остановки относительно его
естественной фильтрации. Докажите, что процесс
Xt = Wt∧τ , t ≥ 0
является мартингалом относительно естественной фильтрации процесса Wt .
Указание: надо аппроксимировать τ марковскими моментами с конечным числом
значений.
4. Пусть (Wt , t ≥ 0) — винеровский процесс, а τ = min{t : |Wt | = 1}. Вычислите Eτ .
5. Пусть (Sn , n ∈ N) — простейшее случайное блуждание с вероятностью шага вправо
p. Пусть a < x < b — целые числа, а Xn = x + Sn , n ≥ 1. Обозначим τ = min{n : Sn ∈
{a, b}} — момент выхода процесса Xn из полосы. Докажите, что Eτ < +∞
Указание: надо использовать решение задачи 4.
7. Марковские процессы
1. Пусть (Xt , t ∈ T ) — действительный марковский процесс, T ⊂ R+ . Пусть для любого
t ∈ T задана борелевская функция ht . Рассматривается случайный процесс Yt =
(ht (Xt ), t ∈ T ). Докажите, что если ht — биекция для любого t ∈ T (считаем, что в
этом случае h−1
— тоже борелевская), то Yt — тоже марковский процесс. Приведите
t
пример марковского процесса Xt и функций ht , при которых процесс Yt не является
марковским.
8
2. Пусть (Wt , t ≥ 0) — винеровский процесс, а τx = min{t : Wt = x} для x ≥ 0.
Докажите, что процесс τ = (τx , x ≥ 0) является марковским.
3. Пусть (Xn , n ≥ 0) — независимые случайные величины с равномерным распределением на множестве {−1, 0, 1}. Рассмотрим процесс
Yn = X0 X1 + X1 X2 + . . . + Xn−1 Xn .
Докажите, что Xn является мартингалом относительно фильтрации
F = (σ(X1 , . . . , Xn ), n ∈ Z+ ),
но не является марковским процессом относительно нее.
Подсказка: надо взять f (x) = x2 .
8. Марковские цепи
1. Пусть ξn — цепь Маркова с фазовым пространством S = {1, 2, 3}, начальным состоянием ξ0 = 1 п.н. и матрицей переходных вероятностей


3/7 3/7 1/7
1/11 2/11 8/11 .
1/11 4/11 6/11
Положим ηn = I{ξn = 1} + 2I{ξn 6= 1}. Докажите, что ηn — тоже марковская цепь и
найдите ее матрицу переходов.
2. Цепь Маркова ξn имеет начальное состояние ξ0 = 0 и переходные вероятности
P(ξn+1 = k + 1| ξn = k) = p, P(ξn+1 = k| ξn = k) = 1 − p, k, n ∈ N, p ∈ [0, 1]. Найдите
распределение ξn . Докажите, что последовательность τ0 = 0, τk = min{n : ξn = k}
также является цепью Маркова и найдите ее переходные вероятности.
3. Цепь Маркова ξn имеет начальное состояние ξ0 = 0 и переходные вероятности
P(ξn+1 = k + 1| ξn = k) = a−k , P(ξn+1 = k| ξn = k) = 1 − a−k , k, n ∈ N, a > 1. Найдите
Eaξn и Daξn .
4. Найдите стационарное распределение для марковской цепи, матрица переходных вероятностей которой имеет вид:






2/9 1/3 0 4/9
4/9 0 2/9 1/3
1/9 2/9 2/3 0












4/9 1/9 0 4/9
 0 4/9 2/9 1/3
1/3 0
0 2/3






 , б) 
 , в) 
.
а) 






2/9 2/9 2/9 1/3
 0 2/3 0 1/3
1/3 4/9 2/9 0 












2/9 2/9 4/9 1/9
4/9 2/9 2/9 1/9
2/9 2/9 1/3 2/9
9
5. Докажите, что пуассоновский процесс интенсивности λ является однородной марковской цепью. Найдите его переходные вероятности, инфинитезимальную матрицу
и стационарное распределение.
P
6. Пусть n × n матрица Q = (qij ) такова, что qij ≥ 0 при i 6= j и nj=1 qij = 0 для любого
i = 1, . . . , n. Докажите, что тогда матрицы P (t) = exp{tQ} образуют стохастическую
полугруппу.
7. Переходные вероятности марковской цепи (Xt , t ≥ 0) с фазовым пространством X =
{1, 2, 3} имеют вид:
p11 (h) = 1 − λh + o(h), p12 (h) = λh + o(h), p13 (h) = o(h) при h → 0+;
p21 (h) = o(h), p22 (h) = 1 − µh + o(h), p23 (h) = µh + o(h) при h → 0+;
p31 (h) = νh + o(h), p32 (h) = o(h), p33 (h) = 1 − νh + o(h) при h → 0+.
Докажите, что такая цепь удовлетворяет условию эргодической теоремы. Найдите
ее инфинитезимальную матрицу и стационарное распределение.
9. Интегрирование и дифференцирование в L2
1. Являются ли пуассоновский процесс (Nt , t ≥ 0) и винеровский процесс (Wt , t ≥ 0)
дифференцируемыми а) по вероятности, б) в среднем квадратичном?
2. Пусть (ξn , n ∈ N) — гауссовские случайные векторы размерности m. Докажите, что
L2
если ξn −→ ξ, то ξ — тоже гауссовский вектор.
3. RПусть Wt — винеровский процесс. Найдите распределение случайной величины Xt =
t
Ws ds. Докажите, что процесс (Xt , t ≥ 0) является гауссовским.
0
4. Задан случайный процесс Xt =
Rt
e−Ws ds, где Ws — винеровский процесс. Найдите
0
математическое ожидание и ковариационную функцию процесса Xt .
5. Задан случайный процесс Xt = dtd eNt , где Nt — пуассоновский процесс интенсивности λ > 0. Найдите EXt и ковариационную функцию процесса Xt .
10. Стационарные процессы
1. Пусть N = {N (t), t ≥ 0} — пуассоновский процесс интенсивности λ, а случайная
величина η не зависит от N, причем P(η = 1) = P(η = −1) = 1/2. Является ли
процесс Xt = η(−1)Nt стационарным, и в каком смысле?
2. Пусть f — периодическая функция на R с периодом T > 0. Случайная величина ξ
равномерно распределена на [0, T ]. Случайный вектор (ζ, η) не зависит от ξ. Докажите, что процесс Xt = ζf (ηt + ξ) стационарен в узком смысле.
10
(1)
(2)
3. Пусть Wt и Wt — независимые винеровские процессы. Для любого t ∈ R поло(1)
(2)
жим Xt = Wt I{t ≥ 0} + W−t I{t < 0}. Докажите, что процесс Yt = h1 (Xt − Xt−h )
является стационарным в широком смысле. Найдите его ковариационную функцию
и спектральную плотность.
4. Пусть Xt — гауссовский процесс с нулевой функцией среднего и ковариационной
функцией r(s, t) = a e−b|s−t| , a, b > 0. Докажите, что такой процесс существует и
найдите его спектральную плотность.
11. Спектральное представление
1. Пусть Λ — множество, A — алгебра его подмножеств, а µ — мера на A. Пусть отображение Z : A → L2 (Ω, F, P) удовлетворяет равенству
EZ(B)Z(C) = µ(B ∩ C) для любых B, C ∈ A.
Докажите, что Z есть ортогональная мера на A.
2. Пусть λ1 , . . . , λk — числа из отрезка [−π, π], а Φ1 , . . . , Φk — центрированные попарно
некоррелированные случайные величины. Докажите, что процесс (Xn , n ∈ Z), где
Xn =
k
X
eiλj n Φj ,
j=1
является стационарным в широком смысле и найдите его спектральное представление.
3. Пусть {εn , n ∈ Z} — белый шум. Положим
Xn =
1
1
εn−1 + εn−2 , n ∈ Z.
2
4
Вычислите спектральную плотность процесса Xn .
4. Пусть {Xn , n ∈ Z} — стационарная в широком смысле последовательность со средним a и ковариационной функцией R(n). Докажите, что
n
1X
L2
Xk −→ a
n k=1
тогда и только тогда, когда
n
1X
R(k) −→ 0.
n k=1
5. Стационарный процесс Y удовлетворяет равенству dYt /dt = Xt , где стационарный
процесс (Xt , t ∈ R) имеет спектральную плотность f (λ) = λ2 I{|λ| < 1}. Найдите
cov(Y1 , Y0 ).
11
6. Пусть (Xt , t ∈ R) — стационарный в широком смысле процесс, а
Z
Xt = m + eitλ Z(dλ),
R
— его спектральное представление. Докажите, что
Z b
1
2
(L ) lim
Xt dt = m + Z({0}).
b−a→+∞ b − a
a
7. Пусть P (x) = a0 +a1 x+. . .+an xn — многочлен, а P dtd — соответствующий оператор
дифференцирования в L2 . Пусть (ξt , t ∈ R) — стационарный в широком смысле процесс с известным спектральным представлением. Стационарный в широком смысле
процесс (Xt , t ∈ R) имеет спектральное представление и, кроме того, удовлетворяет
уравнению
d
Xt = ξt .
P
dt
Найдите спектральное представление для Xt . При каких условиях на многочлен P
решение уравнения единственно?
12