Корреляционная теория стационарных случайных функций с примерами из метеорологии by Яглом А.М. (z-lib.org)

А. М. Яглом
КОРРЕЛЯЦИОННАЯ
ТЕОРИЯ
СТАЦИОНАРНЫХ
СЛУЧАЙНЫХ
ФУНКЦИЙ
с примерами из метеорологии
ЛЕНИНГРАД ГИДРОМЕТЕОИЗДАТ 1981
УДК 517.5 : 551.5
Рецензенты: акад. А. М. Колмогоров» чл.-корр. АН СССР А. С. Монин
Общедоступное введение в корреляционную теорию стационарных случай­
ных функций, не предполагающее у читателей специальной подготовки, выходя­
щей за пределы общего курса математики, читаемого в вузах гидрометеорологи­
ческого профиля. Анализируется современное состояние математической теории,
приводятся последние достижения в области применения этой теории. Большое
внимание уделяется вопросу определения статистических характеристик стацио­
нарных случайных функций по результатам наблюдений за одной реализацией
в течение конечного промежутка времени. Дается большое число примеров из
метеорологии; многочисленные примечания содержат обзор математической и
технической специальной литературы по теории стационарных случайных фун­
кций.
Для специалистов гидрометеорологов, математиков, физиков.
Time series data consisting of constant mean value and superimposed statio­
nary irregular fluctuations meet very often in meteorology, hydrology and oceanology. Such time series occur frequently also in many other parts of science and engi­
neering, and they are naturally described by the model of a stationary random
function. The book «Correlation Theory of Stationary Random Functions with
Examples from Meteorology» by A. M. Yaglom contains an elementary exposition
of the most important part of the mathematical theory of such functions dealing
with their first and second moments. Much attention is paid to the determination
of the main statistical characteristics of the stationary random functions (namely
mean values, correlation functions and frequency spectra) from observational data;
such determination is evidently very important for all the applications of the theory.
The book is designed for students of hydrometeorology, oceanology on other ap­
plied areas dealing with the time series. It will also be useful for various practical
workers interested in simple presentation of the part 01 the mathematical theory
of stationary time series needed for the modern methods of the statistical treat­
ment of time series data.
АКИВА МОИСЕЕВИЧ
ЯГЛОМ
КОРРЕЛЯЦИОННАЯ ТЕОРИЯ
"ОТвЦИОНАРНЫХ СЛУЧАЙНЫХ ФУНКЦИЙ
с примерами из метеорологии
Редактор Г. А. Солдатова. Художник В. В. Бабанов. Художественный редактор
Б. А. Денисовский. Технический редактор Л. М. Шишкова.
Корректор Т. В. Прокофьева
ИБ К» 1192. Сдано в набор 03.09.80. Подписано в печать 03.09.81. М-21574.
Формат 60Х90*/1в. Бумага тип. № 1. Гарнитура литературная.
Печать высокая. Печ. л. 17,5. Кр.-отт. 17,5. Уч.-изд. л. 21,21. Тираж 2550 экз.
Индекс МЛ-94. Заказ № 559. Цена 3 р. 50 к.
Гидрометеоиздат. 199053. Ленинград, 2-я линия, 23.
Ленинградская типография № 6 ордена Трудового Красного Знамени
Ленинградского объединения «Техническая книга» им. Евгении Соколовой
Союзполиграфпрома при Государственном комитете СССР
по делам издательств, полиграфии и книжной торговли.
193144, г. Ленинград, ул. Моисеенко, 10.
Я
~пко/П9\ fil
23 80
" *
1903040000
©
Гидрометеоиздат, 1981 г.
ОГЛАВЛЕНИЕ
ПРЕДИСЛОВИЕ
3
ВВЕДЕНИЕ
7
Глава 1.
ОПРЕДЕЛЕНИЕ И ОСНОВНЫЕ СВОЙСТВА СТАЦИОНАРНЫХ
СЛУЧАЙНЫХ ФУНКЦИЙ
1. Определение случайной функции
2. Моменты случайной функции. Корреляционная теория . . . .
3. Стационарность
4. Свойства корреляционной функции. Производная и интеграл
от случайного процесса
5. Эргодические теоремы; оценка среднего значения функции
X (0 по данным наблюдений
6. Оценка значений корреляционной функции по данным наблю­
дений
7. Комплексные случайные функции. Пространство случайных
...............
величин
Глава 2.
ПРИМЕРЫ СТАЦИОНАРНЫХ СЛУЧАЙНЫХ ФУНКЦИЙ. СПЕК­
ТРАЛЬНОЕ РАЗЛОЖЕНИЕ
8. Примеры стационарных случайных последовательностей . . .
9. Примеры стационарных случайных процессов
10. Спектральное разложение стационарных случайных процессов
11. Спектральное разложение корреляционной функции стацио­
нарного процесса
12. Примеры корреляционных функций стационарных процессов
13. Линейные преобразования стационарных случайных процессов
14. Примеры линейных преобразований стационарных случайных
процессов
15. Спектральное разложение стационарных
последовательно­
стей и их корреляционных функций
16. Дискретные выборки случайных процессов и дискретные
линейные преобразования
17. Примеры дискретных линейных преобразований и корреля­
ционных функций стационарных последовательностей . . . .
18. Оценка спектральной плотности и спектральной функции
по данным наблюдений за значениями x(t)
31
—
35
39
44
54
65
ь
82
—
88
97
105
116
131
149
161
165
175
184
ПРИМЕЧАНИЯ
220
СПИСОК ЛИТЕРАТУРЫ
265
ПРЕДИСЛОВИЕ
В метеорологии, гидрологии и океанологии постоянно прихо­
дится иметь дело с рядами наблюдений х (/), не претерпевающими
каких-либо заметных систематических изменений в течение зна­
чительных промежутков времени, а лишь беспорядочно флуктуи­
рующими около одного и того же среднего уровня (см., в частности,
достаточно типичные примеры, изображенные на рис. 1 б, г и 2 на
с. 20 и 22—23). Ясно, что теоретическое описание всех деталей
такого рода рядов х (t) представляется достаточно безнадежной
задачей и единственно разумным подходом к их изучению является
статистический подход, опирающийся на методы теории вероятно­
стей и математической статистики.
Естественной статистической моделью рассматриваемых вре­
менных рядов х (t) является модель стационарной случайной функ­
ции переменного ty пробегающего дискретную последовательность
равноотстоящих (например, целочисленных) значений или же все
вообще действительные значения. Поэтому неудивительно, что
математическая теория стационарных случайных функций имеет
множество важных приложений к наукам о воздушной и водной
оболочках Земли, ряд которых описан, в частности, в выпущен­
ных Гидрометеоиздатом книгах [49, 87, 95, 98, 154^Д55Ь,Д(}2, ,163].
Отметим еще, что почти все эти приложения испо#ьзуф£дрл'ько ту
часть общей теории стационарных случайных функций* которая
имеет дело лишь с моментами этих функций первых двух по­
рядков и обычно называется корреляционной теорией таких
функций.
Настоящая книга также рассчитана на читателей, интересую­
щихся приложениями корреляционной теории стационарных
случайных функций, но по своему характеру она заметно отли­
чается от всех книг, перечисленных выше. Дело в том, что хотя
здесь и имеется ряд относящихся к метеорологии примеров и ссы­
лок на метеорологическую литературу, конкретные приложения
излагаемой в книге математической теории к решению специаль­
ных метеорологических задач в ней нигде детально не рассматри­
ваются. Зато здесь дается систематическое изложение современ­
ного состояния корреляционной теории стационарных случайных
функций и примыкающих к ней разделов математической стати­
стики, посвященных методам определения корреляционных и
спектральных характеристик стационарных временных рядов
х (t) по данным наблюдений. Нам представляется поэтому, что
1*
4
Предисловие
ознакомление с настоящей книгой должно предшествовать изуче
нию более специальных прикладных книг и статей, понимание
которых такое ознакомление может существенно облегчить
и углубить.
Обобщение изложенных в книге результатов на очень часто
встречающиеся (в частности, и в гидрометеорологии) многомерные
временные ряды х (t) = \хг (/), ..., хп (t)\ или даже ряды х (г) =
= {хг (г), ..., хп(г)}> зависящие от точки г = [rl9 ..., гт) мно­
гомерного пространства (и обладающие родственным стационар­
ности свойством пространственной однородности), является в прин­
ципе очень несложным. Поэтому мы сочли возможным ограни­
читься здесь лишь одномерными рядами наблюдений х (/), зави­
сящими от одного переменного /.
Ряды наблюдений х (t), хорошо описываемые моделью стацио­
нарной случайной функции, разумеется, встречаются не только
в метеорологии и гидрологии, но и во множестве разделов физики,
а также и почти во всех областях современной техники (особенно
часто в радиотехнике, электронике и автоматике), экономике,
биологии и медицине и многих других прикладных дисциплинах.
Поэтому неудивительно, что в последнее время наблюдается бур­
ный рост самой разнообразной прикладной литературы, имеющей
дело с исследованиями стационарных случайных функций. Также
и чисто математическая литература на ту же тему, интерес к ко­
торой все время стимулируется запросами смежных дисциплин,
с каждым годом становится все более и более обширной.
Многие результаты, содержащиеся в математической или же
в далекой от'гидрометеорологии прикладной литературе, имеющей
дело со стационарными случайными функциями, могут предста­
вить значительный интерес для метеорологов, гидрологов и океа­
нологов, но, к сожалению, стиль изложения авторов математиков,
как правило, малодоступен для большинства прикладников, а ли­
тература, скажем, по технике связи или автоматическому управ­
лению часто бывает перегружена деталями, представляющими
интерес лишь для специалистов в данной области техники, и мало­
известна за пределами узкого круга таких специалистов. Поэтому
в разделе примечаний настоящей книги автор попытался, в част­
ности, дать обзор разнообразной прикладной литературы о стацио­
нарных случайных функциях и доступно рассказать также и о
ряде относящихся к ним математических результатов.
Книга предназначена для читателей, не имеющих специальной
математической подготовки, которая выходила бы за пределы
курсов высшей математики, читаемых в гидрометеорологических
(или технических) вузах и элементарного курса теории вероятно­
стей, причем большинство нужных сведений из теории вероятно­
стей вкратце напоминается во введении. Поскольку нами предпо­
лагается, что основной интерес для читателей представляют при*
Предисловие
5
ложения теории, а не доказательства теорем, математические дока­
зательства в тексте книги в ряде случаев лишь намечены или даже
совсем опущены. Однако автор стремился во всех случаях точно
указывать, каких именно фактов не хватает в его изложении, даже
если сами эти факты являются довольно тонкими и их строгое
доказательство требует привлечения сложного математического
аппарата, далеко выходящего за пределы знаний, которых есте­
ственно ожидать у читателей настоящей книги.
Вообще уровень математической строгости изложения здесь
выше, чем в большинстве книг и статей, предназначенных для при­
кладников; поэтому можно надеяться, что эта книга будет полезна
и читателям-прикладникам, которых не вполне устраивает облег­
ченный, так называемый инженерный уровень строгости, и лицам,
изучающим математическую теорию случайных функций и спе­
циально интересующимся приложениями соответствующей теории.
Заметное место в книге занимает обсуждение некоторых прин­
ципиально важных, но традиционно опускаемых в книгах при­
кладного содержания вопросов, таких, как, например, вопрос
о точном определении понятия случайной функции, о физических
и математических условиях эргодичности и о смысле спектраль­
ного разложения стационарных случайных функций. Вместе с тем
также и изложение теоретических основ методов определения ста­
тистических характеристик стационарных случайных функций по
эмпирическим данным здесь является заметно более детальным,
чем в большинстве других книг того же уровня сложности, причем
оно доведено до рассмотрения самых последних достижений в этой
области.
В конце книги помещено большое число примечаний к основ­
ному тексту. Читателям, впервые знакомящимся по этой книге
с теорией стационарных случайных функций, можно порекомен­
довать при первом чтении просто опустить все примечания; в даль­
нейшем, однако, им, может быть, захочется еще раз разобрать
некоторые места книги более подробно или узнать добавочную ли­
тературу по тому или иному специальному вопросу.
Содержание примечаний является довольно разнообразным:
в некоторых случаях здесь дается изложение доказательства,
только вкратце намеченного или вовсе опущенного в основном
тексте; другие примечания содержат дополнительный материал,
имеющий более специальный характер и непосредственно не ис­
пользуемый в основном тексте (в частности, в раздел примечаний
вынесены и некоторые более тонкие математические факты, ранее
никогда в книги для прикладников вообще не включавшиеся);
иногда же в примечаниях даются сведения по истории рассматри­
ваемого вопроса или обсуждаются связи излагаемых в книге ре­
зультатов с некоторыми результатами, относящимися к другим
разделам математики и физики. Наконец, в раздел примечаний
б
Предисловие
вынесены также и практически все ссылки на литературу, которые
по причинам, объясненным выше, автор решил сделать довольно
многочисленными и как можно более разнообразными (хотя, ко­
нечно, они все же включают лишь небольшую долю имеющейся
литературы по теории стационарных случайных функций и их
приложениям, разбросанной по громадному числу журналов и
книг самой разнообразной тематики).
При написании книги автор столкнулся с множеством трудно­
стей, связанных с выбором обозначений и терминологии, так как,
к сожалению, очень многие обозначения и термины, принятые
в математической литературе, не совпадают с обозначениями и тер­
минами, используемыми в прикладной литературе, причем часто
различные авторы прикладники или различные области приложе­
ний в этом отношении также заметно отличаются друг от друга.
Стремясь способствовать этой книгой облегчению взаимопони­
мания между прикладниками и математиками, автор решил при­
бегнуть к компромиссу, не отдавая решительного предпочтения
ни одной из сторон. Так, например, круговая частота, много раз
упоминаемая в тексте книги, здесь всегда обозначается буквой со,
общепринятой в прикладной литературе, но не буквой Я, чаще
всего используемой математиками, а в качестве знака осреднения
используются угловые скобки, привычные для многих приклад­
ников, но редко встречающиеся в чисто математической литературе.
В то же время в соответствии с тем, как это принято в математиче­
ской литературе, спектральная плотность обозначается в книге
букЕей / (а не, например, одной из букв S, F, Е или W, широко ис­
пользуемых в прикладных книгах и статьях) и не называется про­
сто спектром случайной функции. В некоторых случаях оказалось
также, что в русской литературе не удается найти специального
термина для некоторых достаточно полезных понятий; в этих
случаях автор предпочитал не обойти соответствующие понятия,
а ввести новый термин.
В заключение автор хочет указать, что работа над настоящей
книгой Екачэле имела целью переработку для нового издания его
старой сбзорксй статьи [227], несколько раз издававшейся за
рубежом в виде отдельной книги. Эта переработка очень затяну­
лась и привела в конце концов к книге, резко отличающейся от
исходной статьи (в первую очередь за счет включения материала
по статистике стационарных случайных функций, совсем не затра­
гивавшейся в статье [227], и исключения всей теории линейной
окстргпсляюии и (|ильтраюии таких функций, занимавшей в этой
статье основное место).
ВВЕДЕНИЕ
Теория вероятностей изучает такие опыты (иначе — наблюде­
ния или испытания), результаты которых в принципе не могут быть
совершенно точно предсказаны заранее, так как они зависят от
каких-то обстоятельств, которых мы не знаем или не можем точно
учесть. При этом далеко не все такие опыты могут служить объек­
том теоретико-вероятностного изучения. Прежде всего, требуется
еще, чтобы рассматриваемые опыты относились к числу м а с с о ­
в ы х я в л е н и й , т. е. чтобы они могли быть многократно по­
вторены при практически одинаковых условиях (и даже не только
могли, но и на самом деле повторялись бы — только при этом усло­
вии применение теории вероятностей может принести реальную
пользу). Далее требуется, чтобы результаты опыта обладали опре­
деленной
статистической
устойчивостью,
а именно, чтобы при многократном повторении опыта частота появ­
ления любого заданного его результата (т. е. отношение числа опы­
тов, приведших к этому результату, к общему числу проделанных
опытов) оставалась бы почти все время примерно одинаковой,
лишь слегка колеблясь около некоторого постоянного числа р.
Требование наличия такой статистической устойчивости (или,
как еще говорят, наличия относящейся к данному опыту с т а ­
т и с т и ч е с к о й з а к о н о м е р н о с т и или с т а т и с т и ­
ч е с к о г о з а к о н а ) на первый взгляд кажется весьма огра
ничительным, но на самом деле оно поразительно часто оказы­
вается выполняющимся и в естественных (природных) условиях, и
в условиях, создаваемых деятельностью человека *. Рассматри­
ваемый результат опыта называют в таком случае случайным собы­
тием, а число р — вероятностью этого события,
Случайные события представляют собой самый первый объект
изучения в теории вероятностей, но они не являются основным
предметом исследования в этой теории. Основное место в теории
вероятностей занимает изучение всевозможных численных харак­
теристик случайных событий, т. е. величин, принимающих раз­
личные численные значения в зависимости от результата некото­
рого опыта (допускающего многократное повторение и обладаю* Заметим, в частности, что статистическую природу имеют все законы
квантовой механики и все следствия из этих законов. В связи с последним об­
стоятельством многие крупные современные физики склонны даже считать, что
в основе вообще всех законов природы лежат некоторые статистические законо­
мерности.
Введение
8
щего статистической устойчивостью исходов). Такие величины
обычно называются с л у ч а й н ы м и в е л и ч и н а м и . При­
мерами случайных величин могут, в частности, служить: а) число
очков, выпавших на брошенной игральной кости; б) ошибка изме­
рения какой-либо величины определенным прибором; в) темпера­
тура в г. Москве в 12 ч в один из дней января; г) суммарная пло­
щадь солнечных пятен, зафиксированных в некоторый момент вре­
мени солнечной обсерваторией. Во всех этих примерах опыт под­
тверждает выполнимость условий, требующихся для того, чтобы
эти величины можно было считать случайными в теоретико-ве­
роятностном смысле этого слова.1*
Случайные величины всегда будут обозначаться в этой книге
заглавными буквами, а принимаемые ими числовые значения
(которые принято называть в ы б о р о ч н ы м и з н а ч е н и я ­
м и , н а б л ю д е н н ы м и з н а ч е н и я м и или р е а л и ­
з а ц и я м и рассматриваемой случайной величины) — соответ­
ствующими строчными буквами. Если X — случайная величина,
то событие, состоящее в том, что ее значение оказалось меньшим
фиксированного числа х, будет случайным событием. Вероятность
P\X<x\=F(x)
(В.1)
(символом Р {...} мы всегда будем обозначать вероятность выпол­
нения соотношений, выписанных внутри фигурных скобок) яв­
ляется функцией от х, называемой ф у н к ц и е й
распре­
д е л е н и я случайной величины X. Из самого определения
(В. 1) сразу вытекает, что функция распределения является моно­
тонно неубывающей функцией х, стремящейся к нулю при х -> —оо
и к единице при х ->- оо. Если величина X может принимать лишь
какие-то дискретные значения хъ х2, ... (в таком случае и сама эта
величина называется д и с к р е т н о й ) , то функция F (х)у оче­
видно, будет «ступенчатой функцией», возрастающей скачком на
величину pk = Р {X = xk\ в точках хь но остающейся постоян­
ной на всех интервалах между точками хк.
Другой важный класс случайных величин составляют н е прерывные
величины, обладающие тем свойством, что
Р \х < X < х + Ах\ ^ р (х) Ах при всех х и любом достаточно
малом Ах. Здесь уже
х
F (х) = J р (х') dx', р (х) = dF (x)/dx,
(В.2)
—оо
т. е. F (х) — это дифференцируемая функция, совпадающая с ин­
тегралом от своей производной. В этом случае вместо задания
* Номера относятся к примечаниям в конце книги.
Введение
9
функции F (х) достаточно задать ее производную р (х) — п л о т ­
ность
в е р о я т н о с т и непрерывной случайной величи­
ны X.
Понятие плотности вероятности формально можно использовать
и в применении к дискретным величинам X, но только теперь уже
зта плотность будет являться «несобственной» (обобщенной) функ­
цией, представимой в виде комбинации б-функций Дирака 2:
Р (х) - Т-Ркв (х — хк).
k
Помимо чисто дискретных и чисто непрерывных случайных
величин иногда встречаются случайные величины смешанного
типа, которым отвечает функция F (х)> имеющая скачки, но плавно
возрастающая в промежутках между ними, и плотность р (х),
равная сумме обыкновенной функции и линейной комбинации
б-функций. В принципе могут существовать также и еще более
сложные случайные величины, функция распределения которых
содержит слагаемое, являющееся непрерывной (не имеющей
скачков), но не представимой в виде интеграла от своей производ­
ной функцией; однако такого рода случайные величины в физиче­
ских и технических приложениях никогда не встречаются.
Функция распределения F (х) (или соответствующая плот­
ность вероятности р (х)) доставляют полное статистическое описа­
ние случайной величины X. (Другой важный метод такого полного
описания, которым мы, однако, не будем пользоваться, состоит
в задании так называемой характеристической функции этой слу­
чайной величины.) 3 Для описания же частных свойств вели­
чины X удобны более простые ее числовые статистические характе­
ристики, важнейшими из которых являются моменты X:
оо
п
\ xndF (х).
у,™ = (Х ) =
(В.З)
Угловые скобки в формуле (В.З) служат символом вероятностного
осреднения (т. е. осреднения по статистическому ансамблю всевоз­
можных реализаций), а ее правая часть описывает эту операцию
осреднения аналитически. Интеграл в правой части — это так
называемый интеграл Стилтьеса, который в случае конечных пре­
делов интегрирования определяется равенством
Ь
\f(x)dF(x)
i
N
=
max
lim
5]/(^)[F(^)-F(^-i)Jf
l^rt-i|->°S
(В.4)
где a = x0 < xx < ... < *лм < XN = b, xk-\ < xk < xky а в
случае интегрирования от —сю до оо находится как предел интег­
рала от а до b при а -> — оо, Ь -> оо. Если существует плотность
Введение
10
вероятности р (х) величины X, то интеграл Стилтьеса (В. 3) пере­
ходит в обыкновенный интеграл
оо
ц
(п)
=
J хпр (х) dx.
(В.5)
—оо
В случае дискретной или смешанной случайной величины X
также можно использовать формулу (В. 5), если только допустить,
что р (х) может включать и б-функции. В дальнейшем для простоты
систематически будут использоваться для моментов формулы вида
(В.5), однако, так как интегралы Стилтьеса нам все равно пона­
добятся ниже для другой цели, мы предпочли выписать здесь и
общую формулу (В. 3).
Наиболее широко используются на практике моменты первых
двух порядков, которые и в этой книге будут играть центральную
роль. Первый момент
оо
тх = {Х)=
\ хр (х)dx
(В.б)
—оо
( с р е д н е е з н а ч е н и е или м а т е м а т и ч е с к о е о ж и ­
д а н и е величины X) определяет «центр распределения», около
которого группируются все наблюденные значения X. Второй
момент |ы(2) = (X2) позволяет численно охарактеризовать разброс
наблюденных значений величины X относительно ее среднего зна­
чения с помощью дисперсии
оо
Dx = {{X - {X)f) =
J {х - mxfp{x)
dx,
(B.7)
—оо
легко выражающейся через \i(l) = тх и |i (2) по формуле
Dx = <Х2> - (X) 2 = ^(2) - т\.
(В.8)
В дальнейшем в этой книге всегда будут рассматриваться лишь
случайные величины X, имеющие конечные средние значения и
дисперсию, т. е. такие, что для них интегралы в правых частях
(В.б) и (В.7) являются сходящимися. В таком случае корень
квадратный из дисперсии ох = Dx2, называемый с р е д н и м
к в а д р а т и ч н ы м у к л о н е н и е м X, как раз и будет опи •
сывать величину разброса наблюденных значений X относительно
гах.* Заметим еще, что, как легко видеть,
((X - а?) = ([(X - тх) + (тх - a)]*) =DX + (тх - af (В.9)
* Таким образом, символы D х и о2х обозначают одну и ту же величину. За­
метим еще, что ниже иногда вместо Dx и о„ будут использоваться также
обозначения D (X) и с (X).
Введение
11
при любом а; следовательно, ((X — а)2) принимает наименьшее
значение при а = гах. В частном случае, когда X принимает лишь
неотрицательные целочисленные значения, причем Р {X = k\ =
= e-%Xk/k\, k = 0, 1, 2, ... (случай так называемого распределе­
ния Пуассона с параметром X > 0), нетрудно показать, что тх =
= X, Dx = X; если же X принимает произвольные вещественные
значения и имеет плотность вероятности р (х) —
т-^— ^~ (x-myiiGу
!
(2я)1/2 а
(случай нормального или гауссовского распределения вероятностей
с параметрами т и а > 0), то /% = m, D x = сг2.4
Пару произвольных случайных величин X и К всегда можно
рассматривать как одну двумерную случайную величину X =
= (X, Y), задаваемую д в у м е р н о й ф у н к ц и е й
рас­
пределения
F(x, у) = Р\Х<х, Y<y\,
(В.10)
зависящей от переменных х и г/. В частном случае непрерывной
двумерной величины, для которой Р \х < X < х+ Ах, у < Y <
< у + Ау\ ^ р (ху у) Ал: Л# при малых Ал: и At/, вместо Т7 (л*, у)
можно использовать д в у м е р н у ю п л о т н о с т ь в е р о я т ­
н о с т и р (ху у), связанную с F (х, у) соотношениями:
х
у
F(x,y) = j
\p{x',y')dx'dy',
—оо —оо
р{хуу)^д^{х,у)1дхду.
(В. 11)
Простейшими статистическими характеристиками двумерной
случайной величины являются ее моменты \i^n>m) = (XnYm), ко­
торые в случае непрерывной величины X, имеющей двумерную
плотность вероятности р (ху у), представляются в виде
оо
(
H "'"U|
оо
\ хпутр(х, y)dxdy.
(В. 12)
— оо —оо
Моменты [л<я» 0) = (X") и \L{0> w> = (Уш), очевидно, совпадают
с обычными моментами (одномерных) случайных величин X и Y\
если же п > 0 и т > 0, то момент |я(п' т) называется с м е ш а н ­
н ы м м о м е н т о м X и Y. Самым простым (и важным для при­
ложений) смешанным моментом является в т о р о й с м е ш а н ­
н ы й м о м е н т | i ( l ' J ) = (ХУ). В ряде случаев вместо \i{l> 1)
удобнее использовать
второй
смешанный
цен­
тральный
момент,
bxv = <(Х - <Х» (Y - <Г»> = (XY) - (X) (Г),
(В. 13)
12
Введение
который иногда называется к о в а р и а ц и е й случайных ве­
личин X и У. Нормированное на корни из соответствующих дис­
персий (среднеквадратичные уклонения) значение ковариации
г=^ЬХу/охОу
(В. 14)
называется к о э ф ф и ц и е н т о м к о р р е л я ц и и величин
X и У; нетрудно показать, что всегда —1 < г < 1. В самом деле,
так как ((X — aYf) = (X2) — 2 (XY) а + (У2) а2 > О при
всех значениях а, то в силу известного критерия неотрицательно­
сти квадратного двучлена
|<ХУ>|<<Х2>1/2<У2>1/2
и \bXY\<axqY
(В. 15)
(второе неравенство (В. 15) — это частный случай первого нера0
о
венства, относящийся к величинам X = X — (X) и Y = Y —
— (У)); следовательно, \г\ < 1. И первое, и второе неравенства
(В. 15) иногда называются н е р а в е н с т в о м К о ш и, или
н е р а в е н с т в о м Б у н я к о в с к о г о , или н е р а в е н ­
ством Шварца,
или,
наконец,
неравенством
К о ш и — Б у н я к о в с к о г о — Ш в а р ц а (по имени уче­
ных, доказавших некоторые родственные (В. 15) неравенства, от­
носящиеся к другим разделам математики). Отметим еще, что если
о
о
г = ± 1 , то ((X — CLY)2) = 0 при некотором значении я, т. е.
здесь X с вероятностью единица совпадает с линейной комбина­
цией вида aY + b.
Важным частным случаем двумерного распределения вероятно­
стей является случай двумерного нормального распределения
(распределения Гаусса), задаваемого плотностью вероятности вида
Р (х> У) =
-vpvn/
1
Xexp J - -щ^
По" х
[ ( * —mi)a
o r (*-/TCi)(</-/ft2)
y—^
2r
—
. (y — rn*)*
+ —Щ—
(B.16)
где т1и m2 — произвольные числа, ax > 0, a2 > 0 и —1 < r < 1.
Нетрудно проверить, что при таких mlf m2, оъ a2 и г функция
(В. 16) действительно является двумерной плотностью вероятно­
сти, т. е. вещественной неотрицательной функцией, интеграл от
которой по всей плоскости (х, у) равен единице. При г = =fcl ра­
венство (В. 16) не имеет смысла, но легко видеть, что, полагая
г -> + 1 или г ->- — 1 в формуле (В. 16), мы придем к предельному
случаю, когда X — т1 = ±ог (Y — т2)/о2 с вероятностью еди­
ница (так что все значения X = (X, Y) лежат на фиксированной
прямой плоскости (х, у)), причем и X, и У имеют одномерное нор­
мальное распределение вероятностей; в этом случае распределение
13
Введение
вероятностей пары (X, Y) называется в ы р о ж д е н н ы м
н о р м а л ь н ы м р а с п р е д е л е н и е м . Одномерные плот­
ности вероятности величин X и Y, отвечающие двумерной плот­
ности (В. 16), равны:
г
(х-тх)%
— оо
J Р (*, У) dx =
Pi (У) =
_в е
2 2
"
,
(В. 17)
—оо
т. е. обе являются одномерными нормальными плотностями ве­
роятности. Из (В. 17) сразу следует, что тг и т2 — это средние
значения случайных величин X и К, а а? и о\ — дисперсии этих
величин. Легко показать также, что для пары величин, имеющих
плотность (В. 16), коэффициент корреляции X и Y равен г. Заме­
тим, что при г = 0 формула (В. 16) может быть переписана в виде:
р (ху у) = /?! (х) р2 (у)\ отсюда следует, что в случае нормально
распределенных величин (X, Y) из некоррелированности X и К
вытекает их независимость друг от друга. В общем же случае,
как известно, из независимости двух величин X и Y друг от друга
всегда вытекает и их некоррелированность, но из того, что коэф­
фициент корреляции X и Y равен нулю, еще не следует, что вели­
чины X и Y независимы друг от друга.
В случаях, когда приходится одновременно иметь дело с п
различными случайными величинами Х1Ь Х2, ..., ХПУ их все
можно рассматривать как одну n-мерную случайную величину
X = (Х ъ Х2, ..., Хп). Для задания такой величины можно ис­
пользовать /г-м е р н у ю ф у н к ц и ю
распределения
F(xl9 . . . , хп) = Р\Х1<х19
. . . , Ха<хп),
(В.18)
зависящую от переменных хъ ..., хп. В частном случае суще­
ствования /г-м е р н о й
плотности
вероятности
р (хъ ..., хп) имеем
х
1
F(xu
...,
х
п
хп) = J . . . J" р(х[, . . . ,
о
о
P(Xl,
...,xj-*'£-£**,
xn)dx[...dxn9
(В.19)
где р (хъ ..., хп) — неотрицательная функция, интеграл от кото­
рой по всему /г-мерному пространству равен единице. По функции
F (хъ ..., хп) или р (хъ ..., хп) можно определить все моменты
14
Введение
величины X; в частности, если существует плотность вероятности,
то
fxdv
-
j . . . J 4\
•U) = (x[i, . ., xLn) =
. . . , xr["P(xu
. . . , хп)йхх...йхп.
(В.20)
В настоящей книге мы будем иметь дело только с первыми мо­
ментами | 4 n = (Xk) = mki образующими в е к т о р с р е д н и х
з н а ч е н и й ш х = (тъ ..., тп), и вторыми моментами \ifk'1) =
= B]k = (XjXk),
образующими
корреляционную
м а т р и ц у $ = \\Bjk\\ случайной величины X. Вместо величин
Bjk часто оказывается более удобным рассматривать вторые цен­
тральные моменты
Ь!к - ((Xj - iXf))(Xk - (Xk))) = Bjk - m,mk;
(B.21)
матрица Ш = \\b}k\\ также часто называется корреляционной ма­
трицей величины X (или же центрированной корреляционной ма­
трицей, ковариационной матрицей или матрицей ковариаций).
В дальнейшем для краткости термин «корреляционная матрица»
будет, как правило, прилагаться к обеим матрицам & и Ы и лишь
тогда, когда из-за этого может возникнуть путаница, & будет
называться центрированной корреляционной матрицей. Иногда
вместо & будет также рассматриваться нормированная матрица
коэффициентов корреляции 01 = \\rjk\\ = || Ь/^/сгусгАг||.
Ясно, что все три матрицы ,$, $ и $, по самому своему определе­
нию являются симметрическими: Bjk = Bkjy bjk = bkj и rjk =
= rkj. Кроме того, эти матрицы являются также и положительно
определенными: каковы бы ни были вещественные числа съ ..., сП)
всегда
п
п
53 Btlfijck>0,
Е Ь^с^^О,
п
X, rikcJck>0
(В.22)
(так как квадратная форма в левой части первого неравенства
(В.22) равна ((с1Х1 Н
\-спХп)2), а второе и третье неравен­
ства (В.22) являются частными случаями первого неравенства,
соответствующими замене произвольных п случайных величин
Xj9 / = 1, ..., пу величинами X.- — (ХЛ, / = 1 , ..., п или же
{Х,-(Х,))1о„
j=l,
Рассмотрим теперь
распределение
..., п).
многомерное
вероятностей
нормальное
(многомер-
Введение
ное
распределение
ностью вероятности вида
Гаусса),
15
задаваемое
плот­
р (х19 . . . , хп) = А ехр I — - 1 Г i в/л(*/ — my) (*Л — mk)\, (В.23)
где т х , ..., тп — произвольные вещественные постоянные, g}k =
= £л/ и числа g"/fe обладают тем свойством, что 9 = ||gyft|| является
строго положительно определенной матрицей т. е.
2
£ikcick>Q
при любых вещественных с ь ..., сп, не все из которых равны нулю),
а А определяется исходя из требования, чтобы интеграл от
р(х1у ..., хп), распространенный по всему /г-мерному пространству,
равнялся единице. Выполнив сравнительно несложные преобра­
зования, можно показать, что
А = Gl/2/(2n)n/\
(В.24)
5
где G = \gjk\—детерминант
матрицы ^ . Заметим еще, что
многомерное нормальное распределение может быть определено
и в случае, когда 9 = \\gjk\\ — положительно определенная (но не
строго положительно определенная) матрица; при этом надо
лишь считать, что случайные величины Хх, ..., Хп связаны одной
или несколькими линейными зависимостями, так что все распреде­
ление вероятностей здесь сосредоточено на некотором (п — т)мерном линейном подпространстве (где т > 0) всего п-мерного
пространства точек (хъ ..., хп). Если заданное на этом подпро­
странстве распределение является (п — т)-мерным нормальным
распределением, то исходное распределение п величин Хъ ..., Хп
также будет называться нормальным (но только в ы р о ж д е н ­
н ы м н о р м а л ь н ы м ) распределением. Такие вырожденные
нормальные распределения, которые для простоты дальше не
будут специально рассматриваться, обладают на самом деле мно­
гими теми же свойствами, что и невырожденные распределения
с плотностью вероятности вида (В. 23).
Подставив выражение (В.23) в формулы для первых и вторых
моментов, вытекающие из общей формулы (В. 20), нетрудно убе­
диться, что в случае плотности (В.23)
(X,) = mh Bjk = (XjXk) = Gjk/G + msmk,
bik = Gjk/G,
(B.25)
где как и выше, G = det & = \gjk\, a Gjk — алгебраическое до­
полнение элемента gjk в детерминанте G (так что М = \\bIk\\ =
=
Цё/ПГ1 = &1)- Из формул (В.25) вытекает, что для любого
набора п вещественных чисел (т1у ..., тп) = m и любой строго
положительно определенной матрицы Ш можно легко определить
Введение
16
n-мерное нормальное распределение, имеющее m своим вектором
средних значений а Ш —своей центрированной корреляционной
матрицей; если же мы будем рассматривать также и вырожденные
n-мерные нормальные распределения, то последнее утверждение,
как легко видеть, будет справедливым в применении и к любому
вектору т , и к любой положительно определенной (но не обяза­
тельно строго положительно определенной) матрице 0$. Формулы
(В.25) показывают, кроме того, что плотность нормального рас­
пределения вероятностей однозначно определяется своими пер­
выми и вторыми моментами; поэтому указанные моменты должны
однозначно определять и все вообще статистические характери­
стики случайных величин Х ь ..., Хп (это последнее утверждение
также оказывается справедливым и для вырожденных многомерных
нормальных распределений). Отметим, еще что в случае n-мер­
ного нормального распределения величин Хъ ..., Хп распределе­
ние вероятностей любой подгруппы из т < п этих величин также
будет нормальным; кроме того, нормальным здесь будет и распре­
деление вероятностей любых М линейных комбинаций величин
Хъ ..., Хп при всех М > 0, так что, в частности, и каждая такая
п
комбинация Y = Y с,Х} -^ с0 обязательно будет иметь нормальное
/=1
распределение (см. литературу, указанную в примечании 5 ).
Изучение одномерных и многомерных случайных величин
представляет собой основное содержание классической теории
вероятностей — законченной математической дисциплины, изла­
гаемой в целом ряде учебников различного уровня сложности.
В последние годы однако, во многих приложениях оказалось по­
лезным или даже необходимым рассматривать и более сложные
теоретико-вероятностные объекты, а именно — с л у ч а й н ы е
ф у н к ц и и . Этим термином обозначаются функции аргумента t
(чаще всего играющего роль времени), определяющиеся резуль­
татами какого-то опыта или наблюдения, при многократном по­
вторении которого они могут принимать различные значения, и
обладающие определенной статистической устойчивостью (о точ­
ном смысле последнего утверждения еще будет идти речь ниже).
Изучению таких случайных функций и посвящена настоящая
книга.
Простейшей ситуацией, в которой понятие случайной функции
оказывается полезным, является та, где приходится иметь дело
с данными наблюдений, повторяющихся через регулярные про­
межутки времени. Разумеется, здесь в распоряжении исследова­
теля всегда имеется лишь какое-то конечное число N результатов
наблюдений, которые можно считать значением некоторой Af-мерной случайной величины X = (Xlt ..., XN)\ однако если N очень
велико (например, имеет порядок нескольких сотен или тысяч), то
Введение
17
часто удобнее рассматривать величины Хг, ..., Х^ как отрезок
бесконечного в р е м е н н о г о р я д а . . . , Х_г, Х0, Хъ ..., XN>
всех
XNAV •••
возможных наблюдений. Такой временной ряд
представляет собой уже случайную функцию дискретного аргу­
мента t (номера наблюдения), пробегающего всевозможные целые
значения. Возникающие здесь случайные функции целочислен­
ного аргумента t часто называются с л у ч а й н ы м и п о с л е ­
довательностями.
Более сложными с точки зрения теории являются опыты, в ко­
торых наблюдения производятся непрерывно, т. е. р егистрируется
значение некоторой функции аргумента tf пробегающего все веще­
ственные значения из некоторого интервала (может быть, даже
бесконечного). Случайные функции такого непрерывного аргу­
мента / очень часто называются с л у ч а й н ы м и
процес­
с а м и . Наконец в случае результатов опытов, представляемых
в виде значения функции X (tl9 ..., tk) нескольких вещественных
аргументов (обычно имеющих смысл координат точки некоторого
пространства), часто употребляется термин
случайные
поля.
Исторически одним из самых первых примеров опытов, приво­
дящих к появлению случайных функций, явились наблюдения
б р а у н о в с к о г о д в и ж е н и я мелких частиц, взвешенных
в жидкости или газе, впервые описанные почти полтора столетия
назад6. Наблюдаемые в этих опытах частицы всегда движутся край­
не нерегулярно; регистрируя значения какой-либо координаты
одной из таких частиц через определенные промежутки времени, мы
получаем одну р е а л и з а ц и ю (иначе н а б л ю д е н н о е
з н а ч е н и е , или в ы б о р о ч н о е з н а ч е н и е , или т р а е ­
к т о р и ю ) некоторой случайной последовательности X (t). Анало­
гично этому значения координаты х (t) брауновской частицы при
всех / доставляют нам реализацию случайного процесса X (/).
К брауновскому движению близко примыкают флуктуации
силы тока и напряжения в электрических цепях; строго говоря,
напряжение V = V (t) на концах любого проводника и сила тока
I = I (t) в нем всегда беспорядочно флуктуируют во времени,
так как тепловое движение отдельных электронов (родственное
брауновскому движению взвешенных частиц) вызывает неконтро­
лируемые изменения функций V (/) и / (i) (так называемые т е п ­
л о в ы е ш у м ы ) . Если же цепь включает еще и электронные
лампы или полупроводниковые устройства, то электрические
флуктуации в ней заметно возрастают из-за наличия хаотических
пульсаций интенсивности переноса электрических зарядов в лампе
и полупроводнике.
В радиоприемных устройствах помима шумов, возникающих
в самой приемной цепи, всегда наблюдаются еще и дополнительные
помехи и случайные замирания принимаемых сигналов (фединги),
18
Введение
возникающие из-за рассеяния распространяющихся радиоволн на
неоднородностях коэффициента преломления атмосферы и влия­
ния посторонних электрических разрядов ( м е т е о р о л о г и ч е ­
с к и е и п р о м ы ш л е н н ы е шумы).
Электронные и радиотехнические приборы часто используются
в качестве одного из звеньев систем автоматического управления;
однако и помимо того работа систем автоматического управления
всегда протекает под воздействием нерегулярных помех, пред­
ставляющих собой случайные функции времени (достаточно вспом­
нить про систему автоматического управления самолетом, летящим
в реальной турбулентной атмосфере и подвергающимся воздейст­
вию неупорядоченных порывов ветра).
Все сказанное хорошо объясняет, почему широкое развитие
электро- и радиотехники, электроники и автоматики послужило
мощным стимулом для бурного расцвета исследований по теории
случайных функций и связанного с ним появления новой очень
важной прикладной дисциплины, обычно называемой статистиче­
ской радиотехникой, или статистической радиофизикой, или ста­
тистической теорией связи, или статистической теорией систем
автоматического управления.7
Выше, говоря о системе управления самолетом, мы уже упоми­
нали про т у р б у л е н т н о с т ь — нерегулярные изменения во
времени и в пространстве значений скорости, давления, темпера­
туры и других гидродинамических величин в почти любом течении
жидкости или газа (так называемые ламинарные течения, не сопро­
вождающиеся нерегулярными пульсациями, на самом деле пред­
ставляют собой лишь редкое исключение). Турбулентность при­
водит к тому, что значения трех компонент вектора скорости, дав­
ления, температуры и других характеризующих течение величин
как в природных условиях (в земной атмосфере, морях и океанах,
реках и проточных озерах), так и в течениях, осуществляемых
в инженерных и промышленных устройствах или физических лабо­
раториях, почти всегда представляют собой реализации некоторых
случайных полей — случайных функций времени и трех простран­
ственных координат.
Воздействие создаваемых турбулентностью порывов ветра на
растительность, различные строения и другие возвышающиеся
над землей объекты является одним из источников м и к р о с е й с м — небольших беспорядочных вибраций земной поверх­
ности, фиксируемых чувствительными сейсмометрами; эти микросейсмы заставляют иногда считать уровень земной поверхности
в фиксированной точке случайной функцией времени. Аналогич­
ный случайный характер имеют и так называемые г е о м а г н и т ­
н ы е в а р и а ц и и — беспорядочные изменения напряженности
земного магнитного поля, изучаемые специалистами в области
земного магнетизма.
Введение
19
Реализациями случайных процессов естественно считать и
многие функпии времени, изучаемые в б и о ф и з и к е ; хорошим
примером здесь могут служить беспорядочные изменения биоэлек­
трических потенциалов мозга, регистрируемые на электроэнцефа­
лограммах. Очень часто возникают случайные функции также
в разнообразных т е х н о л о г и ч е с к и х п р о ц е с с а х —
если в ходе производства непрерывно создается какой-то продукт,
то его параметры всегда в какой-то мере флуктуируют во времени
и поэтому временной ход каждого из них, ках правило, должен
рассматриваться как реализация некоторого случайного процесса.
Аналогично этому обыкновенная ткацкая нить в силу целого ряда
неконтролируемых причин всегда оказывается не вполне однород­
ной, так что ее толщина в некоторых случаях должна рассматри­
ваться как случайная функция расстояния от начала нити; также
и вертикальная координата любой горизонтальной шероховатой
поверхности представляет собой случайную функцию двух гори­
зонтальных координат.
Важным примером шероховатой поверхности является в з в о л ­
н о в а н н а я п о в е р х н о с т ь м о р я ; так как, однако,
морские волны подвижны, то здесь уже высота поверхности пред­
ставляет собой случайную функцию трех переменных — двух
пространственных координат и времени. Перечисленным здесь кон­
кретным примерам случайных функций посвящена обширная (и
очень различная по своему характеру) научная и учебная литера­
тура.8 В дальнейшем изложении нам встретятся и другие примеры
случайных функций, возникающих в тех или иных прикладных
вопросах.
Примеры наблюденных значений случайных функций приве­
дены на рис. 1. Мы видим, что все представленные кривые имеют
примерно одинаковый характер, хотя они и относятся к совер­
шенно различным явлениям. Подобного рода кривые, характери­
зующиеся наличием многочисленных хаотических отклонений от
«среднего уровня» разной продолжительности и величины, весьма
часто встречаются на практике; по одному их внешнему виду
обычно можно заключить, что мы, по-видимому, имеем дело с реали­
зацией какой-то случайной функции, к которой целесообразно
применить, статистические рассмотрения. Иногда, однако, это
первое впечатление может оказаться ошибочным, поэтому на во­
просе о применимости теории случайных функций к данным реаль­
ных наблюдений стоит остановиться немного подробнее.
Из всего сказанного выше вытекает, что основным признаком
случайной функции является вовсе не запутанность и нерегуляр­
ность ее графика, а наличие целого «статистического ансамбля»
однотипных реализаций х± (t), х2 (/)> ••• и т. д., каждая из которых
отвечает одному из множества допустимых однотипных опытов
(или наблюдений) и которые в своей совокупности обладают неко-
икВ
JOMM
Рис. 1.
а — Флуктуации интенсивности радиолокационного сигнала (по [196]).
б — Турбулентные пульсации температуры в фиксированной точке атмосферы на вы­
соте 2 м над поверхностью Земли (по [147]).
в — Микропульсации уровня Земли (микросейсмы), зарегистрированные сейсмографом
на наблюдательной площадке в Восточном Казахстане (по [43]).
г — Изменения высоты поверхности волнующегося моря в фиксированной точке (по [59]).
д — Изменения разности значений биоэлектрического потенциала двух участков мозга
здорового спящего человека (по [103]).
е — Изменение диаметра нейлоновой нити вдоль ее длины (по [120]).
Введение
2t
торой статистической устойчивостью. Наличие же лишь какой-то
одной крайне нерегулярной кривой (типа тех которые изображены
на рис. 1) показывает только, что мы имеем дело с явлением, в слу­
чае которого трудно рассчитывать на создание полноценной детер­
министической (динамической) теории, позволяющей точно описать
все наблюдаемые изгибы кривой (не говоря уже о том, что такая
динамическая теория неизбежно должна^быть очень сложной и
вряд ли может быть полезной, так как точные данные о крайне за­
путанной кривой вообще трудно как-нибудь использовать на
практике). Именно поэтому представляется естественным приме­
нить здесь статистический подход и поискать ансамбль кривых,
в который входит наша кривая и который в целом соответствует
одной случайной функции X (/) со сравнительно простыми стати­
стическими свойствами.
В случае всех кривых, изображенных на рис. 1, речь идет о на­
блюдениях, допускающих многократное повторение в аналогич­
ных условиях; поэтому вопрос об определении случайной функции,
отвечающей этим наблюдениям, здесь представляется сравни­
тельно простым. Заметим, однако, что статистический ансамбль
всевозможных реализаций х (t) во многих случаях можно выби­
рать по-разному: в случае кривой на рис. 1 б мы можем включить
в него лишь данные измерений в той же точке, в то же время дни
и при примерно одинаковой погоде, а можем рассматривать и
данные всевозможных измерений в различных точках, начинаю­
щихся в совершенно произвольные моменты времени на протяже­
нии всего года; в случае кривой на рис. 1 д можно рассматривать
лишь электроэнцефалограммы здоровых людей примерно одина­
кового возраста и находящихся в примерно одинаковом физиче­
ском и психическом состоянии, а можно включить в статистический
ансамбль вообще все записанные электроэнцефалограммы (боль­
шинство из которых относится к больным людям); в случае кривой
на рис. 1 е можно рассматривать лишь нити, выпущенные одним
станком, а можно и включить в число реализаций данные измере­
ний, относящихся ко всем вообще ткацким нитям, выпускаемым
на всевозможных фабриках, имеющих весьма различное оборудова­
ние. Отсюда видно, что одна и та же кривая х (/) иногда может рас­
сматриваться как реализация нескольких различных случайных
функций, имеющих различные статистические характеристики.
В некоторых случаях целесообразно также одну и ту же кривую
при решении различных относящихся к ней задач иногда рассма­
тривать как реализацию случайной функции,а иногда как кривую,
определяемую, хотя бы приближенно, некоторыми динамиче­
скими уравнениями.
К числу реализаций случайных функций можно отнести также
целый ряд функций х (/), возникающих в некоторых геофизиче-
22
Введение
-0,5
-0,4
Миллионы лет
ских, астрофизических, экономических и родственных им задачах,
в которых как будто бы трудно четко определить статистический
ансамбль аналогичных опытов или наблюдений, задающий мно-
Введение
23
200 г-
1760
17дО
1800
1870 '
то
1860
1890
1900
1920
то
1960
Рис. 2.
а — Средние суточные значения скорости ветра, зарегистрированные метеорологической
обсерваторией Кью (по [321]).
б — Изменчивость средней январской температуры воздуха в Ленинграде (по [8]).
в — Средние годовые значения температуры воздуха в Лондоне за период с 1763 по 1900 г.
(по [120]).
г — Изменения степени оледенения Земли (т. е. суммарного объема льда на планете)
за последний миллион лет (по [203]).
д — Колебания цен на пшеницу на рынках Западной и Центральной Европы за период
с 1500 до 1869 г. (ряд Бевериджа) (по [282]).
е — Средние годовые значения числа Вольфа.
жество однотипных реализаций. Напомним, что к области гео­
физики относятся, в частности, и кривые на рис. 1 б—г; в этих
случаях, однако, речь идет о мелкомасштабных флуктуациях,
естественно укладывающихся в схему «массовых явлений».
Кривые такого же характера, однако, часто появляются и тогда,
когда на график наносятся данные более грубых измерений
с помощью приборов с большой инерцией, регистрирующих лишь
весьма значительные и достаточно медленные изменения измеряе­
мых величин, В качестве примеров на рис. 2 а—в нанесены данные
об изменениях во времени изучаемых в климатологии средних
суточных значений скорости ветра, средних месячных январских
значений температуры воздуха и средних годовых значений темпе­
ратуры в некоторых фиксированные точках наблюдения. Все эти
кривые по своему характеру не отличаются от кривой на рис. 1 б,
хотя масштабы по оси времени здесь совсем иные; в то же время
в случае, например, кривых на рис. 26 — в, вопрос об определении
охватывающего их статистического ансамбля аналогичных рядов
наблюдений вовсе не кажется простым.
24
Введение
Еще одним более экзотическим примером такого^ке типа яв­
ляется относящийся к палеоклиматологии рис. 2 г, на котором
изображены приблизительные изменения степени оледенения
Земли (т. е. суммарного объема льда на нашей планете) за послед­
ний миллион лет, восстановленные по изменениям изотопического
состава ископаемых останков океанского планктона, отражающего
длиннопериодные вариации средней температуры Земли за ука­
занный период. Родственный пример, относящийся уже к эконо­
мике, представлен на рис. 2 д, изображающем так называемый ряд
Бевериджа колебаний цен на пшеницу на рынках Западной и Цен­
тральной Европы за период с 1500 по 1869 г. Этот ряд был построен
на основе анализа большого статистического материала, относя­
щегося примерно к пятидесяти пунктам, охватывающим ряд евро­
пейских стран; для исключения влияния систематического изме­
нения цен на пшеницу в течение трех с половиной столетий для
каждого года подсчитывалось отношение (в процентах) средней
цены за этот год к [среднему [арифметическому цен за этот год,
15 предшествующих и 15 последующих'лет — изменения именно
этих отношений и^!указаньГна рис. J2j?f
Наконец, на рис. 2 е изображен относящийся к астрофизике
знаменитый ряд средних годовых значений числа Вольфа, харак­
теризующего солнечную активность (среднее число солнечных
пятен).9 Для определенности мы здесь подробнее остановимся
именно на рис. 2 е.
Разумеется, можно считать, что изображенная на рис. 2 е
кривая входит в множество подобных ей кривых, относящихся
к всевозможным звездам, близким по всем основным своим пара­
метрам к нашему Солнцу и находящимся примерно на той же ста­
дии своей эволюции. Поскольку, однако, мы не можем точно ука­
зать ни одной такой звезды, сформулированное здесь допущение
вряд ли можно признать плодотворным. Однако рассматривая
какой-то отрезок х (/), х (t + 1), ..., х (t + N — 1) изображен­
ного на рис. 2 е временного ряда, мы можем пониматьпод всевоз­
можными его реализациями просто всевозможные совокупности
из N последовательных наблюдений числа Вольфа — данные на­
блюдений заставляют ожидать, что статистическая устойчивость
результатов при этом будет иметь место.
Такой подход фактически означает, что мы принимаем за ан­
самбль всевозможных реализаций случайной функции X (t) мно­
жество всевозможных сдвигов по времени (т. е. преобразований
вида х (/) -+■ х (t + а), где а фиксировано) одной и той же функции
х (/); к получаемым при этом функциям X (t) также часто будут
применимы все выводы настоящей книги, если только вероятност­
ное осреднение мы всюду заменим осреднением по времени (совпа­
дающим, очевидно, с осреднением по введенному множеству pea-
25
Введение
лизаций).10 Естественно думать, что тот же подход можно приме­
нить и к кривым на рис. 2 б—д.
С другой стороны, в случае, например, представленных на
рис. 3 а данных о многолетних изменениях среднего годового
уровня Каспийского моря или данных о средних месячных коли-
№9
1951
1953
1955
1957
1959
Рис. а.
а — Многолетние изменения среднего годового уровня Каспийского моря*" (по [167]).
б — Изменение во времени среднего месячного числа пассажиров, перевозимых между­
народными авиакомпаниями США (по [21]).
чествах пассажиров, перевозимых международными авиакомпа­
ниями (см. рис. 3 б), использование статистических методов уже
вызывает известные опасения, поскольку здесь также нельзя ука­
зать статистический ансамбль однотипных наблюдений, включаю­
щий представленные на рис. 3 а или 3 б данные, но в то же время и
множество всевозможных сдвигов во времени исходной кривой
теперь уже явно не обладает статистической устойчивостью. Тем
не менее имеются работы, в которых методы теории случайных
функций применяются и к рядам наблюдений, изображен-
26
Введение
ным на рис. 3; существует также ряд специальных приемов стати*
стического анализа подобных неоднородных во времени рядов.11
Следует иметь в вцду, однако, что практическая целесообразность
приложения теории случайных функций к подобным ситуациям
вряд ли может быть выяснена на основании общих соображений и
должна каждый раз определяться на основании тщательного сопо­
ставления получаемых теоретических выводов с данными не­
посредственных наблюдений.
В то время как вопрос о возможности применения теории слу­
чайных функций к замысловатым и явно нерегулярным кривым,
изображенным на рис. 3, требует специального исследования,
применимость той же теории ко многим гораздо более простым и
«правильным» функциям представляется совершенно бесспорной.
^
Рис. 4.
Схематическое изображение траекторий снарядов
при учебной стрельбе по цели О.
Рассмотрим, например, данные учебной стрельбы по фиксиро­
ванной цели из одного орудия, схематически показанные на рис. 4;
статистический ансамбль всевозможных траекторий снарядов
здесь может быть просто определен, а каждую траекторию естест­
венно рассматривать как реализацию случайной функции, прибли­
женно представимой уравнением параболы со случайными коэф­
фициентами. В качестве второго примера того же типа рассмотрим
гармоническое колебание высокой частоты со0, модулированное
по амплитуде или по фазе (или и по амплитуде, и по фазе) мед­
ленно меняющимся процессом. Здесь речь идет о функции вида
х (t) = a (t) cos (со0/ + ф (*))> гДе х о т ь °Д на и з функций a (t) или
Ф (/) отлична от постоянной, но заметно изменяется лишь за время,
содержащее много периодов Т0 = 2я/со0.
В этом случае на протяжении интервалов времени, лишь в не­
много раз превышающих период Т0, наша функция будет весьма
точно изображаться отрезком синусоиды, но ее амплитуда или
фаза будет различной для различных таких интервалов. В элек­
тро- и радиотехнике модулированные колебания часто приме­
няются для передачи информации; при этом изменения функций
a (t) и ф (t) оказываются хоть и медленными, но весьма нерегуляр­
ными и поэтому различные отрезки колебательного процесса х (t)
удобно рассматривать как реализации гармонического колеба-
Введение
27
ния X (t) = A cos (coQt + Ф) фиксированной частоты со0 со слу­
чайными амплитудой А и фазой Ф. Такое с л у ч а й н о е г а р ­
моническое
колебание
безусловно представляет
собой случайную функцию, хотя все его реализации имеют форму
точных синусоид и совсем не похожи на запутанные кривые, изоб­
раженные на рис. 1 и 2.
Разумеется, приведенные выше иллюстрации далеко не исчер­
пывают всех типов случайных функций, встречающихся на прак­
тике. Так, в вероятностной теории массового обслуживания, пер­
воначально возникшей в связи с задачами рациональной эксплуа­
тации телефонных се­
тей, а затем нашедшей
и целый ряд других
важных
приложений,
большую роль играет
так называемый с л у ­
чайный пу а ссо новский процесс
N (/), схематически опи­
сывающий число вызо­
вов, поступивших, ска­
жем, на телефонную
станцию за время от не­
которого
начального
Рис. 5.
момента / = 0 и до те­ Реализация пуассоновского процесса на оси
—оо < t < о о .
кущего момента /. Все
реализации этого про­
цесса имеют вид, изображенный на правой половине рис. 5 (отве­
чающей значениям / > 0): они представляют собой ступенчатые кри­
вые, возрастающие на единицу в каждой из своих точек разрыва.
Совокупность точек разрыва (скачков) процесса N (/) в данном
случае представляет собой так называемую пуассоновскую систему
точек (фиксированной интенсивности к > 0). Для такой системы
все расстояния Lk между соседними точками являются реализа­
циями взаимно независимых случайных величин, имеющих пока­
зательное распределение вероятностей (т. е. плотность вероятно­
сти вида р (/) = Хе~м при I > 0); числа точек на любых двух
непересекающихся временных интервалах также представляют
собой независимые случайные величины, а распределение числа
N (s) точек, попавших на произвольный интервал длины s, яв­
ляется распределением Пуассона с параметром Ks (так что (N (s))
0, 1,
= Ks и Р \N (s) = п\ = ег
п\
Заметим еще, что иногда процесс Пуассона N (t) бывает удобно
распространить и на отрицательные значения tt приняв, что пуассоновская система точек разрыва {tk\ задана на всей вещественной
28
Введение
оси —оо < t < оо, а значение N (t) при t < О равно взятому с об­
ратным знаком числу точек 4> таких, что t <: tk < 0; реализация
именно такого процесса N (t) и изображена на рис. 5. Пуассоновское распределение точек разрыва tk характерно и для так назы­
ваемого с л у ч а й н о г о т е л е г р а ф н о г о
сигнала
X (/), встречающегося в некоторых задачах статистической теории
связи; однако в этом случае процесс X (t) в промежутках между
своими точками разрыва поочередно принимает значение + а или
—а (рис. 6). Еще один важный класс случайных процессов, строя­
щихся по пуассоновской последовательности случайных точек
X
-/.
Рис. 6.
Схематическое изображение реализации «случайного телеграфного
сигнала» при а = 1.
{/„}, образуют п у а с с о н о в с к и е и м п у л ь с н ы е гГр о ц е с с ы, задаваемые формулой вида
* ( / ) = ! £ЯГ(*-/Я),
(В.26)
п
где Г (/) —фиксированная функция (определяющая форму им­
пульса), Еп — последовательность независимых (и между собой,
и от точек tn) одинаково распределенных случайных величин с из­
вестной функцией распределения (см. рис. 7, на котором все им­
пульсы предполагаются имеющими форму прямоугольников).12
Допустив далее, что последовательность точек \tn\ не обяза­
тельно является пуассоновской, а представляет собой просто
какой-то т о ч е ч н ы й с л у ч а й н ы й п р о ц е с с (т. е. слу­
чайную последовательность точек, подчиняющуюся определенным
статистическим закономерностям), мы можем значительно обоб­
щить классы случайных процессов, схематически изображенных
на рис. 5—7. Так, например, предположив, что все расстояния
Ln = in+i ~~ U между точками разрыва кривой на рис. 5 яв­
ляются реализациями взаимно независимых случайных величин,
имеющих одинаковое (но не обязательно показательное) распре­
деление вероятностей, мы придем к так называемым п р о ц е с ­
с а м в о с с т а н о в л е н и я , описывающим, в частности, число
замен некоторой детали за время / при условии, что время работы
детали от момента ее установки и до момента выхода из строя имеет
фиксированное распределение вероятностей. Если же точки
Введение
29
..•> ta, tn+li ... образуют произвольный точечный случайный про­
цесс, то рис. 5 будет изображать реализацию общего с л у ч а й ­
ного процесса счета
событий.
Если мы примем, что на рис. 6 последовательность точек раз­
рыва tn задается формулой tn = пТ0 + Ф, где Т0 — фиксирован­
ное число (период), а Ф — случайная величина, то получим п р я моугольную
в о л н у со с л у ч а й н о й ф а з о й .
Предположив, что последовательность {/„ в формуле (В. 26)
— это периодическая после- х
довательность равноотстоящих
точек вида tn = пТ0, а \Еп\ —
некоторая случайная последо­
вательность, мы придем к мо­
дели
импульсно-амплитудной
модуляц и и, используемой иногда для
передачи информации; если же
все Еп одинаковы, но tn =
--£
U
=--- пТ0 + т;/, где хп — случай­
ная последовательность, то про­
Рис. 7.
цесс X (t) будет описывать и м- Реализация пуассоновского импульс­
п у л ь с н о - ф а з о в у ю мо­ ного процесса в случае импульсов
прямоугольной формы
дуляцию,
и т. д. 13
В
огромном количестве работ по
прикладной теории случайных процессов^ можно найти также
множество других разнообразных примеров случайных функций, на которых мы здесь не будем задерживаться.
Понятие случайной функции не укладывается в рамки класси­
ческой теории вероятностей и требует привлечения совсем нового
математического аппарата. Выше уже отмечалось, что изучение
одномерных случайных величин сводится к изучению распреде­
лений вероятностей на прямой —сю < х < оо — множестве допу­
стимых значений величины X. Такие распределения задаются
функциями распределения F (х) или плотностями вероятности
р (А:), которые могут изучаться с помощью обычных методов мате­
матического анализа — раздела высшей математики, рассматри­
вающего функции вещественного переменного х.
При исследовании многомерных случайных величин X =
= (Хх, ..., Хп) приходится иметь дело со значительно более
сложными многомерными функциями распределения F (х19 ..., хп)
и плотностями вероятности р (хъ ..., хп)\ однако и здесь мы еще
не выходим за пределы тех математических объектов, которые
традиционно относятся к области приложений математического
анализа. При изучении же случайных функций X (t) приходится
использовать гораздо более сложное понятие распределения ве­
роятностей в бесконечномерном (функциональном) пространстве
30
Введение
всевозможных реализаций рассматриваемой функции. В бесконеч­
номерном пространстве нет естественного элемента объема, а зна­
чит не имеет смысла и понятие «плотность вероятности»; понятие
«функция распределения» здесь также не может быть просто опре­
делено. Именно поэтому строгая математическая теория случай­
ных функций не может быть развита без использования сравни­
тельно сложных и далеких от элементарности понятий и методов,
относящихся к малопопулярным среди прикладников специаль­
ным разделам современной математики.
Первые попытки математического исследования вероятностных
схем, приводящих к понятию случайной функции, появились еще
в начале этого века; примерно к тому же времени относятся и пер­
вые физические теории, имеющие дело со случайными процессами.
Однако создание общей теории случайных функций явилось делом
лишь 20—40-х гг. XX в.; впрочем, развитие указанной теории
на этом, разумеется, не остановилось, а интенсивно продолжается
вплоть до настоящего времени. В 30-е гг. были также заложены
основы теории важнейших специальных классов случайных функ­
ций — процессов с независимыми приращениями, марковских
случайных процессов и стационарных случайных процессов; эти
разделы теории также продолжают весьма интенсивно развиваться
еще и сегодня наряду с выросшими из них новыми направлениями,
относящимися к другим классам случайных функций (ветвящиеся
процессы, мартингалы, общие гауссовские случайные функции,
однородные случайные поля и т. д.). В конце 40-х и начале 50-х
годов появились первые большие обзорные статьи и специальные
монографии по теории случайных функций; с тех пор число отно­
сящихся сюда книг непрерывно увеличивается и в настоящее
время оно, по-видимому, исчисляется уже многими сотнями. 14
Настоящая книга охватывает лишь небольшую, но практически
весьма важную часть теории случайных функций. Она посвящена
элементарному введению в теорию стационарных случайных после­
довательностей и процессов — специальных классов случайных
функций, очень часто встречающихся в различного рода приклад­
ных задачах. При этом из всей теории стационарных случайных
функций X (t) в книге будут затрагиваться лишь вопросы, рас­
смотрение которых требует привлечения только моментов случай­
ных величин X (t) первых двух порядков.
Оправданием для такого отбора может служить то, что вопросы
указанного типа на самом деле составляют центральную — наибо­
лее далеко продвинутую и наиболее широко применяющуюся —
часть всей современной теории стационарных случайных функций;
в то же время принятое ограничение позволит нам не входить
в тонкости общей теории бесконечномерных распределений вероят­
ностей и сделать книгу доступной для читателей, не обладающих
специальной математической подготовкой.
Глава 1
ОПРЕДЕЛЕНИЕ И ОСНОВНЫЕ СВОЙСТВА
СТАЦИОНАРНЫХ СЛУЧАЙНЫХ ФУНКЦИЙ
1.
Определение случайной функции
Пусть Т — это произвольное множество элементов /, s, ...
Случайной функцией аргумента t из Т (иначе — случайной функ­
цией на Т) мы будем называть функцию X (/), все значения которой
являются случайными величинами. Таким образом, случайная
функция на Т — это набор случайных величин X (t), X (s), ...,
отвечающих всем t, s, ... из Т. Если множество Т — конечное, то
X (t) будет совокупностью конечного числа случайных величин;
в этом случае нашу функцию можно рассматривать как одну много­
мерную случайную величину. Такие многомерные величины изу­
чаются в классической теории вероятностей, где для их за­
дания используются функции распределения F (хъ х2, ..., хп)
или же многомерные плотности вероятности р (хъ хъ ..., хп).
Если, однако, множество Т бесконечно, то X (t) будет бесконечной
совокупностью случайных величин; подобные совокупности в клас­
сической теории вероятностей не рассматривались и здесь надо
специально указать, как же они задаются.
В конце введения мы отмечали, что понятие плотности вероят­
ности не допускает простого перенесения на бесконечномерный
случай; понятие бесконечномерной функции распределения также
не может быть просто определено. Поэтому при задании р а с п р е ­
деления вероятностей бесконечного числа
с л у ч а й н ы х в е л и ч и н X (t) (иначе — р а с п р е д е л е ­
ния
вероятностей
в
бесконечномерном
п р о с т р а н с т в е ) приходится поступать иначе. Случайную
функцию X (i) на бесконечном множестве Т мы будем считать за­
данной, если для каждого t из Т определена функция распределения
величины X (f)
Ft(x) = P{X(t)<x\t
(1.1)
для каждой пары элементов tx, t2 множества Т определена функция
распределения двумерной случайной величины X (tly t2) = \Х (tx),
хm
Ftl, и. (хи х2) = Р {X (/,) < хи X (t2)<х2\у
(1.2)
32
Глава 1
и вообше для любого конечного числа п элементов / ъ /2, ..., tn мно­
жества Т определена п-мерная функция распределения величины
X (/lf *а, ...rtn) «= \X-{tJ,-X-<*,), ,..,-Х(4)}
^ ,
/,
/ Д ( * Ь *2,
« P I X ^ X ^ , Х(Ь)<Хъ
...,
*л)
=
. . . , X (/„)<*„}.
(1.3)
Во многих (хотя и не во всех) практически интересных случаях
вместо функций распределения (1.1)—(1.3) можно использовать
соответствующие плотности вероятности
Pt(*), Ptv tt(xu х2), . . . , p / r /2
, д (х ь х2, . . . , х/А), . . .
(1.4)
Таким образом, случайная функция X (/) на бесконечном множест­
ве Т задается целой иерархией многомерных распределений ве­
роятностей различных порядков п = 1, 2, 3, ... Существование
всех этих распределений вероятностей и указывает как раз на
наличие статистической устойчивости исходов опыта, порождаю­
щего функцию X (t), о которой упоминалось на с. 16.
Функции (1.1)—(1.3) и (1.4) очевидно не могут быть вполне
произвольными. Так, например, функции (1.4) все должны быть
неотрицательными и такими, чтобы интеграл от каждой из них по
всем переменным равнялся единице; функции же (1.1)—(1.3) долж­
ны удовлетворять условиям, позволяющим считать их многомер­
ными функциями распределения. Кроме того, эти функции должны
еще удовлетворять определенным условиям с и м м е т р и и и
с о г л а с о в а н н о с т и . Так, для плотностей вероятности
pt , t
/ (хъ х2, ..., хп) по самому их смыслу должно вы­
полняться соотношение
(1.5)
где il9 i2, ..., in — это те же числа 1,2, ..., п, но расположенные
в каком-то другом порядке. Далее, если п > т , то для любых п
точек tl9 /2, ..., /от, tm+v •••» tn m Т должно выполняться равен­
ство
оо
оо
J • • • [P'v h
— oo
—oo
.
Xm+u ..-, xn)dxm+x...dxn
*m- <m+i
_
<»<*»•
X%
■■■'
Xm
'
.
= pt
t
tm(xu хъ . . . , * m ). (1.6)
33
1. Определение случайной функции
В применении к функциям распределения Ft , /
., tn (*i, *2, ...
..., хп) условие симметрии (1.5) и условие согласованности (1.6)
принимают следующий вид:
F
\-
<и -• '*„(*'!' X V • • " X0 = F'v *гFt
f
t
t
■=F*V
t ( # b *2,
t2
tm(x\.
'»(*• *2' • • •• *«>.
(1.5а)
• • -, ^m, ° ° ,
-V-2, • • ., *,„).
. • -, OO) ~
(l.6a)
Указанные условия являются не только необходимыми, но и
достаточными в том смысле, что любую систему многомерных функ­
ций распределения (l.l)—(1.3), для которой выполняются условия
(1.5а) и (1.6а), можно считать задающей некоторую случайную
функцию X (t) на множестве Т\ в частности, такую функцию X (t)
задает и любая система плотностей вероятности (1.4), удовлетво­
ряющая (1.5) и (1.6).15
Задание случайной функции X (t) совокупностью бесконечного
числа конечномерных распределений вероятностей (1.1)—(1.3) или
(1.4) представляет собой наиболее общий и поэтому основной с тео­
ретической точки зрения способ ее задания. Однако этот способ
является весьма громоздким, что делает его неудобным для прак­
тического использования. Поэтому на практике, как правило, ис­
пользуются другие, более частные, способы задания функций
X (t), которые в принципе позволяют определить и все конечно­
мерные распределения вероятностей (1.3) (или плотности (1.4)), но
сами имеют более простую форму. Так, например, в ряде задач слу­
чайные функции X (t) удается задать аналитической формулой,
содержащей какие-то случайные параметры У\, ..., Yk\
X(t) = f{l, Yl9 . . . , Yk)
(1.7)
(частным случаем таких функций X (t) являются многочлены или
тригонометрические многочлены со случайными коэффициентами).
Что касается общего задания X (t) посредством бесконечного на­
бора конечномерных распределений вероятностей,то оно представ­
ляется реальным лишь в применении к специальным классам слу­
чайных функций, для которых соответствующие конечномерные
распределения обладают теми или иными особенно простыми свой­
ствами- например, полностью определяются заданием одних лишь
распределений немногих низших порядков. Важнейшим классом
случайных функций X (t) дискретного аргумента / = 0, ± 1 , + 2 ,
... или t = 0, 1, 2, ..., полностью определяемых заданием лишь
одномерных распределений вероятностей (1.1), являются л о с л е 2
А. М. Яглом
Глава 1
34
д о в а т е л ь н о с т и н е з а в и с и м ых
с л у ч а й ны х
в е л и ч и н , для которых
F
tvt2
tn (хи х2, . . . , хп) = Fti (хх) Ft2 (х2) ...Ftn (хп) (1.8)
и
Ptvt2
tn\Xu х2, . . . , xn) = pti(xl)pt2(x2)...Ptn(Xn).
(1.8а)
Последовательности независимых случайных величин подробно
изучаются в классической теории вероятности (в первую очередь
в связи с рассмотрением различных предельных теорем), но с точки
зрения теории случайных функций они кажутся слишком уж спе­
циальным и простым примером. Однако многие важные типы слу­
чайных функций могут быть заданы соотношениями, сводящими
недетерминированный характер величин X (/) к их зависимости от
некоторой последовательности независимых случайных величин.
Так, например, значительный интерес представляют функции
X (t) вида
оо
*(0=
Е a t_ nE n
* = 0, ± 1 , ± 2
(1.9)
П=—оо
или же
* (0 == Е Дяфл (*) a<t<b,
(1.10)
где at и ф„ (/) — некоторые числовые коэффициенты и функции,
а Еп (п = 0, ± 1 , ± 2 , ... или п = 0, 1, 2, ...) — одинаково рас*
пределенные независимые случайные величины (случайные функ­
ции вида (1.9) нам еще встретятся на с. 83).
Переходя теперь к случайным функциям X (t)t для которых
все конечномерные распределения определяются заданием одно­
мерных распределений (1.1) и двумерных распределений (1.2),
можно назвать несколько важных классов таких функций. Так, на­
пример, нетрудно видеть, что указанным здесь свойством обладают
все с л у ч а й н ы е
процессы
с
независимыми
п р и р а щ е н и я м и — случайные
функции
вещественного
аргумента /, для которых разности X (4) — X (4) и X (4) — X (4)
являются независимыми случайными величинами, если только
4 < 4 < 4 < 4Далее легко показать, что тем же свойством обладают и все
м а р к о в с к и е с л у ч а й н ы е п р о ц е с с ы , для которых
условное распределение величины X (4) при известных значениях
величин X (4_i), Х(4_2)> ••> X{Xk_m), где 4-т < . . . < 4-2 < 4 - i <
< 4» зависит только от значения «последней величины» X (^__i)Наконец, что особенно важно для дальнейшего изложения^ зада­
ние одномерных и двумерных распределений вероятностей пол­
ностью определяет случайную функцию X (t) (где / теперь уже
2. Моменты случайной функции. Корреляционная теория
35
может пробегать любое множество Т) также и тогда, когда X (/) —
г а у с с о в с к а я с л у ч а й н а я ф у н к ц и я , т. е. такая,
для которой все конечномерные распределения вероятностей яв­
ляются нормальными (гауссовскими) распределениями. В самом
деле, мы уже отмечали во введении, что нормальные распределения
вероятностей однозначно определяются своими первыми и вторыми
моментами, а для нахождения этих моментов вполне достаточно
знать только одномерные распределения величин X (t) и двумер­
ные распределения пар {X (/), X (s)}.
Помимо указанных выше, существуют и некоторые другие спо­
собы задания случайных функций X (t); нам они, однако, нигде
не понадобятся.16
2.
Моменты случайной функции.
Корреляционная теория
Для полного описания случайных функции X (/), как мы знаем,
надо задать все ее конечномерные функции распределения (1.3) или
плотности вероятности (1.4). Однако в практических применениях
многомерные (и даже одномерные) распределения вероятностей
чаще всего оказываются слишком громоздкими для того, чтобы
с ними было удобно иметь дело. К тому же, что еще важнее, теоре­
тическое определение одномерных и тем более многомерных рас­
пределений вероятностей значений X (t) возможно лишь в исклю­
чительных случаях (важнейшие из которых относятся к гауссовским функциями (/)), а экспериментальное нахождение таких рас­
пределений в большинстве реальных физических и технических
задач оказывается сложным и дорогостоящим. Поэтому при по­
строении теории случайных функций естественно ограничиться (на
первых порах, во всяком случае) изучением тех их свойств, кото­
рые определяются одними лишь простейшими числовыми характе­
ристиками многомерных распределений (1.3).
Известно, что наиболее простыми и общеупотребительными чис­
ловыми характеристиками распределений вероятностей являются
соответствующие моменты
pVv V - . In) (tv 1Ъ . . . , tn) =
-<[Х(У] , 1[Х(«^..ЛХ(/ Я )] , «>.
(1.11)
Простейшим из моментов (1.11) является первый момент, который
в простейшем (и самом важном) случае существования плотно­
стей вероятности (1.4) может быть записан в виде
оо
(гП)(/)
= т ( 0 = ( Х ( ф = \xpt(x)dx,
<—ОО
2*
(1.12)
36
Глава
1
где т (t) — среднее значение случайной функции X (t), описываю­
щее (в случае, когда оно не является постоянным) с и с т е м а т и ч е с к о е и з м е н е н и е (иначе т р е н д ) функци и X (/). Очень
важной характеристикой X (t) является также общий в т о р о й
момент
оо
1
ц' ' » ((, s) = В it, s) = (X (t) X (s)> = j
со
j xypt, s (x, y) dx dy,
— OO — O O
(1-13)
тральный
вместо которого иногда удобно использовать ц е н
второй момент
/; (t, s) - <(Х (/) - (X (*)» (X (s) - (X (s)»> = В (*, s)-m
(t) m (s),
(1.14)
характеризующий случайные отклонения значений X (t) от т (t).
Ясно, что Ь (t, t) = D (X (t)) — дисперсия X (/), a R (t, s) =
= ft (/, s)/a (/) a (s), где a (/) = [ft (t, t)]1^2 — коэффициент кор­
реляции X (t) и X (s). Функция В (/, s) часто называется корреля­
ционной функцией случайной функции X (/); впрочем, то же назва­
ние довольно часто применяется и к функциям ft (t, s) или R (t, s).*
В дальнейшем в тех случаях, когда не возникает опасность пута­
ницы, мы будем называть корреляционной функцией и функцию
В (t, s), и функцию ft (t, s) (при опасности путаницы функцию ft (£, s)
мы будем называть центрированной корреляционной функцией)]
коэффициент же корреляции R (t, s) буде! называться нормированной
корреляционной функцией случайной функции X (t). Ясно, что все
три функции В (t, s), ft (t, s) и R (t, s) по самому своему опреде­
лению являются симметричными,
B(t, s) = B(s,t),
b{ty s)=>b(s,t),
Rit, s) = R(s,t),
и что все они представляют собой п о л о ж и т е л ь н о
д е л е н н ы е я д р а н а Т, т. е., например,
Т
B(th tk)c,ck>0
(1.15)
опре­
(1.16)
при любых целом положительном п, точках tl9 ..., *Л множества Г
и вещественных числах q, ..., сп и такие же неравенства справед­
ливы для ft (£, s) и R (t, s). Действительно, левая часть (1.16),
очевидно, равна неотрицательному числу ((ciX (t^ + • • • +
+ с„ X (^))2}; функции же ft (f, s) и R (t, s) являются частными
случаями функции В (/, 5), отвечающими случайным функциям
* Вообще терминология здесь не является полностью установившейся;
например, вместо термина «корреляционная функция» иногда используются
выражения автокорреляционная функция, функция автокорреляции или кова­
риационная функция.
2. Моменты случайной функции. Корреляционная теория
37
X (0 —т (0 и (X (0 — т (t))/o (t). При п = I и п = 2 условие
(1.16) и аналогичное условие, относящееся к b (t, s), сводятся
к элементарным неравенствам: В (t, t) > О, Ь (/, ( ) > 0 и
|B(f, s)|<[B(f, 0B(s, s)]1/2, ft(', 5)<а(0<>00
(1.17)
(ср. неравенства (В. 15)).
Отметим также, что, как нетрудно показать, любое положи­
тельно определенное ядро В (t, s) на Т является корреляцион­
ной функцией некоторой случайной функции X (t) с нулевым
средним значением; если и разность b (t, s) = В (t, s) — m (f) tn (s),
где tn (t) — некоторая заданная функция t, является положительно
определенным ядром, то соответствующую функцию X (t) можно
выбрать так, что (X (t)) = m (t). Для доказательства этих
утверждений надо только рассмотреть семейства нормальных плот­
ностей вероятности pt 4t , ..., tn (xlf x2i ..., хп) вида (В.23) с нуле­
выми средними значениями или соответственно вектором средних
значений m (tu ..., tn) — (m (/x), ..., tn (tr)) и матрицей вторых
моментов $ (tl9 ..., tn) = \\B (t]9 tk)\\, /, k = 1, ..., n, и затем до­
казать справедливость для этих плотностей условий симметрии
(1.5) и согласованности (1.6). 17
Разумеется, первый и второй моменты случайной функции
X (t) еще далеко не полностью определяют эту функцию — су­
ществует много совершенно непохожих друг на друга функций
X (/), средние значения m (/) и корреляционные функции В (t, s)
которых полностью совпадают. Так, например, в случае пуассоновского случайного процесса X (/) = N (t) (см. рис. 5) среднее
значение пг (0, как нетрудно показать, равно Ы, а корреляцион­
ная функция при t > s имеет вид В (t, s) = Xs + X2ts, а при t < s
В (t, s) =Xt + X2ts.ls
Отсюда вытекает, что для центрированного пуассоновского проо
цесса X (t) = X (t) — (X (f))9 все реализации которого пред­
ставляют собой ломаные, составленные из отрезков, попеременно
образующих с осью Ох угол 45 и 135°,
m(t)
= (X(t))=0,
B(t, s) = <xV)X(s)> = Xmin(/, s), (1.18)
где min (ty s) — наименьшее из чисел t и s.
С другой стороны, ниже (см. с. 157 и примечание97) нам встре­
тится еще так называемый п р о ц е с с
брауновского
движения
(иначе в и н е р о в с к и й
случайный
п р о ц е с с ) W (t), неплохо моделирующий одномерное брауновское движение и являющийся гауссовским случайным процес­
сом с нулевым средним значением и корреляционной функцией
В (/, s) — С2 min (/, s). Как было показано Винером (ср. приме­
чание6), все реализации этого процесса являются крайне нерегу-
38
Глава 1
лярными нигде не дифференцируемыми (хотя и непрерывными)
кривыми, совсем не похожими на реализации центрированного
пуассоновского процесса; тем не менее при С2 = X эти два про­
цесса будут иметь точно одинаковые первые и вторые моменты.
Рассмотрим теперь случайный телеграфный сигнал (см. рис. 6),
отвечающий пуассоновской последовательности точек tk, харак­
теризуемой параметром X. Среднее значение этого процесса
равно, очевидно, нулю; нетрудно также показать (см. примеча­
ние18), что здесь
B(t, s) = (X(t) X (s)> - a?*-2*l'-«r.
(i.i9)
В дальнейшем нам встретится также гауссовский случайный
процесс с нулевым средним значением и корреляционной
функцией В (t, s) = a V a ' / _ s i (так называемый п р о ц е с с
О р н ш т е й н а — У л е н б е к а ; (см. примечание97); он сов­
сем не похож на процесс, изображенный на рис. 6, но при о ~ а,
а = 2Х имеет одинаковые с ним первый и второй моменты. Кроме
того, на с. 97 будет показано, что можно построить и случайный
процесс с теми же моментами первых двух порядков, все реали­
зации которого являются точными синусоидами, а на с. 94 и 242
будут рассмотрены два различных импульсных процесса X (t)9
для которых процесс X (t) — (X (t)) снова имеет такие же пер­
вый и второй моменты.
Имеется, однако, довольно много свойств случайной функции
X (/), которые полностью определяются ее средним значением
т (t) и корреляционной функцией В (t, s). Такие свойства осо­
бенно важны для приложений, так как они зависят лишь от двух
простейших статистических характеристик функции X (t), кото­
рые во многих случаях можно сравнительно точно определить без
большого труда (об этом еще будет идти речь ниже). По этой
причине оказалось даже целесообразным присвоить специальное
наименование той части общей теории случайных функций, кото­
рая изучает свойства таких функций, определяемые их момен­
тами первых двух порядков — она называется корреляционной
теорией случайных функций.19 Именно эта теория в основном и
рассматривается в настоящей книге.
Практическая ценность корреляционной теории существенно
возрастает в связи с тем, что реально встречающиеся случайные
функции очень часто оказываются или точно гауссовскими, или
хотя бы приближенно гауссовскими с точностью, достаточной
для многих практических целей. Так как многомерные распреде­
ления Гаусса однозначно определяются своими моментами первых
двух порядков, то для гауссовских случайных функций X (t)
среднее значение т (/) и корреляционная функция В (/, s) одно­
значно задают все конечномерные распределения (1.3), т. е.
полностью определяют X (t). Поэтому в применении к гауссовским
39
3. Стационарность
случайным функциям корреляционная теория не отличается от
полной теории, опирающейся на знание всей совокупности рас­
пределений (1.3). Заметим еще, что для любой случайной функции
X (/) с конечными моментами первых двух порядков всегда можно
подобрать гауссовскую функцию Х0 (t), имеющую то же среднее
значение и ту же корреляционную функцию, что и X (t) (этот
факт уже отмечался нами в другой связи на с. 37). Следовательно,
в рамках корреляционной теории случайных функций можно без
потери общности принять, что исследуемая функция X (t) яв­
ляется гауссовской, хотя, конечно, никакой надобности в этом
не может быть, так как здесь, кроме значений первых двух мо­
ментов, ничего об X (t) знать не надо.
3
Стационарность
В дальнейшем переменное / у нас всегда будет принимать
лишь вещественные значения и обычно будет истолковываться
как время. Что же касается множества Г, то оно иногда будет
содержать всю совокупность вещественных чисел —оо < t < оо
(так что в соответствии с терминологией, указанной на с. 17,
X (t) будет являться с л у ч а й н ы м п р о ц е с с о м ) , а иногда
будет состоять лишь из целых чисел ..., —2, —1,0, 1,2,... (вэтом
случае X (t) будет представлять собой с л у ч а й н у ю п о с л е ­
д о в а т е л ь н о с т ь ) . Термин же «случайная функция» мы да­
лее, как правило, будем употреблять лишь тогда, когда нам будет
удобно совместно рассматривать и случайные процессы, и случай­
ные последовательности.
Случайную функцию X (t) мы будем называть стационарной,
если все ее конечномерные функции распределения (1.3) (или
плотности вероятности (1.4)) не меняются при любом сдвиге
всей группы точек tlt ..., tn вдоль оси времени, т. е. если для лю­
бых п, tlf t2i ..., tn и х
Ftx+x, t2+x, . . . . tn+x(X\,
* 2 , • • •, Xn) = Ftv
t2
tn(xl>
X
2 , • • -, Xn)
(1.20)
или, соответственно,
Pt^+т, t2+x
tn+% (*u x2, - . . , xn) = ptvt2
tn(xu x<2, . . . , xn).
(1.21)
Отсюда, в частности, следует, для стационарной случайной
функции все одномерные распределения вероятностей должны
быть точно одинаковыми (т. е. Ft (х) = F (х) и pt(x) = р (х)
не должны зависеть от / все двумерные распределения пар
(X (/), X (s)) могут зависеть только от разности / — $ и т. д.
Глава 1
40
Функции Ftvt2,...,tn(x1$X2,...9xn)
и
Ptvt2t....tn(xl9x29...9xn)
здесь, очевидно, могут зависеть лишь от п — 1 разностей t2 —
— tl9 ..., tn — tx: полагая в (1.20) и (1.21) т = —tl9 мы убедимся,
что эти равенства могут быть также переписаны в виде
Ftv /2, .... tn(xu х2, . .., **) = F0t t2-fv .... tn~tx (хи *2, • .., хп)
(1.20а)
и
Ptv t2, .... tn(xi,
х
ъ • • •, xn) = pQt frtx,
.... tn~tl (*Ь x2, . .., xn).
(1.21a;
Пусть теперь у = g (x) — произвольная функция одного пе­
ременного. Нетрудно понять, что функция распределения слу­
чайных величин Хг, Х29 ..., Х1П т. е. значения вероятности того,
что Хг < xl9 Х2 < х21 ..., Хп < хп при всех хъ х2, ..., х;п одно­
значно определяет также и функцию распределения случайных
величин Y1 = g (Хх), Y2 = g (X2), ..., У„ = g (XJ, т. е. вероят­
ность того, что Yx < yl9 Y2 < y2i ..., У„ < y^. Следовательно,
если функция распределения случайных величин Хх = X (t±)9
Х2 •= X (/2), •-., Хп = X (tn) зависит только от значений t2 — tu ...,
tn — tlf то только от этих значений будет зависеть и функция
распределения случайных величин
Y± = g (X (^)), Y2 =
= g(X(t2)),
....
Yn=g(X(t„)).
Таким образом, если X (t) — стационарная случайная функция,
то стационарной случайной функцией будет и любая функция
Y (0 = S (X (0) от X (0- Это важное свойство отличает класс
стационарных случайных функций, например, от класса гауссовских случайных функций X (t) или класса марковских слу­
чайных процессов X (/), для которых, как нетрудно показать,
функция g (X (t)) уже, вообще говоря, не будет принадлежать
рассматриваемому классу случайных функций.
Физический смысл условия стационарности совершенно ясен:
это условие показывает, что реальное явление или испытание,
числовой характеристикой которого является случайная функция
X (t), стационарно в том смысле, что все доступные фиксации
условия его осуществления не меняются со временем. Иначе
говоря, X (t) описывает изменение во времени какой-то харак­
теристики полностью установившегося явления, для которого
никакой выбор начала отсчета времени не имеет никаких преиму­
ществ перед любым другим его выбором. Так, например, пульса­
ции силы тока или напряжения в электрической цепи (шум)
будут представлять собой стационарный процесс, если эта цепь
находится в стационарном режиме, т. е. если все ее характеристики
(включая, разумеется, и температуру проводников, и все внешние
э. д. с.) не меняются со временем.
3. Стационарность
41
Аналогичным образом пульсации скорости в точке турбулент­
ного потока будут стационарной функцией времени, если только
поток этот установившийся, т. е. все его осредненные характе­
ристики остаются постоянными; диаметр сечения ткацкой нити
будет однородной функцией координаты сечения,* если процесс
выработки этой нити не менялся во времени и т. д.
Вообще встречающиеся в практических приложениях случай­
ные функции очень часто можно с большой степенью точности
считать стационарными, и это обстоятельство обычно достаточно
наглядно проявляется на внешнем виде наблюденных значений
таких функций. Так, например, при взгляде на кривые, изобра­
женные на рис. 1 и 2, бросается в глаза, что общий характер за­
фиксированных здесь нерегулярных пульсаций остается одним
и тем же на протяжении всего периода наблюдения: кривые не
имеют среднего систематического хода (тренда), амплитуда пуль­
саций не возрастает и не убывает заметно вдоль кривой, типичные
периоды наблюдающихся пульсаций также не претерпевают
заметных изменений и т. д. Все это дает достаточные основания
предположить, что рассматриваемые кривые представляют собой
реализации некоторых стационарных случайных процессов.
В этой связи целесообразно подчеркнуть, что на практике,
для возможности считать данную случайную функцию X (/)
стационарной, вовсе не требуется, чтобы все ее статистические
характеристики совсем не менялись со временем; в действитель­
ности здесь надо лишь требовать, чтобы они не менялись
заметным образом в течение времени наблюдения за X (t).
Последнее замечание имеет непосредственное отношение, на­
пример, к кривой на рис. 1 б, характеризующей атмосферную
турбулентность, на которую безусловно влияет суточный и
годовой год средней температуры воздуха; однако при наблюде­
ниях в течение сравнительно коротких промежутков времени (на­
пример, порядка нескольких десятков минут) соответствующие
случайные функции обычно вполне можно считать стационарными.
Вообще понятие стационарной случайной функции, предпола­
гающее, что рассматриваемая функция определена при всех зна­
чениях / и при всех / обладает одинаковыми статистическими свой­
ствами, всегда представляет собой лишь математическую идеали­
зацию, т. е. описывает некоторую упрощенную модель, только
приближенно согласующуюся со свойствами тех или иных реаль­
ных процессов. Однако модель эта имеет весьма широкую область
* В том случае, когда переменное t, от которого зависит случайная функция
не имеет смысла времени, вместо выражения «стационарная случайная функция»
обычно употребляют выражение «однородная случайная функция». Выраже­
ние же «однородная во времени функция», также иногда встречающееся в лите­
ратуре, имеет точно тот же смысл, что и стационарная функция.
42
Глава
1
применимости, в пределах которой она оказывается очень полезной
для решения многих важных задач; последнее обстоятельство
и определяет в конечном счете большую практическую ценность
математической теории стационарных случайных функций.
Переходя к другим примерам случайных функций, рассма­
тривавшихся во введении, отметим, что изображенный на рис. 6
«случайный телеграфный сигнал», также будет стационарным
случайным процессом, если только начало отсчета выбрано «на­
удачу», т. е. никак не связано с точками tk (именно это предполо­
жение принималось, в частности, при выводе формулы (1.19) для
корреляционной функции такого процесса). В то же время все
весьма различные кривые, изображенные на рис. 3—5, опреде­
ленно не кажутся похожими на реализации стационарных слу­
чайных процессов. Однако в отношении кривой, изображенной
на рис. 3 а, можно все же предположить, что для отдельных
сравнительно небольших промежутков времени ее допустимо
считать приближенно стационарной; нельзя также быть уверен­
ным, что при значительном удлинении интервала наблюдения
она не приобретет снова вида реализации стационарного про­
цесса, включающего некоторые длиннопериодные колебания.20
Модулированное по амплитуде гармоническое колебание с фик­
сированной фазой вида X (/) = A cos (о0£, где А — случайная
величина, разумеется, не представляет собой стационарного слу­
чайного процесса, так как здесь X (t) обращается в нуль в строго
определенные моменты времени и в определенные же моменты вре­
мени принимает наибольшие положительные и наибольшие отри­
цательные значения; по аналогичной причине не будут стационар­
ными и процессы импульсно-амплитудной модуляции.
Модулированное по фазе гармоническое колебание вида X (t) =
= A cos (о)0/ + Ф), где Ф — случайная величина со значениями
из интервала 0 < Ф < 2я, тоже, как легко понять, не будет ста­
ционарным процессом, если распределение вероятностей Ф не
является равномерным (например, если плотность вероятности Ф
имеет острый максимум). Однако если Ф равномерно распреде­
лено на [0, 2я] с постоянной плотностью р = 1/2я, то колебание
X (/) будет представлять собой стационарный случайный процесс
при любом распределении вероятностей амплитуды А (в пред­
положении, что А не зависит от Ф). Действительно, в этом случае
никакие распределения вероятностей, очевидно, не могут изме­
ниться от изменения начала отсчета времени (эквивалентного до­
бавлению постоянного слагаемого к фазе Ф).21
По тем же причинам стационарным процессом будет и сумма
гармонических колебаний
*(*)=
£ Akcos(<*kt + <l>k),
(1.22)
3. Стационарность
43
где все фазы Ф1у ..., Фп — независимые равномерно распреде­
ленные на интервале [0, 2я] случайные величины, а величины
Alf ..., Ап не зависят друг от друга и от^фаз Ф ь ..., Фп (в случае,
когда Лх, ..., Ал — это фиксированные постоянные, процесс (1.22)
называется п р о ц е с с о м с о с л у ч а й н ы м и^ф а з а м и ) .
Так как в случае стационарной функции одномерная функция
распределения Ft (х) = F (х) величины X (t) не зависит от /,
то ясно, что среднее значение т (t) = (X (t)) здесь должно быть
постоянным:
(X(t)) = m.
(1.23)
Аналогично этому двумерная функция распределения в ста­
ционарном случае зависит только от разности t — s; поэтому
корреляционная функция В (/, s) = (X (t) X (s)) здесь имеет вид
(X(t)X(s))^B(t-s).
(1.24)
Ясно также, что в этом случае Ъ (/, s) = В (t — s) — tri1 =
= b (t — s) отличается от В (t — s) лишь постоянным слагаемым,
a R (t, s) = b (t — s)/b (0) = R (t — s) отличается от b (t — s)
лишь постоянным множителем. Таким образом, в корреляцион­
ной теории стационарных случайных функций эти функции пол­
ностью характеризуются одной постоянной т и одной функцией
В (т) (или b (т) (одного переменного т = t — s (целочисленного для
случайных последовательностей и произвольного вещественного
для случайных процессов).
Поскольку в корреляционной теории многомерные распределе­
ния вообще не фигурируют, то и само определение стационарных
случайных функций здесь целесообразно изменить. Естественно
считать здесь случайную функцию X (t) стационарной, если
только ее среднее значение (X (t)) постоянно, а корреляционная
функция (X (t) X (s)) зависит только от разности t — s.
Случайные функции, удовлетворяющие двум указанным усло­
виям, называются с т а ц и о н а р н ы м и
в
широком
смысле
или к о р р е л я ц и о н н о
стационар­
н ы м и.22 Именно такие функции мы и будем в основном изучать
в дальнейшем (и для краткости будем их обычно называть просто
стационарными).
Ясно, что общее условие стационарности (1.20) или (1.21)
(которое называется также условием с т а ц и о н а р н о с т и
в у з к о м с м ы с л е ) для случайных функций, стационарных
лишь в широком смысле, вообще говоря, может и не выполняться.
Заметим, однако, что на практике выполнение условий (1.23)
и (1.24) стационарности в широком смысле почти всегда означает,
что исследуемая функция X (t) описывает какой-то установив-
44
Глава 1
шийся (не эволюционирующий) процесс (ибо какие же еще при­
чины могут обеспечить строгое выполнение этих двух условий?);
поэтому функции X (t), строго стационарные в широком смысле,
но не стационарные в узком смысле, в приложениях почти никогда
не встречаются. И тем не менее это не означает, что понятие ста­
ционарности в широком смысле вообще не представляет практи­
ческого интереса.
Дело в том, что проверка общих условий (1.20) или (1.21)
стационарности в узком смысле во многих реальных случаях очень
затруднительна, а иногда и вообще представляется невозможной;
в то же время условия (1.23) и (1.24) относятся лишь к простей­
шим статистическим характеристикам т (t) и В (t, s) функции
X (/), которые часто без большого труда могут быть сравнительно
точно измерены. Если при этом оказывается, что условия (1.23)
и (1.24) выполняются с хорошей точностью, то этого уже доста­
точно для того, чтобы на практике можно было применять выводы
корреляционной теории стационарных случайных функций, не
заботясь о том, что точность какого-то из условий (1.20) или (1.21)
здесь может оказаться явно неудовлетворительной.
В заключение подчеркнем еще, что в случае гауссовских слу­
чайных функций, для которых средние значения т (t) и значения
корреляционной функции В (/, s) (или b (t, s)) полностью опре­
деляют все многомерные распределения вероятностей, понятия
стационарности в широком смысле и стационарности в узком
смысле вообще совпадают между собой. В самом деле, гауссовская
функция всегда имеет конечные моменты первых порядков и для
нее из того, что т (t) не зависит от /, а В (/, s) зависит лишь от
/ — s, вытекает и справедливость общего условия (1.20), относя­
щегося к многомерным распределениям вероятностей.
4.
Свойства корреляционной функции.
Производная и интеграл от случайного процесса
В следующем параграфе будет показано, что среднее значение т
стационарной случайной функции X (/) при широких условиях
может быть сравнительно просто измерено с хорошей точностью.
Это обстоятельство позволяет во многих случаях рассматривать
о
вместо функции X (t) ее пульсацию X (t) = X (t) — т, т. е.
отклонение X (t) от своего среднего значения. Функция X (t)
имеет равное нулю среднее значение, а ее корреляционная функ­
ция В (т) (являющаяся единственной характеристикой X (t)y ис­
пользуемой в корреляционной теории) совпадает с центрированной
корреляционной функцией b (т) исходной функции X (t).
4. Свойства корреляционной функции
45
Так как даже в тех случаях, когда т нам неизвестно, добавле­
ние постоянной к X (t) почти не изменяет большинства теоретиче­
ских рассмотрений и обычно может быть легко учтено, то в даль­
нейшем, как правило, мы будем считать, что (X (t)) = 0, т. е.
будем рассматривать именно отклонения стационарных случай­
ных функций от их средних значений. В тех случаях, когда дело
будет обстоять иначе, этот факт будет оговариваться особо.
В силу общих свойств (1.15) и (1.17) корреляционной функции
В (t, s) функция В (т) должна быть такой, что
В (0; > 0, В (—т) = В (т), | В (т)|<А (0).
(1.25)
Кроме того, в силу (1.16) для любого целого положительного п,
любых п чисел (целых в случае стационарных последовательно­
стей и произвольных вещественных в случае стационарных про­
цессов) Т1У ..., тп и любых п вещественных чисел сг, ..., сп должно
выполняться неравенство
п
1' В (т.— rk)c;ck<0.
П.26)
/. k=i
Функция В (т) называется п о л о ж и т е л ь н о
опре­
д е л е н н о й ф у н к ц и е й аргумента т (целочисленного или
произвольного вещественного) *, если В (—т) = В (т) и для нее
при всех п, Tj, ..., тп и съ ..., cd выполняется условие (1.26); таким
образом, корреляционная функция стационарной случайной функ­
ции всегда положительно определена. Верно также и обратное
утверждение: всякая положительно определенная функция цело­
численного или, соответственно, вещественного аргумента т яв­
ляется корреляционной функцией некоторой стационарной слу­
чайной последовательности или, соответственно, стационарного
случайного процесса (см. с. 37, где аналогичное утверждение
формулировалось для общих случайных функций, определенных
на произвольном множестве Т). Отсюда видно, что класс корреля­
ционных функций стационарных случайных функций X (t) совпа­
дает с классом положительно определенных (функций соответству­
ющего аргумента (целочисленного или произвольного веществен­
ного).
Используя совпадение класса корреляционных функций с клас­
сом положительна определенных функций или же опираясь не­
посредственно на само определение корреляционной функции В(т),
можно получить многие важные свойства совокупности' всех
таких функций. Так, например, легко видеть, что если функции
* Положительно определенные функции..., В(—1), В (0), В (/), ... цело­
численного аргумента т называются также п о л о ж и т е л ь н о о п р е д е ­
ленными
последовательностями.
Глава 1
46
Вх (т) и В2 (т) — это корреляционные функции каких-то случай­
ных функций, а ах и а2 — неотрицательные постоянные, то
В(г) = а1В1 IT) + а2В2 (т)
(1.27)
также будет корреляционной функцией.
В самом деле, из справедливости неравенств (1.26) для функ­
ций Вх (т) и В2 (т)4сразу следует, что они будут справедливы и для
функции (1.27). Ясно также, что простейшую линейную комби­
нацию (1.27) можно заменить и общей линейной комбинацией т
корреляционных функций Вх (т), ..., Вт (т) с неотрицательными
коэффициентами аъ ..., а т или даже пределом последовательности
таких линейных комбинаций.
Далее нетрудно показать, что и произведение
Б(т) = В 1 (т)В 2 (т)
(1.28)
двух корреляционных функций Вх (т) и В2 (т) всегда будет являться
корреляционной функцией. При доказательстве этого факта проще
опираться не на условие (1.26), а на определение корреляционной
функции как второго момента случайной функции.
Пусть Хх (т) и Х2 (т) — стационарные случайные функции,
корреляционные функции которых равны Вх (т) и соответственно
В2 (т). Функции Х± (т) и Х2 (т) задаются совокупностями своих
конечномерных распределений вероятностей, а для задания
пары (Хх (t)t Х2 (t)) мы, очевидно, должны задать еще и распре­
деления вероятностей всевозможных групп {Х± (^), ..., Хх (tn)9
Х2 (t[), ..., Х2 (fm)\, включающих значения и первой, и второй
случайной функции. При этом всегда возможно, не меняя распре­
делений значений Хх (t) и Х2 (t) по отдельности, задать совместные
распределения значений двух функций с помощью соотношения
P U i ( * i ) < * i , . . . , Xl(Q<xny
-P{Xi(/i)<*i,
X2(t[)<xu
...,
. . . , X 2 (C)<*m} =
Хг(1п)<хп\х
Х Р { Х 2 ( 0 < * Ь ..., Х 2 (4)<*тЬ
т. е. выбрать в качестве Хг (t) и Х2 (t) взаимно независимые слу­
чайные функции. Рассмотрим теперь новую случайную функцию
X (/) = Хх (t) Х2 (t)\ так как среднее значение произведения не­
зависимых случайных величин равно произведению соответству­
ющих средних значений, то для нее
В (т) = (X (/ + т) Х2 (/ + т) Х± (t) Х2 (/)) = (X, (t + т) Хг (0) <Х2 (t + т) Х2 (/)) = Вг (т) В, (т).
Отсюда видно, что В (т) — корреляционная функция.
Имея какие-то примеры корреляционных функций, с помощью
приведенных здесь утверждений можно получить большое число
новых примеров таких функций. На первый взгляд представляется,
4. Свойства корреляционной функции
47
однако, что справедливость условия (1.26) для той или иной функ­
ции очень нелегко проверить, и поэтому неясно, откуда же можно
взять первоначальные примеры функций В (т). Ниже мы увидим,
что это первое впечатление на самом деле ошибочно и что суще­
ствуют сравнительно простые приемы нахождения положительно
определенных функций В (т); также и проверка справедливости
условия (1.26) для заданной функции В (т) оказывается вовсе
не столь сложной, как это может показаться сначала. В § 12
и 17 будут приведены многочисленные конкретные примеры кор­
реляционных (т. е. положительно определенных) функций В (т).
Заметим еще, что R (т) = Ъ (т)/Ь (0) (где Ь (т) = В (т) — т 2 ,
а т = (X (£))) — коэффициент корреляции случайных величин
X (/ + т) и X (t) (в стационарном случае зависящий только от т).
В большинстве приложений теории стационарных случайных
функций естественно предполагать, что статистическая связь
между величинами X (t) и X (t + т) неограниченно ослабевает
при неограниченном возрастании т; в таком случае, очевидно,
6(т)->0,
£ ( т ) - > т 2 = const
при |т|—>оо,
(1.29)
где число т мы теперь не считаем обязательно равным нулю.
Условие (1.29) в отличие от рассматривавшихся выше условий,
относящихся к В (т), не является математически необходимым
(ниже мы столкнемся и с примерами функций В (т), для которых
оно неверно); однако в приложениях его чаще всего можно смело
считать выполняющимся.
Ниже в настоящем параграфе рассматриваются лишь ста­
ционарные случайные процессы — функции X (t) вещественного
аргумента t. При этом нам понадобится понятие п р е д е л а п о ­
следовательности случайных
в е л и ч и н Xj,
Х2, ..., Хп, .... Вообще говоря, в теории вероятностей употреб­
ляется несколько различных разумных определений такого пре­
дела, выбор наиболее удобного из которых 'зависит от решаемой
задачи. В корреляционной теории случайных функций целесооб­
разнее всего считать, что случайная величина X является пре­
делом последовательности случайных величин Хъ Х2, ..., Хю ...
(т. е. X = lim Х„), если
lim((X-X„) 2 ) = 0,
(1.30)
т. е. если для любого (сколь угодно малого) 8 > 0 существует
такое N = N (е), что
( ( Х - Х „ ) 2 ) < е при n>N.
(1.31)
Определенный
пределом
таким образом предел X принято называть
в среднем квадратичном
после-
48
Глава
1
довательности величин Хп\ иначе этот же фжт выражают, говоря,
что последовательность случайных величин X L сходится к X в сред­
нем квадратичном.
В дальнейшем в настоящей книге сходимость и предел после­
довательности случайных величин всюду, где не оговорено обрат­
ное, будет пониматься именно в этом смысле. Воспользовавшись
известным неравенством Чебышева 23
Р\\Х-Хп\>г}<{{Х-Хп)2),
(1.32)
легко показать, что из (1.30) вытекает также, что при любом
8 > 0 имеет место равенство
limP{|X~Xn|>e|=0.
(1.33)
П->оо
Иначе говоря, здесь при любых е > 0 и г\ > 0 существует
такое N0 = N0 (е, т|), что
Р | | Х - Х / г | < 8 | > ( 1 - П ) при n>N0.
(1.34)
Это последнее соотношение особенно наглядно поясняет, по­
чему случайную величину X, удовлетворяющую (1.30), есте­
ственно назвать пределом последовательности Хъ Х2, ..., Хп, ...
Понятно также, что величину X, удовлетворяющую (1.33) при
всех г > 0, естественно считать пределом последовательности
Х1у Х2, ..., Xnt ... даже в том случае, когда условие (1.30) для
нее не имеет места; в теории вероятностей величина X, удовлетво­
ряющая (1.33), называется обычно п р е д е л о м
по в е ­
р о я т н о с т и последовательности Хъ Х2, ..., Хп, .... Приве­
денный выше вывод условия (1.33) из (1.30) показывает, таким
образом, что если величина X является пределом последовательности
Хъ Х2, ..., Хп, ...в среднем квадратичном, то она обязательно
будет пределом той же последовательности и по вероятности.
Пусть теперь х, хъ х2, ..., х 7 , ... —некоторая реализация
совокупности случайных величин X, Xlf Х2, ...,Х Л , .... Согласно
сказанному выше, если X — предел по вероятности последова­
тельности Хъ Х2, ..., Xnt ..., то разность х — хп при любом
достаточно большом п будет очень мала по абсолютной величине
с вероятностью, очень близкой к единице. Отсюда, однако, еще
не следует, что | х — хп\ обязательно будет очень малым сразу
при всех достаточно больших значениях п. Иначе говоря, из
сходимости по вероятности последовательности случайных ве­
личин Хъ Х2, ..., Хп, ... к X при п -> оо еще не следует, что
хп -+■ х при п -*- оо для каждой реализации х, хг, х2, ..., хп> ...
Если же хп ->■ х при п ->■ оо для всех реализаций (за исключе­
нием, быть может, какого-то настолько малого множества
патологических реализаций, что суммарная вероятность появле-
4. Свойства корреляционной функции
49
ния хоть какой-то из них равна нулю), то последовательность
Хъ Х2, ..., ХПУ ... называется с х о д я щ е й с я
к слу­
чайной
величине X почти
н а в е р н о е (или
с вероятностью
е д и н и ц а ) , и соответственно X
называется п р е д е л о м п о ч т и н а в е р н о е (или с в е р о я т н о с т ь ю е д и н и ц а ) последовательности Xlf Х2, ....,
Хп, .... Нетрудно показать, что из сходимости последовательно­
сти Х1у Х 2 ,..., Х/?, ... к X почти наверное вытекает, что Хп схо­
дится к X и по вероятности (хотя может и не сходиться к X
в среднем квадратичном); однако из сходимости Хп к X по ве­
роятности (или даже в среднем квадратичном) еще не следует,
что Хп сходится к X и почти наверное.2*'
Продолжим теперь рассмотрение наиболее интересных для
нас пределов в среднем квадратичном; как и всюду в этой книге,
мы будем считать при этом, что все случайные величины, о которых
идет речь, имеют конечные дисперсии. Воспользовавшись общим
неравенством Коши — Буняковского—Шварца
\(UV)\<[(U2) (V2)\m
при всех U, V
(1.35)
(см. (В. 15)), легко показать, что если X = lim Хп и Y = lim Ym9
то
lim
(XnYm) = (XY).
(1.36)
/j->oo, m->oo
В самом деле,
|<Х„Ут> - (ЛУ>| = |<[(Х„ -Х) + Х\ \(Ym -Y) + Y}) - (XY)\ =
= |<(X„ - X) (Ym - Y))\ + \((Xn - X) Y) | + |(X (Ym - Y))\.
Применив здесь ко всем членам правой части неравенство (1.35),
найдем, что она стремится к нулю при п -+ оо, т -+ оо, т. е.
верно соотношение (1.36). Еще проще доказывается, что если
X = lim X,, то
П->оо
\im(XnY) = (XY).
(1.37)
Из (1.36) также следует, что если последовательность Х ь
Х2, ..., Х,п ... является сходящейся (т. е. существует lim Хп =
= X), то
lim
<(X,2-Xm)2)^0.
(1.38)
/7->оо, m->oo
Более сложно доказывается обратное утверждение о том, что
если для какой-то последовательности случайных величин Х ь
Х2, ..., X , ... имеет место соотношение (1.38), то последователь-
50
Глава
1
ность эта обязательно сходится, т. е. существует lim Хп = X;
П ->оо
однако и это утверждение является верным.25
Раскрыв скобки в (1.38), нетрудно убедиться и в том, что
последовательность Х ь Х2, ..., Xri ... наверное будет сходя­
щейся, если существует конечный предел вида
lim
(ХпХт)
(1.39)
(ибо lim (Xl) и lim
\
п~>оо
/!->оо, т-»оо
(Х2т) — это
лишь частные случаи (1.39));
т->с»
ясно также, что предел (1.39) для любой сходящейся последова­
тельности существует и равен (X 2 ), где X = lim Хп.
Вернемся теперь к изучению стационарных случайных про­
цессов X (t) и их корреляционных функций В (т). Так как, оче­
видно,
([X (/ + А) - X (012> = 2 [ В ( 0 ) - В (т)],
то, если функция В (т) непрерывна в нуле (т. е. lim В (h) = В (0)),
процесс X (f) будет непрерывным в среднем квадратичном в том
смысле, что при всех t
lim([X(/ + / i ) - X ( 0 ] 2 ) - 0 , т. е. lim X(t + h) = Х(/) (1.40)
(и, следовательно, WmP \\Х (t + h) — X (f)\ > г] = 0 при всех
t и любом e > 0). Если функция В (т) не непрерывна в нуле, то
процесс X (/) ни в одной точке не будет непрерывным в среднем
квадратичном (т. е. условие lim (lx (t + h) — X (012) = 0 не
\
Л-> о
будет выполняться ни при каком t). Такие случайные процессы,
всюду разрывные в среднем квадратичном, естественно, должны
вести себя крайне нерегулярным образом и они вряд ли могут
служить подходящей моделью для каких-либо разумных при­
кладных задач. Поэтому такие процессы в дальнейшем вовсе не
будут рассматриваться, т. е. корреляционные функции В (т) всех
рассматриваемых стационарных случайных процессов будут пред­
полагаться непрерывными в точке т = 0. Легко показать, что
в таком случае функция В (т) обязательно будет непрерывной
и при всех вообще значениях т. В самом деле, применив неравен­
ство (1.35) к величинам U = X (t + К) — X (t) и V = X (t — т),
найдем, что
| в (т + Щ - В ( т ) | < / 2 [В (0) - В (h)f2 [В (0)]1/2;
значит, если lim В (К) = В (0), то и lim В (т + А) = В (т) при
всех т,
4. Свойства корреляционной функции
51
Отметим, что из непрерывности процесса X (t) в среднем ква­
дратичном при всех t вовсе не следует, что все реализации х (t)
этого процесса непрерывные функции. В самом деле, на с. 38 мы
уже отмечали, что, например, для случайного телеграфного сигнала_В (т) = (X(t + т) X (/)) - а1е~^^ I, т. е. функция В (т)
здесь непрерывна; между тем практически все реализации х (t)
этого процесса разрывны (см. _ рис. 6).
Никакого противоречия здесь, конечно, нет: хотя х (t) и имеет
точки разрыва, но для каждого отдельного t вероятность появле­
ния разрыва между моментами t и t + h при малом h очень мала,
так что и средний квадрат разности X (t + К) — X (t) мал. Для
нахождения же условий непрерывности траекторий сразу во всех
точках нужен, очевидно, совсем другой подход, не опирающийся
уже на рассмотрение одних лишь пределов в среднем квадратич­
ном; на нем мы здесь не будем задерживаться.213
Для непрерывного в среднем квадратичном случайного про­
цесса X (t) естественно рассмотреть также последовательности
случайных величин X (t> hk) = [X (t + hk) — X (t) \lhk% отве­
чающие стремящимся к нулю числовым последовательностям hlt
h2, ..., hkf .... Если для любой такой сходящейся к нулю последо­
вательности hXy h2, ..., hk, ... величины X (t, hk) сходятся (в сред­
нем квадратичном) к одной и той же случайной величине, то про­
цесс X (t) называется д и ф ф е р е н ц и р у е м ы м в с р е д ­
н е м к в а д р а т и ч н о м в точке t, а величина
X'(t) = llmX«
/2-Х)
+ hl-X«)
(1.41)
П
называется п р о и з в о д н о й
(точнее — п р о и з в о д н о й
в с р е д н е м к в а д р а т и ч н о м ) процесса X (t) в точке t.
Легко понять, что стационарный процесс X (t) будет или диффе­
ренцируемым при всех значениях t, или же всюду не дифферен­
цируемым. Для дифференцируемости процесса (т. е. существования
производной (1.41)), очевидно, требуется, чтобы существовал
предел
lim
/X(t
Л-И), /i'->o\
lim
+ h)-X(t)
h
X(t + h')-X(t)\
h
'
B(h-h')-B(h)--B(h')
_
I
+ B(0)
и
(,
42)
Легко видеть, что если функция В (т) имеет вторую производную
В" (0) в точке т = 0, то предел (1.42) будет конечным и рав-
Глава
52
1
ным —В" (0); в этом случае процесс X (t) будет дифференцируе­
мым при любом t. Поскольку
X(t + T + h) — X{t + T) X(t + h) — X(t)
h
h
__
\
/
2В ( T ) - B ( T + / I ) - B ( T - h)
ясно, что в случае дифференцируемого процесса X (t) производная
В" (х) существует при всех т и
<Х'(/ + т)Х'(/)) = -А"(т).
(1.43)
Итак, если корреляционная функция В (т) имеет вторую про­
изводную в точке т = 0, то она обязательно будет дважды диф­
ференцируемой при всех значениях т, а соответствующий стацио­
нарный процесс X (t) будет дифференцируемым, причем корреля­
ционная функция процесса X' (t) здесь равна —В" (т) (т. е. — 5"(т)
является корреляционной функцией). Ясно также, что
<Х'(/-Ьт;Х(/)' ;В'(т), ;Х(/ f т) X' (/)) ■= —В' (т). (\Л4)
Поскольку В ( — т) = В (т),
если
В (т) — дифференцируе­
мая функция, то обязательно В' (0) = 0; поэтому всегда
(X' (0 X (0) = 0. Отметим еще, что функция В" (т) обязательно
непрерывна во всех точках т, если только она непрерывна в точке
х = 0; это легко доказывается с помощью применения неравен­
ства (1.35) к случайным величинам U = X' (t + h) — Xf (t) и
V = X' (t — т). Если же функция В (т) не имеет конечной
второй производной в точке т = 0, то предел (1.42) не будет
существовать и процесс X (/) будет всюду недифференцируемым
в среднем квадратичном.
Процессы X (/), для которых В" (т) — непрерывная функция
и, значит, существует непрерывный в среднем квадратичном
процесс X' (/), мы в дальнейшем будем называть просто д и ф ­
ф е р е н ц и р у е м ы м и . Из сказанного выше о непрерывных
процессах следует, что для таких процессов реализации х (t)
процесса X' (t) могут быть и разрывными функциями t. С другой
стороны, процесс X (t) может быть недифференцируемым и тогда,
когда все его реализации х (t) имеют непрерывные по t производ­
ные х' (/); так, на с 38 отмечалось, что корреляционную функ­
цию В (т) = a V a l т I (для которой производная В' (т) разрывна
в точке т = 0, а В" (0) не существует) может иметь процесс, все
реализации которого являются точными синусоидами. Отметим,
однако, что для всех встречающихся на практике дифференцируе­
мых стационарных процессов X (t) реализации х (t) также оказы­
ваются дифференцируемыми и функции х (t) совпадают с реали­
зациями процесса X' (t).27 Этот редко отмечаемый факт на самом
53
4. Свойства корреляционной функции
деле весьма важен для приложений, так как из него следует, что
производную в среднем квадратичном X' (t) (точнее говоря, ее
реализацию х' (t)) обычно можно определить по одной реализа­
ции х (t) процесса X (f) с помощью дифференцирования этой
последней.
Рассмотрим еще интегралы вида
ь
\f{t)X(t)dU
а
где / (/) — числовая функция, аХ(^) — случайный стационарный
процесс. Такой интеграл естественно определить как предел
(в среднем квадратичном) соответствующей интегральной суммы:
Ъ
п
\ f (t) X (t) dt-.=
a
max /
lim
Y / ( * * ) * (4) (**--'*-i).
l A'- / /.-i|^ 0 ; r J 1
(1-45)
где a ■= t0 < /i < ... < ta-x <tn = by tk-\ < th < tk. Отсюда
легко выводится, что интеграл (1.45) всегда будет существовать,
если
Ь b
| j В it - s); (!) I (s) els di < oo,
(1.46)
a a
причем
\2v
/;
b b
j / (/, X (t) dl } = j j В (/ - s) / (!) f (ь) ds di,
a
J I
(1.47)
a a
и вообще
• bо
■
da
\\
bb dd
j / (0 A' (i, dl j g (s) X (s) ds) = \\B(t-s)f(t)g
'а
с
(s) di ds. (1.48)
l a c
Несобственные интегралы от / (t) X (t) no dt обычным образом
определяются как пределы (в среднем квадратичном) интеграла
(1.45) при а ->—оо, или Ь -> оо, или а - * — э о и Ь -> ос; при
этом условие (1.46) существования интеграла и формулы (1.47),
(1.48) оказываются применимыми и к несобственным интегралам.
Следует подчеркнуть, однако, что при всей простоте указанных
выше результатов, касающихся интегралов (1.45), практиков
эти результаты вряд ли могут удовлетворить. Дело в том, что
в приложениях мы чаще всего сталкиваемся лишь с одной какой-то
реализацией х (t) процесса X (t) (реже с конечным числом таких
реализаций), а интеграл от процесса определяем, интегрируя
Глава 1
54
эту реализацию (численно или с помощью специального прибора—
интегратора). При этом, естественно, получается величина
ъ
\f(t)x(t)dt,
(1.45а)
а вовсе не предел в среднем квадратичном (1.45), включающий
осреднение по всему множеству реализаций. Поэтому для прило­
жений крайне важно то обстоятельство (редко явно отмечаемое
в книгах, рассчитанных не на математиков), что непрерывные
в среднем квадратичном стационарные случайные процессы всегда
имеют интегрируемые (с вероятностью единица) реализации и
интеграл (1.45) для них совпадает со случайной величиной, выбо­
рочные значения которой равны интегралам (1.45а). На доказа­
тельстве этого утверждения, требующего привлечения довольно
тонких математических понятий и теорем, мы не будем задержи­
ваться. i8
5.
Эргодические теоремы; оценка среднего значения
функции Л (t) по данным наблюдений
Перейдем теперь к важному вопросу об определении статисти­
ческих характеристик случайных функций по данным наблюдений.
Начнем с вопроса об определении среднего значения т =
= (X (t)) и вспомним в этой связи, как обстоит дело в более
простом случае наблюдений, относящихся к случайной величине X.
В обычных применениях теории вероятностей чаще всего имеют
дело с многократно повторяющимися независимыми наблюде­
ниями. При этом за среднее значение случайной величины X,
характеризующей наблюдаемое явление, обыкновенно принимают
среднее арифметическое miV = ( ^xAlN
всех наблюденных зна­
чений (реализаций) величины X. В качестве оценки неизвестного
среднего значения т = (X) величина mN бесспорно обладает
целым рядом привлекательных свойств. Прежде всего, mN яв­
ляется н е с м е щ е н н о й о ц е н к о й т , т. е. она не содер­
жит систематической ошибки. Точный смысл сделанного утверж­
дения таков: построенная по данным наблюдений величина mN
( в ы б о р о ч н а я или э м п и р и ч е с к а я о ц е н к а ) сама явля­
ется выборочным значением (реализацией) случайной величины
Л'
5. Эргодическис теоремы; оценка функции X (()
55
(соответствующей т е о р е т и ч е с к о й
о ц е н к и ) , где Х ь
Х?, ..., X/v — независимые случайные величины, имеющие то же
распределение, что и X; при этом
{MN) = m.
(1.50)
Последнее соотношение, показывающее, что среднее значение
теоретической оценки MN совпадает с оцениваемой величиной т , как
раз и называется у с л о в и е м н е с м е щ е н н о с т и . (В слу­
чаях, когда это условие не выполняется, разность между средним
значением оценки и оцениваемой величиной называется смеще­
н и е м оценки или ее с и с т е м а т и ч е с к о й о ш и б к о й ) .
Ясно, что на практике свойство несмещенности еще недоста­
точно для того, чтобы оценку можно было считать хорошей. На
самом деле крайне желательно еще, чтобы малой была и с л у ­
чайная
о ш и б к а , т. е. чтобы случайная величина Мм
была близка (в каком-то разумном смысле) к постоянной т. В ка­
честве критерия близости удобнее всего выбрать значение
{{Мм — пг)2) (в силу несмещенности оценки Мv совпадающее
с ее дисперсией), т. е. считать оценку MN хорошей, только если
{{MN — т) 2 ) достаточно мало. В случае средней арифметической
оценки Мм, построенной по N независимым однотипным наблю­
дениям, очевидно,
ч
{(MN-m?)
= aliN~^-9
(1.51)
где ах — дисперсия величины X, которую мы предполагаем
конечной (так что ах — типичная величина ошибки одного на­
блюдения). Отсюда видно, что средняя квадратическая ошибка
среднего арифметического М^ убывает с ростом N пропорцио­
нально ЛГ1/2. Существенно, что ом -> 0 при N -* оо, т. е. что Ms
стремится (в среднеквадратичном смысле) при N -> оо к оцени­
ваемой величине т — это очень важное свойство оценки My
(зависящей от числа наблюдений N) называется ее с о с т о я ­
т е л ь н о с т ь ю (или, что то же самое, состоятельностью оценки
/n v ).* Состоятельность оценки, очевидно, означает, что, увели* В математической статистике выборочная оценка и соответствующая ей
теоретическая оценка чаще всего не различаются и обозначаются обычно
одним и тем же символом. Отметиму кроме того, что в случае произвольной
оценки AN некоторого параметра а величина Д ^ = ((Ам— а) 2 ) 1 / 2 называется
средней квадратической ошибкой оценки Ам и оценка Лдг называется с о с т о я ­
т е л ь н о й , если А^ -> 0 при N -» оо. В силу формулы (В.9), Д9^ , — 8'^ --!+ а ^ , где 6 ^ - {А м)~ о^.а а 2 ^ = {{AN — {AN)f)\
отсюда видно,'что
средний квадрат ошибки Ах, вообще говоря, слагается из квадрата системати­
ческой ошибки {т. е. смещения) и среднего квадрата слу чайной ошибки о':А .
56
Глава 1
чивая число наблюдений, здесь можно достигнуть любой нужной
нам степени точности.
В применении к случайной функции X (t) приведенные выше
соображения показывают, что среднее арифметическое mN{t) =
/v
Г Xi (О N значений в один и тот же момент времени t ка­
L £= 1
ких-то
N независимых реализаций xl (t) функции X (t) будет
несмещенной и состоятельной оценкой среднего значения (X (t)) =
= т (t). Ясно, однако, что оценка mN (t) будет иметь хорошую
точность, лишь если число N используемых реализаций является
достаточно большим. Между тем на практике получение каждой
отдельной реализации часто оказывается трудоемким и дорого­
стоящим детом, а иногда оно даже и невозможно, так как опыт,
с которым связана нашл функция, нельзя повторить. Поэтому
крайне желательно иметь возможность обойтись наименьшим чи­
слом реализаций — лучше всего просто одной из них.
Особая практическая ценность корреляционной теории именно
стационарных случайных функций как раз и определяется в зна­
чительной степени тем, что здесь весьма часто среднее значение т
(а также и корреляционную функцию В (%)) удается достаточно
надежно определить по одной единственной реализации х (t)
(типа тех, которые изображены на рис. 1).
Дело в том, что для стационарных случайных функций X (t)
все моменты времени t являются равноправными; поэтому здесь
естественно попытаться заменить осреднение по множеству реали­
заций осреднением по времени данных, относящихся к единствен­
ной реализации х (/). В применении к задаче об оценке среднего
значения т стационарной функции X (/) по наблюденным значе­
ниям х (t) при t = 1, 2, ..., Т (в случае дискретного времени /)
или же при 0 < t < Т (в случае непрерывного t) такой подход
означает, что в качестве оценки пг принимается величина
mT = -^Tx(t)
Т t-
(1.52)
или, соответственно,
т
1
mT=-±r\x(t)dt.
(1.52а)
Ясно, что оценка пгт всегда будет н е с м е щ е н н о й ; иначе
говоря, она представляет собой реализацию случайной величины
(теоретической оценки)
т
М Г = | У Х ( / ) или MT = -^r J X(t)dt
(1.53)
*=i
5. Эргодические теоремы; оценка функции X (t)
57
такой, что и при дискретном, и при непрерывном /
(MT) = {X(t)) = m при всех Т
(1.54)
(в силу стационарности X (/)). Отсюда, однако, еще не следует,
что оценку пгт во всех случаях можно рекомендовать для прак­
тического использования. Ясно, что кроме того надо еще потре­
бовать, чтобы рассматриваемая оценка была состоятельной, т. е.
чтобы ее точность неограниченно возрастала при неограниченном
увеличении длины Т используемого интервала наблюдения.
Иначе говоря, для возможности определения среднего значе­
ния т стационарной случайной функции X (t) с помощью осредне­
ния по времени одной ее реализации х (t) требуется, чтобы выпол­
нялось равенство
((МТ-т)2)->0
при 7 - » оо,
(1.55)
т. е. равенство
Н т ^ г Г X(t) = m
(1.56)
или, соответственно,
т
Hm-j- [X(t)dt
т
~>™
Т
= m,
(1.56а)
о
где, как обычно, предел понимается в смысле среднего квадра­
тичного. При условии (1.55) (т. е. (1.56) или (1.56а)) вели­
чину m можно будет определить по одной реализации x(t) сколь
угодно точно, если только время наблюдения Т будет выбрано
достаточно большим; поэтому, желая найти величину га, здесь
при любых требованиях к точности можно ограничиться данными,
относящимися к одной единственной реализации *.
Задача об определении условий, при которых временные
средние характеристик физических систем приближаются при
увеличении времени наблюдения к соответствующим «средним по
ансамблю» (т. е. фактически к теоретико-вероятностным средним
значениям), впервые возникла в статистической механике, где
системы, обладающие указанным свойством традиционно назы­
ваются э р г о д и ч е с к и м и
с и с т е м а м и . В соответ­
ствии с этим и математические теоремы, имеющие своей целью
* Это, конечно, не означает, что данные о нескользких реализациях здесь
вообще бесполезны; если такие данные имеются, то, дополнив осреднение по
времени для каждой из реализаций осреднением полученных временных сред­
них по имеющимся реализациям, можно значительно увеличить точность полу­
чаемой оценки значения m (или, иначе, добиться той же точности при значительно
меньшем времени осреднения).
58
Глава 1
доказательство равенства среднего по времени и теоретико-вероят­
ностного среднего значения для тех или иных классов случайных
функций, часто называются э р г о д и ч е с к и м и
теоре­
м а м и*; сами же случайные функции X (/), для которых верны
такие теоремы, называются э р г о д и ч е с к и м и
случай­
н ы м и ф у н к^ц и я м и.
Простейшая эргодическая теорема касается условий, при
k
которых для стационарной случайной функции X (t) справедливо
равенство (1.55). Отметим прежде всего, что равенство это не
может иметь места для всех стационарных функций. В самом
деле, пусть, например, с вероятностью единица X (t) = X (0)
при всех / (так что все реализации х (t) изображаются прямыми,
параллельными оси /), но X (0) не является постоянным. Соответ­
ствующая функция X (t), очевидно, стационарна, но задание ее
реализации эквивалентно заданию лишь одного выборочного
значения х = х (0) величины X (0). Поэтому здесь тт = #(0)
при любом Г, так что для определения m = (X (t)) = (X (0))
с приемлемой точностью необходимое иметь много разных реали­
заций х (0 (т. е. значений х = х (0)).
Разумеется, этот пример является довольно искусственным:
в прикладных вопросах такая функция X (t) всегда будет рас­
сматриваться просто как случайная величина X == X (0), и никто
не станет применять к ней теорию случайных функций. Более
содержательным (а также и более общим) является следующий
пример: пусть X (/) = X (t, А) — некоторый набор различных
стационарных случайных функций, нумеруемых значениями ка­
кого-то параметра А (могущего иметь или конечное, или счетное,
или даже непрерывное множество значений). Допустим, что
значение А выбирается наудачу в соответствии с некоторым рас­
пределением вероятностей (так что А само оказывается случай­
ной величиной), а затем осуществляется опыт, порождающий ста­
ционарную случайную функцию X (/, а), где а — выбранное
значение А.
Нетрудно видеть, что здесь случайная функция X (f) —
= X (t, А), представляющая собой объединение всех функций
X (t, а), также будет стационарной; однако если даже для функ­
ций X (t, а) при любом а соотношение вида (1.55) имеет место, то
все равно для X (t) оно уже будет неверным. Действительно,
в силу (1.56) величина тт при Т -> оо будет стремиться к m (а) =
= (X (t, а)); для получения же общего среднего значения m =
= Iх (0) = (X (t, Л)), величину m (а) надо дополнительно
* Другое распространенное название тех же теорем (заимствованное уже
не из физики, а из классической теории вероятностей) — это з а к о н ы б о л ь ­
ш и х ч и с е л для случайных функций (или, в применении к дискретному /,
для последовательностей зависимых случайных величин).
5. Эргодические теоремы; оценка функции X (t)
59
осреднить по всем значениям а. Описанная здесь ситуация является
наиболее обычным источником появления в практических задачах
стационарных, но неэргодических случайных функций: как пра­
вило, в приложениях неэргодичность как раз и означает, что рас­
сматриваемая функция получена с помощью искусственного объ­
единения ряда различных эргодических функций. Типичным
примером такого рода являются изображенные на рис. 16 пуль­
сации температуры воздуха, по поводу которых на с. 21 уже
отмечалось, что их можно, если угодно, считать реализацией
случайной функции, описывающей измерения в р а з л и ч н ы х
т о ч к а х земной атмосферы и п р и
всевозможных
м е т е о р о л о г и ч е с к и х у с л о в и я х (в частности, при
всевозможных значениях средней температуры воздуха). Легко
понять, что при таком условии соответствующая функция X (f)
определенно не будет эргодической — осреднение ее реализации
по времени будет характеризовать лишь среднюю температуру,
при которой производилось данное конкретное измерение, но
никак не «среднюю температуру всей земной атмосферы при все­
возможных погодных условиях», описываемую значением (X (£)).
Приведенные рассуждения подсказывают, что общая стацио­
нарная случайная функция вполне может оказаться смесью раз­
личных эргодических функций, для которой величина тт харак­
теризует лишь одну из компонент смеси, но не всю смесь в целом
(см. примечание 35, где разъясняется, в каком смысле неэргодическая стационарная случайная функция практически всегда
представляет собой некоторую смесь эргодических компонент).
Если, однако, стационарная функция X (f) не является явной
смесью, т."е. искусственным ^объединением ряда по существу
различных функций (т. е. если статистический ансамбль, включа­
ющий реализацию х (f), не выбран явно излишне широким), то
можно смело исходить из допущения, что эргодичность будет
иметь здесь место.
Дело в том, что для справедливости соотношения (1.55)
нужно лишь, чтобы имели место некоторые очень общие
(и почти всегда выполняющиеся на практике) условия. Действи­
тельно, рассмотрим для определенности случай непрерывного
времени t и разобьем отрезок 0 < t < Т на п равных частей длины
Тг = Tin. В таком случае временное среднее Мт формулы (1.53)
можно будет представить в виде среднего арифметического п
случайных величин Мт] = -~г-
| X (t) dt, i = 1, 2, ..., п.
u-i) г,
Если, как это чаще всего бывает, Ь (т) = ((X (t + т) — пг) X
X (X (0 — пг)) -► 0 при т -> оо, то при достаточно большом
Тг - Tin величины Мт] и Мт] с |/ — t| > 1 будут почти пол­
ностью некоррелированы'между собой (так как они включают
1
60
Глава
1
только значения X (/), разделенные не меньшим, чем Тъ интер­
валом); даже соседние среди величин Мт! здесь будут коррелированы довольно слабо, так как подавляющее большинство
значений X (/), входящих в Мт1}, далеко удалено от всех значе­
ний X (t), входящих в Мт*1)- Поэтому естественно ожидать, что
если b (т) —> 0 при т -► оо, то к величинам Мт!, гДе Тг = Tin
достаточно велико, будет применим обычный закон больших
чисел (справедливый для некоррелированных случайных вели­
чин). Но это означает, что в рассматриваемом случае среднее
арифметическое п величин Мт! (равное Мптх = Мт) при п -►
-> оо (т. е. Т -> оо) должно стремиться к (Мт1!) = (X (t)) = m,
т. е. должно выполняться соотношение (1.56а). Более того, можно
даже ожидать, что закон больших чисел для величин Мт1] (а сле­
довательно, и соотношение (1.56а) будет справедливым и при
каких-то еще более общих условиях, при которых Ь (т) не обя­
зано стремиться к нулю при т -^ оо, но тем не менее корреляция
между величинами Мт! и Мт! с %i Ф ] ПРИ большом 7\ оказы­
вается достаточно слабой.
Ожидания, описанные выше, оказываются вполне справед­
ливыми. Можно показать, что для стационарной случайной функ­
ции X (t) соотношения (1.55) и (1.56) (или (1.56а)) обязательно
будут иметь место, если только
\im-l
Ь(т)=^0
Т->оо Т
(в случае дискретного времени) или, соотзетственно,
т
lim^r [ b(%)dx^0
т
+«
(1.57)
т = 0
(1.57а)
о
(в случае непрерывного времени); если же условия (1.57) или (1.57а)
не будут выполняться, то равенство (1.55) будет неверным.
Выделенное курсивом утверждение составляет содержание э р г о д и ч е с к о й т е о р е м ы С л у ц к о г о . Фигурирующие
в формулировке этой теоремы у с л о в и я
Слуцкого
(1.57) и (1.57а), как легко видеть, наверное будут справедливы,
если имеет место соотношение lim b (т) = 0, которое на пракТ-> оо
тике чаще всего выполняется (см. с. 47), но они могут иметь
место даже и тогда, когда b (т) не стремится к нулю при т -► оо29.
Для доказательства теоремы Слуцкого надо выразить величину
о-м = ((мТ — ш)2) через центрированную корреляционную
5. Эргодические теоремы; оценка функции X (t)
61
функцию b (т) процесса X (t). Используя равенство (1.47) или
его аналог для случая дискретного времени, легко показать, что
7
7
7—1 т,
t=\ s=l
Ti=0 т=0
7-1
= -| г ^(Г-х)Цт)-4-й(0)
(1.58)
т=0
в случае дискретного времени t и, соответственно,
7 Т
Омт -= -fY
\\bit
Т Хх
— ь) dt ds -= -yg- J J ft (x) dx dx! ■=
о 0
0 О
7
2
72
| ( Г — i)b(x)dx
(1.58a)
в случае непрерывного времени /. Теперь остается только до­
казать, что условие (1.57) необходимо и достаточно для стремле­
ния правой части (1.58) к нулю при Т -> оо, а условие (1.57а) —
для стремления к нулю правой части (1.58а). Это доказательство,
по существу, очень простое (см. примечание30).
Из теоремы Слуцкого и неравенства Чебышева (1.32) вытекает,
что для любых е > 0 и г| > 0 можно подобрать Т0 = Т0 (е, г\)
такое, что
4"
Г XV)-т
1
<е
>1-Л
(1.59)
t=\
или соответственно
|4-|х<ол-
т <е
>
(1.59а)
при Т > Т0. Последние соотношения дают основаниие считать,
что при достаточно большом Т
± 1
или, соответственно,
x(t)~m
(1.60)
т
(1.60а)
dt я^ т .
\x(t)
• т
о
В случае непрерывного времени t и функции х (t), реализуемой
Э виде флуктуирующего электрического тока, интеграл в правой
Глава 1
62
части (1.60а) часто может быть очень просто подсчитан с помощью
автоматического интегратора, ток на выходе которого равен
интегралу по некоторому (обычно достаточно большому) проме­
жутку времени от тока на входе; можно также воспользоваться
численным интегрированием, заменив предварительно правую
часть (1.60а) интегральной суммой, т. е. положив
где Т и N достаточно велики.
Для оценки точности приближений (1.60) и (1.60а) следует
воспользоваться формулами (1.58) и (1.58а), явным образом выра­
жающими средний квадрат ошибки этих приближений через
корреляционную функцию Ь (т); аналогичная формула легко
может быть получена и для среднего квадрата ошибки приближе­
ния (1.606).31
Будем пока, для определенности, считать время t непрерывным.
Предположим, что b (т) убывает с ростом т настолько быстро, что
не только lim Ь (т) = 0, но и
Т->оо
оо
Jfo(T)dx-C<oo
о
(1.61)
(в применении к встречающимся на практике процессам X (f)
это последнее условие также почти всегда можно считать выпол­
няющимся). Допустим еще, что С > 0 и
оо
оо
Tl^-^W\b(x)dx=^\R(x)dx.
о
о
(1.62)
Величина Тъ имеющая размерность времени, определяет поря­
док величины тех промежутков времени т, в течение которых
между X (t) и X (t + т) еще сохраняется заметная корреляция;
она обычно называется в р е м е н е м
к о р р е л я ц и и (или
радиусом корреляции,
или и н т е г р а л ь н ы м
временным
м а с ш т а б о м ) случайного процесса X (t).
Если время осреднения Т не превосходит времени корреляции Тг
в достаточное число раз, то оценка Мт обычно оказывается весьма
неточной, и поэтому малополезной. Если же Т > Тъ то для всех т,
при которых значение Ь (т) еще не очень мало, слагаемое ТЬ (т)
под знаком интеграла в правой части (1.58а) намного превосходит
слагаемое тЬ (т); в области значений т, где т составляет заметную
5. Эргодическйе теоремы; оценка функции X (t)
63
часть Ту функция Ь (т) оказывается настолько малой, что вкладом
этой области в правую часть (1.58а) вообще можно пренебречь.
оо
Т
Учитывая еще, что J Ь (х) dx ?& J Ъ (%) dx = Ь (0) 7\ при Т >
о
о
> Тъ получим для ohT = {(Мт — пг)2} очень простую оценку*:
2
2Ь(0) 7\
/\'2Т\
0'мт ^ — т^
=* — т — '
п
(
Лоч
3
^
Полученный результат показывает, что вмт с ростом Т убы­
вает примерно как Т_1/2; он близок по форме к выражению (1.51)
для дисперсии среднего арифметического^ независимых наблю­
дений, но вместо N теперь выступает число Nx = 7727\. *
Число Nx можно назвать эффективным числом независимых
наблюдений, поскольку сравнение (1.63) с (1.51) показывает, что
определение среднего значения пг по одной реализации длины Т
примерно эквивалентно по своей точности определению пг по Nx
независимым наблюдениям (так что увеличение времени наблю­
дения на 27\ эквивалентно добавлению еще одного независимого
измерения). В случае дискретного времени t формулы (1.61)—
(1.63) принимают вид:
т|о^(т)<оо,
Т^^Ь{0)
+
tb(x)^b(0)>0y
о2Мт^2Ь(0)Т1/Т,
вывод последней из них очень похож на вывод той же формулы
в случае непрерывного t. Формула (1.63) показывает, в частности,
что, желая оценить значение (X (t)) = пг с помощью осреднения
по времени так, чтобы относительная средняя квадратическая
ошибка омт/пг не превосходила заданного значения е, мы должны
выбрать интервал осреднения не меньше, чем
Т*=-£^-
(1-63а)
Формулы (1.63) и (1.63а) достаточно просты, однако надо
иметь в виду, что их практическое применение часто сильно ослож­
няется отсутствием надежных данных о дисперсии Ъ (0) = о\
* Отметим, что Т вовсе не должно быть очень уж большим для того, чтобы
формула (1.63) имела приличную точность. Например, если b (т) = Ае~а ' х ',
то уже при Т > 47\ = 4/а оценка значения ом по формуле (1.63) будет при­
водить к ошибке, не превосходящей 13%; если же b (т) = A sin ат/т, то эта ошибка
не будет превосходить 5% при Т > 47\ = 2я/а и 2,5% при Т > 87\ = 4я/а.
64
Глава 1
и о масштабе времени 7\. Тем не менее порядок величины типич­
ного уровня флуктуации ох = [Ь (0) ] 1/2 процесса X (/) и отве­
чающего ему характерного времени Тх часто можно грубо оце­
нить или поданным наблюдений за реализацией х (t), или исходя из
физических соображений, связанных с природой эксперимента
порождающего случайную функцию X (t); этого уже достаточно
для того, чтобы формулы (1.63) и (1.63а) можно было использо­
вать для оценки порядка величины ошибки оценки Мг при за­
данном Т или же значения 7, гарантирующего данную величину
ошибки.32
Формулы (1.63) и (1.63а), разумеется, оказываются неприме­
нимыми, если 7\ = 0. В приложениях процессы X (t) с нулевым
временем корреляции чаще всего появляются в виде производ­
ных X (t) = У (t) некоторого стационарного процесса Y (t)
с дважды дифференцируемой корреляционной функцией BVY (т).
В таких случаях, однако, обычно заранее известно, что (X (t)) =
= (Y' (t)) = 0, так что задача оценки значения (X (t)) здесь не
представляется важной. Вообще же говоря, если 7\ = 0, то,
как легко видеть из формул (1.58) и (1.58а), величина аМт при
возрастании Т будет убывать не как Т_1/2, а быстрее.33
Заметим еще, что, если Т > 7\, то оценка Мт среднего зна­
чения m = (X (t)), а также и родственная ей оценка
^-зпт2х(-тг)
при условии, что и N весьма велико, будут при широких условиях
иметь очень близкое к нормальному распределение вероятностей.
Этот факт сразу вытекает из так называемой ц е н т р а л ь н о й
п р е д е л ь н о й т е о р е м ы для стационарных случайных
процессов; он позволяет легко строить д о в е р и т е л ь н ы е
и н т е р в а л ы для величины m — интервалы вида [Мт — Д,
Мт + Д] (или [MTN — Д, MTN + Д]), внутри которых истин­
ное значение m будет находиться с заранее фиксированной до­
статочно близкой к единице (например, равной 0,95, 0,99 или
0,995) вероятностью р.м
Соотношение (1.55), очевидно, гарантирует, что п р и л ю б о м д о с т а ­
т о ч н о б о л ь ш о м Т значение mj величины Мт с очень близкой к единице
вероятностью будет близко к т, но, разумеется, из него еще не следует, что
разность | mj—т \ обязательно будет малой сразу п р и в с е х д о с т а т о ч н о
б о л ь ш и х з н а ч е н и я х 7"(ср. выше с. 51, где аналогичная ситуация
рассматривалась в связи с обсуждением вопроса о непрерывности функции х (/)).
В приложениях значения тт сразу при всех достаточно больших значениях Т
обычно не рассматривают, а ограничиваются лишь каким-то одним значением Т
и, кроме того, всегда принимается, что событие, имеющее очень малую вероят­
ность, допустимо считать практически невозможным; поэтому с точки зрения
практики соотношение (1.55) (или даже еще более слабые соотношения (1.59)
6. Оценка значений корреляционной функции
65
и (1.59а) уже достаточны для оправдания использования оценок вида (1.60)—
(1.606). Однако с точки зрения теории вопрос об условиях, гарантирующих,
что /П7 будет близко к т сразу при всех достаточно больших Т (т. е. что число­
вая функция mj аргумента Т будет стремиться к постоянной m при Т -+ оо
в обычном смысле теории пределов), представляется достаточно интересным.
Поэтому неудивительно, что этому вопросу посвящено много работ; основным
выводом из них является утверждение о том, что хотя теоретически из сходимо­
сти величин M j - к т в среднем квадратичном еще не следует, что значения гпт
для отдельных реализаций х (t) также будут стремиться к т , в реальных прило­
жениях сходимость временных
средних mj к m с вероятностью единица практи­
чески всегда имеет место.35
6.
Оценка значений иорреляционной функции
по данным наблюдений
До сих пор мы рассматривали лишь простейшую задачу об
оценке по данным наблюдений за одной реализацией х (t) сред­
него значения m = (X (t)) функции X (/). Однако в приложениях
очень часто кроме m нужны также и какие-то другие статистиче­
ские характеристики рассматриваемой случайной функции X (t).
В этом параграфе основное внимание уделено задаче об оценке
значений корреляционной функции В (т); начнем мы, однако,
с рассмотрения случая, когда представляет интерес среднее зна­
чение m(s) = (g (X (t)) некоторой функции g аргумента X (t).
Если случайная функция X (t) — стационарная в узком смысле,
то стационарной, как мы знаем, будет и функция Y (t) = g (X (/))
при всех g (х) (см. выше с. 40). Поэтому, для того чтобы mS&
можно было определить с помощью осреднения по времени зна­
чений g (х (t)) надо, чтобы корреляционная функция
Ьё (т) = ([g (X (/ + т)) - (g (X (/ + T)))][g (X (/)) - (g (X (t))\)
удовлетворяла условию Слуцкого (1.57) или (1.57а), причем в этом
случае средний квадрат ошибки (т. е. дисперсия) соответству­
ющей оценки будет просто выражаться через bg (т). Корреляцион­
ную функцию bg (т) можно приближенно оценить по наблюденным
значениям х (/), позволяющим определить и значения у (t) =
=
ё (х (0) (СР- с - 67—77). Точное же определение функции bg (т)
требует знания двумерных распределений вероятностей пар слу­
чайных величин {X (t), X (t + %)}; оно лишь в некоторых спе­
циальных случаях может быть доведено до получения явной
формулы для bg (т). Однако в очень важном частном случае, когда
функция X (t) является гауссовской, положение заметно упро­
щается, так как здесь все конечномерные распределения вероят­
ностей, а значит и функция bg (т) при любом g (х), однозначно
определяются одними лишь значениями среднего значения m
и корреляционной функции b (т) случайной функции X (f). Примем
3
А. М. Яглом
66
Глава
I
пока для простоты, что т = 0, и рассмотрим вопрос об определе­
нии с помощью осреднения по времени среднего квадрата (т. е.
дисперсии — при т = 0 это одно и то же) fx(2> = b (0) = (X2 (f))
процесса X (t). Нетрудно проверить36, что в случае гауссовской
стационарной функции
6,.(т) = (Х»(/ + т) X*(t)) - <Х2(0>2 = 2ЪЦх).
(1.64)
Таким образом, для того, чтобы оценка*
т
т
Ь
т (0) - 4-1" Х' (0
или
^ (°) = 4" fХ* (0 ^
величины fc (0) была состоятельной, должно
ловие
Т—\
У /?2(т)_0
iimГ-»оо
У
выполняться ус­
т
или
*-^
T=0
lim-i- f
fc2(T)rfx-0.
(1.65)
Г->оо
0
Ясно, что если b (т) -»- 0 при т ->- сю, то условие (1.65) обя­
зательно будет выполняться (так же как и условие Слуцкого
(1.57)—(1.57а)). Вообще же говоря, условие (1.65) является более
ограничительным, чем условие (1.57)—(1.57а): из (1.65) уже
вытекает, что выполняется и соотношение (1.57) или, соответ­
ственно, (1.57а), но существуют корреляционные функции b (т),
для которых выполняется условие Слуцкого (1.57) или (1.57а),
но тем не менее соответствующее условие (1.55) не имеет места.37
Формула (1.64) показывает, что дисперсия простейшей оценки
Ьт (0) среднего квадрата гауссовской стационарной случайной
функции X (t) с {X (f)) = 0 может быть найдена с помощью
простой- замены в формулах (1.58) или (1.58а) функции b (т)
на 2Ь2 (т). Несколько более сложно обстоит дело, когда среднее
значение m рассматриваемой функции X (t) также неизвестно.**
Желая в таком случае оценить значение дисперсии о2х = b (0) =
= ((X (t) — tn)2), естественно воспользоваться осреднением по
времени квадрата значений разности х (f) — mT, т. е., например,
в случае непрерывного t использовать эмпирическую оценку
fc
r(0) = 4 - j
2
x(tj
тгг j х (s) dsdi
Т J
о
* Отметим, что в дальнейшем в настоящем параграфе мы, как это часто
делается в книгах по статистике, не будем различать теоретические оценки (за­
висящие от случайной функции X (t)) и соответствующие им выборочные оценки
(т. е. авыборочные значения теоретических оценок, зависящие от реализации
х
(0)> будем обозначать те и другие оценки одной и той же буквой.
** Если значение (X (/)) = m известно, но не равно нулю, то его можно
заранее вычесть из всех наблюденных значений х (/); поэтому этот случай фак­
тически не отличается от того, когда известно, что (X (/)) = 0.
67
6. Оценка значений корреляционной функции
Среднее значение оценки Ьт (0) (точнее говоря, соответству­
ющей теоретической оценки, где х (t) заменено на X (t)) сравни­
тельно просто выражается через центрированную корреляцион­
ную функцию b (т) = (X (t + т) X (*)> — (X (О)2 функции X (*);
в гауссовском случае через b (т) можно выразить и дисперсию
оценки Ьт (0). Однако все формулы оказываются здесь заметно
более громоздкими, чем при известном значении т .
В частности, нетрудно проверить, что теперь (Ьт (0)) Ф b (0),
так что оценка Ьт (0), вообще говоря, оказывается смещенной.
Поэтому средний квадрат Д2 (0) = ([Ьт (0) — b (0) Р) ошибки
этой оценки не совпадает с ее дисперсией, а равняется сумме
дисперсии а2 (Ьт (0)) и квадрата смещения б (Ьт (0)) = (Ьт (0)) —
— Ъ (0) (в силу формулы (В.9)). Можно показать, однако, что
в случае справедливости условий Слуцкого средний квадрат сме­
щения оценки Ьт (0) при Т -> оо быстро стремится к нулю, а в вы­
ражении для Д2 (0) главным оказывается член, совпадающий с вы­
ражением для дисперсии оценки Ьт (0) при известном m =
= (X (О)-38 Отсюда вытекает, что и при неизвестном значении
(X (/)) условие (1.65) также гарантирует состоятельность оценки
Ьт (0) дисперсии b (0) гауссовской стационарной случайной функ­
ции X (t). Далее, в случае, например, гауссовского процесса X (/),
00
для которого b (т) -> 0 при т -»- оо и I Ь2 (т) d% = С2 < оо, и при
о
известном, и при неизвестном значении (X (t)) к процессу X22 (t)
можно применить формулу (1.63). Поскольку Ьхг (0) = 2Ь (0)
« силу (1.64), при достаточно больших значениях Т средний
квадрат относительной ошибки оценки Ьт (0) величины b (0)
здесь будет определяться соотношением
4Шг-~^'
T
^im]b*{x)dx-
(1 66)
-
о
В обширной литературе по прикладной теории стационарных
случайных функций можно найти также ряд статей об оценивании
с помощью осреднения по времени моментов высших порядков
как гауссовской случайной функции X (t), так и некоторых спе­
циальных негауссовских функций.39 Так как, однако, настоящая
книга посвящена лишь корреляционной теории, то мы не будем
задерживаться на этом вопросе, выходящем за пределы указанной
теории, а сразу перейдем к задаче об оценке значений корреля­
ционной функции В (т) = <Х (t + т) X (t)) (или родственных ей
функций b (т) = В (т) — т 2 и R (%) = b (x)lb (0)) по эксперимен­
тальным данным. Для того чтобы значение В (т), где т — фикси­
рованное неотрицательное число, можно было с любой степенью
точности определить с помощью осреднения по времени данных,
Глава 1
68
относящихся к одной реализации х (t)y должно выполняться
предельное соотношение
Н т яJ Д - г f T X ( / + T ) X ( 0 ^ S ( x )
(1.67)
Г-»оо
или соответственно
Т-х
lim = Д -
f X(t + x)X(t)dt = B(%).
(1.67а)
о
При этом условии в качестве несмещенной и состоятельной оценки
В (т), где т > 0, в случае дискретного t можно использовать ве­
личину
fiJ.(T) = =-!— S * ( ' + т)х(0,
(1-68)
а в случае непрерывного t — одну из величин:
Т—т
В*(Т) = _ 1 _
J * ( / + т) * (/) df
о
(1.68а)
или
(при т < 0 в правых частях (1.68)—(1.686) надо лишь заменить т
на |т|).
Условия, нужные для справедливости предельных соотноше­
ний (1.67) и (1.67а), могут быть сразу получены из теоремы Слуц­
кого, если мы применим ее к новой (зависящей от параметра т)
случайной функции Y% (t) = X (t ~\ т) X (t), реализацию кото­
рой теперь уже надо считать известной лишь при t = 1, 2, ...,
Т — т или, соответственно, 0 < t < Т — т (в предположении, что
реализация X (/) известна при 0 <: t < Г). Эта новая функция
будет стационарной в широком смысле, если (X (/ + т) X (t))
не зависит от / и, кроме того, не зависит от t (но зависит от т и s)
(X(t + s + %)X(t + s)X(t-{-T)X(t))
= B{4) (т, s).
(1.69)
В силу теоремы Слуцкого оценка (1.68а) корреляционной функ­
ции В (т) будет состоятельной (т. е. будет выполняться соотноше­
ние (1.67а)), если только
т
Н т 4 - [ {Я(4)(т, s)-[B(T)] 2 }ds = 0
(1-70)
l
г~>оо i
6. Оценка значений корреляционной функции
69
(и только в этом случае); совершенно аналогично обстоит дело и
в случае функций X (t) дискретного аргумента /.
Сформулированное здесь утверждение является примером
«эргодической теоремы второго порядка», относящейся ко вторым
моментам стационарного процесса X (t). В приложениях обычно,
исходя из физических соображений, можно быть уверенным,
что коэффициент корреляции случайных величин Y% (t + s) =
= X (* + s + т) X (t + s) и YT(t) = X(t + x)X (t) стремится
к нулю при s ->- оо; в таком случае, очевидно, и условие (1.70)
обязательно будет выполняться. Средний квадрат ошибки, воз­
никающей из-за замены значения В (т) его оценкой Вт (т) или
BTN (Т), можно определить так же, как это делалось выше в при­
менении к оценкам среднего значения; однако реальное исполь­
зование получаемых при этом формул существенно затрудняется
тем, что теперь уже квадрат ошибки будет выражаться не через
корреляционную функцию В (т), а через более сложный четвер­
тый момент В(4> (т, s), относительно которого чаще всего нет
сколько-нибудь надежных данных.
Так как оценки Вт (т) и BTN (Т) представляют собой реали­
зации случайных величин того же типа, что и величины Мт и MTN,
но только отвечающих уже случайной функции Yx (t), а не X (t),
то ясно, что распределение вероятностей значений Вт (т) и ВТы (т)
при достаточно большом Т при широких условиях должно быть
близким к нормальному распределению вероятностей. По тем же
причинам можно кроме того утверждать, что, как правило, зна­
чения Вт (т) будут стремиться при Т ->■ оо к истинным значениям
В (т) не только в среднем квадратичном, но и в обычном смысле
теории пределов (ср. выше с. 65). О конкретных условиях,
обеспечивающих асимптотическую (при Т ->■ оо) нормальность
распределений величин Вт (т) и BTN (Т) или стремление их зна­
чений к В (т) при Т -> оо для каждой отдельной реализации
х (t)y см. примечание.40
Остановимся снова немного подробнее на важном частном
случае гауссовских стационарных функций X (t)t часто встре­
чающихся в самых разнообразных приложениях. В этом частном
случае моменты четвертого порядка В^ (т, s) (как и все вообще
статистические характеристики функции X (t)) однозначно опре­
деляются одними лишь значениями m и В (т) (или Ъ (т)). А именно,
нетрудно показать41, что в гауссовском случае
В(4) (т, s)^B2(s)
+ B2(T)-\-B(s + x)B(s~T)~-2rn.
(1.71)
Воспользовавшись формулой (1.71), можно убедиться, что для
гауссовских стационарных случайных функций оценки (1.68)—
(1.686) при всех значениях т будут состоятельными тогда и только
70
Глава I
тогда, когда будет выполнено условие (1.65), т. е. когда с помощью
осреднения по времени можно будет определить значение В (0).
Средний квадрат ошибки оценки Вт (т) (или BjN (т)) значения
В (т) в гауссовском случае, очевидно, будет выражаться через
значения В (т) и т ; этими же значениями будут в рассматриваемом
случае определяться и ошибки оценок Ь} (т) = Вт (т) — m2T и
RT (Т) = Ьт (т)/6? (0) функций Ь (т) = В (т) — т 2 и R (т) =
= 6 (т)/6 (О).42
Соответствующие формулы для средних квадратов ошибок
можно, вообще говоря, использовать на практике, заменив в них
неизвестные нам значения корреляционной функции теми самыми
оценками, точность которых мы хотим оценить; ясно, однако, что
точность получаемых при этом результатов будет не слишком
высокой.
Отметим еще, что воспользовавшись общей формулой для мо­
ментов высших порядков многомерных гауссовских распределе­
ний, о которой говорится в примечании 36, можно показать, что
в применении к гауссовской стационарной функции X (/) условие
(1.65) обеспечивает также и сходимость при Т ->• оо среднего поинтервалу времени длины Т значения общего произведения
х (t) х (t + Tj) ... х (t + хп_г) к соответствующему моменту
(X (t) X (t + Ti) ... X (t + 4n-i)) ПРИ любых значениях п
и т1}..., хп_х. Более того, можно показать, что при том же
условии (1.65) для любой функции Ф (х0, хъ ..., хп_г) такой, что
(Ф (X (t), X (/ + T J , ..., X(t + тп_г))) = тФ (т ь ..., хп_х) < оо,
среднее по интервалу времени длины Т значение функции
времени Ф (х (t), х (t + тх), ..., х (t + хп_г)) при Т ->■ оо будет
стремиться к соответствующему вероятностному среднему зна­
чению Шф (тх, ..., тп_!). Этот последний факт составляет содер­
жание общей э р г о д и ч е с к о й т е о р е м ы д л я
гаус­
совских стационарных
случайных
функ­
ций.43
Так как все распределения вероятностей гауссовской стационарной случай­
ной функции X (t) с (X (t)) = 0 определяются значениями В (т) = b (т), то
ясно, что любые статистические характеристики X (/) здесь должны выражаться
через функцию b (т). Это обстоятельство может быть положено в основу целого
ряда специальных методов приближенного определения значений b (т) и R (т) =
= b (i)lb (0) для таких функций по данным наблюдений. Так, например, легко
показать, что в гауссовском случае
(g(X(t + T))X(t))=cR(%),
c=(g(X(t))X(t))t
(1.72)
если {X (t)) = 0 и (g (X (t)) X (t)) < оо. 44 Поэтому для нахождения значе­
ний R (т) можно использовать, например, осреднение по времени значений
g{x (t -\- т)) х (t), позволяющее оценить среднее значение (g (X (t + т)) X (t)).
В частном случае, когда g (х) — sign х (т. е. g (х) = — 1 при х < 0, g (х) = 0
при х = 0 и g (х) = 1 при х > 0), с = (| X (t) |) = (26 (0)/я) 1/2 ; следовательно,
(sign Х(* + т) • * ( / ) ) = ( 2 ^ ( 0 ) / я ) 1 / 2 ^ ( т ) .
(1.73)
6. Оценка значений корреляционной функции
71
Отсюда вытекает, что приближенное определение значений Ь^ (т) =
= (sign X (t+ т)-Х (/)) и 6 (г) (0) = (sign Л' (t)-X (/)) для гауссовской слу­
чайной функции X (t) с (X (/)) = 0 позволяет приближенно определить также
и значения R (т) = b{r) (т)/Ь{г) (0) и 6 (т) == л6 ( г ) (0) 6 (г) (т)/2. В прикладной
литературе функция Ь^ (т) иногда называется р е л е й н о й
корреля­
ц и о н н о й ф у н к ц и е й случайной функции X (t), а методы оценки кор­
реляционных функций R (т) и Ь (т), использующие соотношение (1.73), где фи­
гурирующая в левой части функция Ь^ (т) находится с помощью осреднения по
времени значений sign х (t + т) -х (/), называются р е л е й н ы м и м е т о ­
д а м и.45
Также и значения (g (X (t + т) g (X (t))) = bg (т) для гауссовской ста­
ционарной функции X (t) с (X (/)) = 0 однозначно определяются по значе­
ниям b (т), причем довольно часто и обратно значения b (т) (или хотя бы R (т) =
= b (т)/Ь (0)) можно выразить
через b (т). Так, например, если g (х) = sign х9
то, как нетрудно показать46,
(sign X (t + е) sign X (О) = 2 arc sin [R (т)]/л.
(1.74)
Следовательно, оценка значений 6(/?)(т) = 6 si
(т) корреляционной функции
вспомогательной случайной функции Y (/) = sign X (/) может быть использо­
вана для приближенного определения значений нормированной корреляционной
функции R (т) = sin [лЬ^р\т)12] исходной случайной функции X (/). Функ­
ция Ь^(т) в прикладной литературе иногда называется п о л я р н о й или
знаковой
корреляционной
функцией
случайной функ­
ции X (t), а методы определения значений R (т), опирающиеся на соотноше­
ние (1.74) или какую-либо его модификацию, называются п о л я р н ы м и
или з н а к о в ы м и м е т о д а м и ; им посвящена довольно большая ли­
тература.47
Вернемся теперь снова к общим стационарным функциям
X (t) и простейшим оценкам (1.68), (1.68а) и (1.686) соответству­
ющей корреляционной функции В (т).
Согласно сказанному выше, эти оценки при широких условиях,
которые на практике почти всегда можно считать выполняющи­
мися, оказываются состоятельными, т. е. они позволяют сколь
угодно точно определить значения В (т) по одной реализации
х (/), если только интервал Т наблюдения за этой реализацией
является достаточно продолжительным.
Вычисления по формулам (1.68) или (1.686), которые еще
недавно казались весьма трудоемкими, в настоящее время могут
быть очень быстро выполнены с помощью ЭВМ; для нахождения же
интегралов (1.68а) было сконструировано большое число различ­
ных по своему устройству специальных аналоговых вычислитель­
ных машин — корреляторов.48 В качестве конкретных примеров
на рис. 8 приведены оценки нормированной корреляционной функ­
ции R (т) = В (х)1В (0) изображенных на рис. 1 а замираний отра­
женного радиолокационного сигнала (здесь для получения оценки
использовалась формула (1.686) при Т = 20 с и TIN = 0,016 с)
и изображенного на рис. 2 д ряда Бевериджа (в этом случае при­
менялась формула (1.68)). Мы видим, что эмпирическая нормиро­
ванная корреляционная функция Вт (т)/В? (0) в обоих случаях
72
Глава 1
ведет себя примерно одинаково: она вначале очень быстро убы­
вает, переходит через нуль, а затем начинает совершать плавные
колебания небольшой амплитуды около нуля. Но реальны ли
эти колебания? Здесь мы сталкиваемся с до­
вольно трудным вопросом, требующим спеUOt
а)
циального исследования.
Выше было показано только, что при лю­
бом фиксированном т оценки (1.68), (1.68а) и
0,i
(1.686) сходятся к истинному значению В (т)
при Т -> оо (и фиксированном или убывающем
TIN). Но в применениях интерес обычно пред­
0,6
ставляет не одно значение В (т), а вся функ­
ция В (т). Из сходимости оценки Вт (т) или
0,4
BJN (т) к В (т) при каждом фиксированном т
вовсе не следует еще, что сходимость будет иметь
место одновременно при всех т, т. е. чтофунк0,2\\
-0,2
0,16
0,32
0,48
0,64
0,80
0.96
112
1,28т с
**W
50т год
-0,2]Рис. 8.
Оценки нормированной корреляционной функции
R*TN (т) = B*TN (r)/B*TN (0) и Я«(т) = В*(т)/В*т(0).
а — флуктуации интенсивности радиолокационного сигнала (по [196]),
б — ряда Бевериджа (по [282]).
ция Вт (т) (или BTN (Т)) будет сходиться к функции В (т).
Кроме того ясно, что при т, приближающемся к 7\ все указанные
оценки будут становиться крайне ненадежными, так как здесь
реальный интервал осреднения Т — т оказывается относительно
небольшим; поэтому на практике обычно ограничиваются лишь
значениями т, составляющими небольшую долю от Т (как правило,
6. Оценка значений корреляционной функции
73
не более, чем 10—20%). Но и в таком случае оценки при сравни­
тельно больших значениях т, при которых истинное значение
В (т) весьма мало, чаще всего оказываются не имеющими смысла,
так как их средняя квадратическая
ошибка обычно заметно превосходит
1,00,
само оцениваемое значение В (т). К
тому же значения Вт (т) (или BTN (Т))
при близких т сравнительно сильно
коррелированы друг с другом;
поэтому функции Вт (т) и BTN (Т)
плавно меняются с изменением т, что
часто создает ложное впечатление
наличия на графике функции В (т)
ряда довольно правильных волн.
~-v/
50т
Рис. 9.
Сопоставление теоретической нормированной корреляционной функции R (т)
с эмпирическими функциями RT(T).
a—R (т) для искусственного ряда Кендалла (/) (по [282]) и R^QQ(X),
построенная д л я этого
ряда (2) (по [210]);
б—R (х) для стационарной последовательности (/) и / ^ ^ ( т ) , построенная по двум неза­
висимым реализациям этой последовательности (2, 3) (по [336]);
в— R (х) для искусственного ряда Кендалла (/) (по [282]) и Ящ ооо(т)» построенная для
этого ряда (2) (по [257]).
В качестве иллюстрации к сказанному на рис. 9 а изображена
функция RT (Т) = Вт (т)/Вт (0), где Т = 480, подсчитанная для
искусственного ряда х (t), t = 1, 2, ..., 480, составленного с по­
мощью специальных «случайных чисел» (имитирующих реализа­
ции независимых случайных величин) так, чтобы корреляционную
Глава 1
74
функцию R (т) = В (т)/В (0) соответствующей стационарной по­
следовательности X (t) можно было определить теоретически (по­
дробнее об этом см. с. 85—86). Аналогичный пример изображен на
рис. 9 б, где представлены сразу две функции RT (Т), Т = 200,
подсчитанные по двум независимым реализациям ха) (/) и х{2) (/),
/ = 1, 2, ..., 200, вместе с соответствующей «теоретической»
функцией R (т). Мы видим, что в обоих рассмотренных случаях
теоретическая корреляционная функция R (т) быстро затухает,
в то время как эмпирические корреляционные функции R} (т)
совершают плавные незатухающие колебания около нуля (при­
чем на рис. 9 б колебания двух функций RT (Т), подсчитанных
по двум реализациям, явно не согласуются друг с другом). Есте­
ственно думать, что то же Происхождение, что и колебания около
нуля эмпирических корреляционных функций на рис. 9 а, б,
имеют и беспорядочные колебания около нуля функций RTN (Т)
и Rf (т) на рис. 8 а, б, т. е. что и они также никак не
связаны с (неизвестной нам) истинной формой функции
R(T).
Разумеется, амплитуда фиктивных волн на графиках эмпири­
ческих корреляционных функций зависит от размера исполь­
зуемой выборки (т. е. от выбранного интервала осреднения Т
и, в случае использования формулы (1.686), периода дискретиза­
ции TIN)), и может быть заметно уменьшена при помощи увеличе­
ния числа используемых значений х (t). Это видно, в частности,
и из рис. 9 в, где изображен еще один пример эмпирической норми­
рованной корреляционной функции RT (Т) ТОЙ же стационарной
последовательности X (/), к которой относился рис. 9 а, но уже
построенный с использованием гораздо большего числа значений
х (t) — при Т = 15 000. Мы видим, что значения /?*5озо (т) го­
раздо более точно, ч^м значения R^0 (т), воспроизводят ход тео­
ретической корреляционной функции R (т); тем не менее и на
графике /?*5ооо (т) намечаются волны (правда, очень небольшой
амплитуды), отсутствующие на графике R (т).
В связи с тем, что все оценки значений корреляционной функ­
ции оказываются малонадежными при больших значениях т,
возникает даже вопрос о том, нельзя ли улучшить, например,
оценки Вт (т), искусственно занизив их значения при всех не
слишком малых т. Самый простой метод такого занижения со­
стоит во включении в правую часть формул (1.68) и (1.68а) до­
полнительного множителя (Т — х)1Т = 1 — т/7\ обращающегося
в единицу при т = 0 и линейно убывающего до нуля в точке т = 7\
где оценки (1.68) и (1.68а) совсем ненадежны. При этом мы при­
ходим к оценкам
j3**(T) = - L £ x(t + x)x(t)
1
/=i
(1.75)
б. Оценка значений корреляционной функций
75
или
B;*( T; = _L J x(t + x)x(t)dt,
(1.75а)
о
оказывающимся уже, в отличие от оценок Вт (т), смещенными (так
как (Вт* (т)> = (1 —т/Т) В (т), где тем же символом Вт* (т) теперь
уже обозначена теоретическая оценка, получающаяся при замене
в правых частях (1.75) и (1.75а) неслучайной реализации х (t) на
случайную функцию X (t)). В применении к оценке (1.686) роль
Вт* (т) играет смещенная оценка
[(Т-т) N/T]
B
™^ = NTT
2
х
(тг + т ) х (IT) ' <!-75б>
/г=0
где [(Т — т) Af/T] — наибольшее целое число, не превосходящее
числа (Т — т) N/T = (1 — т/Т) N (т. е. наибольшее значение &,
при котором т + kT/N<T); так как, однако, оценки fijw(t) и Б?* (т)
обладают близкими свойствами, то мы для простоты будем
говорить лишь об оценках Вт* (т). Важно, что всегда оценки
Вт* (т) — асимптотически несмещенные, т. е. при Т -^ оо их
смещение 8Т (т) = (Вт* (т)> — 5 (т) стремится к нулю. Еще
важнее то, что оценки Вт* (т) практически всегда будут состоя­
тельными (так как при т « Т они почти не отличаются от Вт (т)).49
Будем далее характеризовать точность оценок Вт* (т) и Вт (т)
их средними квадратами ошибок Д^ (т) = ([Вт* (т) — 5 (т)]2)
и ДНт) = (1В*Т ( т ) - В ( т ) Р ) .
В таком случае, по-видимому, по крайней мере для всех гауссовских стационарных функций X (t) с (X (/)) = 0 (для которых
и Д1Г (т), и Дт- (т) могут быть выражены через В (т) = Ъ (т))
при всех т будет выполняться неравенство Д^ (т) < Ат (т), т. е.
оценка Вт* (т) оказывается по меньшей мере не менее точной,
чем В* (т); во всяком случае, все конкретные примеры, для которых
величины А\т (Т) И Д^ (Т) рассчитывались, подтверждают это пред­
положение.50 Последнее обстоятельство одно уже делает целе­
сообразным использование на практике оценок Вт* (т), а не
Вт (т). Но помимо того, оценка В*т* (т) имеет и дополнительное
важное преимущество перед Вт (т): можно показать, что функция
Вт* (т) (доопределенная при отрицательных.или больших, чем Т,
значениях т с помощью естественных равенств Вт* (—т) =
= Вт* (т) и Вт* (т) = 0 при | т | > Т) всегда будет положительно
определенной, т. е. такой, что она может быть корреляционной
функцией некоторого X (/), в то время кач функция Вт (т)
этим свойством не обладает.51
Разумеется, из положительной определенности функции Вт* (т)
еще не следует, что она при всех т должна быть близка к корре­
ляционной функции именно того X (/), реализацией которого
Глава 1
76
является входящая в (1.75) или (1.75а) функция х (/). Так, вызы­
вает сомнение то обстоятельство, что функция Вт* (т) будет поло­
жительно определенной лишь, если формула (1.75) или (1.75а) ис­
пользуется при всех | т | < 7\ в то время оценки В (т) имеет смысл
рассматривать только при значениях т, составляющих малую
долю от Т. Ясно также, что фиктивные волны, наблюдавшиеся на
графиках функций RT (х) (см. рис. 9), будут присутствовать и на
графиках функций RT* (Т) = Вт* (х)/Вт* (0) (хотя, вообще гоа)
а(х)
б)
а(х)
а(х)
Рис. 10.
Примеры корреляционных окон.
а — прямоугольное окно,
б — окно Бартлетта,
в — окно Парзена.
воря, эти волны здесь будут поменьше и будут затухать с ростом т).
Поэтому во многих случаях имеет смысл вместо 5?* (т) использо­
вать еще более заниженную оценку вида
Вта)(х)^ат(т)В7(х),
(1.76)
где а7 (0) = 1, но ат (т) убывает с ростом т и ат (т) = 0 при т >
> кт, причем kTlT достаточно мало (скажем, имеет порядок 0,1).
Можно, например, положить ат (т) = a (xlkT), где а (х) = 0
при х > 1.
7. Комплексные случайные функции
77
Если принять, что а (х) = 1 при х < 1 (т. е. ат(х) = 1 при
т <: kT) и а (х) = 0 при х > 1 (т. е. а г (т) = 0 при т > kr), то это
значит, что формулы (1.75) используются лишь при т < kT, а все
значения Вг* (т) при т > kT здесь просто отбрасываются (заме­
няются нулем). Однако, такой выбор а (т) (отвечающий рис. 10 а)
имеет тот недостаток, что функция Вта) (т) при этом снова оказы­
вается, вообще говоря, не положительно определенной. Если,
однако, саму функцию ат (т) выбрать положительно определен­
ной, то в силу сказанного на с. 46 произведение ат (т) Вт* (т)
также будет положительно определенной функцией; например,
можно принять, что ат (т) = a (r/kT), где а (х) = 1 — х при
0 < х < \ и а (х) = 0 при х > 1 (рис. 10 б). Функция ат(т), вхо­
дящая в правую часть (1.76) обычно называется к о р р е л я ­
ц и о н н ы м о к н о м; ее включение в формулу для оценки В (т)
часто оказывается полезным. В частности, рассмотренное выше
треугольное корреляционное окно а (т/1гт), где а (х) = min (1 — х,
0), в литературе называется окном Бартлетта, а отвечающая
ему оценка Вта) (т) — оценкой Бартлетта. Известны и другие
корреляционные окна, например положительно определенное
окно Парзена (рис. 10 в), медленнее убывающее в окрестности
нуля.52 С оценками вида (1.76) мы еще встретимся в § 18,
где будет обрисован совсем другой подход к задаче об оценке кор­
реляционной функции; при этом выяснится, что в настоящее время
наиболее удобными в ряде отношений являются некоторые отлич­
ные от перечисленных выше корреляционные окна а (т), которые
уже не обращаются в тождественный нуль при всех | т | > kT,
а лишь быстро затухают с ростом | т | (такое затухание, очевидно,
уже достаточно для того, чтобы позволить избавиться от ложных
волн на графиках корреляционных функций, о которых говори­
лось выше в связи с рис. 9).
7.
Комплексные случайные функции.
Пространство случайных величин
Рассматривая во введении примеры случайных функций, мы,
в частности, упоминали про случайные гармонические колебания.
Из дальнейшего будет видно, что для теории стационарных слу­
чайных функций этот пример является основным в том смысле,
что любую стационарную функцию X (t) можно представить в виде
суперпозиции таких случайных гармонических колебаний, т. е.
задать с помощью некоторой модификации обычного интеграла
Фурье.
В этой связи представляется полезным сделать следующее
замечание. До сих пор мы все время говорили только о веществен-
78
Глава 1
ных случайных величинах и вещественных случайных функциях.
Между тем известно, что гармонические колебания очень удобно
описывать комплексными функциями вида Ае(ш\ также и ком­
плексная форма интеграла Фурье в ряде отношений более проста,
чем его вещественная форма. Поэтому и в теории стационарных
случайных функций часто оказывается удобным рассматривать
не вещественные, а более общие комплексные случайные величины
вида X = Х1 + iX2, где Хг и Х2 — две вещественные случайные
величины, и соответственно комплексные же случайные функции
X(t) = Xx(t) + iX2(t).
Комплексная случайная функция X (t) = Хх (t) + iX2 (t) за­
дается совокупностью функций распределения (или плотностей
вероятности) всевозможных наборов из 2п вещественных случай­
ных величин Х1 (tx), Хх (t2), ..., Х1 (/„), Х2 (t±), Х2 (t2), ..., Х2 (tn)
для всех целых положительных п и всех значений tx, t2i ..., tn.
Функция X (t) называется с т а ц и о н а р н о й , если все ука­
занные распределения вероятностей инвариантны относительно
произвольных сдвигов во времени, т. е. не меняются при добавле­
нии ко всем аргументам tx, t2, ..., tn одного и того же числа /.
Ясно, что в этом случае вещественная и мнимая части X (/) —
функции Хх (f) и Х2 (t) — будут вещественными стационарными
случайными функциями.
Среднее значение (X (/)> = {Хх (t) + iX2 (/)} комплексной
стационарной случайной функции, очевидно, будет (комплексной)
постоянной т = т1 + im2. В дальнейшем, мы, как правило,
будем предполагать, что (X (t)) = т = О — фактически это нигде
не приведет к потере общности. Что же касается вторых моментов
функции X (/), то они включают четыре вещественные функции
аргумента т (а именно, (Хх (t + т) Хх (t)), (Xl (t + т) Х2 (*)>,
(Х2 (t + т) Хг (0> и (Х2 (/ + т) Х2 (0))» и з которых важной для
нас будет лишь следующая комбинация:
В (т) = <Х (/ + т) Щ) = <(ХХ (/ + т) +
+ iX2 (t + т)) (X, (t) - iX2 (/))> = (Xx(t + т) Xx (t)) +
+ (X2(t + T) X2(0) + i[(X2(t + т) Xx (*» - (Xx (t + т) X,(/))l.
(1.77)
Функцию В (т) мы будем называть к о р р е л я ц и о н н о й
ф у н к ц и е й к о м п л е к с н о й с т а ц и о н а р н о й слу­
ч а й н о й ф у н к ц и и X (/). Соответственно при (X (t)) =
= т^0 мы будем называть b (ъ) = ((X (t + г) — m){X(t)—т)) —
= В (т) — \т\2 ц е н т р и р о в а н н о й
корреляцион­
ной ф у н к ц и е й
случайной функции X (/), a R (т) =
= b (x)lb (0) — н о р м и р о в а н н о й к о р р е л я ц и о н н о й
ф у н к ц и е й ; при т = 0, очевидно, b (т) = В (т). Ясно, что
в частном случае, когда функция X (/) — вещественная (т. е.
7. Комплексные случайные функции
79
Х2 (f) = 0), приведенные здесь определения совпадают с теми,
которыми мы пользовались раньше. Аналогично этому комплекс­
ные случайные величины X и У будем называть некоррелирован­
ными, если ((X — (Х))(У — (Y))) = 0 (в частности, при (X) =
= (Y) = 0, если (XF) = 0), а дисперсией X будем называть
величину (|Х — (Х>|2).
Корреляционная функция В (т) — комплексная функция, удо­
влетворяющая первому и третьему условиям (1.25); что же ка­
сается второго из этих условий, то оно в комплексном случае
приобретает следующий вид:
В(—х) = В(х).
(1.78)
Аналогично этому условие (1.26) теперь обращается в следу­
ющее утверждение: для любых целого положительного п, цело­
численных (в случае стационарных последовательностей) или
произвольных вещественных (в случае стационарных процессов)
т ь т2, ..., хп и комплексных съ с2, ..., сп
t
B(x}-xk)cfkX).
(1.79)
Доказательство этих фактов практически не отлячается от
соответствующих доказательств в вещественном случае (напри­
мер, левая часть (1.79) равна и ^ X (ту) с Л ) > 0 ) . Комплексную
функцию В (т), удовлетворяющую условию (1.79), мы будем
называть п о л о ж и т е л ь н о о п р е д е л е н н о й
функ­
ц и е й аргумента т (можно показать, что первое и третье неравен­
ства (1.25) и условие (1.78) уже вытекают из (1.79); ср. примеча­
ние 3 ). Следовательно, в комплексном случае корреляционная
функция стационарной случайной функции также обязательно
оказывается положительно определенной. Вполне аналогично ве­
щественному случаю можно доказать и обратный факт — то, что
всякая положительно определенная функция целочисленного или,
соответственно, вещественного аргументах является корреляцион­
ной функцией некоторой стационарной случайной последователь­
ности или, соответственно, случайного процесса}3
В дальнейшем рассматриваемые стационарные случайные функ­
ции X (/) всегда будут предполагаться комплексными. В качестве
примеров, однако, мы, как правило, будем выбирать вещественные
случайные функции, так как именно такие функции особенно
интересны для приложений.
Совокупность всевозможных случайных величин, очевидно,
представляет собой л и н е й н о е
векторное
про-
го
Глава 1
с т р а н с т в о, т. е. такое множество элементов (иначе, векторов
или точек) X, что элементы эти можно складывать друг с другом
(т. е. для любых двух элементов X и Y можно определить сумму
X + Y, также являющуюся элементом нашего пространства,
т. е. случайной величиной) и умножать на произвольные числа с
(т. е. для любой случайной величины X и числа с можно опреде­
лить случайную величину сХ). Рассматривая комплексные слу­
чайные величины X, мы будем иметь дело с комплексным линейным
пространством, в котором произведение сХ имеет смысл для всех
элементов X и всех комплексных чисел с.
Известно, что теория линейных векторных пространств ока­
зывается наиболее наглядной, содержательной и удобной для
использования в тех случаях, когда помимо операций сложения
и умножения на число для элементов (векторов) X можно опреде­
лить еще и операцию скалярного умножения, сопоставляющую
каждой паре векторов X и Y комплексное число (X, Y) — с к а ­
л я р н о е п р о и з в е д е н и е X и К, обладающее обычными
свойствами скалярного произведения (х, у) = х1у1 + • • • + хпуп
векторов х = (хъ ..., хп) конечномерного комплексного евклидова
пространства. А именно, произведение (X, Y) должно быть таким,
что (X, Y) = (ГГХУ, (СХ, у) = с (X, Y), (Хг + Х2, Y) =
= (Хъ Y) + (Х2, Y) и (X, X) > 0, если
X Ф О (т. е.
если ОХ Ф X); положительное число (X, Х)1/2 = ||Х|| в> таком
случае называется н о р м о й X (или д л и н о й вектора X).
Если рассматриваемое векторное пространство Я является
конечномерным, т. е. среди его элементов можно найти такую
конечную группу (Хъ ..., Хп), что любое X будет уже представимо
в виде линейной комбинации схХх + • • • + cnXit, то Я будет пред­
ставлять собой обычное конечномерное евклидово пространство.
Оказывается, однако, что и на общий случай векторного про­
странства Я со скалярным произведением (вообще говоря, бес­
конечномерного), называемого в математике г и л ь б е р т о ­
вым
пространством,
также
просто переносятся
многие представления и факты обычной евклидовой геомет­
рии.54
Относящиеся к гильбертовым пространствам геометрические
рассмотрения имеют многие важные приложения к корреляцион­
ной теории случайных функций. В самом деле, рассмотрим сово­
купность Я всевозможных комплексных случайных величин X
с ограниченным средним квадратом модуля (|Х| 2 ) (т. е. с конеч­
ной дисперсией). Это Я является линейным векторным простран­
ством: действительно, если ( | Х | 2 ) < о о , то и (|сХ| 2 ) =
- М 2 (|Х| 2 > < сю, и если < | Х | 2 ) < о о и < | 7 | 2 ) < о о , то,
как легко видеть,55 <| X + Y\2) < оо, т. е. сХ и X + Y здесь
также принадлежат Я. Определим теперь в пространстве Я
7. Комплексные случайные функции
81
скалярное произведение (X, Y) векторов X и У и норму ||Х|
вектора X с помощью равенств
(X, У) = <ХУ>, | | Х | - ( | Х | 2 ) 1 / 2 .
(1.80)
Ясно, что такие скалярное произведение и норма удовлетворяют
всем свойствам обычных скалярного произведения и квадрата
длины вектора конечномерного евклидова пространства, т. е. Я
является гильбертовым пространством.
Случайная последовательность X (/) с точки зрения изложен­
ных здесь геометрических представлений — это счетная после­
довательность элементов (векторов или точек) гильбертова про­
странства Я; случайный же процесс X (t) — это однопараметрическая совокупность точек Я, т. е. иначе говоря, к р и в а я
в этом пространстве.56 Корреляционная функция В (t, s) =
= (X (/), X (s)) представляет собой скалярное произведение век­
торов X (/) и X (s), т. е. является основной геометрической ха­
рактеристикой соответствующей последовательности точек или
кривой.
Таким образом, например, корреляционная теория случайных
процессов в известном смысле эквивалентна теории кривых гиль­
бертова пространства. В частности, стационарным случайным
процессам отвечают кривые X (t) этого пространства, для которых
скалярное произведение (X (t), X (s)) зависит только от / — s.
Нетрудно понять, что геометрически последний факт означает,
что существует однопараметрическая группа вращений простран­
ства Я, переводящая точку X (0) в произвольную точку X (/),
а всю кривую — в саму себя (в трехмерном пространстве таким
свойством будет обладать только окружность).
Отметим еще в заключение, что при исследовании случайной
функции X (/) вовсе необязательно привлекать к рассмотрению
все гильбертово пространство Я всевозможных случайных вели­
чин X с ограниченным средним квадратом (|Х| 2 ). Вполне доста­
точно ограничиться лишь рассмотрением более узкого гильбер­
това пространства Нх (являющегося л и н е й н ы м
под­
п р о с т р а н с т в о м пространства Я), состоящего из всевозт
можных конечных линейных комбинаций YJ ckX (tk) и всех пределов в среднем квадратичном последовательностей таких линейных
комбинаций. Норма и скалярное произведение в Нх задаются
точно так же, как и во всем пространстве Я; преимуществом Нх
является, однако, то, что это новое гильбертово пространство
уже непосредственно связано именно с функцией X (t) и не со­
держит никаких «лишних» элементов (ибо Нх — это наименьшее
из линейных подпространств Я, содержащих все элементы X (t)).
Глава 2
ПРИМЕРЫ СТАЦИОНАРНЫХ СЛУЧАЙНЫХ ФУНКЦИЙ.
СПЕКТРАЛЬНОЕ РАЗЛОЖЕНИЕ
Ряд примеров стационарных случайных функций был уже
рассмотрен во введении и § 3. Ниже будет приведен ряд допол­
нительных примеров, охватывающих широкие классы таких функ­
ций и естественно приводящих к важному представлению произ­
вольных стационарных случайных функций в виде должным
образом модифицированного интеграла Фурье.
8.
Примеры стационарных случайных последовательностей
Пример 1. Самым простым примером стационарной последо­
вательности является последовательность Е (t), t = О, ± 1 , ± 2 , ...
независимых (вещественных) случайных величин, имеющих оди­
наковое распределение вероятностей. Примем, что (Е (t)) = О,
а &Е = (Е2 (/)) = 1. В таком случае корреляционная функция
последовательности Е (t) будет равна
[ 1 при т = 0,
В(т)~<£<* + т)£<*)> = { 0
прит=^0.
(2Л)
В общем случае элементы Е (t) стационарной (в широком
смысле) последовательности, имеющей нулевое среднее значение
и корреляционную функцию (2.1), могут и не быть ни одинаково
распределенными, ни взаимно независимыми; из (2.1) следует
лишь, что они имеют одинаковые дисперсии (равные единице)
и некоррелированы друг с другом. В дальнейшем такие последо­
вательности мы будем называть п о с л е д о в а т е л ь н о с ­
тями
некоррелированных
случайных
ве­
л и ч и н * : если не оговорено обратное, то Е (t) при дискретном /
всегда будет обозначать одну из них. С точки зрения геометрии
гильбертова пространства Н (см. § 7) последовательность некор* Заметим, что в частном случае гауссовских стационарных последователь­
ностей из некоррелированности автоматически вытекает независимость, а из
одинаковости дисперсий (при нулевых средних значениях) — одинаковость
распределений вероятностей.
8. Примеры стационарных случайных последовательностей
83
релированных случайных величин, очевидно, представляет собой
ортонормированную последовательность векторов (т. е. последо­
вательность взаимно ортогональных векторов единичной длины).
Пример 2. Пусть теперь
X (t) = E(t) + E(t-\)+^-+E(t~m+\)
^
(2 2)
Ут
Ясно, что X (t) будет стационарной случайной последователь­
ностью с нулевым средним значением. Легко проверить, что
здесь
1
при|т|<т—1.
' (2.3)
О
при | т | > т,
т. е. с увеличением т корреляционная функция убывает от еди­
ницы до нуля в арифметической прогрессии, а далее остается
равной нулю.
Пример 3. Обобщением примера 2 является последовательность
X(t)=
У bkE(t-k\
—
т
Я(т) = <Х(/ + т) *(*)> =
/ = . . . , - 2 , - 1 , 0, 1, 2, . . . , (2.4)
k=0
где bk — какие-то числа (для простоты мы их будем считать
вещественными). Нетрудно видеть, что в этом случае
В ( Т )
\
\
(
W»*
при|т|<п,
0
при | т | > п.
(25)
Последовательность X (t) вида (2.4) называется п о с л е ­
довательностью
скользящих
средних
по­
рядка п (или, иначе, п о с л е д о в а т е л ь н о с т ь ю , п о л у ­
чаемой с помощью скользящего
суммиро­
в а н и я п о р я д к а п). Можно показать, что каждая стацио­
нарная последовательность X (t) такая, что В (т) = 0 при | т| > п,
но В (п) Ф О, может быть представлена в виде последователь­
ности скользящих средних порядка п.57
Пример 4. Пример 3 можно обобщить, приняв п = оо. При
этом для того, чтобы бесконечная сумма
X(t)=%bkE{t-k)
(2.6)
была сходящейся, надо, чтобы выполнялось неравенство
оо
£|М2<°°
(2.7)
Глава 2
84
(сумма (2.7) тогда будет равна В (0) = (| X (t)\2)). Можно также
допустить, что индекс k в (2.4) и (2.6) принимает и отрицательные
значения, т. е. положить
X(t)=
I
bkE(t-k),
где
f
|& Л |2<оо
(2.8)
(а числа Ьк могут быть даже и комплексными). В таком случае,
очевидно,
оо
В(т) = (Х(/4-т)Х77)>=
1
Ьк+Хбк.
(2.9)
&==—оо
Стационарные последовательности вида (2.6) или (2.8) также
часто называют п о с л е д о в а т е л ь н о с т я м и
сколь­
з я щ и х с р е д н и х (бесконечного порядка); в случаях, когда
хотят отметить, что речь идет именно о виде (2.6) или, соответ­
ственно, (2.8), говорят об о д н о с т о р о н н и х или, соответ­
ственно, д в у с т о р о н н и х с к о л ь з я щ и х
средних.
Ясно, что формулы вида (2.6) или, тем более, (2.8) описывают срав­
нительно широкий класс стационарных случайных последова­
тельностей.58
Пример 5. Предположим, что
X(t) = aX(t— \) + cE(t),
(2.10)
где для простоты мы считаем а и с вещественными, и \а\ < 1.
Согласно (2.10), каждый следующий член последовательности
X (t) может быть получен с помощью добавления к умноженному
на а последнему ее члену какого-то не зависимого от всего прош­
лого слагаемого сЕ (t) фиксированной дисперсии а2 = |с| 2 . Иначе
говоря, здесь за время от t — 1 до t функция X (t) частично зату­
хает (ибо \а\ < 1), но в то же время подвергается еще и «внешнему
возмущению», сводящемуся к добавлению случайного «толчка»
сЕ (t). Если задать последовательность Е (t) и выбрать произволь­
ным образом значение X (Q = х*0, то по формуле (2.10) легко
определить последовательно все значения X (t0 + 1), X (/0 + 2),
X (А) + 3) и т. д.; легко понять, что при этом вначале значение
Xt0 еще будет как-то сказываться на значениях X (tQ + л), но
по мере удаления от начального момента t0 его роль будет все
более и более ослабевать. Это рассуждение подсказывает, что
должна существовать стационарная последовательность X (t),
удовлетворяющая уравнению (2.10), причем ее можно получить
с помощью предельного перехода, выбрав xto каким угодно, но
затем положив, что t0 -^ — оо.
8. Примеры стационарных случайных последовательностей
85
Легко видеть, что решение уравнения (2.10) при начальном
условии X (Q = xto имеет вид
X (t0 + п) = апхи + с £ ап~*Е (t0 + Л) =
k=\
-anxto
+ c Г a'ffo + n - / ) .
/=о
Отсюда ясно, что стационарным решением этого уравнения
будет решение
оо
X(t) = cY- aiE(t-i),
t= . . . , — 2, — 1, 0, 1, 2, . . . (2.11)
/=о
являющееся частным случаем последовательности односторонних
скользящих средних бесконечного порядка.
Стационарная последовательность вида (2.11) называется п оследовательностью
авторегрессии
пер­
в о г о п о р я д к а . Воспользовавшись формулой (2.9), легко
показать, что ее корреляционная функция имеет вид
В(т) = (X (t + т) X (*)> = Са1х\ С = \с|2/(1 - а2). (2.12)
Пример 6. Обобщением примера 5 является п о с л е д о в а ­
т е л ь н о с т ь а в т о р е г р е с с и и п о р я д к а т , опреде­
ляемая как стационарное решение уравнения в конечных раз­
ностях вида
Х^ + а.ХЦ- 1)Н
\-aMX{t — m) = cE(f).
(2.13)
где ат Ф 0. Уравнение (2.13) позволяет по значениям Е (t) и за­
данным т начальным условиям X (t0) = Xt0, X (t0 — 1) = #/0-ь
..., X (t0 — m + 1) = xt0-m+\ легко находить все значения
X (t) с t > t0. Для того, чтобы такое решение приближалось
к стационарности при t — tQ -+ оо (в частности, при t0 ->■ —оо)
надо, чтобы все корни уравнения
\+axz-\
^amzm = 0
(2.14)
были по модулю больше единицы (т. е. чтобы все корни аъ а2,
..., ат уравнения zm + ахгт~х + • • • + ат = 0 были по модулю
меньше единицы). В этом случае, как можно показать, уравнение
(2.13) будет иметь единственное стационарное решение, явля­
ющееся частным случаем последовательности (2.6) односторонних
скользящих средних бесконечного порядка, построенной по Е (/).59
Имея в распоряжении какую-то последовательность «случай­
ных чисел» е (1), е (2), ... имитирующих реализацию последова­
тельности независимых случайных величин Е (1), Е (2), ...
с (Е (t)) = 0, (Е (t) Е (s)> = 8/s и заданным распределением
вероятностей (числа е (1), е (2), ... могут быть, например, заимство-
86
Глава 2
ваны из какой-то таблицы случайных чисел или же заново под­
считаны на ЭВМ, как это обычно делается при вычислениях по
методу Монте-Карло)60, легко получить и реализацию х (f), после­
довательности авторегрессии X (t) с | а , | < 1, / = 1, ..., т.
Для этого надо только, выбрав как-то начальные условия х(0) =
= л;0, х (—1) = х_г, ..., х (—т + 1) = х_т+1, определять одно
за другим значения х (t) с t > 0 по формуле х (t) = —агх (t —1) —
— ... — атх (t — т) + се (t), а затем отбросить некоторое число
начальных членов полученного ряда х (t), достаточное для прак­
тически полного затухания переходного процесса, на протяжении
которого еще сказывается специальный выбор начальных усло­
вий. В частности, именно такими реализациями последовательно­
стей авторегрессии (второго порядка) являются и те модельные
последовательности х (t), t = 1, 2, ..., 480 или же t = 1, 2, ...,
15 000, и ха) (t) и х(2) (t), * = 1, 2, ..., 200, о которых шла речь
на с. 73—74 в связи с обсуждением рис.9 (последовательности на
рис. 9 а, в, отвечали модели са х = —1,1, а2 = 0,5, а на рис. 9 6 —
модели с аг = —0,7, а2 = 0,49).
Представление последовательности X (t) в виде (2.6) может
быть, в частности, использовано для вычисления корреляционной
функции В (т) = (X (t + т) X (t)) (другой, более простой, метод
определения функции В (т) для последовательностей авторегрес­
сии будет рассмотрен в § 17). Например, если т = 2 и корни аг
и а2 уравнения г2 + ах2 + а2 = 0 (оба меньшие единицы по мо­
дулю) различны, то можно показать, что
В (Т) w
,,,2
/ар
£1
(а1-а2)(1-а1а2)
_1
\ х - а\
1
ар1\
2
1 - а\J
(2
V
j5 )
;
в случае же кратных корней аг = а2 = а здесь надо перейти
к пределу аг -+ а2, после чего получается формула
ад = тт^)5<1 т 1 + 1>а1т|-
(2Л5а)
Если корни а х и а 2 Ф аг вещественные, то правая часть
(2.15) является линейной комбинацией двух экспоненциально
затухающих функций; если же корни ах = aeiQ и а2 = ae^iQ
комплексно сопряженные, то формулу (2.15) удобнее переписать
в виде
В (т) = Са |х| cos (0 | т | - Y),
(2.156)
где
с
_
\с\2
(1 — а 2 ) (1 — 2а 2 cos 20 + а 4 ) 1 / 2 sin 9 '
^ = arctgli^^,
8. Примеры стационарных случайных последовательностей
87
так что В (т) здесь имеет форму затухающего гармонического
колебания.61 В частности, форму (2.156) имеют и нормированные
корреляционные функции R (т) = В (т)/В (0) на рис. 9 а—е.
Заметим еще, что поскольку X (t) представимо в виде (2.6),
то (Е (t) X (t — k)) = 0 при k > 0. Используя этот результат,
мы, после умножения обеих сторон комплексно сопряжен­
ного равенства (2.13) на Е (t) и последующего осреднения,
найдем, что (Е (t) Xjf)) = с(\Е (t) |2> = с.
Умножим теперь все члены (2.13) на X (t — k) и снова осредним то, что получится; при этом мы придем к равенствам
В{к) + агВ{к — 1)Н
\-amB(k-m)
= 0
(2.16)
при k = 1, 2, . . .
и
Bify + OiBik— 1)Н
\-amB{k-m)^
\с\2
при k = 0. (2.16а)
Уравнения (2.16) и (2.16а) часто называются у р а в н е ­
н и я м и Ю л а — У о к е р а ; нетрудно проверить, что функции
(2.12) и (2.15) — (2.156) действительно удовлетворяют уравне­
ниям такого рода.
Пример 7. Обобщением как примера 6, так и примера 3, яв­
ляется стационарная последовательность X (/), удовлетворяющая
уравнению
X(t) + a1X(t-\)+...+amX(t-m)
=
= c[E{t) + blE{t-\)+.-.+
bnE(t - л)];
(2.17)
она обычно называется с м е ш а н н о й п о с л е д о в а т е л ь ­
ностью авторегрессии —скользящих
сред­
н и х . Мы будем рассматривать лишь случай, когда все корни
уравнения (2.14) по модулю больше единицы; в таком случае
последовательность X (t) опять же будет представима в виде
суммы (2.6) с коэффициентами специального вида.62 Исходя
отсюда во многих случаях можно без труда получить и явную
формулу для В (т); частный случай т = п = 1 и вещественных
аг = а и bi = Р, меньших единицы, будет рассмотрен в § 17
(см. формулу (2.259)). Из возможности представления X (t) в виде
(2.6) снова следует, что (Е (t) X (t — k)) = 0 при k > 0; поэтому
из (2.17) вытекает, что корреляционная функция В (т) в рассма­
триваемом случае удовлетворяет уравнениям типа Юла — Уокера
вида
В(к)-\-агВ(к—
1Н
\-amB(k-m)
k = n+ 1, я + 2, •••
= 0,
(2.18)
88
Глава 2
Нетрудно указать много других примеров стационарных слу­
чайных последовательностей X (t). В частности, здесь можно
воспользоваться и методами, аналогичными используемым ниже
в применении к случаю непрерывного t (см., например, начало
§ 15).
9.
Примеры стационарных случайных процессов
В этом и следующих пяти параграфах мы будем рассматривать
только случайные процессы X (t), зависящие от непрерывно ме­
няющегося аргумента t. В случае такого t не существует простого
аналога последовательности некоррелированных случайных ве­
личин Е (t)\ это обстоятельство сильно усложняет построение
примеров стационарных случайных процессов, аналогичных при­
мерам последовательностей, рассматривавшихся в предыдущем
параграфе. Поэтому несмотря на то, что на самом деле подобные
примеры случайных процессов все же существуют и даже играют
большую роль во многих приложениях, мы отложим их рассмотре­
ние вплоть до § 14 и будем строить примеры случайных процессов
на основе совсем других соображений. А именно, мы рассмотрим
ряд процессов X (t), задаваемых простыми аналитическими форму­
лами, содержащими случайные параметры. Начнем с простейшей
такой формулы вида X (t) = ХФ (/), где X— случайная величина,
а Ф (t) — числовая функция аргумента t.
Пример 1. Пусть
X(t) = XQ>(t),
(2.19)
где X — случайная величина, а Ф (t) — комплексная функция
вещественного аргумента t, причем —оо < t < оо. Поскольку
(ХФ (*)> = Ф (t) (Х>, то ясно, что если Ф (t) ф const (т. е.
процесс (2.19) не сводится к постоянной случайной величине),
то X (/) может быть стационарным процессом лишь, если
<Х> = 0.
(2.20)
Если же равенство (2.20) имеет место, то для стационарности
X (t) надо только, чтобы функция
<Х(^ + т)"Щ> = Ф(/ + т)Ф^)(|Х| 2 >
не зависела от t, т. е. чтобы от значения t не зависело произведе­
ние Ф (t + т) Ф (t). Полагая здесь т = 0, получаем
| ф (*)|2 = Г 2 = c o n s t, ф (t) = re'" {t),
(2.21)
где г — вещественное число, ф (t) — вещественная функция t.
9. Примеры стационарных случайных процессов
89
Подставив найденную формулу для Ф (t) в выражение
Ф (t + т) Ф (t), получим, что разность ф (t + т) — ф (t) не должна
зависеть от t. Предположив для простоты, что функция ф (t) диф­
ференцируема*, сразу же получаем:
4t ( P(*f*)-<P(0] = 0, т.е.
Ф '(*
+ т) = ф'(*).
Так как т здесь может быть любым, то это означает, что ф' (t) —
= со = const, т. е.
<p(f) = orf + e,
ФЦ)=ге'{(йШ).
(2.22)
Постоянный множитель reid теперь можно включить в состав
случайной величины X (т. е. обозначить одной буквой X все
произведение XreiQ). Поэтому отличный от постоянной случай­
ный процесс вида (2.19) будет стационарным тогда и только тогда,
когда он имеет вид
ХЦ)±Хеш,
(2.23)
где X — комплексная случайная величина с нулевым средним
значением, а со — вещественная постоянная.
Случайный процесс (2.23) очевидно описывает гармоническое
колебание круговой частоты со со случайной амплитудой и случай­
ной фазой; вещественная (а также и мнимая) часть каждой его
реализации представляет собой косинусоиду вида хп) (t) =
= a cos (со/ + ф), где а и ф меняются от реализации к реализации.
Корреляционная функция здесь имеет вид
В(х) = (X(t + т) ХЩ) = (| X |2) еШх - feiax,
(2.24
где / = (| X |2) > 0 — среднее значение квадрата амплитуды коле­
бания, пропорциональное его средней энергии (или мощности).**
Заметим, что от статистических характеристик фазы ф колебания
X (t) Корреляционная функция (2.24) вовсе не зависит.
Пример 2. Дальнейшие примеры стационарных случайных
процессов можно получить, рассматривая линейные комбинации
процессов вида (2.23). Пусть, например,
X (t) = ХхеШх* + Х2еШя\
(2.^5)
* Нетрудно видеть, что в действительности это условие можно сильно осла­
бить; например, вполне достаточно считать функцию ф (t) лишь непрерывной
(т. е. рассматривать любые непрерывные процессы вида (2.19)).
** Если X (t)—это скорость некоторого механического колебания, то /
пропорционально его средней кинетической энергии; если X (t) есть сила тока
или электрическое напряжение, то / пропорционально энергии (точнее говоря
мощности) тока и т. д.
90
Глава 2
где Хг и Х2 — случайные величины с нулевым средним значе­
нием.
Ясно, что здесь (X (t)) = 0 и
W
= <(X/ <
(/+т)
(ХЦ + т)Щ) =
+ Х,/"2 (/+т)) (Х^"'^ + Х ^ ) )
2
40 1
{ 1
ш) t+i tX
- <| Хг | ) е' ' + (ХХХ2) е' " -"
(C0l C02) /+ ю т
"
2
-
+
шт
4- ( ^ Х , ) в"' ' ' + <| X, | ) е ' .
Для того, чтобы процесс (2.25) был стационарным, последнее
выражение не должно зависеть от t. В силу линейной независи­
мости фуНКЦИЙ gi(<0i-fi)2)^ e-i (сОх-(о2) / и \ П р И ^ - ^ . ^ э т 0 в о з .
можно, лишь если
(Х1Х2) = (Х1Х2) = 0.
(2.26)
Итак, процесс (2.25) будет стационарным в том и только в том
случае, когда Хг и Х2 — некоррелированные комплексные слу­
чайные величины с нулевым средним значением. В этом случае
X (t) представляет собой суперпозицию двух некоррелированных
колебаний частот ы1 и со2 со случайными амплитудами и фазами.
Корреляционная функция здесь равна
В (т) = <| Хг |2> еш« + <| Х212> еш" = / / W l T + f/"",
(2.27)
где /i и /2 — средние энергии соответствующих колебаний.
Заметим, что процесс (2.25) может быть и вещественным (про­
цесс (2.23) обязательно комплексный). Для этого надо только,
чтобы выполнялись соотношения со2 = —(дх = —со и Х2 = Х х
(т. е. Хг = (U — iV)/29 Х2 = (U + iV)l2). В таком случае, оче­
видно,
X(t) = U cos Ы + V sin со/,
(2.28)
где U и V — вещественные случайные величины. Равенство
(2.26) здесь сводится к равенствам
<£/»> == (У2) = g, (UV) - 0
(2.29)
2
2
(где g = <| J>CX | >/2 = (|Х2| >/2), а корреляционная функция
(2.27) запишется в виде
B( T ) = gcoscoT.
(2.30)
Пример 3. Аналогично обстоит дело и в случае суперпози­
ции п случайных гармонических колебаний:
X(t)=t
Xkei(»k<,
где или (Хг) = (Х2) = . • ■ = (Хп) = 0,
= (Хп) = 0, а со, = 0.
(2.31)
или <Х 2 >=--- =
9. Примеры стационарных случайных процессов
91
Как и в примере 2, легко показать, что процесс (2.31) будет
стационарным, если только
<ХДу> = 0 при \ф\.
Корреляционная функция В (т) здесь имеет вид
<| Xk |2> еш# - t
В(х) = I
fke^\
(2.32)
(2.33)
где fk > О при всех k. Коэффициенты fk очевидно определяют
среднюю энергию отдельных гармонических колебаний, входя­
щих в состав процесса (2.31). Положив в (2.33) т = 0, получим
равенство
5(0) = < | Х ( 0 | 2 > = Г /ь
(2.34)
показывающее, что при суперпозиции гармонических колебаний
с некоррелированными амплитудами средняя энергия составного
движения равна сумме средних энергий отдельных его гармониче­
ских компонент.
Будем для определенности считать, что ык Ф О при всех k
(так что (Xk) = 0 при всех k и (X (/)) = 0). Тогда для того, чтобы
процесс (2.31) был вещественным, число п должно быть четным
(равным 2т), а 2т слагаемых суммы (2.31) должны распадаться
на т пар комплексно сопряженных слагаемых. В этом случае
процесс Х- (t) можно представить в виде
т
X (t) = Г (Uk cos <dkt + Vk sin o)^),
(2.35)
где (o^ > 0 при всех k, Uk и Vk — вещественные случайные
величины с (Uk) = (Vk) = 0, и в силу (2.32) должны иметь
место равенства (UkVf) = 0 при всех k и /, (UkUj) = (VkVj) = О
при k Ф j и <(/!) = <V|) = gig = /У2 (ср. с равенствами (2.29)).
Если частоты со^ включают и нулевую частоту ы1 = О ((X (/))
может в этом случае и отличаться от нуля), то в вещественном
случае формула (2.35) все равно будет иметь место, а также будут
справедливы и все остальные выписанные выше равенства с той
лишь разницей, что теперь со^ > 0, a (UJ здесь может и отли­
чаться от нуля.
Корреляционная функция (2.33) наряду со слагаемым ^б ш * т ,
где G)^ =^ 0, в вещественном случае обязательно будет включать
и комплексно сопряженное слагаемое fke~t(°kX и, следовательно,
Может быть переписана в виде
т
5 ( т ) = I* g*coscoA,T.
к=\
(2.36)
92
Глава 2
В формуле (2.31) можно положить и п = оо. Тогда для того,
чтобы бесконечная сумма в правой части (2.31) представляла
собой случайную величину конечной дисперсии, очевидно должно
выполняться условие
оо
оо
Е < | Э Д = £ /*<оо.
(2.37)
При условии (2.37) ряд
оо
* ( 0 = F X^'"*',
(2.38)
где (Xk) = 0 при всех k и (XkXj) = 0 при £ ^ /, будет сходя­
щимся (в смысле сходимости в среднем квадратичном). Корре­
ляционная функция В (т) процесса (2.38) равна
В ( * ) = ? ■ fkei(*kT.
(2.39)
k=\
В вещественном случае формулы (2.38) и (2.39) могут быть, раз­
умеется, переписаны в виде, аналогичном (2.35) и (2.36).
Стационарные случайные процессы вида (2.31) или (2.38)
называются п р о ц е с с а м и
с дискретным
спек­
т р о м ; с п е к т р о м п р о ц е с с а в этом случае называется
соответствующая совокупность чисел соь со2, ••• 63- Из формулы
(2.39) нетрудно вывести, что в рассматриваемом случае спектр
всегда можно однозначно определить по корреляционной функции
В (т) процесса X (/) — он совпадает с совокупностью тех значений
со, для которых
т
1
х
(2.40)
lim о т J В(т)е-*" с1тф0.
7^оо ZI -т
Легко видеть также, что при со = со^ предел (2.40) равен fk\
таким образом, корреляционная функция В (т) здесь определяет
и средние значения fk квадратов амплитуд Xk отдельных гармони­
ческих компонент ХкеШк* процесса X (t). В частном случае,
когда вещественный стационарный процесс X (t) с дискретным
спектром является гауссовским, легко показать, что веществен­
ная и мнимая части всех комплексных амплитуд Xk должны иметь
одинаковое нормальное распределение вероятностей; при этом
вещественные амплитуды | Xk | будут иметь так называемое распре­
деление Рэлея с плотностью вероятности р (х) = 2xfll ехр (—x2/fk)
при х > 0, а все фазы ср^ = arg Xk будут равномерно распреде­
лены на окружности 0 < ср < 2я. Поэтому в гауссовском случае
корреляционная функция В (т) будет однозначно задавать процесс X (/).
9. Примеры стационарных случайных процессов
93
В качестве следующего, несколько более сложного примера
мы рассмотрим случай формулы для X (t), содержащей уже бес­
конечное число случайных параметров.
Пример 4. Пусть X (f) — пуассоновский импульсный процесс
вида
X (.<) = 1 £ „ Г (*-/„),
(2.41)
п
где (как и в формуле (В.26)) Г (t) — фиксированная (неслучай­
ная) функция, которую мы будем считать ограниченной и стре­
мящейся к нулю при t -> ±оо (причем достаточно быстро, чтобы
обеспечить сходимость всех встречающихся ниже интегралов),
последовательность ..., tn_x, tn, tn+1, ... — пуассоновская после­
довательность случайных точек с параметром X (так, что
среднее число точек /„ на интервале времени длины s равно Xs),
а ..., Еп_ъ Еп, Еп+Ъ ... — последовательность независимых
(и друг от друга, и от всех величин tn) одинаково распределенных
случайных величин со средним значением (Еп) = тЕ и диспер­
сией {(Еп — (Еп))2) = оЕ. Таким образом, случайными пара­
метрами в формуле (2.41) являются величины Еп и tn.
Начнем с вычисления среднего значения процесса X (t).
В силу независимости случайных величин Еп и tn (а значит,
также Еп и Г (t — tn))
(X(t))=T
(Ea)(V{t-tn))^mE(YT{t-tn)\.
Нам будет удобно ввести в рассмотрение упоминавшийся на
с. 27—28 пуассоновский случайный процесс Af (f), при t > 0 рав­
ный числу случайных точек tk на интервале [0, t], а при t < 0 —
взятому со знаком минус числу точек tk на интервале [^,0](см.
рис. 5). Используя процесс N (t), можно записать соотношение
оо
2 Г (<-/„)= J T(t-s)dN(s),
(2.42)
—оо
П
где интеграл в правой части — интеграл Стилтьеса (ср. выше
с. 9).
Так как среднее число точек tk на любом интервале равно длине
этого интервала, умноженной на X, то {N (t2) — N (/х)> =
= X (t2 — ti) при t2 > U и (dN (s)) = X ds. Следовательно, в силу
(2.42)
оо
(?
оо
Г (/ - /,,)\ = J Г (/ - s) (dN (s)> = X j Г (/ - s) ds
Глава 2
94
и, значит,
оо
tn = (X(t)) = hmE ^T(u)du.
(2.43)
—оо
Аналогичный, но более сложный подсчет позволяет убедиться,
что корреляционная функция В (т) = (X (t + т) X (/)) процесса
(2.41) может быть представлена в виде64
оо
В (т) = к {т
2
Г
2
Е
+ a!) j Г (и + т) Г (и) Ли + Х /и|
— оо
оо
"I 2
J Г (и) du ,
[. — оо
J
(2.44)
так что здесь
оо
2
Ь (г) = В (т) - т = Я, ( т | + <*l) j Г (и + т) Г (u) du, (2.45)
—оо
оо
а2х
= & (0) = Я, ( т | + а | ) j Г2 (к) dH.
(2.46)
— оо
В случае, когда амплитуда импульсов постоянна, т. е. Еп —
постоянные числа, а не случайные величины (и, следовательно,
О2Е = 0), равенства (2.43) и (2.46) составляют содержание так
называемой теоремы Кэмпбела (впервые доказанной еще в 1910 г.).65
Рассмотрим два частных случая соотношений (2.43) и (2.45).
Если все импульсы прямоугольные, случайной высоты Еп, но
фиксированной ширины Т0 (см. рис. 7), то, как легко проверить,
Г т ^ / ч л
*л
Joe
так что здесь
/n = Xm£70,
f г» /
I
Ч-Р/ЧЛ
_i
6(x;=l
f То — | Т |
При
| Т
0
П И
T
I
Р
\<T0l
T
l l> 0,
* (/и| + a | ) (Г0 - | т |) при | т | < T0>
^
Q
при { x { >
(2.47)
Если же все импульсы являются экспоненциально затухающими
(т. е. Г (и) = е~аи при и > 0, Г (и) = 0 при и < 0), то
оо
'
j Г (и) </« = -£-»
—оо
оо
| Г(« + х ) Г ( М ) ^ = - ^ г е - а | т | ,
—оо
так что в этом случае
m -= ЫЕ/а,
& (т) = А, (гп% + a|) tf a |T, /2a.
(2.48)
9. Примеры стационарных случайных процессов
95
В заключение рассмотрим еще один пример стационарного
случайного процесса, задаваемого аналитической формулой, содер­
жащей конечное (и притом небольшое) число случайных параме­
тров, но резко отличающейся от тех формул, которые рассматри­
вались в примерах 1—3.
Пример 5. Пусть
X(t) ^Ye~itQ,
(2.49)
где У — случайная величина (вещественная или комплексная —■
безразлично) такая, что (Y) = О, (|F| 2 ) = я2, a Q — произволь­
ная независимая от Y вещественная случайная величина, характе­
ризуемая своей функцией распределения
P{Q<co}=f 0 (co).
(2.50)
В таком случае и Y, и | Y |2 будут случайными величинами, неза­
висимыми от величины eiiQt и поэтому здесь
(X (t)) = (Y) (е(Ш) ^ 0, (X (t + т) X (/)) = (| Y21> (eixQ).
(?.51)
Мы видим, что случайный процесс X (t) оказывается стационарным
в широком смысле, причем его среднее значение равно нулю,
а корреляционная функция может быть представлена в виде
оо
В(т)== \ eix" dF (<о)9 F(co) =
fl2FQ((o)
(2.52)
(ср. формулу (П.1)).
Так как F& (СО) — произвольная функция распределения,
а а2 — произвольное положительное число, то F (со) — произволь­
ная монотонно неубывающая функция аргумента со такая, что
lim F(co) = 0 (последнее условие, разумеется, не является ограничением, так как интеграл (2.52) вообще не меняется при добавь
лении к F (со) произвольной постоянной).
Рассмотренный пример показывает, что любая функция, представимая в виде (2.52), где F (со) — вещественная монотонно^
неубывающая функция, может являться корреляционной функ­
цией стационарного случайного процесса. Заметим, что все реали­
зации процесса (2.49) имеют весьма специальный вид комплексных
функций вида х (t) = уеш. Впрочем, в случае, когда распре­
деление вероятностей случайной величины Q является симме­
тричным относительно точки со = 0 (т. е. Р {аг < Q < а2] =
= Р{—а2 < Q < —аг\ при любых аг и а2, так что, в частности,
96
Глава 2
CIFQ (со) = CIFQ (—со) формула (2.52) может быть переписана в ве­
щественной форме:
оо
В (т) =
оо
J cos озт dF (со) = j cos сот r/G (со), G (со) = 2Т7 (со;,
—с»
(2.53)
О
а сам пример процесса X (t) может быть модифицирован таким
образом, чтобы и все его реализации х (t) оказались веществен­
ными. Для этого надо только вместо (2.49) рассмотреть случайный
процесс
Хх (!) - // 2 Y cos (tQ + Ф),
(2-54)
где Y, Q и Ф — три независимые друг от друга вещественные
случайные величины (причем величину Y, если угодно, можно
заменить просто вещественной постоянной a), (Y2) = а2,Ц имеет
симметричное относительно точки со = 0 распределение вероятно­
стей с функцией распределения FQ (со), а Ф принимает значения
из интервала [0, 2я ] и имеет на этом интервале равномерное
распределение вероятностей. Легко видеть, что в таком случае
(Хг (/)) = 0 (независимо от распределения вероятностей вели­
чины К), а
оо
В(т) -- (X, (/ + т) Х1 (/)} --= a1 j cos сот d / ^ H ,
(2.55)
—с»
что совпадает с (2.53).66 Все реализации процесса (2.54) очевидно
имеют вид синусоид х (t) = / 2 у cos (со/ + ф) со случайной
фазой ср и случайной амплитудой */ 2у (впрочем, если принять,
что Y = а, то амплитуда всех реализаций будет одинаковой).
Таким образом, для любой вещественной функции В (т) вида
(2.53) можно построить стационарный случайный процесс X (/),
имеющий В (т) своей корреляционной функцией и такой, что все
его реализации представляют собой синусоиды.
Заметим, что если корреляционные функции стационарных
случайных функций, рассматривавшихся в предыдущем параграфе
и примерах 1—3 настоящего параграфа, представляли собой функ­
ции более или менее частного вида, определяемые некоторым
дискретным набором параметров, то в случае последних примеров
4 и 5 класс корреляционных функций оказался уже значительно
более широким. В самом деле, в случае примера 4 он зависит от
вещественной функции Г (а), от которой фактически лишь тре­
буется, чтобы ее квадрат был интегрируемым (т. е. чтобы имела
смысл формула (2.46)), а в случае примера 5 — от произвольной
монотонно неубывающей функции F (со), —оо < со < сю (или,
в вещественном случае, от произвольной монотонно неубывающей
функции G (со), 0 < со < оо). Ясно, что формулы (2.45), (2.52)
10. Спектральное разложение случайных процессов
97
и (2.53) охватывают весьма широкую совокупность частных при­
меров корреляционных функций, причем нетрудно показать, что
все функции (2.45) могут быть представлены также и в виде (2.53),
т. е. класс функций вида (2.45) представляет собой лишь некоторую
часть класса функций вида (2.53).67 Более того, еще в 1934 г.
Хинчиным было установлено, что формулы (2.52) и (2.53) вообще
исчерпывают весь класс возможных корреляционных функций
стационарных случайных процессов — любая функция Ь (т), кото­
рая может быть корреляционной функцией какого-либо процесса
X (t), обязательно допускает представление в виде (2.52) (а в веще­
ственном случае — в виде (2.53)), где F (со) (или G (со)) — моно­
тонно неубывающая вещественная функция.68 Эта т е о р е м а
X и н ч и н а (иногда называемая т е о р е м о й В и н е р а —
X и н ч и н а) играет весьма существенную роль в общей теории
стационарных случайных процессов, и о ней мы еще поговорим
более подробно в § 11. Однако для более четкого понимания
физического смысла формул (2.52) и (2.53) удобно предварительно
рассмотреть вопрос о представлении в виде интегралов Фурье—
Стилтьеса самих стационарных процессов X (t), хотя исторически
это представление и было установлено после появления результа­
тов Хинчина (и притом — на основе этих результатов).
Подчеркнем лишь в заключение настоящего параграфа, что
в силу теоремы Хинчина пример 5 показывает, что для любой
функции В (т), могущей быть корреляционной функцией, суще­
ствует процесс X (t), для которого (X (t + т) X (t)} = В (т) и
такой, что все реализации х (t) процесса X (t) имеют вид комплекс­
ных гармоник уеш; если же функция В (т) — вещественная, то
можно также добиться, чтобы все реализации х (t) представляли
собой просто вещественные синусоиды. Из этого замечания выте­
кает, в частности, что существует и процесс X (t) с корреляционной
функцией В (т) = о2е~а! т ', все реализации которого имеют вид
синусоид (см. с. 38).
10.
Спектральное разложение стационарных
случайных процессов
Известно, что при изучении непрерывных процессов колеба­
тельного характера во многих случаях крайне полезным оказыва­
ется гармонический анализ рассматриваемых функций, т. е. их
представление в виде ряда или интеграла Фурье. При этом,
однако, приходится иметь в виду, что представление в виде ряда
Фурье возможно лишь для довольно узкого класса периодических
функций (или, если не требовать, чтобы периоды всех членов ряда
были кратны одному основному периоду — для несколько более
общих, но все же относительно специальных почти-периодических
4
А. М. Яглом
98
Глава 2
функций G0), а представление в виде интеграла Фурье — лишь для
функций, достаточно быстро убывающих на бесконечности *.
В приложениях эта трудность часто обходится крайне просто:
без всякого обоснования предполагают, что представление в виде
интеграла (или ряда) Фурье для исследуемых функций всегда
является возможным, и затем применяют обычные формулы,
строго доказанные лишь для некоторых специальных классов
функций. Замечательно, что несмотря на очевидную математиче­
скую нестрогость такого подхода, он с успехом применялся целым
рядом выдающихся ученых-физиков и многократно приводил
к бесспорно верным результатам. Это обстоятельство явно пока­
зывает, что на самом деле гармонический анализ имеет более
широкую область применения чем та, которая указывается в стан­
дартных математических руководствах.
В специальной математической литературе можно найти ряд
попыток расширения рамок гармонического анализа, позволяю­
щих охватить также и некоторые классы незатухающих (и непе­
риодических) функций, но ни одна из них так и не привела к вполне
удовлетворительным результатам. Типичный (и наиболее известный)
пример теории такого рода представляет собой так называемый
обобщенный гармонический анализ Винера, прямо возникший из
стремления автора придать строгий смысл физическому понятию
спектра незатухающих беспорядочных колебаний. Винер иссле­
довал класс (неслучайных) функций х (/), —оо < / < оо, при­
нимающих, вообще говоря, комплексные значения, и таких, что
для них при любом т существует следующий конечный предел:
т
lim-g^r [x(t + t)7{j)dt = Д ( т ) ;
(2.56)
основное внимание при этом было уделено подклассу функций
х (t)y для которых функция В (т) не только существует, но и
непрерывна.
В применении к таким функциям Винер доказал ряд важных
математических теорем; в частности, он показал, что В (т) здесь
всегда допускает представление в виде (2.52) или (в вещественном
случае) (2.53) и что соответствующая функция F (со), которую он
предложил назвать спектром функции х (t), всегда является неубы* Наряду с рядами и интегралами Фурье можно, разумеется, рассмотреть
и более общие интегралы Фурье — Стилтьеса, которые нам уже встречались выше
(см., например, формулу (2.52) и будут еще играть большую роль в дальнейшем
изложении. Однако в применении к обычным (не случайным) функциям времени
представление в виде интеграла Фурье—Стилтьеса также возможно только в ис­
ключительных случаях — практически лишь для функций, представимых в виде
суммы функции, затухающей на бесконечности, и периодической или почтипериодической функции.
10. Спектральное разложение случайных процессов
99
вающей и обладает многими свойствами, согласующимися с физи­
ческими представлениями о спектре колебательного процесса.
Однако гармонический анализ самих функций х (t) (т. е. их пред­
ставление в виде суперпозиции комплексных гармонических колеба­
ний е1Ш) имел в теории Винера громоздкий и малопривычный вид,
а его связь со спектром F (со) оказалась сложной и ненаглядной.70
Значительный шаг вперед в направлении обоснования гермонического анализа незатухающих функций был сделан в спектраль­
ной теории стационарных случайных процессов, созданной в период
1934—1942 гг. в работах Хинчина, Колмогорова и Крамера.
Заметно более простые и законченные результаты здесь удалось
получить, перейдя от рассмотрения индивидуальных функций
х (t) к рассмотрению сразу множества таких функций с заданным
на нем распределением вероятностей, т. е. к рассмотрению случай­
ного процесса X (t). Условие существования предела (2.56) при
этом естественно заменилось условием стационарности (в широком
смысле) процесса X (/). Заметим еще, что если процесс X (t)
к тому же является еще и эргодическим (точнее говоря, таким, что
для его моментов второго порядка справедлива эргодическая
теорема, формулируемая в терминах сходимости почти наверное —
именно такие процессы нам здесь будет удобно называть эргодическими), то реализации х (t) этого процесса с вероятностью
единица будут таковы, что для них предел (2.56) будет существо­
вать и будет равен корреляционной функции (X (t + т) X (t))
процесса X9(t).
Таким образом, в применении к частному (но, пожалуй, самому
важному — ср. примечание10) классу функций х (t), обладающих
временным средним (2.56), — классу реализаций эргодических
стационарных случайных процессов — относящаяся к математи­
ческому анализу теорема Винера о представимости функции (2.56)
в виде (2.52) или (2.53) оказывается простым следствием общей
теоремы Хинчина, относящейся к теории вероятностей (теории
стационарных случайных процессов). С другой стороны, выше уже
отмечалось, что встречающиеся на практике стационарные случай­
ные процессы почти всегда являются эргодическими в определенном
выше смысле; поэтому для них теорема Хинчина вытекает из
теоремы Винера (и эргодической теоремы). Именно по последней
причине теорему Хинчина о представимости корреляционной
функции любого стационарного случайного процесса в виде (2.52)
(или (2.53)) иногда также называют теоремой Винера—Хинчина.
Основное преимущество перехода от рассмотрения индиви­
дуальных функций х (t) к рассмотрению стационарных случайных
процессов X (t) связано с гораздо большей простотой гармони­
ческого анализа таких процессов. Мы уже видели, что в некоторых
случаях спектральное представление стационарного случайного
процесса X (t) имеет очень простой вид: если X (t) — это процесс
4*
Глава 2
100
с дискретным спектром, то его можно представить в виде дискрет­
ной суммы некоррелированных гармонических колебаний:
оо
Х(/)=Г- Vю*'Разумеется, стационарные случайные процессы с дискретным
спектром не исчерпывают еще всех типов стационарных случайных
процессов; это следует, например, из того, что корреляционная
функция В (т) процессов с дискретным спектром никогда не
затухает на бесконечности (она является периодической или почтипериодической функцией т), в то время как корреляционные функ­
ции почти всех реально встречающихся стационарных процессов
с нулевым средним значением быстро стремятся к нулю при т->оо.
Оказывается, однако, что любой стационарный случайный
процесс X (t) может быть получен как предел последовательности
процессов с дискретным спектром (причем эти последние можно
даже все считать суммами лишь конечного числа гармонических
компонент, т. е. задавать формулами (2.31)). А именно, можно
доказать, что для каждого стационарного случайного процесса
X (/), любого (сколь угодно малого) е > 0 и любого (сколь угодно
большого) Т можно подобрать такие (вообще говоря, комплексные)
попарно некоррелированные случайные величины Хъ Х2, ..., Хп
(где число /г, разумеется, будет зависеть от 8 и Т) и такие веществен­
ные числа (O-L, ..., (о„, что при любом t из интервала —Т < t < Т
X(t)-
Г
х#ш*
< 8.
(2.57)
Отсюда, в частности, следует и то, что для каждого стационарного
случайного процесса X (t), любых 8 > 0 и т ] > 0 и любого Т > 0
существуют некоррелированные случайные величины Хъ Х2, ...,
Хп и вещественные числа o)lf со2, ..., шЛ такие, что при любом ty
по модулю не превосходящем Т,
U ( 0 — Г Хкеш**\ < 8 > 1 - т |
(2.57а)
I
k=\
I
(ср. переход от (1.31) к (1.34)).
Равенства (2.57) и (2.57а) показывают, что стационарный
случайный процесс X (t) всегда можно сколь угодно точно аппрок­
симировать линейной комбинацией попарно некоррелированных
гармонических колебаний со случайными амплитудами и фазами.
Они являются следствием общей теоремы о спектральном разложе­
нии стационарных случайных процессов — по-видимому, самой
важной из всех теорем о таких процессах.
Помимо утверждения о существовании сумм гармонических
колебаний, удовлетворяющих соотношениям (2.57) и (2.57а), эта
10. Спектральное разложение случайных процессов
101
теорема включает еще и некоторые утверждения о предельном
поведении этих сумм при е —* 0 (или е —* 0 и ц --* 0). Дело
в том, что для увеличения точности и надежности аппрок­
симации процесса X (t) суммой гармонических колебаний (т. е.
для уменьшения чисел е и р формуле (2.57а) или числа е в фор­
муле (2.57)) и для увеличения продолжительности интервала вре­
мени —Т <. t < Г, в течение которого эти формулы остаются
справедливыми, надо, вообще говоря, увеличить число п исполь­
зуемых гармонических колебаний и уменьшить все расстояния
со^+1 — с*)£ между соседними их частотами. Поэтому, если мы
будем в формуле (2.57) неограниченно уменьшать число е (или
в формуле (2.57а) неограниченно уменьшать е и г\) и одновременно
будем неограниченно увеличивать число Г, то в общем случае
число частот соь лежащих в пределах некоторого фиксированного
интервала Асо оси частот со, будет неограниченно возрастать.
Оказывается (и в этом и состоит основное содержание теоремы
о спектральном разложении стационарных случайных процессов),
что при таком предельном переходе сумма некоррелированных
случайных величин Xk, отвечающих частотам со^ из фиксирован­
ного интервала Асо, будет стремиться к определенной случайной
величине (разумеется, зависящей от Асо), которую мы обозначим
символом Z (Асо). Последнее обстоятельство позволяет предста­
вить стационарный процесс X (t) в виде следующего интеграла
Фурье — Стилтьеса:
Х ( / ) - J*'e'Z(Ao).
(2.58)
—оо
Несобственный интеграл в правой части (2.58) естественно
понимается как предел:
оо
b
iat
f e Z (da) =
J
—оо
lim
( е ш 1 (do),
(2.59)
a-*—оо, 6-»oo J
a
где
ь
f еш1 (do) =
a
max
lim
Y e^Z
IV>H V
(Д*со),
(2.60)
а суммирование в правой части (2.60) распространяется по всем
интервальчикам А^со, входящим в разбиение а = со0 < щ < ... <
< со^ < co„ = Ь основного интервала [а, Ь] на малые части;
со£ в правой части (2.60) — произвольная точка интервала Д&со,
| Д^со | — его длина.
102
Глава 2
Функция Z (Асо) сопоставляет каждому интервалу Асо оси со
случайную величину, т. е. она является с л у ч а й н о й ф у н к ­
ц и е й и н т е р в а л а . Из самого определения этой функции как
предела величины У* Xk (суммы случайных амплитуд гармоничеАоо
ских колебаний с частотами со^ из Асо) следует, что в случае, когда
(X (f)) = 0, т. е. (Xk) = 0 при всех k (напомним, что этому
случаю мы выше условились уделять основное внимание), она
будет обладать следующими свойствами:
а) (Z (Асо)) = 0 для всех Асо,
б) для непересекающихся интервалов Дхсо и Д2со
(Z(Alco)Z(A2co)} = 0,
в) для~примыкающих друг к другу интервалов Ахсо и Д 2 ю,
определяемых неравенствами сох < со <: со2 и соответственно
со2 < со < со3,
Z (Axco) + Z (А2со) =5 Z (А2со -f А2со),
где А 1« + А2со — совокупность точек со таких, что сох <
<J со <
со3.
В случае, когда (X (f)) = т Ф 0, надо только учесть, что для
приближения процесса X (t) суммой гармонических колебаний
здесь ко всем суммам вида ^Х^Шк\
соответствующим про­
цессу X (t) — т с нулевым средним значением, придетоя еще
добавить постоянную т. В этом случае (Х0) = т Ф 0, где Х0 —
амплитуда, отвечающая нулевой частоте со = 0, но (Xk) = 0
при сод, Ф 0. Следовательно, при (X (t)) = т Ф 0 условие а)
должно быть заменено условием:
а2) (Z (Асо)) = 0, если Асо не содержит точки со = 0;
(Z (Асо)) = т Ф 0, если Асо содержит точку со = 0.
Однако в этом параграфе [на рассмотрении процессов X (t)
с (X (0) Ф 0 мы не будем задерживаться, а будем считать, что
(X (*)> = 0.
Вместо случайной функции интервала Z (Асо) можно также
использовать случайную функцию точки Z (сох) = Z ([—оо, C0.J),
где [—оо, сох] — полупрямая —оо < со <: сох. В таком случае
интегральное представление (2.58) можно будет переписать в виде
более обычного интеграла Фурье—Стилтьеса
оо
*(/»,= J еш dZ(w),
(2.61)
10. Спектральное разложение случайных процессов
103
понимая под этим тот же предел (2.59)—(2.60), который теперь
приобретает вид
оо
J еш dZ(©) =
—оо
=
Пт
lim
^еш#\г{щ)-г{щЖ
а->—оо, b->oo I max Ico^-co^ _,|->0 £ _ j
(2.62)
J
где co0 = а, со1э ..., co^, co„ = ft и co£ имеют тот же смысл, что и
выше (ср. с определением интеграла Стилтьеса для обычных неслу­
чайных функций на с. 9). Условия а) и б) в новых обозначениях
принимают вид:
а') (Z(co)) = 0 при всех со,
б') ({Z К + Асо,) - Z (сох)] [Z (со2 + Дсо2) - Z (со2)]> - 0,
если интервалы [сох, сох + Асох ] и [со2, со2 + Асо2 ] не пересека­
ются между собой.
Случайные функции, удовлетворяющие условию б'), часто
называются с л у ч а й н ы м и ф у н к ц и я м и с н е к о р ­
релированными
приращениями.
В том случае, когда процесс X (t) является вещественным,
случайная функция интервала Z (Асо), очевидно, должна быть
такой, что Z (Д*со) = Z (Асо), где через Д*со обозначен интервал,
симметричный интервалу Асо относительно точки со = 0. Положив,
что Z (со) = [Zx (со) — iZ2 (со)]/2 при со > 0, формулу (2.61)
можно в этом случае переписать также в виде, аналогичном (2.35):
оо
оо
X (I) = J cos о/ dZl (со) + J sin со/ dZ2 (со),
(2.63)
о
о
где Z t (со) и Z2 (со) — вещественные случайные функции неотри­
цательного переменного со такие, что
<[Z, (сох + Асог) - Z, (со,)] [Zf (со2 + Дсо2) - Zy (со,)]) ■= 0, (2.64)
если i Ф\ или же i = /, но интервалы [соь сох + Асох] и
[со2, со2 + Дсо2 ] не пересекаются друг с другом, и
<[ZL (со + Асо) - Zx (со)]2) = <(Z2 (со + Асо) - Z2 (со)]2). (2.65)
Однако на самом деле даже и для вещественных процессов X (t)
использование формулы (2.61) обычно проще, чем формулы (2.63);
поэтому формула (2.63) ниже не будет употребляться.
Представление стационарного случайного процесса X (t) в виде
интеграла (2.61), где функция Z (со) обладает свойствами а') и б'),
называется с п е к т р а л ь н ы м р а з л о ж е н и е м этого про-
104
Глава 2
цесса; тот же термин применяется и к формам (2.58) и (2.63) пред­
ставления (2.61). Спектральное разложение как раз и описывает
гармонический анализ общего стационарного процесса X (t), т. е.
его представление в виде суперпозиции гармонических колебаний,
Оно, в частности, показывает, что используемое довольно часто
в прикладных исследованиях допущение о представимости рас­
сматриваемых неупорядоченных флуктуации (шумов) в виде
дискретной суммы (2.31) (или (2.38)) некоррелированных гармо­
нических колебаний в стационарном случае не является ограниче­
нием; ведь на любом конечном отрезке временной оси каждый
процесс X (t) может быть приближен такой суммой со сколь угодно
высокой степенью точности.
Надо, однако, иметь в виду, что хотя использование инте­
гралов Фурье—Стилтьеса вида (2.61) малопривычно для тех, кто
не является математиком-профессионалом, на самом деле оно
ничем не сложнее, чем использование сумм вида (2.31) или (2.38);
поэтому привлечение упомянутого выше допущения вряд ли можно
считать особенно целесообразным. Что касается также иногда
встречающегося в прикладных работах представления стационар­
ных флуктуации в виде обычного интеграла Фурье, то его прихо­
дится считать явно нестрогим: в § 11 будет разъяснено, что во
всех реально встречающихся случаях функция Z (со) в формуле
(2.61) оказывается нигде не дифференцируемой, так что переход
здесь от интеграла Фурье—Стилтьеса к обычному интегралу Фурье
является невозможным.
Напомним еще, что при обсуждении на с. 53—54 вопроса об ин­
тегралах от случайных процессов X (t)9 понимаемых как пределы
в среднем квадратичном последовательности соответствующих
интегральных сумм, особо подчеркивалось, что практическая
ценность таких интегралов связана в первую очередь с тем, что
реализации так определенных интегралов, как правило, совпадают
с интегралами от соответствующей реализации х (t) процесса
X (t), с которой обычно только и имеет дело исследователь. Ясно,
однако, что к интегралу в правой части (2.61) подобное замечание
уже не может быть приложено — этот интеграл обязательно надо
понимать только как предел (2.62) в среднем квадратичном.
В самом деле, реализация процесса X (t), фигурирующего
в левой части (2.61), обычно оказывается неслучайной функцией,
для которой выполняется винеровское условие существования пре­
дела (2.56), а выше мы уже видели, что такие функции никак не мо­
гут быть разложены ни в интеграл Фурье, ни в интеграл Фурье—
Стилтьеса *. Таким образом, именно возможность вероятностной
* Формально это проявляется также в том, что реализации z (со) случайной
функции Z (со) оказываются крайне нерегулярными функциями «неограниченной
вариации», для которых интеграл Фурье—Стилтьеса вида (2.61) .просто не су­
ществует.
11. Спектральное разложение корреляционной функции
105
интерпретации интеграла в правой части (2.61) как некоторого
предела в среднем квадратичном повлекла за собой возможность
получения простого по форме спектрального разложения
для любых стационарных случайных процессов. Естественно
в таком случае поставить вопрос о практической ценности указан­
ного разложения в обычных ситуациях, когда в распоряжении
исследователя имеется лишь одна реализация х (f) процесса
X(t).
Ниже будет показано, что на самом деле разложение (2.61)
имеет ясный физический смысл, который может быть отнесен
и к каждой отдельной реализации х (t); кроме того, как будет
разъяснено в § 13, все обычные применения гармонического ана­
лиза неслучайных функций переносятся без изменения и на
стационарные случайные процессы, если только под разложением
на гармонические колебания понимать спектральное разложение
(2.61). Именно это последнее обстоятельство в соединении с тем
фактом, что встречающиеся на практике беспорядочные незату­
хающие колебания почти всегда имеют статистическую природу,
как раз и объясняет, почему в прошлом так часто формальное
применение разложений Фурье к различного рода незатухающим
флуктуационным процессам, будучи математически нестрогим,
приводило тем не менее к совершенно правильным результа­
там.
Возможность спектрального разложения произвольного ста­
ционарного случайного процесса X (t) была впервые отмечена
Колмогоровым в начале 40-х гг. настоящего столетия, в последую­
щие годы этому же вопросу был посвящен целый ряд работ других
авторов. В настоящее время в литературе можно найти множество
различных доказательств теоремы о спектральном разложении
стационарных процессов, почти все из которых имеют свои досто­
инства71 (см. также с. 148).
11.
Спектральное разложение корреляционной
функции стационарного процесса
Вернемся теперь снова к теореме Хинчина о том, что корреля­
ционная функция В (т) любого стационарного случайного процесса
X (t) может быть представлена в уже известном нам виде
(2.52):
оо
В(х) = | e'™dF(<o),
106
Глава 2
где F (со) — монотонно неубывающая функция со. Ясно, что функ­
ция F (со) определяется формулой (2.52) лишь с точностью
до произвольного постоянного слагаемого, которое можно
выбрать так, чтобы выполнялось соотношение F (—оо) =
- 0.
В вещественном случае, как известно, В (—т) = В (т) и, зна­
чит, В (т) = [В (т) + В (—т) ]/2; поэтому формулу (2.52) здесь
можно переписать в виде
ос
В (т) =
оо
I cos TOO dF (со) = J cos сот dG (со),
— оо
0
где dG (со) = dF (со) + dF (—со) при со > 0. Из равенства В (т) =
= В (—т) нетрудно вывести, что в случае вещественного X (t)
приращения функции F (со) на интервалах, симметричных относи­
тельно точки со = 0, должны совпадать друг с другом; следова­
тельно, dG (со) = 2dF (со) при со > 0 и, если функция F (со)
непрерывна в точке
со = 0, то G (со) = 2F (со) + const
(но если F (со) претерпевает разрыв в точке со = 0, то и у G (со)
в этой точке будет точно такой же, а не в два раза больший,
скачок).
В применении к G (со) удобно считать, что G (—0) = 0 (где
G (—0) — значение G (со) перед ее возможным скачком в точке
о = 0). Отметим в этой связи, что если (X (t)) = m Ф 0, то В (т) =*
= Ь (т) + т 2 , где Ь (т) — центрированная корреляционная функ­
ция процесса X (t), также допускающая представление в виде
(2.52); поэтому при 'X (/)) = т функция F (со) в формуле (2.52)
для В (т) обязательно будет такой, что F (+0) — F (—0) > |/п 2 |
(т. е. со = 0 будет точкой разрыва F (со), которой соответствует
скачок, не меньший, чем \т\2). В дальнейшем в этом параграфе,
однако, мы, как обычно, всегда будем считать, что (X (t)) = 0
(т. е. в случаях, когда (X (t)) = т Ф 0, заранее будем считать,
что значение т уже вычтено из всех значений процесса, так что
В (т) фактически является центрированной корреляционной функ­
цией).
В реальных приложениях, использующих понятие стационар­
ного случайного процесса, при (X (/)) = 0 корреляционная функ­
ция В (т), как правило, будет стремиться к нулю при | т | —* оо
(см. (1.29)). Пусть В (т) убывает при |т | —> оо настолько
быстро, что
с»
J \B(x)\dx <оо
(2.66)
П. Спектральное разложение корреляционной функции
107
(на практике это последнее условие обычно также можно считать
выполняющимся). В таком случае функция В (т) может быть раз­
ложена в интеграл Фурье
оо
Я(т) = J е' т 7ИАо,
(2.67)
где / (со) — ограниченная и непрерывная функция со. Разложение
(2.67) возможно также и при ряде других условий, налагаемых на
В (т); так, например, из теории интегралов Фурье известно, что
(2.66) можно заменить менее ограничительным условием
оо
J |S(T)| 2 rfT<oo,
(2.68)
— оо
но только в этом случае / (со) уже не будет обязательно непрерыв­
ной и ограниченной функцией. Формула (2.67), очевидно, является
частным случаем формулы (2.52); она показывает, что при условии
(2.66) (или (2.68))
со
F ( a » ) = | / ( с о ' ) Л » ' , / (со') = F' (со).
(2.69)
—оо
Отсюда видно, что в рассматриваемом случае F (со) — дифферен­
цируемая функция.
В случае вещественного процесса X (t), когда функция В (т) —
четная, функция / (со) также будет четной, а разложение в интеграл
Фурье (2.67) здесь может быть переписано в виде
В (т) = j cos тсо g (со) dco,
о
g (со) = 2/ (со).
(2.70)
со
Ясно, что в этом случае g (со) = G' (со), а G (со) = j g (со') dco',
о
где G (со) — функция, входящая в формулу (2.53).
Представление корреляционной функции В (т) в виде интеграла
Фурье (2.52) или (2.67) называется с п е к т р а л ь н ы м
раз­
ложением
корреляционной
ф у н к ц и и . Входя­
щая в это разложение функция F (со) называется с п е к т р а л ь ­
н о й ф у н к ц и е й стационарного случайного процесса X (t)\
108
Глава 2
если же она представима в виде (2.69), то / (со) называется с п е к ­
т р а л ь н о й п л о т н о с т ь ю этого процесса *. В силу (2.53)
оо
J dF(o>) = B(Q) = (\X(t)\*),
(2.71)
так что
оо
| dF(со) = F(оо) - F(— о о ) < оо,
(2.72)
—с»
поэтому спектральная функция обязательно ограничена. Если
существует спектральная плотность / (со), то, очевидно,
с»
J /(co)dco = B ( 0 ) < o o ;
(2.73)
— с»
таким образом, спектральная плотность всегда интегрируема.
Далее, так как F (со) — монотонно неубывающая функция, то
спектральная плотность / (со) = F' (со) всюду неотрицательна:
/(со)^0.
(2.74)
Обратно, если / (со) — неотрицательная функция, то функция
F (со) формулы (2.69), очевидно, будет монотонно неубывающей,
т. е. функция (2.67) будет удовлетворять условиям теоремы Хинчина. Таким образом, в применении к достаточно быстро убываю­
щим функциям В (т), представимым в виде интеграла Фурье
(в частности, тем, которые удовлетворяют условию (2.66) или
(2.68)), теорема Хинчина приобретает особенно простой вид: здесь
для того, чтобы функция В (т) могла являться корреляционной
* Терминология, относящаяся к спектральным разложениям, до сих пор
окончательно не установилась. Так, например, термины «спектральная функ­
ция» и «спектральная плотность» довольно часто относятся и к функциям G (g)
и g (со) = 2/ (со), определенным лишь для неотрицательных частот со. Кроме
того, вместо разложений по функциям еш или cos сот, где со— круговая ча­
стота, измеряемая в радианах в единицу времени (например, в радианах в се­
кунду), нередко используются разложения по функциям е2тпх или cos 2я/гт,
где п — обычная частота, измеряемая в циклах (или оборотах) в единицу вре­
мени (например, в циклах в секунду, т. е. в герцах); при этом спектральная
плотность должна быть умножена на 2я, т. е. заменена функцией } г (п) —
= 2л/ (со/2я). Отметим еще, что в прикладной литературе вместо термина «спек­
тральная плотность процесса X (/)» очень широко употребляется и более краткий
(но менее точный) термин «спектр процесса X (t)» (но при этом довольно часто
слово «спектр» одновременно используется и в прямом его смысле, который
будет разъяснен чуть ниже). Термин «спектральное разложение» часто заме­
няется также на «спектральное представление»; встречается и ряд других раз­
личий в терминологии, используемой разными авторами.
11. Спектральное разложение корреляционной функции
109
функцией стационарного процесса, надо только, чтобы ее преобразо­
вание Фурье было всюду неотрицательным,
До сих пор в настоящем параграфе мы еще не объяснили, как
доказывается теорема Хинчина; однако об этом говорится в при­
мечании 68, относящемся к § 9. Как отмечено в этом примечании,
доказательство теоремы Хинчина сразу следует из сопоставления
друг с другом следующих двух утверждений:
1) класс функций В (т), являющихся корреляционными функ­
циями стационарных случайных процессов, совпадает с классом
положительно определенных функций вещественного переменного
(см. § 4 и 7);
2) для того чтобы непрерывная функция В (т) вещественного
переменного т была положительно определенной, необходимо и
достаточно, чтобы она была представима в виде (2.52), где F (со) —
монотонно неубывающая функция со (это утверждение составляет
содержание так называемой теоремы Бохнера—Хинчина; см. по
этому поводу примечание3).
В предыдущем параграфе подчеркивалось, что теорема Хинчина
лежит в основе почти всех доказательств теоремы о спектральном
разложении стационарных случайных процессов. Ясно, однако, что
если бы мы доказали теорему о спектральном разложении без
использования теоремы Хинчина, то отсюда сразу следовала бы и
возможность представления В (т) в виде (2.52). В самом деле,
подставив в формулу В (т) = (X (t + т) X (/)> вместо X (t + т) и
X (t) их спектральное разложение (2.61) и воспользовавшись опре­
делением (2.62) соответствующего интеграла Фурье—Стилтьеса и
свойством б') приращений dZ (со), мы сразу придем к формуле
(2.52), где
F (со + Aw) - F (со) - < | Z (со + Д<о) - Z (to) |2>
(2.75)
(откуда в силу свойства б') приращений Z (со) сразу следует, что
F (со) — неубывающая функция со). Формулу (2.75) можно также
записать в дифференциальной форме:
<|dZ(io)|2>-=dF(o));
(2.76)
кроме того, последнее равенство можно объединить со свойством
б') приращений Z (со) в виде одного символического равенства
(dZ (со) dZ (©')) = б (со — со') aF (со) Жо',
(2.77)
где б (со) — это б-функция Дирака. Легко видеть, что, подставив
(2.77) в любой двукратный интеграл, включающий интегрирование
по dZ (со) и по dZ (со') под знаком среднего значения, мы придем
Глава 2
по
к правильному результату; простейшим примером здесь является
следующий вывод формулы Хинчина (2.52):
оо
ОС
{X (t + %)Х~Щ) = < \ е1 <?+г> °>dZ(co) [<>«<»' dl>7)> =
— сю
=
оо
оо
|
\е{ [«+*) «_<«.'] (dz (io)dZ (©')> =
— о о —оо
оо
оо
оо
= Г [ei [V + т) (0-/0)'] § (0) __ a')dF (со) dco' — [ е'™> d/7 (со).
-оо
—оо
В случае существования спектральной плотности / (со) равен­
ства (2.76) и (2.77) очевидно, приобретают вид
< | dZ (со) |2> = / (со) ^оз,
(2.78)
(dZ (со) dZ (со')) = б (со — о') / (со) dco dco'.
(2.79)
Формулы (2.75)—(2.79) устанавливают связь между спектраль­
ным разложением корреляционной функции (определяемым функ­
циями F (со) и / (со)) и спектральным разложением самого стацио­
нарного случайного процесса X (/), включающим случайную функ­
цию Z (со) (или, точнее, случайную функцию интервала Z (Асо) =
= Z (со2) — Z (coj), где Асо = [соь со2]).
Ниже в § 13 будет показано, что такая связь позволяет
придать физический смысл математической теореме Хинчина
о спектральном разложении корреляционной функции и осу­
ществить ее экспериментальную проверку в случаях, когда стацио­
нарный процесс X (t) реализуется в виде колебаний какой-то
измеримой физической величины X. Сейчас мы, однако, остано­
вимся лишь на некоторых частных вопросах, имеющих отношение
к указанной связи.
Начнем с рассмотрения специального случая, когда функция
F (со)—это «ступенчатая функция» (иначе, функция скачков),
изменяющаяся лишь в дискретных точках разрыва (в каждой из
которых она возрастает на некоторую положительную величину),
а в промежутках между разрывами принимающая постоянное
значение. В этом случае, впервые детально рассмотренном Слуцким
в 1938 г. (см. примечание63), формула (2.52) показывает, что
функция В (т) имеет вид (2.39), а формулы (2.75) и (2.76) означают,
что функция интервала Z (Асо) принимает нулевое значение для
всех интервалов, целиком расположенных между точками разрыва
F (со), так что и случайная функция Z (со) формулы (2.61) оказы­
вается «ступенчатой функцией», скачкообразно изменяющейся
(на случайную величину A^Z = Xk) в точке fe-ro разрыва F (со),
11. Спектральное разложение корреляционной функции
111
а в промежутках между этими разрывами принимающей постоян­
ное (случайное) значение. Отсюда видно, что случайный процесс
X (t) в данном случае обязательно будет иметь вид суммы случай­
ных гармонических колебаний (2.31) или (2.38), т. е. будет про­
цессом с дискретным спектром в смысле, разъясненном на
с. 92.
В общем случае монотонно неубывающая функция F (со) может
быть разложена в сумму непрерывной функции FT (со) и ступенча­
той функции Fu (со), построенной по скачкам (разрывам) функции
F (со). Согласно формулам (2.75) и (2.76), каждой точке разрыва
функции F (со) отвечает точка разрыва случайной функции Z (со),
в которой эта последняя функция скачкообразно изменяется на
случайную величину Xk такую, что (|Х^| 2 ) = fk, где fk — при­
рост функции F (со) в соответствующей точке разрыва. В формуле
(2.61) скачкам Z (со) отвечают дискретные слагаемые вида Х&ш^
в правой части; аналогичным образом в формуле (2.52) скачкам
функции F (со) отвечают слагаемые вида \^к% в выражении для
В (т). Таким образом, представлению F (со) в виде суммы Fj (со) +
Н" ^и С00) отвечает представление корреляционной функции В (т)
и самого процесса X (t) в виде
оо
В(т) =
(e^dFj (со) -f ^ /*е' и *' ,
-оо
(2.80)
k
и, соответственно,
оо
X (t) = [ еш dZ{ (со) + Yi W*** ,
-оо
(2.81)
k
где Fj (со) — непрерывная функция со, а каждому слагаемому
суммы в правой части (2.80) соответствует одно слагаемое в правой
части (2.81). Ясно, что если сумма в правой части (2.80) содержит
хотя бы одно ненулевое слагаемое, то В (т) содержит какую-то
периодическую компоненту и поэтому не может стремиться к нулю
при | т | —> оо. Так как на практике чаще всего можно быть уве­
ренным, что В (т) —* 0 при | т | —■* оо, то в большинстве практиче­
ских приложений суммы в правых частях (2.80) и (2.81) будут
отсутствовать.
Заметим еще, что в принципе первое слагаемое в правой части
(2.80) может также представлять собой функцию, не стремящуюся
к нулю на бесконечности; это возможно, однако, лишь в некоторых
совершенно исключительных случаях, на практике никогда не
встречающихся. Поэтому с точки зрения приложений вполне
можно считать, что первое слагаемое в правой части (2.80) всегда
112
Глава 2
описывает стремящуюся к нулю компоненту В1 (т) функции В (т),
представимую в виде
оо
5,(т)=
[е<'™/(со)^со,
—оо
где
оо
/((o) = F,'((o)==F'((o), a Fi((o)= (f(u>')<W.
-оо
Формула (2.80) поясняет двоякую природу спектра общего
стационарного процесса X (f). С п е к т р о м процесса X (t)
обычно называется множество тех значений со (частот), которые
вносят определенный вклад в интеграл в левой части (2.71);
точнее говоря, точка со называется принадлежащей спектру про­
цесса X (t), если F (со + е) — F (со — е) > 0 при любом е > 0,
где F (со) — спектральная функция X (/). В случае существования
непрерывной спектральной плотности f (со) точками спектра,
очевидно, являются все те значения со, для которых / (со) > 0,
а также и все изолированные нули f (со) (т. е. все точки со, не имею­
щие окрестности, в которой f (со) тождественно равняется нулю);
в случае процессов с дискретным спектром спектр процесса состоит
из совокупности всех его частот со^ (этот последний случай рас­
сматривался на с. 92). В более общем случае, когда F (со) склады­
вается из неопределенного интеграла FT (со) от функции f (со) =
= F' (со) и ступенчатой функции Fu (со), спектр состоит из объеди­
нения всех точек со, не имеющих окрестности, в которой / (со)
тождественно равняется нулю (множество этих точек называется
н е п р е р ы в н ы м с п е к т р о м X (/)), и всех точек разрыва
F (со) (составляющих в своей совокупности д и с к р е т н ы й
с п е к т р процесса X (/)).
Остановимся еще на одном замечании, имеющем отношение
к формулам (2.75)—(2.79). Так как встречающиеся на практике
корреляционные функции В (т) почти всегда удовлетворяют усло­
вию затухания на бесконечности и имеют преобразование Фурье,
то использование спектральной плотности позволяет в большин­
стве приложений теории обойтись без интегралов Стилтьеса до
тех пор, пока речь идет лишь о спектральном разложении корре­
ляционных функций*. В предыдущем параграфе мы, однако, под­
черкивали, что в тех случаях, когда, кроме разложения корреля­
ционной функции, интерес представляет также и спектральное
* Заметим, что и в более общем случае, когда F (со) — это сумма неопреде­
ленного интеграла от / (о)) и ступенчатой функции F\\ (со), функцию В(т) можно
представить в виде (2.80), где первое слагаемое в правой части сводится к обыч­
ному интегралу Фурье, т. е. также обойтись без интегралов Стилтьеса.
И. Спектральное разложение корреляционной функции
113
разложение самого стационарного процесса X (/), использование
интегралов Стилтьеса оказывается неизбежным: случайная функ­
ция Z (со) не является дифференцируемой ни в каком разумном
смысле и поэтому в формуле (2.61) никак нельзя перейти от
интеграла Фурье—Стилтьеса к обычному интегралу Фурье.
Теперь нам легко понять, почему функция Z (со) не может быть
дифференцируемой: в силу (2.78) во всех наиболее обычных слу­
чаях, когда процессу X (t) отвечает положительная спектральная
плотность f (со), средний квадрат приращения AZ (со) функции
Z (со) на малом отрезке Асо оси частот будет близок к / (со) Асо, т. е.
имеет тот же порядок малости, что и Асо; поэтому само AZ (со)
будет, как правило, иметь порядок (Асо)1/2, что несовместимо с допу­
щением о дифференцируемости функции Z (Асо) (т. е. о существо­
вании предела отношения AZ (со)/Асо при Асо —> 0). Привед иное
рассуждение относится, вообще говоря, к любой точкесо оси частот;
таким образом, мы сталкиваемся здесь с довольно редким случаем,
когда в задаче, имеющей реальный физический смысл, возникают
нигде не дифференцируемые функции, которые еще совсем недавно
многим прикладникам представлялись заумной математической
абстракцией, которая не может иметь никаких приложений.72
Согласно формулам (2.52) и (2.67), зная спектральную функцию
F (со) или спектральную плотность / (со) стационарного процесса
X (t), нетрудно определить и его корреляционную функцию В (т).
Обратно, по корреляционной функции В (т) процесса X (t) можно
вычислить и его спектральную функцию F (со) или спектральную
плотность f (со). Особенно просто обстоит дело в случае, когда
выполняется условие (2.66), и поэтому существует непрерывная
спектральная плотность / (со); согласно (2.67), В (т) здесь является
преобразованием Фурье функции / (со), и значит, плотность / (со)
может быть определена с помощью обычной формулы обращения
интегралов Фурье:
оо
/((o) = _ L J e-ie"B(t)dr.
(2.82)
— оо
Воспользовавшись теперь формулой (2.69), нетрудно найти и
функцию F (со); в частности, разность F (со2) — F (со^, где со2 >
> соь очевидно равна J f (со) dco, т. е. в силу (2.82)
0)1
оо
F(a»2)-F(u)1) = ^
r
ji
—±
B( T )dT.
(2.83)
-оо
В общем случае, когда спектральная функция F (со) не представима в виде неопределенного интеграла (2.69), т. е. спектраль-
Глава 2
114
ная плотность не существует, формула (2.82) будет неприменимой;
оказывается, однако, что формула (2.83) справедлива и в общем
т
случае, если только интеграл от —оо до оо понимать как lim J ,
7->-оо
j
а значения F (со2) и F (со^ в случаях, когда речь идет о точке раз­
рыва спектральной функции, заменить полусуммой соответствую­
щих значений до скачка и после скачка. Этот факт на самом
деле сразу вытекает из известной в теории вероятностей формулы
обращения характеристических функций (см. формулу (П. 4))
итого обстоятельства, что класс характеристических функций рас­
пределений вероятностей в силу теоремы Хинчина совпадает
с классом нормированных корреляционных функций R (т) =
= В (х)/В (0); впрочем, в дальнейшем общая формула (2.83) нам
нигде не понадобится.
В вещественном случае, когда применима формула (2.70),
родственная (2.82) формула для g (со) = 2/ (со) очевидно будет
иметь вид
ос
g (ю) = JL J cos сот В (т) Ах,
(2.84)
а формула для соответствующей монотонно неубывающей функции
G (со) может быть записана в виде
о
с sin сот
°Н= Я 41~—В(х)ах.
(2.85)
Ниже, однако, даже и в случае вещественных случайных про­
цессов мы обычно будем использовать комплексную форму спек­
трального разложения (2.52) или (2.67), т. е. во всех случаях будем
употреблять функции F (со) и /(со), а не G (со) и g"(co).
Так как задание корреляционной функции В (т) стационарного случай­
ного процесса X (t) равносильно заданию его спектральной функции F (со) или
(при условии справедливости условия (2.66)) спектральной плотности / (со),
то ясно, что любая величина, выражающаяся через функцию В (т), может быть
выражена также и через F (со) или (при условии (2.66)) / (со). Так, например,
время корреляции Тг формулы (1.62) вещественного стационарного процесса X (t)
в силу формулы (2.82) может быть представлено в виде
=
1
я/(0)
Ь(0)
=
л/(0)
2 [ f (со) dco
0
(2 86)
И. Спектральное разложение корреляционной функции
115
о
где / (со) ■— спектральная плотность процесса X (t) = X (t) — (X (t)) (т. е.
преобразование Фурье функции Ъ (т)) *. Менее проста задача о спектральном
т
истолковании величины lim -=г Ъ (т) йт, входящей в эргодическую теорему Слуцкого; ясно, однако, что она должна как-то 73выражаться через F (со).
И действительно, выполнив несложные преобразования , нетрудно показать, что
т
}i^-T~\b(T)dT
о
= /±F(0),
(2.87)
где &F (0) =■ F (+0) — F (—0) — скачок спектральной функции F (со) (центри­
рованного процесса X (t) — (X (t))) в точке со = 0. Таким образом, теорема
Слуцкого, как оказывается, имеет крайне простую спектральную формулировку:
т
для того чтобы величина Mr = -zr
X (0 dt при Т -> оо стремилась к среднему
о
значению пг~ (X (/)), необходимо и достаточно чтобы спектральная функция
F (со) была непрерывна в точке со = 0. Такая формулировка делает смысл тео­
ремы Слуцкого особенно наглядным. В самом деле, как показывает разложение
(2.81), скачку функции F (со) в точке со = 0 отвечает постоянное случайное сла­
гаемое Х 0 (с нулевым средним значением), входящее в состав X (t) — (X (t)),
а при наличии такой ненулевой постоянной случайной компоненты Х0 среднее
значение (X (t)), разумеется, не может быть однозначно восстановлено с помощью
осреднения по времени одной реализации х (t), включающей какое-то одно выбо­
рочное значение х0 величины Х0 (ср. аналогичное рассуждение на с. 58, где
рассматривался случай, когда процесс X (t) целиком сводится
к постоянной
компоненте Х 0 ). Более того, легко показать (см. примечание 73 ), что в общем
случае Мт -> tn + Х0 при Т -> со; этот результат также имеет очень наглядный
смысл.
т
Что касается величины lim -=- Ь2 (т) dx, входящей в условие (1.65)
7->оо Т
QJ
т
X2 (/) dt к среднему квадрату (X2 (t))
о
гауссовского случайного процесса
X (t), то она также имеет очень простой спек­
тральный смысл. В примечании 37 отмечено, что если корреляционная функция
Ь (т) включает компоненту a cos со0т (т. е. если спектральная функция F (со)
сходимости при Т -> оо оценки —
* Если {X (t)) = m =1= 0, то спектральная функция процесса X (t) будет,
о
очевидно, отличаться от спектральной 2 функции процесса X (t) = X (t) — tn
лишь добавочным скачком величины | m |' в точке со = 0, которому в спектраль­
ном разложении (2.61) самого процесса X (/) отвечает скачок Z (со) в точке со = 0
на неслучайную постоянную /я, добавляющий к интегралу в левой части (2.61)
постоянное слагаемое т. Включение этого постоянного слагаемого в спектраль­
ное разложение малоцелесообразно; поэтому обычно спектральное разложение
о
применяют лишь к процессу X (t) = X (t) — (X (t)), а под спектральной функ­
цией и спектральной плотностью процесса X (t) с (X (t)) =j= 0 понимают знао
чения F (со) и /(со), отвечающие процессу X (t) с нулевым средним.
Пб
Глава 2
имеет разрыв в какой-то точке со = со0), то указанная величина будет включать
т
1 г
а2
положительное слагаемое a2 lim -=- cos2 со0т d% = -jr- . Нетрудно также
Г-х» Т }
2.
О
показать, что в случае процесса X (f) с дискретным спектром, когда Ь (т) =
= Е /*'"**.
k
т
о
k
Если же дискретный спектр отсутствует (т. е. спектральная функция F (со) не­
прерывна), то предел в левой части (2.88) будет обязательно равен нулю.74
В общем случае произвольного стационарного процесса X (t) также имеет место
равенство (2.88), где только теперь уже сумма в правой части распространяется
по всем точкам разрыва спектральной функции F (со), а под /& понимается ска­
чок F (со) в своей k-и точке разрыва. Таким образом, условие (1.65) равносильно
условию непрерывности спектральной функции F (со) при всех со.
12.
Примеры корреляционных функций
стационарных процессов
В § 4 был перечислен ряд свойств корреляционных функций,
позволяющих по имеющимся примерам таких функций J3 (т) стро­
ить много новых подобных примеров; однако там не объяснялось,
как можно получить хоть какие-то примеры функций В (т), если
раньше у нас таких примеров не было.
Теперь мы видим, что задача эта не представляет труда —
в силу теоремы Хинчина для быстро затухающих функций (см.
с. 108—109) достаточно выбрать какие угодно всюду неотрицатель­
ные и интегрируемые функции / (со), и тогда определенные по фор­
муле (2.67) функции В (т) обязательно будут корреляционными
функциями. Также и проверка того, принадлежит ли интегрируе­
мая функция В (т) к классу корреляционных функций или нет, ока­
зывается довольно простой — надо вычислить по формуле (2.82)
соответствующую функцию f (со), и если окажется, что / (со) > 0
при всех со, то, значит, В (т) принадлежит к классу корреляцион­
ных функций, а если / (со) < 0 хоть при одном со, то, значит, не
принадлежит. Напомним также, что вещественная корреляционная
функция В (т) обязательно должна удовлетворять условиям:
В (0) > 0, В (—т) = Я (т) и | В (т) | < В (0) (см. соотношения
(1.25)); поэтому при построении примеров корреляционных функ­
ций В (т) функции, для которых нарушается хоть одно из указан­
ных условий, не могут представлять интереса.
12. Примеры корреляционных функций стационарных процессов
117
Пример 1. Экспоненциальная корреляционная функция. Нач­
нем с рассмотрения функции В (т) вида
£(т) = О г " И 1 ,
(2.89)
где С > 0, а > 0.
Мы уже знаем, что такая функция может быть корреляционной
функцией стационарного случайного процесса; так, на с. 38, 94 и
в примечании 65 было приведено даже несколько примеров про­
цессов X (t), имеющих такую корреляционную функцию. Прове­
рим теперь справедливость этого утверждения и с помощью крите­
рия (2.74); при этом мы попутно определим соответствующую
спектральную плотность f (со), во многих случаях представляющую
значительный интерес.
В силу формулы (2.82) из (2.89) вытекает, что
сю
0
а
/ (со) == -^
х
f Се~ I I -^dx
оо
1
= - ^ - { f е^- ^
^ -00
-ОО
~
2к | а — т
' а + /о J
х
dx+\ £-«*+'©) т ^т] =
0
я
'
а 2 + со2'
т. е. в этом случае
/(со) = А/ (а2 + со2),
А = Са/я.
(2.90)
Мы видим, что f (со) > 0 при всех со; тем самым мы еще раз
доказали, что функция (2.89) действительно может являться
корреляционной функцией стационарного случайного процесса.
Графики этой функции и отвечающей ей спектральной плотности
(2.90) приведены на рис. 11.
Время корреляции 7\, отвечающее функции (2.89), равно
1/а — это следует и из формулы (1.62), и из формулы (2.86).
Таким образом, постоянная а"1 (размерности времени) характери­
зует типичное время затухания корреляционных связей между
величинами X (t) и X (t + т) и для оценки параметра а надо только
как-то оценить промежуток времени, на протяжении которого
сохраняется заметная'зависимость значения X (t) от начального
значения X (0).
Изображения на рис. 11 б спектральная плотность /(со) имеет
максимум в нуле, остается почти постоянной при со, малом по
сравнению с а, а далее сравнительно медленно (по степенному
закону с показателем —2) убывает. То обстоятельство, что увели­
чению а отвечает убыстрение затухания В (т) с ростом т, но за­
медление убывания / (со) с ростом со и удлинение области прибли­
зительного постоянства / (со), связано с известным «соотношением
неопределенностей», в силу которого «эффективная ширина»
118
Глава 2
затухающей на бесконечности функции (т. е. длина интервала, на
котором эта функция еще существенно отлична от нуля) обратно
пропорциональна «эффективной ширине» ее преобразования
Фурье.75
Кроме моделей, рассматривающихся выше, в дальнейшем (на
с
* 157—158) нам встретится еще один практически важный пример
случайного процесса X (f)f имеющего корреляционную функцию,
описываемую формулой (2.89). Отметим также, что в связи с про­
стотой этой формулы, она часто применяется на практике и тогда,
JCCT
J(D/cc
Рис. И.
Экспоненциальная корреляционная функция В(т), вычис­
ленная по формуле (2.89), и соответствующая ей спек­
тральная плотность / (со).
когда точный вид В (т) нам неизвестен или же оказывается слишком
сложным и малоудобным для требующихся дальнейших расчетов.
Пример 1а. «Белый шум». На практике часто важным оказы­
вается случай, когда корреляционная связь между X (t) и
X (t4+ т) затухает чрезвычайно быстро, так что при использовании
формулы (2.89) а приходится считать очень большим. Рассмотрим,
например, брауновское движение частицы, помещенной в жидкость,
и пусть X (t) — пульсация силы, действующей на частицу. Изме­
нения X (t) определяются столкновениями молекул жидкости
с рассматриваемой частицей; так как в нормальных условиях (при
комнатной температуре и реальных размерах частиц) частица,
погруженная в жидкость, испытывает около 1021 столкновений
в секунду, то значения X (t) и X (t + т) при т, имеющем, напри­
мер, порядок 10~18 с, будут фактически независимыми. Поэтому,
если мы захотим приблизить корреляционную функцию процесса
X (t) функцией вида (2.89), придется считать, что а здесь суще­
ственно больше, чем 1018 с 1 .
12. Примеры корреляционных функций стационарных процессов
119
Аналогично ведут себя пульсации электродвижущей силы,
возникающей в проводнике из-за теплового движения электронов,
или пульсации силы тока между анодом и катодом электронной
лампы, вызываемые пульсацией числа проходящих электронов;
во всех этих случаях при описании соответствующей корреляцион­
ной функции формулой (2.89) постоянной а приходится придавать
исключительно большое значение.
Выше отмечалось, что при со, малом по сравнению с а, спек­
тральная плотность f (со) остается практически постоянной —
равной значению f (0) = /0. Следовательно, в случае очень боль­
шого а плотность f (со) будет постоянной в очень широком интер­
вале частот. Но на практике нас почти никогда не интересуют*все
возможные значения со; в каждой частной задаче существенную
роль играет обычно лишь некоторый ограниченный интервал
частот (подробнее об этом будет сказано на с. 146—147).
Если в соответствующем ограниченном интервале частот спек­
тральная плотность практически постоянна, то при решении дан­
ной задачи мы можем вообще пренебречь изменчивостью / (со), т. е.
считать, что
/(со) = /0 = const.
(2.91)
Разумеется, строго говоря, спектральная плотность (2.91)
является невозможной, так как ей должна отвечать бесконечная
дисперсия (X2 (t)) =
J f (со) dco (ср. условие (2.73)). Тем не
— сю
менее представление о стационарном случайном процессе с по­
стоянной спектральной плотностью оказывается весьма полезной
математической идеализацией (аналогично представлению о мате­
риальной точке в механике, строго говоря, противоречащему
физически очевидному утверждению о конечности плотности
любого реально существующего тела).
Идеализированный случайный процесс с постоянной спектраль­
ной плотностью часто называют б е л ы м ш у м о м или говорят,
что он имеет «белый» спектр (по аналогии с белым светом в оптике,
имеющим широкий оптический спектр).
Ценность этой идеализированной модели «обобщенного случай­
ного процесса» обусловливается в первую очередь тем, что во
многих случаях, если мы будем производить вычисления, напри­
мер, "• со спектральной плотностью (2.90) (или корреляционной
функцией (2.89)), а затем в окончательном результате устремим А
(или С) и а к бесконечности так, чтобы отношение Л/ос2 = С/па =
= /о оставалось конечным, то придем к разумному результату
(зависящему, конечно, только от / 0 , а не от А и а в отдельности).
Во всех таких случаях этим предельным результатом можно
с хорошей точностью пользоваться при всех достаточно больших
120
Глава 2
а, а получить его можно гораздо проще, допустив с самого начала,
что спектральная плотность рассматриваемого случайного про­
цесса имеет постоянное значение (2.91). Более того, тот же резуль­
тат будет с хорошей точностью применим и в случае многих других
форм корреляционной функции В (т) таких, что В (т) быстро
убывает от сравнительно большого значения В (0) до пренебре­
жимо малых значений при всех | т | > т), где т) —относительно
малый промежуток времени (спектральная плотность / (со) при
этом условии обязательно будет постоянной в широком интервале
частот). Вообще, спектральная плотность (2.91) отвечает «несоб­
ственной» корреляционной функции
Я(т) = 2я/о6(т),
(2.92)
2
имеющей форму б-функции (см. примечание ).
Форма (2.92) функции В (т) подразумевает, что рассматривается
предельный переход, при котором В (т) —» 0 при всех % Ф 0,
оо
а В (0) -—> оо таким образом, что
J B(x)dx = const (но форма
—оо
В (т) до перехода к пределу ограничена лишь требованием, чтобы
оо
выполнялось условие
J В(т)^т=^=0). Иначе говоря, она озна—оо
чает, что значения X (t) в любые два различные момента времени
некоррелированы между собой, т. е. что X (t) — «абсолютно
случайный» процесс, как раз и представляющий собой аналог
«последовательности некоррелированных случайных величин»
Е (f), относящийся к случаю непрерывного времени t. Поэтому
в дальнейшем в случаях, когда / — непрерывное, символом Е (t)
мы будем всегда обозначать «белый шум» единичной интенсивности
(т. е. такой, что /0 = 1/2я, а В (т) = б (т)).
Заметим еще, что оценка тех значений параметров быстро
затухающей функции В (т), при которых уже можно пользоваться
предельным результатом, полученным в предположении (2.91)
(или (2.92)), эквивалентна, в известном смысле, оценке ширины
спектральной полосы, существенной для данной задачи; для трех
перечисленных в начале этого примера случайных процессов
физического происхождения (пульсация силы, действующей на
брауновскую частицу, пульсация электродвижущей силы при
тепловом шуме в проводнике, пульсация силы тока при дробовом
эффекте) допущение о том, что рассматриваемый процесс является
белым шумом, вполне приемлемо в применении к большинству
представляющих интерес задач.
Основной спектральной характеристикой случайного процесса X (t) =
— с Е (t) такого, что его можно считать белым шумом, является, разумеется,
значение / 0 = с2/2я его спектральной плотности в нуле; определение этого зна-
12. Примеры корреляционных функций стационарных процессов
121
чения и надо считать первоочередной задачей теории рассматриваемого процесса.
В случае процесса X (/), описывающего пульсации силы, действующей на брауновскую частицу, статистическая физика дает для / 0 формулу / 0 = wkT/n, где
w — коэффициент пропорциональности между силой трения и скоростью (рав­
ный 6яг(1 для сферической частицы радиуса г, погруженной в жидкость вяз­
кости \i), Т — абсолютная температура жидкости, a k — постоянная Больцмана (см. с. 158). Если X (t) — это пульсации электродвижущей силы тепло­
вого движения электронов в проводнике, то в предыдущей формуле для / 0 надо
лишь заменить w сопротивлением проводника R: здесь / 0 = R кТЫ (этот резуль­
тат в теории электрических флуктуации называется ф о р м у л о й Н а й к виста).
В случае же, когда X (t) — это пульсации силы тока, создаваемые дробо­
вым эффектом в электронной лампе, при широких условиях имеет место так
называемая ф о р м у л а Ш о т т к и , согласно которой / 0 = е/ 0 /2я, где 8 —
заряд электрона, / 0 — среднее значение тока через лампу.76
Пример 2. Косинусоида. На с. 90 было показано, что функ­
ция вида
5 ( T ) = CCOSCO0T.
(2.93)
где С > 0, со0 > 0, может являться корреляционной функцией
стационарного случайного процесса. Так как cos со0т = (е~ш^ -f+ еш**)/2, то функции (2.93) отвечает спектральная функция
[0 при со <: —со0.
F (со) = С/2 при —со0 < со < со0,
(2.94)
[С при со > со0;
формально тот же результат можно записать в виде следующей
«формулы для спектральной плотности»:
/ (а>) = 4 " [б (со + со0) + б (со - со0)].
(2.95)
Появление б-функций в формуле (2.95) для / (со), очевидно, связано
с тем обстоятельством, что корреляционная функция (2.93) не
затухает на бесконечности.
Пример 3. Функция
В (т) = Се-" ИI cos со0т,
(2.96)
где С > 0, а > 0, со0 > 0, представляет собой произведение
функций вида (2.89) и (2.93); следовательно, она также должна
принадлежать классу корреляционных функций. Вычислим соот­
ветствующую спектральную плотность / (со):
оо
/
f (со) = - g i - J Се~« I т » - ' « * cos co0x<iT = ^
—оо
ОО
I
~
I—ОО
ч
f в-а|т|-/(»-©„) т ^ т ! ^ ^ . / —
J
ОО
ОО
| J е-* I х М <(0+fi>o) х dx +
!
L
2JX \ а* + (со + со0)2 ^
!
а2
\
+ (со-со 0 ) 2 )
)
(2.97)
122
Глава 2
(ср. вывод формулы (2.90)). Иначе говоря,
/И-
Л (со2 - f б 2 )
(2.98)
4
со + 2асо2 + &4
где
А = Cajn, а - а 2 - с о * , 6 = (а2 + со2)1/2.
(2.99)
Формула (2.97) показывает, что / (со) > 0 при всех со; отсюда
снова следует, что функция (2.96) принадлежит к классу корреля­
ционных функций. 1
Функция (2.96) отвечает некоторым встречающимся на прак­
тике простым моделям стационарных случайных процессов 77;
кроме того, она часто оказывается удоб­
ной для приближенного представления
возникающих в приложениях эмпириче­
ских корреляционных функций, несколь­
ко раз меняющих знак. В качестве одного
примера такого рода мы рассмотрим нор­
мированную эмпирическую корреляцион­
ную функцию RTN (Т) пульсаций интен­
сивности радиолокационного сигнала (см.
рис. 8 а). На рис. 12 кривая /воспроизво­
дит в увеличенном масштабе начальный
участок кривой, изображенной на рис. 8 а;
кривая же 2 — это функция вида (2.96)
R (т) = е-™ I * I cos 40т.
(2.100)
Qfli*
0,08
0,12
0,16
0,20%
Рис. 12.
_
Начальный участок эмпирической <,> корреляционной
функции R*N (т) интенсивности радиолокационного
сигнала (/) и его аппроксимация затухающей косину­
соидой R (т) (2).
Мы видим, что функция (2.100) весьма точно передает ход
эмпирической корреляционной функции RTN (Т) на всем участке
значений т, на котором значения RTN (Т) МОЖНО считать надеж­
ными; поэтому на практике корреляционную функцию, изображен­
ную на рис. 8 а, можно заменить функцией (2.100). В частности,
исходя отсюда можно с помощью формулы (2.97) приближенно
определить спектральную плотность замираний радиосигнала,
частично показанных на рис. 1 а; получающийся при этом резуль­
тат представлен на рис. 13.
12. Примеры корреляционных функций стационарных процессов
123
Согласно рис. 13, спектральная плотность / (со), отвечающая
корреляционной функции (2.100), принимает наибольшее значение
при частоте сох, где сох очень близко к частоте со0 = 40 рад/с пе­
риодического множителя функции (2.100). В общем случае корре­
ляционной функции (2.96) элементарные подсчеты показывают,
что если а < у 3 со0 (т. е. а < #72), то функция (2.97) макси­
мальна в точке со = соь где
со1 = &{[2(1 -а/б 2 )! 1 / 2 - 1}1/22f{a))/B(0)
0,ЮГ
16 п=о)/2л Гц
Рис. 13.
Нормированная спектральная плотность 2/ (со)/В (0),
отвечающая корреляционной функции R (т).
если к тому же а значительно меньше, чем со0, то последняя фор­
мула может быть преобразована к виду: сох ^ (1 — а4/8со*) со0 ^
*** со0. Острота максимума функции (2.97) будет, очевидно, опре­
деляться значением а, т. е. скоростью затухания функции (2.96).
При очень малом а максимум будет очень острым, и функция (2.97)
здесь близка по форме к «несобственной» спектральной плотности
(2.95), В этом случае и реализации соответствующего случайного
процесса X (t) по характеру близки к реализациям случайного
гармонического колебания частоты со0/2я, отвечающего косинусоидальной корреляционной функции (2.93); точнее говоря, эти
реализации будут хорошо описываться функциями вида х (t) =
= a (t) cos [<o0f + Ф (0 Ь где | a' (t)/a (t) | « со"1 и 1 <р' (f)/q> (t) | «
< со"1, т. е. «гармоническими колебаниями частоты со0/2я с мед­
ленно меняющейся амплитудой и фазой».
При а > У Зсо0 (т. е. а > Ь2/2) функция (2.97) будет иметь
единственный максимум в точке со = 0; в случае очень большого а
этот максимум будет очень пологим, так что для многих задач здесь
вообще будет допустимо считать, что / (со) = /0 = const, т. е.
считать рассматриваемый процесс X (t) белым шумом.
Глава 2
124
Пример 4. До сих пор мы рассматривали примеры, в которых
корреляционная функция В (т) задавалась какой-то простой фор­
мулой, после чего подсчитывалась соответствующая спектральная
плотность / (со) и проверялось, что эта плотность неотрицательна.
Теперь мы поступим наоборот — начнем именно с формулы для
спектральной плотности f (со). Итак, пусть
/ (со) = Л/(со4 + 2асо2 + 6),
(2.101)
где Л, а и Ь — вещественные постоянные. Нетрудно проверить,
что для того, чтобы плотность (2.101) была всюду неотрицательной
и интегрируемой, числа Л, а и b должны удовлетворять неравен­
ствам
Л>0,
&>0,
J/T + a > 0 .
(2.102)
_При условиях (2.102) мы можем ввести обозначения ]/ b = щ,
Vb + а = 2а? и переписать формулу (2.101) в виде
/(со) = Л/[(о)2 - со?) + 4оАо2],
(2.103)
откуда сразу видно, что / (со) > 0 при всех со. При любых Л, а и Ь>
удовлетворяющих (2.102), или, что то же самое, при любых Л > 0,
а 2 > 0 и со^ > 0 функция (2.101) или, соответственно, (2.103) будет
спектральной плотностью и ей будет отвечать корреляционная
функция В (т), определяемая формулой
оо
В т
( ) = f1 / 2 Л е Г * ° ,
2 2
(or — u)fr + 4orc«r
•
(2-Ю4)
Интеграл в правой части (2.104) легко подсчитывается с по­
мощью теории вычетов, причем получаемая формула для В (т) будет
иметь разный вид в зависимости от знака разности со^ — а 3 =
=* (/Ь — а)/2. При а>5 — а 2 = со2 > 0 получаем
B(T)=
i^^a,Tl(COSCOoT+"^rsinc0o,T|)-
(2Л05)
В частности, такой вид (с о 0 = а) будет иметь корреляционная
функция, отвечающая спектральной плотности
Кю>—«три»'
(2-Ю6)
При со! = а 2 спектральная плотность (2.103) приобретает вид
W - T S(шI2 S+ Sа2T
) .
(2-Ю7)
12. Примеры корреляционных функций стационарных процессов
125
причем здесь
В(т) = ^-е-\-\(1
+ а\т\).
(2Л08)
Наконец, при со2 — а2 = —(52 < 0 параметр со0 в формуле (2.105)
оказывается чисто мнимым: со0 = ф . В этом случае (2.105) обра­
щается в формулу
В (т) = - ^ - [(а + Р) <r«*-Р> 111 _ ( а _ р) б -(а + р) | х | ].
4асо2р
(2.109)
График спектральной плотности (2.103) имеет тот же характер,
что и график функции (2.97): он симметричен относительно оси
ординат и, если со2 > 2ос2, он на полуоси со > 0 представляется
куполообразной кривой (типа той, которая изображена на рис. 13),
имеющей максимум в точке со = (со2 — 2а2)1/2 (близкой к со0,
если а <С со2). Если же со2 < 2а2, то плотность / (со) имеет един­
ственный максимум в точке со = 0 и монотонно убывает по обе
стороны от этой точки. Формулы (2.101)—(2.109) также довольно
часто могут использоваться для приближенного задания эмпири­
ческих спектральной плотности и корреляционной функции,
встречающихся на практике стационарных случайных процессов;
кроме того, применимость этих формул в ряде случаев может быть
оправдана и теоретически (см. с. 159—161).
Пример 5. Обобщением формул (2.96) и (2.105) является сле­
дующая формула, описывающая общее затухающее колебание:
В (т) = C^-^lт I cos (со01 т | - ¥ ) ,
(2.110)
где С > 0, а > 0, со0 > 0. Поскольку для корреляционной функ­
ции В (т) должно выполняться условие | В (т) | <: В (0), ясно, что
функция (2.110) может быть корреляционной лишь при условии,
что В' (+0) < 0, где В' (+0) — предел [В (К) — В (0) ]/А, когда
h —* 0, пробегая лишь положительные значения. Отсюда легко
вытекает, что фазовый сдвиг W должен удовлетворять неравенству
|^|<:arctg(a/coo).
(2.111)
я
При 4 = 0 функция (2.110), очевидно, обращается в (2.96),
а при W = arctg (а/со0) — в (2.105).
Нетрудно проверить, что преобразование Фурье функции
(2.110) имеет вид
/И
=
(ш2
+
с®2 + d
2
_
а
со2)2 +
4а
2соГ
(2.112)
где
Q
с = — (а cos W — со0 sin Т),
d
^ С (а2 + ш02) ( а
CQS
у +
^ s.n ^
(2
п з )
126
Глава 2
Из формул (2.112) и (2.113) вытекает, что при условии (2.111)
функция / (со) обязательно будет неотрицательной при всех со;
если же условие (2.111) не выполняется, то найдутся значения со,
при которых / (со) < 0. Таким образом, условие (2.111) является
необходимым и достаточным для того, чтобы функция (2.110)
могла быть корреляционной функцией.
Функция вида (2.110) также часто оказываются удобными для
приближенного описания поведения эмпирических корреляцион­
ных функций. В качестве примера на рис. 14 изо­
бражена эмпирическая (центрированная и нормиро­
ванная) корреляционная функция осредненного по
UQ
Европейской территории СССР атмосферного давле­
ния X (0, подсчитанная по формуле (1.756) при
Т = 3 мес, TIN = 12 ч для осени 1949 г. На том же
рисунке изображена функция
R (т) -С^- 0 » 0 6 Hi cos (0,21 | т | - 0 , 0 8 ) , (2.114)
имеющая вид (2.ПО).78 Мы
видим, что используемая
здесь формула для R (т) по­
зволяет сравнительно точно
передать ход эмпирической
корреляционной функции на
интервале,
охватывающем
х дни несколько
перемен
несколько перемен знака
функции
RTN (Т), а не только
Рис. 14.
одну перемену знака (ср.
Эмпирическая корреляционная функция
рис. 12).
RTN(T:) осредненного поля атмосферного
давления (/) и ее аппроксимация функ­
Стационарные процессы
цией R (т) (2).
X (/)
с корреляционными
функциями примеров 1, 3, 4
и 5 относятся к важному классу п р о ц е с с о в с р а ц и о н а л ь ­
н о й с п е к т р а л ь н о й п л о т н о с т ь ю (так как функция /(со)
во всех этих примерах является рациональной). Такие процессы
часто встречаются в прикладных задачах (во многих слу­
чаях по специальным причинам; см. примечание81) и обладают
некоторыми важными свойствами, очень облегчающими решение
многих относящихся к ним задач. К процессам с рациональной
спектральной плотностью мы еще вернемся (см. пример 9).
Пример 6. Белый шум в конечной полосе частот. Белый шум
со спектральной плотностью (2.91) представляет собой математиче­
скую идеализацию, не укладывающуюся в рамки обычного опреде­
ления стационарного случайного процесса. Довольно часто, однако,
в приложениях можно считать, что рассматриваемый процесс
X (t) имеет постоянную спектральную плотность / (со) = /0 лишь
при |со| < Q, гдей —некоторая фиксированная «частота обреза-
12. Примеры корреляционных функций стационарных процессов
127
ния спектра»; если же | со | > £ 2 , то плотность / (OJ) можно считать
просто равной нулю. Функция
( /о при 10)1 < й,
П(о)=
Л
v(2.115)
' 1 0 при | c o | > Q ,
'
разумеется, может быть спектральной плотностью; отвечающая ей
корреляционная функция В (т), очевидно, имеет вид
Я ( т ) = J/о ^ ' т ю ^ = 2 / 0 - ^ ^ .
(2.116)
Идеальный белый^шум (пример 1а) можно рассматривать как
предел рассмотренного здесь «белого шума в конечной полосе
частот» при Q —> оо (и фиксированном / 0 ).
Пример 7. Треугольная корреляционная функция. На с. 94
мы видели, что функция
.С(7--М)„,,М<Г.
w
[0 при | т | > 7 \
v
'
где С > 0 может быть корреляционной функцией стационарного
процесса. Отвечающая ей спектральная плотность легко подсчитывается с помощью формулы (2.82):
№ = £1т-Ы)е-<~Ь--Ц.«*<$&-
(2.118)
-т
(см. рис. 15). Мы видим, что действительно / (со) > 0 при всех со.
Заметим, кстати, что родственная функции (2.117) функция
В(т)
С (Г 2 — т2) при | т | < 7 \
\0 при | т | > 7 \
также удовлетворяющая условиям (1.28)
и иногда используемая в ка­
честве модели корреляционной функции 7Э, уже имеет преобразование Фурье,
принимающее также и отрицательные значения, так что она на самом деле не
может быть корреляционной функцией. При этом для того чтобы убедиться, что
преобразование Фурье функции В (т) здесь не является всюду неотрицательным,
не надо даже производить никаких вычислений. Действительно, мы знаем, что
если корреляционная функция В (т) имеет вторую производную В" (0) в точке
т = 0, то она должна быть дважды дифференцируемой и при всех вообще значе­
ниях т (см. с. 52). Однако рассматриваемая нами функция этому условию не
удовлетворяет: в точке т = 0 она имеет производные всех порядков, но в точ­
ках т = ±Т она недифференцируема.
Пример 8. Гауссовская кривая. Положим
B(T) = Ce-™\
(2.119)
Глава 2
128
т. е. примем, что В (т) имеет форму плотности вероятности одно­
мерного распределения Гаусса с нулевым средним значением.
Формула для преобразования Фурье такой В (т) хорошо известна
(см., в частности, примечание 4); из нее следует, что
f((0)-----7^e-f02/4a.
2|/яа
(2.120)
1V ;
Таким образом, здесь / (со) > 0 при всех со.80
Приведем еще несколько более сложных примеров функций В (т) и / (со).
Пример 9. Общая рациональная спектральная плотность. Рассмотрим рацио­
нальную функцию со общего вида
(со-~Р1)(со-Р2)...(со-М
(2.121)
1 v ;
Л (со) - с ->(со — а±) (со — а 2 ) . . . (со — ар)
гдео&£, k = 1, ..., р и Ру, / = 1, 2, ..., q — корни многочленов А (со) (степени р)
и В (со) (степени q). Естественно считать, что ни один из корней а^ не совпа­
дает ни с одним из корней Ру (но, разумеет­
f(a»
ся, как среди аъ ...,а р , так и среди Pi, ..., Р^
могут встречаться кратные корни). Если
5)
/ (со) — это спектральная плотность (т. е.
вещественная, всюду неотрицательная и ин­
тегрируемая в пределах от —сю до оофунк-
Треугольная корреляционная
Рис. 15.
функция (а) и соответствующая ей спектр ал ьная плотность (б).
ция), то ясно, что р ^q + 2 и что ни один из корней а& не может быть ве­
щественным, а все вещественные корни Ру должны иметь четную кратность
(иначе функция /(со) меняла бы знак в окрестности точки со = Ру). Далее,
в силу вещественности f (со)
с
(СО — Р г ) . . . (СО — Р*)
Pg
(со — о^) . . . (со — ар)
g (СО-Pi)... ( с о - М
(со — о ^ ) . . . (со — ар)
Отсюда видно, что все корни а^ и все комплексные корни Ру разбиваются на пары
комплексно сопряженных корней (а&, а&) и (Ру, Ру), поэтому р= 2п и q= 2т —
12. Примеры корреляционных функций стационарных процессов
129
четные числа. Кроме того, ясно, что С — вещественное положительное чисдо
(иначе не выполнялось бы условие / (со) > 0). Т а к к а к (со — о ^ ) (со — с^) =
= | со — о&£ | 2 и (со — Ру) (со — Ру) = | со — Ру | 2 , то формулу (2.121) можно пере­
писать в виде
1v ;
| (со — аг). . . (со — ап) | 2 '
v
'
где /п < л , С > 0 и можно считать, что все корни аъ ..., ап и все комплексные
корни 0 1 , ..., р т имеют положительную мнимую часть (так к а к из пар (о^, с^)
и (Ру, Ру) в (2.122) входит лишь по одному корню, выбранному по произволу).
Формула (2.122), где С, л , т, аъ ...,ап,
р ь ..., р т удовлетворяют указанным
условиям, задает общий вид рациональной спектральной плотности / (со).
В случае вещественного процесса X (t), когда / (—со) = / (со), в число кор­
ней аъ ..., ар = а2п, наряду с а ^ и а ^ должны входить также корни — а ^ и —а^
(аналогично обстоит дело и с корнями р ъ ..., р ^ == Р 2 т ) . Поэтому наряду с кор­
нем ak = а £ 1 ) + i<4 2 ) или Р у == р*.1* + /pj. 2 ) , где а £ 2 ) > 0, Р<.2) > 0, здесь в число
корней av ..., ап и, соответственно, Р х , ..., Р т войдет и корень — a k = — а ^ +
+ ia^ или — р ; = — p j x ) + *Ру 2) . Отсюда легко следует, что спектральная
плотность (2.122) вещественного процесса X (t) всегда может быть также
записана в виде
f(ai)
с К^Г+М^Г-'Ч--- •+bm\*
=
\(ш)" + а1(ш)п-1
^+fllfl>»("-i)
+ . • -+а„|2
+
. . . + B
w
~ С о2" +А^ (»-D + . . . + А„ '
=
,919Ч,
( 2 Л
^
где все коэффициенты а х , ..., а Л , 6 1э ..., 6 т и A l t ..., Л „ , £ 1 э ..., Вт — ве­
щественные.
Используя формулу (2.67) и теорию вычетов, нетрудно найти корреляци­
онную функцию £ ( т ) , отвечающую спектральной плотности (2.122). В частно­
сти, нетрудно показать, что в случае вещественного Х ( т ) , когда В (-—т) — В ( г ) ,
функция В (т) всегда может быть представлена в виде
пх
,
nt
а
В(т) = J C / ( I т | ) е ~ 1 1 т | + 2 [С*1' (hi) c o s «i 1 ^ +
+ а2)(|т|)8Ш41)|т|]^
_а(2)
k
|т|,
(2.124)
где / а г ..., ian — ч и с т о мнимые корни, входящие в число корней а х , . . . , а Л ;
а } '-\~ ia[ ', . . . , а „ 2 ) + l a j ^ ' — комплексные корни с положительной веществен­
ной частью, входящие в число к о р н е й о ^ , .... а л , а С . (| т |), С$\\ т |) и С[ 2 ) (| т | ) —
многочлены относительно | т | , степени которых на единицу меньше кратности
соответствующих корней ia'. или a^1* + t a p (так что при отсутствии у Л (со)
кратных корней все С., С^ и с £ 2 ) — постоянные коэффициенты). 8 1
Пример 10. Теорема Пойа. Экспоненциальная корреляционная функция (2.89)
и треугольная корреляционная функция (2.117) обладают следующим общим
свойством: график этих функций на полуоси 0 < т < оо в обоих случаях пред5 А . м . Яглом
Глава 2
130
ставляет собой стремящуюся к нулю при т -> оо вогнутую кривую. Напомним,
что кривая у = В (т) называется вогнутой, если при любых т, и т2 из области
изменения аргумента т имеет место неравенство: В ( * ~Т
2
) < — [В (тх) +
+ В (т 2 )] (геометрически это означает, что кривая у = В (т) на любом интервале [Т1У Т 2 ] НИ В одной точке не может оказаться выше хорды, соединяющей
точки (Ti, В (тг)) и (т2, В (т2)). Оказывается, что указанное свойство уже гаран­
тирует, что функция В (т) принадлежит классу корреляционных функций: если
график функции В (т) на полуоси 0 <: т < оо представляет собой вогнутую кри­
вую и В [т] -> 0 при т -> оо, то функция В (т), доопределенная при % < 0 усло­
вием В (—т) = В (т), обязательно представляет собой корреляционную
функцию.
Это утверждение составляет содержание теоремы Пойа.82
В случае дважды дифференцируемых функций В (т) вогнутость графика на
интервале [TV Т 2 ] эквивалентна условию: В" (т) > 0 при тх < т < т 2 . Таким
образом, четная функция В (т) такая, что В (т) -> 0 при т -> оо и £ " (т) > 0
при всех т > 0, всегда является корреляционной функцией.
Пример 11. Экспоненциальные корреляционные функции. Выше мы уже
видели, что функции Се~а ' т ' и Се~ а т \ где С > 0,а > 0, являются корреляцион"
ными функциями. Нетрудно также доказать, что функция
В (т) = Се~а > х Г ,
С > 0,
а>0,
(2.125)
при /г > 2 не может быть корреляционной функцией (см., например, примеча­
ния 3 и 4 ). С другой стороны, если 0 < k < 1, то функция (2.125) наверное
будет принадлежать классу корреляционных функций в силу теоремы Пойа
(ибо здесь В" (т) > 0 при всех т > 0). Более трудно доказывается, что функ­
ция (2.125) будет корреляционной функцией и при всех k таких, что 1 < k < 2;
однако и этот факт оказывается верным. Таким образом, функция (2.125) при­
надлежит классу корреляционных функций при всех k из интервала 0 < k < 2.
Соответствующие спектральные плотности / (со) в совсем другой связи детально
изучались в теории вероятностей83; для них, однако, при k =f= 1 и k =f= 2 уже не
удается получить явной формулы.
Пример 12. Корреляционные функции, выражающиеся через бесселевы функ­
ции. Имеется много примеров корреляционных функций, выражающихся через из­
вестные из математической физики классы специальных функций. Так, напри­
мер, в теории бесселевых функций известно следующее представление бессе­
левой функции нулевого порядка J0 (О841
eitxdx
Г
)1/2 "
Отсюда сразу вытекает, что функция
В (т) = С/ 0 (ат),
О 0, а > 0,
(2.126)
принадлежит классу корреляционных функций, причем ей отвечает стремящаяся
к бесконечности при со -> ± а спектральная плотность вида
/(со)
fCn-^a 2 - ©2)-1/2
(0
при
при
| со | < ОС,
|со|>а.
Корреляционная функция (2.126) входит в следующее семейство корреля­
ционных функций:
В(т) = С '"'*"% ,
(остр2
п = 0,1,2,...
(2.128)
13. Линейные преобразования случайных процессов
131
(о них см. примечание85). При п= 1 функция (2.128) сводится к корреляцион­
ной функции (2.116) белого шума в конечной полосе частот, с которой мы
сталкивались выше.
Еще одним примером корреляционной функции, выражающейся через
функции Бесселя, является функция
B(T) = C(aT) v tf v (ar),
О
0, а > 0 ,
v^O,
(2.129)
х
где Kv ( ) — так называемая функция Макдональда, т. е. функция Бесселя
второго рода от мнимого аргумента. Этой корреляционной функции отвечает
всюду положительная спектральная плотность
Н<А
2 v - 2 r ( v + l/2)a 2 v C
Формулы (2.129) и (2.130) имеют важные применения в теории электриче­
ских шумов и теории турбулентности86; при v = 1/2 они обращаются в уже из­
вестные нам формулы (2.89) и (2.90).
Исходя из приведенных выше примеров корреляционных функций (Вт),
легко построить большое число новых примеров таких функций. Много допол­
нительных примеров корреляционных функций В (т) можно также найти в общириной специальной литературе по теории характеристических функций863;
здесь, однако, мы ограничимся теми примерами, которые были указаны выше.
13.
Линейные преобразования стационарных
случайных процессов
В § 10 было разъяснено, что спектральное разложение ста­
ционарного случайного процесса X (t) имеет довольно специальный
смысл: оно не приложимо к отдельным реализациям л; (/), а требует
рассмотрения всего ансамбля таких реализаций и вероятностного
истолкования соответствующего интеграла Фурье—Стилтьеса.
И тем не менее это разложение оказывается очень полезным для
многих приложений. Для того чтобы понять, почему так обстоит
дело, надо прежде всего вспомнить, как именно обычно использу­
ется в прикладных задачах гармонический анализ числовых
(неслучайных) функций х (t),
Так как наибольшую ценность гармонический анализ представ­
ляет при изучении инвариантных во времени линейных преобразо­
ваний функций х (t), то стоит начать с общего рассмотрения
таких линейных преобразований. Теории л и н е й н ы х п р е ­
образований
(или, иначе, л и н е й н ы х
систем,
линейных
фильтров
или л и н е й н ы х
опера­
т о р о в в функциональных пространствах — эти четыре термина
имеют одно и то же значение) посвящен ряд больших монографий87;
здесь мы лишь вкратце осветим некоторые самые основные относя­
щиеся сюда факты, не претендуя ни на математическую строгость,
ни на охват хотя бы важнейших прикладных аспектов соответ-^
5*
132
Глава 2
ствующей теории. Под п р е о б р а з о в а н и е м
мы будем
понимать операцию 3£, применимую к некоторой совокупности
функций (составляющей область определения операции 5?) и
переводящую каждую из этих функций х (t) во вполне определен­
ную новую функцию у (t):
Se{x(t)\=y(t).
(2.131)
Операция 2? называется л и н е й н ы м п р е о б р а з о в а ­
н и е м , если ее область определения вместе с любым конечным
набором функций хг (/), ..., хп (t) содержит и все их линейные
п
комбинации YaLxi (0» г Д е ai> •••> ап — произвольные комплекс­
ах
ные числа, и при этом
1=1
1= 1
Число п в (2.132) может принимать любое целое положительное
значение, но если допустить, что п = оо, то операция 3? может
со
оказаться неприменимой к функции $" a-xt (t), даже если она
i=\
применима ко всем функциям xt (f). Однако в дальнейшем нам
будет удобно требовать, чтобы операция 2£ обладала свойством
непрерывности (т. е. переводила близкие друг к другу функции
x
i (0 и х2 (О и з своей области определения снова в близкие функ­
ции) и, в частности, чтобы равенство (2.132) с п = оо было спра­
ведливым во всех тех случаях, когда обе его стороны при таком п
имеют смысл.
Линейное преобразование^ называется и н в а"р и а н т н ы м
в о в р е м е н и , если
2{x(t
+ t)\=y(t
+ %)
(2.133)
при любом вещественном т, где х (t + т) и у (t + т) — функции
аргумента t, значения которых в момент t равны значениям функ­
ций х (t) и соответственно у (t) в момент t + т.
Важный класс линейных преобразований образуют линейные
и н т е г р а л ь н ы е п р е о б р а з о в а н и я вида
оо
Z\x(t)\
= jh(t;s)x(s)ds,
(2.134)
13. Линейные преобразования случайных процессов
133
применимые к тем х (t), для которых интеграл в правой части
(2.134) оказывается сходящимся. Если преобразование (2.134)
инвариантно во времени, то, значит,
оо
оо
J h (/; s) х (s + т) ds = j h (t + т; s) x(s) ds =
-oo
-oo
oo
= \h(t + v,s + x)x(s + t)ds
(2.135)
для любой функции x (t) и любого т. Следовательно, в этом слу­
чае h (t + т; s + т) = h (t\ s) при всех т. Полагая, в частности,
т = — s, найдем, что
h(t; s) = h(t- s; 0) = h(t - s)
(2.136)
(функция h (t — s; 0) зависит уже только от одного аргумента
/ — s, и поэтому ее естественно обозначить просто как h (t — s)).
Итак, линейное преобразование (2.134) будет инвариантным во
времени лишь при условии (2.136), когда оно приобретает вид
&{x(t)}=
оо
оо
\h(t — s)x(s)ds=*
\h{u)x{t~u)du.
-ОО
(2.137)
-оо
Функция h (/), которая называется в е с о в о й ф у н к ц и е й
(или и м п у л ь с н о й п е р е х о д н о й ф у н к ц и е й , или
в р е м е н н о й х а р а к т е р и с т и к о й ) преобразования <2\
имеет простой физический смысл. Рассмотрим последовательность
функций 8п (t) из области определения оператора S такую, что
оо
lim 6„ (t) = 0 при всех t Ф0 я
\ 8п (t) dt = 1 при всех п. Под-
ставив 8п(п) в правую часть формулы (2.137) вместо функции
х (t) и полагая п —> оо, легко получим
lim&{6n(t)}=h(t).
(2.138)
П-»оо
Но последовательность 8п (t) — это не что иное, как по­
следовательность, сходящаяся к б-функции б (f), а равен­
ство (2.138) эквивалентно основному свойству б-функции:
оо
J h(t — s) б (s) ds = h (t). Следовательно, равенство (2.138) фор—oo
мально можно переписать в виде
h(t) = S?[6{t)\.
(2.139)
Таким образом, весовая функция h (t) — это результат приме­
нения линейного преобразования 3? к (обобщенной) функции б(/),
отвечающей идеализированному представлению о мгновенном
импульсе единичной интенсивности.
134
Глава 2
Предыдущие рассуждения показывают, что для того, чтобы
линейное преобразование 9? могло быть записано в виде (2.137)
(т. е. чтобы для него существовала весовая функция h (/)), надо,
чтобы существовал предел \\т9? \bn(f)\ = h (t) (иначе говоря,
П->оо
надо, чтобы 3? можно было применить к б-функции). Последнее
условие, разумеется, выполняется далеко не всегда: существуют
многие простые линейные преобразования, для которых выраже­
нию & |б (/)} никакого разумного смысла придать нельзя. Однако
даже и в таких случаях довольно часто используется запись
(2.137), но только при этом считается, что h также является «обоб­
щенной» функцией, для которой на самом деле не существуют
«значения в точке» h (t). При таком понимании обобщенные функ­
ции, разумеется, становятся просто синонимами линейных пре­
образований: задав каким-то образом линейное преобразование 2 \
можно считать, что тем самым задана и обобщенная функция Л,
являющаяся его весовой функцией.
Перейдем теперь к еще одному методу описания инвариантных
во времени линейных преобразований 3?', как раз и поясняю­
щему ценность гармонического анализа для теории таких преоб­
разований.
Предположим, что речь идет о преобразовании «2\ применимом
ко всем гармоническим колебаниям вида х (t) = еш (это пред­
положение, которое ниже мы не будем специально оговаривать,
на практике всегда можно считать справедливым). Оказывается,
что в таком случае применение преобразования 3! к функции еш
сводится к простому умножению этой функции на постоянный
(т. е. не зависящий от /, но, вообще говоря, зависящий от о)
множитель Я = Я (со), так что
&[еш) = Н(ъ)еш.
(2.140)
Действительно, пусть $ \еш\ = у (t); тогда в силу линейности 9?
(т. е. условия (2.132), где полагается п = 1, a a± = ei(*T) имеем
С другой стороны, в силу инвариантности 9£ во времени (свой­
ство (2.133)) 9S \е(*«+т>\ = у (t + т), так что
y(t + T)~e'"*y(t).
Полагая здесь t = 0, получим
»(T)-etotj(0).
Последнее равенство очевидно равносильно соотношению (2.140);
они различаются лишь тем, что величина у (0) в (2.140) обозна­
чена символом Я (со), а переменное т заменено на t.
Функция Я (со) является очень важной характеристикой
преобразования 9?\ она называется п е р е д а т о ч н о й ф у н к -
13. Линейные преобразования случайных процессов
135
ц и е й (или к о э ф ф и ц и е н т о м п е р е д а ч и , или ч а с ­
тотной
характеристикой)
этого
преобразо­
вания. Если преобразование 3 — вещественное (т. е.
переводит вещественные функции х (t) в вещественные же функ­
ции), то функция 3 {еш + е~ш\ = Я (со) еш + Я (—со) е~ш
должна при всех t быть вещественной; отсюда, как нетрудно ви­
деть, вытекает, что в случае вещественного преобразования 3
Я(-о))-Я(4
(2.141)
Вместо одной комплексной функции Я (со) преобразование 3
иногда характеризуют двумя вещественными функциями А (со) =
= |#(оо)| и W (со) - arg Я (со) (так что Я (со) - А (со) е™ ((0),
т. е. 3 \еш\ = А (со) ^[©/+^«0)1. функцию А (со) в таком слу­
чае называют к о э ф ф и ц и е н т о м у с и л е н и я (или а мп л и т у д н о й ч а с т о т н о й х а р а к т е р и с т и к о й ) пре­
образования 3, а функцию W (со) — его ф а з о в ы м
сдви­
г о м (или просто ф а з о й , или ф а з о в о й
частотной
х а р а к т е р и с т и к о й ) . В случае вещественного преобра­
зования 3 из (2.141) следует, что
А(—со) == A (to), ¥ (—со) = —W (о).
(2.141а)
Заметим, что если Я (со) — передаточная функция 3,
в силу линейности 3
то
2 { t **"* } « £ « * # [еш*) - S «;Я К ) е ' ^ .(2Л 42)
Рассмотрим теперь значительно более широкий класс функ*
ций х (t), к которым применим гармонический анализ (т. е. функ­
ций, разложимых в ряд Фурье, интеграл Фурье или интеграл
Фурье—Стилтьеса). Вспомним, что мы условились считать рас­
сматриваемые преобразования 3 в пределах своей области опре­
деления непрерывными в том смысле, что если 3 применимо и
ко всем функциям хп (t), п = 1, 2, ... и к их пределу при п -+■ оо,
то при весьма широких условиях имеет место равенство
3 Jlim хп (t)\ = lim 3? \хп (t)\. Ясно, что это условие непрерывности наверное выполняется для интегральных преобразо­
ваний вида (2.137); также и все другие реально встречающиеся
на практике линейные преобразования 3 являются непрерывными
в указанном здесь смысле. Так как и бесконечный ряд Фурье,
и интеграл Фурье, и интеграл Фурье—Стилтьеса представимы
в виде предела частных (или интегральных) сумм, состоящих из
конечного числа гармоник, то в силу непрерывности символ ли­
нейного преобразования можно внести под знак суммы (в случае
136
Глава 2
рядов Фурье) или интеграла (в случае интегралов Фурье и Фурье—
Стилтьеса), так что
1>*5Мс''и*Ч = Х а * Я К к ' Х
2\%а^»Л=
I k
J
k
(2.143)
к
S \ \ ешц> (со) dco} = J & [еш\ ср (со) dco =
= j ешН (со) ф (со) dco,
(2.143а)
SB\ je'a'd<D((o)j== j2 , {e' a '}dO(co)= \ешН(со) dO(co). (2.1436)
Мы видим, что знание передаточной функции Н (со) позволяет
очень просто описать воздействие преобразования 3? на любую
функцию х (t), к которой применим гармонический анализ.
Именно это обстоятельство и определяет в первую очередь при­
кладную ценность гармонического анализа, так как инвариантные
во времени линейные преобразования крайне часто встречаются
в приложениях и играют центральную роль в очень многих прак­
тических задачах.
Пусть теперь 2£ — это интегральное преобразование вида
(2.137). В таком случае, подставив в правую часть (2.137) вместо
х (s) функцию еш, найдем, что
оо
ш
ш
$h(u)e-{<*udu,
& \е \ =е
-оо
откуда следует, что в данном случае
оо
#(©)
= \e-^uh{u)LU.
(2.144)
-оо
В силу формулы обращения интегралов Фурье отсюда вытекает,
что
оо
ft (u) = J L ]><■>"# (со) бко,
(2.145)
-00
т. е. функции h (и) и Н (со) являются просто преобразованиями
Фурье друг друга. Следовательно, в случае интегрального пре­
образования (2.137) передаточная функция Н (со) должна доста­
точно быстро убывать на бесконечности — так, чтобы существо­
вало ее преобразование Фурье h (и). Легко показать и обратно,
если существует преобразование Фурье h (и) функции Н (со),
то это означает, что линейное преобразование 2? можно применить
13. Линейные преобразования случайных процессов
137
к 8-функции, причем ЗВ {б (t)} = h (t)y так что SB — это инте­
гральное преобразование с весовой функцией h (и). Если же
интеграл в правой части (2.145) — расходящийся, то соответ­
ствующая «весовая функция» h (и) не существует в обычном смысле,
а является обобщенной функцией.
Предположим теперь, что функция х (t) описывает изменение
во времени некоторой реальной физической величины (например,
силы электрического тока, или скорости, или температуры),
а линейное преобразование SB значений х (t) осуществляется ка­
кой-то физической системой, состоящей из электрических, меха­
нических или термодинамических элементов и имеющей реаль­
ный «вход», на который непосредственно воздействуют колеба­
ния х (0, создавая тем самым на «выходе» системы колебания
у (t) = SB \х (t)\. В таком случае весовая функция h (и) преоб­
разования SB должна еще удовлетворять важному дополнитель­
ному условию. А именно, в реальных физических системах
всегда
h(u) = 0 при и<0.
(2.146)
Нетрудно понять физический смысл условия (2.146): в силу
(2.137) оно означает, что отклик на выходе системы SB не может
появиться до того, как было подано воздействие на ее вход (так
что значение SB \х (t)\ в момент tx зависит лишь от значений х (t)
при t < tx; в частности, если х (t) = О при t < tlf то и & \х (t)\ =
= 0 при t <: / х ). Иначе говоря, условие (2.146) выражает общий
принцип причинности (следствие не может предварять во вре­
мени причину), действующий в окружающем нас материальном
мире; оно называется условием ф и з и ч е с к о й р е а л и з у е ­
м о с т и преобразования SB. Разумеется,-это условие можно вы­
разить и в виде некоторого свойства передаточных функций Н (со)
всех реальных линейных систем ЗВ\ на этом, однако, мы здесь
не будем задерживаться.88
Перейдем к основной теме настоящего параграфа — примене­
нию инвариантных во времени линейных преобразований 3
к стационарным случайным процессам X (t). Вообще говоря,
класс рассматриваемых преобразований ^ и в этом случае можно
задать, указав их общие свойства (2.132) и (2.133), где только
надо заменить фиксированные функции времени х (t) случайными
процессами X (t). Нам, однако, удобнее будет воспользоваться
более конкретным описанием класса преобразований 3£', выпи­
сав общую формулу для таких преобразований, охватывающую
все представляющие интерес линейные преобразования процес­
сов X (t)
Глава 2
138
Начнем с частного класса преобразований вида
N
Se[X(t)\=
EA/Xtf-T/),
(2.147)
где N — целое число, hi — постоянные (вообще говоря, комплекс­
ные) коэффициенты, а ту. — фиксированные вещественные числа
(положительные, отрицательные или равные нулю). Ясно, что
формула (2.147) задает инвариантное во времени линейное пре­
образование, т. е. что 5? обладает свойствами (2.132) и (2.133)
(с заменой х (t) на X (*)); однако класс таких преобразований (2.147)
является все же довольно узким. Гораздо более широкий класс
линейных преобразований мы получим, допустив, что S может
также быть и пределом конечных сумм вида (2.147), т. е. включив
в класс рассматриваемых преобразований все «2\ представимые
в виде
= \\m Yhin)X(t
2{X(t)\
-т(п))
(2.148)
(где предел последовательности случайных величин, как обычно,
понимается в смысле сходимости в среднем квадратичном). Фор­
мула (2.148) оказывается уже достаточно широкой; поэтому
в дальнейшем мы ограничимся преобразованиями вида (2.148).
Воспользуемся теперь спектральным разложением (2.61) про­
цесса X (t). Подставив это разложение в формулу (2.148), получим
N
2{X(t)}
= lim
n
(п)
ix
\е"»УНре
n->co__ r j 0
/ =
i
tt
dZ(a).
(2.149)
1
Нетрудно убедиться, что предел в среднем квадратичном в пра­
вой части (2.149) будет существовать тогда и только тогда, когда
п
• (п)
последовательность функций Я„ (со) = Jj А/л)е"~£Т/ Qсходится кнекоторой функции Я (со) в среднем квадратичном по мере dF (со)
(где F (со) — спектральная функция процесса X (/), так что
dF (со) = (\dZ (со)|2)), т. е. когда существует функция Я (со)
такая, что
сю
Iim f | // л (о>) — // (со) |а d/7 (<о) = 0.
(2.150)
"->°°-оо
Функция Я (со) при этом
ворять неравенству
условии
очевидно будет
удовлет­
оо
J|fl(<D)|2df(co)<<x>,
(2.151)
i3. Линейные преобразования случайных процессов
139
а предел в правой части (2.149) будет выражаться через Я (со)
с помощью формулы
оо
2{X(t)\=
\e"»H(<o)dZ(<o).
(2.152)
— оо
С другой стороны, если Я (со) — произвольная комплексная
функция, удовлетворяющая условию (2.151), то всегда найдется
последовательность функций Нп (со), п = 1, 2, ... вида Ип (со) =
= 2] A/n)e ni ° \ сходящаяся к Я (о) в смысле (2.150); это ознаI
чает, что отвечающее Я (со) преобразование (2.152) при усло­
вии (2.151) всегда может быть представлено в виде (2.148). Таким
образом, введенный нами класс линейных преобразований 3?
вида (2.148) точно совпадает с классом преобразований (2.152),
где Z (со) — случайная функция частоты, фигурирующая в спек­
тральном разложении (2.61) стационарного процесса X (t),
а Я (со) — обычная (неслучайная) функция, удовлетворяющая
(2.151). Комплексная функция Я (оо) называется
переда­
т о ч н о й ф у н к ц и е й преобразования (2.152), а ее модуль
j Я (со) | = А (со) и аргумент arg Я (со) = W (со) — его к о э ф ­
ф и ц и е н т о м у с и л е н и я и, соответственно, ф а з о в ы м
сдвигом.
Формула (2.152) показывает, что & \Х (t)} = Y (t) также
является стационарным случайным процессом, причем функция
ZY (со), входящая в спектральное разложение этого процесса,
связана с функцией Z (со) = Zx (со) соотношениями:
dZy (со) = Я (со) dZ (со) == A (cote^<w> dZ (со),
0)
ZK (со) = J//((o')rfZ(©').
(2.! 53)
-оо
Следовательно, если FYY (со) — спектральная функция
образованного процесса Y (t)> то
dFYY(<o) = | Я (со) |2 dF (со) = [А (со) ]* dF (со),
пре­
со
FYY (со) =
j | Я (со') | 2 dF (со').
(2.154)
-оо
Формула (2.153), в частности, показывает, что линейное пре­
образование Y (t) процесса X (t) с дискретным спектром всегда
будет .процессом с дискретным спектром (причем спектры X (t)
и Y (t) будут состоять из той же совокупности частот сох, со2, ...);
если же, как это чаще всего бывает на практике, процесс X (t)
140
Глава 2
имеет спектральную плотность / (со), то и Y (t) будет иметь спек­
тральную плотность fYy (о>), причем
/уу(со) = |Я(со)|2/((о).
(2.155)
Класс допустимых передаточных функций Я (со) в последнем
случае определяется очень простым условием
оо
J|#(w)| 2 /(co)r/(o<oo,
(2.151а)
-оо
а корреляционная функция BYY (т) процесса Y (t) будет равна
оо
By у (т) = j е<™ | Я (со) |2 / (со) dco.
(2.156)
-оо
Постараемся теперь связать друг с другом рассматривавшееся
в начале этого параграфа понятие линейного преобразования 3£',
действующего на фиксированные функции х (t) времени /, и вве­
денное выше понятие линейного преобразования 3!, действую­
щего на стационарные случайные процессы X (if). Пусть, напри­
мер, преобразование 3? функций х (t) имеет непрерывную весо­
вую функцию h (и), т. е. может быть представлено в виде (2.137),
где функция h (и) непрерывна. Сопоставим этому преобразованию
следующее преобразование стационарных случайных процес­
сов X (t):
оо
&{X(t)}=*
I h(u)X(t
— u)du,
(2.153а)
—00
где интеграл в правой части теперь понимается как интеграл
в среднем квадратичном (т. е. в обычном смысле, о котором шла
речь в конце § 4). Ясно, что преобразование (2.137а) входит
в класс преобразований (2.148), если только интеграл в правой
части (2.137а) — сходящийся, т. е. если
оо
оо
j \h(u)hJv)B(v-u)dudv<oo
(2.157)
-оо -оо
(ср. условие (1.46)). Подставив в правую часть (2.137а) вместо
процесса X (t) его спектральное разложение, легко убедимся,
что передаточная функция Я (со) преобразования (2.137а) задается
известной нам формулой преобразования Фурье (2.14^); усло­
вие (2.157) при этом может быть переписано в терминах преоб­
разования Фурье Я (со) функции h (и) и тогда оно примет вид
(2.151). Но на с. 54 мы отмечали, что в случае непрерывных
в среднем квадратичном стационарных процессов X (t) (а только
13. Линейные преобразования случайных процессов
141
такие процессы и рассматриваются в этой книге) соответствую­
щие реализации х (t) будут интегрируемыми функциями (обычно
либо просто непрерывными, либо имеющими лишь дискретные
точки разрыва первого рода), причем значения
оо
y(t)= \h(u)x(t-u)du
(2.158)
здесь будут выборочными значениями (реализациями) интеграла
в среднем квадратичном, стоящего в правой части равенства
(2.137а). Поэтому, подав на вход линейной системы, осуществляю­
щей преобразование (2.137) неслучайных функций х (t)y реализа­
цию х (t) процесса X (t), мы получим (при условии (2.157)) на
выходе этой системы реализацию процесса 3? \Х (t)\ = Y (t)9
задаваемого формулой (2.137а).
Напомним, что ни спектральное разложение процесса X (t),
ни спектральное разложение преобразованного процесса Y (t)
не могут быть непосредственно применены к отдельным реали­
зациям х (t) и у (t); существенно, однако, что функция у (t) на
выходе линейной системы, описываемой уравнением (2.137),
будет в рассматриваемом случае являться реализацией стационар­
ного случайного процесса Y (t), имеющего спектральное разло­
жение (2.152), и поэтому во многих отношениях будет вести себя
так, как будто она допускает разложение по гармоникам еш >
коэффициенты которого получаютсяАиз коэффициентов соответ­
ствующего разложения функции x(t) с помощью умножения на
передаточную функцию Н (со) (типичный пример, иллюстрирую­
щий такое поведение у (t), будет приведен на с. 144).
Именно это обстоятельство и объясняет, почему предположе­
ние о допустимости гармонического анализа функций х (t) так
часто приводило к вполне разумным результатам даже тогда,
когда речь шла о функциях, заведомо ни в ряд Фурье, ни в ин­
теграл Фурье, ни в интеграл Фурье—Стилтьеса не разлагаю­
щихся (но могущих считаться реализациями стационарных слу­
чайных процессов); его мы и имели в виду, когда отмечали (на
с. 105), что обычные применения гармонического анализа не­
случайных функций х (f) переносятся практически без изменения
и на спектральное разложение стационарных случайных про­
цессов.
До сих пор мы для простоты предполагали, что преобразова­
ние 2?{X(t)\ задается интегральной формулой (2.137а). Однако
на с. 52 отмечалось, что и в случае дифференцируемого (в сред­
нем квадратичном) процесса X (t) его реализации х (f) оказы­
ваются дифференцируемыми функциями, причем х' (t) здесь сов­
падает с реализацией случайного процесса X' (t). Отсюда следует,
142
Глава 2
что и в применении, например, к линейному преобразованию
вида
2\X(t)\ =a0J^L
+ ai
^ * < * > + . . . +anX{t)y
(2.159)
где все производные понимаются в смысле пределов в среднем
квадратичном, реализации процесса 2? \Х (t)} при условии, что
процесс X (t) имеет все производные до n-го порядка включительно,
также будут совпадать с функциями <£ [х (t)\ = a0dnx (t)/dtn +
+ • • • + апх (f), получающимися с помощью применения соот­
ветствующего линейного преобразования SB к отдельным реали­
зациям процесса X (/). Вообще, если SB — линейное преобразо­
вание (2.148), имеющее смысл в применении к процессу X (t),
то для реализаций х (t) этого процесса X (t)9 как правило, будет
существовать предел (понимаемый в обычном смысле)
S\x(t)\=
HmL/if^-T^),
(2.148а)
Я->оо/ = 1
причем предел (2.148а) будет совпадать с соответствующей реали­
зацией процесса 2£ \Х (t)\. Это важное обстоятельство как раз
и позволяет заменять линейные преобразования вида (2.148)
стационарных случайных процессов X (t) линейными преобразо­
ваниями (2.148а), применяемыми к отдельной реализации х (t)
процесса X (t).
Возможность реального осуществления линейных преобразо­
ваний S£ случайных процессов X (f) при помощи специальных
устройств (линейных систем или фильтров) позволяет придать
спектральному разложению (2.61) непосредственный физический
смысл. Выше термин «линейный фильтр» мы употребляли как
синоним линейной системы или линейного преобразования; те­
перь, однако, стоит подчеркнуть, что в технике этот термин имеет
еще и более специальный смысл: ф и л ь т р о м часто называется
такое устройство, которое пропускает гармонические колебания
с частотами из определенного интервала (полосы пропускания
данного фильтра), но подавляет (т. е. резко ослабляет или вообще
не пропускает) все прочие гармонические колебания. Особенно
широкое распространение имеют электрические фильтры, играю­
щие важную роль почти во всех радиотехнических приборах;
такие фильтры обычно представляют собой электрическую цепь,
имеющую четыре свободных конца (четырехполюсник); два конца
являются «входом» фильтра, а два — «выходом». Если на вход
13. Линейные преобразования случайных процессов
143
фильтра подать электрическое напряжение, гармонически колеб­
лющееся с круговой частотой со, то в зависимости от того, при­
надлежит со полосе пропускания фильтра или нет, напряжение
на выходе будет или почти точно следовать напряжению на входе
(а иногда даже будет отвечать умножению напряжения на входе
на постоянное число — в этом случае соответствующий фильтр
называется у с и л и т е л е м ) ,
или будет практически равно
нулю.
В основном на практике применяют следующие типы филь­
тров: ф и л ь т р ы н и з к и х ч а с т о т , пропускающие гар­
монические колебания с частотой, меньшей некоторой пороговой
частоты со0, но задерживающие, все колебания с частотой со > со0;
ф и л ь т р ы в ы с о к и х ч а с т о т , пропускающие колеба­
ния, если со > со0, но задерживающие колебания при со < со0,
и п о л о с о в ы е ф и л ь т р ы , пропускающие лишь колебания
с частотой из некоторого интервала co1<to<co*. Электрические
схемы таких фильтров можно найти в любых справочниках
по радиотехнике; описания реже применяющихся (но иногда
все же использующихся) механических и акустических фильт­
ров также можно найти в специальной литературе.89
Пусть теперь X (t) — вещественный стационарный случайный
процесс, имеющий спектральное разложение (2.61), а х (t) — его
реализация, которую для определенности мы будем себе пред­
ставлять в виде флуктуирующего электрического напряжения.
Если мы подадим это напряжение на вход полосового электри­
ческого фильтра с полосой пропускания сох < со < со2, то напря­
жение на выходе фильтра будет представлять собой реализацию
случайного процесса X©,©, (t) со спектральным разложением вида
-(Ох
Ха1(Й2 (0 =
©2
0)2
{at
J e'*'dZ((o) + j e dZ(w) = 2Re J el'«"dZ(<o)
-(0.
(0,
cot
(2.160)
(где Re X означает вещественную часть комплексного числа X).
Процесс Xo)l0)2 (0 — это спектральная компонента процесса X (t),
отвечающая интервалу частот сох < со < со2 (или, иначе, — вклад
указанного интервала частот в значения X (t)). Таким образом,
мы видим, что отдельные спектральные компоненты XQl©2(f)
(точнее говоря, их реализации jc©t©8 (t)) могут быть эффективно
выделены при помощи соответствующих полосовых фильтров.
* На самом деле идеальные фильтры (т. е. такие, что для них точно выпол­
няются равенства: | # (со) | = 1 в пределах полосы пропускания фильтра и
| Н (со) | = 0 вне этой полосы) всегда являются физически нереализуемыми.
Однако на практике всегда можно подобрать физически реализуемый фильтр
с коэффициентом усиления А (со)8 9= [ Н (со) |, достаточно близким к тому, который
нам требуется (см. примечание ).
144
Глава 2
Заметим еще, что если полоса пропускания Дсо = со2 — oc^
полосового фильтра будет достаточно узкой (по сравнению со
«средней частотой» со0 = (щ + со2)/2), то реализацию x(i)l0)2 (t)
компоненты Х^^2 (t) можно будет на любом заранее заданном
конечном интервале временной оси 0 < t < Т с любой заданной
степенью точности аппроксимировать реализацией случайного
гармонического колебания Re [2Z (Лео) еШо* ] (где Z (Дсо) =
= Z (со2) — Z (а)])). Иначе говоря, хотя функция х(д1(д2 (/), будучи
реализацией стационарного процесса, также не будет разлагаться
в интеграл Фурье (или Фурье—Стилтьеса), тем не менее при очень
малом Дсо/со0 колебание на выходе соответствующего полосового
фильтра на протяжении большого числа периодов будет с высокой
степенью точности аппроксимиробаться синусоидой круговой
частоты со0> т. е. будет вести себя так же, как оно вело бы себя,
если бы заданная реализация х (t) разлагалась в интеграл Фурье.
Разумеется, амплитуда и фаза соответствующей синусоиды
будут меняться от реализации к реализации; кроме того, в случае
непрерывного спектра процесса X (t) компонента х^^Ц) ни при
каком Дсо не будет строго периодической: если мы выделим одну
очень длинную реализацию и рассмотрим два ее отрезка, отде­
ленные большим промежутком времени, то окажется, что хотя
оба эти отрезка и хорошо приближаются отрезками синусоид
одной и той же частоты со0> н о амплитуда и фаза у этих двух отрез­
ков синусоиды будут, вообще говоря, различными.
Возможность реального выделения спектральных компонент
^о^ыг (t) открывает возможность экспериментального определе­
ния значений спектральной функции F (со) и спектральной пло­
тности /(со) стационарного случайного процесса X (t). В самом
деле,
(IX«^ (О]2) = [F (со2) - F К ) ] + [F ( - ©0 - F ( - со2)] =
= 2[FK)-FK)].
(2.161)
Таким
образом, разность
F (со2) — F (сох) (совпадающая
с J f (со) dco, если существует плотность /(со)) равна половине
(Oi
среднего квадрата спектральной компоненты Xal(i)2(t) процесса
X (t), т. е. она пропорциональна полной энергии выделяемой за
единицу времени (мощности) совокупности колебаний с часто­
тами из интервала сох <: со < со2, входящих в состав X (t).
Напомним еще, что в силу некоррелированности прираще­
ний Z (со) спектральные компоненты X (t), отвечающие непере­
секающимся интервалам оси частот, будут взаимно некоррели­
рованными, а средний квадрат их суммы будет равен сумме сред­
них квадратов слагаемых; поэтому полная энергия X (t) слагается
из энергий компонент, отвечающих разбиению оси частот на непе-
13. Линейные преобразования случайных процессов
145
ресекающиеся части, а спектральная функция F (со) определяет
распределение полной энергии (или мощности) X (f) по спектру
частот со. Соответственно этому спектральная плотность f (со)
может быть также названа п л о т н о с т ь ю с п е к т р а л ь ­
н о г о р а с п р е д е л е н и я э н е р г и и (или м о щ н о с т и )
процесса X (t)\ в прикладной литературе ее часто просто назы­
вают с п е к т р о м э н е р г и и (или с п е к т р о м м о щ ­
н о с т и ) процесса X (/)*.
В § 6 мы видели, что средний квадрат стационарного слу­
чайного процесса X (t) может быть при широких условиях опре­
делен с хорошей точностью по одной достаточно длинной реали­
зации этого процесса. Отсюда вытекает, что функции F (со) и
f (со) обе могут быть определены экспериментально по данным
о процессах на выходе ряда полосовых фильтров, на вход которых
подается реализация процесса X (f). Вопрос об определении спек­
тральных функции и плотности стационарного процесса X (t)
по относящимся к нему экспериментальным данным является
весьма важным, и о нем мы еще будем специально говорить в § 18;
здесь же мы ограничимся лишь несколькими краткими замеча­
ниями, относящимися к случаю существования спектральной
плотности / (со).
Подадим реализацию х (t) процесса X (/), заданную в виде
флуктуирующего электрического напряжения, на вход электри­
ческого фильтра низких частот, пропускающего (и притом прак­
тически без искажений) лишь колебания с частотой, меньшей за­
данного значения со, а к выходу фильтра подключим ваттметр (квад­
ратор), измеряющий энергию тока (т. е. квадрат силы тока или
напряжения). В таком случае стрелка этого прибора остановится
О)
на значении,
пропорциональном
J / (со') dco' = F (со) — F (0)
о
(осреднение по времени, нужное для получения именно среднего
квадрата тока на выходе прибора, всегда в какой-то мере осуще­
ствляется самим прибором в силу его инерционности; если этого
недостаточно, то надо лишь дополнительно осреднить по времени
показания ваттметра, что нетрудно сделать).
Меняя значение со, мы найдем здесь весь ход кривой F (со) —
— F (0) (при условии, что коэффициент пропорциональности
между показаниями ваттметра и квадратом напряжения на его
входе уже определен из данных тарировки прибора). После диф­
ференцирования найденной кривой по со получаются и сами зна­
чения / (со).
* Эти термины иногда используются даже и тогда, когда процесс X (t) опи­
сывает флуктуации величины, квадрат которой не имеет смысла энергии (напри*
мер, когда X (t)—это температура или толщина ткацкой нити).
146
Глава 2
Вместо непрерывного изменения граничной частоты со фильтра
низких частот можно также воспользоваться набором полосовых
фильтров с узкой полосой пропускания, каждый из которых позво­
ляет приближенно определить значение / (со) при со, равном сред­
ней частоте соответствующей полосы — такой набор ряда узко­
полосных фильтров часто монтируется в виде одного прибора,
называемого спектральным анализатором (см. также с. 206—207).
Вернемся теперь к теореме Хинчина о спектральном разло­
жении корреляционной функции В (т). Как мы видим, теорема
эта связывает важнейшую статистическую характеристику про­
цесса X (t) — его корреляционную функцию, с очень важной
физической характеристикой — распределением энергии процесса
по спектру частот. Обе указанные характеристики могут быть
непосредственно измерены (вопрос об измерении функции В (т)
обсуждался нами в § 6); это обстоятельство позволяет поставить
вопрос об экспериментальной проверке и самой математической
теоремы Хинчина.
Одна из первых попыток такой проверки была осуществлена
в 1938 г. известным английским ученым-механиком Тэйлором на
материале измерений пульсаций скорости в турбулентном потоке,
создающемся за решеткой, установленной внутри аэродинами­
ческой трубы (см. рис. 16 а); на рис. 16 б приведены результаты
еще одной подобной проверки, также относящейся к турбулентным
пульсациям скорости.90 Как и следовало ожидать, результаты
обоих представленных на рис. 16 опытов весьма точно согла­
суются с выводами из теоремы Хинчина.
Аналогичные эксперименты многократно производились в при­
менении к случайным флуктуациям X (t) самой разнообразной
природы и всегда приводили к прекрасному согласию теории
с опытом; в настоящее время такого рода опыты широко исполь­
зуются на практике для взаимной проверки приборов, предназ­
наченных для измерения спектральных плотностей / (со) и кор­
реляционных функций В (т), а теорема Хинчина при этом всегда
рассматривается как твердо установленное соотношение, связы­
вающее между собой результаты этих двух типов измерений.
Заметим еще, что та же теорема очень часто применяется и для
определения спектральной плотности по измеренным значениям
корреляционной функции или же корреляционной функции
по измеренным значениям спектральной плотности (подробнее
об этом будет говориться в § 18).
Результаты настоящего параграфа проливают дополнительный свет на сде­
ланное при обсуждении понятия белого шума замечание о том, что в каждой кон­
кретной задаче существенную роль обычно играет лишь некоторый ограниченный
интервал частот (см. с. 119). Смысл этого замечания заключается в том, что прак­
тические задачи теории случайных процессов в большинстве случаев связаны
с исследованием тех или иных линейных преобразований рассматриваемых
13. Линейные преобразования случайных процессоа
147
процессов (т. е. их прохождения через одну или несколько «линейных систем»),
Но реальные линейные системы почти всегда можно считать имеющими лишь
ограниченную полосу пропускания, за пределами которой их коэффициент уси­
ления Л (со) оказывается уже настолько малым, что с точки зрения приложений
его можно просто считать равным нулю. Совокупность частот со, входящих в по­
лосы пропускания всех линейных систем, преобразующих процесс X (t) в усло­
виях данной задачи, как раз и составляет «ограниченную полосу частот,только и
В(х)/В(0)
1000 со/2% Гц
x=Ux см
Рис. 16.
а — Сравнение измеренных значений корреляционной функции тур­
булентных пульсаций продольной скорости в потоке за решеткой,
установленной в аэродинамической трубе (/), со значениями В (т), вычи­
сленными по измеренным значениям f ((D) с помощью теоремы Хинчи­
на (2) (по [325]); U — средняя скорость течения в аэродинамической
трубе, б — Сравнение измеренной спектральной плотности турбу­
лентных пульсаций скорости в аналогичных условиях (/) со значе­
ниями / (со), вычисленными по измеренным значениям с помощью фор­
мулы (2.82) (2) (по 1270]) В (т).
интересную для рассматриваемой задачи»; если в пределах этой полосы спектраль­
ная плотность / (со) процесса X (t) остается практически постоянной, то мы
вполне можем заменить этот процесс идеализированным процессом белого шума.
Заметим еще, что понятие линейного преобразования (иначе, линейной
системы или линейного фильтра) может быть положено в основу доказательства
как теоремы Бохнера—Хинчина о спектральном разложении любой положи­
тельно определенной функции (а значит и любой корреляционной функции
В (т)), так и теоремы о спектральном разложении самих стационарных процес­
сов X (t). Начнем с теоремы Бохнера—Хинчина и наметим вкратце метод ее
доказательства, опирающийся на понятие линейного преобразования. Огра­
ничимся для простоты случаем функций В (т), так быстро убывающих на беско-
14S
Глава 2
нечности, что они допускают разложение в интеграл Фурье вида (2.67) с непре­
рывной функцией / (со). Для таких функций основным содержанием теоремы
Бохнера—Хинчина будет утверждение о том, что если функция В (т) — положи­
тельно определенная, то ее преобразование Фурье / (со) обязательно будет неот­
рицательным при всех со (обратное утверждение о том, что из неотрицательности
/ (со) следует положительная определенность В (т), доказывается совсем просто;
(ср. с.221). Для доказательства нужного нам утверждения попробуем допустить,
что преобразование Фурье / (со) какой-то положительно определенной функции
В (т) отрицательно в точке со = со0 (а значит, в силу непрерывности / (со), и во
всех точках какого-то достаточно узкого интервала Асо = [сох, соа], окружаю­
щего точку со0). Воспользуемся тем, что в силу результатов, изложенных на
с. 45, каждая положительно определенная функция В (т) является кор­
реляционной функцией некоторого стационарного случайного процесса X (t).
Рассмотрим следующее линейное преобразование процесса X (t):
Y(t) = a?\x(t)\=*
оо
= -g-J
iu
-
X(t-u)du,
ОО
которое, как легко видеть, эквивалентно пропусканию этого процесса через
идеальный полосовой фильтр с полосой пропускания Асо = [со^ со2] (см. фор­
мулу (П.36)); при этом то, что фильтр (2.162) физически нереализуем, для нас
теперь не играет роли. Используя формулу (1.47), нетрудно показать, что
со 2
(| Y (t) | 2 ) =
/ (со) dco (этот результат, разумеется,
фактически совпадает
О)!
0)2
с (2.161)). Но величина (| У (f) | 2 ) всегда неотрицательна; значит, и
/ (со) dco
не может быть отрицательным, что противоречит сделанному нами предполо­
жению.91
Что же касается доказательства теоремы о спектральном разложении цтационарного случайнога процесса X (/), опирающегося на понятие линейного
преобразования, то оно оказывается довольно близким к тому доказательству
этой теоремы, о котором говорится в примечании. 71 В самом деле, формула (П.22)
как раз и задает некоторое линейное преобразование процесса X (t), и нам надо
только доказать, что получаемая при этом преобразовании функция Z (со) обла­
дает всеми нужными свойствами и может быть использована для представления
X (t) в виде интеграла Фурье—Стилтьеса. Теперь мы можем сделать идею этого
доказательства еще более прозрачной, внеся в него некоторые непринципиаль­
ные изменения. Вместо линейного преобразования (П. 22) можно использовать
родственное ему преобразование (2.162), где [<nlt со2] = Асо; в таком случае,
опираясь на формулу (1.48), легко показать, что процессы Уг (t)y ..., Yn (t)f
отвечающие непересекающимся интервалам Ахсо, ..., А„со оси частот, будут все
попарно некоррелированными, а X (t) будет равно сумме процессов Y1 (t), ...,
Yn (i), отвечающих произвольному разбиению всей оси частот на непересека­
ющиеся интервалы At-co. Полагая далее, что длины всех интервалов, на которые
разбивается отрезок —Q <: со <: Q оси частот, стремятся к нулю, а затем устре­
мляя Q к бесконечности, нетрудно получить отсюда общую
формулу (2.58),
описывающую спектральное разложение процесса X (О-92
14. Примеры линейных преобразований стационарных процессов
149
14.
Примеры линейных преобразований
стационарных случайных процессов
Пример 1. Дифференцирование. В § 4 было введено понятие
производной (в среднем квадратичном) стационарного случайного
процесса X (t), определяемое следующим равенством: X' (t) =
— lim [X (t + А)— X (f)]/A. Ясно, что такая операция диффед-»о
ренцирования представляет собой линейное преобразование
вида (2.148). Если X (t) имеет спектральное разложение (2.61), то
*« + *>-*«> = Je^-*""
dz(а)
-ОО
Используя определение (2.62) интеграла (2.61), нетрудно по­
казать, что если X' (t) существует, то предельный переход А -> О
в предыдущей формуле можно осуществить под знаком интеграла,
так что
ОО
X'(t)=
J е'°>'«о dZ (со).
(2.163)
-ОО
Формула (2.163) описывает спектральное разложение про­
цесса X' {t)\ одновременно она показывает, что операции диффе­
ренцирования отвечает передаточная функция Н (со) = i со (т. е. ко­
эффициент усиления А (со) = |со| и фазовый сдвиг W (со), рав­
ный я/2 при со > 0 и —я/2 при со < 0). Ясно, что операция диф­
ференцирования является (неидеальным) фильтром высоких
частот; она ослабляет входящие в состав X (t) гармонические
колебания с низкими частотами со и усиливает колебания с вы­
сокими частотами.
Из формулы (2.163) сразу следует,, что
ОО
(X' (* + т)Х' (Г)) =
$ elwx<»>* dF(а),
(2.164)
-ОО
где F (со)—спектральная функция X (t). Используя спектраль­
ное разложение (2.52) корреляционной функции В (т), легко
показать, что правая часть (2.164) совпадает с —В" (т), так что
эта формула не отличается от (1.43). Условие (2.151) примени­
мости линейного преобразования с передаточной функцией Н (со)
к процессу X (t) в рассматриваемом случае обращается в сле­
дующее условие дифференцируемости X (t):
ОО
j a>4F(©)< оо,
(2.165)
Глава 2
150
равносильное условию существования второй производной функ­
ции В (т) в точке т = 0, так как левая часть (2.165) равна —В" (0)).
Дифференцируя процесс X' (t), мы придем ко второй произ­
водной X" (t) исходного процесса X (t)\ аналогично можно полу­
чить и высшие производные. Ясно, что п-я производная Х^п) (f)
процесса X (t) представляется формулой
00
Х<")(0= Je'»'(fo)"dZ(<o),
(2.166)
—оо
т. е. она получается с помощью применения к X (t) линейного
преобразования с передаточной функцией Н (со) = (i(o)n. Для
применимости к X (t) такого линейного преобразования (т. е. для
существования Х^п) (t)) спектральная функция F (со) должна
удовлетворять условию
00
J(o 2 "rfF(co)<oo,
(2.167)
-00
равносильному условию существования у функции В (т) произ­
водной порядка 2п в точке т = 0. Корреляционная функция про­
цесса XW (t) в силу (2.166) будет представима в виде
оо
<Х<») (t + т) *<»> (0> = J el**(a*»dF (со);
(2.168)
—оо
она, очевидно, совпадает с функцией (—1)пВ{2п) (т).
Пример 2. Дифференциальные операторы с постоянными коэф­
фициентами. К процессам X (t), удовлетворяющим условию (2.167)
(т. е. имеющим производные до п-го порядка включительно),
можно применить преобразование
Y(t)^3?\X(t)\=a0^^
+ ai ^ Д
( 0
+ • • . + anX(t).
(2.169)
Ясно, что передаточная функция этого преобразования равна
Н (со) .= а0 (ко)" + аг (fa>)"-i - . . . + ап.
(2.170)
Пример 3. Среднеарифметическое и экспоненциальное сглажи­
вания. В тех случаях, когда специально интересуются лишь
длиннопериодными (т. е. низкочастотными) возмущениями, а вы­
сокочастотные возмущения с периодами, меньшими некоторого
фиксированного значения Т или имеющими порядок 7\ не пред­
ставляют интереса и могут рассматриваться как «шум», или тогда,
когда есть основания считать, что указанные высокочастотные
возмущения фиксируются с большими искажениями и поэтому
данные о них все равно малонадежны, процесс X (t) иногда ис-
14. Примеры линейных преобразований стационарных процессов
151
кусственно осредняют по промежутку времени длины 7\ т. е.
вместо X (/) рассматривают новый процесс
t
т
YT(t) = y- \X(s)ds = -±r\X(t-u)du.
t-T
(2.171)
о
Наоборот, в случаях, когда хотят подавить (т. е. исключить
из рассмотрения) наиболее низкочастотные возмущения больших
периодов, не представляющие интереса для данного исследования,
среднее значение по фиксированному промежутку времени Т
вычитают из текущих значений рассматриваемого процесса, т. е.
от значений X (t) переходят к значениям
t
l
Y T(t)=^X{t)-^r- \X(s)ds=X(t)-YT(t).
(2.171а)
t-т
Преобразование (2.171а) часто применяется, например, к из­
меренным значениям метеорологических полей для исключения
так называемой эволюции уровня, состоящей в постепенном изме­
нении среднего значения соответствующего поля (скажем, ско­
рости ветра, температуры или влажности) с течением времени.
Дело в том, что указанная эволюция уровня представляет
собой очень низкочастотный процесс, который лишь с натяжкой
(и только в случаях, когда значения X (t) регистрируются на
протяжении очень длительных промежутков времени) можно
считать приближенно стационарным, в то время как процесс YT1) (t)
при разумном выборе значения Т бесспорно будет стационарным
процессом с нулевым средним значением, пригодным для опреде­
ления статистических характеристик мелкомасштабных турбу­
лентных пульсаций.93
Ясно, что YT (t) — это интегральное линейное преобразование
процесса X (t) с весовой функцией h (и), равной \1Т при О < и <
< Т и нулю при и < 0 или и > Т\ преобразованию Yr] (t)
отвечает обобщенная весовая функция АП) (и) = б (и) — к (и).
Отметим еще, что величина YT(t) отличается от величины Мт
формулы (1.53) только тем, что начальная точка интервала осред­
нения теперь считается не фиксированной, а переменной.
В силу формулы (2.144) линейному преобразованию (2.171)
отвечает передаточная функция
т
Н (со) = -L J* е-^Чи - e-w*
о
Si
"Jff 2 ) >
(2-172)
152
Глава 2
так что | Я (со) | = Л (со) = Sm^J
^ ср ' рис * 1 5 б> г д е
изображена функция /(со), пропорциональная [Л (со)]2). Преоб­
разованию (2.171а) отвечает передаточная функция
ЯШ (со) = 1 — Я (со) = 1 — <Нсог/2
sin
J^/2) ;
(2.172а)
соответствующий коэффициент усиления Л (1) (со) = |# С 1 ) (со) |
обращается в нуль в точке со = 0, быстро возрастает с ростом | со |,
а затем начинает колебаться со все уменьшающейся амплитудой
около своего предельного значения Л (1) (оо), равного единице.
Ясно, что преобразование, переводящее X (f) в YT (/), представ­
ляет собой (неидеальный) фильтр низких частот, в то время как
преобразование, переводящее X (t) в 7г1} (/) — неидеальный
фильтр высоких частот.
Формула (2.171) иногда применяется и для приближенного
учета осреднения, вносимого измеряющим величину X (/) при­
бором в ее истинные значения. Дело в том, что любой измеритель­
ный прибор всегда обладает инерцией (характеризуемой так
называемой п о с т о я н н о й в р е м е н и прибора), т . е . он в ка­
кой-то мере осредняет значения измеряемой величины. Это осред­
нение нередко играет заметную роль, причем во многих случаях
о нем можно получить достаточное представление, приняв грубое
предположение о том, что показание YT (t) прибора связано с ис­
тинным значением измеряемой величины X (t) формулой (2.171),
где Т — соответствующая постоянная времени.
Помимо среднеарифметического сглаживания (2.171) в при­
ложениях довольно часто встречается и экспоненциальное сгла­
живание процесса X (t), задаваемое формулой
г (0 - 4" J е~и/тх V ~~ u)du'
(2,173)
В частности, формула (2.173) весьма точно описывает осредняющее действие измеряющего значения X (t) инерционного при­
бора с постоянной времени Т в тех (весьма многочисленных)
случаях, когда прибор этот описывается дифференциальным урав­
нением первого порядка (см. с. 155—156).94Экспоненциальное сгла­
живание (2.173) (а также и его дискретный аналог, относящийся
к функциям от дискретного аргумента t = О, ± 1 , ± 2 , ...) иногда
вводится и искусственно в ряды наблюдений X (t) для ослаб­
ления входящих в состав X (t) высокочастотных возмуще­
ний,
14. Примеры линейных преобразований стационарных процессов
153
Передаточная функция Я (со) преобразования (2.173), оче­
видно, равна
оо
Н (со) = ± \ е-'-"-"'Чи =
1
1+ шт
,
(2.174)
О
так что, в частности,
оо
Л{
«^
(,+coW 2 -
(2Л?5)
Функция [А (со) ]2 пропорциональна изображенной на рис. 11 б
спектральной плотности /(со), если принять, что а = 1/7\
Пример 4. Решения дифференциальных уравнений как линей­
ные преобразования. Пусть Yx (t) = 3?х \Х (t)\ — линейное пре­
образование случайного процесса X (t). Мы можем применить
к Ух еще одно линейное преобразование i? 2 ; тогда Y2 (t) =
= 3?% \Y (t)} = j? 2 {2,1 {X (t)\\ также будет некоторым ли­
нейным преобразованием процесса X (/). Это новое линейное пре­
образование обычно называется п р о и з в е д е н и е м преоб­
разований i ? ! и j? 2 и обозначается как 3S = 5P a 2V Его пере­
даточная функция Н (со), как легко видеть, например, из фор­
мулы (2.140), определяется простой формулой Н (со) =
= # 2 (со) Нг (со), где //i (со) и Я 2 (со) — передаточные функции
преобразований j? x и i? 2 .
Введем теперь в рассмотрение тождественное (или единичное)
преобразование &', определяемое условием <$ \Х (Щ = X (t)
(т. е. никак не изменяющее процесса X (/)); ясно, что его
передаточная
функция—это
Н0 (со) = 1.
Преобразование
3?\ [X (t)\ = Y (f) называется
обратным
преобразова­
нию 9?ь если Z&i = <Г, так что &х \Y (t)\ = X (/). Переда­
точная функция # ! (со) преобразования 3£\у обратного 2?ъ оче­
видно задается формулой Hi (со) = 1/Н± (со), где Нг (со) — пе­
редаточная функция i? l e
Выше мы уже рассматривали преобразования £', описывае­
мые дифференциальными операторами (2.169) и имеющие пере­
даточную функцию
Н(Ф) = Р (/со),
Р (г) = a0z» + агг^
+ . . . + ап.
(2.170а)
Глава 2
154
Рассмотрим теперь преобразование 3S~ \Х (t)\ = Y (/), обрат­
ное такому & и, следовательно, имеющее передаточную функцию
(2176)
*"<*>-7Щ--
В этом случае равенство 2? \Y (t)\ = X (f) приобретает вид
dnY (t)
dn~lY
,
(t)
.
.
„,,,
V / A
(2.177)
так что преобразованным процессом Y (t) здесь оказывается
просто стационарное решение дифференциального уравне­
ния (2.177).
Будем считать, что преобразуемый процесс X (t) имеет непре­
рывную и всюду положительную спектральную плотность / (со).
В силу (2.151а) в таком случае для возможности применения к нему
преобразования 3£~ должно выполняться условие
оо
-оо
Отсюда видно, что многочлен Р (/со) не может иметь веще­
ственных нулей, т. е. уравнение Р (z) = 0 не может иметь корней
с нулевой вещественной частью. С другой стороны, если послед­
нее условие будет выполнено, то условие (2.178) наверное будет
справедливым для всех спектральных плотностей / (со), а для
функции Я" (со) = [ Р ( ш ) ] - 1 будет существовать преобразова­
ние Фурье h (и). Следовательно, процесс Y (t) здесь может быть
представлен как в виде
оо
ПО-
\e«*-%$L
(2.179)
—оо
(и значит fYY (со) = —Ш—^
так и в виде
оо
У(0=
h
\ h(u)X(t — u)du,
^ = 4r) Fmd(0-оо
(2.180)
(2Л80а)
14. Примеры линейных преобразований стационарных процессов
155
Отметим, что из рассмотрения спектрального разложения
обеих частей уравнений (2.177) сразу вытекает справедливость
равенства (2.179); следовательно, при условии (2.178) (т. е. при
отсутствии у уравнения Р (z) = 0) чисто мнимых корней урав­
нение (2.177) всегда будет иметь точно одно стационарное реше­
ние Y (t), задаваемое формулой (2.179) (или эквивалентными ей
формулами (2.180)—(2.180а).
Представление (2.180) случайного процесса Y (t) позволяет
выявить существенное различие между случаем, когда все корни
уравнения Р (г) = 0 имеют отрицательные вещественные части
(т. е. лежат в левой полуплоскости комплексного переменного),
и случаем, когда это уравнение имеет и корни с положительной
вещественной частью.
В самом деле, легко показать, что в первом случае функция
h (и) будет равна нулю при всех отрицательных значениях и,
так что здесь
оо
Y(t)= \ h(u)X(t-u)duy
о
(2.1806)
т. е. преобразование Э£~ будет физически реализуемым. Более
того, при наличии у Р (г) лишь нулей с отрицательной веществен­
ной частью, функция h (и) будет экспоненциально затухать при
а - > о о и решение уравнения (2.177) при любых начальных зна­
чениях Y (/0), Y' (/0), ..., У<я-1> (Q в момент /0 будет стремиться
при t — t0 -> оо к статистически стационарному решению (2.179)
(т. е. (2.1806) этого уравнения95. Если же хоть один из корней
уравнения Р (г) = 0 имеет положительную вещественную часть,
то стационарное решение Y (t) будет зависеть и от значений X (f)
с t' > t; поэтому здесь оно имеет гораздо более искусственный
смысл и для приложений обычно оказывается бесполезным (см.,
в частности, приведенные ниже примеры).
Рассмотрим теперь подробнее простейшие дифференциальные
уравнения вида (2.177).
а) У р а в н е н и я п е р в о г о п о р я д к а . Пусть
£Jp- + aY(t)-X(t)9
(2.181)
где X (t) — процесс со спектральной плотностью /(со). Ограни­
чиваясь вещественными процессами мы, естественно, и коэффи­
циент а должны считать вещественным. Условие отсутствия у урав­
нения z + а = 0 корней с нулевой вещественной частью сводится
при этом к условию а Ф 0; при а > 0 единственный корень z = —а
будет иметь отрицательную вещественную часть, а при а < 0 —
Положительную.
156
Глава 2
Решение уравнения (2.181) при начальном условии Y (t0) =
= Y0, как нетрудно показать, имеет вид
t
Y (t | Y0i t0) == Y0e-a <'-*•> + J e~a <'-s>X (s) ds =
to
t-to
j e-a»X(t-u)du.
(2.182)
о
Если a < 0, то при возрастании t — t0 это решение экспонен­
циально возрастает и не стремится ни к какому пределу; кроме
того, оно ни при каком Y0 здесь не будет являться стационарным
случайным процессом. Стационарное решение (2.179)—(2.180)
уравнения (2.181) при а < 0 имеет вид
=
^ о б -а (/-/e) +
оо
Y(t)= J ea»X(t-{-u)du\
(2.183)
о
с решением (2.182) задачи с начальными значениями для этого
уравнения оно никак не связано. С другой стороны, если а > 0,
то при t — ^0 -> оо решение (2.182) будет стремиться к стационар­
ному решению (2.179)—(2.180) уравнения (2.181), имеющему вид
оо
Y(t)=\
е~аиХ (t - и) du
(2.184)
о
(причем стремление к пределу при t — t0 -> оо здесь будет иметь
место и для случайных величин Y (t\ YQi t0), и для соответствую­
щих числовых функций у (t\y0i t0)y являющихся реализациями
процессов Y {t\ Y0i t0)). То же самое стационарное решение можно
и сразу получить из Y (t\Y0, /0)> если положить Y0 =
оо
J е~аиХ (t0 — и) du. Спектральная плотность fYY (со) процесса
о
(2.184), как легко видеть (ср. (2.174)), задается формулой fYy (ю) =
=: f (co)/(a2 + со2).
Линейное преобразование (2.184) фактически совпадает с рас­
сматривавшимся выше экспоненциальным сглаживанием (2.173);
они различаются лишь тем, что в (2.173) а было заменено на 1/Т
а X (t) — на X (t)IT. Уравнение первого порядка (2.181) при та­
ких заменах переходит в уравнение, описывающее многие измери­
тельные приборы (причем Y (t) — это показание прибора, X (t) —
измеряемая величина, а Т — постоянная времени прибора; см.,
например, литературу, указанную в примечании 94). Отсюда как
раз и следует, что создаваемое такими приборами дополнительное
осреднение измеряемых величин будет описываться форму­
лой (2.173).
=
14. Примеры линейных преобразований стационарных процессов
157
При | Р ( ш ) | " 2 = \ш + а\~2 = (со2 + а2)"1 условие (2.178)
будет выполняться даже и при / (со) = /0 = const, т. е. в случае,
когда X (t) = сЕ (t) — идеализированный белый шум. Таким
образом, имеет смысл рассмотреть также уравнение
J*^
+ aY(() = cE(t),
(2.181а)
являющееся частным случаем уравнения (2.181). Стационарному
решению (2.184) уравнения (2.181) в данном случае можно легко
придать вполне строгий смысл, просто переписав это решение
в виде
t
Y(t)=
J er* v-*dW (s),
(2.184a)
CO
s
s
W (s) = J X (s') ds' =C\E (S') ds'.
о
(2.184a)
0
Подставив теперь формулу (E (sf) E (s")> = 6 (s' — s") в общую
формулу (1.48) для среднего значения произведения двух инте­
гралов от случайного процесса X (t) = сЕ (t), нетрудно убедиться,
что при /i > 0, /8 > О
( W (h) W (4)) = с2 min (tl9t&
(2.185)
и при tx < /а < /3 < U
([W (t2) - W (тгЮ = с2 (t2 - у ,
(2.185а)
([Г (/2) - Г &,] [Г (/4) - W (t3)}) = 0.
(2.1856)
Таким образом, вторые моменты процесса W (t) не содержат
никаких б-функций, т. е. W (t) — это обыкновенный (но неста­
ционарный) случайный процесс, свойства которого родственны
свойствам функции Z (со), рассматривавшейся в связи со спек­
тральным разложением стационарных процессов X (/). При этом
интеграл в равенстве (2.184а) может быть определен обыч­
ным образом (аналогично тому, как определялся интеграл, задаю­
щий спектральное разложение); соответствующий процесс Y (/)
оказывается тогда стационарным и его естественно как раз и
принять за стационарное решение уравнения (2.181а).
Корреляционная функция процесса Y (t) может быть легко выве­
дена из (2.184а), если учесть, что в силу (2.185а)—(2.1856)
(dW (s) dW (s')> = 0 при s' Ф s, < IdW (s) ]2) = c2ds (т. е. фор­
мально (dW (s) dW (s')> = c28 (s — s') dsds'). Отсюда при т > 0
получаем
t
(Y (t + т) Y (t)) = c2 J er* <*+2'-2s>ds = -Ц- e~a\
(2.186)
158
Глава 2
Корреляционной функции (2.186) отвечает спектральная плот­
ность /Vу (со) = /0/(а2 + со2), как это и должно быть в силу (2.179).
Отметим, что процесс с корреляционной функцией (2.186) —
это обычный стационарный случайный процесс, но он не имеет
производной (в среднем квадратичном), что и неудивительно,
так как в силу (2.181а) dY (t)Jdt =сЕ (t) — aY (t) содержит белый
шум, т. е. не является обыкновенным случайным процессом.
Поэтому в работах, стремящихся к сохранению математической
строгости, уравнение (2.181а) иногда предпочитают записывать
в более сложной, но зато и более строгой форме (например, в виде
уравнения в дифференциалах или интегрального уравне­
ния).96
Уравнение (2.181а), очевидно, родственно разностному урав­
нению (2.10), определяющему последовательность авторегрессии
первого порядка, а формула (2.184а)—родственна представле­
нию (2.11) последовательности авторегрессии в виде последова­
тельности односторонних скользящих средних. В этой связи
стационарный случайный процесс Y (t) формулы (2.184а) (т.е.
процесс с экспоненциальной корреляционной функцией вида (2.89)
и спектральной плотностью вида (2.90)) иногда называют с т а ­
ц и о н а р н ы м п р о ц е с с о м а в т о р е г р е с с и и пер­
вого порядка.
Уравнение вида (2.181а) впервые было в 1908 г. предложено Ланжевеном
для описания брауновского движения; поэтому оно часто называется у р а в ­
н е н и е м Л а н ж е в е н а . На малую частицу, погруженную в жидкость,
окружающая среда действует двояким образом: во-первых, она создает сопро­
тивление движению, проявляющееся в виде тормозящей силы «вязкого трения»,
равной —шУ (t), где У (t) — скорость частицы, a w — коэффициент, пропор­
циональный вязкости \i (для сферической частицы радиуса г он равен 6nr\i)\
во-вторых, неупорядоченные пульсации числа столкновений частицы с моле­
кулами среды за единицу времени проявляются как дополнительная «чисто
случайная» сила Хх (t) (имеющая белый спектр / (со) = / 0 — ср. с. 118—119). Отсюда
видно, что уравнение движения частицы вдоль любой фиксированной коорди­
натной оси, после деления всех его членов на массу т частицы, будет иметь вид
(2.181а), где У (t) — это скорость частицы, а = w/m > 0, а сЕ (t) = Хг (t)Im —
новый процесс белого шума со спектральной плотностью с2/2я = fjm2. Соот­
ветственно этому, скорость У (t) брауновской частицы в рамках излагаемой здесь
теории должна представлять собой
стационарный
случайный процесс со спек­
2
2
2
тральной
плотностью
f
(со)
=
fjm
(со
+
а
)
и
корреляционной
функцией (2.186),
где с2 = 2я/ 0 /т а . Так как средний квадрат скорости У (t)2 в силу законов стати­
стической физики должен равняться kTltn (ибо т (У )/2 = £772), то для
спектральной плотности / 0 процесса Хг (t) отсюда получается формула f0 =
= wkTln, которая уже упоминалась на с. 121.
Уравнение точно того же вида (2.181а) получается и для силы тока, генери­
руемого «тепловыми шумами» в цепи, содержащей или сопротивление R и само­
индукцию L, или же сопротивление R и емкость С. Вообще, уравнение вида
(2.181а) оказывается очень часто применимым для описания флуктуации тех
или иных физических величин; это обстоятельство служит еще одной причиной,
приводящей к частому появлению в прикладных задачах случайных процессов
с корреляционной
функцией вида (2.89) и спектральной плотностью вида
(2',90).97
14. Примеры линейных преобразований стационарных процессов
б) У р а в н е н и я
второго
*gp-
порядка.
159
Пусть
+ 2a^lP- + bY(t) = X{t),
(2.187)
где а и Ь — вещественные коэффициенты, а X (t) — стационар­
ный случайный процесс со спектральной плотностью / (со). Урав­
нение Р (z) = z2 + 2az + Ь = 0 будет иметь корни с нулевой
вещественной частью только если b = 0 или же а — О, b > 0;
во всех остальных случаях уравнение (2.187) будет иметь един­
ственное стационарное решение Y (t) со спектральной плотностью
f
/,,\__
IYYV»)—
/ И
|_
( 0
/ (в>)
2 + 2ШСО + 6 | 2
~
(со2 — б)2 + 4а2со2
/ 9 1ЯЯ\
*.
I--100/
Предположим, например, что b > 0, b — а2 = р2 > 0; в таком
случае уравнение Р (г) = 0 будет иметь два комплексно сопря­
женных корня гг = —а + /р и z2 = —а — /р. Решение урав­
нения (2.187) при начальных условиях F (/0) = У0, У" (/0) = ^о
в момент /0 будет, как нетрудно видеть, иметь вид
Y(t | Y01Y'0) t0) = d e - ' t f - ' o ) cosp (/ - g +
t-t0
в
1
+ Саб- <'-'•> sinp (r - f0) + p - j e~au sinp u X (/ - и) da,
о
(2.189)
где Cx = 70> Ся = (VV* + У^)/р. Если a > 0, то каковы бы ни были
значения Y0 и У^ (т. е. Сг и С2), это решение при t — / 0 -> со
будет стремиться к следующему единственному стационарному
решению уравнения (2.187):
оо
l
Y(t) =$- \e-ausin$uX(t-u)du
о
(2.190)
(как раз и имеющему спектральную плотность (2.188)). Если же
а < 0, то решение (2.189) при t — t0-+ °° не будет стремиться
ни к какому пределу, а стационарное решение Y (t) здесь будет
выражаться не через прошлые, а через будущие значения X (s)
с s > t.
Вполне аналогично будет обстоять дело и в случае, когда
а2 — Ь = Pi > 0 (т. е. уравнение Р (г) = 0 имеет вещественные
корни гг = —а + р ь z2 = —а — рх). Если a > 0, рх < я, так
что оба корня zx и z2 отрицательны, то стационарное решение Y (/)
уравнения (2.187) будет представляться интегралом от значе­
ний X (t — и) с и > 0 (и будет совпадать с пределом при t — t0->
-> сю решения этого уравнения при любых фиксированных на­
чальных условиях в момент / = t0); если же оба корня гх и z2
Глава U
160
будут положительными, то это решение будет равно интегралу от
значений X (t — и) при и < 0, а если один из них будет поло­
жительным, а второй — отрицательным, то^оноубудет,равно ин­
тегралу от значений XJJ — и) при всех вещественных и.
Особый интерес представляет частный случай уравнения (2.187),
относящийся к ситуации, когда роль правой части X (t) играет
идеализированный процесс белого шума (т. е. X (t) — сЕ (t)).
В этом случае стационарное решение Y (t) уравнения (2.187)
будет иметь спектральную плотность
где /о = с2/2п — постоянная спектральная
плотность белого шума
X (t) = сЕ (t). Если уравнение Р (z) = z2 + 2az + b = 0 не имеет
корней с нулевой вещественной частью, то знаменатель в фор­
муле (2.191) не будет обращаться в нуль и Y (t) будет обыкновен­
ным (и даже дифференцируемым) стационарным
случайным про­
цессом, но не имеющим второй производной d2Y (t)/dt2.
Корреляционная функция 2BYY 00, отвечающая спектральной
плотности
(2.191), при b > а > 0 будет иметь вид (2.105); при
b = а2 > 0 или а = 0, b2 < 0 2— (2.108) и при b < а2, а Ф 0 —
(2.109). При а > 0, b — а = р > 0 стационарное решение (2.190)
уравнения (2.187) (где X (t) — белый шум) может быть представ­
лено формулой
00
Y (t) = Р j е-* V-*) sin р (/ — s) dW (s),
(2.192)
о
где W (s) — неопределенный интеграл от X (t) = сЕ (t) (см.
(2.184а)), обладающий свойствами (2.185)—(2.1856). Аналогично
может
быть представлен процесс Y (t) и в случаях, когда а > 0,
а2 > b > 0 (т. е. всегда, когда уравнение Р (z) = 0 имеет лишь
корни с отрицательными вещественными частями). Уравнение
(2.187), где X (t) = сЕ (t), родственно конечноразностному урав­
нению (2.13) с /л = 2; поэтому стационарные случайные процессы
со спектральной плотностью вида (2.191) иногда называют п р о ­
цессами авторегрессии второго порядка.
Совершенно аналогично могут быть, разумеется, определены и
п р о ц е с с ы а в т о р е г р е с с и и п о р я д к а т — как ста­
ционарные случайные 2 процессы со спектральной плотностью
вида / (со) = 1/| Р (ш) | , где Р (г) — многочлен степени /л, не
имеющий чисто мнимых нулей. Что касается стационарных сме­
шанных последовательностей авторегрессии — скользящих сред­
них, рассматривавшихся на с. 87, то аналогом таких последо­
вательностей среди стационарных процессов X (t), зависящих от
непрерывно меняющегося t, будут общие процессы с рациональ-
15. Спектральное разложение стационарных последовательностей
161
ными спектральными плотностями / (со); на этой более общей ана­
логии мы, однако, здесь не будем задерживаться.98
Уравнение вида (2.187), где X (t) = сЕ (/), естественно возникает при рас­
смотрении брауновского движения гармонического осциллятора, т. е. частицы
массы т , удерживаемой некоторой упругой пружиной, создающей дополни­
тельную силу — XY (t) = mbY (t), пропорциональную
координате Y (t)
и стремящуюся вернуть частицу в ее «положение равновесия» (совпадающее
с началом координат). Если в данном случае через Y (t) мы обозначим коорди­
нату осциллятора, то слагаемое 2adYldt (где 2а = wlm) будет снова выражать
действие силы трения, а X (t) = Хх (t)lm будет представлять «абсолютно слу­
чайную» силу, создаваемую неравномерностью во времени числа молекулярных
толчков. Осцилляторы, удерживаемые линейно зависящей от отклонения силой,
составляют существенную часть многих тонких измерительных приборов; неуп­
равляемое брауновское движение таких осцилляторов часто заметно ограничи­
вает максимальную доступную точность измерений и поэтому теория такого
движения представляет существенный прикладной интерес (см. примечание 9 4 ).
Еще одна задача, приводящая к уравнению вида (2.187) с белым шумом в правой
части — это задача о прохождении теплового шума через электрическую цепь,
содержащую сопротивление, емкость и самоиндукцию; существует и ряд других
физических задач, приводящих к тому же самому уравнению.
15.
Спектральное разложение стационарных
последовательностей и их корреляционных функций
Легко видеть, что почти все результаты, изложенные в §. 9—
13, могут быть с малопринципиальными изменениями перенесены
также и на случайные стационарные последовательности X (t),
где t = О, ± 1 , + 2 , .... Так, строя пример последовательности
X (t) в виде ХФ (0, где Ф (t) — числовая функция, а X — слу­
чайная величина, мы, как и в случае непрерывно изменяющегося t,
придем к выводу, что должны выполняться равенства (X) = О
и Ф (/) = еш, т. е. что X (t) должно представлять собой гармо­
ническое колебание со случайными амплитудой и фазой:
X(t) = Xe***.
(2.193)
Однако в отличие от случая непрерывно изменяющегося t
здесь надо еще учесть, что теперь t — это целое число, и значит,
en<a+2kn)t = еш П р И лю бом целом k для всех значений t. Отсюда
видно, что в случае последовательностей значение со определяется
лишь с точностью до произвольного слагаемого, кратного 2JT.
Это обстоятельство позволяет считать, что в случае стационарных
последовательностей X (t) круговая частота со всегда заключена
между —JT и я. Поэтому, рассматривая конечные суммы гармони­
ческих колебаний вида (2.193), мы также можем ограничиться
лишь колебаниями с частотами в этом интервале; в то же время
условия стационарности такой суммы (заключающиеся в требо6
А. М. Яглом
Глава 2
162
вании некоррелированности отдельных колебаний) здесь будут
точно теми же, что и при непрерывно изменяющемся t. Переходя
затем к пределу последовательности конечных сумм гармониче­
ских колебаний, как раз и дающему общее спектральное разло­
жение функций X (0, мы во все суммы должны будем включать
только колебания с круговой частотой о такой, что —я < со <
< я. В результате вместо несобственного интеграла по dZ (со)
в пределах от —оо до оо мы придем к с п е к т р а л ь н о м у
разложению стационарных последователь­
н о с т е й X (t) вида
я
Х(/)= J elt*dZ((*).
(2.194)
-я
В последней формуле свойства комплексной случайной функ­
ции Z (со) И СМЫСЛ интеграла в правой части те же, что и в рас­
сматривавшемся в § 10 случае стационарных процессов X (t)
(с тем лишь небольшим упрощением, что в определении интеграла
по dZ (о) теперь уже не нужен дополнительный предельный пере­
ход от конечного интервала а < (D < b ко всей прямой —оо <
< о < оо). Если, как в § 11, мы примем, что
<|dZ((D)| 2 )=rf/>),
(dZ((D)dZ(o),)) = 0
при ( D ' ^ ( D ,
(2.195)
т. е. иначе
(dZ (о) ЖЩ)
то из (2.194) получим
= б (со - о') dF (о) AD',
(2.195а)
я
В (т) = (X (t + т) YJt)) = j £l'™dF (о),
(2.196)
-я
где F (о) — ограниченная, монотонно неубывающая функция,
определенная на интервале —тс < о < я (ср. с. 110). Функция
F (о), очевидно, определена лишь с точностью до произвольного
постоянного слагаемого, которое всегда можно выбрать, напри­
мер, так, чтобы выполнялось условие F (—я) = 0. Формула (2.219)
описывает общее с п е к т р а л ь н о е р а з л о ж е н и е к о р ­
р е л я ц и о н н о й ф у н к ц и и В (т) стационарной случайной
последовательности X (t). Входящая в эту формулу функция F (о)
называется с п е к т р а л ь н о й
функцией
последова­
тельности X (t)\ если эта функция дифференцируема и может быть
представлена в виде неопределенного интеграла от своей произ­
водной так, что
со
F(co) = J/(<»')*»',
-Я
/И = - ^ - ,
(2.197)
15. Спектральное разложение стационарных последовательностей
163
то / (со)
называется
спектральной
плотно­
с т ь ю X (t).
Возможность представления любой корреляционной функции
В (т) стационарной случайной последовательности X (t) в виде
(2.196), где F (со) — неубывающая функция (т. е. теорема о спек­
тральном разложении корреляционных функций стационарных
последовательностей) сразу следует из сопоставления друг
с другом следующих двух утверждений:
1) класс функций В (т) целочисленного аргумента т, являю­
щихся корреляционными функциями стационарных случайных
последовательностей, совпадает с классом положительно опре­
деленных последовательностей (см. § 4 и 7);
2) для того чтобы числовая последовательность ..., В (—2),
В (—1), В (0), В (1), В (2), ... была положительно определенной,
необходимо и достаточно, чтобы она была представима в виде
интеграла Фурье—Стилтьеса (2.196), где F (со) — монотонно не­
убывающая функция (это утверждение составляет содержание
так называемой т е о р е м ы Г е р г л о ц а ,
опубликованной
этим автором еще в 1911 г.").
То обстоятельство, что функция вида (2.196), где F (со) — не­
убывающая функция, всегда являетсяг корреляционной функцией
некоторой стационарной последовательности, может быть, разу­
меется, доказано и с помощью рассмотрения примера последова­
тельности вида X (t) — YeitQ, где Y — случайная величина с ну­
левым средним значением и конечной дисперсией, а й — веще­
ственная случайная величина, все возможные значения со которой
законно считать принадлежащими интервалу — тс <: со < я (ср.
пример 5 на с. 95).
После того, как теорема о спектральном разложении корреля­
ционных функций В (т) стационарных последовательностей уже
доказана, возможность представления самой последовательно­
сти X (t) в виде интеграла Фурье—Стилтьеса (2.194), где Z (со)—
комплексная случайная функция с некоррелированными прира­
щениями, заданная на интервале [—я, я ] (т. е. т е о р е м а
о спектральном
разложении
стационар­
н ы х п о с л е д о в а т е л ь н о с т е й ) , может быть доказана
совершенно аналогично тому, как доказывается теорема о спек­
тральном разложении стационарных случайных процессов.100
Если последовательность X (t) — вещественная, то
Z (со2) — Z (сох) = Z (— coj) — Z (— (о2),
F(co3) — F(©4) = F(— ©х) - f ( — щ)
(2.198)
при 0 < ©! < о)2 < л. Отсюда вытекает, что в вещественном слу­
чае спектральные разложения (2.194) и (2.196) последовательности
Глава 2
164
X (t) и ее корреляционной функции В (г) могут быть переписаны
в виде
я
я
X(t) = \ coso^dZ 1 (co)+ J sincoMZ2((o),
о
о
(2.199)
я
В(%) = J cos ют dG (со),
(2.200)
о
где 1Х (со) и Z2 (0) — вещественные случайные функции, удовлет­
воряющие соотношениям (2.64) и (2.65), a G (со) — монотонно
неубывающая функция со.
В силу формул (2.194), (2.195) и (2.196) точки разрыва cokk
функции F (со) (в которых эта функция скачком возрастает на
положительное значение fk) являются также и точками разрыва
случайной функции Z (со), отвечающими «гармоническим компо­
нентам» Xkel(°kt (где (\Xk\2) =fk) последовательности X (t). Сово­
купность таких точек разрыва wk составляет д и с к р е т н ы й
с п е к т р X (t), который может быть однозначно восстановлен
по функции В (т) как совокупность значений о = тк таких, что101
т
В{х)е-ш^^кФ
0.
(9.201)
г"£-2ГТГ 2
х=-Т
С другой стороны, если, как это чаще всего бывает в реальных
приложениях, В (т) настолько быстро убывает при т —> оо, что
оо
Е |Б(т)|<оо
(2.202)
Х=-оо
или хотя бы
£
|5(тЯ2<оо,
(2.202а)
Т=-оо
то величины В (т), т = 0, ± 1 , ± 2 , ... будут представлять собой
совокупность коэффициентов Фурье периодической (с периодом
2зх) функции / (со), задаваемой формулой
оо
^
= -2^2
е~^В(х)
(2.203)
Т=-оо
(причем при условии (2.202) функция / (со) обязательно будет
непрерывной и ограниченной). В силу известной формулы для
коэффициентов Фурье из формулы (2.203) вытекает, что
я
В ( т ) = Je'««/(©)d©,
-я
(2.204)
16. Дискретные выборки случайных процессов
165
так что в этом случае существует спектральная плотность / (со),
неопределенным интегралом от которой является функция F (со)
(а последовательность X (t) имеет только чисто н е п р е р ы в ­
н ы й с п е к т р; ср. с. 112).
Формулы (2.203) и (2.201) позволяют просто найти спектраль­
ную функцию F (со) ПО корреляционной функции В (т) в тех слу­
чаях, когда существует спектральная плотность или же, наоборот,
спектр является чисто дискретным. Однако и в самом общем слу­
чае произвольной спектральной функции F (со) эта функция также
может быть однозначно определена по значениям В (т) с помощью
следующей общей формулы
F (со2) - F {щ) = В (0) (со2 - щ) +
-Ш2Т
+ lim Е В(%)Г->оо
е~i(0iT
—IT
х=-Т
(2.205)
аналогичной формуле (2.83) (причем если сох или со2 — точки
разрыва F (со), то значения F (сох) или F (со2) здесь надо понимать
так же, как и в (2.83).102
В случае вещественной последовательности X (t) формулы
(2.203)—(2.205) могут быть переписаны в виде:
£(*>) = -
В(0) + 2 JJ В (т) cos сох
В (т) = J cos coxgf (со) dco,
G(co) =
—
(2.203а)
т=1
Я(0)ю + 2 V - ^ - s i n c o T
(2.204а)
(2.205а)
т=1
Впрочем, даже и в вещественном случае комплексная форма
записи (2.203)—(2.205) нередко оказывается более удобной, чем
вещественная форма (2.203а)—(2.205а).
16. Дискретные выборки случайных процессов
и дискретные линейные преобразования
Последовательности значений стационарного случайного про­
цесса X (t)y —оо < t < ею, в дискретные моменты времени
4 = М , k = 0, + 1 , + 2 , ... разделенные одним и тем же проме­
жутком А, образуют, по-видимому, самый важный класс стацио­
нарных случайных последовательностей. Во введении отмечалось,
Глава 2
166
что с такого рода последовательностями мы сталкиваемся во всех
тех сравнительно частых случаях, когда наблюдения за непре­
рывно изменяющейся величиной х (f)> представляющей собой реа­
лизацию стационарного процесса X (*), регулярно повторяются
через один и тот же промежуток времени. Однако даже и тогда,
когда у нас имеются данные непрерывной регистрации значений
х (t) в течение какого-то промежутка времени (записанные, на­
пример, на магнитную ленту), обработку этих данных во многих
случаях удобнее всего производить на современных ЭВМ.
Такая обработка требует, чтобы непрерывная запись х (t)
была преобразована в дискретный ряд чисел; поэтому и здесь
приходится пожертвовать непрерывной записью, а отобрать из нее
лишь числовые значения х (tk), k = 1, 2, ..., N в некоторые ди­
скретные моменты времени tk> никак не используя все данные,
относящиеся к промежуточным значениям t. Последовательность
значений
Х(гЛ) = Х д (0,
/ = 0, ± 1, ± 2 , . . .
(2.206)
непрерывного стационарного случайного процесса X (f) в равно­
отстоящие моменты ^А, отсчитываемые через промежутки А,
называется д и с к р е т н о й
выборкой
процесса
X (t) с ш а г о м
дискретизации
А;* она представ­
ляет собой стационарную случайную последовательность с тем же
средним значением (Х д (t)) = (X (t))> что и процесс X (t) (ниже
это среднее значение мы, как обычно, будем просто считать рав­
ным нулю) и корреляционной функцией В д (т), связанной с корре­
ляционной функцией В (т) процесса X (t) формулой
Б д (т) = (Х((/ + т)А)Г(ГА)>=5(тА),т = 0, ± 1/±2,... .
(2.207)
Из (2.207), в частности, следует, что если В (т) — корреля­
ционная функция какого-то стационарного случайного процесса,
то последовательность (2.207) обязательно будет представлять
собой возможную корреляционную функцию стационарной после­
довательности.
Дискретные выборки процесса X (t) очень часто используются
для приближенного определения статистических характеристик
этого случайного процесса; поэтому очень важен вопрос о связи
характеристик процесса X (t) и последовательности Х д (t). Мы
уже отмечали, что X (t) и Ад (t) имеют одинаковое среднее зна* Если бы мы не считали, что начало отсчета времени (т. е. момент t = 0)
совпадает с одним иа моментов наблюдения над X (t) (т. е. вместо X (£Д) исполь­
зовали бы значения X (£Д + t0), где t0 — фиксированное число), то это внесло бы
во все дальнейшие формулы лишь некоторые почти очевидные изменения, на
которых мы здесь не будем задерживаться,
16. Дискретные выборки случайных процессов
16?
чение; связь между соответствующими корреляционными функ­
циями В (т) и В д (т) определяется равенством (2.207). Однако самой
важной с точки зрения приложений характеристикой процесса
X (0 является его спектральная плотность / (со) или (в общем слу­
чае) спектральная функция F (со); поэтому особый интерес пред­
ставляет вопрос о нахождении этих функций по наблюденным
значениям последовательности
XA(t).
Спектральные характеристики / (со) и F (со) описывают пред­
ставление процесса X (t) в виде суперпозиции гармонических
колебаний вида Х^ еш; легко понять, что такое представление
Рис. 17.
Две синусоиды с частотами п = со/2я = 1 и п = 4,
неразличимые при использовании дискретной выборки
с шагом дискретизации Д = 0,2 (по [249]).
никак не может быть однозначно восстановлено по данным на­
блюдений через интервал времени А. В самом деле, поскольку
при целых t и k
ei(dt&
==z ei
(со+£-2я/Л) /A __ gi(dt^i2nkt
(2.208)
то по дискретным наблюдениям, повторяющимся через А единиц
времени, мы просто не в состоянии будем отличить гармонику
с круговой частотой о от всех гармоник с круговой частотой
со + &-2я/Д, где k — произвольное целое число. В вещественном
случае, когда гармонические колебания с частотами со и —со
не отличаются друг от друга, гармонику с частотой со нельзя будет
уже отличить и от всех гармоник с частотами со + к-2л/А и от
всех гармоник с частотами —со + &-2зт/Д, где k — целое число
(ср. рис. 17).
При наблюдении колебаний частоты"<о в дискретные моменты
времени мы всегда будем автоматически приписывать им наимень­
шую из частот ±о) + 2nklA (это обстоятельство используется,
в частности, в стробоскопе, позволяющем с помощью освещения
быстро колеблющегося тела через равные промежутки времени
существенно «замедлить» его колебания). В применении же к ста­
ционарным случайным процессам такое «перепутывание» при
наблюдениях через интервал времени А гармонических компонент
с частотами, отличающимися на целое кратное частоты 2JX/A,
Глава 2
168
лежит в основе важного эффекта с п е к т р а л ь н о г о
нало­
ж е н и я или э л а й з и н г а * , к рассмотрению которого мы
теперь и перейдем.
Воспользовавшись спектральным разложением процесса X (t)
можно выписать равенства
оо
X(t)=
оо
J eit(» dZ («),
Х д (0 =
— оо
J еи д « dZ(со),
(2.209)
—оо
где в первом равенстве / пробегает все вещественные значения,
а во втором — только целочисленные значения. В силу (2.208)
значения подынтегральной функции е'7Д(0 аргумента со во втором
из равенств (2.209) будут точно повторяться через интервалы длины
2я/Д, так что
(2И-1) Л/А
j
Я/А
в" A® dZ (со) =
(2k—1) Л/А
J ^ w d Z ( c o + 2/?n/A)
(2.210)
—Л/А
при любом целом (положительном или отрицательном) k. Не имея
возможности различить гармоники с частотами со и со + 2&я/Д,
естественно рассматривать лишь частоты, по модулю не превосхо­
дящие я/А, т. е. использовать тождество (2.210) при всех k =
= ± 1 , ± 2 , ... и с его помощью переписать второе равенство
(2.209) в виде
л/А
—л/А
оо
2д ' И =
Е
[2 (со + 2*я/Д) - Z((2k - 1) я/Д)1,
(2.211)
&=-—оо
где вычитаемые (Z (2&—1) л/А), не меняющие дифференциала
dZA1} (со), подобраны так, чтобы удовлетворялось условие
Zk1} (—я/Л) = 0. Из (2.211) для Вд (т) = <ХА (f + т) Х7(0>
получается формула
Я/А
£д(т)=
j ^^^"(ш),
(2.212)
—Я/А
оо
-Рд' (*>) =
S
[/=■(«) + 2Ля/Д) - F{(2k - 1) я/Д)1, (2.212а)
&=•—ОО
* Получивший широкое распространение непереводимый~термин «элайзинг»
(aliasing) принадлежит Тьюки (см., например, [249]) и происходит от англий­
ского слова «aliases», означающего клички, используемые преступником в до­
полнение к своему настоящему имени.
16. Дискретные выборки случайных процессов
169
которая в случае существования спектральной плотности f (со) =
= F' (со) может быть также переписана в виде
Я/Л
Я д (т)=
оо
J e ^ T ^ d a ,
-Я/А
/k
1
»^
/
\
V / со + ^
^±Гоо V
-Ь
/
(2.213)
Спектральные разложения (2.211)—(2.213) могут быть, разу­
меется, переписаны и в виде обыкновенных спектральных разло­
жений стационарной последовательности ХА (/), t = 0, ± 1 ,
± 2 , ... и ее корреляционной функции В д (т) (относящихся к ин­
тервалу частот—я < со < я); для этого надо только принять в ка­
честве новой переменной безразмерное произведение А • со (которое,
ради сохранения обычной формы записи спектральных раз­
ложений, мы снова обозначим той же буквой со):
я
ВД= Je"MdZA(«>),
(2.214)
—Я
Я
я
В д (т) = j е*™ dFA (со) или В д (т) = J е1'™/д (со) dco, (2.215)
—я
—я
15
где ZA (со) = Zk (-g-) ,
оо
ад= £ [F(^)-F(i^)],
/г=—оо
оо
/ д И = 4- 2 /(i^L).
(2.215а)
k~—оо
Формулы (2.215а) как раз и описывают связь между спектральными
характеристиками FA (со) и / д (со) последовательности Хд (£)
и соответствующими характеристиками процесса X (t).103
Эффект элайзинга наиболее наглядно описывается, однако, как
раз первоначальными формулами (2.212) и (2.213) для Т7^ (со)
и /д } (со). Согласно этим формулам, если наблюдения над непре­
рывным процессом X (/) производятся лишь в дискретные моменты
времени, разделенные промежутками длины Л, то спектр наблю­
дений Х д (t) оказывается целиком сосредоточенным в пределах
конечной полосы частот —я/Л <: со < я/Л (граничная круговая
частота сод = я/Л этой полосы или же соответствующая обыкно­
венная частота п = сод/2я = 1/2Л обычно называются круговой
или обыкновенной ч а с т о т о й
Найквиста,
отвечаю­
щей данной выборке). При этом вклад в значения В (0) = (| X (t)\2)
(энергию колебания X (t)) и В (т) = (X (t + т) X (t)) всех частот,
лежащих за пределами полосы —я/Л < со < я/Л, искусственно
Глава 2
170
переносится в пределы данной полосы: спектр частот со как бы
разрезается на отрезки длины 2я/Д точками (2k + 1) я/Д,
k= ± 1 , ± 2 , ..., после чего спектральное распределение энергии
на каждом из получающихся отрезков, лежащих вне основного
интервала —я/Д < со <: я/А накладывается на распределение
энергии в пределах этого основного интервала (т. е/просто добав­
ляется к нему; см. рис. 18).
Ясно, что если в исходное распределение энергии по спектру
заметный вклад вносят частоты, превышающие частоту Найквиста,
-2%/А
-Я/Д
О
%/А
2%/А
-7С/Л
0
%/А
Рис. 18.
Спектральная плотность, включающая значительную часть (заштриховано),
соответствующую частотам со, превышающим частоту Найквиста сод = я/Д (а),
и спектральная плотность ряда дискретных наблюдений Х д (k) = X (&Д),
включающая результат наложения высоких частот, т. е. элайзинга (заштри­
ховано) (б).
то по выборке через время А функции F (со) и / (со) можно будет
оценить лишь со значительной ошибкой из-за возникающего
элайзинга (наложения высоких частот на низкие). Выбор интер­
вала А (т. е. частоты дискретной выборки Х д (t)) эквивалентен
выбору частоты Найквиста сод = я/Д; эта частота сод обязательно
должна быть столь высокой, чтобы еще более высокие частоты со
вносили\лишь пренебрежимо^малый вклад в суммарную энергию
процесса, если желать, чтобы спектральные характеристики про­
цесса X (t) можно было достаточно аккуратно восстановить по
наблюденной выборке # д (t) (являющейся^реализацией последова­
тельности Х д (t)).
К сожалению, во многих случаях мы заранее не знаем, начи­
ная с какой частоты вкладом еще более высоких частот в распре­
деление энергии по спектру можно пренебречь; из-за этого иногда
приходится использовать для оценки спектральной плотности
/ (со) несколько разных выборок XA(t) с все уменьшающимися
16. Дискретные выборки случайных процессов
171
значениями А (что позволяет выяснить на опыте, начиная с какой
частоты выборки дальнейшее уменьшение интервала А уже прак­
тически не меняет оценки / (со)).
Идеальной, разумеется, была бы ситуация, при которой все
частоты вне интервала — я/А < со < я/А вообще не вносили бы
никакого вклада в процесс X (/); поэтому случай процессов X (t)
с ограниченной полосой частот представляет особый интерес с точ­
ки зрения использования дискретной выборки ХА (t). Предполо­
жим, что для процесса X (t) существует такая граничная частота
и
Q, что [ F (со) dco = В (0), т. е. F (со) = 0 при со < —Q,
Л
F (со) = const при со > Й, так что спектральное разложение
X (t) включает только частоты из интервала—Q < со < Q (именно
такие X (t) и называются с т а ц и о н а р н ы м и
процес­
сами с о г р а н и ч е н н о й
п о л о с о й ч а с т о т или,
иначе, с о г р а н и ч е н н ы м
с п е к т р о м ) . В этом случае,
выбрав А так, чтобы выполнялось условие Q < сод = я/А, мы
найдем, что ZA1} (со) = Z (со) в формуле (2.211); отсюда видно, что
здесь по совокупности всех дискретных значений ХА (t) =
= ^-(*д)» t = 0, ± 1, ... в принципе уже можно будет однозначно
восстановить спектральную функцию (или плотность) процесса
X (t) без всяких искажений, т. е. эффект элайзинга здесь вообще
никак не будет проявляться.
Нетрудно также понять, что в рассматриваемом случае про­
цессов X (t) со спектром, ограниченным частотой Q, дискретные
значения Х д (t) = X (£Д), t = 0, ± 1 , ± 2 , ... при А < я /Q будут
вообще однозначно определять и значения X (t) при всех веще­
ственных t. В самом деле, значения Х д (t) всегда позволяют вос­
становить значения случайной функции ZA (со) = ZAl)(co/A) (см.,
в частности, равенство (П. 40)). Но если сод = я/А > Q, то
2дп(со) = Z (со); поэтому здесь по значениям Х д (/) можно вос­
становить значения Z (со), однозначно определяющие значения
X (t) при всех /. Явную формулу, выражающую все значения
X (t) через значения ХА (/) = X (/А), проще всего можно вывести
следующим образом.
Воспользуемся тем, что сод > Й, где —Q < со < Q — полоса
частот, охватывающая весь спектр X (t), и перепишем спектраль­
ное разложение X (t) в виде
X(t)=
J e*t*dZ((o).
(2.216)
—©д
Подставим теперь в эту формулу разложение заданной на конеч­
ном интервале —сод < со < сод функции eit(0> где t — фиксиро­
ванное число, в ряд Фурье по гармоникам еШ2пк^2(0А = eikA(d,
172
Глава 2
k = О, ± 1 , ± 2 , ...; это разложение, как нетрудно проверить,
имеет вид
е«ш==
V
sin
" < y - f ) е^-,
* <*>< *
(2-217)
Учитывая первую формулу (2.209), отсюда получаем
сю
Х(/
)= 2 sTm-k)}
X{kA)
'
(2 218
- ^
/г=—оо
где, как обычно, бесконечная сумма понимается в смысле сходи­
мости в среднем квадратичном. Формула (2.218), справедливая
для любых стационарных процессов X (t) с ограниченным спект­
ром, целиком сосредоточенным внутри полосы —я/Д < со < я/Д,
и позволяющая выразить все значения таких процессов в виде
линейной комбинации их «дискретных отсчетов» через интервалы
времени Д, играет важную роль во многих инженерных задачах;
в радиотехнической литературе она часто называется ф о р м у ­
лой
К о т е л ь н и к о в a. 10i
Формула (2.218) является конкретным примером специального,
зависящего от параметра / д и с к р е т н о г о
линейного
п р е о б р а з о в а н и я , т. е. линейного преобразования (иначе,
линейного фильтра или линейной системы), применяемого к ста­
ционарной последовательности ХА (k) = X (&Д). Рассмотрим те­
перь общий класс линейных преобразований SB произвольной по­
следовательности X (/), t = 0, ± 1 , ± 2 , ... представимых в виде
S h{}n)X(t-j)}
2\X(t)\=\im
Я-> со
(2.219)
j=—n
где h)n) — постоянные коэффициенты. Рассуждая так же, как
и на с. 138 и 244, легко показать, что предел (2.219) будет существо­
вать тогда и только тогда, когда последовательность функций
п
Нп (со) = 2J h)n)e~'l]My —я < со < я, сходится при п —-> оо
(в среднем квадратичном по dF(co)y где F(co) — спектральная
функция X (£), т. е. в том же смысле, о котором шла речь на с. 138)
к некоторой функции #(со), причем в этом случае обязательно
J | Я (со) |2 dF (<в)< оо
(2.220)
16. Дискретные выборки случайных процессов
173
И
g\X(t)}
я
= j e t 7 w t f (co)dZ(co).
—я
(2.221)
Из (2.221) в свою очередь вытекает, что если 2 [X (t)} = Y (t)y
то корреляционная функция последовательности Y (t) равна
я
ВУу (т) = J е(ш | Я (со) |2 dF (со),
(2.222)
—я
а ее спектральная функция Fyy (со) задается равенством
СО
FKK (со) = j | Я (со') |2 dF (со').
(2.223)
—я
В частности, если X (?) имеет спектральную плотность / (со),
то и Y (t) будет иметь спектральную плотность fYY (со), причем
fYY((o) = | Я И| 2 /(со).
(2.223а)
Как и в случае преобразований процессов X (t) с непрерывным
временем, функция Я (со) называется
передаточной
ф у н к ц и е й преобразования «2?, а ее модуль А (со) = | Я (со) |
и аргумент ^(со) = arg Я (со) — к о э ф ф и ц и е н т о м
уси­
ления
и соответственно ф а з о в ы м
сдвигом
5\
Передаточная функция линейного преобразования (2.218), оче­
видно, равна eit<0, что и определяет основное свойство этого пре­
образования.
Подавляющее большинство дискретных линейных преобра­
зований, встречающихся в приложениях, принадлежит к несколько
более узкому, чем (2.219), подклассу п р е о б р а з о в а н и й ,
задаваемых
весовой
последователь­
ностью.
Такие преобразования описываются формулой вида
оо
2[X(t)\=
%hjX(t-j),
(2.224)
/=-оо
отличающейся от (2.219) тем, что коэффициенты h} не зависят
ни от какого я, а могут быть выбраны раз и навсегда. Для сходи­
мости ряда в правой части (2.224) последовательность /iy, / = О,
± 1 , ± 2 , ... (которая как раз и называется в е с о в о й
по­
следовательностью
преобразования 3£) должна удов­
летворять условию
00
S
/=—00
оо
Е h,hiB(/ - / ) < оо,
/=—оо
(2.225)
174
Глава 2
где В (k) = (X (t + k) X (t)). На самом деле последователь­
ность hj для реально встречающихся преобразований 3? вида
(2.224) почти всегда удовлетворяет также условию
оо
£
оо
| hj: | < оо или хотя бы
у=—оо
JJ | hj |2 < оо,
(2.226)
/=—оо
гарантирующему существование функции Я (со), —л <: со < я,
имеющей hj своими коэффициентами Фурье:
оо
Я (со) =
^
/ = — ОО
Я
1
Ир-' »,
Л/ = - ^ j - J е'7<й Я (со) dco.
(2.227)
—Л
В таком случае функция Я (со) и будет передаточной функцией
линейного преобразования ^ в и д а (2.224); наоборот, если переда­
точная функция Я допускает разложение в ряд Фурье (2.227),
где коэффициенты hj удовлетворяют условию (2.226) (или (2.225)),
то 9? будет задаваться весовой последовательностью /i/.105
Реализации дискретных линейных преобразований S обычно
могут быть представлены в виде 9?\x(t)}, т. е. они получаются
при применении того же преобразования S (в определении кото­
рого сходимость рядов вида (2.219) или (2.224) теперь должна
пониматься в обычном смысле теории пределов) к реализации x(t)
последовательности X (t).
Применение операций вида (2.224) (особенно, в самом простом
и важном случае, когда отлично от нуля лишь конечное число
весовых коэффициентов hj) к реализациям х (t) крайне просто
осуществляется на цифровых вычислительных машинах. В связи
с широким распространением ЭВМ исследование различных
классов дискретных линейных преобразований с целью от­
бора среди них тех, которые обладают ценными для практиче­
ских применений свойствами, в'последнее время приобрело очень
большое значение; сами дискретные линейные преобразования
теперь часто называют ц и ф р о в ы м и
линейными
преобразованиями
или ц и ф р о в ы м и
линей­
ными
ф и л ь т р а м и — такое название подчеркивает их
связь с цифровыми вычислительными машинами. 106
Отметим еще, что дискретное линейное преобразование S?,
задаваемое весовой последовательностью hj, только тогда может
быть реально осуществлено на вычислительной машине, когда оно
обладает свойством ф и з и ч е с к о й
реализуемости,
требующим, чтобы равенство Л;- = 0 выполнялось при всех / < 0.
Аналогично этому в случае общего линейного преобразования вида
(2.219) условие физической реализуемости состоит в требовании,
чтобы при всех / < 0 и п = 1,2,... выполнялось равенство /iyn) =
17. Примеры дискретных линейных преобразований
175
= 0. Условие физической реализуемости может быть, разумеется,
выражено в терминах передаточной функции Н (со) преобразо­
вания i?. 107 На практике, однако, это условие обычно не играет
важной роли.
Дело в том, что если X (f) — это стационарная последователь­
ность, то, применив SB к сдвинутой назад во времени («задержан­
ной») последовательности S_T\X (t)} = X (t—т), мы получим после­
довательность SB \§_ТХ (t)\, все статистические характеристики
которой не отличаются от характеристик последовательности
SB' \Х (t)\\ поэтому вместо SB \Х (t)\ вполне можно использовать
2?\S_TX (t)\. В применении же к SB \S_TX (t)\ условие физиче­
ской реализуемости (требующее, чтобы равенство h)n) = 0, где
Л/л) — коэффициенты в равенстве (2.219), задающем преобразова­
н и е ^ , выполнялось при всех / < —Т) всегда может быть прибли­
женно удовлетворено с достаточно высокой степенью точности,
если только мы выберем Т достаточно большим.
17.
Примеры дискретных линейных преобразований
и корреляционных функций стационарных
последовательностей
Ряд примеров и корреляционных функций стационарных слу­
чайных последовательностей, и их линейных преобразований был
рассмотрен в § 8 этой книги; сейчас, однако, целесообразно снова
обратиться к такого рода примерам, уделив основное внимание
вычислению соответствующих спектральных плотностей / (со)
и передаточных функций Я (со). Начнем с примеров линейных пре­
образований 9В.
Пример 1. Аналогом операции дифференцирования, примени­
мым к стационарным последовательностям, является операция
взятия первой разности
g>X (t) - X (/) - X (I - I).
(2.228)
Ясно, что 3) — это дискретное линейное преобразование,
причем St> = &—£?, где % — тождественное преобразование, а
9> = &_± — оператор единичного сдвига назад (так что 9>Х (/) =
=
X(t-l)).
Передаточная функция преобразования 3) равна
Я (со) = 1 - е~'* = 2иГ' в / а sin (со/2);
ей отвечает коэффициент усиления
Л (со) = | Н (со) | = 2 | sin (со/2) |.
(2.229)
(2.229а)
176
Глава 2
Применив п раз преобразование 3), мы придем к операции 3)п
перехода к разности л-го порядка; передаточная функция и коэф­
фициент усиления 3)п будут, очевидно, равны
Н (со) = (2i)ne-in(0/2 [sin (co/2)f,
(2.230)
A(e>) = 2n(s\TUu/2)n.
(2.230a)
Пример 2. Аналогом дифференциальных операторов с постоян­
ными коэффициентами, рассматривавшихся в § 14, являются
разностные операторы вида
2 = ап3>п + axSf-x -+
Ь апЯ.
(2.231)
Преобразования (2.231) входят в класс общих преобразований
скользящего суммирования порядка п вида
g [X (t)) =bQX (t) + bLX (i - 1)H
\-bnX(t-n),
(2.232)
представляющих собой физически реализуемые линейные преобра­
зования, задаваемые весовой последовательностью, содержащей
лишь конечное число п + 1 отличных от нуля весовых коэффи­
циентов.
Передаточная функция преобразования (2.232) очевидно равна
Н (со) = bQ + Ьге~ш Н
f- bne~in(0.
(2.233)
Часто встречающимся частным случаем преобразования скользя­
щего суммирования порядка п — 1 является среднеарифметиче­
ское сглаживание
В этом случае, очевидно,
Я«.) - ±%Г~
- Г' "-' -
^ Щ - ■
(2.235)
Пример 3. Рекуррентные фильтры. Преобразования скользя­
щего суммирования конечного порядка п очень легко осуще­
ствляются на вычислительных машинах, но, к сожалению, они
представляют собой лишь относительно узкий класс дискретных
линейных преобразований. Значительно более широкий класс
физически реализуемых линейных преобразований составляют
так называемые р е к у р р е н т н ы е л и н е й н ы е ф и л ь т ­
р ы i? конечного порядка, для которых Y (t) = S£ \Х (t)\ (функ­
ция на выходе фильтра в момент /) линейно зависит от конечного
числа значений X (?) (в момент ? = t и в более ранние моменты
17. Примеры дискретных линейных преобразований
177
времени f < t) и конечного числа прошлых значений Y (f)
(при t' < t). Такие фильтры 3? описываются равенствами вида
Y(t)^—axY(t-l)
amY(t-m)
+ b0X(t) +
+ b1X(t-l)-\
\- bnX (t - n),
(2.236)
где ajy j = 1, ... m, и bk, k = 1, ..., n — постоянные
коэф­
фициенты.
Если H (со) — передаточная функция рекуррентного фильтра
формулы (2.236), то, подставив в (2.236) вместо всех величин
Y (/') и X (/') их спектральное разложение и воспользовавшись
равенством (2.221), будем иметь
оо
J е1Ы [Р (е~ш) Н (со) - Q (е~ш) ] dZ (со) = О,
— ОО
* = 0, ± 1 , ± 2 , . . .
(2.237)
где
т
п
р (Z) = 2 а,гу, я0 = 1, Q (г) = I ЬлК
(2.238)
/=о
*=о
Так как равенство (2.236) должно иметь место для всех последова­
тельностей X (/), к которым может быть применен рассматривае­
мый фильтр 9?, т. е. равенство (2.237) должно быть справедливым
при всех Z (со), для которых интеграл в правой части (2.237) схо­
дится, то ясно, что передаточная функция Н (со) должна зада­
ваться равенством
я
И = ^р=У'
(2.239)
Обратно, если линейное преобразование & имеет передаточную
функцию (2.239), то Y (t) = & \Х (t)\ очевидно будет удовлет­
ворять равенству (2.236), т. е. & будет рекуррентным линейным
фильтром.
Ясно, что после того как все значения Y (f) с f < t нам уже
известны, значение Y (t) может быть очень просто подсчитано
по известным значениям X (/') с помощью формулы (2.236). Слож­
ность состоит лишь в том, что неясно, как следует поступать вна­
чале, когда еще никакие значения Y (f) нам неизвестны.
С этой точки зрения наибольший интерес, представляют так
называемые у с т о й ч и в ы е р е к у р р е н т н ы е
фильтр ы, обладающие тем свойством, что как бы мы не выбрали началь­
ные значения у (t0—1), ..., у (t0—т) величин Y (t0—1), ...,
Y (t0—m), если затем мы будем последовательно определять зна­
чения у (t0), у (t0 + 1), ... по формуле (2.236), исходя из извест­
ных нам значений реализации х (t) стационарной случайной после-
178
Глава 2
довательности X (t), то с ростом t—10 влияние выбранных «началь­
ных условий» на у (t) будет затухать и у (f) будет стремиться при
t — t0 —> оо к выборочному значению (реализации) величины
Y (t) = 3? \X(f)\, где 3? — линейное преобразование с передаточ­
ной функцией (2.239).
Из общей теории уравнений в конечных разностях вытекает,
что фильтр (2.236) будет тогда и только тогда устойчивым, когда
все корни уравнения Р (г) — 0 будут превосходить по модулю
единицу, причем скорость затухания влияния начальных условий
с ростом t—tQ здесь определяется скоростью затухания функции
|а|-'<'-'°>, где а — наименьший по модулю корень указанного
уравнения (ср. § 8, примеры 6 и 7, а также примечания 59 ^ 62).
Поэтому в данном случае нетрудно оценить, сколько начальных
членов последовательности у (t0), у (t0 + 1), ... надо опустить,
чтобы далее уже можно было считать, что значения у (t) задают
реализацию стационарной последовательности Y (t).
Так как современные вычислительные машины могут очень
быстро подсчитать много значений у (t), t = t0l t0 + 1, t0 + 2, ...
то отбрасывание даже сравнительно длинного начального участ­
ка этого ряда не создает больших затруднений; поэтому устойчи­
вые рекуррентные фильтры без труда реализуются на вычисли­
тельных машинах.
Отметим еще, что формально рекуррентный линейный фильтр &,
задаваемый равенством (2.236), можно выразить через оператор
сдвига 9> с помощью формулы
1- ат9>т
ff + ai?+
Р(У)
К
'
}
(так как равенство (2.236) означает, что Р (9*) 2? \Х (t)\ =
= Q (9>) X (/)).
В случае устойчивого рекуррентного фильтра функцию
[Р {г)]'1 можно разложить в сходящийся при \г\ < 1 степенной
оо
ряд: [Р (z)]'1 = S Y/Z'", где у0 = 1. Поэтому (2.240) в рассматриваемом случае можно переписать в виде
/=о
Y(t)=fc,X
/=о
(/-/),
(2.241)
/=о
где ряд в правой части второго равенства (2.241) — сходящийся
(в обычном среднеквадратичном смысле). Нетрудно показать, что
соответствующее Y (t) будет совпадать со стационарным решением
17. Примеры дискретных линейных преобразований
179
уравнения (2.236) (см. примечание62), так что устойчивый рекур­
рентный фильтр ,2? всегда может быть представлен в виде преобра­
зования скользящего суммирования (2.241) бесконечного порядка.
Однако задание этого фильтра равенством вида (2.236) имеет то
существенное преимущество, что оно позволяет проще применить
его к заданной числовой последовательности х (/<>). х (t0 + 1), •••
(являющейся реализацией случайной последовательности X (t)).
Устойчивые рекуррентные фильтры охватывают широкий класс
физически реализуемых дискретных линейных преобразований,
причем многие из них обладают теми или другими практически
полезными свойствами. В частности, рекуррентный фильтр 2£
можно подобрать и так, чтобы он аппроксимировал с хорошей точ­
ностью фильтр низких частот (или фильтр высоких частот, или
полосовой фильтр) с любой заданной полосой пропускания. Мы
здесь, однако, не будем задерживаться на примерах такого
рода, 108 а ограничимся рассмотрением лишь одного очень простого
(но притом довольно часто встречающегося в приложениях) част­
ного рекуррентного фильтра, задаваемого равенством
У (t) = аУ (t - 1) + (1 - а) X (t),
(2>242)
где а — вещественное число, \а\ < 1. В силу (2.239) здесь
# И = , 1~-<и,
1— ае
Л(со)^
ш
'~а
(2.243)
(1 — 2а cos со + а2)4*
Нетрудно показать, что такой фильтр 3? при а > 0 представ­
ляет собой (неидеальный) фильтр низких частот, а при а < 0 —
фильтр высоких частот. Равенства (2.241), примененные к (2.242),
принимают вид
оо
Y (0 = (1 - а) 2 afX (t - /),
(2.244)
/=о
так что фильтр (2.242) может рассматриваться как дискретная
форма преобразования экспоненциального сглаживания (2.173)*.
Перейдем теперь к примерам корреляционных функций стацио­
нарных случайных последовательностей. Начнем с самого простого
примера, рассматривавшегося нами в начале § 8.
Пример 1. Пусть
В (0) = 1, Я (т) = 0 при т ф 0.
(2.245)
* Аналогия между равенствами (2.173) и (2.244) становится особенно нагляд­
ной, если ввести обозначение Т - 1 = In ( а - 1 ) , так как тогда а) = е~ll •
180
Глава 2
Соответствующая спектральная плотность в силу (2.203) равна
/ (со) = 1/2я, — ж со < я.
(2.246)
Аналогично этому, если В (т) = 0 при т Ф 0, а В (0) = С, где
С > 0, то / (со) = С/2я = const. Таким образом, для стационар­
ных последовательностей некоррелированных случайных величин
спектральная плотность / (со) при всех со принимает постоянное
значение; в этой связи указанные последовательности иногда
называют д и с к р е т н ы м б е л ы м ш у м о м .
Пример 2. Если
( 1 — \i\lm
при | т | < г а ,
В(х) = \
' 1
,
(2.247)
4
'
{
0
при | т | > т ,
то, заменив в (2.203а) g (со) на 2/ (со), после несложных преобразо­
ваний получаем
,<„> _ ^ { , + , £ ' ( , - t , m >cos™) _
2
^ ! ~ ^
(2.248,
(здесь использованы формулы 1.342.2 и 1.352.2 из книги Градштейна и Рыжика [64]). Мы видим, что / (со) > 0 при всех со,
как это и должно быть в силу доказанного на с. 83 утверждения
о том, что функция (2.247) (не отличающаяся от (2.3)) может быть
корреляционной функцией стационарной случайной последова­
тельности. Отметим еще, что, воспользовавшись формулами (2.2),
(2.235), (2.223а) и (2.246), формулу (2.248) для / (со) можно полу­
чить не производя никаких преобразований.
Допустимость корреляционной функции стационарной после­
довательности вида (2.247) вытекает и из того, что эта функция
совпадает со значениями при целых т положительно определен­
ной функции (2.117) непрерывного аргумента т, если Т = т ,
С = ггГ1. При этом в силу (2.118) и (2.213) для спектральной плот­
ности / (со), отвечающей (2.247), получается соотношение
«->- 2
2 sin2 [(со + 2kn) m/2]
nm (со + 2/ел;)2
sin2 (com/2)
2я3/п
k——oo
VI
LJ
1
(со/2я + k)2
k~—oo
Отсюда также легко вывести формулу (2.248), воспользовавшись
известным равенством
оо
^
JLJ
1
л2
(* + &)2
sin2 пх
(2.249)
k=—оо
(см. [64], формула 1.422.4); наоборот, считая известной формулу
(2.248), мы приходим к доказательству формулы (2.249).
17. Примеры дискретных линейных преобразований
181
Если теперь В (т) задается более общей формулой (2.5), то,
используя формулы (2.4), (2.223а), (2.233) и (2.246), можно без
труда доказать, что
/и=
/2я.
(2.250)
k=0
Пример 3. Пусть
В(т) = Са1х\ С > 0 , | а | < 1 , т = 0, ± 1, ± 2 , . . . ,
(2.251)
т. е. В (т) убывает с ростом | т | в геометрической прогрессии,
а — вещественное число. В таком случае в силу (2.203) получаем
^ Я *=_оо
ZJl
2я I ! _
С
\
a
аеш
U=l
+
e<"
k=0
j __
J
ае-ш
)
С
l-fl»
Неотрицательность функции (2.252) показывает, что функция
(2.251) может быть корреляционной функцией стационарной после­
довательности — факт, который совсем иначе был доказан в § 8
(пример 5). Сопоставление формул (2.252) и (2.243) показывает
также, что последовательность Y (t) с корреляционной функцией
(2.251) можно получить, применив рекуррентный фильтр (2.242)
к последовательности X (t) = сЕ (t) некоррелированных вели­
чин с дисперсией с2 = С (1—а2)/(1—а)2 = С (1 + а)/(1—а);
этот результат также нам уже известен из § 8. Наоборот, зная,
что последовательность с корреляционной функцией (2.251)
можно получить из последовательности сЕ (t) указанным
выше способом, мы можем сразу вывести формулу (2.252) для / (со)
из (2.223а), (2.243) и (2.246). Наконец отметим еще, что закон­
ность выбора функции (2.251) в качестве корреляционной функ­
ции стационарной последовательности вытекает и из того, что зна­
чения В (т) здесь совпадают со значениями при целочисленных т
положительно определенной функции (2.89), где е~а = а. Отсюда,
в частности, вытекает, что для вычисления спектральной плот­
ности / (со), отвечающей корреляционной функции (2.251), можно
также воспользоваться формулами (2.90) и (2.213), в силу которых
«•>--£ £ а* + (о + 2/гя) '
2
а == — In а.
Глава 2
182
Сравнение последней формулы с (2.252) позволяет установить любо­
пытное тождество ш
оо
2 j а2+(со + 2*я)2 =
2a(l-2e-acosco + e - 2a ) '
k=—00
'
<2-253)
'
Пример 4. В случае последовательности авторегрессии т-го
порядка, удовлетворяющей конечноразностному уравнению (2.13),
спектральная плотность /(со) в силу формул (2.223а), (2.239) и
(2.246) будет равна
ДЧ)
~ 2я | 1 + а^-'* + • • • + am^-imw |2 ~~
=
2n\(ei«-a1)...(ei<»-arn)\*
'
{ 2 Ш )
где аъ ..., а т — корни уравнения zm + a!?" 1-1 + ... + ат = 0. Соот­
ветствующая корреляционная функция 5 (т) после этого легко
находится по формуле (2.204). В частности, если т = 2, то, пере­
писав эту формулу в виде
я
)(е-ш-а1){еш-аг)(е-ш-й%)
-ш§
п* ч/.
V г = ^ > < 2 - 255 >
|г|=/ (г - a x ) (z — а 2 ) (^— - ах j ^ — - а2 J
и применив теорему о вычетах, легко показать, что В (k) совпа­
дает с коэффициентом при \lzk в разложении в ряд Лорана рацио­
нальной функции
f*
(Z) =
(z-a0(z-^)(l-a1z)(l--a2z)'
(2 256)
'
В случае, например, когда корни аг и а 2 — вещественные,
меньшие единицы по модулю и не равные между собой, воспользо­
вавшись разложением функции /* (z) на простейшие дроби и раз­
ложив затем соответствующие простейшие дроби в степенные ряды,
можно легко вывести из формулы (2.225) формулу (2.15). Анало­
гичным образом из формул (2.255) и (2.256) могут быть получены
формулы (2.15а) и (2.156); тот же метод, разумеется, может быть
применен и к последовательностям авторегрессии порядка, пре­
восходящего два.
Пример 5. Обобщением предыдущего примера является корре­
ляционная функция В (т), отвечающая общей рациональной отно-
17. Примеры дискретных линейных преобразований
183
сительно еш спектральной плотности /(ш). Нетрудно показать,
что такая спектральная плотность f (со) всегда может быть пред­
ставлена в виде
Гил\ - 1У' пм + У < ( " - 1 ) м + - - - + 6 в | а _
П
° > -
|e.mco
+
aie ,(m- 1 )co +
...
+ a m
|2
где коэффициенты &0, Ьп и amотличны от нуля, все корни аъ ...,a m
уравнения zm + a 1 2: m_1 + ... + ат = О по модулю больше нуля,
но меньше единицы, а все корни р х , ..., Р„ уравнения &02" +
+ biZ"-1 + ... + fen = 0 по модулю больше нуля, но не превосхо­
дят единицы.110
Ясно, что процесс со спектральной плотностью вида (2.257)
может быть получен с помощью применения устойчивого рекур­
рентного фильтра, задаваемого формулой (2.236), к дискретному
белому шуму X (t) = сЕ (t). Значение В (&), где k > О, здесь оче­
видно равно умноженному на 2я коэффициенту при z~k в разло­
жении рациональной функции
П*)НМа
fj
^-М
\
(z — aj . . . (z — ап) (^— — а^ . . . ^ — — ап)
в ряд Лорана; его можно явно вычислить, воспользовавшись
разложением функции /* (z) на простейшие дроби.
Пусть, например, п = 1 и т = 1, а корни р х = р и а х = а —
вещественные и по модулю меньшие единицы, так что
Нетрудно проверить, что в этом случае разложение /* (z) на про­
стейшие дроби будет иметь вид
f*,
'
.
C(a-P)(l-aP) /
w
a (1 — a«)
a
,
Чz— a ^
1
\ , СР
1 — az / " r a *
00
Воспользовавшись теперь тем, что 1/(1—az) = У a*zfe, а a/(z—а) =
оо
J? a V z \
fe=i
после
несложных
преобразований
находим, что
( 2яС(а— Р)(1— ар) |мT |-i
, .
^ а
при | т | = ^/ А0 ,
t ^ 2
В(х) = \
ЧяС(1 г _2ар + И
„рит^О,
(2.259)
184
Глава 2
18. Оценка спектральной плотности и спектральной
функции по данным наблюдений за значениями х (t)
Понятия спектральной функции и спектральной плотности
стационарной случайной функции X (t) бесспорно являются цен­
тральными для всей корреляционной теории таких функций.
Также и в почти всех применениях теории стационарных случай­
ных функций эти понятия играют основную роль — недаром прак­
тическим приложениям спектральных методов посвящен целый ряд
специальных монографий.111 Ясно, однако, что плодотворное
использование спектральной теории стационарных случайных
функций возможно лишь тогда, когда нам известны значения
спектральной функции F (со) или, что еще удобнее, спектральной
плотности / (со) случайной функции X (/), фигурирующей в нашей
задаче.
Между тем, в большинстве приложений значения / (со) и F (со)
оказываются неизвестными и их приходится приближенно опре­
делять по данным наблюдений за X (f), т. е. по значениям несколь­
ких или, чаще всего, одной единственной реализации х (t), извест­
ным в течение конечного интервала времени. Кое-какие замеча­
ния по поводу методов определения значений спектральных функ­
ций и плотности по экспериментальным данным уже приводились
выше (см., в частности, с. 145—146 и рис. 13 и 166); однако важ­
ность этой задачи делает целесообразным значительно более подроб­
ное ее рассмотрение. Этому и посвящен настоящий параграф.
Задаче об оценке спектральных характеристик стационарных
случайных функций X (t) посвящена огромная литература. 112
Мы здесь уделим основное внимание наиболее широко исполь­
зуемым в настоящее время численным методам оценки спек­
тральной плотности f (со); поэтому к замечаниям по этому
поводу на с. 122 и 145—146 мы вернемся только в конце парагра­
фа, а сначала рассмотрим другой подход к той же задаче.
Ограничимся случаем, когда из наблюдений известна лишь
одна реализация х (t) вещественной функции X (/), где / = 1,
2, ..., Т или 0 < / < Г*, и при этом будем считать, что (X (t)) =
= 0, а корреляционная функция В (т) = Ь (т) настолько быстро
убывает при |т|—» оо, что существует спектральная плотность
/ (со), непрерывно зависящая от частоты со. Пусть как раз значе-'
ния / (со) нам и требуется оценить по значениям х (t). Ясно, что
возникающая здесь задача родственна рассматривавшейся в § 6
* В случае, когда известно несколько (скажем, N) независимых реали­
заций х (t) одинаковой длины, целесообразно по каждой из них одинаковым
образом оценить интересующую нас величину, а затем использовать среднее
арифметическое N полученных оценок. При этом смещение результирующей
оценки, разумеется, останется тем же, что и у каждой из оценок, построенных по
одной реализации, но дисперсия уменьшится в N раз.
18. Оценка спектральной плотности и спектральной функции
185
задаче об оценке значений корреляционной функции В (т). В част­
ности, нетрудно понять, что состоятельная оценка /? (со) функ­
ции / (со) (т. е. оценка, стремящаяся при Т —> оо к истинному зна­
чению / (со)) может существовать лишь тогда, когда выполняются
указанные в § 6 «условия эргодичности второго порядка», обеспе­
чивающие существование состоятельной оценки корреляционной
функции В (т); поэтому эти условия всегда будут предпола­
гаться выполняющимися.
В § 6 рассматривалось несколько оценок функции В (т), из
числа которых надо особо выделить оценку Bf(x), задаваемую
формулами (1.68), (1.68а), и близкую к ней оценку В?* (т) (см.
с. 74—75) *. Напомним, что оценка Вт (т), в отличие от BJ* (т),
является строго несмещенной (правда, лишь тогда, когда точно
известно, что (X (t)) = 0). В то же время оценка Вт* (т), как
правило, более точна (т. е. характеризуется меньшей средней
квадратической ошибкой) и, кроме того, она представляет собой
положительно определенную функцию т, тогда как Вт (т) этим
свойством не обладает. Последнее обстоятельство представляется
особенно важным, когда мы оцениваем функцию / (со); из него
следует, что, используя в качестве нужной нам оценки / (со) пре­
образование Фурье функции Вт* (т), можно быть уверенным хотя
бы в том, что ни при каком со мы не получим бессмысленного отри­
цательного значения. Поэтому представляется целесообразным по­
пробовать оценить f (со), заменив в формулах (2.82) и (2.203),
выражающих / (со) через В (т), значения неизвестной нам функции
В (т) ее оценкой В?* (т).
Учитывая, что Вт* (т) = 0 при | т | > Т, найдем, что соответ­
ствующая оценка / (со) имеет вид
т
{
т Н = -W 1 е~Швг
или
( х ) dx
(2-260)
7-1
f
V N = 41r
V4
А-ШТг>**
,
шх
£
е~
в7{х).
(2.260а)
С помощью несложных преобразований нетрудно доказать,113
что формулы (2.260) могут быть также переписаны в виде
/г(со) =
2яТ
\*-шхЦ)<И
(2.261)
* Оценки BTN(T) И BJ*N(T), упоминавшиеся в § 6 на с. 68 и 75, предста­
вляют собой те же оценки В* (т) и Вт* (т), но только относящиеся к дискретной
выборке X1/N(t) = X (t/N), t= 0, ± 1 , ± 2 , ... процесса X (/); поэтому их можно
отдельно не рассматривать.
Глава 2
186
или
'г< ш ) = 2ЙГ
Т;*~ШхЦ)\
(2.261а)
/=-1
еще раз подтверждающем, что iV(©) > 0 при всех со.
Ясно, что iT (со)— это выборочное значение (т. е. реализация)
следующей случайной функции аргумента со:
т
1
1Т (со) =
e-iti>tX(t)dt
(2.2616)
2пТ
или
/г(со) =
2пТ
Ъе~шХ{1)
(2.261в)
t=i
Неслучайная функция iT (со) и случайная функция 1Т (со) пред­
ставляют собой эмпирическую (выборочную) и теоретическую
формы одной и той же оценки спектральной плотности / (со) (род­
ственные формам пгт и Мт оценки среднего значения m =
= (X (/))); обе они называются п е р и о д о г р а м м о й слу­
чайной функции X (/). Понятие периодограммы было введено
в рассмотрение английским физиком Шустером еще в конце прош­
лого столетия; оно играет основную роль в большинстве существу­
ющих методов оценки значений / (со).
Ясно, что в случае вещественной функции X (t) функция 1т(ы)
при непрерывном t может быть также представлена в следующей
чисто вещественной форме:
hИ
1
2яГ
in
X (t) cos со/ dt
+ Lo]x(t)
sin со/ dt
(2.262)
аналогичным образом может быть здесь переписана и формула
для 1Т (со), а также формулы для iT(®) и 1Т (со) при дискретном t.
Учтя, что (Вт* (т)> = (1 — | х |/Т") В (т), и выразив здесь
В (т) через / (со), нетрудно вывести из (2.260)—(2.260а) что в случае
непрерывного /
</г (*>)>= J
2
пТ
)m
**l?J-Z"
№)*>'.
-со)
2
(2-263)
а в случае дискретного t
<M.»-J^£B£=$!i/*o*' <*■**>
18. Оценка спектральной плотности и спектральной функции
187
(более подробно этот вывод, а также и вывод некоторых последую­
щих формул рассмотрены в примечании)114. Согласно (2.263)
и (2.263а), вообще говоря, (1т (®)) Ф f (<°)> т а к ч т ° h{®) пред­
ставляет собой смещенную оценку спектральной плотности / (со).
Последнее обстоятельство, впрочем, не играет большой роли:
ведь при небольших Т вообще нельзя рассчитывать на получение
более или менее удовлетворительной оценки значений / (со), а при
больших Т разница между (1Т (со)) и / (со) очень мала, так как
подынтегральные функции в правых частях (2.263) и (2.263а)
обе при Т —* оо стремятся к б-функции б (со'—со).
Из последнего замечания следует, что оценка 1Т(®) непрерыв­
ной спектральной плотности f (со) (так же как и оценка Вт* (т)
функции В (т)) — асимптотически несмещенная, т. е. при Т —* оо
ее смещение стремится к нулю. Этого, разумеется, и следовало
ожидать в силу того, что функции Вт* (т) и 1т (оо) являются пре­
образованиями Фурье друг друга.
Вычисление дисперсии DIT (оз) = ((1Т (ю) — <('г( (0 ))) 2 ) и
общей центрированной корреляционной функции ^((Oj, со2) =
= (Ут ( w i) — От (®i)>) (h (©г) — UT (W 2 )))> случайной функ­
ции /^(co) является более сложным делом, но при некоторых до­
полнительных предположениях и для этих величин можно полу­
чить явные выражения. Мы здесь ограничимся рассмотрением лишь
случая, когда функция X[(t) — гауссовская, хотя на самом деле
очень близкие результаты могут быть получены и при значительно
более широких предположениях (см. примечание 114). В гауссовском случае нетрудно доказать, что, например, при непрерывном t
h ((0 1,
ю2) =
оо
г
J
2 s i n [ 7 ( © ' - о ) х ) / 2 ] sin [Т (со' - с о 2 ) / 2 ]
/ ( ( 0 ') Л о '
со7 -- C 0 J
со' —-со2
пТ
+
—оо
2
2
+
sir1 [Т (€0' —0^/2]
со' — а>i
sin [ Г ( с о ' + < *i)/2]
ч,
СО' + й>2
л
;
/(со ') dco'
(2.264)
формула для bi (сох, со2) при дискретном t отличается от (2.264)
лишь заменой пределов интегрирования в правой части на —я
.
о sin (Тх/2)
,
,
,
'
\
\
и л, а функцией
-—'—!- (где х = со — coj, со—со2исо + со2) —
на ^ш. х/ ' . Положив, что о>г = соа = со в (2,264), мы получим
188
Глава 2
выражение для дисперсии Dlj (со); нетрудно показать, что при
Т —> оо это выражение приводит к результату
(2/2(со) при со = 0,
lim D/r(co) = '
:
_^ п
(2.265)
w
v
;
г>со
1 /2 (со) при со=^0.
Аналогичный результат справедлив и для дискретного /, но
только здесь уже lim DIT (со) = 2/2 (со) и при со = 0, и при со =
7->оо
= ±п (но снова lim DIT (со) = / 2 (со) при всех других со). Далее,
Г->оо
если со2 Ф ±сох (напомним, что по определению 1Т(—со) = 1т(®))>
то в силу (2.264) получаем
lim 6/ (colf со2) = 0 при (02Ф±аУг
(2.266)
Г->оо
В дополнение к (2.266) заметим еще, что на самом деле при
Т —* оо значения 1Т (со) в точках сох и со2=И= ±со х становятся,
как это нетрудно доказать, не только некоррелированными, но
и взаимно независимыми случайными величинами.
Из формулы (2.265) видно, что дисперсия периодограммы
1Т (со) при Т —> оо не стремится к нулю, а принимает конечное
значение. Иначе говоря, хотя систематическая ошибка оценки
1Т (со) величины / (со) и стремится к нулю при Т —> оо (так как
</г (со)) —> / (со)), но ее средняя квадратическая случайная ошибка
о (IT) = [DIT (со) I1/2 при всех Г остается конечной (и имеет тот же
порядок величины, что и / (со)). Поэтому периодограмма 1Т (со)
не является состоятельной оценкой спектральной плотности / (со),
несмотря на то, что ее преобразование Фурье (функция Вт* (т))
является состоятельной оценкой преобразования Фурье В (т)
функции / (со) (о причине этого различия в свойствах оценок Вт* (т)
и 1Т (со) мы еще скажем ниже). Более того, формула (2.266) показы­
вает, что при больших Т значения 1Т (со) в разных точках оси
частот оказываются (в гауссовском случае по крайней мере)
взаимно некоррелированными (и даже независимыми) вели­
чинами. Последнее обстоятельство означает, что при больших
значениях Т эмпирическая периодограмма iT (со) должна быть
крайне нерегулярной функцией частоты со: ее значения должны
резко изменяться при незначительном изменении аргумента, бес­
порядочно флуктуируя около среднего значения (1Т (со)) (мало
отличающегося от истинной спектральной плотности / (со)).
И действительно, во всех случаях, когда значения iT (со)
реально подсчитывались по достаточно длинному отрезку значе­
ний х (0 какого-то временного ряда, имеющего характер реали­
зации стационарной случайной функции, их изменение с частотой
оказывалось достаточно хаотическим; этот факт мы сейчас проил­
люстрируем несколькими примерами.
18. Оценка спектральной плотности и спектральной функции
189
В качестве первого примера, сыгравшего значительную роль
в развитии теории временных рядов, мы рассмотрим вычисленную
Бевериджем периодограмму представленных на рис. 2 д колеба­
ний цены на пшеницу на рынках Западной Европы (см. рис. 19а) *.
Мы видим, что функция if (Т0), Т0 = 2я/со, здесь характери­
зуется большим числом максимумов (пиков), разделенных глубо­
кими провалами. Сам Беверидж был склонен признать по крайней
мере 18 из этих максимумов вполне реальными, т. е. отражаю­
щими какие-то реальные периодические изменения экономиче­
ских условий. Однако предшествующие рассмотрения (в частности,
формулы (2.265) и (2.266)) делают это заключение очень сомнитель­
ным; скорее можно ожидать, что или все, или почти все «пики»
на рис. 19а на самом деле порождены чисто случайными флуктуациями значений iT (со)**.
В качестве второго, более современного примера такого же
рода, относящегося к метеорологии, мы приводим на рис. 19 б
рассчитанную Поляком116 периодограмму 200-летнего ряда на­
блюдений средней годовой температуры воздуха в Базеле (по
оси абсцисс здесь отложены и значения круговой частоты со в ра­
дианах в год, и соответствующие значения периода Т0 = 2я/со
в годах).
Периодограмма и в этом случае оказалась настолько изрезан­
ной и нерегулярной, что трудно поверить, чтобы ее «пики» могли
как-то отражать общие статистические закономерности соответ­
ствующего случайного процесса, а не определяться одними лишь
весьма частными особенностями используемого отрезка реализа­
ции х (f).
В случае рядов, периодограммы которых изображены на
рис. 19 а и 19 б, мы, разумеется, не знаем истинной формы спек­
тральной плотности и можем лишь догадываться, что она должна
быть гораздо более гладкой, чем соответствующая периодограмма.
Для того же чтобы иметь возможность сравнить значения iT (со)
с истинными значениями / (со), целесообразно рассмотреть перио­
дограммы искусственных временных рядов х (t), построенных с по­
мощью таблиц случайных чисел (или с помощью вычисленных на
* В соответствии с тем, как это было принято раньше, на рис. 19 а по оси
абсцисс отложена не частота со (или п = со/2я), а период Т0 = 115
\/п = 2я/0.
Такой выбор независимой переменной влияет на форму графика,
но число
«пиков» и «провалов» на нем при этом, разумеется, не меняется.
** По-видимому, именно графики типа того, который изображен на рис. 19 а
побудили известного английского математика и геофизика Джеффриса, много
имевшего дело с временными рядами, прийти, в связи с обсуждением использо­
вания периодограммы, к следующему пессимистическому заключению: «При
отсутствии теоретического обоснования периодичности периоды, найденные
с помощью разложений Фурье, не заслуживают доверия; едва ли даже десятая
ча£ть тех периодов, о существовании которых было заявлено, статистически
обоснована» (см. [80, с. 316]).
J
90 Т0 год
J а) рад/год
J
2,1 Т0 год
в
Базеле (/) и построенные по ней две оценки спектральной плотности
(2, 3) (по [162]).
Рис. 19.
>?ь» б — Периодограмма
а— Периодограмма ряда Бевериджа (по [225]).
ряда средних годовых значений температуры
18. Оценка спектральной плотности и спектральной функции
191
ЭВМ «псевдослучайных чисел») таким образом, чтобы ряд х (t)
имитировал реализацию стационарной последовательности X (t)
с известной корреляционной функцией В (т) и спектральной плот­
ностью / (со) (см. с. 85—86).
Первые примеры такого рода были рассчитаны Кендаллом
[282]. Один из них воспроизведен на рис. 20 а. На этом рисунке
приведены значения /(со) и значения периодограммы *>(<*>) при
Т = 480. Мы видим, что значения iT (со) здесь беспорядочно флук­
туируют около значений / (со), образуя целый ряд пиков, не имею­
щих никакого отношения к истинной форме спектра.
Другой аналогичный пример (принадлежащий Волду [336])
изображена на рис. 20 б. Здесь наряду со значением спектральной
плотности / (со) нанесены значения двух выборочных периодо­
грамм iT (со), построенных по двум различным реализациям (содер­
жащим по 200 значений х (/) каждая) одной и той же стационарной
последовательности X (/). Мы видим, что обе периодограммы iT (со)
имеют крайне нерегулярную форму, причем их колебания отно­
сительно гладкой кривой / (со) не имеют ничего общего друг с дру­
гом. Наконец, на рис. 20 в приведена периодограмма iT (со), по­
строенная по реализации дискретного белого шума (т. е. последо­
вательности независимых случайных величин, имеющей постоян­
ную спектральную плотность). Все эти рисунки наглядно показы­
вают, насколько плохой оценкой спектральной плотности является
периодограмма; при этом, в силу сказанного выше (см., в част­
ности, равенство (2.266) и примечание114), с ростом длины Т исполь­
зуемой реализации поведение периодограммы iT (со) должно ста­
новиться все более и более нерегулярным. Ясно поэтому, что часто
встречающееся в прикладной литературе утверждение о том, что
/ (со) = lim 1Т (со) (иногда принимаемое даже за определение
Г->оо
спектральной плотности/(со)), на самом деле является совершенно
безосновательным.
Изложенные выше результаты не только позволяют объяснить
крайнюю изрезанность графиков эмпирических периодограмм
iT (со) на рис. 19 и 20, но и подсказывают, что приемлемые (т. е.
состоятельные) оценки спектральной плотности / (со) могут быть
получены при помощи осреднения (сглаживания) значений iT (со).
Само это осреднение может реализоваться по-разному; здесь
мы рассмотрим два различных способа нахождения состоятельных
оценок значений / (со), опирающихся на вычисление периодограм­
мы. Первый из них использует тот факт (см. рис. 206), что откло­
нения построенных по значениям х (t) периодограмм iT (со) от
близкого к значению / (со) среднего значения (1Т (со)) для раз­
личных реализаций х (f) (или мало связанных друг с другом отрез­
ков одной реализации) будут независимы (или почти независимы)
друг от друга. Поэтому если мы разобьем достаточно длинную pea-
Jl/2
Рис. 20.
%/4
1*48 0 ( «
Л/2
искусственного ряда
Кендалла (У) (по [282])
и соответствующая теоре­
[282]) и
тическая спектральная плотность f (со) этого ряда (2).
б — Две выборочные периодограммы i2oo(®)> по­
строенные по двум независимым реализациям (/, 2),
и соответствующая теоретическая спектральная плот­
ность (3) д л я одного из искусственных рядов Волда
(по [336])
в — Периодограмма i"i0o(co) (/) и истинная спектраль­
ная плотность / (со) (2) реализации последовательнос­
ти независимых величин (по [78]).
МЗ
i&. Оценка спектральной плотности и спектральной функции
193
лизацию длины Т на большое число п отрезков длины Т х = Tin
и построим по каждому из них свою периодограмму ir] (со), k =
= 1, ..., п, то среднее арифметическое ф£° (со) =
£ *7\ (<°) \
п
будет выборочным значением оценки Ф ^ (со) спектральной плот­
ности / (со), смещение которой равно разности (/^(со)) — / (со)
(и поэтому стремится к нулю при 7 \ = Tin —> оо), а дисперсия
близка KDITI (со)/п (т. е. стремится к нулю при я —-> оо).* Поэтому,
выбрав зависящее от Т значение п = пт так, что пт —> оо, но
также и Т1пт—+ оо при Т —> оо, мы придем к оценке ф(,лг) ((|)),
которая, очевидно, будет состоятельной.
Наряду с этим состоятельную оценку можно построить и не
разбивая реализации длины Т на большое число п отдельных кус­
ков, а исходя из значений периодограммы iT (со), отвечающей всей
имеющейся реализации. В самом деле, поскольку значения теоре­
тической периодограммы 1Т (со) при близких друг к другу значе­
ниях со представляют собой взаимно независимые случайные вели­
чины с примерно одинаковым средним значением, то, осреднив
эти значения по небольшому интервалу оси частот, на протяжении
которого спектральная плотность / (со) мало меняется, мы получим
значительно лучшую, чем 1Т (со), оценку значения / (со). Более
того, из формулы (2.264) можно вывести, что при большом, но
конечном Т корреляция между значениями 1Т (сох) и 1Т (со2) прак­
тически исчезает при | со2—со а |, имеющем порядок 1/Г (см. при­
мечание114); следовательно, осреднив значения 1Т (со) по интервалу
частот со длины А г и выбрав это Ат так, что Аг —> 0 при Т —> оо, но
Ат > 1/Г, т. е. ТАТ —> оо (например, приняв, что Aj- ~ Т-а>
где 0 < а < 1), мы придем к состоятельной оценке /г (со) =
co+Aj'/2
со—Af/2
Именно на основании таких соображений и был в конце 40-х гг.
этого столетия впервые получен вывод о возможности состоятель­
ного оценивания произвольной спектральной плотности / (со).117
Рассмотрим теперь несколько подробнее общую операцию
осреднения периодограммы по области частот, окружающей
* При большом значении Тг (много большем времени корреляции последо*
вательности X (t)) даже прилегающие друг к другу отрезки длины 7 \ последова­
тельности X (t)) будут очень слабо связаны друг с другом. Поэтому величины
/ ^ ' (со), & = 1, ..., п, здесь будут практически независимыми друг от друга,
так что дисперсия их суммы будет почти точно в п раз больше, чем DIT (со),
а дисперсия среднего арифметического будет близка к DIT (со)/п.
7
А. М. Яглом
194
Глава 2
точку со, которую аналитически можно представить как операцию
перехода к значениям *
фтА) (со) = \ЛТ (СО — со') IT (co'j do/,
(2.267)
где Ат (со) — неслучайная функция.
В формуле (2.267), как и всюду ниже в этом параграфе, инте­
грал без указания пределов интегрирования считается распро­
страненным по всей оси —оо < со' < оо в случае непрерывного t
и по интегралу —я < о/ < п в случае дискретного t (причем
весовую функцию Ат (со) в этом последнем случае следует считать
периодической с периодом 2л). «Эмпирической формой» теорети­
ческой оценки (2.267) будет «осредненная эмпирическая периодо­
грамма»
<р{тА) (со) = J Ат (со - о/) iT (со') da/,
(2.267а)
представляющая собой выборочное значение случайной величины
Ф{ТЛ) (со). Правые части формул (2.267) и (2.267а) представляют
собой свертки двух функций, к которым, как известно, удобно
применить преобразование Фурье. В самом деле, если ат (т) —
преобразование Фурье весовой функции Ат (со), т. е.
ат(%) = jV0)Mr(co)dco,
— о о < т < о о или т = 0, ± 1, ± 2 , . . .
(2.268)
то, учитывая, что Вт* (т) = J еШт1Т (со) do в силу (2.260)-—(2.260а),
из (2.267а) получим
J еШх Ф И } И dco = ат (т) Вт* (т).
(2.269)
Формула (2.269) выражает собой известную «теорему о свертке»
теории преобразований Фурье, согласно которой преобразование
Фурье свертки двух функций равно произведению их преобразо­
ваний Фурье; она показывает, что
т
л
<
>
(со)
=
±
.
\е-'™ат (т) В? (т) йт
(2.270)
ф
ИЛИ
Ф^'И = 4 -
'Я
^'Wtflr^)5r*(x).
(2.270а)
* В правой части (2.267) иногда оказывается удобным заменить Ат (со—со')
на [Ат (со — со') + Ат (со + со')]/2 (такая замена не изменяет значения инте­
грала, поскольку 1т (—со) = 1т (со)).
18. Оценка спектральной плотности и спектральной функции
195
В той же форме (2.270)—(2.270а)может быть представлена и теорети­
ческая оценка (2.267); только под Вт* СО теперь надо будет понимать
соответствующую «теоретическую оценку» функции В (т) (т. е.
среднее по времени значение произведения X (t + т) X (t), а не
X (t + т) X (*)).
Для получения хорошей оценки спектральной плотности / (со)
весовую функцию Ат (со) естественно выбрать так, чтобы она при­
нимала наибольшее значение в точке со — 0, а с ростом | со | убы­
вала бы, приближаясь к нулю. Представляется также целесооб­
разным считать функцию Ат (со) четной (т. е. такой, что Ат (—со) =
= Ат (со)), нормировать ее условием
|л г (со)Лсо= 1
(2.271)
и требовать, чтобы при Т —> оо эта функция становилась все более
и более «узкой» (т. е. все более и более тесно концентрировалась
около нуля). В таком случае функция ат (т) также будет прини­
мать наибольшее значение в точке т = 0 (где ат (0) = 1 в силу
(2.271)), а с ростом | т | она будет убывать (и притом, в силу чет­
ности Ат (со), симметрично — так что ат (т) вещественно и ат(—т) =
= ат (т)), принимая при больших | т | очень малые значения.
В силу «соотношения неопределенностей» (см. с. 117—118), «эффек­
тивная ширина» функции ат (т) будет обратно пропорциональной
«эффективной ширине» Ат (со), так что неограниченному «суже­
нию» функции Ат (со) при Т —* оо отвечает неограниченное «рас­
ширение» функции ат (т). Иначе говоря, при больших значениях Т
разумно выбирать функцию ат (т) так, чтобы на значительном ин­
тервале не слишком больших значений | т | она оставалась близкой
к значению ат (0) = 1 и только при относительно больших |т|
(скажем, превышающих определенную долю от Т) принимала
малые по абсолютной величине значения. Подробнее о том, как
обычно на практике выбираются функции ат (т) и Ат (т), будет
сказано ниже. Пока отметим лишь, что, следуя широко используе­
мой в последнее время терминологии, мы будем называть функ­
цию Ат (со) с п е к т р а л ь н ы м
окном
оценки ц>тЛ) (со),
а функцию ат (т) — ее к о р р е л я ц и о н н ы м
окном.118
Запись оценки фг^О») в виде (2.270) или (2.270а)проливаетдопол­
нительный свет на роль «сглаживания по частотам» в (2.267). Мы от­
мечали выше, что хотя Вт* (т) при любом фиксированном т—состоя­
тельная оценка В (т), периодограмма ij (со) не является состоятель­
ной оценкой / (со). Нетрудно понять причину этого: ведь iT (со) в
силу (2.260)—(2.260а) зависит сразу от всех значений Вт* (т),
—Т < т < Т, а как бы велико не было Г, значения Вт* (т) при
не слишком малых значениях | т \/Т всегда оказываются «плохими
оценками» В (т), поскольку график функции Вт* (т) в области
таких т содержит «фиктивные волны», не имеющие отношения
у*
196
Глава 2
к истинной форме В (т) (см. § 6, с. 71—74 и, в частности, рис. 9).
При увеличении Т амплитуда соответствующих «волн» умень­
шится, но зато увеличится длина отрезка оси т, на котором эти
волны присутствуют; поэтому нет ничего удивительного в том,
что свойства оценки iT (со) с ростом Т не улучшаются. На с. 76
мы отмечали, что для устранения таких фиктивных волн разумно
умножить оценку Вт* (т) на весовую функцию (корреляционное
окно) ат (т), придающую больше веса наиболее надежным значе­
ниям Вт* (т) с малыми значениями | т | и позволяющую или
полностью пренебречь весьма сомнительными значениями Вт* (т),
относящимися к сравнительно большим значениям |т|, или учесть
и их, но с очень малым весом. Сейчас мы видим, что эта операция
умножения оценки Вт* (т) на разумным образом подобранное
корреляционное окно оказывается точно эквивалентной сглажива­
нию периодограммы в соответствии с формулой (2.267а).
Перейдем теперь к математическому исследованию свойств
оценок вида (2.267). При больших значениях Г, очевидно
(ф{тА)((о))= \ Ат (со —со') (/г (co')}dco'^
& |л г (со —co,)/(co,)dco'
(2.272)
(а при меньших Т здесь можно воспользоваться формулами (2.263)
и (2.263а)); поэтому вычисление смещения б (ФТЛ) (со)) =
= (ф^ Л) (со)) — / (со) оценки Ф[Л) (со) не представляет труда.
Заметно сложнее вычисляется дисперсия йФ(т ) (со) случайной
величины ФтЛ) (со). Для ее определения приходится использовать
общую формулу (1.48), позволяющую выразить ОФтЛ) (со) через
центрированную корреляционную функцию bj (соь со2) периодо­
граммы 1Т (со). Если функция X (f) — гауссовская, то затем
можно использовать формулу (2.264) для &7 (соь со2) (или анало­
гичную формулу, относящуюся к случаю дискретного /); при этом
после ряда преобразований для больших значений Т удается полу­
чить следующую важную асимптотическую формулу:
DO^ ) (co) =
= Щг\ [А\ (со - со') + Лг(со - со') Ат (со + со')] f (со') dco'. (2.273)
Родственные этой формуле соотношения могут быть также выве­
дены и при некоторых допущениях, более широких, чем допуще­
ние о том, что X (t) — это гауссовская случайная функция.119
Нас здесь особенно интересует случай, когда спектральное
окно Ат (со) имеет острый пик при со = 0. В случае, когда Ат (со)
существенно отлично от нуля лишь в малой окрестности нуля, где
18. Оценка спектральной плотности и спектральной функции
197
изменением спектральной плотности / (со) в первом приближении
можно вообще пренебречь, формулы (2.272) и (2.273) можно пере­
писать в виде:
< Ф ^ } И > ^ / И \Ат (со')^со',
(2.272а)
О Ф ^ И ^ - у - ^ И f A\{v>)d(u
при (офО.
(2.273а)
При о = 0 в силу того, что Ат (—со) = Ат (со), множитель
2л/Т в правой части (2.273а) должен быть заменен на 4я/7 (а в слу­
чае дискретного /, когда Ат (со) четная периодическая функция
периода 2я, такая замена множителя 2л/Т на Ал/Т необходима
и при со = ± я ) .
Если справедлива формула (2.272а), то условие (2.271), оче­
видно, обеспечивает асимптотическую несмещенность оценки
Ф{ТЛ) (со) спектральной плотности / (со). Формула (2.273а) показы­
вает, что для того, чтобы, кроме того, дисперсия Фт ) (со) стре­
милась к нулю при Т —* сю, т. е. чтобы оценкаф£ Л) (со) была состоя­
тельной, должно еще выполняться условие
Т1
\ А\ {&') da/-* 0
при Г->оо.
(2.274)
Пусть речь идет о случайном процессе X (t), так что —оо <
< t < оо. Тогда выполнения обоих условий (2.271) и (2.274),
проще всего добиться, выбрав зависящую от Т функцию частоты
Ат (со) в виде
ЛГ(©)==М(М),
(2.275)
где kT —* сю при Т —> сю, а фиксированная функция частоты
А (со) (которую также иногда называют с п е к т р а л ь н ы м
о к н о м соответствующей оценки ф^ ) (со)) удовлетворяет усло­
виям
J А (со) dco = 1, | А (со) | <: А (0),
А (со) -> 0 при | со | - / о о
(2.276)
(условие А (со) > 0, гарантирующее неотрицательность <p{TA) (со)
при всех Т и со, здесь не выписано, так как оно не является строго
необходимым; подробнее об этом будет сказано ниже). Для пре­
образования Фурье ат (т) функции Ат (со) из (2.275) следует
соотношение
аг(т) = а(т/Лг),
(2.275а)
198
Глава 2
где а (т) =■ J еШх А (со) dco — фиксированная четная функция т
(которую иногда тоже называют
корреляционным
о к н о м соответствующей оценки) такая, что
а(0)=1,
|я(т)|<а(0),
я(т)->0 при | т | - * о о (2.276а)
(см. ниже конкретные примеры функций Л (со) и а (т)). Условие
(2.271) в рассматриваемом случае очевидно является простым
следствием (2.275) и (2.276), т. е. оно выполняется автоматически;
что же касается условия (2.274), то оно здесь сводится к требова­
нию, чтобы выполнялось соотношение: kTIT-*0
при Г - ^ о о .
Итак, если kT ->- оо, но kTIT ->■ 0 при Т ->■ оо, то оценка q>{TA) (со),
где АТ (со) = kTA (kT(d) и выполняются условия (2.276), будет
состоятельной оценкой f (со).
В случае дискретного t положение немного усложняется тем,
что здесь функция АТ (со) определена лишь при —я < со <: я
(а дальше является периодической с периодом 2я). Поэтому
здесь, если только А (со) не обращается в нуль вне конечного
отрезка (скажем, при |со| > 1), то из справедливости (2.275)
при —п <: со < я еще не вытекает ни (2.271), ни (2.275а). Если,
однако, А (со) = 0 при |со| > 1 и kT > 1/я, то все сказанное
выше об оценках ц>тЛ) (со) с Ат (со) = kTA (kTa>) без изменения
переносится и на случай дискретного t. Часто также в случае
дискретного t при выборе спектрального и корреляционного окон
исходят не из соотношения (2.275), а из формулы (2.275а) для
ат (т); при этом, однако, преобразование Фурье Ат (со) функ­
ции ат (т) = a (x/kT) дискретного аргумента т будет, вообще
говоря, только приближенно удовлетворять соотношению (2.275).*
Заметим, впрочем, что в наиболее интересном для приложений
случае, когда Т и kT велики, так что функция Ат (со) имеет острый
максимум в нуле и быстро падает до очень малых значений по
обе стороны от него, поведение Ат (со) вблизи нуля при ат (т) =
= a (x/kT) и в дискретном случае будет хорошо описываться
формулой (2.275). В связи с этим в дальнейшем для простоты мы бу­
дем, как правило, во всех случаях использовать формулы (2.275)
и (2.276), никак не оговаривая небольших изменений, возника­
ющих, когда ат (т) = a (%/kT), но время t — дискретное (этот
* Воспользовавшись формулой (П. 41), легко показдть, что при дискретном
t и ат (т) = а (т/£ г ), где а (т) —
' ешхА (со) dco, точная формула для Лг(со)
—оо
имеет вид Ат (со) = kT
^
/ = - 0 0
A (kT (со + 2л/)).
18. Оценка спектральной плотности и спектральной функции
199
случай подробно рассмотрен, в частности, в литературе, перечис­
ленной в примечании 119).
Итак, предположим, что функция Ат (со) удовлетворяет усло­
виям (2.275) и (2.276). В силу (2.273а) здесь DO{TA) (со) ~ kT/T,
т. е. дисперсия величины ФтЛ) (со) тем меньше, чем меньше kT.
Следовательно, учитывая только дисперсию рассматриваемой
оценки, целесообразном выбрать функцию kT аргумента Т так,
чтобы она как можно медленнее возрастала при возрастании Т.
Нетрудно видеть, однако, что на самом деле медленный рост kT
не только улучшает, но в чем-то и существенно ухудшает каче­
ство рассматриваемой оценки.
В самом деле, величина l/kT, как это видно из (2.275), харак­
теризует «ширину» спектрального окна, так что малым значе­
ниям kT отвечают широкие окна Ат (со). Ясно, что при широком
спектральном окне значение дисперсии оценки Ф{ТА) (со) (т. е.
среднего квадрата ее случайной ошибки) будет малым, но зато
большим будет ее смещение б (Ф^Л) (со)) = (Фт } (со)) — / (со) (си­
стематическая ошибка оценки) и плохой будет ее разрешающая
способность (т. е. возможность на основе использования данной
оценки различить два пика истинной спектральной плотности,
приходящиеся на близкие друг к другу частоты).* Поэтому
на практике приходится идти на компромисс между оценками
с малыми значениями kTi имеющими малую дисперсию, но сравни­
тельно большое смещение (и плохую разрешающую способность),
и оценками с большим kTy имеющими большую дисперсию, но
малое смещение.
Желая оценить зависимость смещения 6 (Ф^4*(со)) от параметра kT, нельзя
ограничиться лишь приближенной формулой (2.272а), на основании которой
мы выше пришли к выводу об асимптотической несмещенности Ф^Л)(со), а следует
вернуться к более точной формуле (2.272) для / ф ^ )(со)\. Если мы разложим
функцию / (со') в правой части (2.272) в ряд Тэйлора относительно точки со' = со
и воспользуемся также и формулой (2.275), то легко найдем, что если f (со) —
дважды дифференцируемая функция и
соМ (со) dco = 2L, где 0 < L < оо
(что, как нетрудно видеть, эквивалентно условию а (т) « 1 _ Lx2- при малых
значениях т), то при больших Т и kT
б (Ф{ТА) (со)) & L f (со) kj2.
(2.277)
Если, однако, I со2 Л (со) dco = оо или же
соМ (со) dco = 0 (последнее равен­
ство, разумеется, возможно лишь тогда, когда функция Л (со) принимает и отри­
цательные значения), то формула (2.277) уже оказывается неприменимой. В более
общем случае, когда а (т) « 1 — L \ т \я при малых | т |, где 0 < L < оо, афунк* Заметим, что в случаях, когда особенно важна именно разрешающая
способность оценки, иногда вообще используются совсем другие методы оцени­
вания функции / (со).120
200
Глава 2
ция /(со)—достаточно гладкая, асимптотическая формула для 6 (ф^ * (со))
принимает вид
б (Ф{ТА) (со)) ^ Шд (со) kjq,
(2.277а)
где Мд (со) определяется по спектральной плотности / (со) (в частности, если
q — целое четное число, то Мя (со) = /(<7)(со)).121 Обе формулы (2.277) и (2.277а)
подтверждают, что при уменьшении kT смещение 6 (Ф^ *(со)) увеличивается.
Разумеется, систематическая и случайная ошибки оценки иногда играют
разную роль, т. е. не являются равноценными; однако часто представляется
вполне разумным попытаться так подобрать kT, чтобы минимизировать суммар­
ный средний
квадрат
ошибки
А2 (Ф^ Л) (со)) = ([Ф^ Л ) (<*>)— f Ы]2) =
= б2 (Ф^Л)(со)) -\-D ( Ф ^ ( ю ) ) . Поступая таким образом, в случае справедли­
вости формулы (2.277) найдем, что kT ~ Т 1 / 5 , а А2 (Ф^Л)(со)) — Т~ 4/5 при боль­
ших значениях Г; если же имеет место соотношение (2.277а), то kT ~ fi/(^Q+l)t
А2 (Ф^ >)— f-2g/(2g+l)^ 122 Впрочем, на практике чаще всего вообще прихо­
дится иметь дело лишь с одним фиксированным заранее значением Т\ поэтому
асимптотические формулы для «оптимальной» зависимости kT и А 2 (Ф^ Л ) ) от Т
(коэффициенты которых, к тому же, сами зависят от неизвестной спектральной
плотности f (со) и ее производных) не очень полезны для приложений.
Если в нашем распоряжении имеется график функции Вт* (т),
то значение kT можно выбрать исходя из требования, чтобы умно­
жение Вт* (т) на ат (т) = a (xfkT) исключало все сомнительные
«колебания около нуля» на этом графике, но мало меняло бы плав­
ный ход функции Вт* (т) при малых т; однако необходимость
построения сначала графика функции В**(т) делает малоудобным
такой метод подбора kT.
Часто выдвигающееся требование, чтобы ширина спектраль­
ного окна Ат (со) имела тот же порядок, что и ширина самой узкой
из существенных деталей исследуемой спектральной плотности,
также не представляется достаточно широко применимым, так
как в большинстве случаев нет возможности заранее хотя бы
грубо оценить ширину самой узкой детали графика функции f (со).
Вообще единого мнения по поводу выбора значения kT при прак­
тических вычислениях спектральной, плотности не существует;
по-видимому, его и не может быть, так как нет единой «лучшей»
рекомендации, применимой во всех случаях.
В частности, Блэкман и Тьюки считают полезным выбирать kT
так, чтобы окно a (xlkT) оказывалось практически равным нулю
при всех т, превышающих некоторое «предельное значение»
Т0, лежащее в пределах от 5 до 10% длины Т используемой реа­
лизации; Парзен рекомендует вычислять ФТА) (со) при трех раз­
ных значениях kTj отвечающих трем разным значениям Т§\ TQ2)
18. Оценка спектральной плотности и спектральной функции
201
и 7о3) «точки обрезания» Т0 соответствующего корреляционного
окна ат (т) таким, что 0,05 < Т^/Т < 0,1, 0,1 < Т(02)/Т < 0,25
и TQS)/T Я^ 0,5, а затем из трех полученных графиков спектраль­
ной плотности «на глазок» выбрать тот, который кажется наиболее
правдоподобным; Дженкинс и Ватте советуют выполнить вычис­
ления при нескольких все увеличивающихся значениях kT и окон­
чательно остановиться на том из них, при котором дальнейшее
увеличение kT уже не изменит существенно формы получающейся
функции фгЛ) (со) (ср. ниже рис. 23 а, б).123 В действительности
же в этом вопросе никакие рецепты не являются универсальными
и только практический опыт позволяет научиться поступать ра­
зумным образом; стоит, однако, еще раз подчеркнуть, что выпол­
нение вычислений при нескольких разных значениях kT часто
оказывается практически целесообразным.
Рассмотрим теперь некоторые конкретные примеры применяе­
мых на практике окон Ат (со) и ат (т).На с. 77 уже были указаны
три примера окон ат (т) = a (xlkT)\ прямоугольное окно (см.
рис. 10 а), треугольное окно Бартлетта (см. рис. 10 б) и так на­
зываемое «окно Парзена» (см. рис. 10 в\ явная формула для этого
а (т) приведена в примечании52). Нетрудно проверить, что в при­
менении к случаю непрерывного t (т. е. к процессам X (t)) этим
трем корреляционным окнам отвечают спектральные окна вида
Ат (со) = kTA (^о)), где А (со) = sin со/ясо в случае прямоуголь­
ного корреляционного окна, А (со) = 2 sin2 (со/2)/ясо2 в случае
окна Бартлетта и А (со) = -g— ( s ^ n "T"| "f") в случае окна Парзена;
немного сложнее формулы для Ат (со) получаются, если X (t) —
стационарная последовательность (т. е. t дискретное).124
Все три упомянутых здесь корреляционных окна обращаются
в нуль при | т | > kT—последнее обстоятельство, как это будет
объяснено ниже,долгое время считалось существенно упрощающим
вычисления, но в настоящее время оно в значительной степени
потеряло свое былое значение. То, что спектральные окна Ат (со),
отвечающие корреляционным окнам Бартлетта и Парзена, ока­
зались строго неотрицательными, в то время как в случае прямо­
угольного окна а (т) функция А (со) принимает и отрицательные
значения, подтверждает отмеченный на с. 77 факт положитель­
ной определенности функций а (т), отвечающих корреляционным
окнам Бартлетта и Парзена (но не прямоугольному корреля­
ционному окну).
Еще два примера корреляционных окон вида ат (т) = a (tlkT)
было предложено Тьюки; для них
f (1 — 2а)-f 2аcosят при | т | < 1,
А(Т)=
Л
I
0
I . ,
при | т | > 1,
(2.278)
202
Глава 2
где а=0,25 (окно ханнинг), или же а=0,23 (окно хэмминг) (рис. 21).
Оба эти окна не являются строго положительно определенными, но
все отрицательные значения их преобразований Фурье А (со)
крайне малы по модулю.125 В имеющейся обширной литературе
по спектральному анализу стационарных случайных функций
можно найти также множество других примеров корреляционных
и спектральных окон, большинство из которых в этой книге
даже не будет упомянуто.126
Рис. 21.
Корреляционные окна Тьюки.
/ — «ханнинг», 2 — «хэмминг».
Вспомним, однако, упоминавшийся на с. 193 простейший
(и предложенный первым) метод получения состоятельной оценки
спектральной плотности /(со) с помощью осреднения периодограммы
по малому отрезку оси частот длины Ат = 2/kT (где Аг -> 0 и
ТАТ-+ оо, т. е. &г-> оо и kTIT-+0, при Г-> сю) с центром в точке со.
Этот метод, очевидно, сводится к использованию равного нулю
вне конечного интервала прямоугольного спектрального окна
Ат (со) = kTA (kT со), где А (со) изображено на рис. 22 а. Такое
А (со) часто называется с п е к т р а л ь н ы м о к н о м Д а ­
н и е л а (ср. примечание 117); отвечающее ему корреляционное
окно имеет вид ат (т) ^ а (т/&г)> где a(x) = sin т/т (и при непрерыв­
ном, и при дискретном t). Другие представляющиеся разумными
формы спектральных окон Ат (со) = kTA (&гсо), обращающихся
в нуль вне конечного интервала, это т р е у г о л ь н о е
спек­
т р а л ь н о е о к н о , для которого А (со) = max {1 — | со |, 0}
(рис. 226), и п а р а б о л и ч е с к о е
спектрально е
о к н о , для которого А (со) == max {3 (1 — to2)/4, 0} (рис. 22в).
Все три спектральных окна, изображенных на рис. 22, являются
строго неотрицательными; поэтому отвечающая им оценка Ф{т } (со)
функции / (со) также всегда будет неотрицательной, а оценка
18. Оценка спектральной плотности и спектральной функции
203
Вта) (т) = ат (т) Вт* (х) корреляционной
функции — положи­
тельно определенной. Эти простые спектральные окна удобны
для расчета оценок ФтЛ) (со) при помощи алгоритма быстрого
преобразования Фурье (БПФ), о котором будет идти речь немного
ниже; поэтому в последнее время они привлекают довольно много
внимания.127
Рис. 22.
Простейшие спектральные окна.
прямоугольное (окно Даниела), б — треугольное, в — параболическое.
В последние годы оживился также интерес к принимающим и отрицательные
оо
значения спектральным окнам А (со) таким, что
со Л (со) dco = 0 для не— оо
скольких первых значений k — 1, 2, ..., /я — 1. Нетрудно проверить, что в этом
случае q = 2m в равенстве (2.277а); поэтому здесь смещение оценки ФТА^ (со)
заметно быстрее убывает с ростом &г, чем в случае строго неотрицательных
окон А (со), и, следовательно, при достаточно больших значениях Т и смещение
6 (Ф^ чсо)), и средний квадрат ошибки Д2(Ф^4)(со)) могут быть значительно
уменьшены по сравнению с их наименьшими значениями при условии, что
Глава 2
204
А (со) > 0 при всех со. С другой стороны, даже если А (со) и принимает отри­
цательные значения, то все равно при больших значениях Т, когда значения
Aj (со) существенно отличаются от нуля лишь в очень малой окрестности точки
со = 0, вероятность получить отрицательное значение Ф^(со) будет крайне
малой, если только истинная спектральная плотность f (со) не является уж очень
изрезанной (если же, тем не менее, окажется, чтоФ^(со) < 0 при каких-то зна­
чениях со, то соответствующие'значения Ф^ '(со) следует просто заменить нулем).
Таким образом, использованиеJOKOH А (си), не являющихся строго неотрица­
тельными, при достаточно больших значениях Т представляется вполне оправ­
данным, хотя пока еще трудно точно указать, какие именно значения Т должны
здесь считаться достаточно большими.128
Говоря о методах уменьшения смещения оценок спектральной плотности,
следует сказать и об еще одном методе, в последнее время получившем довольно
большое распространение. Этот метод опирается уже не на использование каких-то
специальных спектральных окон, а на модификацию самой периодограммы
с помощью предварительного н е р а в н о м е р н о г о
взвешивания
(иначе, з а о с т р е н и я ) реализации х (t), т. е. замены значений х (/) на х^ (/) =
= hT (t) х (t), где hT(t) — зависящая от Т заранее выбранная неслучайная
функция, нормированная так, чтобы выполнялось условие
т
т
У h\ (t) = Т или J h2 (t) dt = Т,
(2.279)
t=\
и называемая в р е м е н н ы м о к н о м или о к н о м в ы б о р к и . Ясно,
что рассмотрение лишь ограниченного отрезка реализации х (t) при t = 1, ..., Т
или 0 < t <. Т эквивалентно использованию специального временного окна,
а именно — прямоугольного окна, равного единице на этом отрезке и нулю вне
его. Применение неравномерного взвешивания (заострения) означает, что выби­
рается иная функция hT (t), постепенно убывающая от середины к краям име­
ющегося отрезка реализации. Обозначим теперь символом /^(со) периодограмму
заостренной случайной функции Х^ (t) = hT (t) X (t); тогда, аналогично
выводу обычных формул (2.263) и (2.263а), для (1? (со)) может быть получено
соотношение129
Л
Л)
(2.280)
<4 )(©)> = | 4 ( ® - о ) / ( о ) л о ' ,
где
ЛЬ)
крм-щ4Л) м -
-i(ut h {t)
T
„— icot
2лТ
hT (t) dt
(2.281)
(2.281a)
Если форма временного окна hT (t) не меняется с изменением Т (например,
hT(t) = h (t/T)), то/С^^со -> б (со)) при Т -> оо; существенно, однако, что при
сравнительно больших, но конечных, значениях Т весовая функция Кт *(со),
отвечающая окну hT (t), плавно убывающему от середины отрезка реализации
к его краям, обычно быстрее убывает по обе стороны от точки со = 0,
18. Оценка спектральной плотности и спектральной функции
205
чем весовая функция в формулах (2.263) и (2.263а), относящихся к случаю рав­
номерного взвешивания. В качестве типичного примера достаточно рассмотреть
случай биномиального временного окна вида
hT (t) = LrC^,
t = 1, 2, . . . , 7,
(2.282)
где LT = [Т\ (Т — 1)!/(27 — 2)! ] 1 / 2 — нормирующий множитель, а С4—1
T-V
биномиальные коэффициенты. В этом случае, как нетрудно показать,
г2
«РМ—ЕГ
( 2 С 0 8 -^) 2 ( Г " 1 ) -
(2'283)
Функция (2.283) стремится к б (со) при Т -> оо, причем все ее значения
в точках со =/= 0 экспоненциального убывают, когда Т растет, в то время как
боковые максимумы функции /<у}(со) = sin^—^—/2яГ sin^ —^- формулы (2.263а)
убывают при возрастании Т только как Т'1. Поэтому ясно, что при больших,
но конечных значениях Т смещение \ / ^ (со)/ — / (со) будет гораздо меньшим,
чем
(1Т
(СО)) — / ( С О ) .
Нетрудно показать, что модифицированная периодограмма ITh>> (со) также не
является состоятельной оценкой спектральной плотности и ее дисперсия стре­
мится при Г - > о о к тому же пределу, что и дисперсия обычной (немодифицированной) периодограммы (см. примечание х ? 9 ). Состоятельную оценку можно
получить, осреднив периодограмму 1ТН^ (со) по небольшой частотной области,
т. е., подставив ее вместо If (со) в правую часть формулы (2.267). При этом,
однако, мы в какой-то мере теряем основное преимущество модифицированной
периодограммы, так как создаем значительное дополнительное смещение, свя­
занное с отличием правой части формулы (2.272) от / (со). Но, как мы уже знаем
(см. с. 193), для получения состоятельной оценки можно поступить и иначе:
разбить реализацию заданной длины Т на большое число п непересекающихся
(или, что часто оказывается более выгодным, частично пересекающихся) частей
длины Тъ подсчитать периодограмму для каждой из этих частей и далее осреднить все полученные периодограммы. При таком подходе смещение получаемой
оценки Ф^(со) будет точно совпадать с общим смещением периодограммы каждой
из частей и, следовательно, здесь уже использование удачно подобранного вре­
менного окна Нт (t) бесспорно будет очень полезным.130
Отвлечемся теперь от вопроса об использовании переменных временных
окон hr (t) и будем для простоты снова рассматривать лишь обычные периодо­
граммы 1Т (со) и построенные по ним оценки Ф^(со). Ряд относящихся к этим
оценкам работ посвящен обсуждению вопроса об оптимальной форме спектраль­
ного (или корреляционного) окна оценки.131 При этом различные авторы исполь­
зовали разные «критерии оптимальности» исследуемой оценки; поэтому неуди­
вительно, что и их выводы оказались кое в чем расходящимися друг с другом.
Существенно, однако, что и теоретические рассуждения, и практические расчеты
показывают, что оценки Ф^Л)(со), отвечающие различным разумным формам
окна Ат (со) или ат (т) (например, окну Парзена, двум окнам Тьюки и трем спек­
тральным окнам, изображенным на рис. 22) при близкой «ширине» используемого
окна обычно оказываются достаточно близкими друг к другу (см., например,
рис. 24); поэтому при реальных расчетах спектральных плотностей форму окна
обычно можно выбирать исходя в первую очередь из соображений удобства
вычислений. Большое внимание в литературе по прикладному спектральному
206
Глава 2
анализу уделяется также вопросу о распределениях вероятностей оценок
Ф^(со), важному для построения доверительных интервалов для оцениваемой
спектральной плотности (ср. с. 64), но мы на ^том вопросе задерживаться не
будем. 13?
Перейдем теперь к краткому обзору различных практических
методов нахождения спектральных плотностей. Основные исполь­
зуемые в настоящее время для этой цели приемы можно условно
разбить на четыре широкие категории.
1. Аналоговые методы обработки непрерывных сигналов на
спектральных анализаторах. Об этих методах приближенного
определения функции / (со) по одной реализации х (t) стационар­
ного случайного процессах (/) мы говорили на с. 145—146. Здесь для
нахождения спектральной плотности сигнал х (t) (реализуемый
в виде флуктуирующего электрического напряжения) пропу­
скается через узкополосный линейный фильтр, после чего сигнал
с выхода фильтра возводится в квадрат и этот квадрат осредняется
по времени. Среднее по времени значение квадрата тока на выходе
фильтра и принимается за оценку значения / (со) спектральной
плотности процесса X (t) в точке со, совпадающей с центром по­
лосы пропускания используемого фильтра.
Возведение тока с выхода фильтра в квадрат и осреднение
этого квадрата по времени обычно осуществляется автоматически
аналоговыми вычислительными устройствами, входящими в со­
став спектрального анализатора. Типичный анализатор спектра
включает ряд узкополосных линейных фильтров (ячеек анализа­
тора) с разными полосами пропускания, позволяющих сразу по­
лучить ряд значений / (со,-). Совокупность таких значений / (со,)
и дает представление о всей непрерывной функции частоты / (со).
Данные, полученные с помощью аналоговых спектральных ана­
лизаторов, широко используются в разнообразных прикладных
областях; описанию различных систем таких анализаторов по­
священа обширная специальная литература.133 Оценка значе­
ния / (со), доставляемая показанием спектрального анализатора,
во многом родственна величине ц>т ) (to); поэтому исследование
систематической и случайной ошибок (т. е. смещения и диспер­
сии) этой оценки проводится аналогично исследованию смещения
и дисперсии оценок Ф{ТА) (со), о котором говорилось выше.134
В последнее время в связи с широким развитием методов циф­
ровой обработки данных на ЭВМ довольно часто вместо аналоговой
фильтрации сигналов х (t) используется их цифровая фильтрация,
т. е. сигнал х (t) преобразуется в цифровую запись и затем над
ним численно проделываются все операции, осуществляемые над
электрическими колебаниями х (t) аналоговым спектральным ана­
лизатором. Описание ряда методов оценки спектральной плотно­
сти с помощью цифровой фильтрации можно найти в книгах, ука-
18. Оценка спектральной плотности и спектральной функции
207
занных в примечании 133 (см. также литературу о цифровых филь­
трах, перечисленную в примечании 106); здесь, однако, мы на них не
будем задерживаться, а сразу перейдем к другим методам оценки
спектральной плотности с помощью ЭВМ, родственным методам
цифровой фильтрации, но получившим значительно большее рас­
пространение.
Отметим еще, что достигнутое в последние годы существенное
удешевление и уменьшение размеров существующих ЭВМ, совпав­
шее во времени с широким внедрением в практику значительно
более удобных ускоренных методов расчета преобразований
Фурье, сделало возможным появление совсем новых систем на­
стольных ц и ф р о в ы х с п е к т р а л ь н ы х
анализа­
т о р о в . Эти приборы включают, во-первых, специальный пре­
образователь сигнал-код, переводящий подаваемый на вход ана­
логовый сигнал х (t) в запись на магнитную ленту совокупности
чисел хА (t) = х (/А), < = 1, 2, ..., где А — заданный достаточно
малый интервал времени, и, во-вторых, портативную ЭВМ с фик­
сированной программой, автоматически подсчитывающую значе­
ния сглаженной периодограммы ц>тЛ) (со) последовательности хА (/),
где форма спектрального окна А (со) обычно также заранее фикси­
рована, но ширина окна (т. е. значение kT) может варьироваться.
Цифровые спектральные анализаторы могут быть внешне очень
похожими на настольные аналоговые анализаторы старого типа,
использующие набор электрических фильтров, но по существу
они представляют собой лишь иную инженерную реализацию
цифровых методов оценки спектральной плотности, относящихся
к рассматриваемой ниже третьей категории практических приемов
приближенного определения значений функции /(со).
2. Числовые методы определения значений ф ( / } (со) по значе­
ниям оценки корреляционной функции (первоначальный вариант).
В связи с огромным распространением начиная с конца 40-х гг.
этою столетия универсальных быстродействующих цифровых
ЭВМ очень широкое развитие получили в последние десятилетия
методы численного определения значений спектральной плотно­
сти на ЭВМ. К настоящему времени эти методы явно оттеснили
на второй план методы нахождения спектральной плотности с по­
мощью аналоговых спектральных анализаторов (хотя и не вытес­
нили совсем аналоговые методы обработки, имеющие свои важные
преимущества, делающие их в ряде случаев незаменимыми).
Мы уже указывали, что оценку значений f (со) можно полу­
чить, заставив ЭВМ произвести над цифровой записью сигнала
х (t) все те операции, которые аналоговый спектральный анали­
затор производит над электрическими колебаниями х (f). Ясно,
однако, что при использовании ЭВМ нет нужды копировать на
них аналоговые методы; более целесообразной здесь представ-
208
Глава 2
ляется попытка разработать иные приемы обработки, специально
приспособленные для цифровых вычислительных машин. Из
числа таких специальных методов цифровой обработки сигналов
в течение длительного времени считался основным и шире всего
применялся на практике метод, опирающийся на вычисление
значений сглаженной периодограммы утА) (со) с помощью фор­
мулы (2.270а), представляющей ц>т ) (со) в виде дискретного
преобразования Фурье оценки Вта)(х)=^ат(г) Вт*(т) корреляционной
функции В (т). При этом применение именно формулы (2.270а), а не
формулы (2.267а), диктовалось чисто практическими, но с точки
зрения практики очень важными соображениями.
Дело в том, что обычные методы вычисления преобразования
Фурье ряда из Т чисел при большом Т оказывались даже для
ЭВМ крайне трудоемкими, причем количество требующихся эле­
ментарных арифметических операций (а, следовательно, и время,
затрачиваемое ЭВМ на вычисление) с ростом Т росло приблизи­
тельно как Т2. Вычисление же оценки ВТ (т) корреляционной
функции представлялось гораздо более простой и быстрой опе­
рацией; кроме того, при использовании формулы (2.270а), где
ат (т) = 0 при | т | > kT, значения ВТ (т) также надо было опре­
делять лишь для т = 0, 1, ..., kT — 1, где kT <^ Т (например,
kT = 0,IT или kT = 0,05т). Далее требовалось только еще най­
ти дискретное преобразование Фурье сравнительно короткого
ряда Вта) (0), Вта) (1), ...', Вта) (kT — 1), состоящего лишь из kT
чисел. Тем самым суммарное время расчета значений утА) (со)
на ЭВМ сокращалось (по сравнению с процедурой, основанной
на использовании формулы (2.267а)) в сто (или даже в несколь­
ко сот) раз; применение же формулы (2.267а) в случае длин­
ных рядов наблюдений часто требовало затраты сотен часов
машинного времени. Неудивительно поэтому, что еще сравни­
тельно недавно спектральные окна Ат (со), преобразование Фурье
которых не обращалось в тождественный нуль за пределами не­
которого интервала (например, окно Даниела, изображенное на
рис. 22 а и предложенное раньше всех других окон), принято
было считать представляющими определенный интерес для тео­
рии, но практически совершенно бесполезными.
Описанный здесь метод построения оценок спектральной
плотности в течение 50-х и начала 60-х гг. этого столетия опре­
деленно считался самым лучшим численным методом. Одним из
его важных преимуществ перед методом нахождения значений / (со)
с помощью аналоговых спектральных анализаторов является то,
что на ЭВМ можно параллельно производить вычисления при
нескольких различных значениях kT, в то время как ширина
полосы пропускания отдельных фильтров аналогового анализа­
тора, играющая ту же роль, что и параметр kT, всегда бывает
18. Оценка спектральной плотности и спектральной функции
209
заранее фиксирована (например, равна 0,5 или 0,33 октавы).
Два конкретных примера вычисления значений ц{тА) (со) с по­
мощью второй (2.270а) представлены на рис. 23. Рису­
нок 23 а относится к искусственному ряду х (/), / = 1 , 2 , . . . , 400,
f(W).(ft\(D)
0,4п = а>/2пГц
0,50 п=(1)/2%Гц,
Рис. 23.
а — Истинная
спектральная плотность f (ю) искусственной стационарной
(Л)
последовательности X {t) (/) (по [78]) и оценки ф^ (о)) (Т = 400) этой спек­
тральной плотности, построенные с использованием корреляционного окна
Парзена при kT = 16 (2), kT = 32 (3) и kj = 48 (4) (по [78]).
(Л)
б — Сглаженные периодограммы ф^ (со) ряда Бевериджа, построенные с ис­
пользованием корреляционного окна «ханнинг» при kj — 30 (/), kj = 20 (2)
и kT=
10 (3) (по [9]).
представляющему собой реализацию стационарной последова­
тельности X (f) с известной спектральной плотностью / (со) (также
изображенной на рисунке). Мы видим, что с увеличением значе­
ния kT (т. е. с уменьшением ширины полосы частот, по которой
производится осреднение) оценка Ц){ТА) (со) становится все более
нерегулярной функцией частоты, но в среднем она при этом все
более приближается к истинным значениям / (со). В частности,
значения фг4) (со) при kT = 32 и kT = 48 (но не при kT = 16)
уже выявляют наличие пика спектральной плотности на частоте
/ г ^ 0 , 1 2 5 Гц; однако и ширина, и высота этого пика в обоих
210
Глава 2
случаях оказываются ааметно заниженными.* На рис. 23 б
изображены значения фгЛ) (со) для ряда Бевериджа (см. рис. 2 д)\
здесь изменение ф^ ) (со) с частотой оказывается весьма плавным
(в отличие от поведения периодограммы iT (со) на рис. 19 а),
причем при переходе от значения kT = 20 к kT = 30 оценка утА) (со)
меняется лишь незначительно.
Метод определения значений фг4) (со) на основе применения
формулы (2.270а) сохранил большое практическое значение
вплоть до настоящего времени. Однако сейчас, если длина Т
выборки очень велика, то наиболее важной должна считаться
модифицированная реализация этого метода, о которой будет
сказано немного ниже.
3. Методы определения значений ут ) (со) с помощью сглажива­
ния периодограммы, основанные на алгоритме быстрого преобра­
зования Фурье. Кардинальные изменения в оценке практической
значимости различных методов приближенного определения спек­
тральной плотности произошли во второй половине 60-х гг.,
после того как значительное распространение получил так назы­
ваемый метод быстрого преобразования Фурье (БПФ).
Метод БПФ представляет собой специальный алгоритм (точ­
нее говоря, даже целую группу родственных друг другу алгорит­
мов) для вычисления дискретного преобразования Фурье ряда из Т
(вообще говоря, комплексных) чисел при помощи приблизи­
тельно 27 log2 Т элементарных арифметических операций (вместо
примерно Т2 операций, требующихся, как считали раньше почти
все специалисты, для выполнения этой задачи). Когда в 1965 г.
Кули и Тьюки опубликовали небольшую заметку, посвященную
указанному алгоритму, он был почти всеми воспринят как нечто
совершенно новое; позже, однако, выяснилось, что аналогичный
метод вычисления преобразований Фурье был предложен (но не
привлек никакого внимания и почти сразу же был забыт) еще
в 1942 г., причем в основу его тогда были положены некоторые
результаты, относящиеся вообще к самому началу настоящего
столетия.135
Легко понять, что при Т = 1000 метод БПФ приводит к сокра­
щению машинного времени, требуемого для выполнения на ЭВМ
дискретного преобразования Фурье, примерно в 50 раз, причем
при дальнейшем росте Т эта разница продолжает крайне быстро
увеличиваться. Описание алгоритмов БПФ в настоящее время
можно найти во многих литературных источниках.136
* Последнее обстоятельство может объясняться недостаточностью длины
выборки Т = 400, но может быть связанным и с неудачным выбором «псевдо­
случайных
чисел», использовавшихся для построения значений х (t) (ср. при­
мечание60).
18. Оценка спектральной плотности и спектральной функции
211
Естественно, что появление метода БПФ резко изменило все
положение дел в области прикладного спектрального анализа.
С помощью этого метода вычисление периодограммы ir (оо) даже
в случае очень большого Т может быть без труда осуществлено
на ЭВМ — требуемое для этого машинное время часто оказывается
даже заметно меньшим, чем то, которое требуется
для
вычисления оценки Вт* (т) корреляционной функции В (т).
После того как значения iT (со') рассчитаны для ряда равноотстоя­
щих дискретных значений со' (скажем для значений со^ = nk/T,
k = 0, 1, ..., Т—1), нетрудно применить и формулу (2.267а),
осреднив полученные значения iT (оо^) по ряду частот щ с весами,
задаваемыми спектральным окном Ат (со — со').
Легче всего произвести самое простое среднеарифметическое
осреднение по группе соседних значений соь что эквивалентно
использованию прямоугольного спектрального окна Даниела
(вдруг оказавшегося, таким образом, практически очень удобным;
в частности, именно так были получены две довольно близкие
друг к другу оценки спектральной плотности ряда средних годо­
вых температур в Базеле (см. рис. 19 б), отличающиеся шириной
используемого спектрального окна, т. е. значением kT, Привле­
кая алгоритмы БПФ и комбинируя метод осреднения периодо­
граммы по частоте с методом осреднения периодограмм, построен­
ных по отдельным участкам реализации (см. с. 191, 193), удается
успешно оценивать значения спектральной плотности в очень
широком интервале частот, используя, если надо, до нескольких
миллионов отдельных значений х (/).137
На рис. 24 в качестве примера одновременно представлены
оценки <ртА) (ю) спектральной плотности / (со), полученные для
1024 членов искусственного ряда х (t) (с известной спектральной
плотностью / (со)) как с помощью формулы (2.270а) по непосред­
ственно вычисленным оценкам Вт* (о>), так и с помощью формулы
(2.267а) по значениям периодограммы iT (со) (определенным с по­
мощью метода БПФ). Значения kT во всех случаях подбирались
так, чтобы соответствующие окна Ат (оо) по ширине мало отли­
чались. Мы видим, что точность оценок того и другого типа оказы­
вается вполне сопоставимой, но в среднем оценки, получаемые
осреднением периодограммы, пожалуй все же несколько превосхо­
дят по качеству оценки, найденные по значениям Вт* (т). В то же
время машинное время, затраченное на расчет оценок по формуле
(2.267а), в данном случае было заметно меньшим, чем то, которое
пришлось затратить при использовании формулы (2.270а). По­
этому при Т > 1000 использование формулы (2.270а) в настоящее
время может считаться оправданным лишь при условии, что
соответствующие расчеты ведутся на базе широкого применения
алгоритма БПФ.
212
Глава 2
За. Использование метода БПФ для построения оценок корре­
ляционной функции. Современные методы нахождения значений
ФгЛ) (о)) по значениям В*Т* (со) (модифицированная процедура
с использованием метода БПФ). Изложенные выше обстоятель­
ства, связанные с развитием метода БПФ, существенно повлияли
f«D), (f(TA\(J0)
Рис. 24.
Истинная спектральная плотность / (со) искусственной стационарной последователь(Л)
ности X (/) (/) и оценки ср^ (со) (Т = 1024) этой плотности, построенные И. А. Кожев­
никовой (МГУ) с помощью осреднения периодограммы по параболическому (2) и прямо­
угольному (3) спектральным окнам и с помощью применения преобразования Фурье
к величинам a {x/kj) Bj (х) для корреляционного окна «ханнинг» (4) и окна Парзена (5).
также и на современное состояние вопроса об оценивании зна­
чений корреляционной функции В (т). Как мы уже отмечали выше,
вычисление значений периодограммы iT (со) в настоящее время
в ряде случаев оказывается более простой задачей, чем прямое
вычисление значений Вт* (со) по формулам (1.75) или (1.75а).
Поэтому даже в тех случаях, когда основной интерес представ­
ляют именно оценки корреляционной функции В (т), часто ока­
зывается целесообразным сначала с помощью метода БПФ вычис­
лить значения iT (со), а затем использовать эти значения для
18. Оценка спектральной плотности и спектральной функции •
213
нахождения оценок Вт* (т) с помощью обращения формулы
(2.260а) (чего очень легко добиться, еще раз применив метод
БПФ).138
Простота выполнения дискретного преобразования Фурье на
ЭВМ с помощью метода БПФ делает практически целесообразным
переход к преобразованиям Фурье каждый раз, когда надо вы­
числить свертку (конволюцию) двух достаточно длинных рядов
чисел (см., в частности, литературу, указанную в примечании 138 ).
Последнее замечание может быть, в частности, применено и
к формуле (2.267а) для сглаженной периодограммы <ртА) (со), пра­
вая часть которой фактически представляет собой свертку функций
iT (со) И АТ (СО). Результат оказывается в чем-то неожиданным:
применив преобразование Фурье к правой части (2.267а), а затем
обратное преобразование Фурье к получающимся при этом зна­
чениям, мы снова приходим к знакомой нам записи (2.270а) оценки
УтЛ) (со) в виде преобразования Фурье ряда чисел В{та) (со) =
= ат (т) Вт* (т), по поводу которой говорилось, что она играла
основную роль при оценивании спектральной плотности до появ­
ления метода БПФ именно в связи с тем, что непосредственное
вычисление периодограммы при больших значениях Т тогда
представлялось практически неосуществимым. Мы видим, таким
образом, что определение значений ф^Л) (со) с помощью формулы
(2.270а) по значениям оценки Вт* (т) корреляционной функции
в случае очень больших значений Т и в настоящее время (в эпоху
БПФ) может оказаться практически целесообразным, если только
в ходе вычислений метод БПФ будет применен трижды: первый
раз для нахождения преобразования Фурье значений х (t), t =
= 1, ..., Т, нормированный квадрат модуля которого определяет
периодограмму iT (со), второй раз для получения преобразования
Фурье Вт* (т) ряда значений iT (со), а третий —для получения
значений ср^4* (со) с помощью преобразования Фурье ряда чисел
В^ (т) = ат (т) Вт* (т). Отметим, впрочем, что такой метод,
выгодный лишь при очень больших Г, до сих пор на практике
значительного распространения не получил.
4. Параметрические методы оценивания спектральной плот­
ности. Вспомним пример эмпирического определения спектраль­
ной плотности флуктуации радиолокационного сигнала, резуль­
таты которого представлены на рис. 13. В данном примере, отно­
сящемся к 40-м гг. настоящего столетия, не использовался ни
один из описанных выше методов нахождения значений / (со).
Вместо этого здесь было использовано то, что оценивание соответ­
ствующей корреляционной функции В (т) привело к кривой, на­
поминающей, при относительно небольших значениях |т|, зату­
хающую косинусоиду Се'а'х! cos щ%. В связи с этим исследова­
телями были просто подобраны значения параметров а и со0,
214
Глава 2
при которых функция e-°Mxl cos са0т оказалась при небольших | т |
неплохо приближающей эмпирические значения R'TN (Т) =
^= BJN (T)/BTN (0) (см. рис. 12), после чего неизвестные значе­
ния / (о))/В (0) были приравнены значениям преобразования
Фурье такой функции е~а' т ' cos о>0т,
Аналогичный пример изображен и на рис. 14, где также по­
казана аппроксимация эмпирических значений RTN Ы простой
комбинацией элементарных функций, позволяющей легко полу­
чить явную формулу для соответствующего преобразования
Фурье / (оо). Вообще метод приближенного определения значе­
ний / (оо) С ПОМОЩЬЮ аппроксимации эмпирических значений кор­
реляционной функции простыми аналитическими формулами, па­
раметры которых находятся с помощью «подгонки», довольно
широко применялся на первом этапе развития приложений тео­
рии стационарных случайных функций к реальным временным
рядам.
Недостатки этого метода сразу бросаются в глаза: он пред­
ставляется весьма громоздким, довольно субъективным и на
первый взгляд кажется мало приспособленным для реализации на
ЭВМ. С другой стороны, однако, получаемые таким образом спек­
тральные плотности обычно оказываются разумно выглядящими
довольно плавными и гладкими функциями частоты, не содер­
жащими множества противоестественных «пиков» и «провалов».
Еще важнее, пожалуй, то, что получаемые здесь функции / (со)
описываются несложными аналитическими формулами (обычно
имеющими вид рациональных функций оо или еш)\ последнее
обстоятельство очень облегчает их использование в тех, довольно
частых, случаях, когда значения/ (оо) нужны ДЛЯ решения каких-то
конкретных статистических задач, касающихся случайной функ­
ции X (t) (например, задачи наилучшего линейного прогноза
будущих значений этой функции или задачи об ее оптимальном
сглаживании, позволяющем исключить влияние ошибок наблю­
дения; см. в этой связи примечания 81 и и о ) .
Аппроксимация эмпирических значений корреляционных функ­
ций (или, что то же самое, спектральных плотностей) неслож­
ными аналитическими формулами может быть осуществлена, в част­
ности, с помощью специализированных аналоговых приборов
(«аппроксимационных коррелометров» или «коррелометров с ап­
проксимацией»; см. примечание 48 ). Еще больший интерес для
практики, однако, представляет разработка вычислительных мето­
дов реализации такого рода аппроксимации (для случая дискрет­
ного t) на универсальных цифровых ЭВМ. В этом направлении
з последние годы было проведено много исследований, показав­
ших, что первое впечатление здесь оказывается ошибочным,
а на самом деле указанная задача вовсе не так уж сложна. Ра­
зумеется, успех при таком подходе (как, впрочем, и при любом
18. Оценка спектральной плотности и спектральной функции
215
другом методе приближенного определения значений / (оо)) суще­
ственно зависит от истинной формы аппроксимируемой спек­
тральной плотности; большую роль, однако, играет и удачный
выбор класса зависящих от конечного числа параметров с1у ..., см
функций / (со; съ ..., см) или В (т; сп ..., см), из числа которых
выбирается приближенное значение интересующей нас функции
/ (со) или В (т).
Наиболее удобен для рассматриваемой здесь цели, по-види­
мому, класс спектральных плотностей вида (2.254), т. е. функций
/N =
2л|1+а1е-^ + -"+Ят£Г''"ш|2
ко + ^~1СО + - - - + ^ - 1 ' т с о | 2 '
(2.254а)
отвечающих модели стационарной последовательности авторегрес­
сии т-го порядка (см. с. 85 и 182 ). При использовании этого
класса аппроксимирующих функций задача исследователя со­
стоит в нахождении достаточно удовлетворительных оценок пара­
метров с2, аъ ..., ат (или, что то же самое, c0t съ ..., ст) функции
(2.254а) по значениям х (t), t = 1, ..., Г, конечного отрезка одной
реализации последовательности X (t). Получаемые таким образом
оценки значений / (со) вида (2.254а) называются а в т о р е г р е с ­
сионными
оценками
спектральной
плот­
ности.
Для нахождения оценок значений параметров аъ ..., атможно,
например, воспользоваться тем, что в случае процесса авто­
регрессии т-го порядка корреляционная последовательность
В (т), т = 0, + 1 , +2, ..^удовлетворяет уравнениям Юла—Уокера
(2.16)—(2.16а). Решив систему уравнений (2.16) с k = 1,2, ..., m
относительно неизвестных аъ #2, ..., ат при условии, что неиз­
вестные нам величины В (0), В (1),..., В (т) в левых частях (2.16)
заменены соответствующими оценками Bp(0), ВТ*(1), ..., ВТ* (т),
мы получим решения ах = а*и ..., ат = а*ту зависящие от значений ВТ (0), ВТ* (1), ..., ВТ* (т) (т. е. в конечном счете от х (1), ...,
х (Г)). Эти решения и представляют собой оценки коэффициен­
тов аъ ..., ат, обладающие (при достаточно большом Т) хоро­
шими статистическими свойствами.139 После этого, подставив
значения а* коэффициентов а1 в уравнение (2.16а), где В (т)
снова заменяются на В-ГОО, мы найдем также и оценку с*2 пара­
метра с2 формулы (2.254а).
В обширной литературе, посвященной авторегрессионным
оценкам спектральной плотности, можно найти и другие практи­
чески удобные рекомендации, касающиеся оценивания неизвестных
параметров в формуле (2.254а) по значениям х (1), ..., х (7),
216
Глава 2
причем некоторые из них не требуют даже предварительного
расчета оценок В г* (т) значений В (т). Подставив далее в пра­
вую часть (2.254а) в качестве параметров с2, %,..., ат (или с0,
с19 ..., ст) значения их оценок, построенных по х (1), ..., х (Т),
мы как раз и получим авторегрессионную оценку / (со) (которую
мы будем обозначать символом <prR (со))140. Что касается значения
параметра т , от которого зависит оценка q>TR (со), то он здесь
(AR)
играет роль, аналогичную
М,
Щ
роли
параметра kT в форму­
О
лах (2.275) и (2.275а): его
\\
целесообразно выбрать^сначала небольшим, а затем по­
следовательно увеличивать
~8,42
до тех пор, пока мы не убе­
димся, что дальнейшее воз­
растание m уже мало меняет
~12,63
форму функции <р£я (со). Су­
ществуют
также методы, по­
-16,84
зволяющие заранее теорети­
чески оценить оптимальное
-21,0b
значение m (см. снова при­
140'
мечание
-25,26
Имеющийся опыт исполь­
зования авторегрессионных
оценок показывает, что их
-29А7
12п=(о/2кГц смещение и дисперсия обыч­
но имеют тот же порядок,
Рис. 25.
что и смещение и дисперсия
Оценки спектральной плотности электро­
энцефалограммы новорожденного мла­
соответствующих
оценок
денца (по [279]).
ф^> (со); этот вывод согла­
/ — ф^ '(со) (порядок m = 6 был выбран
суется и с результатами тео­
исходя из результатов применения к име­
ющимся данным специального «критерия
ретического
исследования
Акайке»);
(Л)
статистических свойств оце­
2 — Ф^ (w). отвечающее корреляционному
нок <prR (СО).141 С точки зре­
окну Парзена при разумном значении kj.
ния затрат машинного време­
ни при использовании ЭВМ
AR
оценки ц>тк (со) также никак не уступают оценкам типа фгЛ) (со).
Отметим еще, что авторегрессионные оценки ф ^ (со) обычно имеют
разумную форму (хоть и являются, разумеется, очень неточными)
даже в случае очень коротких выборок (т. е. малых значений Т)
и что они во многих случаях имеют лучшую разрешающую спо­
собность (т. е. лучше разделяют близкие по частоте пики спек­
тральной плотности), чем сглаженные периодограммы <р(тА) (со).
Неудивительно поэтому, что к настоящему времени число при-
18. Оценка спектральной плотности и спектральной функций
217
кладных работ, использующих авторегрессионные оценки ф г н (со),
значительно превышает сотню, причем число это все время воз­
растает.142 В качестве иллюстрации на рис. 25 приведен один при­
мер сопоставления оценки ср^* (со) с более обычной оценкой типа
фгЛ) (со); многочисленные дополнительные примеры того же типа
могут быть найдены в литературе, указанной в примечаниях 140 и142.
Класс функций вида (2.254а), разумеется, не исчерпывает
еще всех параметрических семейств неотрицательных функций
/ (со; съ ..., см), пригодных в качестве возможных аппрокси­
маций значений спектральной плотности / (со). Следующим
по важности (и по сложности) после класса функций (2.254а)
будет, по-видимому, класс рациональных функций вила (2.257),
где можно, например, считать, что степени пит
многочленов
в числителе и знаменателе заранее выбраны, М = п + т + 1,
а неизвестными параметрами сх, ..., см являются коэффициенты
#!, ..., ат, Ь0, ..., Ьп. В таком случае задача будет состоять в том,
чтобы по значениям х (t), t = 1, ..., Г, оценить значения а19 ..., ат,
Ь0, ..., Ьп (т. е. найти какие-то оценки а\, ..., а*т% Ъ1, ..., Ьп этих
коэффициентов, зависящие от х (1), ..., х (Т) и обладающие при
большом Т хорошими статистическими свойствами). Последней
задаче посвящен целый ряд специальных работ.143 После того как
оценки #*, ..., a*m> bo, ..., Ьп найдены, их можно подставить в фор­
мулу (2.257); при этом мы придем к параметрической оценке спек­
тральной плотности / (со) более общей, чем оценка фг^ (со).144
В приложении к стационарным процессам X (t) с непрерывным
временем такой подход охватывает, в частности, и примеры, к
которым относятся рис. 12, 13 и 14, где аппроксимирующая эмпи­
рическую корреляционную функцию/?^ (т) аналитическая функ­
ция выбиралась из числа функций, имеющих рациональное пре­
образование Фурье. Возможны также и другие выборы класса
функций /(со; с0, ..., см), используемых для параметрической
оценки спектральной плотности / (со); на них, однако, мы не будем
задерживаться.
До сих пор мы говорили лишь об оценках спектральной плот­
ности / (со), совершенно не касаясь вопроса об оценке спектраль­
ной функции F (со). Такое распределение материала имеет веские
основания: дело в том, что в большинстве прикладных исследова­
ний спектральная функция вообще не упоминается, а все внимание
уделяется спектральной плотности / (со) (чаще всего называемой,
как это уже указывалось в сноске на с. 108, просто с п е к т р о м
процесса или последовательности X (/)). Поэтому неудивительно,
что и во всей обширной литературе об оценках спектральных
характеристик стационарных случайных функций X (t) (большая
218
Глава 2
часть которой предназначена в первую очередь для прикладни­
ков) основное место занимает именно задача об оценке плотности
/ (со), гораздо более важная практически, а кроме того, еще и гораздо
более трудная теоретически, чем задача об оценке значений несо
определенного интеграла F (со) = j / (со') dco'. Последнее заме­
чание, касающееся сравнения задач об оценке значений / (со)
и F (со) по степени трудности, является простым следствием тех
результатов о свойствах периодограммы 1Т (со), которые уже
рассматривались в этом параграфе.
В самом деле, мы уже видели, что значения 1Т (со) при широ­
ких условиях представляют собой случайные величины со средним
значением, близким к / (со) (в случае существования спектральной
плотности), и ограниченной дисперсией, причем при Т -> оо
величины IT (coj) и 1Т (со2) становятся попарно независимыми,
если только со2 Ф со^ Выше уже фактически подчеркивалось
(хоть и не формулировалось вполне четко), что отсюда вытекает
следующее важное свойство величин 1Т (со): если А — произволь­
ный интервал оси частот со, то I 1Т (со') dco' является состоял
тельной оценкой величины I/ (со') dco' (ср. с. 193 и 202).
л
Выберем теперь в качестве Д интервал [—я, со ] (в случае,
когда речь идет о последовательностях X (t), зависящих от ди­
скретного аргумента t) или полупрямую (—оо, со) (когда речь
идет о стационарных процессах, т. е. ^ — непрерывное); при этом
мы получим, что
со
F*T ((о) = \lT ((о')Ао',
(2.284)
где со0 = —я при дискретном t и со0 = —оо при непрерывном ty
является состоятельной оценкой спектральной функции F (со)
(т. е. эта оценка — асимптотически несмещенная, и ее дисперсия
стремится к нулю при Т -> оо).
Приведенные рассуждения непосредственно относятся к слу­
чаю, когда существует непрерывная спектральная плотность / (со)
и функция X (t) — гауссовская (ибо такие предположения при­
нимались выше при изучении свойств периодограммы), но на са­
мом деле сформулированное в предыдущей фразе утверждение
о FT (СО) не зависит от этих предположений. Нетрудно показать,
что оно может быть просто доказано при очень общих условиях
(фактически здесь требуется лишь эргодичность второго порядка
стационарной функции X (t), т. е. сходимость оценок Вт* (т)
при Т -> оо к истинным значениям корреляционной функции
18. Оценка спектральной плотности и спектральной функции
219
В (т)).145 Разумеется, из состоятельности оценки FT (со) спек­
тральной функции F (со) вовсе не следует, что в случае, когда
F (со) является неопределенным интегралом от спектральной
плотности / (со), производная от FT (СО) ПО СО будет состоятельной
оценкой / (оо): дифференцируя FT (СО), МЫ снова придем к перио­
дограмме 1Т (о), вовсе не являющейся хорошей оценкой / (о).
Оценивание лишь функции F (со) С практической точки зрения
представляется не очень полезным, так как монотонно неубыва­
ющие функции частоты оо все на первый взгляд кажутся довольно
похожими друг на друга (в отличие от спектральных плотностей
/ ((D), часто очень резко различающихся по своей форме). По­
этому значения F (оо), вообще говоря, характеризуют спектраль­
ные свойства функции X (t) значительно менее наглядно, чем
значения / (оо) (откуда, разумеется, вовсе не следует, что оценки
FT ((D) вообще не должны использоваться на практике).146
Доказательство состоятельности оценки (2.284) спектральной
функции F (о) конечно далеко не исчерпывает всей статистиче­
ской теории оценивания значений F ((о) по данным наблюдений
за значениями х (t). В имеющейся статистической литературе
можно найти множество дополнительных тонких результатов,
касающихся, например скорости сходимости среднего квадрата
ошибки оценки (2.284) к нулю при Т -> оо, асимптотических (при
больших Т) распределений вероятностей значений FT (СО) при
разных со или максимума модуля разности FT (СО) — F (о) И
т. д.147 Особенно много внимания было уделено в исследованиях
такого рода специальному, но практически весьма важному
вопросу об изучении «скачков» функции F ((о), Т. е. ее точек разрыва^
которым отвечают компоненты X (t) вида Хке1<д^ или, в веществен^
ной форме, вида Xk cos (соЛ/ + в&) (ср. с. 111). Нахождение
таких периодических компонент X (t) тесно примыкает к клас­
сическому для математической статистики вопросу о в ы д е ­
л е н и и с к р ы т ы х п е р и о д и ч н о с т е й , т. е. об опре­
делении амплитуд, частот и фаз гармонических колебаний, на­
блюдаемых на фоне нерегулярных помех (шума).
Задача о выделении скрытых периодичностей имеет большую
и весьма интересную историю; отметим, в частности, что и само
введение Шустером в конце прошлого века понятия периодо­
граммы было вызвано его поисками скрытых периодичностей в не­
которых геофизических и астрофизических временных рядах.148
В настоящее время эта задача должна рассматриваться как одна
из важных задач статистики стационарных случайных функций,
примыкающих к теории оценивания спектральной функции F(CD);
на ней, однако, мы здесь уже не можем задерживаться. 149.
ПРИМЕЧАНИЯ
Введение
1
Напомним, что условия, требующиеся для возможности считать неко­
торое событие А или некоторую величину X случайными в теоретико-вероятност­
ном смысле, должны включать описание совокупности опытов (статистического
ансамбля), результаты которых, во-первых, определяют А или X и, во-вторых,
обладают статистической устойчивостью. Поэтому часто встречающееся в при­
кладной литературе утверждение, что случайным событием является любое
событие Л, которое при осуществлении заданного комплекса условий может или
произойти, или не произойти (см., например,[87, с. 5]), или даже вообще любое
событие Л, которое может осуществиться, а может и не осуществиться, а слу­
чайной величиной X — любая величина, которая может принимать разные
значения, является, разумеется, неточным. Отметим также, что совокупность
опытов, определяющая событие А или величину X, часто может выбираться
по-разному: так, в частности, для случайной величины примера г) можно рас­
сматривать лишь совокупность измерений в периоды, относящиеся к одной и
той же фазе одиннадцатилетнего цикла солнечной активности, а можно говорить
и о средней площади пятен в совершенно произвольный (выбранный наудачу)
момент времени. При изменении совокупности опытов, определяющих данное
событие или величину, мы должны считать, что и само случайное событие или
случайная величина также изменились.
2
Как известно, б-функцией Дирака называется «несобственная функция»
оо
б (А:), определяемая соотношениями: б (А:) = 0 при всех х Ф О и
\ 6 (х) dx— \
-оо
(откуда видно, что б (0) не может быть конечным). Функция Дирака и другие
родственные ей «несобственные» (обобщенные) функции оказываются очень
полезными для многих приложений математики; строгая математическая теория
такого рода функций в настоящее время может быть найдена в целом ряде книг
(см., например, [45, 52]). Заметим еще, что аналогично теории обобщенных
функций может быть построена и теория 76
обобщенных случайных функций (в част­
ности, стационарных); см. примечание и [51, гл. III].
3
Так как некоторые факты из теории характеристических функций нам
еще понадобятся ниже в другой связи, то имеет смысл на них здесь задержаться.
Характеристической
ф у н к ц и е й случайной величины X
с функцией распределения F (х) называется комплексная функция вспомогатель­
ного переменного t, определяемая равенством
оо
¥ ( 0 = <*"*>= \eitxdF(x)
(П.1)
—оо
(угловые скобки здесь, как и в равенстве (В.З), означают вероятностное осред­
нение, а интеграл в правой части — несобственный интеграл Стилтьеса). Если X
имеет плотность вероятности р (А:), ТО, очевидно,
оо
4(i)=\eilxp(x)dx,
—оо
(П.2)
221
Примечания
так что в силу формулы обращения преобразований Фурье
оо
PW = 4r le~<txV(t)dt.
(П.З)
—оо
Следовательно, в этом случае значения р (х) и F (х) однозначно определяются
по значениям Y (/). Можно также показать, что если даже величина X не имеет
плотности вероятности, то все равно ее характеристическая функция Y (/) одно­
значно задает функцию распределения F (х); этот факт вытекает из следующей
ф о р м у л ы о б р а щ е н и я теории характеристических функций
т
F (х2) - F (хх) = -^- Hm j « - " * ' - « - " *
w (t) dt<
(П.4)
всегда справедливой для любых точек непрерывности х2 и хг функции распреде­
ления F (х) (см., например, [60, § 36], [100, § 4.3] или [119, § 10.3]).
Ясно, что не каждая комплексная функция Y (/) может быть характери­
стической функцией. Так, из самого определения (П. 1) следует, что всегда
¥ ( ( ) ) = 1, ¥(—/) = ¥(*), | Y ( / ) | < Y ( 0 ) = 1
(П.5)
(где черта сверху — знак перехода к комплексно сопряженной величине) и
что функция Y (t) обязательно непрерывна при всех /. Не намного труднее до­
казывается то, что если ¥ (0 —дважды дифференцируемая характеристическая
функция и V (0) = 0, ¥ " (0) = 0, то ¥ (/) = 1 при всех / (см. примечание 4 ).
Следовательно, если ¥ ' (0) = ¥ " (0) = 0, но ¥ (/) =j= 1 хотя бы при одном /
(например, если ¥ (/) = е~а't' , где а > 0, k > 2), то ¥ (/) наверное не может
быть характеристической функцией.
Существует и ряд других условий, ограничивающих класс характеристиче­
ских функций Y (t). Сформулируем одно очень общее условие: пусть п — целое
положительное число, tt, ..., tn —вещественные числа, а сх, ..., сп — произволь­
ные комплексные числа; тогда для любой характеристической функции Y (/)
f Vilj-Qc^X).
(П.6)
i,k=i
В самом деле, в силу (П.1) левая часть (П. 6) равна
- о с / , k=l
—оо
где все приращения F (лЛ неотрицательны.
Комплексная функция Ч? (t), для которой при любых п, ily ..., tnn сх ..., сп
выполняется условие (П. 6), называется п о л о ж и т е л ь н о о п р е д е л е н ­
н о й . Таким образом, характеристическая функция всегда является непре­
рывной положительно определенной функцией, удовлетворяющей /условию
Y ( 0 ) = 1.
Легко проверить, что из условия (П. 6) при п = 2 и ¥ (0) = 1 вытекает
необходимость всех условий (П. 5).
Более глубоким (но и более трудно доказываемым) является то обстоятель­
ство, что условия непрерывности, положительной определенности и справедли-
222
Примечания
вости равенства Чг (0) = 1 на самом деле обеспечивают выполнение в с е х ус­
ловий, которым должна удовлетворять характеристическая функция, так что
класс характеристических функций распределений вероятностей совпадает с клас­
сом непрерывных положительно определенных функций, обращающихся в еди­
ницу при t = 0. Сформулированное здесь утверждение составляет фактически
содержание очень важной теоремы, доказанной почти одновременно Бохнером
и Хинчиным и впервые опубликованной Бохнером в 1932 г.
Т е о р е м а Б о х н е р а — Х и н ч и н а . Непрерывная комплексная функ­
ция Y (/) вещественного переменного t тогда и только тогда является положи­
тельно определенной, когда она допускает представление в виде интеграла
Фурье—Стилтьеса, вида (П. 1), где F (х) — монотонно неубывающая функция
переменного х.
Действительно, если к условиям этой теоремы добавить еще условие^ (0) = 1,
(в силу (П. 1) эквивалентное равенству F (оо) — F (—оо) = 1), то в таком слу­
чае F (х) будет функцией распределения, а я|э (/) — характеристической функцией,
отвечающей этому распределению.
Строгое доказательство теоремы Бохнера—Хинчина может быть найдено,
например, в [24, 60, 120, 130, 136, 202]. Оригинальное доказательство этой
теоремы, опирающееся на некоторые факты теории стационарных случайных
функций, намечено в конце § 13 этой книги.
4
Во многих случаях для вычисления моментов случайной величины X
удобно использовать ее характеристическую функцию
Y (t). В самом деле, из
формулы (П. 1) легко вытекает, что если (| X \п) < оо, то функция ¥ (/) диффе­
ренцируема по крайней мере п раз и
<ХП> = |1(п) = ( - 0 " У(п) (0).
(П.8)
Если ¥ ' (0) = Y* (0) = 0, то из формулы (П. 8) следует, что (X) = 0 и
оо
2
(X ) =
\ х2 dF (х) = 0; ясно, что это возможно, лишь если X = 0 с вероят— оо
ностью единица, т. е. если Y (t) = (ettX) = 1 (этот факт уже отмечался в при­
мечании 3 ).
Легко проверить, что в случае распределения Пуассона ¥ (t) =
= exp \k (elt — l)}, в то время как в случае нормального распределения вероят­
ностей Y (0 = exp {imt — o2t2/2}. Отсюда сразу вытекают и формулы для
первых и вторых моментов этих распределений, указанные на с. 11.
5
О многомерных нормальных распределениях см., например, [23, гл. 6,
§ 6], [60, § 40], [100, гл. 15], [119, гл. 24] или же [147, ч. 1, § 4.3]. Отме­
тим, что при рассмотрении многомерных нормальных распределений очень удобно
широко использовать отвечающие им многомерные характеристические функции,
представляющие собой естественное обобщение одномерной характеристической
функции (П. 1); такой подход делает многие доказательства гораздо более про­
стыми и, кроме того, позволяет не различать невырожденные и вырожденные
многомерные нормальные распределения.
6
Термин «брауновское движение» происходит от имени английского
ботаника Роберта Брауна, еще в 20-е гг. XIX в. детально описавшего это дви­
жение, которое, впрочем, было известно и до него. Так как английская фамилия
Brown в течение многих лет по-русски писалась (а изредка и до сих пор пишется;
см., например, [26]) как Броун (вместо более правильного написания Браун),
то в литературе на русском языке соответствующее движение очень часто по тра­
диции называется броуновским движением. Классическое описание наблюдений
брауновского движения содержится в [157].
Количественная теория брауновского движения, объясняющая это движе­
ние воздействием на малые частицы молекулярных толчков, порожденных теп­
ловым движением молекул окружающего газа или жидкости, была развита
примерно одновременно (около 1905 г.) независимо друг от друга Эйнштейном
Примечания
223
и Смолуховским (см. [224] или [223]; ср. также [221 ]). Любопытно, что в период
написания своей первой статьи на эту тему Эйнштейн, по-видимому, даже не
слышал про существование брауновского движения (уже широко известного
в ту эпоху); он фактически сам предсказал его существование исходя из теорети­
ческих соображений и правильно описал все его основные свойства. Теория
Эйнштейна и Смолуховского (некоторые важные результаты которой содержа­
лись в недооцененной в свое время более ранней статье Башелье [239]) имела
дело только с распределениями вероятностей (и моментами) значений коорди­
наты X (t) частицы, совершающей брауновское движение, в один или два мо­
мента времени. Полное же математическое описание этой случайной функции
X (/), включающее строгое доказательство ряда тонких фактов о свойствах
отдельных реализаций х (/), никак не вытекающих из более элементарных физи­
ческих рассмотрений предыдущих авторов, было дано между 1920 и 1923 гг.
в серии
работ Винера (см., в частности, [42, гл. IX}).
7
См., например, [15, 75, 129, 131, 134, 137, 143, 170, 171, 181, 182,
193, 194, 197] и др. С электрическими флуктуациями и шумами, явившимися
основным источником широкого развития статистических методов в прикладных
исследованиях, можно познакомиться, например, по [29, 30, 85, 138, 195],
содержащим
много дополнительных ссылок.
8
Турбулентности посвящена двухтомная монография [147], содержащая
обширную библиографию, а также книги [27, 212] и др.; специально атмосфер­
ной турбулентности посвящены книги [128, 155]. О микросейсмах см., напри­
мер, [43, 180]. С геомагнитными вариациями можно познакомиться по [233].
Статистическому анализу электроэнцефалограмм посвящены, в частности,
книги [103, 186]; совсем другое применение понятия случайного процесса в био­
физике рассмотрено в [135]. Случайные изменения толщины нити вдоль ее длины
рассмотрены в [120, с. 14] и [227, с. 7]. О приложениях теории случайных
функций к анализу шероховатых поверхностей рассказывается в [218]; мор­
ским волнам посвящены работы [59, 123].
9
Число Вольфа обычно определяется как сумма числа наблюдаемых в дан­
ный момент отдельных солнечных пятен и умноженного на десять числа тесных
групп таких пятен; в настоящее время, однако, для придания какой-то одно­
родности данным имеющихся очень разнородных наблюдений, в него обычно
включают еще дополнительный множитель, зависящий от качества используемого
телескопа и от метеорологических условий в период наблюдения. Кое-какие
результаты статистической обработки ряда чисел Вольфа могут быть найдены
в [9, 21] (ср. также [189, с. 201—204]).
Ряд Бевериджа впервые рассматривался в двух статьях известного англий­
ского экономиста Бевериджа, опубликованных в 1921 и 1922 гг.; он воспроиз­
веден, в частности ,в [9, 101, 225] (см. также [334]). Другие примеры беспоря­
дочно флуктуирующих временных рядов, возникающих в экономике, могут быть
найдены в [21, 68, 101, 225]. О подобных примерах, относящихся к гидрометео­
рологии, рассказывается, в частности, в книгах [49, 87, 95, 98, 154, 162, 163,
245], в последней из которых рассмотрен также ряд задач, относящихся к сейс­
мологии и другим разделам физики Земли, и имеется обширная библиография
по вопросу
о флуктуирующих временных рядах геофизического происхождения.
10
Рассмотрение множества всевозможных временных сдвигов заданной
функции времени х (t) и осреднения по этому множеству играет важную роль
в развитом в начале 30-х гг. Винером «обобщенном гармоническом анализе»
(см. [41, гл. IV] и с. 98—99 настоящей книги). Теория Винера была специально
ориентирована на приложения к изучению неупорядоченных колебаний типа
тех, которые изображены на рис. 1 и 2; вероятностные соображения в этой тео­
рии нигде явно не упоминаются, но в качестве единственного нетривиального
примера функции х (t), к которой применима его теория, Винер приводит (в [41,
с 194], а также и в предыдущих журнальных публикациях на ту же тему )функцию, являющуюся реализацией просто задаваемого случайного процесса.
Позже вопросу о задаваемых аналитически примерах функций х (t), в при­
менении к которым теория Винера дает физически разумные результаты (типа
224
Примечания
тех, которых можно ожидать, например, для кривых, описывающих турбулент­
ные пульсации), большое внимание уделил Басе [244], предложивший даже для
таких х (0 специальное название «псевдослучайные функции»; однако все эти
примеры оказались весьма искусственными и вряд ли они могут представлять
интерес с точки зрения приложений. К вопросу о том, как следует понимать ста­
тистическую устойчивость множества
всевозможных сдвигов кривой х (t), мы
еще вернемся
i конце примечания15.
j
11
Так, например, иногда вместо самих значений х (t) рассматривают
отклонения этих значений от их тренда (гладкой кривой х0 (t), приближенно
описывающей «систематические изменения» значений х (t) во времени) в надежде,
о
что временные сдвиги разностей х (t) = х (t) — х0 (/) уже будут обладать необ­
ходимой статистической устойчивостью (см., например, [101, гл. 46], [9, гл. 3]
или [162]). В некоторых случаях целесообразно также для придания ряду боль0
шей однородности разделить полученные значения х (t) на | xQ (t) | (ср. описа­
ние ряда Бевериджа на с. 24). Другой метод исключения систематических
изменений ряда х (t) заключается в переходе от самих значений х (t) к их раз­
ностям типа х (t) — х (t — т) или, например, типа х {t) — 2х (t — т) + х (t — 2т),
где т — фиксированное число (см., в частности, [101, с. 531 ]). Теории случайных
процессов X (0 таких, что временные сдвиги разностей определенного порядка
их реализаций обладают статистической устойчивостью, посвящены работы [106]
(см. также [83, гл. XI, § 11], [158] и [230]); применения этой теории рассма­
тривались, в частности, в [21].
Применению статистических методов к анализу колебаний уровня Каспий­
ского моря посвящено много работ (см. примечание 2 0 ). Ряд, изображенный па
рис. 3 хб, анализировался, в частности, в [21].
? О пуассоновском случайном процессе и порождающих его пуассоновских последовательностях случайных точек см., например, [60, § 51] или [23,
гл. 13, § 4]. Случайный телеграфный сигнал впервые, по-видимому, был рассмо­
трен в 1944 г. Райсом (см. [173]). По поводу пуассоновских импульсных процес­
сов см., например, [194, § 6.1], [181, гл. I I ] , а также литературу об импульсных
процессах,
указанную в следующем примечании.
13
Точечным случайным процессам посвящена, в частности, работа [105],
в которой заметное внимание уделено случайным процессам восстановления.
Процессы счета событий (counting processes) рассматриваются, например, в [320].
Общим процессам X (/), принимающим лишь два значения + а и —а (т. е. име­
ющим реализации типа той, которая изображена на рис. 6), посвящен ряд работ
(см., например, [299]). Различным типам импульсных случайных процессов по­
священы специальные главы в книгах [131, 143, 181, 197], а также моногра­
фия [111].
14
Математическое понятие случайной функции (зависящей от непре­
рывно меняющегося аргумента /), по-видимому, впервые появилось в интересной,
но довольно нечеткой статье Башелье [239]. Позже появились работы физиков
Эйнштейна, Смолуховского, Фоккера и Планка по теории брауновского движе­
ния, фактически сводящиеся к исследованию специального класса случайных
процессов. В начале 20-х гг. Винером была развита детальная математическая
теория одного частного случайного процесса, представляющего собой простей­
шую модель одномерного брауновского движения свободной частицы в однород­
ной среде (см. примечание 6 ). В конце 20-х гг. начал публиковаться цикл работ
Слуцкого (см. [189]) по общей теории случайных функций; понятие «распреде­
ления вероятностей в бесконечномерном пространстве», эквивалентное понятию
случайной функции, получило четкий смысл в рамках общей аксиоматики теории
вероятностей, разработанной в 1933 г. Колмогоровым [109] (см. также [286]).
Примерно в то же время Колмогоровым была развита общая теория очень важ­
ного для приложений класса марковских случайных процессов, а Хинчин [213]
заложил основы теории стационарных случайных процессов.
В последующие годы рост литературы по математической теории случайных
функций непрерывно ускорялся. В конце 40-х и начале 50-х гг. появились об-
Примечания
225
зорные статьи [292,108, 265, 227] по теории случайных процессов, имеющие много
точек пересечения с содержанием настоящей книги. Первой книгой по теории
случайных функций была, по-видимому, вышедшая в 1948 г. книга Леви, второе
переработанное издание которой позже было переведено на русский язык (см.
[130]). В настоящее время только на русском языке уже имеется несколько
десятков книг по теории случайных процессов, ссылки на многие из которых
еще встретятся нам ниже; помимо того, фактически к той же области относится
и много десятков изданных в нашей стране книг прикладного содержания (см.,
в частности, примечание 7 ).
Глава 1
15
Точный смысл сделанного здесь утверждения связан с некоторыми до­
вольно тонкими рассмотрениями, касающимися восходящего к Колмогорову
[109] и являющегося в настоящее время общепринятым в математической лите­
ратуре (но близко примыкающего и к интуитивным физическим представлениям)
отождествления понятия случайной функции X (t) с понятием вероятностной
меры Р, заданной на функциональном пространстве ее реализаций х (t). А именно,
согласно «основной теореме» Колмогорова [109, с. 48] (по поводу которой см.
также [23, 32, 120]), каждой совокупности конечномерных распределений веро­
ятностей, удовлетворяющих условиям симметрии и согласованности, отвечает
единственная вероятностная мера Р в пространстве всех вещественных функ­
ций х (t), заданных на Т. Именно этот факт и имелся в виду на с. 33.
Задание вероятностной меры при помощи совокупности конечномерных
распределений вероятностей вполне достаточно для всех задач, в которых при­
ходится иметь дело лишь с вероятностями событий, зависящих от конечного
числа величин X (t), но оно зачастую оказывается недостаточным для определе­
ния вероятностей событий, зависящих от бесконечного числа величин X (t)
(типа, например, вероятности того, что 2реализация
х (f) функции X (t) будет
непрерывной функцией t; см. примечание в ). Необходимость определения в ряде
случаев также и вероятностей этого последнего типа породила ряд детальных
исследований вероятностных мер на функциональных пространствах, исполь­
зующих обширный арсенал тонких средств из теории множеств, теории функ­
ций и функционального анализа (см., например, [120, § 3.6], а также [51, 57,
58, 83, 136]).
Отметим еще, что задание случайной функции X (t) совокупностью ее ко­
нечномерных распределений вероятностей позволяет также придать точный
смысл понятию «статистической устойчивости множества всевозможных времен­
ных сдвигов» кривой х (t), упоминавшемуся на с. 24—25 и в примечании 1о .
Будем для определенности считать время непрерывным (случай, когда /
пробегает только целочисленные значения, требует лишь очевидной замены
интегралов
на суммы в последующих формулах), и пусть %а [х] = 1 при х < а
и
la М = 0 при х > а. Для того чтобы по множеству временных сдвигов
функции х (t) можно было определить функции (1.3) при любых п, tlt ..., tn и
значениях хъ ..., хп таких, что при них правая часть (1.3) оказывается непре­
рывной функцией своих аргументов, должны существовать пределы
lim
7*!-*—oo,rt->oo
*
J
2
( х* [х (t + tx)] . . . %Xfl [x (t + /„)] dt =
J1 ^
-Ft,
*
"
t„(xx,...,xn).
(П.9)
Легко понять, что при этом условии функции Ft , ..., / (xlt ..., хп) будут
удовлетворять условиям симметрии и согласованности, т. е. будут задавать
случайную функцию X (/), реализацией которой можно считать функцию х (t)\
V28 А. М. Яглом
226
Примечания
поэтому оно и является нужным условием статистической устойчивости. Отме­
тим еще, что получаемые случайные функции X (t) автоматически оказывают­
ся с т а ц и о н а р н ы м и
и э р г о д и ч е с к и м и (смысл этих терми­
нов разъяснен в § 3 и примечании Зб ); обратно, для стационарной и эргодической случайной функции X (t) пределы (П. 9) всегда существуют и могут
использоваться для определения соответствующих многомерных распределений
вероятностей (1.3). Если же нас интересует только корреляционная теория
стационарных случайных функций X (t) (о ней см. § 2 и 3), то, имея в распоря­
жении лишь одну функцию х (0, не надо даже требовать существования общих
пределов (П. 9), а достаточно ограничиться требованием, чтобы существовали
следующие пределы:
т»
m=
lim
-=
В (tx> U) = В (tx - 1 2 ) =
тгг- \x(t)dt%
lim
l
T
T
x
T,
X \x(t + Lx)x{i + t2)dt
(П.10)
см. [41, гл. IV], ср. также [335]).
^ В частности, по аналогии с заданием случайной величины X ее харак­
теристической функцией ¥ (t) (см. примечание3) случайную функцию X (f)
можно задать ее х а р а к т е р и с т и ч е с к и м ф у н к ц и о н а л о м , пред­
ставляющим собой естественное обобщение понятия характеристической функ­
ции (см., например, [14, § 5.2], [194, § 6] и [147, ч. 1, § 3.4 и 4.4]). Понятие
характеристического функционала было введено в сильно опередившей свое
время статье Колмогорова [286]; с современной математической теорией таких
функционалов можно познакомиться, например, по [51, гл. IV].
17
Разумеется, плотности вероятности pt , ..., tn (#i» •••» п) будут су­
ществовать при всех tlt ..., tn лишь при условии, что ядро 6 ( / , s ) = B . ( / , s ) —
— m(t) m (s) является с т р о г о п о л о ж и т е л ь н о
определенным
п
(т. е. таким, что ^] b(tj, ^ ) с / с д > 0 , если хотя бы одно из чисел с х , ..., сп
/, k=\
отлично от нуля). В общем же случае рассматриваемые многомерные нормаль­
ные распределения вероятностей могут оказаться и вырожденными, и поэтому
их удобнее задавать не плотностями вероятности, а соответствующими много­
мерными характеристическими функциями или даже характеристическим функ­
ционалом. Аккуратное доказательство того, что каждое положительно опре­
деленное ядро представляет собой корреляционную функцию некоторой гауссовской случайной функции X (i)r может быть найдено (сразу для общего слу­
чая комплексных
функций X (t)), например, в [83, гл. II, § 3] и [136, § 34.1].
18
Среднее значение m (t) и дисперсия D (t) пуассоновского процеса
X (t) очевидно равны среднему значению и дисперсии числа пуассоновских
точек tk таких, что 0 < tk < t; следовательно, m (t) = D (t) = kt (ср. выше
с. 11). Так как для пуассоновской последовательности точек tk число таких
точек, попавших на интервал [0, s], не влияет на появление точек той же после­
довательности после момента s (см., например, [60, § 51]), то разность X (t) —
— X (s) при t > s здесь не зависит от X (s). Поэтому если t > s, то
B(t,s) = (X(t)X(s)) = ([X(s)f)-{+ {[X (t) - X (s)] X (s)> = D (s) + m2 (s) +
+ (X (t) — X (s)> {X (s)> = Ks + 2Л2 + 1 (i - s) ks^Ks-\-
Ms.
227
Примечания
Если X (t) — случайный телеграфный сигнал, то X (t) X (s) = а2 в случае,
когда на интервал [s, /] попадает четное число точек tk, и X (t) X (s) = —а2,
когда число таких точек tk оказывается нечетным. Поэтому здесь
L k=0
k=o
J
19
Следуя работам Слуцкого (см. [189, с. 135, 144], ср. также [292]), кор­
реляционную теорию случайных функций иногда также называют т е о р и е й
в т о р о г о п о р я д к а случайных функций или т е о р и е й с л у ч а й ­
ных ф у н к ц и й в т о р о г о п о р я д к а .
?° Попытка применения к колебаниям уровня Каспийского моря теории
стационарных случайных функций была, в частности, предпринята в [167, 168].
Вопросу о том, можно или нельзя рассматривать эти колебания как стационар­
ные, посвящено
много работ (см., например, [10, 82, 122]).
21
Ср. в этой связи работу Хер да [275], посвященную случайным функ­
циям вида Y (t) = X ( / + Ф), где X (t) — случайная функция, а Ф — неза­
висимая от X (t) случайная величина, равномерно распределенная на интервале
длины 7V Херд показал, что процесс Y (t) будет стационарным тогда и только
тогда, когда X (t) — периодически распределенный случайный процесс периода
Т0 (т. е. такой, что все его конечномерные распределения вероятностей
не меняются при преобразованиях вида X (t)->X (t+h), где h кратно Т 0 ). Ана­
логичные результаты Херд получил и для так называемых п е р и о д и ч е с к и
коррелированных
случайных процессов периода Г 0 , обладающих
тем свойством, что m (t) = m (t + kT0) и В (t, s) = В (t + kT0, s + kT0) при
любом целом k\ здесь только свойство стационарности Y (t) надо заменить на
определенную на с. 43 стационарность в широком смысле. Изучению более об­
щего класса стационаризуемых случайных процессов X(f)y обладающих тем
свойством, что хотя бы для одной независимой от X (t) случайной величины Ф
процесс Y (t) = X (t-\- Ф) оказывается стационарным, посвящена работа [271].
22
. Наряду с приведенными на с. 43 двумя наименованиями иногда для
той же цели используются и термины: с т а ц и о н а р н ы е
функции
в т о р о г о п о р я д к а , или функции « с т а ц и о н а р н ы е д о в т о р о г о
п о р я д к а » , или « с л а б о с т а ц и о н а р н ы е » (общее свойство (1.20)
тогда называется с т р о г о й или с и л ь н о й
стационарностью),
или, наконец, « с т а ц и о н а р н ы е в с м ы с л е Х и н ч и н а » (так как
важность соответствующего понятия была особенно подчеркнута в работе Хин­
чина [213]).
^
- 23 Доказательство неравенства Чебышева (1.32) крайне просто: если
^(я) — функция распределения величины X—Хп, то
оо
—8
((X - Xnf) = \x2dF (х) > J х2 dF (х) +
—оо
оо
+ \x*dF(x)>e*\
8
( —8
\dF(x)+
I—оо
—сю
оо
\
\dF{x) = е2Р {| Х - Хп \ > в}.
8
J
Совершенно аналогично доказывается следующий более общий результат: если
Y — случайная величина такая, что \ Y | в < со при некотором а > 0, те
Р{1П>8}«<та>/еа.
(П. 11)
228
Примечания
24
См., например, [23, гл.6, § 2], [60, § 34], [120, § 2.8 и 3.5] или
[136, §26 9].
См., например, [136, § 9.4]. Сформулированное здесь утверждение
фактически относится к математическому анализу (точнее, функциональному
анализу), а не к теории вероятностей; в анализе оно часто называется теоремой
Фишера—Рисса.
26
Покажем прежде всего, что по значениям одних лишь конечномерных
распределений (1.3), вероятность того, что х (t) будет непрерывной функцией t,
вообще не может быть определена. В самом деле, пусть X (t) (где 0 <: t <: 1) —
какой-то случайный процесс, все реализации х (t) которого непрерывны, так что
Р {х (t) — непрерывная функция t} = 1
(например, X (t) = cos ( о ) / + Ф ) ,
где Ф — случайная величина), a Z — независимая от X (t) случайная величина,
принимающая значения между 0 и 1 и имеющая на интервале [0, 1] равномер­
ное распределение вероятностей. Пусть далее Хг (t) = X (t), если t=f=Z, но
Х1 (0 = X (t) + 1, если t=Z. Так как Р {Z = t] — 0 при любом t и, более
того, Р {Z = tlt или Z = t2, ..., или Z= tn} = 0 при любых фиксированных
*i, t2, ..., /„, то Р {Хг (/х) = X УД, ..., Хх (tn) = X (tn)} = 1 при любых
t\, ..., tn, так что все конечномерные распределения случайных процессов Хг (t)
и X (/) точно одинаковы. В то же время все реализации хг (f) процесса Xi (t)
имеют разрыв в точке t= г (где г — выборочное значение Z), и, следовательно,
Р {#! (t) — непрерывная функция /} = 0. Поэтому условия, налагаемые на
конечномерные распределения вероятностей, в лучшем случае могут лишь га­
рантировать существование процесса с такими распределениями, реализации
которого непрерывны с вероятностью единица (но не то, что л ю б о й про­
цесс с такими конечномерными распределениями будет иметь непрерывные реа­
лизации), — именно в этом смысле ниже и будет пониматься утверждение о том,
что реализации процесса X (t) непрерывны с вероятностью единица.
Отметим, впрочем, что с практической точки зрения указанное здесь обстоя­
тельство малосущественно, так как если X (t) процесс с непрерывными (или,
например, дифференцируемыми) реализациями х (t), то обычно все прочие «не­
регулярные» процессы с теми же конечномерными распределениями вероятностей
уже будут представлять собой лишь некоторые «математические патологии»
(типа приведенного выше примера процесса Хг (/)), никогда не встречающиеся
в реальных приложениях. Эти «патологические процессы» можно также с самого
начала исключить из рассмотрения, заранее потребовав, чтобы процесс X (t)
удовлетворял некоторым весьма общим «условиям регулярности» (накладываемым
уже не на конечномерные распределения, а исходящие из иного описания слу­
чайного процесса), которые на практике всегда можно считать выполняющимися;
об этом см., например, [120, § 3.6 и гл. 4] или же [57, 58, 83, 136].
Простейшее и самое важное из известных в настоящее время условий непре­
рывности реализаций было еще в 30-е гг. найдено Колмогоровым (и впервые опу­
бликовано Слуцким [189, с. 276]). Оно состоит в утверждении, что реализации
процесса X (t), заданного на интервале а <: t <: b, будут с вероятностью еди­
ница непрерывными функциями t, если только при некоторых а > 0, 6 > 0 и
С < оо для всех достаточно малых \ h \ (скажем, при \h\ < h0, где h0 — фикси­
рованное число) выполняется неравенство
(\X(t + h)-X(t)\a)<C\h\l+u
(П.12)
(накладывающее ограничения лишь на двумерные распределения процесса
X (t)). Мы здесь не будем приводить полного доказательства этого утвержде­
ния, являющегося не очень простым, а ограничимся лишь следующим рассужде­
нием, поясняющим суть дела.
Разобьем интервал [а, Ь] точками tk= а-\- (Ь — a)kl2n, & = 1, 2, ...,
2п — 1; tQ = a; t2n = b, на 2" равных частей длины (Ь — а)/2п и пусть п так
Примечания
229
велико, что (Ь — а)/2п < /г0. Воспользуемся тем, что для любых случайных
событий Л р Л 2 , ..., А2п
Р(Л1 + Л 2 + . . . + Л 2 „ ) < Р ( Л 1 ) + Р(Л2) + . . . + Р ( Л 2 „ ) ,
где Аг + А2 + • • • + А2п означает событие, состоящее в том, что выполняется
хотя бы одно из событий Av ..., А2п, а знак равенства отвечает случаю, когда
все события Ak попарно несовместимы. Приняв теперь за Ak событие, состоящее
в выполнении неравенства | X (tk) — X (^-1) I > l/п2, и используя также
неравенства (П. И) (для случая, когда Y = X (tk)— X (tk-i), а е = \/п2)
и (П. 12), мы найдем, что
Р {| X (tk) — X (4_х) | > 1//г2 хотя бы при одном £ = 1 , 2 , ..., 2п\ <
<^С%1Т-СФ-4»^.
(п.,з)
Но п2а/2п6 -* 0 и \/п2 -> 0 при п -> оо, поэтому из (П. 13) вытекает, что
при условии (Я. /2) все приращения X (t) на 2п отрезках [fe-it Ы длины (Ь—а)/2п
при большом значении п с очень близкой к единице вероятностью будут очень
малы по модулю. Этот вывод показывает, что ситуация типа той, которая имеет
место при рассмотрении случайного телеграфного сигнала, здесь оказывается
невозможной и что, по-видимому, реализации х (t) с вероятностью единица будут
непрерывными функциями.
Заметим, что предположение о стационарности X (t) в намеченном рассу­
ждении не использовалось; на самом деле оно и не нужно для доказательства
утверждения Колмогорова. Если X (t) — нормальный случайный процесс,
то, как нетрудно показать, <| X (t + h) — X (t) \та) = Cm> а (\ X (t + h) —
— X (f) | a ) m , где Cmj a — зависящая от т и а постоянная; поэтому здесь усло­
вие (П. 12) наверное будет справедливо, если только (| X (t + h) — X (t) | a i ) <
<C1\ h j ^ 1 для каких-либо аг > 0, Pi > 0 и Сг < оо.
Строгое доказательство утверждения Колмогорова, ряда его усилений и
некоторых дальнейших результатов об условиях непрерывности реализаций
может быть найдено, например, в [120, § 4.2, 7.3 и 9.2—9.5], а также в [32,
57, 58, 83, 136].
27
Заметим, что из существования В" (т) вытекает справедливость усло­
вия (П. 12) с a = 2 и 6 = 1 ; поэтому реализации х (t) дифференцируемого
в среднем квадратичном процесса X (t) с вероятностью единица непрерывны.
Производная же х' (t) здесь при некоторых значениях t может не существовать
(подобно тому как реализация непрерывного в среднем квадратичном процесса
X (t) может иметь точки разрыва).
Однако »^сли дифференцируемый в среднем квадратичном процесс X (t)
удовлетворяет некоторому очень общему «условию регулярности», которое на
практике всегда можно считать выполняющимся, то его реализация х (t) с ве­
роятностью единица будет иметь производную х' (t) при всех t (за исключением,
быть может, некоторого множества точек t, имеющего нулевую суммарную
«длину») и х (t) будет с точностью до постоянной совпадать с неопределенным
интегралом от х' (t)\ при этом в каждой фиксированной точке t значение х' (t)
с вероятностью единица будет совпадать с реализацией производной в среднем
квадратичном X' (t) процесса X (t) (см. [83, с. 481]).
Отметим еще, что если процесс X (t) дважды дифференцируем в среднем
квадратичном (т.е. если существует £ I V ( T ) ) , ТО его реализации обязательно
будут иметь всюду непрерывную производную х' (t) (см. [189, с. 278]). Даль­
нейшее обсуждение вопроса об условиях дифференцируемости реализаций см.
в [120, § 4.3, 7.3 и 9.2—9.5].
230
Примечания
?8 Упомянутое доказательство можно найти, например, в [58, т. I, гл. IV,
§ 3], см. также [83, с. 63 и 465—466].
?9 Например, если Ь (т) = A cos сот или Ь (т) = ^i4^cos(o^»T (ср. с. 115,
где разъясняется спектральный смысл условия Слуцкого).
Теорема Слуцкого была впервые опубликована в 1938 г. [189, с. 252]. Еще
раньше Хинчин (см., в частности, [213]) доказал, что величина Мт всегда стре­
мится в среднем квадратичном к некоторому пределу (не обязательно совпа­
дающему с (X (t))) при Т -> оо. Последний результат близко примыкает также
к так называемой к в а з и э р г о д и ч е с к о й т е о р е м е Неймана [304],
относящейся к общей механике (теории динамических систем).
30
Ясно, что левая часть (1.57) и (1.57а) совпадает с {(Мт—т) (X (0) — т))\
поэтому если {(Мт — т)2) -* 0 при Т -► оо, то эта левая часть стремится к нулю
при Т -> оо в силу неравенства (1.35). Предположим теперь для определенности,
что время t — непрерывное; тогда если справедливо условие (1.57а), то для
любого е > 0 существует Т0 = Т0 (е) такое, что 1 b (т) dx <: вт$ при т х > Т0.
о
Так как | b (т) | < b (0) и, значит, 1 b (х) dx < b (0) т х при любом т*, то при
О
Т>Т0
ГГ.
ТХХ
2
._
2
Т
1
J J b (т) dx dxi < - ^ J Ь (0) xl dxx + J гхх dx1 —
J^I
+
lEEZ|) < M o)4 , +«.
Отсюда видно, что о2м можно сделать сколь угодно малым, выбрав достаточно
большое Г, так что о2м -> 0 при Т -> оо.
Формула (1.58а) впервые появилась в другой связи в работе [324] о тур­
булентной диффузии; см. также [99]. Формула (1.58) принадлежит Слуцкому
[189, с. 144].
31
См., например, [39, 40], где, в частности, показано, что при широких
условиях (накладываемых на b (т)) для каждого Т можно найти N такое, что
2
ом
<<*м (где MTN — левая часть (1.606), в которой x(kTlN) заменено на
X (kTlN))\ см. также [200] и [87, § 5.3]. Впрочем, разница между средними
квадратическими ошибками приближения (1.60а) и лучшего из приближений
(1.606) во всех случаях оказывается очень небольшой.
Многочисленные примеры расчета значений о2м и а 1
для некоторых кон­
кретных форм корреляционных функций b (т), иногда сопровождающиеся таб­
лицами и графиками, могут быть найдены, в частности, в книгах [16,
39, 40, 87, 134 144, 185], а также в L33 140, 192, 205, 208, -46, 306, ?38, 339].
Значение формулы (1.58а) для исследований климата (всегда имеющих
дело лишь с осредненными значениями) обсуждается в [289] и [203, с. 146].
Разумеется, аккуратные расчеты значений о1м и о2м
по формулам (1.58) и
(1.58а) имеют смысл лишь тогда, когда функция b (т) нам точно известна. Если же
это не так (как чаще всего и бывает в реальных приложениях), то вместо истин­
ных значений b (т) приходится использовать какие-то их приближенные оценки
о некоторых еще будет идти речь ниже), и поэтому здесь уже можно рассчиты-
Примечания
231
вать лишь на получение довольно грубых оценок величин а ^ и а ^
(ср. об­
суждение этого вопроса в [338], а также в [275] и [301], где рассматриваются
некоторые приближения к значениям о2м для случая дискретного t, зависящие
только от значений х (1), х (2), ..., х (Г)).
Заметим еще, что если функция Ь (т) точно известна, то в принципе можно
подобрать и более точную, чем Mr, несмещенную оценку среднего значения т,
линейно зависящую от значений X (t) (см., например, [40, 65, 74, 229]). Однако
чаще всего разница между средними квадратическими ошибками оценки Мт
и наилучшей возможной линейной несмещенной оценки значения m оказывается
очень небольшой (см. типичные примеры в [74, 200]). Некоторые довольно спе­
циальные примеры, когда дело обстоит иначе, рассмотрены, в частности, в
[174, 330].
32
Формула (1.G3) впервые была получена в другой связи Тэйлором [324]
(см. также [99]). По поводу приложений формул (1.63) и (1.63а) к исследова­
нию атмосферной турбулентности см., например, [128, § 1.15] и [322].
33
Равенство С = 0, как легко видеть, означает, что / (0) = 0, где / (со) —
спектральная плотность процесса X (t) (см. формулу (2.86)); в частности, X (t) =
= У (t), где Y (t) — стационарный процесс, тогда и только тогда, когда / (со)
имеет в точке 0 = 0 нуль не ниже чем второго порядка. Можно показать, что
если f (0) = 0, то порядок убывания ам
при Г - * о о определяется скоростью
приближения
/
(0)
к
нулю
при
0
-►
0
(см.
[133, гл. 4]).
34
Центральная предельная теорема для стационарных случайных функ­
ций X (t) рассматривается, в частности, в [175, гл. IV, § 11], [92, гл. XVIII]
и [211, гл. IV, § 4], а также в [99] и обзорных докладах Ламли и Розенблатта
на специальном симпозиуме по математическим вопросам механики турбулент­
ности [323, с. 1—40]. Условия применимости этой теоремы обычно сводятся
У к некоторым достаточно естественным требованиям асимптотической независи­
мости далекого будущего функции X (t) от ее далекого прошлого; в приложениях
они чаще всего могут считаться выполняющимися. Заметим еще, что многие
варианты доказательства указанной теоремы для стационарных функций X (t)
могут быть перенесены и на широкие классы нестационарных случайных
функций.
О построении доверительных интервалов (сводящемся к определению дли­
ны А по
заданному значению р) рассказывается, например, в [190, гл. VI, § 4].
35
В математической литературе утверждение о сходимости величин т-р
к т с вероятностью единица обычно называется у с и л е н н ы м з а к о н о м
б о л ь ш и х ч и с е л для случайной функции X (t) (см., в частности, [34,
50, 250, 292] и [83, 120, 136, 211]). В качестве примера относящихся сюда ре­
зультатов отметим, что усиленный закон больших чисел наверное будет выпол­
няться, если только равенство (1.57) или (1.57а) остается справедливым при
-замене множителя IIТ в левой части множителем (lg T)alT, где а > 3 (см. [34]).
Отсюда вытекает, что для справедливости указанного закона достаточно, чтобы
функция Ь (т) убывала при т -> оо не медленнее, чем (lg x)~ fll , где аг > 3. Позже
в [50] было показано, что на самом деле для справедливости усиленного закона
больших чисел достаточно, чтобы функция Ъ (х) убывала при т -> оо не медлен­
нее, чем (lg lgx)""2"8, где 8 — какое-то положительное число', если же b (т) -► 0
при т -> оо только как (lglgT)" 2 , то усиленный закон больших чисел может
оказаться несправедливым.
Сложность и искусственность всех имеющихся примеров стационарных
функций X (/), для которых выполняется условие Слуцкого, но тт не стре­
мится к m при Т -► оо с вероятностью единица (см., в частности, [50]), естественно
объясняется тем, что все они должны относиться к случайным функциям, ста­
ционарным лишь в широком, но не в узком смысле (т. е. к функциям X (t),
почти никогда не встречающимся на практике; ср. с. 43—44). Дело в том, что еще
в 1931 г. Биркгофом [248] была доказана важная эргодическая теорема для
8*
232
Примечания
динамических систем, которая, как это было почти сразу же указано Хинчи
ным [285], позволяет утверждать, что для любой стационарной в узком смысле
случайной функции X (t), для которой (| X (t) |) < сю (и в случае непрерывного /
выполняется еще некоторое крайне общее условие регулярности), всегда с веро­
ятностью единица существует lim т? (доказательство этой т е о р е м ы
Т->оо
Б и р к г о ф а — Х и н ч и н а может быть найдено, например, в [57, 58, 60,
83, 120, 136, 175]). Заметим, что в условиях этой теоремы даже не требуется,
чтобы выполнялось условие {X2- (/)) < сю.
Если, однако, (А? (/)) < о о и справедливо условие Слуцкого (1.57а), то
Мт при Т -» сю будет стремиться в среднем квадратичном к т; так как для ста­
ционарного в узком смысле процесса X (t) временные средние к тому же должны
сходиться к пределу и с вероятностью единица, то отсюда уже следует, что для
стационарных в узком смысле случайных процессов, удовлетворяющих условию
Слуцкого, усиленный закон больших чисел также обязательно будет иметь место.
С эргодической теоремой Биркгофа — Хинчина связаны еще некоторые
важные результаты теории стационарных (в узком смысле) случайных процес­
сов, на которых имеет смысл вкратце здесь задержаться.
На с. 40 уже подчеркивалось, что если X (t) — стационарный в узком
смысле случайный процесс, то стационарным в узком смысле будет и процесс
У (0 = £ (X (t)), где g (х) — произвольная функция. Аналогично доказывается,
что в рассматриваемом случае также и процесс Уф (t) = Ф (X (t), X [t + тЛ, ...,
X (t+ т Л-1 )), где Ф (хх, лг2, ..., *rt) — произвольная функция п переменных,
будет стационарным (в узком смысле). Поэтому если (Ф (X (t), X (t+ т х ), ...,
х
( * + V-i))> = mo(\> "•' V-i) <°°' т о в с и л У теоремы Биркгофа — Хин­
чина для каждой реализации х (t) процесса X(t) среднее значение от xlt + тг), ... ,
по
•••>*(*+tn_i))
интервалу времени Т (назовем его т ^ ф ) ) Ф (х (f),
должно с вероятностью единица сходиться к некоторому пределу т* ф * =
= m(®)(xlf ...,т л-1 ) при Т -> сю. Особый интерес представляют те стационарные
процессы X (/), для которых т ( ф ) (тг, ..., tn__i) = гпф (тх, ..., тАг_1) при любой
функции Ф (хг, Х2> ...,л;л) такой, что (Ф (X (t),X (t+Tj), ..., X (t+Tn^))
<сю;
эти процессы X (t) обычно называются э р г о д и ч е с к и м и (или м е трически
транзитивными)
стационарными случайными про­
цессами.
Отметим, что частным случаем функции Ф (X (t), X (t + т х ), ..., X (t + Tn-i))
с конечным средним значением является функция Хах [X (01 Ха2 [X (t+ т^)] ...X
Х%ап [X ( / + т Л - 1 )] (см. примечание15); поэтому ясно, что для реализации ста­
ционарного эргодического процесса X (t) с вероятностью единица будет выпол­
няться соотношение (П. 9), где/ 7 ^, ..., tn (#i> •••> хп) — отвечающая X (t) л-мерная функция распределения (1.3). Нетрудно также понять, что из справедливости
соотношений (П. 9) уже вытекает и общее условие эргодичности процесса X (/).
Разумеется, не каждый стационарный случайный процесс является эргодическим. При этом, вообще говоря, условие эргодичности чаще всего очень нелегко
проверить (исключением 43
является лишь случай гауссовских процессов X (t)
(см. с. 70 и примечание )). Поэтому в приложениях наличие эргодичности
очень часто приходится просто принимать на веру, опираясь прежде всего на
физическую интуицию. Кроме того, если стационарный процесс X {t) не яв­
ляется эргодическим, то при очень общих условиях регулярности (которые на прак­
тике всегда можно считать выполняющимися) множество всех его реализаций
х it) может быть разложено на некоторые непересекающиеся подмножества,
в пределах каждого из которых все временные средние значения т^ с вероятностью
единица сходятся при Т -» сю к постоянным значениям, равным условным сред­
ним значениям Ф (X (t), X (t+ тг), ..., X (t+tn-i)
при условии что peaлизация х (t) принадлежит соответствующему подмножеству.
233
Примечания
Этот важный факт впервые был установлен Нейманом [3051 для широкого
(но все же частного) класса динамических систем, а позже, опять же в рамках
общей динамики, был существенно обобщен Рохлиным [178]; его доказательство
для стационарных случайных процессов может быть найдено в [175, гл. IV,
§ 8]. Указанный факт как раз и придает точный смысл приведенному на с. 59
утверждению о том, что общая (неэргодическая) стационарная случайная функ­
ция X (t) представляет собой смесь различных эргодических функций.
36
Формулу (1.64) проще всего вывести, воспользовавшись формулой для
двумерной характеристической функции гауссовского двумерного распределе­
ния вероятностей и формулой, выражающей моменты многомерного распределе­
ния через производные соответствующей характеристической функции (см.,
например, [60, § 40], или [147, ч. I, § 4.3]). Аналогичным образом может быть
получена и общая ф о р м у л а И с с е р л и с а , выражающая произвольный
центральный момент многомерного гауссовского распределения в виде суммы
произведений соответствующих вторых моментов (см. [150] или [147, § 4.3]).
Из формулы Иссерлиса, в частности, следует, что если вектор (Хъ Х 2 , Х3, Х4)
имеет нормальное распределение вероятностей с нулевым средним значением, то
(ХгХ2Х9Х€) = Ьг 2К 4 + Ьг А 4 + Ьх Л з,
(П. 14)
где Ъц = {XtXf).
При Хг = Х2 = X (t + т), Х3 = Х4 = X (t) последняя
формула
обращается в формулу (1.64).
37
Примем для определенности, что t — непрерывное. Подставив в из­
вестное неравенство Буняковского — Шварца
12
b
Ъ
#
\ f СО g (Т) dT
< ] J f* (Т) dx j g* (x) dx
\\
a
Ъ
a
a
значения a = 0, b = T, f (т) = b (x), g (x) = l/7\ сразу убеждаемся, что усло­
вие (1.65) влечет за собой (1.57а). С другой стороны, например, для функции
b (х) = a cos ох (ее положительная определенность будет доказана в г л . 2 ,
§ 12) условие Слуцкого (1.57а) очевидно выполняется,
а условие (1.65) — нет
(левая часть (1.65) здесь очевидно равна а2/2).
Нетрудно показать, что условие Слуцкого эквивалентно требованию непре­
рывности спектральной функции процесса (или последовательности) X (t) в точке
со = 0, а более жесткое условие (1.65) — требованию непрерывности этой спек­
тральной функции при всех со (см. с. 115—116).
38
Пусть X(t)=X
(t) + ш, где m = (X (*)); тогда
у г
т
"12
b
U0) ~^ l\X(t)-±
$ X(s) ds\dt =
0 L
Т
Го
0
J
т
I2
- Y - Jо rL( 0 " T " JоX ( s ) d s J
Т
[Х (/ ]2 dt
Г
Т
Л
"
"12
х dt
- 4" 1 > - гг J в \
о
L
о
( ПЛ5 >
J
(время / д л я определенности считаем непрерывным). Осреднив правую часть
последней формулы, легко найдем, что б (6£ (0)) = (Ь% (0)) — b (0) = — а ^ ,
234
Примечания
где ам — дисперсия Мт. Напомним, что обычно G2M ~ Т"1 при больших зна­
чениях 7\ так что б2 (bj. (0)) имеет порядок Т" 2 , в то время как дисперсия
оценки Ь% (0) при известном m имеет порядок Г" 1 .
Дисперсия bj> (0) при неизвестном m складывается из дисперсий двух членов
правой части формулы (П. 15) и их смешанного второго момента; при широких
условиях (в частности, в случае гауссовского X (t)) главный вклад в a 2 ( i j (0))
будет вносить дисперсия первого члена, совпадающая со значением a 2 (by (0))
при (X (0) = 0 (см., например, [37]).
Заметим еще, что средний квадрат ошибки А2Т (0) = а 2 (6£ (0)) + б2 (&£ (0))
оценки (П. 15) часто оказывается даже меньшим, чем средний квадрат ошибки
т
(т. е. дисперсия) оценки 7""1 X2 (t) dt в случае, когда (X (/)) =^0; поэтому
о
даже тогда, когда значение {X (t)) — m известно, при оценке дисперсии X (t)
иногда имеет смысл сначала вычесть из всех значений х (t) не т , а величину т?
(ср. [55]). Однако существенно повысить точность оценки дисперсии такое вы­
читание может лишь при относительно коротком (по сравнению с временем кор­
реляции 7\) интервале наблюдения 7\ когда случайно может оказаться, что
все наблюдаемые значения х (f) одновременно заметно отклоняются в одну и
ту же сторону от значения (X (f)).
Ряд примеров расчета среднего квадрата ошибки оценки Ь% (0) дисперсии
гауссовской стационарной функции X (t) (и при известном, и при неизвестном
(X (/))) как для дискретного, так и для непрерывного времени /, а также и род­
ственной оценке (1.606) дискретной оценки bjN (0) может быть найден, в част­
ности, в [16, 39, 40, 87, 134, 144] и [33, 36, 55, 140, 192, 208, 246, 306]. Разу­
меется, ценность такого рода расчетов существенно понижается тем обстоя­
тельством, что точные значения b (т) на практике чаще всего бывают неизвестны.
39
Общие формулы для среднего квадрата ошибки оценки М^п^ =
т
*= Г" 1 Х2п (t) dt момента \i^2n) = (X2n(t)) гауссовского стационарного про0
цесса X (t) с (X (/)) = 0 можно найти, например, в [2, 153] (ср. также род­
ственную более специальную работу
[322]). Простые асимптотические формулы
типа (1.66) для ошибок оценок М ( / ) и М^6) приведены в [128, с. 50] и [294,
с. 72]; их конкретизация для частного случая, когда b (т) = Ce~%lTl, указана
в [2]. Ряд примеров оценки точности определения моментов различных поряд­
ков турбулентных пульсаций в атмосфере по формуле (1.63), примененной к про­
цессу у (t) — xk (t), и сопоставления получаемых при этом результатов с выво­
дами, отвечающими гауссовской модели турбулентных пульсаций, можно найти
в [322]. В [44, 54, 97, 152, 313] средний квадрат ошибки оценки М(г2) момента
jx(2) (а в [2] также и оценок М(г3) и М^4) моментов |Л(3) и [г(4)) рассчитан для сле­
дующих специальных моделей негауссовских стационарных процессов X (t):
пуассоновского импульсного процесса (В. 26) с Еп = const и Г (t) = Ае~^т°
[152, 313]; случайного телеграфного сигнала [152]; процессов X (t) = | Y (t)\
(буквой Y здесь и ниже обозначаются гауссовские процессы с нулевым средним
значением), X (t) = У (t) — с \ Y (t) |, с = const, и X (t) = exp {Y (*)} [2];
процессов X (t) = У2 (*) [97, 152],или X (t) = Yx (t) Y2 (*), где Yt (t) и K2 (t)
взаимно независимы, [44, 97, 152] и процесса X (t) = Y (t) cos (со 0 Н- Ф),
где Ф равномерно распределено на интервале 0 <: Ф <: 2я, [44, 54, 97]. Отме­
тим, в частности, что, согласно результатам работы [2], надежное определение
третьего момента рассматриваемых здесь процессов всегда требует заметно боль­
шего осреднения, чем определение с той же точностью второго момента (этот
Примечания
235
вывод хорошо согласуется и с эмпирическими выводами работы [322]), а оценка
моментов логарифмически нормального процесса X (t) — exp {Y (t)} требует
несравненно большего осреднения, чем оценка той же точности тех же моментов
гауссовского процесса.
40
Примеры условий, обеспечивающих асимптотическую нормальность
распределений вероятностей значений оценок В% (х), Ь$ (х) = В% (х) — М^
и R* (т) = Ъ*т (%)1Ь* (0) функций В (х), Ь (х) = В (х) т го* и R (х) = Ь (%)/Ь (0)
для случая дискретного аргумента / могут быть найдены, в частности, в [211,
гл. IV, §4] и [9, § 8.4]. Любопытно, что условия асимптотической нормальности
распределений Rj, (т) оказываются кое в чем даже более широкими, чем те, при
которых удается доказать асимптотическую нормальность распределений
Bj (х) (см. [9]). Некоторые условия сходимости значений Bj, (т) при Т -> оо
к В (х) с вероятностью единица (т. е. применимости к функции Yx (t) =
= X ( / + т) X (t) усиленного закона больших чисел) указаны в [83, гл. X, § 7
и гл. XI, § 7] и [211, гл. IV, § 3].
41
Формула (1.71) может быть выведена с помощью приложения фор­
мулы (П. 14) к случайным величинам X (/ + s + х) — m, X (t+ s) — m,
X (t + T) — m и X (t) — m; она может быть также записана в виде
В (4) (т, s)-[B(T)f~b\s)
+ b(s+%)b{s-x)
2
+ m [26 (s) + b (s + т) + b (s — %)].
4
? Воспользовавшись формулой (П. 16)
т
[ь(в-\-х)Ь(8—.х)<1%<
о
и
+
известным
Ц/2
гг
т
2
2
dx
(или
К ( И х)^т [ b (s — т)
L0
(П. 16)
неравенством
аналогич-
о
ным неравенством для дискретного t) и тем, что из условия (1.65) вытекает и
условие Слуцкого (1.57) или (1.57а), легко показать, что в гауссовском
случае условие (1.70) (или аналогичное ему условие, относящееся к случаю
дискретного т) эквивалентно более частному условию (1.65).
Формула для среднего квадрата Д^. (т) ошибки оценки В% (х) функции В (х)
получается из формул (1.58) и (1.58а) с помощью замены в этих формулах т на s,
а Г на Т—т, и подстановки функции £ ( 4 ) (т, s) — В2 (х) вместо b (s); анало­
гично может быть получена и формула для среднего квадрата ошибки оценки
&TN (х)- Исходя из формулы для Д^. (т) нетрудно вывести также формулу для
среднего квадрата ошибки оценки by (х) = В\ (х) — М\ функции b (х) и при­
ближенную формулу для среднего квадрата ошибки оценки R^ (т) = bj (x)/bj. (0)
функции R (т). Почти столь же просто могут быть найдены и формулы для вторых
моментов разностей Bj, (х) — В (х), 6J (т) — b (т) или Rj (х) — R (х) при двух
разных значениях т.
Если функция X (t) — гауссовская, то вторые моменты (и средние ква­
драты) разностей В^ (х) — В (т) выражаются через b (т) и го; в случае же разно­
стей Ь^ (х) — b (т) или Rj. (т) — R (х)*эти^моменты'зависят только от b (х) или,
соответственно, от R (х) (причем в применении к оценкам R^ (х) указанный ре­
зультат оказывается справедливым даже и для ряда негауссовских функций X (t)
специального вида). По поводу всех этих результатов см., например, оригиналь­
ные работы [189, с. 144] и [242], атакже книги [9, 14, 101, 210], [13, 16,
39, 40, 78t 125, 131, 134, 162, 170, 185]и [36, 37, 46, 55, 94, 127]. Ср. при­
ч
мечания 48 и б0 , содержащие некоторые добавочные ссылки.
Явные формулы для среднего квадрата ошибки оценок Bj (х), Ь\ (т) и Rf (х)
могут быть получены и для ряда специальных моделей негауссовских случай-
236
Примечания
ных процессов, допускающих вычисление четвертого момента £ г4) ~(т, s); в этой
связи см.,
например, [44, 54, 152, 313].
43
Используя терминологию, введенную в конце примечания 35, можно
сказать, что для гауссовских стационарных функций условие (1.65) является
необходимым и достаточным условием эргодичности. Доказательство этой теоремы
было независимо найдено Маруяма [298], Гренандером [65, § 5.10] и (в несколь­
ко иных терминах и в предположении, что время дискретное) Фоминым [204];
оно изложено, в частности, в [93, § 30], [120, § 7.11] и [175, гл. IV, § 6 ] .
Некоторые обобщения указанной теоремы, относящиеся уже к негауссовским случайным процессам и формулируемые в терминах высших моментов
процесса X (t) или соответствующих многомерных характеристических функций,
могут
быть найдены в [133, гл. 3] и [311, с. 21].
44
Воспользовавшись формулами (В. 16) и (В. 17) и тем, что плотность ус­
ловного распределения вероятностей величины Y при условии, что X прини­
мает фиксированное значение д:, равна р (л:, у)/р± (л:), легко показать, что если
вектор (X, Y) имеет двумерное нормальное распределение с (X) = тг= 0,
( F ) = m 2 = 0 , то условное распределение вероятностей Y при условии, что
X = х, представляет собой одномерное 2 нормальное распределение со средним
значением о2гх/ог и дисперсией о\ (1 — г ). Поэтому условное среднее значение
произведения g (X (t + т)) X (t) при условии, что X (t + т) = х (t + т), равно
g (x(t+т)) х (t+a) R (а). Осреднив это условное среднее значение по всем
значениям х (t + т) величины X(t-\-%) и учтя стационарность X (/)» полу­
чаем формулу (1.72).
Отметим, что условное среднее значение X (t + т) при условии, что X (t) = х,
равно xR (т) и, следовательно, его приближенное определение также может быть
использовано для получения оценки функции R (т) (см., например, [84, 102,
145] или [71, 86, 144], где описаны также некоторые модификации метода услов­
ных средних значений и имеются добавочные ссылки на литературу).
Существенным обобщением формулы (1.72) является так называемая фор­
мула Фуруцу — Донскера — Новикова, позволяющая выразить через Ь (х)
значение (G [X (t)]*X (/))> где G [X (t)] — функционал от X (t), зависящий,
вообще
говоря, от значений X (t) при всех t (см., например, [182, с. 42]).
45
О релейных методах определения корреляционных функций см., в част­
ности, [13, 71, 86, 96, 115, 125, 144, 206, 215, 277]. Вычисление среднего ква­
драта ошибки такого метода рассматривалось в [115, 206, 277]; любопытно, что,
согласно полученным здесь результатам, релейный метод в ряде случаев оказы­
вается более точным, чем непосредственное определение корреляционной функ­
ции с помощью осреднения по времени значений произведения х ( / + т) х (t).
46
Пусть вектор (X, Y) имеет нормальную плотность вероятности (В. 16)
с тг = т2 = 0, a q = Р {X > 0, Y > 0} = Р {Х/ог > 0,1 Y/o2 > 0}. Ясно,
что q не зависит от ог и а 2 ; поэтому законно считать, что о1 = а 2 = 1.
Переходя от декартовых (л:, у) к полярным координатам (р, ф), получаем
оо оо
q=
exp
2^L^ll {-x\'r-Y}dxdy=
к
'
ч
оо
Я/2 оо
= ^кЬ^ J J«■>{"" p-*-~T s № 1}Р4>*v
'
0 0
"•
(i-^)V. Т _ _ Л Е _ _
2я
=
J I — г sin 2(р
=
4г [т +
аГС5
J_ [JL ,
2я [ 2 ^
t
г
ё
I_
(1_г2)'/г J ~
Н = ^rarccos(-r).
Примечания
237
Следовательно, Р {X (t |- т) > О,
X (/) > 0} = q (т) - arccos f— R (т)]/2д,
откуда вытекает, что
Р {X ( / + т) X (t) > 0} = 2q (т) = arccos I—R (х)]/я,
P {X (t + x) X (0 < 0} = 1 — 2</ (x) и, наконец, (sign X (t + x) sign X (f)> =
= 4? (x) — 1 = 2arc sin [R (х)]/я.
По поводу вычисления общих средних значений (g (X (t -\- х)) £ (X (/))) =
— bg (х) или даже (gt (X (t + х) g2 (X (t))), где X (t) — гауссовская случай­
ная функция с нулевым средним значением, см., например, [76, 131, 143, 1971;
вопрос о восстановлении значений b (х) по bg (т) специально изучен
в [258].
Еще более общие средние значения вида (Gx {X (I)] G2 [X (01>> г ле GL и G2 —
функционалы
от X (t)> рассмотрены в [25].
47
О полярных (знаковых) методах определения корреляционных функций
гауссовских случайных функций X (t) с (X (t)) = 0 см., например, [56, 71, 86,
96, 118, 125, 144, 188, 276, 293, 296]. Отметим, что задача нахождения среднего
квадрата ошибки определения функции Ь^ (т) с помощью осреднения значений
sign х (t + х) sign х (t) по конечному интервалу времени до сих пор не полу­
чила удовлетворительного решения.
В случае гауссовской функции X (t) с неизвестным средним значением
(X (t)) =
т формулы (1.72) — (1.74) будут приближенно применимы к функ­
циям Х ( 1 ) (/) = X (f) — Mfy где Мт — оценка (1.53) значения /и, если только
Т достаточно велико. О возможности обобщения релейных и полярных методов
определения
корреляционных функций, а также и упоминавшегося в приме­
чании 44 метода условных средних значений, на некоторые классы негауссовских случайных функций см., в частности, [28, 38, 76, 102, 113, 144, 146, 215,
295, 296].
48
См., например, [13, 48, 71, 81, 86, 96, 114, 118, 125, 144, 177, 188]. Неко­
торые практические рекомендации, касающиеся упрощения вычислений сумм
вида (1.68) и (1.686), могут быть найдены в [165, 253, 283]. Другой подход к той же
задаче, позволяющий очень сильно сократить время расчета таких сумм на ЭВМ
в случаях, когда число используемых наблюдений очень велико, будет рассмо­
трен в § 18.
Отметим еще, что иногда для нахождения корреляционной функции b (х)
применяется и так называемый параметрический метод. В таком случае заранее
предполагается, что искомая функция имеет специальный вид — принадлежит
к некоторому семейству функций, определяемых небольшим количеством число­
вых параметров. После этого данные о значениях х (t) используются для при­
ближенной оценки значений неизвестных нам параметров, уже однозначно за­
дающих форму b (х). Такой подход имеет то преимущество, что функция b (х)
здесь всегда получается достаточно гладкой, быстро затухающей на бесконеч­
ности и удобной для использования при решении ряда конкретных задач, каса­
ющихся случайной функции X (t). Об «аппроксимационных коррелометрах»
см., например, [47, 63]; ср. также § 18, где намеченный подход обсуждается
более подробно.
49
Из формулы (В. 9) легко следует, что если ( [ £ £ (х) — В (х)]2) =
= А?г (X), ТО <[#** (X) -
В (Х)]2) = Д2 Г (х) = (1 -
| т |/7)2Д2, ( т ) + Х2Я2 (Х)/Г2.
Отсюда ясно, что если Ау, (х) -> 0 при Т -+ сю, то и А^т (х) -> 0 при Т -> оо.
В связи со смещенностью оценки В%* (х) следует отметить, что на практике
очень часто основной интерес представляет центрированная корреляционная
функция b (х) = В (х) — пг2 или же нормированная корреляционная функция
R (х) = b (т)/Ь (0) (в частности, именно оценки функции R (х) изображены на
рис. 8 и 9). Но, если (X (t)) = m неизвестно, то оценка bj (х) = В? (х) — М\
функции b (х) уже оказывается смещенной, а несмещенную оценку b (х) здесь
вообще не удается построить (ср. выше с. 67, где этот факт отмечался в при­
менении к оценке величины b (0)). Что касается функции R (х), то ее оценка
Щ W = Ь*т (т)1 Ь* (0), где 6* (х) = В* (х) — т 2 или Ь\ (х) = Я* (х) — М2,,
будет смещенной даже и тогда, когда m точно известно. Поэтому в применении
238
Примечания
к оценке функции R (х) или же функции b (х) при неизвестном т оценка Bj. (х)
функции В (т) не имеет никаких преимуществ перед В^* (х).
Принадлежащий Кеную приближенный метод устранения смещения оценки
#* (х) состоит в замене /?* (т) на 2Я* (т) — [Я$ 2 *(т) + /?J?/ 2 *(T)]/2; где Я ^ т )
и /?7??2* (х) — оценки типа # £ (т), построенные по первой и второй половинам
используемого ряда х (t) (см., например, [101, § 48.4]); при этом, однако, воз­
растает дисперсия используемой оценки. В [101, § 48.4] имеются и ссылки
на работы, в которых рассчитывается смещение оценки Rj, (х) для гауссовских
стационарных последовательностей с неизвестным средним значением; при­
меры расчета смещения оценки b^ (х) = Bj. (х) — М^ функции b (х) могут быть
найдены в [55].
Отметим еще, что вклад смещения в суммарную ошибку оценок Ь% (х) и
R* (х) чаще всего оказывается сравнительно небольшим, так как смещение (т. е.
систематическая ошибка) при Т -> оо обычно убывает как Г" 1 , в то время как
средняя квадрэтическая случайная ошибка убывает как Г"1у/2 (ср. примечание 3 8 ).
60
Предположение о том, что для гауссовских стационарных случайных
функций X (/) с (X (/)) = 0 всегда А2Т (т) <: д £ (т), было высказано Парзеном. Проверке этого предположения посвящена значительная часть работы [319],
некоторые результаты которой изложены в [78, вып. I, § 5.3]; ср. также работу
[55], содержащую результаты того же типа для случая, когда (X (t)) неиз­
вестно. .
Парзен исходил из того, что, во-первых, А2Т (0) = А2 (0) (ибо В™ (0) =
= В*т (0)), но, как нетрудно проверить, dA\T (x)/dx < dA\ (x)/dx при x = 0,
так что всегда Д ^ (х) < А\ (х) при малых значениях х (причем А2Т (х) всегда
убывает, а А2Т (х) может и возрастать с ростом х в окрестности точки х = 0),
и, во-вторых, Ь\т (Т) = Ь2 (Т) < Ь2 (0) + Ь2 (Т) = А2Т (Т).Шерф[319]вычислил
значения функций А\т (Х) И Д2 (Х) ДЛЯ гауссовских процессов X (t) с (X (/)) = 0,
для которых b (х) = Се~а' т ' , или же b (х) = С cos сох, или Ь(т) = С(1 — а |х|)
при | т | < от 1 и b (х) = 0 при | х | > а" 1 , или, наконец, b (х) = b (0) = const,
а также для произвольных гауссовских стационарных последовательностей
X (t) с (X (t)) = 0 в предположении, что Т < 4. Во всех этих случаях оказалось,
что А2Т (х) < А.2 (х) при всех х =f= 0, причем иногда различие между Д^(х)
и Ду, (х) было весьма большим. Герман, Морозов и Свалов [55] выполнили ана­
логичные расчеты для гауссовской стационарной последовательности с b (х) =
= Са} т ' и неизвестным средним значением (X(t)), которое заменялось его оцен­
кой Мт; оказалось, что здесь уже Д ^ (х) > А\ (Х) при некоторых малых зна­
чениях х, но разность Д | (х) — Д ^ (х) при таких х очень невелика, в то время
как при дальнейшем возрастании т эта разность меняет знак и может иногда
принимать большие по модулю отрицательные значения. Поэтому они пришли
к выводу, что и при неизвестном (X (t)) оценка типа В^* (х) предпочтительнее
оценки типа В% (х).
51
В самом деле, пусть хт (t) = х (t) при 0 < t < Т и хт = 0 при / <: 0
или t > Т. Будем для определенности считать время непрерывным; в таком
случае формулу (1.75а) можно переписать в виде
оо
Вт* (хг — т 2 ) — - 1 - J хт (t + %х — т 2 ) хт (t) At -
239
Примечания
1
\xT(t-[-xl)xT{t-\-x2)dt.
Отсюда легко следует, что
п
У
Br*(rl — xk)clck=-jr
оо
Г п
I I >j сУхг ( / + ту)
dt > 0.
k=i
52
«Окно Парзена» задается
формулой:
ат (т) = а (%/kr) у
где
а(х)= 1 — 6*2 + 6 | х | 3 при 0 < | * | < V 2 , а (*) = 2 (1 — | х|) 3 при Ч2<
< | х | < 1 и а (я) = 0 при | JCI > 1 (ср. [311, с. 141]). Положительная опре­
деленность такой функции а (х) = ар (х) следует из того легко проверяемого
факта, что с точностью до выбора единиц измерения на осях координат ар (х)
совпадает со сверткой с самой собой функции ав (х) = max (1 — \х\, 0), задаоо
ющей окно Бартлетта, т. е. с функцией
\ ав (х — Xj) ав (xi) йхг. В свою оче—оо
редь функция ав (х) с той же степенью точности совпадает со сверткой двух
функций аг (х), изображенных на рис. 10 а; исходя из этого, легко доказать,
что и функция ав (х) также является положительно определенной. См. также
§ 18 и примечания м в - ш .
53
Как и в вещественном случае, для доказательства достаточно пока­
зать, что для любой комплексной положительно определенной функции В (т)
существует гауссовская комплексная случайная функция X (t) (задаваемая
совокупностью гауссовских конечномерных распределений вероятностей), кор­
реляционная функция которой совпадает с В (т). Построение такой функции
более громоздко, чем аналогичное построение в вещественном случае, но в прин­
ципе оно столь же просто. Заметим, что теперь уже значения (X (t)) = tn и
{X (t) X (s)) = В (t — s) не определяют однозначно все задающие X (t) много­
мерные гауссовские распределения вероятностей, зависящие от всех моментов
(Xj (t) Xk (s)), / = \,2,k=
1, 2, а не только от их комбинации (1.77). Поэтому
здесь для однозначности надо наложить на функцию X (t) дополнительные усло­
вия (см., например, [83, гл. II, § 3] или [136, § 34.1]).
54
По поводу определения и свойств гильбертовых пространств см. любой
учебник функционального анализа (например, [12] или [110]). Отметим еще,
что для возможности считать Н гильбертовым пространством на самом деле
надо также, чтобы оно было полным в том смысле, что в нем из условия
lirri
|| Хп — Х т | | = 0, где Xlt Х 2 , ..., Хп, ... — последовательность эле/2-»оо, т-^оо
ментов Я, вытекало бы существование элемента
X = lim Хп
такого, что
П-Уоо
|| X — Хп\\ -» 0 при п -> оо. В частном случае рассматриваемого на с. 80—81
гильбертова пространства случайных величин полнота очевидно следует из ре­
зультатов, о которых говорится на с. 49—50.
55
Для комплексных случайных величин X и Y также справедливо не­
равенство Коши — Буняковского — Шварца, имеющее в данном случае вид:
| (XY) | <: (| Х | 2 ) 1 / 2 ( | Y | 2 ) 1 / 2 . Отсюда просто выводится неравенство (| Х +
+ Y | 2 ) 1 / 2 < : (| X | 2 ) 1 / 2 + (| Y | 2 ) 1 / 2 , показывающее, что в пространстве Н длина
стороны X+Y треугольника не превосходит суммы длин двух других его сто­
рон X и К, так что если <| X |2> < оо и <| К | 2 ) < оо, то и <| X + Y |2> < оо.
56
Строго говоря, для того/ чтобы о X (f) можно было говорить как
о кривой в обычном значении этого слова, надо еще потребовать, чтобы выпол­
нялось следующее условие непрерывности: расстояние между точками X (t) и
240
Примечания
X (f) должно стремиться к нулю при /' -> t. Легко понять, что это условие
эквивалентно условию непрерывности процесса X (t) в среднем квадратичном.
Вообще, сходимость последовательности случайных величин Х ь Х 2 , ..., Хп, ...
к X в среднем квадратичном означает, что расстояние между точкой Хп про­
странства Н и точкой X стремится к нулю при п -> сю.
Представление о случайном процессе (или последовательности) как о кри­
вой (или последовательности точек) в гильбертовом пространстве впервые было
введено Колмогоровым [106, 107].
Глава 2
57
См., например, [9, с. 252—253], где доказано, что если В (т) = 0 при
| т | > я, то всегда могут быть найдены числа 6 0 , Ьъ ..., Ьп такие, что для них
выполняется равенство (2.5). Договорившись считать что bk = 0 при k > п
и при к < 0 и рассмотрев сразу более общий случай, когда В (т) могут прини­
мать и комплексные значения, мы можем соответствующую формулу (2.5) пере­
писать в виде
оо
B(i-s)=
оо
Г bk+i_sbk=
k=—оо
1;, Ь,_!В_,.
(П. 17)
/=—оо
То, что отсюда уже вытекает и возможность представления последовательно­
сти X (t) в виде (2.4), является следствием теоремы об обобщенном
спектральном
разложении случайных функций, указанной в примечании 71.
Частные примеры последовательностей скользящих средних рассматрива­
лись Юлом в 1921 г. и Слуцким в конце 20-х гг. (см. [189], с. 97 и 144); общий
случай58был рассмотрен Волдом [334].
Простое описание классов стационарных случайных последовательно­
стей X (t), представимых в виде двусторонних скользящих средних (2.8) или
односторонних скользящих средних (2.6), было дано Колмогоровым (см. [107],
а также [83, гл. X, § 8, и гл. XII, § 4] или [9, § 7.5.2 и 7.6.3]) на основе спек­
трального представления соответствующей корреляционной функции В (т),
о котором говорится в § 15 этой книги.
Согласно Колмогорову, для возможности представления последователь­
ности X (t) в виде (2.8) необходимо и достаточно, чтобы существовала спектраль­
ная плотность / (о) (Т. е. чтобы В (т) можно было представить в виде интеграла
Фурье (2.196)); для возможности представления X (t) в более частном виде (2.6)
необходимо и достаточно, чтобы спектральная плотность / (аз) удовлетворяла
я
условию
| lg / (со) | dco < о о (так что, в частности, теперь уже / (со) не может
-я
тождественно равняться нулю ни на каком интервале значений со).
оо
5» Пусть (1 + OJ.Z+ ••• + а т г т Г 1 = У т / г / ,
1=0
Vo = I.
при
|г|<1.
ОО
Тогда нетрудно проверить, что X (t) = с ^yjE(t
— /) будет удовлетворять
/=о
разностному уравнению (2.13) и будет представлять собой единственное стацио­
нарное решение этого уравнения, к которому при t — t0 -> сю будет стремиться
и любое решение задачи с начальными условиями для (2.13), вне зависимости
от того, как были выбраны начальные значения xto, xt г, ..., */0_m+i ( см [9, § 5.2.1]; ср. также [53, гл. 5]).
60
Небольшая таблица случайных чисел имеется, в частности, в [142];
существуют и гораздо более обширные таблицы того же рода. В настоящее
241
Примечания
время, однако, гораздо чаще последовательности е (1), е (2), ...,е(&), ..., ими­
тирующие реализацию ? последовательности независимых случайных величин
(числа е (k) в этом случае называются п с е в д о с л у ч а й н ы м и
чис­
л а м и ) , каждый раз заново подсчитываются по определенным правилам на
ЭВМ (см., например, [20, 142]).
61
Формулы (2.15) — (2.156) в немного другой форме впервые были ука­
заны Кендаллом (см. [281], а также [14, § 5.2] и [101, § 47.19]). Простой вы­
вод этих
формул приведен на с. 182 этой книги.
в
?
Определим
коэффициенты 7/ так же, как это было сделано в примеча­
нии б9 . Нетрудно проверить, что в таком_случае
оо
п
^(O-cI-IvW-/-*). 6о=1,
(П. 18)
/=0*=0
будет являться единственным стационарным решением уравнения (2.17), при­
чем к этому решению при t — t0 -> оо будет стремиться любое решение задачи
с начальными условиями независимо от выбора начальных значений (см. [9,
§ 5.8.1] и [53, гл. 5]).
63
Заметим еще, что процесс с дискретным спектром можно определить
и как стационарный случайный процесс, корреляционная функция которого
имеет вид (2.39). В самом деле, Слуцким было доказано [189, с. 252], что любой
случайный процесс X (t) с корреляционной функцией вида (2.39) всегда может
быть представлен в виде (2.38), где (XkXi) = 0 при k Ф I. Эта теорема Слуцкого
является частным случаем общей теоремы о спектральном разложении стацио­
нарных процессов, рассматриваемой в § 10.
64
В силу независимости величин Еп и Ет при п Ф т и независимости
приращений процесса N (t) на непересекающихся интервалах имеем: (ЕпЕт) =
= т\ при пфт, (ЕпЕт) = (Е\) =т2Е-{-о2Е при п = т и (dN (s) dN ( s j ) =
= (dN (s)) (dN (si)) при s Ф s x . Так как вклад диагонали s = s x в значение
двойного интеграла от ограниченной функции переменных s и sx очевидно равен
нулю, то легко получаем
(X (t + т) X (0> = L S (ЕпЕп) (Г (t + т - /„) Г (/ -/„)> =
п т
= ( т | + о|) / S Г (t + т - /„} Г (* - t„)\ +
\ п тФп
I
оо
= (m| + o|)
\T(t-}-%-s)T(t-s){dN(s))-\—СО
оо
со
+ m| J \T(t-\-x-s)T(t-sl)(dN(s)){dN(s1))
— оо — о о
оо
= Я (т% + ог|) J Г (/ -|- х - s) Г (/ - i) J.s f
—СО
со оо
+ X2m| j J r ( / - | - T - s ) r ( < - s 1 ) d s d s l ,
что эквивалентно формуле (2.44).
=
242
Примечания
65
Теорема Кэмпбела, так же как и более общие формулы (2.43) — (2.46),
представляет собой простейшие результаты теории импульсных случайных
процессов, рассматриваемой, в частности, в [131, 143, 181, 194, 197] (см. так­
же специальную монографию [111] о таких процессах).
Приведем здесь одно простое обобщение формул (2.43) и (2.45). Пусть
X (0 = Е ЕпТ (t - tn; Z„),
(П. 19)
п
где последовательности {Еп} и {tn} —такие же, как и в (2.41), a {Zn} — еще
одна последовательность взаимно независимых одинаково распределенных
случайных величин, независимых и от всех Еп> и от всех tn (так что зависящая
от Zn форма импульсов Г (t— tn; Zn) теперь уже сама оказывается случайной).
В таком случае, повторив рассуждения, приведшие нас к формулам (2.43) —
(2.4G), но добавив еще в качестве последнего шага осреднение по распределению
вероятностей величин Zni найдем, что
m = (X (/)) « KmE( J Г (и; Z) du\
(П.20)
b(x)^X(m% + o2E)( \v(u + %;Z)V{u;Z)du\
(П.21)
где Z имеет то же распределение, что и все Zn. В частности, если все импульсы—
прямоугольные и имеют случайную
ширину Z [ так что} I Г (и; z) du = г,
[ Г (м+т; 2) Г (и; z) du= max {г — | т |, 0} I ,
a Z принимает только неотрицательные значения и при 2 > 0 имеет
плотность вероятности р(г) = ае'аг>
то, как легко проверить, т = Я т £ а ~ 1 ,
6(х) = Я.а- 1 (т| + о | ) в - а | Т ' .
66
Пример (2.54) и формула (2.55) принадлежат Хинчину (см. [213]).
Известно (см., например, [24] или [41]), что для любой (даже и не­
го
ограниченной) функции Г (и) такой, что
Г 2 (и) du < сю, существует преоб67
— оо
00
| Г (и) e~l(0Udu (где интеграл иногда надо по-
разование Фурье у (со) =
нимать в некотором специальном смысле), причем у (—о) = у (о) и имеет место
следующая формула Парсеваля:
со
сю
j Г (и + т) Г (и) du = \е
—со
Шх
| у(ш) |2 dm =
—со
со
=s 2 J cos сот | у (со) |2 dco.
Примечания
243
Отсюда вытекает, что функция (2.45) может быть записана также в виде (2.53),
О)
где F И = Я. (т% + <т|) j | у (со') | 2 A D ' .
-00
68
Сформулированная теорема Хинчина [213] очевидно является про­
стым следствием теоремы Бохнера — Хинчина (см. с. 222) и того факта, что
корреляционная
функция обязательно является положительно определенной.
69
По поводу почти-периодических функций х (/), допускающих предстаоо
вление вида х (t) = ^ j аигшк1,
см., например, [41, §§ 24 и 25]. Эти функции
характеризуются следующим свойством: для любого е > 0 здесь можно найти
такое число Т0 -- Т0 (е), что | х (t-\- 1\) — х (/) | < е при всех /.
70
Об обобщенном гармоническом анализе см. [41, гл. IV] (ср. также
[244], 71[256, § 3.9] и 193, § 25]).
Первые доказательства теоремы о спектральном разложении при­
надлежат Колмогорову [106, 107] и Крамеру [261]; см. также работы [32, 57,
58, 83, 93, 120, 136, 175, 227, 252], содержащие целый ряд таких доказа­
тельств.
Самый прямой путь доказательства указанной теоремы опирается на исполь­
зование формулы обращения интегралов вида (2.61), известной для некоторых
классов обычных (неслучайных) функций X (t) и Z (t) (см., в частности, фор­
мулу (П. 4)) и имеющей вид
т __.
Z(со) = lim -±-
j
е т
_~Х
X(0 di + Z0
(П.22)
(где Z0 — не играющая роли постоянная, которую можно вообще приравнять
нулю). Для получения нужного нам доказательства надо лишь показать, что
формула (П. 22) (где и интеграл от —-Т до 7\ и предел при Т -> сю надо пони­
мать в смысле сходимости в среднем квадратичном) действительно определяет
случайную функцию Z (со), обладающую свойствами а') и б') и такую, что для
нее интеграл по dZ (со), фигурирующий в правой части (2.61), существует и сов­
падает с исходным стационарным процессом X (t), входящим в правую часть
(П. 22). Все перечисленные факты могут быть выведены из относящихся к инте­
гралам результатов § 4 и общей формулы (2.52) для корреляционной функции
В (т) процесса X (/) (т. е. теоремы Хинчина), причем аккуратное их доказатель­
ство оказывается сравнительно несложным, хоть и довольно громоздким (см.,
например, [227, с. 33—35]).
Имеется также ряд других доказательств теоремы о спектральном разло­
жении, на одном из которых, не включающем вывода явной формулы для Z (со),
но являющемся зато по существу очень простым и допускающим важные обоб­
щения, мы здесь остановимся несколько подробнее.
Воспользуемся снова формулой (2.52) для В (т) и наряду с гильбертовым
пространством Нх> введенным на с. 81 рассмотрим еще гильбертово про­
странство L 2 (F) функций ф (со), — о о < с о < о о , удовлетворяющих условию
00
I | ф (со) |? dF (со) < сю, причем интеграл в пределах от —оо до оо от | ф (со) |?
—со
по dF (со) как раз и определяет квадрат нормы || ф (со) fL вектора ф (со) простран­
ства L2(F). Соответственно этому, скалярное произведение векторов ф (со) и
¥ (со) указанного пространства L2 (F) задается равенством
со
(Ф (со), W (co))L = J <р (со) ¥ Й dF (со).
—СО
(П.23)
244
Примечания
Формулу (2.52) для В (т) в таком случае можно очевидно переписать в виде
(X(t)~X(s))
= (eUa,
eise>)L.
(П.24)
Сопоставим теперь элементам X (/) гильбертова пространства Нх элементы
т
eltc* пространства L2(F)y а линейным комбинациям J j с^Х (tk) — линейные
k=\
т
lt
комбинации £ , Cke k^. Опираясь на (П. 24), легко проверить, что отображение
т
т
Г^Х(.'*)-1Че ,7 * ю
(П.25)
является линейным изометричным отображением элементов Нх на элементы
L 2 (F), т. е. таким линейным отображением, что скалярное произведение любых
двух элементов указанного вида в Нх совпадает со скалярным произведением
отвечающих им элементов пространства L 2 (F). Отсюда, в частности, следует,
т
п
что если ^ cj^XY/J^) = Yn, п = 1, 2, ... — произвольная последовательность
/г=1
линейных комбинаций значений X (t)> при п -> оо сходящаяся (в среднем ква­
дратичном) к какому-то вектору Y пространства Нх* то соответствующая по-
Г" м «iB)»
следовательность JK с\ е
— ФпС00) элементов L2 (F) также будет сходиться
при п -> оо к некоторому элементу срг (со) пространства L2 (F) (в том смысле,
что || ф^ (со) — фу (со) ||| -> 0 при п -> оо), причем фу (со) будет зависеть только
от У, но не от выбора сходящейся к Y последовательности Yn. Поэтому соот­
ветствие (П. 25) естественно распространить и на рассматриваемые здесь пределы,
положив
7~cpy(coj.
(П.26)
Нетрудно видеть, что расширенное таким образом соответствие (П. 25)—
(П. 26) будет уже являться линейным и изометричным отображением всего гиль­
бертова пространства Нх на все гильбертово пространство L2 (F) функций ф (со)
с интегрируемым по dF (со) квадратом модуля*. Пусть теперь Хд^ (со)— это
так называемая индикаторная функция интервала Асо = [сох, со2], определяе­
мая равенствами: Хд^ (со) = 1 П Р И со <: со < со2 и Хд^ (со) = О при со < со
или со > со2. Ясно, что функция Хдю (со) принадлежит /,<, {F)\ обозначим сим­
волом Z (Асо) тот элемент Нх, который при отображении (П. 26) переходит в эле­
мент Хдю (со) пространства L2(F). При (X (t)) = 0 все элементы Нх — это
случайные величины с нулевым средним значением, так что Z (Асо) очевидно
обладает свойством а), указанным на с. 102; свойство б) здесь сразу следует из
того, что функции Хд о (со) и Хд о (со) ортогональны в L2 (F), если интервалы
* Этот факт следует из легко доказываемой полноты линейных комбинаций
функций elt{* в L2 (F) (или, иначе, из отсутствия в L 2 (F) ненулевого элемента
^ (со), «перпендикулярного» всем элементам е , — o o < f < ° ° ) «
Примечания
245
AiG) и А2 со не пересекаются, а свойство в) является совершенно очевидным.
Далее, в силу линейности отображения (П. 26) ясно, что
Г akZ (Д*со) «-* Г я*Хдло (со).
(П.27)
Если^теперь выбрать a l t ..., ат, Aico, ..., Amco так, что а& равно значению не­
которой непрерывной функции ф (со) из L2 (F) в какой-то точке интервала Д^со,
то левая часть (П. 27) будет представлять собой интегральную сумму, отвеча­
ющую интегралу 1 ф (со) Z (dco), а правая часть (П. 27) будет ступенчатой функ­
цией, аппроксимирующей ф (со). Отсюда ясно, что
со
J Ф (со) Z (dee) *+q? (©)
(П.28)
—СО
при нашем отображении (П. 26) для всех непрерывных функций ф (со) из L 2 (F),
Подставляя в (П. 28) ф (со) = elt<u и учтя, что elt(d*-+X (t)y сразу приводим
к формуле (2.58).
Остановимся теперь вкратце на важном вопросе о возможности распростра­
нения намеченного здесь доказательства теоремы о спектральном разложении
на широкие классы случайных функций, отличных от стационарных случайных
процессов. Пусть X (t) — случайная функция, определенная на произвольном
множестве Т точек /, с нулевым средним значением и конечной корреляционной
функцией (X (t) X (s)) = В (t, s), допускающей представление вида
B(t, s ) = \v(i,
a)W(s, a)F{da).
(П.29)
Здесь Y (t, a) — функция (вообще говоря, комплексная) точки t множества Т
и дополнительного аргумента а, пробегающего некоторое множество значений А,
a F — мера на Л, т. е. неотрицательная функция подмножеств Да множества Л,
определенная для достаточно широкого класса таких подмножеств и аддитив­
ная, т. е. такая, что F (Аха) + F (А2а) = F (Аха + Д 2 а), где Аха и Д2а — непе­
ресекающиеся подмножества, a Aja-r- A2a — их объединение. В таком случае
при широких условиях интеграл (П. 29) по мере F (da) может быть определен,
например, аналогично обычному определению интеграла Стилтьеса]|(см., в част­
ности, [110]). Теперь мы можем рассмотреть отображение
X (*)«>¥(/, а),
(П.ЗО)
являющееся изометричным отображением элементов X (t) гильбертова простран­
ства Нх на элементы Y (t, а) гильбертова пространства L 2 (F) всевозможных
функций Ф (а) на Л с интегрируемым по мере F (da) квадратом модуля, а затем
линейно и непрерывно распространить это отображение на все конечные линей­
ные комбинации элементов X (t) и на все пределы таких комбинаций.
Допустим еще, что линейными комбинациями вида ^с£¥ (/&, а) можно с
к
любой степенью точности приблизить (в среднем квадратичном по F (da).
индикаторную функцию %да (а) любого подмножества Аа из того класса под­
множеств, который используется при определении интеграла по F (da))
В таком случае намеченное выше доказательство теоремы о спектральном
разложении стационарных процессов можно будет без труда перенести и на
случайную функцию X (t) с корреляционной функцией (П. 29). В применении
246
Примечания
к этой функции оно обратится в доказательство существования «обобщенного
спектрального разложения» вида
X(t)= JY(*. a)Z(da\
(П.31)
где Z—комплексная случайная аддитивная функция подмножеств Да такая,
что (Z (Да))=0, (ZAja) Z (А2а)) = 0 для любых непересекающихся подмножеств
AiflH Д 2 а и (| Z (Да) | 2 ) = F (Да), а интеграл по Z (da) имеет тот же смысл, что и
интеграл (2.58) по Z (day). Более того, с помощью несложного искусственного
приема можно показать, что возможность аппроксимации функций %д (а) ли­
нейными комбинациями функций ¥ (/#, а) вовсе не необходима для справедли­
вости разложения (П. 31)*, так что из представимости корреляционной функции
В (t, s) в виде (П. 29) всегда следует возможность представления самой функции
X (t) в виде (П. 31) (где, однако, значения случайной меры Z (Да) могут, вообще
говоря, не принадлежать пространству Нх)- Выделенное курсивом предложение,
принадлежащее Карунену [280] (см. также [232]), составляет содержание
т е о р е м ы об о б о б щ е н н о м с п е к т р а л ь н о м
разложении
с л у ч а й н ы х ф у н к ц и й ; множество А здесь может быть также и дис­
кретным, и тогда интегралы в правых частях (П. 29) и (П. 31) обращаются
в обычные суммы (одн^ применение этого частного случая общей теоремы уже
упоминалось в примечании 5 7 ).
72
Как известно, первый ставший известным пример нигде не дифферен­
цируемой функции был построен немецким математиком Вейерштрассом в 70-х гг.
прошлого столетия **. Этот пример вначале вызвал всеобщее недоумение;
многие математики в течение ряда лет продолжали настаивать на том, что он
неверен, а другие отказывались признавать за нигде не дифференцируемыми
функциями право называться функциями. Постепенно, однако, математики
привыкли к тому, что нигде не дифференцируемые функции действительно суще­
ствуют, но физики еще долго не хотели с этим соглашаться и воспринимали такие
функции как уродливые порождения математической фантазии, не имеющие
отношения к реальному миру (т. е. исходили из принципа, что «в физике все
функции дифференцируемы»). По-видимому, впервые в физике нигде не диф­
ференцируемые функции появились в теории брауновского движения, когда
Винер доказал, что в теории Эйнштейна — Смолуховского траектория брауновской частицы с вероятностью единица оказывается нигде не дифференцируе­
мой. В этом случае, однако, можно было считать, что недифференцируемость —
* А именно, если комбинациями функций ¥ (tkt а) нельзя аппроксимиро­
вать все функции %дя (а), то наряду с X (t) привлекается еще вспомогательная
некоррелированная с X (t) функция Y (г) на каком-то новом множестве R то­
чек г такая, что (Y, (г)) = 0, a (Y (г) YjFj) = j Y, (г, а)х¥1 (ru a) F (da),
А
где
^ х (г, а) ¥ (t, a) F (da) — 0 при всех г £ R и / £ Г, но комбинациями
А
вида ^Ck*? (tk> а) + X ^ / ^ i ^ / » а ) У ж е м о ж н о сколь угодно точно прибли*
/
зить все Хда (#)• Нетрудно показать, что такая функция Y (г) всегда существует,
после чего доказательство существования обобщенного спектрального разложе­
ния можно приложить к заданной на Т + R случайной функции, принимающей
значения X (f) на Т и Y (г) на R.
** Впоследствии выяснилось, что аналогичный пример содержался также
в работе, написанной чешским математиком Больцано не позже 1830 г. (неопу­
бликованной лишь в 1930 г.); для нас здесь, однако, это не имеет значения.
247
Примечания
следствие недопустимой идеализации в постановке задачи (так как в более точной
теории Уленбека и Орнштейна, учитывающей инерцию брауновских частиц,
их траектории уже оказывались дифференцируемыми — см. в частности, при­
мечание 97 на с. 252). Но в спектральной теории стационарных случайных про­
цессов нигде не дифференцируемые функции Z (со) возникают уже совершенно
естественным образом^и избавиться от них здесь возможно лишь отказавшись от
имеющего ясный физический смысл условия стационарности, только и делающего
рассматриваемую теорию простой и наглядной.
Отметим еще, что в последние годы было высказано также мнение, что нигде
не дифференцируемые функции на самом деле могут служить прекрасными мо­
делями широкого круга явлений реального мира (см. [297]).
73
Напомним, что теорема Слуцкого относится к вещественным процес­
сам, для которых Ь{—т) = ^?(т). Следовательно,
TO
l
y - fj f^ c
^^r
- ч^Jd x ^ ^
■ jb(T)dT
J 6(T)dx
= - ^ j je' df(co)dT=.
—T
^ТГ
J
Ш
-T—oo
dF(®)=
J yT(o>)dF((d)%
где срг (со) = sin соТ/соГ, так что Фг (0) = 1, | Фг ^со) | <: 1 при всех со и Г и
фг (со) | —^ 0 при Т -> оо, если только со Ф 0. Воспользуемся тем, что AF (0) =
= lim [F (h) — F (—h)]t где F (h) — F (•— h) — монотонно неубывающая функция К Выберем К так, что F (И) — F (—/i) < : А/7 (0) + 8, и положим
оо
—Л
h
J ф г (со) dF (со) = [ фГ (со) dF (со) + j фг (со) dF (со) +
—оо
— оо
—h
+ j Ф г (со) dF (со) = #> + If + /f3).
Ясно, что для любого 8 > 0 существует Т0 = Т0 (е, К) такое, что | Фг (со) | < в
-/г
при j r > r
0
и |co|>/i;
поскольку
оо
J dF (со)< 6 (0) и
f d/7 (со) <£ 6 (0)#
то, значит, / f l ) - > 0 и /^ 3) -► 0 при Т -Too. Далее, /^ 2) < F (/i)+^(—Л)<?
< AF (0) + 8, так как фг (со) < 1. С другой стороны, при любых Т и h суще­
ствует такое / i r << Л, что ф г (со) >> 1 — в при | со | < / i r и, значит, /^ 2) >
> ( 1 — 8) [F (hT) — F (— hT)] > (1 — в) AF (0). Отсюда ясно, что /£>> -> AF (0)
при Т -> оо.
Аналогичным образом можно доказать, что
Г/2
у-
j X(t)dt-+AZ(0) при Г->оо,
(П.32)
-Г/2
где AZ (0) — скачок в нуле случайной [функции Z (со), входящий в спектральное
разложение самого процесса X (t) (именно X (0, а не X (t) = X (t) — (X (*)».
248
Примечания
Величина AZ (0) обязательно включает в себя неслучайное слагаемое т —
= (X (/)); она будет или не будет включать еще и чисто случайное слагаемое
(с нулевым средним значением) в зависимости от того, положителен или равен
о
нулю 74
скачок AF (0), где F (со)—спектральная функция процесса X (t).
Действительно, так как Ь (т) — корреляционная функция, то функ­
ция Ь2 (х) также может являться
корреляционной функцией (ср. с. 46).
Корреляционной функции Ь2 (т) отвечает спектральная функция F(2) (со) =
с»
=
\ F (со — со') dF (со') в силу известной теоремы о свертке теории интег— оо
ралов Фурье
то, что
| ^ lTO) ^F (2) (co) = b2 (т), легко также проверить).
Поэтому в силу (2.87) левая часть (2.88) равна АЯ 2 ) (0). Но если функция F (со)
непрерывна, то, как легко видеть, непрерывной будет и ее свертка с самой собой
Fi2) (со) и, значит, в этом случае AF(2) (0) = 0.
75
Сформулированное здесь соотношение неопределенностей, разумеется,
связано с тем фактом, что переходу от функции В (т) к «сжатой в а раз» функции
аВ (ах) той же площади в терминах преобразований Фурье соответствует пере­
ход от / (со) к «растянутой в а раз» функции / (со/а). Математически этот принцип
записывается в виде неравенства: АВ* А/ > JA, где АВ и А/ «ширина» функции В
и соответственно /, которую можно определять по разному, а и — некоторая
постоянная, зависящая, конечно, от выбора определений АВ и А/ (см., напри­
мер, [207, § 11] и [217, § 2.8]). Название «соотношение неопределенностей»
связано с тем, что одна из наиболее обычных форм указанного неравенства ока­
зывается, как это было впервые показано Вейлем, точно эквивалентной извест­
ному «соотношению неопределенностей! Гейзенберга» квантовой механики.
'• См., например, [221, гл. I I ] , [75, § 7.4 и 9.4], [143, т. 1, гл. 10 и 11].
Ср. также с. 156.
Отметим еще, что аналогично тому как в математическом анализе вводится
понятие «обобщенной функции», о котором говорилось в примечании 2 , может
быть введено также и понятие о б о б щ е н н о г о с л у ч а й н о г о п р о ­
ц е с с а , для которого не обязано существовать «значение в точке X (/)", но
тем не менее для широкого класса линейных измерительных приборов (характе­
ризуемых своими весовыми функциями h (t) — см. § 13 этой книги) может быть
определен «результат измерения значений процесса X с помощью данного при­
бора», представляющий собой случайную величину X (/i), линейно зависящую
от весовой функции h (t) (см. [51, гл. III]).
Белый шум представляет собой простейший пример обобщенного случай­
ного процесса, играющий в теории таких процессов ту же роль, какую играет
б-функция в теории обобщенных функций.
77
Например,
амплитудно-модулированному
колебанию
X (t) =
= A (t) cos (со0* + Ф)| где со0 — фиксированная частота, Ф — случайная вели­
чина, равномерно распределенная на интервале [0, 2я], a A (t) — независимая
от Ф случайная функция, имеющая экспоненциальную корреляционную функ­
цию вида (2.89). См., в частности, [15, гл. 5], где специально рассматриваются
корреляционные функции вида (2.96).
78
Расчет корреляционной функции осредненного поля давления и ее
аппроксимация функцией (2.114) были выполнены автором и включены в его
диссертационную работу [231 ]. Вместо атмосферного давления на поверхности
Земли в этом расчете использовалась высота изобарической поверхности 700 мбар,
выражающая фактически значение давления на высоте около 3 км. Осреднение
по большой территории здесь специально вводилось для того, чтобы от характе­
ристики быстро меняющейся «погоды в данном месте» перейти к характеристике
«средней погоды на большой площади», имеющей сравнительно медленно зату-
Примечания
249
хающую корреляционную функцию. Разумеется, если не стремиться к большой
точности и ограничиться аппроксимацией лишь начального участка графика
функции Rj-N (т) функцией, задаваемой аналитическим выражением, то и здесь
можно подобрать также и более простую приближенную формулу вида (2.96)
или даже (2.89) (см., например, [289]).
79
См., например, [198, с. 173—174].
80
Корреляционная функция (2.119) любопытна тем, что здесь кор­
реляционная функция В (т) и спектральная плотность / (со) имеют одинако­
вую форму, т. е. их графики различаются лишь выбором масштабов вдоль
осей координат. Существуют и некоторые другие примеры такого рода; в част­
ности,
B(t)=~T?—,
/(<*>) = о ь ? * /о 1'П-33)
4
v
ч
'
ch ат ' '
'
2а ch (лсо/2а)
'
81
Ср. [83, гл. XI, § 10], [175, гл. I, § 10]. Винер первым показал [333],
что многие важные задачи теории стационарных процессов очень просто решаются
в случае, когда спектральная плотность является рациональной функцией со
(в этой связи см., например, исследования [227, 229] и [57, 58, 83, 175] по тео­
рии случайных процессов, работы [15, 75, 137, 143, 170, 171, 185, 193], рассчи­
танные на инженеров и книгу [95, гл. 5 и 8], предназначенную для метеорологов
и гидрологов). Известным объяснением особой простоты решения статистических
задач для процессов с рациональной спектральной плотностью могут служить
специальные свойства таких процессов, отмеченные в [264, 337].
82
Указанной теореме посвящена статья известного математика Д. Пойа
(О. Polya), опубликованная в 1949 г., но фактически она уже содержалась (хотя
и не формулировалась как теорема) в более ранних работах этого автора. Ее
доказательство имеется, в частности, в [202, т. 2, гл. XV, § 2 и 3].
Отметим еще следующую, примыкающую к теореме Пойа, т е о р е м у
Э с к и [238]: если четная функция В (т) дифференцируема при х =f= 0 и график
функции — £ ' (х) вогнут на полуоси 0 < х < оо (например, есЛ]и В'" (т) <: 0
при всех х >» 0), а В (т) -> 0 при х -> оо, то В (х) — это корреляционная функция%
которой отвечает спектральная плотность / (со), принимающая максимальное
значение в точке со = 0 и монотонно убывающая по обе стороны от этой точки.
83
Класс нормированных корреляционных функций R (t) = В (t)/B (0)
очевидно совпадает с классом характеристических функций ¥ (/) распределе­
ний вероятностей (см. примечание3).Функции ¥ (t) ~ е~а ' t ' , 0 < & < 2, вхо­
дят в важный класс у с т о й ч и в ы х х а р а к т е р и с т и ч е с к и х ф у н к ­
ц и й (в связи с изучением которого и было доказано, что все они действительно
являются характеристическими функциями), а их преобразования Фурье пред­
ставляют собой плотности вероятности соответствующих
устойчивых
р а с п р е д е л е н и й в е р о я т н о с т е й (см., например, [202, т. 2, гл. XVII,
§ 4 и 6] или [92, гл. II]).
Отметим еще, что в силу теоремы Эски (см. предыдущее примечание) спек­
тральная плотность /(со), отвечающая корреляционной функции (2.125), при
0 < k < 1 обязательно будет монотонно убывать по обе стороны от максимума
в точке со = 0; на самом же деле эта плотность ведет себя так и при 1 < k << 2.
84
См., например, [64, формула 3.753.2].
85
Корреляционные функции вида (2.128) играют существенную роль
в теории так называемых однородных и изотропных случайных полей в (п + 2)мерном пространстве (см., например, [57, гл. I, § 5] или [58, т. I, гл. IV, § 2]).
В силу теоремы из теории функций, доказанной Шенбергом в 1938 г., корреля­
ционная фнукция В (т) любого однородного и изотропного случайного поля
в (п + 2)-мерном пространстве допускает представление в виде
оо
B{x)
9
^\^?rdG(k)'
А. М. Яглом
т > 0
'
" = 0,1,2,...,
(П.34)
250
Примечания
где G (k) — монотонно невозрастающая функция на полупрямой 0 < k < оо.
Отсюда уже автоматически вытекает, что все функции вида (П. 34) при любом
п = 0, 1, 2, ... являются корреляционными функциями стационарных процессов.
В случае, когда функция G (k) скачком возрастает в точке k — а, а на отрезке
0 <: k<C<x и полупрямой a <i k <С оо принимает постоянные значения, общая
функция (П. 34) обращается в (2.128).
86
Модель (2.129) корреляционной функции В (т) обладает тем ценным
свойством, что соответствующая спектральная плотность / (со) при со > а ведет
себя как степенная функция частоты (а именно, / (со) ~ co~('2v+1) при с о > а ) .
Поэтому такая модель удобна для описания флуктуации X (/), имеющих степен­
ную спектральную плотность на широком интервале значений частоты со.
Степенные спектральные плотности играют важную роль в теории шумов
в электронных лампах и полупроводниках (см., например, 129, 30, 85]); в при­
менении к такого рода шумам формулы (2.129) и (2.130) использовались, в част­
ности, Блан-Лапьером (см. [252, с. 453]). В теории турбулентности особенно
важную роль играет случай степенной спектральной плотности, отвечающей
показателю степени —5/3 [147, гл. 8]. Предложение об использовании фор­
мулы вида (2.129) c v = 1/3 для описания корреляционной функции турбулент­
ных пульсаций скорости было выдвинуто Карманом в 1948 г., после чего оно
многократно принималось и другими авторами; в связи с этим формулы (2.129)
и (2.130) упоминаются, в частности, в [212, с. 233] и [147, ч. 2, с. 13]. То, что
корреляционной функции (2.129) отвечает спектральная плотность (2.130),
вытекает, в частности, из формулы 3.771.2 в [64].
8ба
См. в первую очередь обширные таблицы характеристических функ­
ций [149а].
87
См., например, книги [26, 90], посвященные теории линейных систем.
Заметим еще, что содержание имеющихся многочисленных математических моно­
графий по теории линейных операторов (типа [12]), как правило, вовсе не пере­
секается с содержанием настоящей книги.
88
В случае физически реализуемого преобразования 3? функция Н (со)
оо
задается равенством: Н (со) =
е~шиК (и) du. Но функция е~ши быстро зату-
о
хает при и ~> оо для всех комплексных со с Re со < 0 (т. е. принадлежащих
нижней полуплоскости плоскости комплексного переменного). Поэтому если
интеграл, определяющий Н (со), имеет смысл при всех вещественных со, то он
тем более будет иметь смысл и при всех комплексных со с Re со << 0, причем
нетрудно видеть, что в окрестности каждой такой, комплексной точки со он будет
представлять собой аналитическую функцию со. Следовательно, класс передаточ­
ных функций Н (со) физически реализуемых преобразований 3 можно опреде­
лить как класс функций Н (со) вещественного переменного со, являющихся гранич­
ными значениями на вещественной оси функций Н (со) комплексного переменного,
аналитических в нижней полуплоскости.
Особенно просто можно охарактеризовать класс коэффициентов усиления
А (со) = | Н (со) | физически реализуемых линейных преобразований 3'. В силу
одной теоремы Винера и Пэли [42, с. 32] функция А (со) такая, что интеграл от
| А (со) | 2 в пределах от —оо до со конечен, может являться коэффициентом уси­
ления физически реализуемого линейного преобразования 3 тогда и только
тогда, когда
го
jl!^MIdw<0O.
(П.35)
—оо
89
По поводу теории электрических фильтров см., например, [191,
216]. Примеры механических и акустических фильтров могут быть найдены,
например, в [151 ].
251
Примечания
Отметим, что идеальные фильтры, для которых Л (со) = 0 вне определен­
ной полосы пропускания наверное не .\огут удовлетворять условию (П. 35) и,
значит, не могут быть физически реализуемыми. Этот факт следует и из того, что
в силу (2.152) идеальный полосовой фильтр, для которого Н (со) = 1 при со! <
< со <: со2 и IJ (со) — 0 при всех др\гих со, можно представить формулой
&\Х«)}=~%Г
i1
ТГ
X<!-u)du.
(П.36)
— оо
На практике, однако, вместо (П. 36) обычно можно использовать физически
реализуемый фильтр вида
1
7
PU°2 (и—Т)
ZT{X(t>\~-±r\l
Jut
Ц=АГ)
(и—Т)
X(t-u)du
=
О
2л
•X(i-\-T-u')du'.
J
(П.37)
Выбрав Т достаточно большим, можно добиться, чтобы применение
фильтра (П. 37) к процессу X (t) приводило к результату, сколь угодно мало
отличающемуся от того, который получается при применении фильтра (П. 36)
к «сдвинутому во времени» процессу X (t + Г), а такой сдвиг во времени, разу­
меется, не может играть никакой роли.
Фильтры (П. 36) и (П. 37) имеют комплексную весовую функцию; поэтому
на практике удобнее под идеальным полосовым фильтром понимать фильтр,
для которого Н (со) = 1 при со! < со < со2 или —со2 < со < — (о1 и Н (со) — О
при всех других со. Формула (П. 36) в этом случае заменится формулой
оо
S
\Х (/)} = -L \
siU(D2
"~ s i n ( 0 '" X (t - и) du;
(П.Зба)
аналогично изменяется и формула (П. 37).
90
Для всмсжкссти применения электрических фильтров к турбулентным
пульсациям скорости, надо как-то преобразовать эти пульсации в пульсации
электрического тока. Такое преобразование обычно осуществляется с помощью
термоанемометра — прибора, основной частью которого является тонкая про­
волочка, по которой пропускается электрический ток. Изменение скорости
обтекающего проволочку потока приводит к изменению теплоотдачи проволочки,
а следовательно, и ее температуры и зависящего от температуры сопротивления;
изменение же сопротивления приводит к изменению силы тока (см., например,
[27, 212]).
91
Более подробное изложение указанного доказательства, не предпола­
гающее, в частности, что функция В (т) обязательно быстро убывает на беско­
нечности, см. в статье [251 ].
92
Намеченное здесь доказательство теоремы о спектральном разложении
стационарных случайных процессов было предложено в 1946 г. Блан-Лапьером
и Форте (см., например, [252, гл. VIII]).
93
См., например, описание измерений мелкомасштабных спектров тур­
булентных пульсаций в [1]; ср. также работу [308], специально посвященную
геофизическим применениям преобразований (2.171) и (2.171а).
252
Примечания
94
Применениям теории стационарных случайных процессов к анализу
работы измерительных приборов посвящена, в частности, книга [148] (см.
также [129, § 22]. Анализу с этой точки зрения работы тех или иных кон­
кретных измерительных приборов посвящена огромная литература (в ка­
честве примеров, относящихся к метеорологическим приборам, укажем на
[228], [49, гл. III], [87, гл.11], где можло найти много дополнительных
ссылок.
95
Воспользовавшись известной теоремой о вычетах теории функций
комплексного переменного, легко показать, что если многочлен Р (ш) не имеет
корней, расположенных в нижней полуплоскости комплексного переменного со,
оо
то h (и) — (2л)"1
еши
[Р (/со)]-1 dco будет равняться нулю при м < 0 и рав-
— оо
няться умноженной на i сумме вычетов функции еши/Р (/со) в ее полюсах при
и > 0 . Отсюда легко выводится, что в рассматриваемом случае h (и) экспонен­
циально затухает при и -+ оо. При этом все частные решения однородного урав­
нения, отвечающего неоднородному уравнению (2.177), будут здесь затухать
при t -> оо, a h (и) будет совпадать с функцией Грина указанного уравнения;
отсюда и следует, что решение задачи с начальными значениями в момент tQ
при t0 ->—оо будет стремиться к решению (2.180а).
96
Запись уравнения (2.181а) в виде
dY (t) + aY (i)dt = dW (t)
(П.38)
использовалась, в частности, в [263]. Проинтегрировав все члены этого урав­
нения, получим простейшее стохастическое интегральное уравнение того типа,
который очень часто используется в современной теории вероятностей для зада­
ния широких классов случайных процессов (см., например, [58, т. III, гл. II,
III]). С другой стороны, если мы сначала умножим все члены уравнения (П. 38)
на произвольную достаточно гладкую и быстро затухающую на бесконечности
функцию / (t) и только после этого проинтегрируем полученное уравнение, то
придем к интегральному уравнению, использовавшемуся в [83, 264, 265] и на
самом деле близко примыкающему к наиболее современному пониманию урав­
нения (2.181а) как уравнения,
относящегося к обобщенным случайным процес­
сам (ср. примечание 76 на с. 248).
97
По поводу уравнения Ланжевена и его приложений см., например,
[83, 129, 143, 181, 221]. Отметим еще, что в первой теории брауновского движе­
ния, развитой Эйнштейном и Смолуховским, масса т брауновской частицы
считалась настолько малой, что инерцией (т. е. слагаемым mdY/dt в уравнении
ее движения) можно просто пренебречь. При этом условии скорость час­
тицы Y (f), очевидно, оказывается пропорциональной «чисто случайной»
силе Хг (t) (т. е. также представляет собой белый шум), а соответствующая
координата W (t) описывается формулой вида (2.1846). Математически
аккуратно такая
теория брауновского движения была изучена Винером (см.
примечание6), в связи с чем гауссовский процесс W (t) вида (2.1846) обычно
называется п р о ц е с с о м б р а у н о в с к о г о д в и ж е н и я или в и н е р о в с к и м с л у ч а й н ы м п р о ц е с с о м . Уточненная теория брау­
новского движения, в которой учитывается также и слагаемое mdY/dt уравне­
ния движения и поэтому скорость брауновской чаетицы уже представляет собой
обыкновенный случайный процесс с конечной дисйерсиеи, но не существует
конечного ускорения такой частицы (ибо процесс Y (t) очевидно недифференци­
руем), была подробно изучена в 1930 г. Уленбеком и Орнштейном (ср. [221,
263]). По этой причине гауссовский стационарный случайный процесс Y (t),
имеющий корреляционную функцию вида (2.89) и спектральную плотность вида
(2.90), часто называется
процессом
Орнштейна — Уленбека.
Примечания
253
98
Общие процессы с рациональной спектральной плотностью могут быть
получены, например, как стационарные решения идеализированных уравне­
нии вида
d«Y{t)
dtn
^ С
, „ <Г-'К(0
'
dtm
L
+
dt П —
х
+
,,,+fl<(y(/)|
\
аг'1
+
-г^тьщ
(П.39)
где alt ..., ап, 6 Ь ..., 6 т , с— постоянные коэффициенты, или как решения
родственных (П. 39) систем линейных уравнений первого порядка с независи­
мыми «процессами белого шума» в правых частях. По поводу задач, приводящих
к таким уравнениям и системам уравнений, см., например, [134, 171, 196, 265].
Так как подобные уравнения и системы уравнений очень часто встречаются
в приложениях, то отсюда вытекает большая практическая важность стационар­
ных случайных процессов с рациональной спектральной плотностью.
99
Доказательство теоремы Герглоца можно найти, например, в [83,
гл. 10, § 3] или [136, § 14.1]. К выводу формулы (2.196) для-корреляционной
функции стационарной последовательности эта теорема впервые была приложена
Волдом100[334].
Теорема о спектральном разложении стационарных случайных по­
следовательностей впервые была доказана (в немного других терминах) Колмо­
горовым [107] (см. также [32, 57, 58, 83, 175]). Намеченное на с. 243—245 дока­
зательство теоремы о спектральном разложении стационарных процессов оче­
видно переносится на случай стационарных последовательностей почти без
всяких изменений (только вместо рассмотрения гильбертова пространства
L2 (F) = L2 (F; —со, со) функций ср (к),—со < Х < с о , с интегрируемым по dF (к)
квадратом модуля теперь надо рассмотреть пространство L2 (F; —я, я) функций
ср (X), заданных на интервале —я <: Я < я). Можно также вместо этого сразу
применить сформулированную на с. 246 теорему об обобщенном спектральном
разложении случайных функций, в силу которой возможность спектрального
разложения (2.194) непосредственно вытекает из справедливости формулы (2.196)
для В (т). Аналогичное формуле (П. 22) явное выражение функции Z (а)) через
значения X (t) в случае дискретного t имеет следующий вид:
z и = ^L
Lx (0)
- ^V
£^L
х (t)\.
2я i
'
j
it
v
tф0
(П.40)
J
101
Для доказательства сделанного здесь утверждения надо подставить
в левую часть (2.201) спектральное разложение (2.196) функции В (т). После
этого с помощью рассуждений, аналогичных тем, которые изложены в приме­
чании 73 в приложении к случаю непрерывного t и со& = 0, нетрудно доказать,
что соответствующий предел равен скачку функции F (со) в точке щ.
Ю2 Математикам, изучавшим коэффициенты Фурье вида (2.196), формула
(2.205) была известна уже в начале 20-х гг. (ее доказательство можно найти, на­
пример, в [83, гл. 10, § 3]).
юз формулы вида (2.215а) впервые были указаны (в применении к случаю
вещественного X (t) и вещественной формы спектральных разложений функций
В (т) и В д (т) Волдом) [334, с. 70]; их важность для задачи оценки спектра непре­
рывного процесса по данным наблюдений в дискретные моменты времени была
подчеркнута Блэкманом и Тьюки [249]. Обсуждение значения указанных фор­
мул для геофизических наблюдений содержится, в частности, в [183]. Небольшое
уточнение приведенного на с. 168—169 вывода формул (2.215а) изложено в [317].
254
Примечания
Отметим еще, что соотношение / д (со) = А' 1 £ / ((со + 2я£)/А) очень близко
k
к формуле, выведенной Пуассоном еще в начале XIX в. В самом деле, пусть
А = 1, а процесс X (/), —оо <^ t <Соо, имеет спектральную плотность /(со).
В таком случае в силу (2.203) указанное соотношение можно переписать в виде
ОО
2
k =
ОО
/((0 + 2 ^ ) = ^
— ОО
J ] е~
%=
— ОО
оо
ш
J е ' иЧ /(со')Ло'.
(П.41)
—ОО
Но равенство (П. 41) (где, как это следует из хода рассуждений, приведших нас
к этому равенству, можно даже не требовать, чтобы функция / (со) была строго
неотрицательна) представляет собой не что иное, как одну из форм известной
формулы суммирования Пуассона [124, гл. II, § 5 ] (ср. также [24, § 10]).
104
Для обыкновенных (не случайных) функций X (t), задаваемых инте­
гралом Фурье, распространенным по конечной полосе частот —я/А < со < я/А,
формула вида (2.218) была получена Уиттекером в 1915 г. (впрочем, близкий
результат был известен Коши еще в середине прошлого столетия; см. [79]).
Независимо от работ математиков эта формула была выведена (также для обык­
новенных функций) в 1933 г. Котельниковым [116], впервые подчеркнувшим ее
большое значение для техники связи (см., например, [207, § 14] или [131, кн. 1,
приложение VI]); позже к тому же заключению независимо от Котельникова
пришел также Шеннон [222, с. 295 и 435], которому формула (2.218) часто при­
писывается в зарубежных работах. Обсуждение формулы (2.218) и различных
ее обобщений, относящихся к числовым (неслучайным) функциям, может быть
найдено, например, в [217, гл. III] и в обзорной статье [79], содержащей об­
ширную библиографию.
В применении к стационарным случайным процессам задача о наилучшем
приближении к значению X (t) (где t— любое) при помощи линейной комбина­
те
ции X* (t) = J ] ak (0 X (£А) значений X (kA) = Х д (k) рассматривалась автоk=—ОО
ром [226], нашедшим общее необходимое и достаточное условие существования
при всех t такой комбинации X* (t), что о\ (t) = (| X (t) — X* (t) | 2 ) = 0.
Из этого условия, в частности, следует, что a 2 (t) = 0, если не существует двух
точек спектра процесса X (t), расстояние между которыми кратно 2я/А, т. е.,
например, если спектр X (t) весь расположен внутри отрезка —я/А < со << я/А,
или даже если он сосредоточен на замкнутом интервале —я/А <: со < я/А,
хоть один конец которого не является точкой разрыва F (со). Из результатов
[226] вытекает также, что для таких процессов X (/) со спектром, сосредото­
ченным на [—я/А, я/А], будет справедлива формула (2.218), где бесконечная
сумма понимается как предел в среднем квадратичном (см., например,
[231, § 18] или работу [291 ], в которой используются аналогичные соображения).
Однако первое опубликованное доказательство формулы (2.218) для стационар­
ных процессов X (t) принадлежит Балакришнану [241], предположившему, что
спектр X (t) сосредоточен на интервале —я/А <: со <: я/А, оба конца которого
не являются точками разрыва F (со). Очень простое доказательство формулы
(2.218), намеченное на с. 171 — 172 этой книги, аккуратно изложено (при тех же
ограничениях, которые принимались в [241]) в [175, гл. 1, § 6] (см. также[57,
с. 272] и [58, т. 1, с. 296]). Еще одно доказательство той же формулы (отно­
сящееся к несколько более частному случаю, когда спектр X (t) сосредоточен на
интервале, лежащем внутри отрезка —я/А<со<я/А, но зато интерпретирующее
сходимость в правой части (2.218) как сходимость с вероятностью единица) наме­
чено в [217, § 6.1] (см. также [79]).
105
Если коэффициенты hj не удовлетворяют условиям (2.226), но удов­
летворяют (2,225), то разложение (2.227) функции Н (со) в ряд Фурье должно
Примечания
255
пониматься в некотором специальном смысле; для приложений, однако, это
неважно, так как преобразования 3?', задаваемые весовой последовательностью,
не удовлетворяющей (2.226), в прикладных задачах никогда не встречаются.
Наоборот, с преобразованиями, вообще не задаваемыми весовой последователь­
ностью, иногда приходится иметь дело; так, например, еще в [104] фактически
встретилось
преобразование
последовательности
вида
X (t) = [Е (/) +
+ Е (t — 1)]/>/2~ (ср. формулу (2.2)), имеющее передаточную функцию Я (со) =
ш
1
= (1 — е~ )~~ . Следуя предложению Хеннана [211, с. 150] такое преобра­
зование можно представить в виде
2 {X (/)} = Нт £ (1 - j/n) X(t-
j),
(П.4?)
/i->oo / = 1
однако,106в виде (2.224) оно никак не может быть записано.
Цифровым фильтрам (и линейным, и нелинейным) посвящена огромная
литература (мы здесь укажем лишь на книги [31, 35, 61, 62, 172, 220]). Много
внимания цифровым фильтрам уделено в предназначенной для метеоро­
логов книге [162], в которой специально разбирается частный класс так назы­
ваемых регрессионных фильтров, широко применяемых при обработке рядов
наблюдений в случаях, когда есть основание считать, что общий ход (тренд)
рассматриваемого ряда описывается полиномиальной формулой, а отклонения
от этого тренда (помехи) представляют собой независимые случайные величины
(см., например, [101, гл. 46] или [9, § 3.3]).
107
Ограничиваясь для простоты преобразованиями вида (2.224) (на самом
деле это ограничение не является необходимым), найдем, что в случае физически
реализуемого преобразования 9? функция Я (со) представляет собой граничное
значение на единичной окружности z = е ш , —я <: со <: я, функции Я (г) =
оо
= V hjz], аналитической в единичном круге. Воспользовавшись теорией таких
/=о
граничных значений (см., например, [166]), нетрудно доказать, что класс коэф­
фициентов усиления А (со) физически реализуемых дискретных линейных пре­
образований 9? совпадает с классом функций, удовлетворяющих условию
я
j | lg Л (со) | do>< оо
(П.43)
—л
(см. также [107], где условие (П. 43) для модуля граничного значения функции,
аналитической в единичном круге, выведено совсем в другой связи).
108
См. литературу о цифровых фильтрах, указанную в примечании ш .
Возможность подбора фильтра 3? вида (2.241), аппроксимирующего сколь угодно
точно идеальный полосовой фильтр с произвольно узкой полосой пропускания,
объясняет старый результат Слуцкого (см., например, [189, с. 99]), задолго до
появления спектральной теории показавшего, что, применяя к последователь­
ности некоррелированных случайных величин много раз подряд несложную
операцию скользящего суммирования с конечным числом специально подобран­
ных ненулевых весовых коэффициентов hj, можно получить новую последова­
тельность, значения которой на протяжении заданного конечного интервала вре­
мени будут со сколь угодно близкой к единице вероятностью сколь угодно мало
отличаться от значений некоторой синусоиды фиксированной частоты со (см.
также [101, § 47.15]).
Эта предельная синусоидальная теорема Слуцкого (обобщенная затем Ро­
мановским; ср. [101, с. 571]) в свое время сыграла существенную роль, способ­
ствуя разъяснению того, что наличие спектра, имеющего острый пик, вовсе не
указывает еще на обязательное возникновение изучаемого процесса из какого-то
256
Примечания
реального периодического колебания. После того как было доказано, что наличие
спектра на самом деле является просто автоматическим следствием статистиче­
ской стационарности, с -помощью возникшей отсюда спектральной теории ста­
ционарных случайных функций удалось очень просто доказать старые резуль­
таты Слуцкого и Романовского и получить также ряд новых утверждений, раз­
вивающих и дополняющих эти результаты (см., например, [300]).
109
Приведенный вывод формулы (2.253), разумеется, эквивалентен ее
получению с помощью использования формулы суммирования Пуассона (П. 41),
В несколько иной записи эта формула приведена, в частности, в известном спра­
вочнике Джолли [278, с. 176—177].
110
Доказательство представимости общей рациональной относительно еш
спектральной плотности / (со) в виде (2.257) близко к получению родственной
формулы (2.122) для общей рациональной относительно со спектральной плот­
ности стационарного случайного процесса, описанному на с. 128—129 (см., напри­
мер, [83, гл. X, § 10]," [175, гл. 1, § 10] или [227, с. 95—96]. Вообще стацио­
нарные случайные последовательности со спектральной плотностью вида (2.257)
во многом аналогичны стационарным случайным процессам с рациональной
спектральной плотностью вида (2.122); в частности, они обладают теми же важ­
ными специальными свойствами, о которых, в применении к стационарным про­
цессам, говорилось в примечании 8l , и для них также особенно просто ре иаются
многие важные статистические задачи (см., например, [83, 175, 227, 264, 333],
а также [21], где рассматривается класс не обязательно стационарных случай­
ных последовательностей X (t), немного более общий, чем класс стационарных
последовательностей с рациональной относительно еш спектральной плотностью).
111
В качестве немногих типичных примеров достаточно упомянуть [254],
[68] (приложения к экономике), [123] (приложения к исследованию морского
волнения) и [245] (приложения к сейсмологии и другим разделам геофизики).
112
Этой задаче и примыкающим к ней вопросам посвящены, в частности,
книги [72, 73, 78, 112, 126, 249, 287], большие разделы в книгах [9, 14, 16,
39, 40, 96, 101, 114, 118, 144, 177, 187, 210, 211, 256, 272, 311] и огромное коли­
чество статей, лишь небольшая часть из которых будет упомянута ниже.
113
Примем, что в формуле для Bj* ( т — т 2 ), указанной в примечании б1 ,
т = т, т9 = 0, и подставим полученное выражение для ££*(т) в правую часть
формулы (2.260), в которой пределы интегрирования заменим на —оо
и сю (это законно, так как В^* (т) = 0 при | т | > Т). В таком случае, восполь­
зовавшись равенством ё~шх =е~ш ^+х)еш^
сразу получим формулу (2.261).
Вывод формулы (2.261) отличается от вывода формулы (2.260) лишь тем,
что все интегрирования по dt теперь надо заменить суммированиями по целым
значениям t.
114
Осреднив обе части равенства
(2.260), где iT (со) теперь надо
заменить на 1Т (со), а под Bj* (т) понимать соответствующую случайную «тео­
ретическую оценку», а затем подставив в правую часть получившегося равенства
(Т — | т |) В (т)/Т вместо ( £ £ * (т)) и спектральное разложение (2.67) вместо В (т),
получим
Т
</г((о)> = - ^
г
оо
J J (Г - | т |) е-'
<л, и
- '>х/(со') Jco' dr.
—Т —оо
Выполнив здесь интегрирование по dx, приходим к результату (2.263). Тот же
результат нетрудно получить, осреднив обе части формулы (2.2616) и
воспользовавшись затем формулами (1.47) и (2.67); при этом удобно пределы
интегрирования 0 и Г в правой части (2.2616) заменить на —772 и 772 (что за­
конно в силу стационарности X (/)). Совершенно аналогично доказывается и
формула (2.263а).
Примечания
257
Переходя к доказательству формулы (2.264), воспользуемся тем, что при
вычислении моментов величины lj (со) эту величину можно заменить на J\ (со +
7/2
+ Ц (со),
Jx (со) = (2яГГ 1 / 2
где
7/2
= (2яГ) ^ 2
[ cos a>tX (/) dt
и
J2 (со) =
-7/2
I sin со^Х (0 ^—гауссовские случайные величины с нулевыми
-7/2
средними 2 значениями. Приложив формулу (П. 14) к вычислению моментов
(Jj (соЛ J . (соЛ)), где / = 1, 2 и / = 1, 2, и воспользовавшись тем, что
( Л С00!) А (со2)) = (^2 (c°i) J\ (со2)) = 0 (так как подынтегральные функции
в правых частях соответствующих формул (1.48) здесь оказываются нечетными
функциями двух переменных), найдем, что
Ь, К , со2) = 2 [(Jx (coj Jx (со2))]2 f 2 [</2 К ) J2 (со,))]2 =
= [(J, ((и,) ^ (©,) + Л (со,) Л (co2))J2 -f
+ [ ( / , (сог) У, (со2) - J2 (со,) / 2 (со2))]2 =
7/2
2яГ
j
j cos (сох/ — со/) В (* — /') dt dt'
-7/2 - 7 / 2
7/2
+
2я7
7/2
f
7/2
j cos («)^-\-щ1') В
(t-t')d(dt'
—7/2 —7/2
Заменив в правой части последнего равенства корреляционную функцию
В (t—t') ее спектральным разложением (2.67) и выполнив интегрирование по
/ и по /', приходим к формуле (2.264). Формула для Ь/ (со^ со2) при дискретном
/ выводится совершенно аналогично.
2 \i/2sin(Tjc/2)
Интеграл от квадрата функции g (х)
, несколько раз
т .
. пТ )
х
фигурирующей в правой части (2.264), равен единице, а сама функция g2 (х)
является четной и при Т -> оо стремится к 6-фуикции б (х). График функции
g (х) при очень большом Т имеет острый максимум в точке х ---= 0 (где дости­
гается значение g (0) = (Г/2я) ! / 2 ), по обе стороны от которого функция g (х)
быстро убывает; в точках х = ± я / Т она обращается в нуль, а при дальнейшем
возрастании | х | принимает уже относительно малые (по сравнению с главным
максимумом) по абсолютной величине значения, колеблясь около нуля. Анало­
гично ведет себя и функция gt (х) = (х/2) g (х) (sin я/2)" 1 , возникающая в случае,
когда речь идет о последовательностях X (t) (т. е. о дискретном t), с той лишь
разницей, что здесь равен единице интеграл от gf (х) в пределах от —я до я,
а сама функция gx (х) — периодическая с периодом 2я. Отсюда легко вытекают
соотношения (2.265) (и его аналог для случая дискретного t) и (2.266).
Более того, форма функций g (х) (и gx (х)), входящих в выражение для
bi (сох, со2), показывает, что корреляция между значениями IT (coi) и 1т (со2)
при больших (но конечных) значениях Т практически исчезает уже на расстоя­
нии | со2— tOjL | порядка нескольких отрезков длины 1/7. Тог же вывод можно
Ш'
258
Примечания
сделать, воспользовавшись следующей упрощенной асимптотической формулой
для Ь/ (соь со2), справедливой при больших значениях Т:
м.ь «д«{( у , - ^ 1 ) ' +
+С?££№Ч}'Ы"*>
(а44
>
(в случае дискретного /здесь следует заменить выражения (со2—со1)/2 и (со2+со1)/2
в знаменателях правой части на sin [(со2— со^/2] и sin [(со2 + cOjJ/2] соответ­
ственно; впрочем, при очень малых | со2— (х)1\ или | со2 + сох |, при которых
формула (П. 44) наиболее интересна, эта замена малосущественна). Вывод фор­
мулы (П. 44) на инженерном уровне строгости приведен в [78, гл. 6 и 9] (ср.
также [72, 73]); более аккуратный вывод того же результата (для случая дис­
кретного t) может быть получен, в частности, на основе формул, имеющихся
в [210, § III.1], [211, гл. V, § 2] и [256, § 5.2]. Формула (П. 44) заметно проще,
чем (2.264), описывает закон убывания функции bi (щ, со2) при возрастании
| со2 — сох |, кроме того, она показывает, что корреляция между IT (®i) и 1т (со2)
при большом Т оказывается особенно малой, если и Т (со2 — со1)/2я, и Т (со2 +
+ сох)/2я оба оказываются целыми числами (например, в случае, когда со1 ~
= 2:пл1/7,, со2 = 2лп2/Т, где пх и п2 целые).
Из формулы (2.262) видно, что при со = 0 (а в случае дискретного t при
со = 0 и со = =^я) величина 1т (со) представляет собой квадрат нормально рас­
пределенной случайной величины Jx с нулевым средним значением, т. е., иначе
говоря, имеет распределение %\ (напомним, что в теории вероятностей символ %д
всегда обозначает «хи-квадрат распределение с п степенями свободы»). При всех
других значениях со величина 1т (со) равна сумме квадратов двух нормально
распределенных величин J± и / 2 с нулевым средним значением, причем при
больших значениях Т эти величины, как легко видеть, будут практически некоррелированы (а, значит, и независимы) и будут иметь одинаковые дисперсии
(так что 1т (со) при больших значениях Т имеет распределение %|). Отсюда,
в частности, вытекает, что значения 1т (сох) и 1т (со2), где щ =/= со2, при Т -> оо
становятся не только некоррелированными, но и взаимно независимыми (ибо
для %2-распределений, как и для нормальных распределений, из некоррелирован­
ности автоматически следует независимость).
До сих пор речь шла лишь о случае, когда функция X (t)— гауссовская.
Однако в приведенных выше рассуждениях на самом деле использовалось не
само это обстоятельство, а лишь его следствие — то, что нормальное распреде­
ление имеют выписанные выше случайные величины Jx (со) и J2 (со) (где в случае
дискретного t интегралы заменяются суммами). Но при больших значениях Т
случайные величины Jx (со) и / 2 (со) вообще должны при очень широких условиях,
налагаемых на X (/), иметь близкое к нормальному распределение вероятностей
(и одномерное, и двумерное) в силу общей центральной предельной теоремы для
зависимых случайных величин (ср. примечание 34 ).
Отсюда ясно, что рассматривавшиеся на с. 186—188 и в настоящем примечании
результаты, касающиеся периодограммы 1т (со), на самом деле должны выпол­
няться и для очень многих негауссовских стационарных функций X (t). И дей­
ствительно, в [78, гл.9], [210, § III.1], [211, гл. V), [9, гл.8] и [256, гл. 5]
могут быть найдены обобщения указанных результатов на несколько разных
широких классов негауссовских стационарных функций X (t) (как правило, лишь
для случая дискретного t). Специально вопросу о статистических свойствах пе^
риодограммы 1Т (со) при большом Т (также в предположении, что время дис­
кретное) посвящена, в частности, работа [307].
115
Заметим, что, заменяя аргумент со функции IT (СО) (или / (со)) некото­
рой нелинейной функцией от со, для сохранения площадей под графиком периодо-
Примечания
259
граммы (или спектральной плотности) мы должны умножить значения *> (или /)
на значения еще одной функции от того же аргумента. При этом локальные
максимумы получающейся функции уже не будут точно совпадать с локальными
максимумами исходной функции 1т (со) (или / (со)), откуда ясно, что в случае
непрерывного спектра эти максимумы вообще имеют условный характер (зависят
от выбора независимой переменной).
Детальный график периодограммы t> (со) ряда Бевериджа, рассматриваемой
уже как функция частоты, может быть найден, в частности, в [101, рис. 49.1]
и [9, рис. А. 1.3]; он оказался еще заметно более изрезанным, чем кривая на
рис. 19 а из-за значительно большего числа учитываемых значений аргумента.
В тех же двух книгах, а также в книгах [78, 256] и в целом ряде других книг
и журнальных статей (см., в частности, примечание 116 можно найти целый ряд
дополнительных примеров периодограмм i? (со) стационарных временных рядов
х (t); все
они оказываются крайне нерегулярными функциями частоты.
116
См. [162, с. 179]. В книгах [162, 163] и статьях [69, 70, 117, 141,
314] можно найти множество примеров эмпирических периодограмм ij (со)
гидрометеорологических рядов наблюдений; все они по своему характеру не
отличаются от периодограммы, изображенной на рис. 19 б.
117
Приведенные здесь соображения, по-видимому, впервые были наме­
чены Даниелом в небольшом сообщении, присланном на состоявшийся в 1946 г.
в Англии симпозиум по теории временных рядов; немного позже к ним незави­
симо пришел также Тьюки. Метод построения состоятельной оценки спектраль­
ной плотности /(со), опирающийся на разбиение имеющейся реализации х (t)
на ряд частей и вычисление среднего арифметического отвечающих этим частям
периодограмм, был указан Бартлеттом в заметке, опубликованной
в 1948 г.
в журнале «Nature» (см. также [269, с. 70—73] и примечание130).
118
Термины «спектральное окно» (spectral window) и «корреляционное
окно» (lag window, т. е. точнее «окно запаздывания»; этот термин также иногда
используется в русской литературе) принадлежат Тьюки [249].
119
Если не претендовать на полную математическую строгость, то для
гауссовских случайных функций X (t) можно очень просто получить важную
формулу (2.273), воспользовавшись формулой
(1.48), формулой (П. 44) для
bi (со1? со2), четностью / (со) и тем, что [2sin2 (Тх/2]/пТх2 -+ б (х) при Т -> оо:
D Ф{тА)(ы) = [ [ Ат (со — со') Ат (со — со") Ь, (со', со") cico' cico" ж
П л /
/ л /
»• ( 4 sin2 [Г (со' — со")/2]
«,JJ Лг(со-со;Лг(со-со , |
.
4sin2[7 (со' + со")/2] )
f
т1^,_„.)%
,
+
. ,. - , „ч д , , „
+ S (со' + (ow)} /(со')/ (со") dco' cico" =
= - * L j Ат (со - со') [Ат (со — со') - f Ат (со + со')] / 2 (со') cico'
(см., например, [78, гл. 6] или [72, с. 229—230]). По поводу более строгого вы­
вода этой формулы, обсуждения некоторых связанных с ней вопросов и рас­
пространения указанной формулы на широкие классы негауссовских стационар­
ных функций X (0 см., в частности, [9, г л . 9 ] , [210, гл. III], [211, г л . У ] ,
260
Примечания
[256, гл. 5], [272, гл. 4] и [311, с. 44, 56, 98, 132, 190], а также [3, 4, 18, 66,
67, 156, 209, 315], где можно найти много дополнительных ссылок (основное вни­
мание во всех этих работах уделяется случаю дискретного t). То, что формула
(2.273) оказывается справедливой не только для гауссовских, но и для очень
многих негауссовских шстационарных функций X (t), разумеется, связано с отме­
ченным в примечании
фактом универсальности при широких условиях рас­
пределений вероятностей периодограммы lj (со). Некоторые уточнения формулы
(2.273), полезные при не слишком больших значениях 7\ указаны в [302].
120
См., например, [159], а также примечание 142.
121
Результат (2.277а) принадлежит Парзену (см. [156] и [311, с. 24,
132]), он изложен также в [9, 210, 211, 256].
122
Нетрудно проверить, что минимум выражения Cxkj2q -|- C2kTT~^
(где С1 и С 2 —независимые от Т коэффициенты), описывающего пове­
дение А2 (ф^Л)(со)) при больших значениях Т, достигается при kT =
= (Cl/C2)l'<*'+l>Tl'U(i+» и равен 2С\^2^С^^+^Т~2^^+Х\
Так как значения 7 _2 ^ 2<7+1 ) при большом Т тем меньше, чем больше q, то отсюда выте­
кает, что если спектральная плотность / (со) — очень гладкая (много раз диф­
ференцируемая), то при больших значениях Т выгодно использовать оценки,
которым отвечает большое значение q (см. [5]; ср. также с. 203—204). Если,
однако, / (со) имеет лишь конечное число производных, то неограниченное увели­
чение значения q уже не будет полезным. А именно, можно показать, что если
функция f (со) дифференцируема только г раз и ее г-я производная f^ (со) принадле­
жит классу Lip а, 0 < а <: 1 (т. е. удовлетворяет при любых со' и со'7 неравен­
ству | / (г) (со') — /( г ) (со") | < К | со' — со" | а , где К— положительная постоян­
ная), то при любом q > г + а стремление А2 (ф^ ) (со)) = А?г к нулю при Т -> оо
будет описываться одной и той же формулой А | — f-(^r+2a)/{2r+2a+\) ^ ^ [з]>.
Отметим еще, что можно доказать также следующее важное утверждение:
для любой возможной оценки fj (со) спектральной плотности f (со), построенной
по значениям X (t), где t = 1, ..., Т или 0 <: t <: 7\ всегда найдется такая гауссовская стационарная случайная функция X (г) с г раз дифференцируемой спек­
тральной плотностью f (со), имеющей r-ю производную, принадлежащую классу
Lip а, 0 < а <: 1, что для нее средний квадрат ошибки А2 (/£) = {[/£ (со) —
— /(со)] 2 ) будет убывать при Т -> оо не быстрее, чем с 7 ~ ( 2 г + 2 а ) / ( 2 г + 2 а + 1 )
где с— некоторая постоянная (см. [184]).
Таким образом, в применении к гауссовским стационарным функциям X (t)
наилучшие оценки спектральной плотности вида (2.267) являются асимптоти­
чески оптимальными, т. е. им отвечает самое быстрое из возможных убывание
среднего квадрата ошибки при Т -> оо. В применении к общим негауссовским
функциям X (г) последнее утверждение уже, вообще говоря, не будет справед­
ливым (так что с точки зрения достижимой асимптотической точности оценок
спектральной плотности гауссовский случай оказывается самым неблагоприят­
ным). Существенно, однако, что в применении к негауссовским случайным функ­
циям X (t) оценки Р^Л)(со) хотя и не являются оптимальными по точности, но
зато обладают следующим очень важным свойством: отвечающий им средний
квадрат ошибки А^ при больших значениях Т будет практически одним и тем же
для очень широкого класса стационарных случайных функций с заданной спек­
тральной плотностью (т. е. в пределах этого класса он вообще не зависит от
соответствующих распределений вероятностей, которые поэтому даже не тре­
буется знать). Это последнее свойство оценок Ф^ *(со) часто называют их р о б а с т н о с т ь ю (от английского прилагательного robust, т. е. здоровый или
крепкий; ср. [274]).
Примечания
261
123
См. [249, с. 11], [312] и [78, вып. 2, гл. 7 ] . По поводу практических
аспектов оценивания спектральной плотности / (со) по данным наблюдений см.
книги [16, 72, 210, 211] и статьи [269, с. 56—66] и [323, с. 470—492].
124 формулы для спектральных окон А (со), отвечающих корреляцион­
ным окнам Бартлетта и Парзена, разумеется, очень просто получаются из выра­
жения для А (со), отвечающего прямоугольному окну а (т), если воспользоваться
свойствами трех рассматриваемых корреляционных окон, указанными в при­
мечании 5 2 . Явные формулы для спектральных окон, отвечающих этим трем
корреляционным окнам в случае дискретного t, могут быть легко найдены с по­
мощью соотношения, указанного в сноске на с. 198 (см. также [210, § Г1Г.21
или [9, § 9.2.3].
125
По поводу окон Тьюки (2.278) см., например, [249], где, в частности,
указано, что термин «ханнинг» (harming) был предложен в честь австрийского
метеоролога Ю. фон Хана, еще в начале века применившего родственный метод
сглаживания при обработке данных метеорологических наблюдений, а термин
«хэмминг» (hamming) — в честь современного американского математика-вычи­
слителя Р . У . Хэмминга. Явный вид преобразований Фурье А (со) функций (2.278),
а также спектральных окон Ат (со), отвечающих корреляционным окнам ат (т) =
= а ( т / # г ) в случае дискретного t, могут быть найдены, например, в книгах
[9, 72, 73, 210, 249, 256]. Минимальное значение преобразования Фурье А (со)
окна ханнинг отрицательно, но по модулю оно близко к лишь 2% максималь­
ного положительного значения А (со) при со = 0; в случае окна хэмминг мини­
мум А (со) также отрицателен, но по модулю он заметно меньше, чем 1 % от Л (0).
126
Целый ряд конкретных примеров окон ат (т) = a (%/kT) и отвеча­
ющих им преобразований Фурье можно найти, в частности, в [156, 219, 309],
[144, § 5.4], [256, § 3 . 3 ] . Специально отметим только следующие три примера
положительно определенных окон а ( т ) : гауссовское окно а (т) = е~ат , изучен­
ное Даниэлсом [262], окно а (т), равное нулю при | т | > 1 и равное (1 — | т \)е~ах2
п р и | т | < 1 , рекомендовавшееся Нидеккер [149] и, наконец, предложенное
в 1966 г. Хекстом и включенное в сводные таблицы корреляционных окон, име­
ющиеся в [144, 309], окно а (т), представляющее собой свертку окон Бартлетта
гг
/
*
^
л / ч
Ю Г sin (со/6) ] б \
и Парзена ( ему отвечает преобразование Фурье А (со) = — —
) .
127
Так, например, изображенное на рис. 22 б треугольное спектральное
окно рассматривалось в [3, 260], а параболическое о к н о — в [3, 315].
128
Предложение об использовании с целью уменьшения смещения оценки
спектральных окон Ат (со), принимающих также и отрицательные значения,
высказывалось еще в начале 60-х гг. (см., например, [243, 262]), но тогда не при­
влекло большого внимания. Значительно позже Парзен ввел в рассмотрение одно
конкретное окно Ат (со) (точнее говоря, его преобразование Фурье ат (т)), для
которого р 4 в
формуле (2.277а) — см. [323, с. 470].
Более подробно вопрос об использовании знакопеременных спектральных
окон был исследован Алексеевым [5—7], предложившим ряд новых удобных
окон такого типа, оценившим отвечающий им средний квадрат ошибки Д} и
проиллюстрировавшим их выгодность на примерах некоторых конкретных
расчетов оценок спектра модельных рядов х (t), соответствующих реализа­
циям стационарных последовательностей с известной спектральной плотностью.
Наконец Поляк [162] предложил вычислять периодограмму ряда х (t), t =
— 1, ..., Т, лишь для частот сор = 2пр/Т, р = 1, 2, ... принадлежащих интер­
валу [0, я ] , а затем сглаживать полученные значения 1т (сор) при помощи ре­
грессионного фильтра определенного порядка. Нетрудно видеть, что применение
регрессионного фильтра первого порядка эквивалентно осреднению нескольких
соседних значений 1т (сор), взятых с равными весами (т. е. использованию спек­
трального окна Даниела), а фильтры высших порядков уже не являются всюду
неотрицательными и соответствуют четным значениям ^ > 2 в формуле (2.277а).
262
Примечания
В связи с тем, что сглаживание регрессионными фильтрами высших поряд­
ков может привести к появлению отрииа;ел! ных оценок спектральной плот­
ности, в работе [11] рекомендовалось испел зовать вместо них специальный
биномиальный фильтр со строго неотр цате./ ными весовыми коэффициентами;
однако при очень больших значениях Т ри рессконные фильтры высших порядк в
на самом деле приводят к оценкам спектральной плотности более точным, чем
те оценки, которые получаются с помощью биномиального фильтра.
129
Вывод соотношений (2.280) и (2.281)—(2.281а) почти не отличается от вто­
рого вывода формулы (2.263), указанного в примечании 3 1 4 . Приложив затем на­
меченный там же метод получения формулы для bj (со,, со2) к выводу формулы
для корреляционной функции 6 7 <^)(со1, со2) модифицированной периодограммы
Ij?) (со), придем к формуле вида (2.264), в правой части которой, однако, функ. .
/ 2 \ i / 2 sin(7co/2)
ция g (со) = (—— )
должна быть теперь уже заменена функцией
Т/2
()
1
I е1Ш hf (t + Т/2) dt (или соответствующей суммой в слуJ "
'*'
1/2
(2jt7)\1/2~
J/2
чае дискретного времени t); отсюда, в частности, следует, что lim DI^T * (со) =
g(
(со) =
Т->оо
= lim Dlj
(со).
Г->оо
Более подробный разбор метода оценивания спектральной плотности при помо­
щи осреднения модифицированной периодограммы по некоторой частотной обла­
сти (см., например, в кншах [16, 112, 254, 256, 287] и статьях [269 с. 56—66],
[260]; в этих же источниках и в [164,219,326] можно найги также много приме­
ров используемых на практике временных окон hj (t) и ряд дополнительных
ссылок на литературу. Биномиальное временное окно (2.282), приводящее к
простой явной формуле (2.283) для Kjl) (со), рассматривалось Журбенко [ 8 9 ] .
130 Метод оценивания спектральной плотности с помощью подсчета зна­
чений модифицированной периодограммы для ряда частично пересекающихся
отрезков имеющейся реализации и последующего осреднения всех этих значений
принадлежит Уэлчу (см. [269, с. 70—73]). Статистические свойства получаемой
на этом пути оценки были изучены Журбенко [88, 89] для широкого класса слу­
чайных последовательностей X(t).
131
См., например, [3, 5, 303, 309, 310, 315, 332].
132
Вопросу о распределении вероятностей оценок спектральной плот­
ности посвящено много работ. Еще в 1949 г. Тьюки принял, что распределение
вероятностей оценки Ф^ * (со) может быть аппроксимировано так называемым
^-распределением (хи-квадрат распределением с v степенями свободы) и пред­
ложил формулу для подсчета соответствующего эквивалентного числа степеней
свободы v; см. [249], а также [72, § 3—6], [78, вып. 1, § 6.4.2] или [112, § 3 . 4 ] .
Попытка математического обоснования этой рекомендации Тьюки содержится
в [211, г л . У , § 4 и 5 ] ; однако степень точности рассматриваемого приближения
пока все же не выяснена. В [256, § 5.6] могут быть найдены ссылки на некоторые
работы, в которых предлагаются иные приближения к распределению вероятно­
стей величин Ф^ ) (со); теорема 5.5.3 той же книги указывает на еще одну воз­
можную аппроксимацию, являющуюся, однако, ели нком сложной для исполь­
зования на практике. При Т -> оо и kj -> оо (но kjlT -> 0) распределение веро­
ятностей оценок Ф^ )(со) при широких условиях стремится к нормальному
распределению; этот результат, различные доказательства которого могут быть
найдены в [211, гл. V, § 5 ] , [9, § 9.4] и [256, § 5.6], примыкает к хорошо из­
вестному радиофизикам факту приближенной нормальности распределения ве­
роятностей шума па выходе достаточно узкополосного фильтра и в какой-то мере
Примечания
263
оправдывает содержащуюся в [315] довольно грубую рекомендацию— во всех
случаях аппроксимировать распределение вероятностей величин Ф^ ) (со) нор­
мальным распределением.
Знание распределения вероятностей оценок Ф^ * (со) может быть использо­
вано для построения доверительных интервалов для значений спектральной
плотности (см. любой из указанных в этом примечании источников).
133
См., например, [ 1 6 , 8 1 , 9 6 , 114, 118, 121, 144], где можно также найти
множество дополнительных ссылок.
134
Ряд результатов, касающихся расчета ошибок показаний спектраль­
ных анализаторов, может быть найден в работах, указанных в примечании 1 3 3 .
Принципиальная близость друг к другу осредненного по времени квадрата сиг­
нала на выходе узкополосного фильтра и сглаженной периодограммы ф^ ) (со)
была выявлена еще в [272, § 4.5] и [249] (см. также [315]). Детальному рас­
чету ошибок показаний тех или иных конкретных типов аналоговых спектральных
анализаторов посвящено большое число специальных работ (см., например,
[1, 316]).
135 Истории метода БПФ посвящена заметка Кули, Льюиса и Уэлча в
[199, с. 18—21].
136
См., например, [19, 172, 179, 199, 255, 269, 290]. Краткое изложение
метода БПФ можно найти также в [9, 16, 72, 126, 162, 211, 254, 256] и др.
137
Различным методам расчета оценок спектральной плотности, исполь­
зующим алгоритмы БПФ, посвящен ряд статей в [269], а также [126, 260] и
др.; см. также обзорную статью [323, с. 470—492] и книги [16, 72, 162, 172,
211, 256, 287]. Примером использования длинных рядов наблюдений для ис­
следования поведения спектральной плотности / (со) на очень широком интервале
частот может служить работа [214], в которой описаны результаты обработки
двух дискретных рядов значений х (t) производной скорости ветра в приземном
слое атмосферы, включающих по 3* IО6 чисел каждый.
138
См., например, [16, § 9.5.2], [126, § 4 ] , [260] и специально посвя­
щенные этому вопросу статьи [22, 318]. Применение этого метода оценки кор­
реляционной функции к некоторым задачам микрометеорологии описано, в част­
ности, в [322]. Возможность использования метода БПФ для расчета значе­
ний Вт* (т) определяется тем фактом (вытекающим из формулы для Вт* (т —т 2 ) ?
приведенной в примечании 5 1 ), что Вт* ( — т ) — э т о свертка функций
хт(—t)
и хт (t). Совершенно аналогично может использоваться метод БПФ и во всех
других случаях, когда требуется найти свертку двух заданных на широком
интервале функций хх (t) и х2 (t) (см. [269, с. 79—84] и [19]).
.139 Статистические свойства оценок а*, ..., а*т коэффициентов а^ ..., ат
еще в 1943 г. были при достаточно общих условиях изучены Манном и Вальдом;
см., например, [9, § 5 . 4 , 5.6], [210, § II.2] или [211, гл. IV, § 2 ] .
140
Идея об использовании авторегрессионных оценок спектральной плот­
ности выдвигалась, в частности, Парзеном (см., например, [311, с. 551 — 565]
или [323, с. 470—492]) и Акайке [234].К тем же оценкам, исходя из совсем дру­
гих соображений, пришел Берг (Burg), который в докладе на состоявшейся в США
в октябре 1967 г. Международной конференции по исследовательской геофизике
предложил выбрать в качестве оценки спектральной плотности / (со) дискретного
ряда х (/), t— 0, —\, —2, ... ту из функций /Jn(co), удовлетворяющих услол
виям
fm (со) е11ш fifco = В (k), k — 0, 1, ..., т (где в случае, когда нам известны
-л
только значения х (1), ..., х (Т) ряда х ( 0 , истинные значения корреляционной
функции В (к) заменяются их оценками Щ* (/<-)), для
которой
энтропия
264
Примечания
Н = lg
lg/* n (со) dco принимает наибольшее значение. Нетрудно видеть, что
- я
получаемые на этом пути о ц е н к и
максимальной
энтропии
спектральной плотности точно совпадают с авторегрессионными оценками (см.,
например, [161, 268, 288, 328, 329], где указано несколько разных методов оце­
нивания параметров alt ..., ат, с2 формулы (2.254а) по значениям х (1), ..., х (Т)).
Метод оценки оптимального значения параметра m в выражении для авто­
регрессионной оценки спектральной плотности был предложен Акайке (см.,
например, [236, 279]). Другой подход к оценке значения пг намечен в [21, гл. 6 ] .
141
Статистические свойства случайных авторегрессионных спектральных
оценок Фт^ (со) (отличающихся от выборочных оценок q y ^ (со) тем, что зна­
чения х (1), ..., х (Т) заменяются случайными величинами X (1), ..., X (Т))
были впервые изучены (в применении к гауссовским стационарным последова­
тельностям X (t)) в диссертации Кромера (Станфордский университет, США,
1970). Позже аналогичные результаты были при более широких условиях полу­
чены Берком [247] и Писаренко [161].
142
По поводу использования оценок авторегрессионного типа при анализе
коротких выборок см., например, [284]. О разрешающей способности авторе­
грессионных оценок говорится, в частности, в статьях [161, 284, 328]. Из огром­
ного числа работ, посвященных конкретным приложениям авторегрессионных
методов оценивания значений спектральной плотности, упомянем только статьи
[240, 266], посвященные анализу многолетнего ряда значений температуры
в центральной Англии, и работу [314] о спектре палеоклиматического ряда зна­
чений температуры Земли за последние 700 000 лет.
1 43 См., например, [21, г л . 7 ] и [211, гл.5], а также [77, 2 3 5 , 2 3 7 , 276].
144
Примеры такого рода оценок спектральной плотности могут быть
найдены, например, в статьях [236, 327], последняя из которых специально
посвящена метеорологическим приложениям этого метода оценивания. Вопрос
об оптимальном выборе значений тип,
входящих в исследуемую оценку функ­
ции /(со), рассматривался, в частности, в [21, гл. 6] и [236, 259].
145 формула, обратная формуле (2.260), в силу (2.284) в случае непрерыв­
ного t может быть переписана в виде
оо
Я " ( т ) = \ еш
CLFT (СО).
(П.45)
—оо
Мы видим, таким образом, что Bj* (т) играет роль характеристической
функции, отвечающей функции распределения вероятностей Fj (со); поэтому
здесь можно воспользоваться тем, что характеристическая функция всегда одно­
значно определяет соответствующую ей функцию распределения (см. примеча­
ние :*).
146
В частности, многочисленные примеры оценок Fj (со) спектральной
плотности F (со) (нормированной условием F (0) = 0) гидрометеорологических
рядов наблюдений могут быть найдены в [162, 163] и [70, 117, 141, 314].
147
См., например, [17, 67, 91, 139], где можно найти много дополнитель­
ных ссылок.
148
Задаче о выделении скрытых периодичностей посвящена, в частности,
книга [187], содержащая обширную библиографию.
149
По поводу исследования стационарных функций X (t) со смешанным
спектром см., например, книги [210, § IV.1], [211, гл. V I I , § 6 ] и статьи
[160, 331], где можно найти много дополнительных ссылок.
СПИСОК ЛИТЕРАТУРЫ
1. А л е к с е е в В. Г. К анализу работы приборов для измерения временных
спектров турбулентных пульсаций. — Изв. АН СССР. Физика а^осферы
и океана, 1965, т. 1, № 7, с. 688—695.
2. А л е к с е е в В. Г. О точности экспериментального определения моментов
высших порядков временных рядов. — Изв. АН СССР. Техн. кибернетика,
1970, № 6, с. 171 — 176.
3. А л е к с е е в В. Г. О выборе спектрального окна при оценке спектра гауссовского стационарного случайного процесса. — Пробл. передачи информ.,
1971, т. 7, № 4, с. 46—54.
4. А л е к с е е в В. Г. Спектральный анализ некоторых негауссовских слу­
чайных процессов. — Теория вероятностей и мат. статистика, 1973, вып. 9,
с. 3—7.
5. А л е к с е е в В. Г. Некоторые практические рекомендации по спектраль­
ному анализу гауссовских стационарных случайных процессов. — Пробл.
передачи информ., 1973, т. 9, № 4, с. 42—48.
6. А л е к с е е в В. Г. Некоторые вопросы спектрального анализа гауссов­
ских случайных процессов. — Теория вероятностей и мат. статистики, 1974,
вып. 10, с. 3 — 11.
7. А л е к с е е в В. Г. Об одном численном эксперименте по вычислению
спектров случайных процессов. —Пробл. передачи информ., 1975, т. 11,
№ 4, с. 106—108.
8. А л и с о в Б. П., Д р о з д о в О. А., Р у б и н ш т е й н Е. С. Курс
климатологии. —Л.: Гидрометеоиздат, 1952. —487 с.
9. А н д е р с о и Т. Статистический анализ временных рядов. Пер. с англ. —•
М.: Мир, 1976. — 755 с.
10. А н т о н о в B.C. Будет ли дальше падать уровень Каспийского моря? —
Морской флот, 1963, т. 23, № 11, с. 42—43.
11. А р х и п о в а Т. В. К анализу биномиальных фильтров. — Труды ГГО,
1978, вып. 409, с. 75—80.
12. А х и е з е р Н. И., Г л а з м а н И. М. Теория линейных опера­
торов в гильбертовом пространстве. 2-е изд. — М.: Наука, 1966. —
543 с.
13. Б а л л Г. А. Аппаратурный корреляционный анализ случайных процес­
сов. — М.: Энергия, 1968. — 159 с.
14. Б а р т л е т т М. С. Введение в теорию случайных процессом. Пер. с англ. -М.: Изд-во иностр. лит., 1958. —384 с.
15. Б е н д а т* Дж. Основы теории случайных шумов и ее применения. Пер.
с англ. — М.: Наука, 1965. —463 с.
16. Б е н д а т Дж., П и р с о л А. Измерение и анализ случайных процессов.
Пер. с англ. — М.: Мир, 1974. —464 с.
17. Б е н т к у с Р. Асимптотическая нормальность оценки спектральной
функции. —Литовск. мат. сб., 1972, т. 12, № 3, с. 5—18.
18. Б е н т к у с Р., Р у т к а у с к а с В. Об асимптотике первых двух момен­
тов спектральных оценок второго порядка. —Литовск. мат. сб., 1973, т. 13,
№ 1 с. 29—45.
19. Б е р г л а н д Г. Д. Руководство к быстрому преобразованию Фурье.
Пер. с англ. —Зарубежная радиоэлектроника, 1971, № 3, с. 52—72.
20. Б о б н е в М. П. Генерирование случайных сигналов. —М.: Энергия,
1971. —239 с.
266
Список литературы
21. Б о к с Дж., Д ж е н к и н с Г. Анализ временных рядов. Прогноз и упра­
вление. Пер. с англ. — М.: Мир, 1974, вып. 1, 406 с ; вып. 2, 197 с.
22. Б о р д ж о л и Р. Вычисление корреляции с помощью быстрого преоб­
разования Фурье в сравнении с прямым методом временной дискретной
корреляции. Пер. с англ. — Труды Ин-та инженеров по электротехн. и
радиоэлектр., 1968, т. 56, № 9, с. 213—215.
23. Б о р о в к о в А. А. Теория вероятностей. — М.: Наука, 1976. — 352 с.
24. Б о х н е р С. Лекции об интегралах Фурье. Пер. с англ. — М: Физматгиз, 1962. — 360 с.
25. Б о ч к о в Г. Н., Д у б к о в А. А. К корреляционному анализу нелиней­
ных стохастических функционалов. — Изв. вузов. Радиофизика, 1974,
т. 17, № 3, с. 376—382.
26. Б р о у н В. М. Анализ линейных инвариантных во времени систем. Пер.
с англ. —М.: Машиностроение, 1966. —436 с.
27. Б р э д ш о у П. Введение в турбулентность и ее измерение. Пер. с англ. —
М.: Мир, 1974. —278 с.
28. Б у й н я в и ч ю с В.-А. В., П е т р и к е С.-Р. С. Коррелометр совпа­
дения полярностей (знаков) в анализе нестационарных процессов. — В кн.:
X Всесоюз. симпозиум «Методы представления и аппаратурный анализ
случайных процессов и полей». Секц. 2 . — Л . : ВНИИЭП, 1978, с. 3—9.
29. В а н д е р 3 и л А. Шум. Пер с англ. — М.: Сов. радио, 1973. — 229 с.
30. В а н д е р З и л А. Шумы при измерениях. Пер. с англ.—М.: Мир,
1979. — 292 с.
31. В в е д е н и е в цифровую фильтрацию/Под ред. Р. Богнера, А. Константинидиса. Пер. с англ.—М.: Мир, 1977. — 216 с.
32. В е н т ц е л ь А. Д. Курс теории случайных процессов. — М.: Наука,
1975. — 319 с.
33. В е н ч к о в с к и й Л. Б. Построение оценок математического ожидания
и дисперсии по некоррелированной выборке случайного процесса. — Авто­
матика и телемеханика, 1962, № 5, с. 565—570.
34. В е р б и ц к а я И. Н. Об условиях применимости усиленного закона боль­
ших чисел к стационарным в широком смысле процессам. — Теория вероят­
ностей и ее применения, 1964, т. 9, № 2, с. 358—365; 1966, т. 11, № 4, с. 715—
720.
35. В е р е ш к и н А. Е., К а т к о в н и к В. Я- Линейные цифровые филь­
тры и методы их реализации. —М.: Соп. радио, 1973. — 151 с.
36. В е с е л о в а Г. П., Г р и б а н о в Ю. И. Об оптимальном шаге выборки
при вычислении корреляционных функций случайных процессов на цифро­
вых вычислительных устройствах. — Автоматика и телемеханика, 1968,
№ 12, с. 110—117.
37. В е с е л о в а Г. П., Г р и б а н о в Ю. И. Статистическая погрешность
оценки корреляционной функции нецентрированных случайных процессов. —
Автометрия, 1970, № 1, с. 116—120.
38. В е с е л о в а Г. П., Г р и б а н о в Ю. И. О погрешностях знакового
и релейного методов оценки коэффициента корреляции при отклонении рас­
пределения исследуемых случайных процессов от нормального. — В кн.:
VI Всесоюз. симпозиум «Методы представления и аппаратурный анализ
случайных процессов и полей». Секц. 5. — Л . : ВНИИЭП, 1973, с. 20—25.
39. В и л е н к и н С. Я- Статистические методы исследования систем автома­
тического регулирования.—М.: Сов. радио, 1967.—200 с.
40. В и л е н к и н С. Я- Статистическая обработка результатов исследования
случайных функций. —М.: Энергия, 1979. —320 с.
41. В и н е р Н. Интеграл Фурье и некоторые его приложения. Пер. с англ. —
М.: Физматгиз, 1963. — 256 с.
42. В и н е р Н., П э л и Р. Преобразование Фурье в комплексной области.
Пер. с англ. — М.: Наука, 1964. —267 с.
43. В и н н и к Л. П. Структура микросейсм и некоторые вопросы методики
группирования в сейсмологии.—М.: Наука, 1968. — 104 с.
Список литературы
267
44. В и ш н я к о в а Н. Н., Г а е в о й Ю. В., Г е р а н и н В. А. Анализ
погрешностей измерения функций корреляции негауссовых стационарных
процессов. — В кн.: IX Всесоюз. симпозиум «Методы представления и ап­
паратурный анализ случайных процессов и полей». Секц. 1. —Л.: ВНИИЭП,
1976, с. 90—97.
45. В л а д и м и р о в B . C . Обобщенные функции в математической физике.
2-е изд. — М.: Наука, 1979. —318 с.
46. В о л г и и В. В., К а р и м о в Р. Н. О выборе длины реализации при
вычислении корреляционной функции по экспериментальным данным слу­
чайных процессов. — Автоматика и телемеханика,
1967, № 6, с.
53—62.
47. В о л к о в И. И., М о т е в В. В., П р о х о р о в С. А. Корреляторы
с аппроксимацией параметрическими моделями. — В кн.: VII Всесоюз.
симпозиум «Методы представления и аппаратурный анализ случайных про­
цессов и полей». Секц. 4. — Л . : ВНИИЭП, 1974, с. 10—14.
48. В ы ч и с л и т е л ь н а я техника в применении для статистических иссле­
дований и расчетов систем автоматического управления/В. В. Солодовни­
ков, П. С. Матвеев, Ю. С. Вальденберг, В. М. Бабурин.—М.: Машгиз,
1963. — 167 с.
49. Г а н д и н Л. С , К а г а н Р. Л. Статистические методы интерпретации
метеорологических данных.—Л.: Гидрометеоиздат. —359 с.
50. Г а п о ш к и н В. Ф. Критерии усиленного закона больших чисел для
стационарных в широком смысле случайных процессов и однородных слу­
чайных полей. — Теория вероятностей и ее применения, 1977, т. 22, № 2,
с. 295—319.
51. Г е л ь ф а н д И. М., В и л е н к и н Н. Я- Некоторые применения гар­
монического анализа. Оснащенные гильбертовы пространства. —М.: Физматгиз, 1961. — 472 с.
52. Г е л ь ф а н д И. М., Ш и л о в Г. Е. Обобщенные функции и действия
над ними. —М.: Физматгиз, 1959. —439 с.
53. Г е л ь ф о н д А. О. Исчисление конечных разностей. 3-е изд. — М.: Наука,
1967. —375 с.
54. Г е р а н и н В. А. О влиянии негауссовости на точность измерения кор­
реляционной функции случайного процесса. — В кн.: V Всесоюз. симпозиум
«Методы представления и аппаратурный анализ случайных процессов и
полей». Секц. 1. — Л . : ВНИИЭП, 1972, с. 80—86.
55. Г е р м а н Д. Я., М о р о з о в Н. Ф., С в а л о в Ю. Л. О погрешно­
стях оценивания среднего, дисперсии и корреляционной функции стацио­
нарных случайных процессов. — В кн.: VII Всесоюз. симпозиум «Методы
представления и аппаратурный анализ случайных процессов и полей».
Секц. 2. — Л . : ВНИИЭП, 1974, с. 128—133.
56. Г е р ш м а н С. Г., Ф е й н б е р г Е. Л. Об измерении коэффициента кор­
реляции. — Акуст. журн., 1955, т. 1, № 4, с. 326—338.
57. Г и х м а н И. И., С к о р о х о д А. В. Введение в теорию случайных
процессов. 2-е изд.—М.: Наука, 1977. —567 с.
58. Г и х м а н И. И., С к о р о х о д А. В. Теория случайных процессов.
В 3-х томах. — М.: Наука, 1971, Т. 1, 664 с ; 1973, Т. 2, 639 с ; 1975, Т. 3,
496 с.
59. Г л у х о в с к и й Б. X. Исследование морского ветрового волнения. —
Л.: Гидрометеоиздат, 1966.—284 с.
60. Г н е д е н к о Б. В. Курс теории вероятностей. 5-е изд. —М.: Наука,
1969. —400 с.
61. Г о л д Б., Р э й д е р Ч. Цифровая обработка сигналов. Пер. с англ. —
М.: Сов. радио, 1973. —367 с.
62. Г о л ь д е н б е р г Л. М., Л е в ч у к Ю. П., П о л я к М. Н. Цифро­
вые фильтры. —М.: Связь, 1974. — 160 с.
63. Г о р б а ц е в и ч Е. Д. Коррелометры с аппроксимацией. — М.: Энер­
гия, 1971. —96 с.
268
Список литературы
64. Г р а д ш т е й н И. С , Р ы ж и к И. М. Таблицы интегралов, сумм,
рядов и произведений. 5-е изд. —М.: Наука, 1971. — 1108 с.
65. Г р е н а н д е р У. Случайные процессы и статистические выводы. Пер.
с англ. —М.: Изд-во иностр. лит., 1961. — 167 с.
66. Г р е н а н д е р У., Р о з е н б л а т т М. Статистический спектральный
анализ временных рядов, возникающих из стационарных случайных про­
цессов. Пер. с англ. —Математика, 1958, т. 2, № 5, с. 123—144.
67. Г р е н а н д е р У., Р о з е н б л а т т М. Некоторые задачи об оценке
спектра временного ряда. Пер. с англ. — Математика, 1958, т. 2, № 5,
с. 105—122.
68. Г р е II д ж с р К., Х а т а п а к а М. Спектральный анализ временных
рядов в экономике. Пер. с англ. - - М.: Статистика, 1972. — 312 с.
69. Г р и б Н. К. Гармонический анализ временных рядов общего содержания
атмосферного озона. —Труды ГГО, 1978, вып. 409, с. 18—31.
70. Г р и б Н. К., П о л я к И. И. Временная изменчивость среднегодовых
значений температуры
воздуха. — Труды ГГО,
1976, вып. 374,
с. 71—91.
71. Г р и б а н о в Ю. И., В е с е л о в а Г. П., А н д р е е в В. Н. Автома­
тические цифровые корреляторы. —М.: Энергия, 1971.—240 с.
72. Г р и б а н о в Ю. И., М а л ь к о в В. Л. Спектральный анализ случай­
ных процессов. —М.: Энергия, 1974. — 239 с.
73. Г р и б а н о в Ю. И., М а л ь к о в В. Л. Выборочные оценки спектраль­
ных случайных процессов. —М.: Энергия, 1978. — 149 с.
74. Д а в е н п о р т В. Б., Д ж о н с о н Р. А., М и д л т о н Д. Статисти­
ческие ошибки при измерении случайных функций времени. Пер. с англ. —
В кн.: Определение параметров случайных процессов. — Киев: Гос. изд-во
техн. лит. УССР, 1962, с. 5—41.
75. Д а в е н п о р т В. Б., Р у т В. Л. Введение в теорию случайных сигна­
лов и шумов. Пер. с англ. — М.: Изд-во иностр. лит., 1960. — 468 с.
76. Д е ч Р., Нелинейные преобразования случайных процессов. Пер. с англ. —
М.: Сов. радио, 1965. — 206 с.
77. Д ж а п а р и д з е К. О., Я г л о м А. М. Применение модифицированного
«метода накопления» Фишера к оценке параметров спектра случайных про­
цессов. — ДАН СССР, 1974, т. 217, № 3, с. 512—515.
78. Д ж е н к и н с Г., В а т т е Д. Спектральный анализ и его приложения.
Пер. с англ. — М.: Мир, 1971, вып. 1, 316 с ; 1972, вып. 2, 287 с.
79. Д ж е р р и А. Дж. Теорема отсчетов Шеннона, ее различные обобщения
и приложения. Обзор. Пер. с англ. — Труды Ин-та инженеров по электротехн. и радиоэлектрон., 1977, т. 65, № 11, с. 58—89.
80. Д ж е ф ф р и с Г., С в и р л с Б. Методы математической физики. Пер.
с англ. — М.: Мир, 1972, вып. 2. —352 с.
81. Д о м а р а ц к и й А. Н., И в а н о в Л. Н., Ю р л о в Ю. И. Много­
целевой статистический анализ случайных сигналов. — Новосибирск: Наука,
1975. — 162 с.
82. Д р о з д о в О. А., П о к р о в с к а я Т. В. Об оценке роли случайных
вариаций водного баланса в колебании уровня непроточных озер. — Метео­
рология и гидрология, 1961, № 8, с. 43—48.
83 Д у б Дж. Л. Вероятностные процессы. Перев. с англ. — М.: Изд-во иностр.
лит., 1956. —605 с.
84. Е г о р о в И. С. Коммутационный коррелограф.—Радиотехн. и электр.,
1968, т. 13, № 8, с. 1509—1512.
85. Ж а л у д В., К у л е ш о в В. Шумы в полупроводниковых устройствах. —
М.: Сов. радио, 1977. —416 с.
86. Ж о в и н с к и й В. Н., А р х о в с к и й В. Ф. Корреляционные устрой­
ства. М.: Энергия, 1974. —248 с.
87. Ж у к о в с к и й Е. Е., К и с е л е в а Т. Л., М а н д е л ь ш т а м С М .
Статистический анализ случайных процессов в приложении к агрофизике
и агрометеорологии. —Л.: Гидрометеоиздат, 1976. —407 с.
Список литературы
269
88. Ж у р б е н к о И. Г. Об одной статистике спектральной плотности. —
ДАН СССР, 1978, т. 239, № 1, с. 34—37.
89. Ж у р б е н к о И. Г. О локальных свойствах оценки спектральной плот­
ности. — Пробл. передачи информ., 1978, т. 14, № 3, с. 85—91.
90. З а д е Л., Д е з о е р Ч. Теория линейных систем. Пер. с'англ."—ГМ.:
Наука, 1970. — 703 с.
91. И б р а г и м о в И. А. Об оценке спектральной функции стационарного
гауссовского процесса. — Теория вероятностей и ее применения, 1963, т. 8,
№ 4, с. 391—430.
92. И б р а г и м о в И. А., Л и н н и к Ю. В. Независимые и стационарно
связанные величины. —М.: Наука, 1965. — 524 с.
93. И т о К. Вероятностные процессы, вып. 1. Пер. с япопск. — М.: Изд-во
иностр. лит., 1960. — 133 с.
94. И ц к о в и ч 3. Л., Ц а т у р о в а И. А. Выбор параметров реализации
случайного стационарного процесса при расчете оценки его корреляцион­
ной функции. — Автоматика и телемеханика, 1969, № 2, с. 25—30.
95. К а з а к е в и ч Д. И. Основы теории случайных функций и ее применение
М в гидрометеорологии.—Л.: Гидрометеоиздат, 1971.—267 с.
96. К а л и н ч у к Б. А., П и а с т р о В. П. Анализаторы инфразвуковых
случайных процессов.—Л.: Энергия, 1973. — 184 с.
97. К а н а л и з у точности измерения дисперсии негауссовских случайных
процессов/Ю. Н. Вишняков, Н. Н. Вишнякова, В. А. Геранин и др. — В кн.:
VII Всесоюз. симпозиум «Методы представления и аппаратурный анализ
случайных процессов и полей». Секц. 3. — Л . : ВНИИЭП, 1974, с. 182—188.
98. К а р т в е л и ш в и л и Н. А. Теория вероятностных процессов в гидро­
логии и регулирование речного стока.—Л.: Гидрометеоиздат, 1967.—
291 с.
99. К е л л е р Л. В. Распространение предельных теорем теории вероятно­
стей на интегралы и средние значения функций сплошного аргумента. —
Труды ГГО, 1935, вып. 4, с. 5—20.
100. К е н д а л л М. Дж., С т ь ю а р т А. Теория распределений. Пер.
с англ. — М.: Наука, 1966. — 587 с.
101. К е н д а л л М. Дж., С т ь ю а р т А. Многомерный статистический ана­
лиз и временные ряды. Пер. с англ. —М.: Наука, 1976. —736 с.
102. К и р ь я н о в К. Г. К нахождению авто- и взаимно-корреляционных
функций по зависимости условного среднего от параметра временного
смещения. —Радиотехн. и электр., 1971, т. 16, № 4, с. 617—620.
103. К о ж е в н и к о в В. А., М е щ е р с к и й Р. М. Современные методы
анализа электроэнцефалограммы.—М.: Медгиз, 1963.—327 с.
104. К о з у л я е в П. А. К проблемам интерполяции и экстраполяции стацио­
нарных последовательностей. — ДАН СССР, 1941, т. 30, № 1, с. 13—17.
105. К о к с Д., Л ь ю и с П. Статистический анализ последовательностей
событий. Пер. с англ.—М.: Мир, 1969.—312 с.
106. К о л м о г о р о в А. Н. Кривые в гильбертовом пространстве, инвариант­
ные относительно однопараметрической группы движений.—ДАН СССР,
1940, т. 26, № 1, с. 6—9.
107. К о л м о г о р о в А. Н. Стационарные последовательности в гильбер­
товом пространстве.—Бюл. МГУ. Математика, 1941, т. 2, вып. 6,
с. 1—40.
108. К о л м о г о р о в А. Н. Статистическая теория колебаний с непрерыв­
ным спектром. — В кн.: Юбилейный сборник АН СССР. — М.: Изд. АН
СССР, 1947, т. 1, с. 242—254.
109. К о л м о г о р о в А. Н. Основные понятия теории вероятностей. 2-е
изд. — М.: Наука, 1974. — 119 с.
ПО. К о л м о г о р о в А. Н., Ф о м и н С В . Элементы теории функций •
и функционального анализа. 4-е изд. —М.: Наука, 1976. — 543 с.
111. К о н о в а л о в Г. В., Т а р а с е н к о Е. М. Импульсные случайные
процессы в электросвязи. —М.: Связь, 1973.—304 с»
270
Список литературы
112. К о н я е в К- В. Спектральный анализ случайных процессов и полей. —
М.: Наука, 1973. — 168 с.
113. К о п и л о в и ч Л. Е. К теории коррелятора совпадения полярностей. —
Изв. вузов. Радиотехника, 1966, т. 9, № 6, с. 719—725.
114. К о р н Г. А. Моделирование случайных процессов на аналоговых и ана­
лого-цифровых машинах. —М.: Мир, 1968. —315 с.
115. К о с я к и н А. А., Ф и л а р е т о в Г. Ф. Теория релейного корре­
лятора. — В кн.: V Всесоюз. симпозиум «Методы представления и аппара­
турный анализ случайных процессов и полей». Секц. 3. —Л.: ВНИИЭП,
1972, с. 144—150.
116. К о т е л ь н и к о в В. В. О пропускной способности «эфира» и прово­
локи в электросвязи. —Материалы к 1-му Всесоюз. съезду по вопросам
техн. реконст. дела связи и разв. слаботочн. промышл. — М.: 1933. — 19 с.
117. К о т е л ь н и к о в а Л. В., П о л я к И. И. Гармонический анализ вре­
менных рядов атмосферного давления. — Труды ГГО, 1975, вып. 364,
с. 156—162.
118. К о т ю к А. Ф., О л ь ш е в с к и й В. В., Ц в е т к о в Э. Н. Методы
и аппаратура для анализа характеристик случайных процессов. —М.:
' Энергия, 1967. — 240 с.
119. К р а м е р Г. Математические методы статистики. Пер. с англ. 2-е издт —
М.: Мир, 1975. —648 с.
120. К р а м е р Г., Л и д б е т т е р М. Стационарные случайные процессы.
Свойства выборочных функций и их приложения. Пер. с англ. —М.: Мир,
1969. — 398 с.
121. К р и к с у н о в В. Г. Автоматические анализаторы спектров электриче­
ских сигналов. — Киев: Техника, 1965. — 179 с.
122. К р и ц к и й С. Н., М е н к е л ь М. Ф. О колебаниях уровня замкну­
тых водоемов. —Метеорология и гидрология, 1964, № 7, с. 32—36.
123. К р ы л о в Ю. М. Спектральные методы исследования и расчета ветровых
волн. —Л.: Гидрометеоиздат, 1966. —255 с.
124. К у р а н т Р., Г и л ь б е р т Д. Методы математической физики. Пер.
с нем. 2-е изд. —М.; Л.: Гостехиздат, 1951, Т. 1. —476 с.
125. К у р о ч к и н С. С. Многоканальные счетные системы и коррелометры. —
М.: Энергия, 1972. —344 с.
126. К у р ь я н о в Б. Ф., М е д в е д е в а Л. Е. Гармонический анализ ста­
ционарных случайных процессов (с использованием быстрого преобразо­
вания Фурье). —М.: Вычисл. центр МГУ, 1970. —63 с.
127. К у т и н Б. Н. О вычислении корреляционной функции стационарного
случайного процесса по экспериментальным данным. — Автоматика и
телемеханика, 1957, т. 18, № 3, с. 201—222.
128. Л а м л и Дж. Л., П а н о в с к и й Г. А. Структура атмосферной тур­
булентности. Пер. с англ. — М.: Мир, 1966. — 264 с.
129. Л е б е д е в В. Л. Случайные процессы в электрических и механических
системах. —М.: Физматгиз, 1958. — 176 с.
130. Л е в и П. Стохастические процессы и броуновское движение. Пер.
с франц. — М.: Наука, 1972. — 375 с.
131. Л е в и н Б. Р. Теоретические основы статистической радиотехники.
В 3-х книгах. — М.: Сов. радио, 1974, кн. 1, 550 с ; 1975, кн. 2, 391 с ;
1976, кн. 3, 285 с.
132. Л е й ф е р Л. А. Применение авторегрессионных схем в спектральнокорреляционном анализе случайных процессов. — В кн.: V Всесоюз. сим­
позиум «Методы представления и аппаратурный анализ случайных процес­
сов и полей». Секц. 3 . — Л . : ВНИИЭП, 1972, с. 101 —104.
133. Л е о н о в В. П. Некоторые применения старших семиинвариантов
к теории стационарных случайных процессов. —М.: Наука, 1964. —67 с.
134. Л и в ш и ц Н. А., П у г а ч е в В. Н. Вероятностный анализ систем
автоматического управления. — М.: Сов. радио, 1963, ч. 1, 896 с ; ч. 2,
483 с.
Список литературы
271
135. Л и н д с т р е м Л. X., М а г н у с с о н Р. И. Интерпретация спектров
мощности электрических сигналов мышц. Модель и ее применение. Пер.
с англ. — Труды Ин-та инженеров по электротехн. и радиоэлектр., 1977,
т. 65, № 5, с. 72—82.
136. Л о э в М. Теория вероятностей. Пер. с англ. — М.: Изд-во иностр. лит.,
1962. — 719 с.
137. Л э н и н г Дж. X., Б э т т и н Р. Г. Случайные процессы в задачах
автоматического управления. Пер. с англ. —М.: Изд-во иностр. лит.,
1958. — 387 с.
138. М а л а х о в А. Н. Флуктуации в автоколебательных системах. — М.:
Наука, 1968. —660 с.
139. М а л е в и ч Т. Л. Некоторые свойства оценок спектра стационарного
процесса. — Теор. вероятн. и ее прим., 1965, т. 10, № 3, с. 500—509.
140. М а р ч е н к о А. С. Устойчивость оценок математического ожидания
и дисперсии для связных метеорологических рядов. — Изв. АН СССР.
Физика атмосферы и океана, 1965, т. 1, № 9, с. 906—913.
141. М а с а н о в а М. Д. Некоторые результаты анализа временных рядов
гидрологических элементов. — Труды ГГО, 1975, вып. 364, с. 192—195.
142. М е т о д статистических испытаний (метод Монте-Карло)/Н. П. Бусленко,
Д. И. Голенко, И. М. Соболь и др. — М.: Физматгиз, 1962. — 331 с.
143. М и д д л т о н Д. Введение в статистическую теорию связи. Пер. с англ. —
М.: Сов. радио, 1961, ч. 1, 782 с ; 1962, ч. 2, 831 с.
144. М и р с к и й Г. Я. Аппаратурное определение характеристик случай­
ных процессов. 2-е изд.—М.: Энергия, 1972. —455 с.
145. М и р с к и й Г. Я- Измерение нормированной функции корреляции мето­
дом условного среднего знаковой функции. — В кн.: X Всесоюзн. симпо­
зиум «Методы представления и аппаратурный анализ случайных процессов
и полей». Секц. 2. — Л.: ВНИИЭП, 1978, с. 10—15.
146. М и р с к и й Г. Я-, Т и х о н о в Э. П. Прямопоказывающий коррело­
метр вида «значение—знак», инвариантный к закону распределения вероят­
ностей. — В кн.: VII Всесоюз. симпозиум «Методы представления и аппа­
ратурный анализ случайных процессов и полей». Секц. 4. — Л . : ВНИИЭП,
1974, с. 3—9.
147. М о н и н А. С , Я г л о м А. М. Статистическая гидромеханика. — М.:
Наука, 1965, ч. I, 639 с ; 1967, ч. 2, 720 с.
148. Н е м и р о в с к и й А. С. Вероятностные методы в измерительной тех­
нике (измерения стационарных случайных процессов). —М.: Изд-во стан­
дартов, 1964. — 216 с.
149. Н и д е к к е р И. Г. Вопросы повышения точности вычисления спектраль­
ной плотности случайного процесса. — Сообщения по вычислит, матем.
М.: Вычисл. центр АН СССР, 1968. Вып. 3. —24 с.
149а. О б е р х е т т и н г е р Ф. Преобразования Фурье распределений и их
обращения. Пер. с англ. — М.: Наука, 1979. — 247 с.
150. О б у х о в А. М. Статистическое описание случайных полей. — ТруДы
Геофиз. ин-та АН СССР, 1954, вып. 24 (151), с. 3—42.
151. О л ь с о н Г. Динамические аналогии. Пер. с англ. — М.: Изд-во иностр.
лит., 1947. — 224 с.
152. О п о г р е ш н о с т я х измерения функции корреляции негауссовских
стационарных случайных процессов/Н. Н. Вишнякова, В. А. Геранин,
Ю. П. Монаков, А. Н. Продеус. — В кн.: VIII Всесоюз. симпозиум «Методы
представления и аппаратурный анализ случайных процессов и полей».
Секц. 1. — Л . : ВНИИЭП, 1975, с. 90—95.
153. О р л и ч е н к о А. М. Дисперсия оценок одномерных моментов высоких
порядков нормального стационарного процесса. — В кн.: Вопросы форми­
рования и обработки сигналов в радиотехнических системах. Таганрог,
1978, вып. 2, с. 195—201.
154. П а н о в с к и й Г. А., Б р а й е р Г. В. Статистические методы в метео­
рологии. Пер. с англ. — Л . : Гидрометеоиздат, 1972. —209 с.
272
Список литературы
155. П а н ч е в С. Случайные функции и турбулентность. Пер. с болг. — Л . :
Гидрометеоиздат, 1967. — 447 с.
156. П а р з е н Э. Об асимптотически эффективных состоятельных оценках
спектральной плотности стационарного процесса. Пер. с англ. — Мате­
матика, 1962, т. 6, № 6, с. 130—150.
157. П е р р е н Ж- Атомы. Пер. с франц.—М.: Госиздат, 1924.—254 с.
158. П и н с к е р М. С. Теория кривых в гильбертовом пространстве со стацио­
нарными я-ми приращениями. — Изв. АН СССР. Сер. мат., 1955, т. 19,
№ 5, с. 319—345.
159. П и с а р е н к о В. Ф. Об оценивании спектров с помощью нелинейных
функций от матрицы ковариаций. — Вычислительная сейсмология, 1973,
вып. 6, с. 263—286.
160. П и с а р е н к о В.Ф. Выделение, гармоник из корреляционной функции.—
Вычислительная сейсмология, 1974, вып. 7, с. 160—181.
161. П и с а р е н к о В. Ф. Выборочные свойства спектральной оценки ма­
ксимальной энтропии. — Вычислительная сейсмология, 1977, вып. 10,
с. 118—149.
162. П о л я к И. И. Численные методы анализа наблюдений.—Л.: Гидро­
метеоиздат, 1975.—211 с.
163. П о л я к И. И. Методы анализа случайных процессов и полей в кли­
матологии. — Л.: Гидрометеоиздат, 1979. — 255 с.
164. П о н о м а р е в В. А., Т и м о х и н В. И. Применение временных окон
в цифровом спектральном анализе случайных процессов. — В кн.: VII Все-.
союзн. симпозиум «Методы представления и аппаратурный анализ случай­
ных процессов и полей». Секц. 2. — Л . : ВНИИЭП, 1974, с. 93—96.
165. П о п е н к о Н. В., Т и х о н о в Э. П. Сравнительный анализ алгорит­
мов измерения корреляционных функций мультипликативным методом. —
В кн.: V Всесоюзн. симпозиум «Методы представления и аппаратурный
анализ случайных процессов и полей». Секц. 3 . — Л . : ВНИИЭП, 1972,
с. 83—87.
166. П р и в а л о в И. И. Граничные свойства аналитических функций. 2-е
изд. —М.; Л.: Гостехиздат, 1950. —336 с.
167. П р и в а л ь с к и й В. Е. Линейная экстраполяция колебаний уровня
моря на основе параметрической модели. — Изв. АН СССР. Физика атмо­
сферы и океана, 1973, т. 9, № 9, с. 973—981.
168. П р и в а л ь с к и й В. Е. О вероятностном прогнозе элементов водного
баланса и колебаний уровня Каспийского моря. Метеорология и гидроло­
гия, 1976, № 5, с. 70—76.
169. П р и в а л ь с к и й В. Е. Об оценивании спектральной плотности круп­
номасштабных процессов. — Изв. АН СССР. Физика атмосферы и океана,
1976, т. 12, № 9, с. 979—982.
170. П у г а ч е в B.C. Теория случайных функций и ее применение к задачам
автоматического управления. 3-е изд. — М.: Физматгиз, 1962. — 883 с.
171. П у г а ч е в В. С , К и з а к о в И. Е., Е в л а н о в Л. Г. Основы
статистической теории автоматических систем. — М.: Машиностроение,
1974. —400 с.
172. Р а б и н е р Л., Г о у л д Б. Теория и применение цифровой обработки
сигналов. — М.: Мир, 1978. —848 с.
173. Р а й е СО. Теория флуктуационных шумов. Сокр. пер. с англ. — В кн.:
Теория передачи электрических сигналов при наличии помех. — М.: Изд-во
иностр. лит., 1953, с. 88—238.
174. Р а с у л о в Н. П. Об асимптотически эффективном оценивании коэф­
фициентов регрессии в условиях вырождения спектральной плотности
шума. — Теория вероятностей и ее применения, 1976, т. 21, № 2, с. 324—333.
175. Р о з а н о в Ю. А. Стационарные случайные процессы. —М.: Физмат­
гиз, 1963. — 284 с.
176. Р,о з а н о в Ю. А. Случайные процессы, 2-е изд. — М.: Наука, 1979. —
183 с.
Список литературы
273
177. Р о м а н е н к о А. Ф., С е р г е е в Г. А. Вопросы прикладного анализа
случайных процессов.—М.: Сов. радио, 1968. — 255 с.
178. Р о х л и н В. А. Избранные вопросы метрической теории динамических
систем. — Успехи мат. наук, 1949, т. 4, вып. 2(30), с. 57—128.
179. Р о ш а л ь А. С. Быстрое преобразование Фурье в вычислительной фи­
зике (обзор).— Изв. вузов. Радиофизика, 1976, т. 19, № 10, с. 1425—.
1454.
180. Р ы к у н о в Л. Н. Микросейсмы. Экспериментальные характеристики
естественных микровибраций грунта в диапазоне периодов 0,07—8 с. —
М.: Наука, 1967. — 86 с.
181. Р ы т о в С. М. Введение в статистическую радиофизику. Ч. 1. Случай­
ные процессы. — М.: Наука, 1976. — 494 с.
182. Р ы т о в С М . , К р а в ц о в Ю. А., Т а т а р с к и й В. И. Введение
в статистическую радиофизику. Ч. 2: Случайные п о л я . - - М . : Наука,
1978. — 463 с.
183. С а б и н и п К. Д. О выборе соответствия между периодичностью изме­
рений и инерционностью прибора. — Изв. АН СССР. Физика атмосферы
и океана, 1967, т. 3, № 5, с. 473—480.
184. С а м а р о в A . M . Нижняя граница риска оценок спектральной плот­
ности.— Пробл. передачи информ., 1977, т. 13, № 1, с. 67—72.
185. С в е ш н и к о в А. А. Прикладные методы теории случайных функций.
2-е изд. — М.: Наука, 1968. — 463 с.
186. С е р г е е в Г. А., П а в л о в а Л. П., Р о м а н е н к о А. Ф. Стати­
стические методы исследования электроэнцефалограммы человека. — Л.:
Наука, 1968. — 207 с.
187. С е р е б р е н н и к о в М. Г., П е р в о з в а н е к и й А. А. Выявление
скрытых периодичностей.—М.: Наука, 1965. — 244 с.
188. С и н и ц ы н Б. С. Автоматические корреляторы и их применение. —
Новосибирск. Ред.-изд. отдел СО АН СССР, 1964. — 218 с.
189. С л у ц к и й Е. Е. Избранные труды. —М.: Изд-во АН СССР, 1960. —
292 с.
190. С м и р н о в Н. В., Д у н и н - Б а р к о в с к и й И. В. Курс теории
вероятностей и математической статистики. 3-е изд. —М.: Наука, 1969. —
511 с.
191. С о в р е м е н н а я теория фильтров и их проектирование/Под ред. Г. Темеша, С. Митра. Пер. с англ.—М.: Мир, 1977. — 560 с.
192. С о л о в ь е в А. П. Об оценке точности математического ожидания и
дисперсии стационарной случайной последовательности. — Автоматика
и телемеханика, 1970, № 8, с. 172—176.
193. С о л о д о в н и к о в В. В. Статистическая динамика линейных систем
автоматического управления.—М.: Физматгиз, 1960. — 655 с.
194. С т р а т о н о в и ч Р. Л. Избранные вопросы теории флюктуации в ра­
диотехнике. — М.: Сов. радио, 1961. — 558 с.
195. С у х о д о е в И. В. Шумы электрических цепей. — М.: Связь, 1975. —
351 с.
196. Т е о р и я следящих систем/Под ред. X. Джеймса, Н. Никольса, Р. Филлипса. Пер. с англ. —М.: Изд-во иностр. лит., 1953. — 464 с.
197. Т и х о н о в В. И. Статистическая радиотехника.—М.: Сов. радио,
1966. — 678 с.
198. Т о м п с о н Ф. Д. Неопределенность начального состояния, как фактор
в предсказуемости крупномасштабных атмосферных процессов. Пер. с англ.—
В кн.: XI Генеральная ассамблея международного геодезического и гео­
физического союза. — М.: Изд. АН СССР, 1959, с. 150—178.
199. Т р и статьи о «быстром преобразовании Фурье». Пер. с англ. — Труды
Ин-та инженеров по электротехн. и радиоэлектр., 1967, т. 55, № 10, с. 7—29.
200. Ф а й н Т., Д ж о н с о н Н. Об оценке среднего значения случайного
процесса. Пер. с англ. — Труды ин-та инженеров по электротехн. и радио­
электр., 1965, т. 53, № 2, с. 217—219.
274
Список литературы
201. Ф е д о р ч е н к о Е. И. О влиянии связности метеорологических рядов
на точность выборочных моментов. — Труды ГГО, 1974, вып. 336, с. 25—47.
202. Ф е л л е р В. Введение в теорию вероятностей и ее приложения. Пер.
с англ. В 2-х томах. — М.: Мир, 1964, т. 1, 498 с ; 1967, т. 2, 752 с.
203. Ф и з и ч е с к и е основы теории климата и его моделирования. — Труды
международной научной конференции в Стокгольме 29 июля—10 августа
1974 г. Пер. с англ. Под ред. А. С. Монина. Л.: Гидрометеоиздат, 1977.
276 с.
204. Ф о м и н С В . О динамических системах в пространстве функций. —
Укр. мат. журнал, 1950, т. 2, № 2, с. 25—47.
205. Ф р е н к е л ь Ф. Н. Турбулентная диффузия. Пер. с англ. — В кн.:
Проблемы механики. Под ред. Р. Мизеса, Т. Кармана. — М.: Изд-во иностр.
лит., 1955, с. 384—421.
206. X а в к и н В. П., Г р и н б е р г А. И. О погрешности эксперименталь­
ного определения релейной корреляционной функции. — Заводск. лабор.,
1970, т. 36, № 10, с. 1236—1238.
207. Х а р к е в и ч А. А. Спектры и анализ. 4-е изд. — М,: Физматгиз, 1962. —■
236 с.
208. Х а р ы б и н А. Е. Анализ ошибок в определении среднего значения слу­
чайной величины и ее квадрата, связанных с конечностью времени наблю­
дения.— Автоматика и телемеханика, 1957, № 4, с. 304—314.
209. Х а ч а т у р о в а Т. В. Оценки спектра стационарных случайных про­
цессов. — Зап. научных семинаров ЛО МИАН, 1972, т. 29, с. 42—50.
210. X е н н а н Э. Анализ временных рядов. Пер. с англ. — М.: Наука, 1964. —
215 с.
211. Х е н н а н Э. Многомерные временные ряды. Пер. с англ.—М.: Мир,
1974. — 575 с.
212. X и н ц е И. О. Турбулентность. Пер. с англ. — М.: Физматгиз, 1963. —•
680 с.
213. Х и н ч и н А. Я. Теория корреляции стационарных стохастических про­
цессов. Пер. с нем. — Успехи мат. наук, 1938, вып. 5, с. 42—51.
214. X о л м я н с к и й М. 3. Измерения микротурбулентных пульсаций про­
изводной скорости ветра в приземном слое атмосферы. — Изв. АН СССР.
Физика атмосферы и океана, 1972, т. 9, № 8, с. 812—828.
215. X о м я к о в В. А. Об одном методе определения корреляционной функ­
ции случайного процесса. — Автоматика и телемеханика, 1968, № 6,
с. 75—78.
216. Х р и с т и а н Э., Э й з е н м а н Е. Таблицы и графики по расчету
фильтров. Пер. с англ. — М.: Связь, 1975. —408 с.
217. X у р г и н Я. И., Я к о в л е в В. П. Финитные функции в физике и
технике. —М.: Наука, 1971. — 408 с.
218. X у с у А. П., В и т е н б е р г Ю. Р., П а л ь м о в В. А. Шерохова­
тость поверхности. Теоретико-вероятностный подход. — М.: Наука, 1975. —
343 с.
219. X э р р и с Ф. Дж. Использование окон при гармоническом анализе ме­
тодом дискретного преобразования Фурье. Пер. с англ. — Труды ин-та
инженеров по электротехн. и радиоэлектр., 1978, т. 66, № 1, с. 60—96.
220. Ц и ф р о в а я обработка сигналов. Пер. с англ. — Труды Ин-та инжене­
ров по электротехн. и радиоэлектр., 1975, т. 63, № 4, с. 3—195.
221. Ч а н д р а с е к а р С. Стохастические проблемы в физике и астрономии.
Пер. с англ. — М.: Изд-во иностр. лит., 1947. — 168 с.
222. Ш е н н о н К. Работы по теории информации и кибернетике. Пер. с англ. —
М.: Изд-во иностр. лит., 1963. — 829 с.
223. Э й н ш т е й н А. Собрание научных трудов, т. 3. Пер. с англ. и нем. —
М.: Наука, 1966. — 632 с.
224. Э й н ш т е й н А., С м о л у х о в с к и й М. Брауновское движение.
Сборник статей. Пер. с нем. — М.; Л.: Объед. научно-техн. изд-во, 1936. —
607 с.
Список литературы
275
225. Ю л Дж. Э., К э н д е л М. Дж. Теория статистики. Пер. с англ. — М.:
Госстатиздат, 1960. — 779 с.
226. Я г л ом А. М. К вопросу о линейном интерполировании стационарных
случайных последовательностей и процессов. — Успехи мат. наук, 1949,
т. 4, вып. 4(32), с. 173—178.
227. Я г л о м А. М. Введение в теорию стационарных случайных функций. —
Успехи мат. наук, 1952, т. 7, вып. 5(51), с. 3—168.
228. Я г л о м А. М. Об учете инерции метеорологических приборов при изме­
рениях в турбулентной атмосфере. — Труды Геофиз. ин-та АН СССР,
1954, вып. 24(151), с. 112—162.
229. Я г л о м А. М. Экстраполирование, интерполирование и фильтрация
стационарных случайных процессов с рациональной спектральной плот­
ностью. — Труды Моск. мат. о-ва, 1955, т. 4, с. 333—374.
230. Я г л о м A.M. Корреляционная теория процессов со случайными стацио­
нарными я-ми приращениями. — Мат. сб., 1955, т. 37(79), № 1, с. 141 —196.
231. Я г л о м А. М. Теория корреляции непрерывных процессов и полей
с приложениями к задаче о статистическом экстраполировании временных
рядов и к теории турбулентности. — Автореф. дис. на соиск. учен, степени
д-ра физ.-мат. наук. —М.: Геофиз. ин-т АН СССР, 1955. — 11с.
232. Я г л о м А. М. Спектральные представления для различных классов
случайных функций. — В кн.: Труды 4-го Всесоюзн. мат. съезда. — М.:
Изд. АН СССР, 1963, т. 1, с. 250—273.
233. Я н о в с к и й Б . М . Земной магнетизм. — Л.: Изд. ЛГУ, 1978. — 590 с.
234. A k a i к е Н. Power spectrum estimation through autoregressive model
fitting.—Ann. Inst. Stat. Math., 1969, vol. 11, N 3, p. 407—419.
235. А к a i к e H. Maximum likelihood identification of Gaussian autoregressive
moving average models. — Biometrika, 1973, vol. 60, N 2, p. 255—
265.
236. А к a i к e H. A new look at the statistical model identification. — IEEE
Trans. Autom. Control, 1974, vol. 19, N 6, p. 716—723.
237. A n d e r s o n T. W. Estimation, for autoregressive moving average models
in the time and frequency domains.— Ann. Stat., 1977, vol.5, N 5,
p. 842—865.
238. A s к e у R. Some characteristic functions of unimodal distributions. —
J. Math. Anal, and Appl., 1975, vol. 50, N 3, p. 465—469.
239. B a c h e l i e r L. Theorie de la speculation. — Ann. Sci. Ecole Normale
Sup., 1900, vol. 17, p. 21—86.
240. B a i n W. C. The power spectrum of temperatures in central England. —
Quart. J. Roy. Meteorol. Soc, 1976, vol. 102, N 432, p. 464—466.
241. В a 1 а к r i s h n a n A. V. A note on the sampling principle for continuous
signals. — IRE Trans. Inform. Theory, 1957, vol. 3, N 2, p. 143—
146.
242. В a r t 1 e t t M. S. On the theoretical specification and sampling properties
of autocorrelated time-series. — J. Roy. Stat. Soc, 1946, Suppl., vol.8,
N 1, p. 27—41.
243. B a r t l e t t M. S. Some remarks on the analysis of time-series. — Bio­
metrika, 1967, vol. 54, N 1—2, p. 25—38.
244. B a s s J. Les fonctions pseudo-aleatoire. — Paris: Gauthier-Villars, 1962. —
71 p.
245. B a t h M. Spectral analysis in geophysics. — Amsterdam: Elsevier, 1974. —
563 p.
246. B a y l e y G. V., H a m m e r s l e y J. M. The «effective» number of
independent observations in an autocorrelated time series.—J. Roy. Stat.
Soc, 1946, Suppl. vol. 8, N 2, p. 184—197.
247. B e r k K. N'. Consistent auteregressive spectral estimates. — Ann. Stat.,
1974, vol. 2, N 3, p. 489—502.
248. В i г к h о f f G. D. Proof of the ergodic theorem. — Proc Nat. Acad. Sci.
USA, 1931, vol. 17, N 12, p. 656—660,
276
Список литературы
249. B l a c k m a n R. В., T u k e y J . W . The measurement of power spectra
from the point of view of communications engineering: — New York: Dover,
1959. — 190 p.
250. B l a n c - L a p i e r r e A., B r a r d R. Les fonctions aleatoires stationnaires et la loi des grands nombres. — Bull. Soc. Math. France, 1946, vol., 74
p. 102—115.
251. B l a n c - L a p i e r r e A., F o r t e t
R. Sur une propriete fundamentale
des fonctions de correlation. — C. r. Acad. Sci., 1947, vol. 224, p. 786—
788.
252. B l a n c - L a p i e r r e A., F o r t e t R. The orie des fonctions aleatoires.—
Paris: Masson, 1953. — 693 p.
253. B l a n k i n s h i p W. A. Note on computing autocorrelations. — IEEE
Trans, on Acoust., Speech, and Signal Processing, 1974, vol. 22, N 1, p. 76—77.
254. В 1 о о m f i e 1 d P. Fourier analysis of time series: An introduction. —
N. Y.: Wiley, 1976. — 258 p.
255. B r i g h a m E. O. The fast Fourier transform. — Englewood Cliffs: Pren­
tice-Hall, 1974. — 253 p.
256. В r i 1 1 i n g e r D. R. Time series. Data analysis and theory. — N. Y.:
Holt, Rinehart and Winston, 1975. — 500 p.
257. B r o w n T. J., H a r d i n J . C . A note on Kendall's autoregressive se­
ries. — J. Appl. Prob., 1973, vol.10, N 2 , p. 475—478.
258. C a m b a n i s S., M a s r y E. On the reconstruction of the covariance
of stationary Gaussian processes observed through zero-memory nonlinearities. — IEEE Trans. Inform. Theory, 1978, vol.24, N 4, p. 485—494.
259. C h a n C.-W., H a r r i s C. J., W e 1 1 s t e a d P. E. An order-testing
criterion for mixed autoregressive moving average processes. — Int. J. Control,
1974, vol.20, N 5, p. 817—834.
260. C o o l e y J. W., L e w i s P. A. W., W e l c h P. D. The application
of the fast Fourier transform algorithm to the estimation of spectra and crossspectra.—J. Sound Vib., 1970, vol.12, N 3 , p. 339—352.
261. C r a m e r H. On harmonic analysis in certain functional spaces. — Arkiv
f 6 r Mat. Astr. och Fys., 1942, vol. 28B, N 12, p. 1—7.
262. D a n i e l s H. E. The estimation of spectral densities. — J . Roy. Stat.
Soc, ser. B, 1962, vol. 24, p. 185—198.
263. D o o b J. L. The Brownian movement and stochastic equations. — Ann.
Math., 1942, vol. 43, N 2, p. 351—369.
264. D o o b J. L. Elementary Gaussian processes. — Ann. Math. Stat., 1944,
vol. 15, p. 229—282.
265. D o o b J. L. Time series and harmonic analysis. — In: Proc. (First) Ber­
keley Symp. Math. Stat. Probab., 1949, p. 303—344.
266. D y e r T. G. J. An analysis of Manley's central England temperature date. —
Quart. J. Roy. Meteorol. Soc, 1976, vol. 102, N 434, p. 871—888.
267. D z h a p a r i d z e К. O., Y a g l o m A . M . Asymptotically efficient
estimation of the spectrum parameters of stationary stochastic processes. —
In: Proc. Prague 1973 Symp. on Asympt. Stat., vol. 1. —Prague: Charles
University Press, 1974, p. 55—105.
268. E d w a r d J. A., F i t e 1 s о n M. M. Notes on maximum entropy pro­
cessing. — IEEE Trans. Inform. Theory, 1973, vol.19, N 2 , p. 232—234.
269. F a s t Fourier transform and its application to digital filtering and spectral
analysis. — Special issue of IEEE Trans. Audio and Electroacoust., 1967,
vol. 15, N 2, p. 43—114.
270. F a v r e A., G a v i g l i o J., D u m a s R. Quelques fonctions d'auto­
correlation et derepartitions spectrales d'energie, pour la turbulence en aval
des diverses grilles. — С. r. Acad. Sci., 1954, vol. 238, N 15, p. 1561—1563.
271. G a r d n e r W. A. Stationarizable random processes. — IEEE Trans.
Inform Theory, 1978, vol.24, N 1, p. 8—22.
272. G r e n a n d e r U., R o s e n b l a t t M. Statistical analysis of stationary
time series. — Stockholm: Almqvist and Wiksell, 1956. — 300 p.
Список литературы
277
273. H a n n a n Е. J. The variance of the mean of a stationary time series. —
J. Roy. Stat. Soc, Ser. B, 1957, vol. 19, N 2, p. 282—285.
274. H u b e r P. J. Robust statistics: a review. — Ann. Math. Stat., 1972, vol. 43,
N 4, p. 1041—1067.
275. H u r d H. L. Stationarizing properties of random shifts. — SIAM J. Appl.
Math., 1974, vol.26, N 1, p. 203—212.
276. H u r t J. On a simple estimate of correlations of stationary random se­
quences. — Aplikace Matem., 1973, sv. 18, N 3, s. 176—187.
277. I w a s e K. On the formula of the variance of a simplified estimator of the
covariogramme for a stationary normal process. — Repts Statist. Appl. Res.
Union Japan Sci. and Eng., 1973, vol.20, N 4, p. 113—117.
278. J о 1 1 e у L. Summation of series. — London: Chapman and Hall, 1925;
New York: Dover, 1961. —251 p.
279. J o n e s R. H. Identification and autoregressive spectrum estimation. —
IEEE Trans Automat. Contr., 1974, vol. 19, N 6, p. 894—898.
280. K a r h u n e n K. Uber lineare Methoden in der Wahrscheinlichkeitsrechnung. — Ann. Acad. Sci. Fennicae, ser. A, 1947, Bd 1, N 37, S. 3—79.
281. K e n d a l l M. G. On autoregressive time series.—Biometrika, 1944,
vol.33, pt. 2, p. 105—122.
282. K e n d a l l M. G. Contributions to the study of oscillatory time series. —
Cambridge: Cambridge University Press, 1946. — 76 p.
283. K e n d a l 1 W. B. A new algorithm for computing correlations, —IEEE
Trans, on Computers, 1974, vol. 23, N 1, p. 88—90.
284. К e s 1 e r S. В., С h а у k i n S. The maximum entropy method applied
to the spectral analysis of radar clutter. — IEEE Trans. Inform. Theory,
1978, vol. 24, N 2, p. 269—272.
285. K h i n t c h i n e A. Zur Birkhoffs Losung des Ergodenproblems. — Math.
Ann., 1932, Bd 107, S. 485-488.
286. K o l m o g o r o f f A. N. La transformation de Laplace dans les espaces
lineaires. — C. r. Acad. Sci., 1935, vol.200, N 21, p. 1717—1720.
287. K o o p m a n s L. H. The spectral analysis of time scries. — New York:
Academic Press, 1974. — 366 p.
288. L а с о s s R. T. Data adaptive spectral analysis methods. — Geophysics,
1971, vol. 36, N 4, p. 661—675.
289. L e i t h С. E. The standard error of time averaged estimates of climatic
means. — J. Appl. Meteorol., 1973, vol. 12, N 6, p. 1066—1069.
2905L i f e r m a n n J. The orie et applications de la transformation de Fourier
rapide. — Paris: Masson, 1977. — 152 p.
291. L l o y d S. P. A sampling theorem for stationary (wide sense) stochastic
processes. — Trans. Amer. Math. Soc, 1959, vol.92, N 1, p. 1 — 12.
292. L о e v e M. Fonctions aleatoire de second ordre. — Rev. Sci., 1945, vol. 83,
N 5, p. 297—303; 1946, vol. 84, N 4, p. 195—206.
293. L o m n i c k i Z. A., Z a r e m b a S. K. Some applications of zero-one
process.— J. Roy. Stat. Soc, ser. B, 1955, vol. 17, N 2, p. 243—255.
294. L u m l e y J. L. Stochastic tools in turbulence. — New York: Academic
Press, 1970. — 194 p.
295. M c F a d d e n J. A. An alternate proof of Nultall's theorem on output
crosscovariances. — IEEE Trans, on Inform. Theory, 1965, vol.11, N 2,
p. 306—307.
296. M c N e i l D. R. Estimating the covariance and spectral density functions
from a clipped stationary time series.—J. Roy. Stat. Soc, ser. B, 1967,
vol. 29, N 1, p. 180—195.
297. M a n d e 1 b г о t В. B. Fractals. Form, chance, and dimension. -San
Francisco: Freeman, 1977. — 365 p.
298. M a r u y a m a G. The harmonic analysis of stationary stochastic pro­
cesses. — Mem. Fac Sci. KyusyifUniv., ser A, 1949, vol. 4, N 1, p. 47—106.
299. M a s r у E . On covariance functions of unit processes. — SIAM J. Appl.
Math., 1972, vol. 23, N 1, p. 2 8 - 3 3 .
278
Список литературы
300. M o r a n P. А. P. The oscillatory behaviour of moving averages. — Proc.
Cambr. Phil. Soc, 1950, vol.46, N 2, p. 272—281.
301. M o r a n P. A. P. The estimation of standard errors in Monte Carlo simu­
lation experiments. — Biometrika, 1975, vol. 62, pt. 1, p. 1—4.
302. N e a v e H. R. An improved formula for the asymptotic variance of spect­
rum estimates. — Ann. Math. Stat., 1970, vol.41, N 1, p. 70—77.
303. N e a v e H. R. A comparison of lag window generators. — J. Amer. Stat.
Assoc, 1972, vol. 67, N 337, p. 152—158.
304. N e u m a n n J. von. Proof of the quasi-ergodic hypothesis. — Proc. Nat.
Acad. Sci. USA, 1932, vol. 18, N 1, p. 70—82.
305. N e u m a n n J. von. Zur Operatorenmethode in der klassischen Mechanik.—
Ann. Math., 1932, vol. 33, N 4, p. 587—642.
306. О 1 b e r g M. Bemerkungen zur Verwendung der effektiven Anzabl unabhangiger Strichprobenwerte bei statistischen Testverfahren in der Meteorologie
und Geophysik. — Gerlands Beitr. Geophysik, 1972, Bd 81, N 1/2, S. 57—64.
307. О 1 s h e n R. A. Asymptotic properties of the periodogram of a discrete
stationary process. — J. Appl. Prob., 1967, vol. 4, N 3, p. 508—528.
308. O w e n s A. J. On detrending and smoothing random data. — J. Geophys.
Res., 1978, vol.83, N Al, p. 221—224.
309. P a l m e r D. F. Bias criteria for the selection of spectral windows. — IEEE
Trans. Inform. Theory, 1969, vol. 15, N 5, p. 613—615.
310. P a p о u 1 i s A. Minimum-bias windows for high resolution spectral esti­
mates. — IEEE Trans. Inform. Theory, 1973, vol. 19, N 1, p. 9—12.
311. P a r z e n E. Time series analysis papers. — San Francisco: Holden-Day,
1967. — 565 p.
312. P a r z e n E. The role of spectral analysis in time series analysis. — Review
Int. Stat. Inst., 1967, vol.35, p. 125—141.
313. P e s с h e 1 M. Abschatzung des durch die endliche Mittelungszeit bedingten Fehlers der Korrelationsfunktion eines Poissonschen Sekundarprozesses. —
Automatisierung, 1961, Bd 4, H. 11, S. 468—470.
314. P e t e r s e n E. L., L a r s e n S. E. A statistical study of a composite
isotopic paleotemperature series from the last 700 000 years. — Tellus, vol. 30,
N 3, p. 193—200.
315. P r i e s t l e y M. B. Basic considerations in the estimation of spectra. —
Technometrics, 1962, vol. 4, N 4, p. 551—564.
316. P r i e s t 1 e у M. В., G i b s о n С. H. Estimation of power spectra by a
wave-analyser.—Technometrics, 1965, vol.7, N 4, p. 553—559.
317. P г о u z a L. О spectru «vzorkovaneho» stacionarniho nahodneho procesu. —
Aplikace Matem., 1960, sv. 5, N 5, S. 394—397.
318. R a d e r C M . An improved algorithm for high speed autocorrelation with
applications to spectral estimation. — IEEE Trans. Audio and Electroacoust., 1970, vol. 18, N 4, p. 439—441.
319. S с h a e r f M. С Estimation of the covariance and autoregressive structure
of a stationary time series. — Tech. Rep. N 12, — Stanford: Dept. Statist.
Stanford Univ., 1964. — 72 p.
320. S e g a 1 1 А., К a i 1 a t h T. The modeling of randomly modulated jump
processes. — IEEE Trans. Inform. Theory, 1975, vol. 21, N 2, p. 135—143.
321. S h e p p a r d P. A. Atmospheric turbulence. — Weather, 1951, vol. 6,
N 2, p. 42—49.
322. S r e e n i v a s a n K. R., C h a m b e r s A. J., A n t о n i a R. A. Ac­
curacy of moments of velocity and scalar fluctuations in the atmospheric
surface layer. — Boundary-Layer Meteorol., 1978, vol. 14, N 3, p. 341—359.
323. S t a t i s t i c a l models and turbulence. Proc. Symp. at Univ. of Califor­
nia, San Diego, July 15—21, 1971 — Lectures Notes in Physics, vol. 12 —
Berlin: Springer, 1972. — 492 p.
324. T a y l o r G. I. Diffusion by continuous movements. — Proc. London
Math. Soc, ser. 2, 1921, vol.20, p. 196—211.
Список литературы
279
325. T a y l o r G. I. The spectrum of turbulence. — Proc. Roy. Soc, ser. A,
1938, vol. 164, N 919, p. 476—490.
326. T h o m s o n D. J. Spectrum estimation technique for characterization
and development of WT4 waveguide. — Bell System Techn. J., 1977, vol. 56,
N 9, p. 1769—1815.
327. T r e t t e r S. A., S t e i g 1 i t z K. Power-spectrum identification in
terms of rational models. — IEEE Trans. Autom. Contr., 1967, vol. 12, N 2,
p. 185—188.
328. U l r y c h T. J., B i s h o p T. N. Maximum entropy spectral analysis
and autoregressive decomposition. — Rev. Geophys. Space Phys., 1975,
vol. 13, N 1, p. 183—200.
329. V a n d e n B o s A. Alternative interpretation of maximum entropy spect­
ral analysis. — IEEE Trans. Inform. Theory, 1971, vol. 17, N 4, p. 493—494.
330. V i t a l e R.A. An asymptotically efficient estimate in time series analysis.—
Quart. Appl. Math., 1973, vol. 30, N 4, p. 421—440.
331. W a 1 k e r A. M. On the estimation of a harmonic component in a time
series with stationary dependent residuals.—Adv. Appl. Probab., 1973,
vol. 5, N 2, p. 217—241.
332. W a t t s D. G. Optimum windows for power spectra estimation. — Tech.
Summary Rep. 506.—Madison: Math. Res. Center Univ. of Wiscontin,
1964, p. 1—37.
333. W i e n e r N. Extrapolation, interpolation, and smoothing of stationary
time series. — Cambridge, Mass: MIT Press, 1949. — 163 p.
334. W o l d H. A study in the analysis of stationary time series. — Uppsala:
Almqvist and Wiksell, 1938, 214 p.; 1954, 236 p.
335. W o l d H. On prediction in stationary time series. — Ann. Math. Stat.,
1948, vol. 19, N 4, p. 558—567.
336. W o l d H. A graphic introduction to stochastic processes. — In.: Biblio­
graphy on time series and stochastic processes. Ed. H. Wold. — Edinburgh
and London: Oliver and Boyd, 1965, p. 7—76.
337. Y a g l o m A. M. Stationary Gaussian processes satisfying the strong mix­
ing condition and best predictable functionals. — In: Bernoulli, Bayes, and
Laplace Anniversary Volume. Ed. L. LeCam and J. Neyman. — Berlin:
Springer, 1965, p. 241—252.
338. Y u l e G. U. On a method of studying time-series based on their internal
correlations. With a note by M. G. Kendall.— J. Roy. Stat. Soc, 1948,
vol. 108, N 1,V 208—230.
339. Z e r n i k e F. Die Brownsche Grenze fur Beobachtungsreihen. — Zs. f.
Phys., 1932, Bd 79, H. 7—8, S. 516—528.