Лекция 6. Корреляционные функции случайных процессов

План.

1.Понятие корреляционной функции случайного процесса.

2.Стационарность в узком и в широком смыслах..

3.Среднее значение по множеству.

4.Среднее значение по времени.

5.Эргодические случайные процессы.

Математическое ожидание и дисперсия являются важными характерис­тиками случайного процесса, но они не дают достаточного представления о том, какой характер будут иметь отдельные реализации случайного процесса. Это хорошо видно из рис. 6.1, где показаны реализации двух случайных процессов, совершенно различных по своей структуре, хотя и имеющих одинаковые значения математического ожидания и дис­персии. Штриховыми линиями на рис. 6.1. показаны значения 3s_x (t) для случайных процессов.

Процесс, изображенный на рис. 6.1, а, от одного сечения к другому протекает сравнительно плавно, а процесс на рис. 6.1, б обла­дает сильной изменчивостью от сечения к сечению. Поэтому статисти­ческая связь между сечениями в первом случае больше, чем во втором, однако ни по математическому ожиданию, ни по дисперсии этого уста­новить нельзя.

Рис 6.1

Чтобы в какой-то мере охарактеризовать внутреннюю структуру случайного процесса, т. е. учесть связь между значениями случай­ного процесса в различные моменты времени или, иными словами, учесть степень изменчивости случайного процесса, необходимо ввести понятие о корреляционной (автокорреляционной) функции случай­ного процесса.

Корреляционной функцией случайного процесса X (t) называют не­случайную функцию двух аргументов R_x (t ₁, t ₂), которая для каждой пары произвольно выбранных значений аргументов (моментов времени) t ₁ и t ₂ равна математическому ожиданию произведения двух случайных величин X(t ₁ ) и X(t ₂ ) соответствующих сечений случайного процесса:

(6.1)

где w ₂(x ₁, t ₁; x ₂, t ₂) —двумерная плотность вероятности.

Часто пользуются иным выражением корреляционной функции,.записанной не для самого случайного процесса X(t), а для центрированной случайной составляющей X(t). Корреляционную функцию в этом случае называют центрированной и определяютиз соотношения

(6.2)

Различные случайные процессы в зависимости от того, как изме­няются их статистические характеристики с течением времени, делят на стационарные и нестационарные. Различают стационарность в уз­ком смысле и стационарность в широком смысле.

Стационарным в узком смысле называют случайный процесс X(t), если его n -мерные функции распределения и плотность вероятности при любом п не зависят от положения начала отсчета времени t, т. е.

(6.3)

Это означает, что два процесса, X(t) и X (t + t), имеют одинаковые статистические свойства для любого t, т. е. статистические характерис­тики стационарного случайного процесса неизменны во времени. Стационарный случайный процесс — это своего рода аналог установивше­гося процесса в детерминированных системах.

Стационарным в широком смысле называют случайный процесс X(t), математическое ожидание которого.постоянно:

(6.4)

а корреляционная функция зависит только от одной переменной — раз­ности аргументов t = t ₂- t ₁:

(6.5)

Понятие случайного процесса, стационарного в широком смысле,. вводится тогда, когда в качестве статистических характеристик слу­чайного процесса используются только математическое ожидание и корреляционная функция. Часть теории случайных процессов, кото­рая описывает свойства случайного процесса через его математическое ожидание и корреляционную функцию, называют корреляционной теорией.

Для случайного процесса с нормальным законом распределения математическое ожидание и корреляционная функция полностью опре­деляют его n -мерную плотность вероятности. Поэтому для нормальных случайных процессов понятия стационарности в широком и узком смыс­ле совпадают.

Теория стационарных процессов разработана наиболее полно и позволяет сравнительно просто производить расчеты для многих практических случаев. Поэтому допущение о стационарности иногда целесообразно делать также и для тех случаев, когда случайный процесс хотя и нестационарен, но на рассматриваемом отрезке времени работы системы статистические характеристики сигналов не успе­вают сколь-нибудь существенно измениться. В дальнейшем, если не будет оговорено особо, будут рассматриваться случайные процессы, стационарные в широком смысл.

В теории случайных процессов пользуются двумя понятиями средних значений. Первое понятие о среднем значении — это среднее зна­чение по множеству (или математическое ожидание), которое опреде­ляется на основе наблюдения над множеством реализации случайного процесса в один и тот же момент времени. Среднее значение по множе­ству принято обозначать волнистой чертой над выражением, описываю­щим случайную функцию:

(6.6)

В общем случае среднее значение по множеству является функцией времени.

Другое понятие о среднем значении — это среднее значение по времени, которое определяется на основе наблюдения за отдельной реализацией случайного процесса x{f) на протяжении достаточно длительного времени Т. Среднее значение по времени обозначают прямой чертой над соответствующим выражением случайной функции и определяют по формуле

(6.7)

если этот предел существует.

Среднее значение по времени в общем случае различно для отдельных реализации множества, определяющих случайный процесс.

Вообще для одного и того же случайного процесса среднее по множеству и среднее по времени различны, однако для так называемых эргодических стационарных случайных процессов среднее значение по множеству совпадает со средним значением по времени:

(6.8)

Равенство (6.8) вытекает из эргодической теоремы, в которой для некоторых стационарных случайных процессов доказано, что любая статистическая харак­теристика, полученная усреднением по множеству, с вероятностью, сколь угодно близкой к единице, совпадает с характеристикой, усредненной по времени. Эргодическая теорема доказана не для всех стационарных процессов, поэтому в тех случаях, где она еще не доказана, говорят об эргодической гипотезе.

Следует заметить, что не всякий стационарный процесс является эргодическим.

Рис 6.2

На рис. 6.2. изображен, например, график стационарного неэргодического процесса, для которого равенство (6.8) не выполняется. Один и тот же случай­ный процесс в общем случае может быть эргодическим по отношению к одним ста­тистическим характеристикам и не эргодическим по отношению к другим. В дальнейшем будем считать, что условия эргодичности для математического ожидания и корреляционной функции выполняются.

Физический смысл эргодической теоремы (или гипотезы) глубок и имеет большое практическое значение. Для определения статистических свойств эргодических стационарных процессов, если трудно осуществить одновременное на­блюдение за множеством подобных систем в произвольно выбранный момент вре­мени, например при наличии одного опытного образца, его можно заменить дли­тельным наблюдением за одной системой. Собственно говоря, этот факт лежит в основе экспериментального определения корреляционной функции стационар­ного случайного процесса по одной реализации. Наоборот, при наличии большой партии изделий массовой продукции для аналогичных исследований можно про­вести одновременное наблюдение за всеми образцами партии или их достаточно представительной выборкой.

Как видно из (6.5), корреляционная функция представляет собой среднее по множеству. В соответствии с эргодической теоремой для стационарного случайного процесса корреляционную функцию можно определить как среднее по времени от произведения x(t) и x(t + t), т. е.

(6.9)

где x(t)— любая реализация случайного процесса.

Центрированная корреляционная функция эргодического стацио­нарного случайного процесса

(6.10

Между корреляционными функциями R_x (t) и R⁰_x (t) существует следующая связь:

R_x (t)= R_x⁰ (t)+(x^-)², (6.11)

Основываясь на свойстве эргодичности, можно дисперсию D_x [см. (19)] определить как среднее по времени от квадрата центрированного случайного процесса, т. е.

(6.12)

Сравнивая выражения (6.10) и (6.11), можно заметить, что диспер­сия стационарного случайного процесса равна начальному значению центрированной корреляционной функции:

(6.13)

(6.14)

(6.15)

Учитывая (6.12), можно установить связь между дисперсией и кор­реляционной функцией R_x (t), т. е.

(6.16)

Из (6.14) и (6.15) видно, что дисперсия стационарного случайного процесса постоянна, а следовательно постоянно и среднее квадратическое отклонение:

(6.17)

Статистические свойства связи двух случайных процессов X(t) и G(t) можно характеризовать взаимной корреляционной функцией R_xg (t ₁, t ₂), которая для каждой пары произвольно выбранных значений аргументов t ₁, t ₂ равна

(6.18)

Согласно эргодической теореме, вместо (6.18) можно записать

(6.19)

где x(t) и g(t) — любые реализации стационарных случайных процес­сов X(t) и G(t) соответственно.

Взаимная корреляционная функция R_xg (t) характеризует взаимную статистическую связь двух случайных процессов X(t) и G(t) в разные моменты времени, отстоящие друг от друга на промежуток времени т. Значение R_xg (0) характеризует эту связь в один и тот же момент времени.

Из (6.19) следует,что

(6.20)

Если случайные процессы Х(t) и G(t) статистическине связаны друг с другом и имеют равные нулю средние значения, то их взаимная корреляционная функция для всех т равна нулю. Однако обратный вывод о том, что если взаимная корреляционная функция равна нулю, то процессы независимы, можно сделать лишь в отдельных случаях (в частности, для процессов с нормальным законом распределения), общей же силы обратный закон не имеет.

Центрированная корреляционная функция R°_x (t) для неслучайных функций времени тождественно равна нулю. Однако корреляционная функция R_x (t  может вычисляться и для неслучайных (регулярных) функций. Заметим, однако, что когда говорят о корреляционной функции регулярной функции x(t), то под этим понимают просто результат формального применения к регулярной функции x(t) опе­рации, выражаемой интегралом (6.13).