Лекция 4.
Закон распределения функции от случайного вектора.
1. Если случайный вектор имеет плотность , а - скалярная функция двух переменных, то функция распределения находится по формуле .
2. В частности, если , то
.
3. Если же случайные величины и независимы, то
Эту формулу называют формулой композиции двух распределений или формулой свертки.
Доказательство.
, откуда
Мораль. Плотность суммы независимых случайных величин равна свертке плотностей слагаемых.
Пример 1. Независимые СВ и имеют равномерное распределение на . Найдите плотность распределения случайной величины .
Решение. Плотности распределения вероятностей и равны
. Пусть - плотность распределения суммы .
Получим:
Если , то отрезок лежит левее отрезка , поэтому
Если , то , поэтому
Если , то , поэтому
Если , то отрезок лежит правее отрезка , поэтому
В итоге получаем .
Распределение с плотностью называется треугольным распределением на отрезке [-1;1] или распределением Симпсона.
Свойства математического ожидания и дисперсии.
1. .
2. .
3. .
4. , если независимы.
5. в частности,
,
.
6. .
7. .
8. ,
где
в частности, если независимы
Доказательство.
Многомерный нормальный вектор и его свойства
Определение. Нормальным случайным вектором называется случайный вектор , имеющий плотность распределения вида
,
где - столбец переменных,
– координаты постоянного вектора ,
– невырожденная положительно определенная симметричная матрица.
Замечание. Выражение в показателе экспоненты представляет собой положительно определенную квадратичную форму от переменных.
В частности для плотность зависит от пяти параметров: , , , , .
Положительная определенность матрицы означает, что , ,
.
Тогда , и плотность примет вид
.
Вид графика функции показан на рисунке.
Свойства нормального вектора ( ).
1. Распределения компонент нормального вектора нормальны, причем , .
2. , .
3. и независимы. То есть для нормальных случайных величин некоррелируемость эквивалентна независимости.
4. Если – нормальный случайный вектор, то распределения случайной величины нормальное (или вырожденное) для произвольного .
(Обратное утверждение тоже верно: если для произвольного постоянного вектора распределение случайной величины нормальное (или вырожденное), то – нормальный случайный вектор.)
Пример 2. Пусть дан нормальный случайный вектор с параметрами
, , , , .
Решение. Найдем закон распределения . Согласно доказанному свойству, распределение нормально. Найдем параметры, используя свойства математического ожидания и дисперсии.
.
Выпишем плотность: .
Рассмотрим двумерный вектор с зависимыми компонентами. Как мы уже знаем, коэффициент корреляции не характеризует в полной мере зависимость между компонентами.
Определение. Условной функцией распределения случайной величины при условии, что СВ попала в полуинтервал называется условная вероятность
.
Таким образом, . (1)
Если – непрерывный случайный вектор, то обе вероятности в формуле (1) можно выразить через плотность вероятности случайного вектора Совместное выполнение неравенств и соответствует попаданию случайной точки в половину полосы (см. рис.). Поэтому, по формуле для функции распределения двумерного случайного вектора получим:
(2)
Вероятность в знаменателе правой части формулы (1) выражается через плотность вероятности одной СВ :
(3)
Подставляя выражения (2) и (3) в формулу (1) получим:
(4)
Дифференцируя формулу (4) по можно найти условную плотность СВ при условии, что СВ принимает значение, заключенное в пределах :
(5)
Если в формуле (5) положить , и перейти к пределу при , считая функции и непрерывными по в интервале , то можно найти условный закон распределения СВ при данном значении СВ (он имеет наибольшее практическое применение среди всех условных ЗР СВ , соответствующих различным значениям и ). Для этого применим к интегралам в числителе и знаменателе теорему о среднем. После сокращения на получаем , где и – некоторые числа, заключенные между нулем и единицей. Переходим к пределу при . Обозначив условную плотность вероятности СВ относительно СВ через получим
(6)
Аналогично для условной плотности вероятности СВ относительно СВ имеем:
(7)
Равенства (6) и (7) можно переписать в виде .
Мы получили теорему умножения плотностей вероятностей: совместная плотность вероятности двух СВ равна плотности вероятности одной из них, умноженной на условную плотность вероятности другой, относительно первой.
Замечание. Из теоремы умножения можно заключить, что необходимым и достаточным условием независимости СВ и является равенство при всех значениях или при всех .
Определение. Условным математическим ожиданием одной из СВ, входящих в систему называется математическое ожидание, вычисляемое при условии, что другая СВ приняла определенное значение (или попала в данный интервал).
Обозначение ] или и
Для непрерывных СВ условные м.о. вычисляются по формулам:
, , (8)
где и - условные плотности распределений СВ и .
Определение. Условное м. о. СВ при заданном , т.е. называется функцией регрессии или просто регрессией на (или по ).
Аналогично, – регрессия на (или по ).
Графики этих функций называются линиями (или «кривыми») регрессии на и на соответственно.
Определение. Если обе функции регрессии на и на линейны, то говорят, что СВ и связаны линейной корреляционной зависимостью.
Пример 3. Координаты случайной точки на плоскости подчиняются нормальному закону распределения
Определите: а) плотность вероятности компонент и ; б) условные плотности вероятности и ; в) условные математические ожидания; г) условные дисперсии.
Решение. а) Для плотности вероятности координаты имеем
Производя замену переменных
и учитывая, что
получим или
Аналогично, находим
б) Разделим на , получим
и, аналогично, .
в) Из выражений для условных плотностей вероятности следует, что условное математическое ожидание СВ при фиксированном значении , равно . Аналогично, .
Замечани е. Обе функции регрессии оказались линейными. Таким образом установлена теорема о нормальной корреляции: если двумерная СВ распределена по нормальному закону, то СВ и связаны линейной корреляционной зависимостью.
Приложение. Доказательство свойств нормального вектора.
1. Распределения компонент нормального вектора нормальны, причем , .
Доказательство. По общей формуле
Перед интегрированием преобразуем показатель экспоненты, выделив полный квадрат:
.
Тогда, обозначив , получим , и следовательно
.
2. , .
Доказательство.
3. и независимы.
Доказательство.
Если , то , откуда
= .
То есть и независимы.
Обратно, если нормально распределенные случайные величины и независимы, то их совместная плотность
,
что соответствует нормально распределенному вектору с матрицей , поскольку в этом случае .
4. Если – нормальный случайный вектор, то распределения случайной величины нормальное (или вырожденное) для произвольного .
(Обратное утверждение тоже верно: если для произвольного постоянного вектора распределение случайной величины нормальное (или вырожденное), то – нормальный случайный вектор.)
Доказательство.
1) Запишем плотность нормального случайного вектора в виде
и рассмотрим центрированный случайный вектор , .
Поскольку функция распределения центрированного вектора
,
то его плотность останется нормальной с той же ковариационной матрицей и нулевым вектором средних значений:
.
2) Рассмотрим функцию распределения случайной величины и докажем, что ее плотность нормальна.
Тогда .
3) Заметим, наконец, что линейная комбинация компонент исходного вектора отличается от линейной комбинации вида на постоянное слагаемое, то есть ее распределение также нормально.