Лекция 4.
Закон распределения функции от случайного вектора.
1. Если случайный вектор 
имеет плотность 
, а 
- скалярная функция двух переменных, то функция распределения 
находится по формуле 
.
2. В частности, если 
, то
.
3. Если же случайные величины 
и 
независимы, то
Эту формулу называют формулой композиции двух распределений или формулой свертки.
Доказательство.
, откуда
Мораль. Плотность суммы независимых случайных величин равна свертке плотностей слагаемых.
Пример 1. Независимые СВ и имеют равномерное распределение на 
. Найдите плотность распределения случайной величины .
Решение. Плотности распределения вероятностей и равны
. Пусть - плотность распределения суммы 
.
Получим:
Если 
, то отрезок 
лежит левее отрезка , поэтому
Если 
, то 
, 
поэтому
Если 
, то 
, 
поэтому
Если 
, то отрезок лежит правее отрезка , поэтому
В итоге получаем 
.
Распределение с плотностью 
называется треугольным распределением на отрезке [-1;1] или распределением Симпсона.
Свойства математического ожидания и дисперсии.
1. 
.
2. 
.
3. 
.
4. 
, если 
независимы.
5. 
в частности,
,
.
6. 
.
7. 
.
8. 
,
где 
в частности, 
если 
независимы 
Доказательство. 
Многомерный нормальный вектор и его свойства
Определение. Нормальным случайным вектором называется случайный вектор 
, имеющий плотность распределения вида
,
где 
- столбец переменных,
– координаты постоянного вектора 
,
– невырожденная положительно определенная симметричная матрица.
Замечание. Выражение 
в показателе экспоненты представляет собой положительно определенную квадратичную форму от 
переменных.
В частности для 
плотность зависит от пяти параметров: 
, 
, 
, 
, 
.
Положительная определенность матрицы означает, что 
, 
,
.
Тогда 
, и плотность примет вид
.
Вид графика функции показан на рисунке.
Свойства нормального вектора ( 
).
1. Распределения компонент нормального вектора нормальны, причем 
, 
.
2. 
, 
.
3. 
и 
независимы. То есть для нормальных случайных величин некоррелируемость эквивалентна независимости.
4. Если 
– нормальный случайный вектор, то распределения случайной величины 
нормальное (или вырожденное) для произвольного 
.
(Обратное утверждение тоже верно: если для произвольного постоянного вектора распределение случайной величины нормальное (или вырожденное), то – нормальный случайный вектор.)
Пример 2. Пусть дан нормальный случайный вектор 
с параметрами
, 
, 
, 
, 
.
Решение. Найдем закон распределения 
. Согласно доказанному свойству, распределение 
нормально. Найдем параметры, используя свойства математического ожидания и дисперсии.
.
Выпишем плотность: 
. 
Рассмотрим двумерный вектор с зависимыми компонентами. Как мы уже знаем, коэффициент корреляции не характеризует в полной мере зависимость между компонентами.
Определение. Условной функцией распределения случайной величины при условии, что СВ попала в полуинтервал 
называется условная вероятность
.
Таким образом, 
. (1)
Если – непрерывный случайный вектор, то обе вероятности в формуле (1) можно выразить через плотность вероятности случайного вектора 
Совместное выполнение неравенств 
и 
соответствует попаданию случайной точки в половину полосы (см. рис.). Поэтому, по формуле для функции распределения двумерного случайного вектора получим:
(2)
Вероятность в знаменателе правой части формулы (1) выражается через плотность вероятности одной СВ 
:
(3)
Подставляя выражения (2) и (3) в формулу (1) получим:
(4)
Дифференцируя формулу (4) по 
можно найти условную плотность СВ при условии, что СВ принимает значение, заключенное в пределах :
(5)
Если в формуле (5) положить 
, 
и перейти к пределу при 
, считая функции 
и 
непрерывными по 
в интервале 
, то можно найти условный закон распределения СВ при данном значении СВ (он имеет наибольшее практическое применение среди всех условных ЗР СВ , соответствующих различным значениям 
и 
). Для этого применим к интегралам в числителе и знаменателе теорему о среднем. После сокращения на получаем 
, где 
и 
– некоторые числа, заключенные между нулем и единицей. Переходим к пределу при . Обозначив условную плотность вероятности СВ относительно СВ через 
получим
(6)
Аналогично для условной плотности вероятности СВ относительно СВ имеем:
(7)
Равенства (6) и (7) можно переписать в виде 
.
Мы получили теорему умножения плотностей вероятностей: совместная плотность вероятности двух СВ равна плотности вероятности одной из них, умноженной на условную плотность вероятности другой, относительно первой.
Замечание. Из теоремы умножения можно заключить, что необходимым и достаточным условием независимости СВ и является равенство 
при всех значениях или 
при всех .
Определение. Условным математическим ожиданием одной из СВ, входящих в систему называется математическое ожидание, вычисляемое при условии, что другая СВ приняла определенное значение (или попала в данный интервал).
Обозначение 
] или 
и 
Для непрерывных СВ условные м.о. вычисляются по формулам:
, 
, (8)
где 
и 
- условные плотности распределений СВ 
и .
Определение. Условное м. о. СВ при заданном 
, т.е. 
называется функцией регрессии или просто регрессией на (или по ).
Аналогично, 
– регрессия на (или по ).
Графики этих функций называются линиями (или «кривыми») регрессии на и на соответственно.
Определение. Если обе функции регрессии на и на линейны, то говорят, что СВ и связаны линейной корреляционной зависимостью.
Пример 3. Координаты случайной точки на плоскости подчиняются нормальному закону распределения 
Определите: а) плотность вероятности компонент и ; б) условные плотности вероятности 
и 
; в) условные математические ожидания; г) условные дисперсии.
Решение. а) Для плотности вероятности координаты имеем 
Производя замену переменных 
и учитывая, что 
получим 
или 
Аналогично, находим 
б) Разделим 
на 
, получим 
и, аналогично, 
.
в) Из выражений для условных плотностей вероятности следует, что условное математическое ожидание СВ при фиксированном значении , равно 
. Аналогично, 
.
Замечани е. Обе функции регрессии оказались линейными. Таким образом установлена теорема о нормальной корреляции: если двумерная СВ распределена по нормальному закону, то СВ и связаны линейной корреляционной зависимостью.
Приложение. Доказательство свойств нормального вектора.
1. Распределения компонент нормального вектора нормальны, причем , .
Доказательство. По общей формуле 
Перед интегрированием преобразуем показатель экспоненты, выделив полный квадрат:
.
Тогда, обозначив 
, получим 
, и следовательно
.
2. , .
Доказательство. 
3. и независимы.
Доказательство.
Если 
, то 
, откуда
= 
.
То есть и независимы.
Обратно, если нормально распределенные случайные величины и независимы, то их совместная плотность 
,
что соответствует нормально распределенному вектору с матрицей 
, поскольку в этом случае 
.
4. Если – нормальный случайный вектор, то распределения случайной величины нормальное (или вырожденное) для произвольного .
(Обратное утверждение тоже верно: если для произвольного постоянного вектора распределение случайной величины нормальное (или вырожденное), то – нормальный случайный вектор.)
Доказательство.
1) Запишем плотность нормального случайного вектора в виде
и рассмотрим центрированный случайный вектор 
, 
.
Поскольку функция распределения центрированного вектора
,
то его плотность останется нормальной с той же ковариационной матрицей и нулевым вектором средних значений:
.
2) Рассмотрим функцию распределения случайной величины 
и докажем, что ее плотность нормальна.
Тогда 
.
3) Заметим, наконец, что линейная комбинация компонент исходного вектора 
отличается от линейной комбинации вида 
на постоянное слагаемое, то есть ее распределение также нормально.