Лектор А.В. Прохоров
Кафедра математической статистики
и случайных процессов
1. Математическая статистика как раздел математики, основанный на теории вероятностей. Основные задачи математической статистики. Математическая статистика как теория статистических решений. Представление о статистическом решении с минимальным риском ошибки.
2. Выборка, выборочное пространство, статистическая модель. Параметрическая модель и повторная выборка. Функция правдоподобия выборки. Представление об основных типах статистических решений: точечные оценки и интервальные оценки параметров модели, критерии выбора одной из двух гипотез о распределениях.
3. Статистики, как измеримые функции в статистической модели. Основные выборочные характеристики: выборочные среднее значение и дисперсия. Вариационный ряд, порядковые статистики и их распределение. Эмпирическая функция распределения как функция распределения и как оценка гипотетической функции распределения. Теорема Гливенко-Кантелли. Статистика Колмогорова и теорема о независимости статистики Колмогорова от вида истинной функции распределения при условии ее непрерывности. Критерий Колмогорова для проверки гипотезы о данном непрерывном распределении.
4. Информация о свойствах статистической модели, содержащаяся в выборке, и ее использование для выбора статистических решений с минимальным риском ошибки. Информационное количество Фишера и его свойства. Определение достаточной статистики и критерий Неймана-Фишера достаточности некоторой статистики. Минимальные достаточные статистики.
5. Условное математическое ожидание и условная вероятность относительно сигма-алгебры и относительно случайной величины. Свойства условного математического ожидания. Условная плотность распределения одной случайной величины относительно другой. Аналог формулы Байеса для плотностей.
6. Точечные статистические оценки параметров модели и функций от параметров. Сравнение оценок по их свойствам. Представление о наилучших оценках: состоятельные несмещенные оценки с минимальной дисперсией. Пример оценки вероятности события в схеме испытаний Бернулли. Теорема Колмогорова-Блекуэла-Рао об улучшении свойств оценок с помощью достаточной статистики. Полные достаточные статистики и несмещенные оценки с минимальной дисперсией.
7. Эффективные оценки параметров регулярной модели. Критерий эффективности оценок, основанный на неравенстве Крамера-Рао. Многомерное обобщение неравенства Крамера-Рао. Роль информационного количества Фишера при определении эффективной оценки.
8. Асимптотические свойства оценок. Состоятельные, асимптотически несмещенные, асимптотически нормальные, асимптотически эффективные оценки параметров. Асимптотическая нормальность функций от асимптотически нормальных оценок. Примеры состоятельных и асимптотически нормальных оценок.
9. Методы получения оценок. Метод моментов, теорема о состоятельности оценок метода моментов. Метод максимального правдоподобия. Теорема о состоятельности и асимптотической нормальности оценок метода максимального правдоподобия.
10. Байесовский подход в теории оценивания. Байесовский риск и байесовские оценки. Теорема о байесовской оценке при квадратичной функции риска. Априорное и апостериорное распределения. Априорный и апостериорный риски. Примеры вычисления и сравнение байесовских оценок и оценок максимального правдоподобия в случае распределения Бернулли и нормального распределения. Минимаксные оценки, как байесовские оценки с постоянным риском. Байесовские оценки и достаточные статистики. Байесовские интервальные оценки.
11. Многомерное нормальное распределение: эквивалентные определения. Плотность невырожденного нормального распределения и его параметры (вектор средних значений и матрица ковариаций). Свойства: инвариантность относительно линейных преобразований, равносильность независимости и некоррелированности компонент. Распределение квадратичной формы от случайного вектора со стандартным нормальным распределением. Лемма Фишера о независимости среднего арифметического и среднего квадратического значений для независимых случайных величин с одинаковым нормальным распределением. Распределения хи-квадрат, Стьюдента и Фишера-Снедекора (определение и вывод плотности). Следствие из леммы Фишера для распределений статистик в нормальных выборках.
12. Интервальные оценки и их характеристики. Доверительные интервалы и доверительные множества. Методы построения точных доверительных интервалов. Точные доверительные интервалы для параметра биномиального распределения и параметров (среднего и дисперсии) нормального распределения. Асимптотические доверительные интервалы. Построение асимптотического доверительного интервала для параметра распределения на основе свойства асимптотической нормальности подходящей функции от параметра. Асимптотические доверительные интервалы двух типов для параметра схемы Бернулли.
13. Процедура проверки двух статистических гипотез. Критерии согласия. Основные понятия: критическое множество, вероятности ошибок первого и второго рода, уровень значимости. Проверка гипотез о параметрах нормального распределения. Использование доверительных интервалов для проверки гипотез о параметрах нормального распределения. Критерий Фишера равенства дисперсий и критерий Стьюдента равенства средних значений двух независимых нормальных выборок. Анализ однофакторной модели для нормальных выборок: дисперсионный анализ и множественное сравнение параметров модели.
14. Проверка гипотез о параметрах биномиального распределения. Оценка наименьшего числа наблюдений, необходимых для проверки гипотез о параметре биномиального распределения с заданными вероятностями ошибок первого и второго рода. Полиномиальное распределение, как распределение случайного вектора, его параметры и вариант многомерной центральной предельной теоремы. Статистика Пирсона для проверки гипотезы о параметрах полиномиального распределения. Теорема Пирсона об асимптотическом хи-квадрат распределении статистики Пирсона (без доказательства). Критерий хи-квадрат для проверки гипотезы о заданном полиномиальном распределении.
15. Критерии различения двух гипотез. Простые и сложные гипотезы, критерии, размер критерия, функция мощности, критическая функция. Проверка двух простых гипотез, мощность критерия, рандомизированный критерий. Наиболее мощные и несмещенные критерии. Фундаментальная лемма Неймана-Пирсона. Критерий отношения правдоподобия как наиболее мощный критерий для проверки двух простых гипотез. Пример наиболее мощного критерия для проверки двух гипотез о среднем значении нормального распределения.
16. Задача регрессии. Регрессия одной случайной величины по другой случайной величине при условии их совместного невырожденного распределения. Линейная регрессия в двумерном случае, параметры регрессии, роль коэффициента корреляции Пирсона. Регрессия как оценка одной случайной величины по другой. Статистическое оценивание коэффициентов регрессии для нормальной статистической модели в двумерном случае. Метод наименьших квадратов.