Метод наименьших квадратов. Свойства коэффициентов регрессии.
Что такое ковариация?
Ковариация – мера взаимосвязи (линейной зависимости) 2х случайных величин (переменных). Cov(x,y)=E[(x-μx)(y-μy)]. Ковариация в оценке силы связи между переменными не так полезна, как корреляция.
Что выражает ковариация переменных в регрессионной модели?
Зависимость или независимость переменных модели.
Каковы основные этапы построения и анализа регрессионной модели?
• Выдвижение рабочей гипотезы - Построение модели
• Анализ качества и интерпретация модели - Определение путей изменения модели
• Выдвижение новых гипотез и построение новых моделей. - Практическое использование модели
В чем роль теоретической (гипотетической) регрессии в прикладном эконометрич. анализе?
Теоретическая (гипотетическая) регрессия позволяет производить теоретические расчеты (имеется в виду оценка последствий изменений значения какой-то объясняющей переменной), а также она используется для прогнозирования значений зависимой переменной.
Почему расчетная регрессия не совпадает с теоретической?
Из-за наличия случайного члена невозможно рассчитать истинные значения b,α при попытке определить положение линии регрессии, т.к. остатки не совпадают со значениями случайного члена.
6. В чем состоит разница между случ членом регрессии и остатками в регрессионном анализе?
Случайный член указывает на то, что существует случайная составляющая, которая влияет на зависимую переменную; остаток - измеренная величина отклонения между фактическим и расчетным значением переменной. Случайный член (ui) включается в регрессию для подтверждения существования случайного фактора, оказывающего влияние на зависимую переменную. Yi=β1+β2Xi+ui
Остаток (ei) – измеримая разность между действительной величиной Y в соответствующем наблюдении и расчетным значением по регрессии. ei=Yi- 
В чем состоит идея метода наименьших квадратов?
Идея МНК основана на том, чтобы минимизировать сумму квадратов отклонений расчетных значений от эмпирических, т.е. нужно оценить параметры о функции f(a,x) таким образом, чтобы ошибки еi= уi-f(а,х), точнее - их квадраты, по совокупности были минимальными. Для этого нужно решить задачу минимизации суммы квадратов остатков S=e12+..+en2 в минимизации суммы квадратов остатков: 
В чем состоят основные достоинства и недостатки метода наименьших квадратов с точки зрения прикладной эконометрики?
Достоинства:
1. Наиболее простой метод выбора значений b1 и b2, чтобы остатки были минимальными;
2. При выполнении условий Гаусса-Маркова МНК-оценки будут наилучшими (наиболее эффективными) линейными (комбинации Yi) несмещёнными оценками параметров регрессии (b1 и b2).
Условия Гаусса-Маркова: - модель линейна по параметрам и правильно специфицирована;
- объясняющая переменная в выборке имеет некоторую вариацию;
- математическое ожидание случайного члена равно нулю;
- случайный член гомоскедастичен;
- значения случайного члена имеют взаимно независимые распределения;
- случайный член имеет нормальное распределение
Недостатки:
МНК-оценки являются эффективными линейными несмещёнными ТОЛЬКО при выполнении ВСЕХ условий Гаусса-Маркова, что на практике встречается редко.
Как получить уравнения метода наименьших квадратов, используя производные?
y=a+bx; S2=∑(yi-a-bxi)2=> (S2)a’=0 и (S2)b’=0
Условия первого порядка для точки минимума: 
и 
И 
