Ошибки прогнозирования
(определение качества регрессионного анализа)
Можно воспользоваться двумя приемами для оценки добротности выполненного нами регрессионного анализа. В статистике для этого используют:
− стандартную ошибку (S⎯у), которая дает представление о приблизительной величине ошибки прогнозирования;
− коэффициент детерминации (R2), указывающий, какой процент вариации функции у объясняется воздействием факторов хk.
Рассмотрим второй случай. Коэффициент детерминации (R2) равен 0,88, что составляет 88%. Этот результат следует толковать так: все исследуемые воздействующие факторы (влияние численности штатного персонала, количество филиалов и количество предприятий-компанъенов) объясняют 88% вариации анализируемой функции (объема выручки). Остальное же (22%) остается необъясненным и может быть связано с влиянием других, неучтенных факторов.
Для нашего примера показатель R 2 (88 %) считается умеренным, поэтому можно полагать, что именно эти три фактора в данном конкретном случае оказывают наиболее значительное влияние.
Итак, нами получено уравнение множественной регрессии, коэффициенты которого b i формально показывают, как и в каком направлении действуют (пока лишь вероятно!) исследуемые факторы хk i и какой процент изменчивости функции у объясняется влиянием именно этих факторов. Теперь нам надлежит определить статистическую значимость полученного аналитического выражения.
Проверка значимости модели
При проверке значимости модели принято придерживаться следующей последовательности действий:
1. Сначала выполняется общая проверка полученного уравнения на пригодность.
2. Если результат оказался положительным (уравнение значимо), то проверяют на значимость уже каждый коэффициент уравнения регрессии bi.
3. Дается сравнительная оценка степени влияния каждого из анализируемых факторов хk.
Проверка на адекватность уравнения регрессии
Статистическую оценку полученного уравнения (так называемый статистический вывод) принято начинать с проведения F -теста, целью которого является выяснение способности исследуемых факторов хk объяснять значимую часть колебания функции у. Этот тест используется как своеобразные «входные ворота» в статистический вывод: если результат теста значим, то связь существует, значит приступать к ее исследованию и объяснению. Если проверка указывает на незначимость связи, то заключение лишь одно: мы имеем дело с набором случайных чисел, никак не связанных между собой. И больше делать нечего, так как нет предмета для анализа.
Заметим при этом, что сам формальный факт отсутствия значимости на деле может и не соответствовать отсутствию взаимосвязи как таковой. Просто в указанных обстоятельствах у нас не хватило экспериментальных данных доказать, что такая связь вообще-то есть. Иначе говоря, она может и быть, но из-за малого размера выборки или какой-либо случайности нам не удалось ее доказать на основании тех опытных данных, которые были в нашем распоряжении.
Использование так называемой нулевой гипотезы для F -теста означает, что между переменными хk и у значимая связь отсутствует. Следовательно, признается, что параметр у является чисто случайной величиной, поэтому значения переменных хk не оказывают на него никакого систематического влияния. Применительно к уравнению регрессии это утверждение можно трактовать как случай, когда все коэффициенты уравнения равны нулю.
С другой стороны, альтернативная гипотеза F -теста говорит о том, что между параметром у и переменными хk существует определенная прогнозирующая взаимосвязь. Следовательно, параметр у уже не является чисто случайной величиной и должен зависеть хотя бы от одной из переменных хk. Тем самым альтернативная гипотеза настаивает на том, что по крайней мере один из коэффициентов регрессии отличен от нуля. Как видно, здесь принимается во внимание следующее обстоятельство: совершенно необязательно, чтобы каждая х-переменная влияла на параметр у, вполне достаточно, чтобы влияла хотя бы одна из них.
Для выполнения F -теста воспользуемся результатами компьютерного расчета, который исполнил замечательный Excel. Здесь обычно рекомендуются следующие приемы.
1. Решение принимается на основе критерия Фишера.
Это достаточно традиционный способ, им привычно пользуются при статистических анализах, хотя по удобству и простоте он может уступать другим методам. Обычно F -тест проводится путем сопоставления вычисленного значения F -критерия с эталонным (табличным) показателем F табл для соответствующего уровня значимости. Если выполняется неравенство F расч < F табл, то с уверенностью, например на 95 %, можно утверждать, что рассматриваемая зависимость у = b 0 + b 1 x 1 + b 2 x 2 +…+ bkxk является статистически значимой. В противном случае наоборот.
2. Решение принимается на основе уровня значимости α.
Для этого обратим внимание на представленные значения уровня значимости α (в интерпретации Excel это показатель р). Если р -значение больше, чем 0,05, то полученный результат нужно трактовать как незначимый (для 95-процентной вероятности). В том случае, когда величина р оказывается меньше 0,05, то вывод такой: это значимое уравнение с вероятностью 95%.
Если же р < 0,01, то полученный результат является высоко значимым, (степень риска ошибиться в нашем утверждении оказывается меньше 1 %, т.е. степень надежности составляет 99 %)
3. Решение принимается на основе коэффициента детерминации R2.
В этом случае имеющуюся расчетную величину R 2расч необходимо сравнить с табличными (критическими) значениями R 2крит для соответствующего уровня значимости (повторим еще раз, обычно это 0,05). Если окажется, что R 2расч > R 2крит, то с упомянутой степенью вероятности (95 %) можно утверждать, что анализируемая регрессия является значимой.
Теперь, проанализируем наше уравнение с использованием рассмотренных статистических критериев.
1. Проведем проверку по F -критерию. Компьютерная распечатка выдала нам величину F расч, равную 40,73 (см. лист Excel на рис.5). С учетом сделанных замечаний для анализа уравнения будем пользоваться величиной F расч, обратной представленной Excel. Она составит 1:40,73 =0,02. Отыщем по эталонной таблице критическую величину F крит при условии, что для числителя степень свободы f 1 = k, т.е. составит 3 (число воздействующих факторов равно 3), а для знаменателя f 2 = n − k − 1 = 17 − 3 − 1= 13. Тогда будем иметь следующие значения для F крит: 3,49 (для α = 0,05). Понятно, что для всех рассмотренных вероятностей выполняется соотношение F расч < F крит, поэтому уверенно можно говорить о высокой степени адекватности анализируемого уравнения.
2. Теперь выполним проверку с использованием уровня значимости α (еще раз напомним, что Excel этот показатель именует как р). На рис.5, где дано изображение листа Excel, находим позицию «Значимость F ». Там указана величина 7,1272Е-07, т.е. это число 7,12, перед которым стоит 7 нулей. Фактически можно признать, что α = 0,000. Это говорит о том, что действительно обнаруживается устойчивая зависимость рассматриваемой функции у (выручка за 2005 год) от воздействующих факторов х 1, х 2, х 3 т.е. объем выручки не является чисто случайной величиной. Правда, нам пока неизвестно, какие именно факторы (х 1, х 2, х 3 или какой-то один из них) реально участвует в прогнозировании, но нам доподлинно понятно, что по крайней мере один из них влияет непременно.
3. Напомним, что, по нашим расчетам, коэффициент детерминации R 2расч составляет 0,88, или 88 %. Таблица для тестирования на уровне значимости 5% в случае выборки n = 17 и числа переменных k = 3 дает критическое значение R 2крит = 0,466. Поскольку выполняется соотношение R 2расч > R 2крит, то с вероятностью 95 % можно утверждать о наличии значимости данного уравнения регрессии.
Как видно, все три рассмотренных приема статистической проверки дают одинаковый результат. В этом примере мы воспользовались подобным разнообразием способов анализа только с одной целью – дать представление о существующих методах такой проверки. На практике же нет нужды проводить статистическую оценку с использованием всех указанных вариантов.
Вполне разумно (да и экономично) ограничиться каким-то одним методом. Каким именно? Более распространенным методом считается выполнение проверки по F -критерию.
Итак, нами проведена проверка на значимость самого уравнения, т.е. мы понимаем, что существует взаимосвязь между параметром у и переменными хk. Однако нам пока неясно, каково влияние конкретных факторов х 1, х 2, х 3 на исследуемую функцию у: действуют ли три фактора или только какой-то один из них. Поэтому предстоит определить значимость отдельных коэффициентов регрессии b 1, b 2 и b3. Для этой цели используется так называемый t -тест.