Алгоритм выбора модели оптимальной сложности для временного ряда в классе АРСС(p, q)-моделей.

Все множество наблюдений y_t, t = 1, 2, 3,..., T разбивают на две выборки:

· обучающую с объемом наблюдений T₁ (y₁, y₂,..., y_T1);

· экзаменационную (y_T1+1,..., y_T1+T2) c объемом наблюдений Т₂.

Вычисляются числовые характеристики временного ряда на обучающей выборке: среднее, дисперсия, автоковариации и автокорреляционные функции (АКФ):

; ;

, где k = 1, 2,..., Т₁/4;

ρ_k = , k = 1, 2,..., T₁/4.

3.Организуются циклы по переменным p - числу параметров авторегрессии и q - числу параметров скользящего среднего. p= 1, 2,..., p_max; q = 1, 2,..., q_max.

4.Для каждой пары (p, q) вычисляются оценки параметров авторегрессии = (Ф₁, Ф₂,..., Ф_р) как решения системы р линейных уравнений

,

где А-матрица с элементами А_ij = γ _|q+i-j|, а вектор = (х₁, х₂,...,х_р) с координатами х_i = g_q+i; i,j = 1, 2,..., p.

5.По известным автоковариациям g_k вычисляется модифицированная последовательность ковариаций g_j¹:

6.Вычисляем начальные значения ; t₁⁰ = t₂⁰ =... = t_q⁰ = 0, то есть формируется начальный вектор = (t₀⁰,t₁⁰ , t₂⁰,...,t_q⁰).

7. Далее используется алгоритм Ньютона-Рафсона вида:

, = (t₀ⁱ,t₁ⁱ , t₂ⁱ,...,t_qⁱ),

где является решением системы , причем

= (f₀ⁱ,f₁ⁱ , f₂ⁱ,...,f_qⁱ),

f_jⁱ = , а

,

и начальный вектор определен в пункте 6.

8. Если |f_jⁱ| < E для j = 0, 1,..., q, для некоторого выбираемого заранее малого e, то итерационный процесс завершается.

9. Оценки b_i параметров скользящего среднего находятся по формулам

b_j = -t_j/t₀, j = 0, 1,..., q,

где = (t₀, t₁ , t₂,...,t_q) получен в результате применения процедуры Ньютона - Рафсона (п.п. 7-8)

10. Вычисляется свободный член модели по формуле

а_{0 =}

11. Вычисляется оценка дисперсии белого шума

.

12. Вычисляем остаточные ошибки модели на обучающей выборке. Пусть s = max{p, q}, тогда остаточные ошибки a₁^об, a₂^об,..., a_Т1^об на обучающей выборке (y₁, y₂,...,y_T1) имеют вид:

a₁^об = a₂^об = a₃^об =... = a_s^об;

a_k^об = y_k^об - а₀ - ; k = s+1,..., T₁.

13. Найдем остаточные ошибки модели на проверочной последовательности. Полагаем

a₀^пр = a₁^об; a_-1^пр = a_Т1-1^об;..., a_-s^пр = a_Т1-s^об;

и далее

a_k^пр = y_k^пр - а₀ - ; k = s+1,..., T₂.

14. Вычисляем на экзаменационной (проверочной) последовательности среднюю сумму квадратов ошибок

.

15. Оформляется конец циклов на p и q.

16. Выбирается пара p^опт и q^опт, для которой s_pq² принимает минимальное значение

(p^опт , q^опт) = Argmin s_pq²

17. Далее производится оценка коэффициентов авторегрессии и скользящего среднего для модели выбранной оптимальной сложности с p = p^опт, q = q^опт, повторяя описанный в пунктах 1-14 алгоритм для всей выборки Т и получая окончательные значения коэффициентов а₀, Ф₁,..., Ф_p, b₀,..., b_q.

Экономичность модели. Кроме использования «внешнего» критерия при построении модели, можно использовать принцип «экономичности». Включение дополнительных переменных в модель увеличивает адекватность модели (на обучающей выборке), так как средняя ошибка модели убывает. Часто можно заменить одну модель другой - более экономичной. Как, например СС()-модель

y_t = e_t + 0,5e_t-1 + 0,25e_t-2 + 0,125e_t-3 + 0,0625e_t-4 +...

эквивалентна модели

y_t = 0,5y_t-1 + e_t,

что легко проверяется.

Для того, чтобы сделать модель более экономичной считают, что коэффициенты авторегрессии и скользящего среднего должны иметь t-статистики больше или равны 2 (чтобы каждый коэффициент значимо отличался от нуля при 5% уровне значимости). Кроме того, надо проверять, чтобы коэффициенты не были сильно коррелированны друг с другом. Сильная корреляция коэффициентов делает модель неустойчивой. В этом случае следует исключить те коэффициенты, которые в наименьшей степени ухудшают результаты прогноза.

Кроме того, важно, чтобы остатки оцениваемой модели были сериально некоррелированные. Наличие сериальной корреляции остатков сигнализирует о систематических изменениях в {y_t} - последовательности, которые не могут быть учтены АРСС-моделью.

Для проверки корреляции остатков строятся АКФ И ЧАКФ для остатков оцениваемой модели. Можно далее использовать Q-статистики (10.49)-(10.50) Бокса-Пирса и Льюиса-Бокса. С их помощью можно определить будут ли автокорреляции остатков или частные автокорреляции статистически значимы. Обычно можно предполагать наличие сериальной корреляции остатков при превышении критического уровня Q- статистикой при 10% уровне значимости. В этом случае велика вероятность построения другой модели, лучше отражающей специфику процесса.

Стационарность и обратимость. Из результатов теории вероятности известно, что выборочные АКФ и ЧАКФ аппроксимируют АКФ и ЧАКФ реального временного ряда в том случае, если предполагать стационарность ряда y_t­. Далее, t-статистики и Q-статистики также предполагают стационарность ряда y_t.

Если искомый ряд y_t не стационарный, то первым шагом в подходе Бокса-Дженкинса является взятие первой, второй и следующих разностей временного ряда

, ,...

и так далее, до тех пор, пока в результате не получится стационарный временной ряд. Этот подход обладает серьезным недостатком, так как не позволяет включать в модель долговременные составляющие. О современных подходах к построению модели временных рядов в условиях нестационарности пойдет речь в последующих главах книги.

Подход Бокса-Дженкинса требует также обратимости модели. Это означает, что модель может быть представлена в виде конечного или бесконечного, но сходящегося авторегрессионого процесса. Это необходимо для АКФ и ЧАКФ. Например, рассмотрим СС(1)-модель

y_t = e_t - b₁e_t-1.

Если |b₁| < 1, то

e_t = y_t/(1-b₁L)

или, разлагая в ряд правую часть равенства, получаем

y_t + b₁y_t-1 + b₁²y_t + b₁³y_t +... = e_t.

Полученная модель представляет собой сходящуюся авторегрессионную модель бесконечного порядка, для которой могут быть посчитаны АКФ и ЧАКФ. Однако, если b₁| ³ 1, то {y_t} - последовательность не может быть представлена сходящейся авторегрессией. В общем случае для АРСС (p, q)-модели корни многочлена 1 + b₁L + b₂L² +... + b_qL^q должны лежать вне единичного круга. Тогда модель обратима.

Заметим, что могут существовать и необратимые модели с долгосрочной “памятью”, которые нельзя построить по методу Бокса-Дженкинса. Например, модель стационарного процесса

y_t = e_t - e_t-1

с постоянным средним My_t = My_t-s = 0 и дисперсией Dy_t = Dy_t-s = s²(1+b₁²) = 2s² и автоковариациями g₁ = -b₁s² = -s² и g_s = 0. Записывая модель в эквивалентном виде

y_t = -y_t-1 + y_t-2 - y_t-3 + y_t-4 +...

убеждаемся, что ЧАКФ не затухают с увеличением лага s ® ∞.