img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Analiza szeregów czasowych
Modele ARIMA i SARIMA
dr Piotr Wójcik, mgr Paweł Sakowski
Uniwersytet Warszawski
Wydział Nauk Ekonomicznych
wykład #4
P. Wójcik, P. Sakowski
ASC #4
1/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Plan
1
Biały szum
2
Funkcje ACF i PACF
3
Procesy AR, MA i ARMA
4
Procedura Boxa-Jenkinsa
5
Prognozy
6
Sezonowe modele SARIMA
P. Wójcik, P. Sakowski
ASC #4
2/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Proces białego szumu spełnia nast ˛epuj ˛
ace zało˙zenia:
E (y
t
) =
0
Var(y
t
) = σ
2
Cov(y
t
,
y
t−k
) =
σ
2
dla
k = 0, ∀t
0
dla
k 6= 0, ∀t
P. Wójcik, P. Sakowski
ASC #4
3/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Testy wyst ˛epowania białego szumu
Statystyka Q Boxa-Pierce’a
Q = T
m
X
k =1
ˆ
ρ
2
k
∼ χ
2
m
Statystyka Q Ljunga-Boxa (lepsza dla małych prób)
Q
∗
=
T (T + 2)
m
X
k =1
ˆ
ρ
2
k
T − k
∼ χ
2
m
w obu testach H
0
: proces
jest białym szumem:
H
0
: ρ
1
= ρ
2
= · · · = ρ
m
=
0
P. Wójcik, P. Sakowski
ASC #4
4/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Statystyka Durbina-Watsona
Stosowana do badania autokorelacji w´sród reszt:
DW =
T
X
t=2
(ˆ
ε
t
− ˆ
ε
t−1
)
2
T
X
t=1
ˆ
ε
2
t
≈ 2
1 −
T
X
t=2
ˆ
ε
t
ˆ
ε
t−1
T
X
t=1
ˆ
ε
2
t
!
∈ (0; 4)
P. Wójcik, P. Sakowski
ASC #4
5/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Funkcja autokowariancji i autokorelacji
Funkcja autokowariancji:
E (y
t
− E(y
t
))(
y
t+k
− E(y
t+k
)) = γ
k
,
k = 0, 1, 2, . . .
Funkcja autokowariancji nie posiada oczywistej
interpretacji, dlatego cz ˛e´sciej stosuje si ˛e funkcj ˛e
autokorelacji (ACF):
ρ
k
=
γ
k
γ
0
istotna własno´s´c ACF:
ρ
k
= ρ
(−
k )
P. Wójcik, P. Sakowski
ASC #4
6/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
PACF - funkcja cz ˛e´sciowej autokorelacji
Funkcja cz ˛e´sciowej autokorelacji (PACF), ρ
kk
, mierzy
korelacj ˛e pomi ˛edzy obserwacjami oddalonymi od siebie o
k opó´znie ´n, tj. y
t
i y
t+k
, po "wyj ˛eciu" efektów dla opó´znie ´n
po´srednich
Innymi słowy, ρ
kk
mierzy korelacj ˛e mi ˛edzy y
t
a y
t+k
po
"wyj ˛eciu" efektów dla opó´znie ´n:
y
t−k +1
,
y
t−k +2
, . . . ,
y
t−1
Ró˙znic ˛e mi ˛edzy ACF i PACF mo˙zna sobie wyobrazi´c jako
analogi ˛e ró˙znicy mi ˛edzy współczynnikiem regresji przy
pewnej zmiennej w regresji prostej i w regresji wielu
zmiennych (przy uwzgl ˛ednieniu ich wpływu).
P. Wójcik, P. Sakowski
ASC #4
7/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Rozkład warto´sci ρ
k
Przy zało˙zeniu, ˙ze y
t
∼ N(0, 1) oceny warto´sci ACF z
próby maj ˛
a tak˙ze w przybli˙zeniu rozkład normalny
ˆ
ρ
k
∼ N(0,
1
T
)
(w przybli˙zeniu)
Zatem granic ˛e 95% przedziału ufno´sci dla ρ
k
mo˙zna
zapisa´c jako:
±1,96
1
√
T
P. Wójcik, P. Sakowski
ASC #4
8/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Proces AR - autoregressive process
Proces autoregresyjny pierwszego rz ˛edu AR(1)
y
t
− µ = φ
1
(
y
t−1
− µ) + ε
t
gdzie µ jest ´sredni ˛
a procesu a ε
t
białym szumem.
Powy˙zsz ˛
a zale˙zno´s´c cz ˛esto zapisuje si ˛e tak˙ze jako:
y
t
= φ
0
+ φ
1
y
t−1
+ ε
t
gdzie φ
0
= µ(
1 − φ
1
)
jest stał ˛
a w modelu.
P. Wójcik, P. Sakowski
ASC #4
9/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Proces AR - autoregressive process - cd
Proces autoregresyjny wy˙zszych rz ˛edów AR(p):
y
t
= φ
0
+ φ
1
y
t−1
+ φ
2
y
t−2
+ · · · + φ
p
y
t−p
+ ε
t
gdzie:
φ
0
= µ(
1 − φ
1
− φ
2
− · · · − φ
p
)
P. Wójcik, P. Sakowski
ASC #4
10/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Warunki stacjonarno´sci dla procesu AR
Proces AR(p) jest stacjonarny je´sli wszystkie pierwiastki
równania charakterystycznego:
1 − φ
1
z − φ
2
z
2
− · · · − φ
p
z
p
=
0
le˙z ˛
a
poza kołem jednostkowym.
P. Wójcik, P. Sakowski
ASC #4
11/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Warunki stacjonarno´sci dla procesu AR
Czy poni˙zszy proces jest stacjonarny?
y
t
=
y
t−1
+ ε
t
Równanie charakterystyczne to
1 − z = 0
Pierwiastek równania wynosi z = 1 zatem proces jest
niestacjonarny (tzw. unit root process).
P. Wójcik, P. Sakowski
ASC #4
12/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Warunki stacjonarno´sci dla procesu AR
Czy poni˙zszy proces jest stacjonarny?
y
t
=
3y
t−1
+
0,25y
t−2
− 0,75y
t−3
+ ε
t
Równanie charakterystyczne to
1 − 3z − 0,25z
2
+
0,75z
3
=
0
Pierwiastkami s ˛
a: z
1
= −
2, z
2
=
1
3
oraz z
3
=
2.
Tylko dwa pierwiastki le˙z ˛
a poza kołem jednostkowym
zatem proces ten jest niestacjonarny.
P. Wójcik, P. Sakowski
ASC #4
13/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Proces MA (moving average process)
Proces ´sredniej ruchomej pierwszego rz ˛edu MA(1)
y
t
= µ + ε
t
+ θ
1
ε
t−1
gdzie ε
t
jest białym szumem.
Cz ˛esto rezygnuje si ˛e z szacowania stałej µ poprzez
odj ˛ecie od y
t
´sredniej procesu ¯
y . Model przyjmuje wtedy
posta´c:
y
t
= ε
t
+ θ
1
ε
t−1
Proces ´sredniej ruchomej wy˙zszych rz ˛edów MA(q):
y
t
= µ + ε
t
+ θ
1
ε
t−1
+ θ
2
ε
t−2
+ · · · + θ
q
ε
t−q
P. Wójcik, P. Sakowski
ASC #4
14/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
E (y
t
) =
0
Var(y
t
) = γ
0
= (
1 + θ
2
1
+ θ
2
2
+ · · · + θ
2
q
)σ
2
dla k = 1, 2, . . . , q
γ
k
= (θ
k
+ θ
k +1
θ
1
+ θ
k +2
θ
2
+ · · · + θ
q
θ
q−k
)σ
2
dla k > q
γ
k
=
0
Var(ε
t
) = σ
2
P. Wójcik, P. Sakowski
ASC #4
15/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Własno´sci procesu MA
proces MA jest zawsze stacjonarny
aby dowolny proces MA(q) móc przedstawi´c w postaci
procesu AR(∞) musi by´c spełniony warunek
odwracalno´sci:
∀
i
|z
i
| > 1
gdzie z
i
to pierwiastki równania charakterystycznego:
(
1 − θ
1
z − θ
2
z
2
− · · · − θ
q
z
q
) =
0
ka˙zdy stacjonarny proces AR(p) mo˙zna przedstawi´c w
postaci procesu MA(∞).
P. Wójcik, P. Sakowski
ASC #4
16/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Proces ARMA (autoregressive moving average process)
Proces ARMA(1,1):
y
t
= µ + φ
1
y
t−1
+ ε
t
+ θ
1
ε
t−1
gdzie ε
t
jest białym szumem.
Proces ARMA(p, q):
y
t
= φ
0
+ φ
1
y
t−1
+ φ
2
y
t−2
+ · · · + φ
p
y
t−p
+ ε
t
+ε
t
+ θ
1
ε
t−1
+ θ
2
ε
t−2
+ · · · + θ
q
ε
t−q
P. Wójcik, P. Sakowski
ASC #4
17/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Proces ARIMA
ARIMA – (autoregressive moving integrated average process)
czyli autoregresyjny zintegrowany proces ´sredniej ruchomej.
Z procesem ARIMA b ˛edziemy mieli do czynienia, gdy
zmienna, któr ˛
a analizujemy jest niestacjonarna.
Wtedy
pierwszym krokiem jest identyfikacja stopnia
zintegrowania zmiennej, odpowiednie zró˙znicowanie i
estymacja modelu ARMA dla uzyskanej w rezultacie
przekształcenia zmiennej stacjonarnej.
P. Wójcik, P. Sakowski
ASC #4
18/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
1
identyfikacja
2
estymacja
3
diagnostyka
4
prognozowanie
P. Wójcik, P. Sakowski
ASC #4
19/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Identyfikacja
Model ARIMA ma 3 parametry, które nale˙zy okre´sli´c przed
wła´sciw ˛
a estymacj ˛
a modelu:
p – rz ˛
ad procesu AR;
d – stopie ´n zintegrowania oryginalnego szeregu;
q – rz ˛
ad procesu MA;
Po uprzednim zidentyfikowaniu d , przyst ˛epujemy do
identyfikacji p oraz q przez analiz ˛e wykresów funkcji
autokorelacji (ACF) i funkcji cz ˛
astkowej autokorelacji (PACF).
P. Wójcik, P. Sakowski
ASC #4
20/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Teoretyczne ACF i PACF dla AR(1)
0 < φ
1
<
1
− 1 < φ
1
<
0
P. Wójcik, P. Sakowski
ASC #4
21/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Teoretyczne ACF i PACF dla AR(2) 1/2
0<φ
1
<
1
0<φ
2
<
1
φ
1
+φ
2
<
1
−1<φ
1
<
0
0<φ
2
<
1
φ
1
+φ
2
<
1
P. Wójcik, P. Sakowski
ASC #4
22/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Teoretyczne ACF i PACF dla AR(2) 2/2
0<φ
1
<
2
−1<φ
2
<
0
φ
2
<−φ
1
+
1
−2<φ
1
<
0
−1<φ
2
<
0
φ
2
<φ
1
+
1
P. Wójcik, P. Sakowski
ASC #4
23/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Teoretyczne ACF i PACF dla MA(1)
θ
1
<
1
θ
1
>
0
P. Wójcik, P. Sakowski
ASC #4
24/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Teoretyczne ACF i PACF dla MA(2) 1/2
θ
1
<
0
θ
2
>
0
θ
1
>
0
θ
2
<
0
P. Wójcik, P. Sakowski
ASC #4
25/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Teoretyczne ACF i PACF dla MA(2) 2/2
θ
1
<
0
−1<θ
2
<
0
lub
θ
1
>
0
θ
2
<−
1
θ
1
>
0
−1<θ
2
<
0
lub
θ
1
<
0
θ
2
<−
1
P. Wójcik, P. Sakowski
ASC #4
26/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Teoretyczne ACF i PACF dla ARMA(1,1) 1/3
0<φ
1
<
1
θ
1
>
0
−1<φ
1
<
0
θ
1
<
0
P. Wójcik, P. Sakowski
ASC #4
27/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Teoretyczne ACF i PACF dla ARMA(1,1) 2/3
0<φ
1
<
1
θ
1
<−
1/φ
1
lub
0<φ
1
<
1
θ
1
<
0
θ
1
>−φ
1
0<φ
1
<
1
θ
1
<−φ
1
θ
1
>−
1/φ
1
P. Wójcik, P. Sakowski
ASC #4
28/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Teoretyczne ACF i PACF dla ARMA(1,1) 3/3
−1<φ
1
<
0
θ
1
>−φ
1
θ
1
<−
1/φ
1
1<φ
1
<
0
θ
1
>φ
1
lub
1<φ
1
<
0
θ
1
>
0
θ
1
<φ
1
P. Wójcik, P. Sakowski
ASC #4
29/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Podsumowanie
Proces autoregresyjny – AR:
— geometrycznie wygasaj ˛
aca funkcja ACF
— liczba niezerowych warto´sci PACF → rz ˛
ad AR
Proces ´sredniej ruchomej – MA:
— liczba niezerowych warto´sci ACF → rz ˛
ad MA
— geometrycznie wygasaj ˛
aca funkcja PACF
Proces ARMA:
— geometrycznie wygasaj ˛
aca funkcja ACF
— geometrycznie wygasaj ˛
aca funkcja PACF
P. Wójcik, P. Sakowski
ASC #4
30/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Oczywi´scie wykresy tych funkcji dla rzeczywistych danych
nigdy nie b ˛ed ˛
a wygl ˛
adały tak jak te teoretyczne;
Niemniej wykresy teoretyczne mog ˛
a by´c pewn ˛
a
wskazówk ˛
a, z jakim procesem mo˙zemy mie´c do czynienia;
P. Wójcik, P. Sakowski
ASC #4
31/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Przykładowy wykres funkcji ACF dla rzeczywistych
danych
P. Wójcik, P. Sakowski
ASC #4
32/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Przykładowy wykres funkcji PACF dla rzeczywistych
danych
P. Wójcik, P. Sakowski
ASC #4
33/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Równania Yule’a-Walkera
warto´sci ACF mo˙zna wyznaczy´c rozwi ˛
azuj ˛
ac układ
równa ´n:
ρ
1
=
φ
1
+ ρ
1
φ
2
+ · · · + ρ
p−1
φ
p
ρ
2
=
ρ
1
φ
1
+ φ
2
+ · · · + ρ
p−2
φ
p
..
.
..
.
..
.
ρ
p
=
φ
p−1
+ ρ
p−2
φ
2
+ · · · + φ
p
dla ka˙zdego stacjonarnego procesu AR warto´sci ACF
b ˛ed ˛
a wygasały geometrycznie.
P. Wójcik, P. Sakowski
ASC #4
34/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
AIC – Akaike’s Information Criterion
AIC = ln ˆ
σ
2
+
2k
T
SBC - Schwarz Bayesian Criterion (bayesowskie kryterium
Schwarza, niekiedy tak˙ze Bayesian Information Criterion,
BIC)
SBC = ln(ˆ
σ
2
) +
k ∗ ln(T )
T
Ni˙zsza warto´s´c kryterium ´swiadczy o lepszym
dopasowaniu modelu!
SBC ma lepsze własno´sci asymptotyczne (AIC cz ˛esto
przeszacowuje rz ˛
ad modelu).
P. Wójcik, P. Sakowski
ASC #4
35/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Diagnostyka
Czy reszty s ˛
a białym szumem?
analiza funkcji autokorelacji reszt
−→ czy warto´sci ACF przy wszystkich opó´znieniach nie
ró˙zni ˛
a si ˛e istotnie od zera?
stosowanie statystyk Boxa-Pierce’a lub Ljunga-Boxa.
P. Wójcik, P. Sakowski
ASC #4
36/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Który model wybra´c?
Decyzj ˛e o wyborze modelu mo˙zemy podj ˛
a´c na podstawie:
statystyk AIC i SBC oraz testu czy reszty z modelu s ˛
a
„białym szumem” (np. korelogram);
zasady „oszcz ˛edno´sci parametrów” oraz testu czy reszty z
modelu s ˛
a „białym szumem”;
najlepszego dopasowania modelu w prognozie;
P. Wójcik, P. Sakowski
ASC #4
37/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Przykład prognozy w modelu AR(2)
Załó˙zmy, ˙ze wyestymowali´smy nast ˛epuj ˛
acy model:
y
t
= µ + φ
1
y
t−1
+ φ
2
y
t−2
+ ε
t
Mo˙zemy zatem zapisa´c:
y
t+1
=
µ + φ
1
y
t
+ φ
2
y
t−1
+ ε
t+1
y
t+2
=
µ + φ
1
y
t+1
+ φ
2
y
t
+ ε
t+2
y
t+3
=
µ + φ
1
y
t+2
+ φ
2
y
t+1
+ ε
t+3
P. Wójcik, P. Sakowski
ASC #4
38/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Przykład prognozy w modelu AR(2) – cd.
Prognoza na
jeden okres naprzód
f
t,1
=
E (y
t+1|t
)
=
E (µ + φ
1
y
t
+ φ
2
y
t−1
+ ε
t+1
)
f
t,1
=
E (y
t+1|t
)
=
µ + φ
1
E (y
t
) + φ
2
E (y
t−1
)
f
t,1
=
E (y
t+1|t
)
=
µ + φ
1
y
t
+ φ
2
y
t−1
Prognoza na
dwa okresy naprzód
f
t,2
=
E (y
t+2|t
)
=
E (µ + φ
1
y
t+1
+ φ
2
y
t
+ ε
t+2
)
f
t,2
=
E (y
t+2|t
)
=
µ + φ
1
E (y
t+1
) + φ
2
E (y
t
)
f
t,2
=
E (y
t+2|t
)
=
µ + φ
1
f
t,1
+ φ
2
y
t
P. Wójcik, P. Sakowski
ASC #4
39/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Przykład prognozy w modelu AR(2) – cd.
Prognoza na
trzy okresy naprzód
f
t,3
=
E (y
t+3|t
)
=
E (µ + φ
1
y
t+2
+ φ
2
y
t+1
+ ε
t+3
)
f
t,3
=
E (y
t+3|t
)
=
µ + φ
1
E (y
t+2
) + φ
2
E (y
t+1
)
f
t,3
=
E (y
t+3|t
)
=
µ + φ
1
f
t,2
+ φ
2
f
t,1
w ten sposób dla
czterech okresów naprzód mamy:
f
t,4
=
E (y
t+4|t
) = µ + φ
1
f
t,3
+ φ
2
f
t,2
P. Wójcik, P. Sakowski
ASC #4
40/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Przykład prognozy w modelu AR(2) – cd.
a ogólnie dla modelu AR(2) mo˙zemy zapisa´c:
f
t,s
=
E (y
t+s|t
) = µ + φ
1
f
t,s−1
+ φ
2
f
t,s−2
f
t,s
−→
(
s→∞)
µ
1 − (φ
1
+ φ
2
)
P. Wójcik, P. Sakowski
ASC #4
41/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Przykład prognozy w modelu MA(3)
Załó˙zmy, ˙ze wyestymowali´smy nast ˛epuj ˛
acy model:
y
t
= µ + θ
1
ε
t−1
+ θ
2
ε
t−2
+ θ
3
ε
t−3
+ ε
t
mo˙zemy zatem zapisa´c:
y
t+1
=
µ + θ
1
ε
t
+ θ
2
ε
t−1
+ θ
3
ε
t−2
+ ε
t+1
y
t+2
=
µ + θ
1
ε
t+1
+ θ
2
ε
t
+ θ
3
ε
t−1
+ ε
t+2
y
t+3
=
µ + θ
1
ε
t+2
+ θ
2
ε
t+1
+ θ
3
ε
t
+ ε
t+3
P. Wójcik, P. Sakowski
ASC #4
42/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Przykład prognozy w modelu MA(3) – cd.
Prognoza na
jeden okres naprzód:
f
t,1
=
E (y
t+1|t
)
=
E (µ + θ
1
ε
t
+ θ
2
ε
t−1
+ θ
3
ε
t−2
+ ε
t+1
)
f
t,1
=
E (y
t+1|t
)
=
µ + θ
1
ε
t
+ θ
2
ε
t−1
+ θ
3
ε
t−2
Prognoza na
dwa okresy naprzód:
f
t,2
=
E (y
t+2|t
)
=
E (µ + θ
1
ε
t+1
+ θ
2
ε
t
+ θ
3
ε
t−1
+ ε
t+2
)
f
t,2
=
E (y
t+2|t
)
=
µ + θ
2
ε
t
+ θ
3
ε
t−1
P. Wójcik, P. Sakowski
ASC #4
43/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Przykład prognozy w modelu MA(3) – cd.
Prognoza na
trzy okresy naprzód:
f
t,3
=
E (y
t+3|t
)
=
E (µ + θ
1
ε
t+2
+ θ
2
ε
t+1
+ θ
3
ε
t
+ ε
t+3
)
f
t,3
=
E (y
t+3|t
)
=
µ + θ
3
ε
t
w ten sposób na
cztery okresy naprzód b ˛edziemy mieli:
f
t,4
=
E (y
t+4|t
) = µ
a ogólnie dla modelu MA(3):
f
t,s
=
E (y
t+s|t
) = µ
∀s ≥ 4
P. Wójcik, P. Sakowski
ASC #4
44/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Prognoza w modelu ARMA(p, q)
Prognoza s-okresowa:
f
t,s
= µ +
p
X
i=1
φ
i
f
t,s−i
+
q
X
j=1
θ
i
ε
t+s−j
gdzie:
f
t,s
=
y
t+s
,
s ≤ 0
ε
t,s
=
0
dla
s > 0
ε
t+s
dla
s ≤ 0
P. Wójcik, P. Sakowski
ASC #4
45/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Wa˙zny wniosek
Na podstawie modeli ARIMA nie ma wi ˛ekszego sensu
prognozowanie na wi ˛ecej okresów naprzód ni˙z wynosi
rz ˛
ad procesu.
P. Wójcik, P. Sakowski
ASC #4
46/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Zjawisko sezonowo´sci cz ˛esto wyst ˛epuje w wielu szeregach
ekonomicznych;
Sezonowe modele ARIMA – oprócz wpływu na bie˙z ˛
ac ˛
a
warto´s´c zmiennej obserwacji bezpo´srednio j ˛
a
poprzedzaj ˛
acych, uwzgl ˛ednia równie˙z wpływ obserwacji z
analogicznych okresów roku poprzedniego (lat
poprzednich).
P. Wójcik, P. Sakowski
ASC #4
47/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Przykład zale˙zno´sci sezonowych
P. Wójcik, P. Sakowski
ASC #4
48/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Proces SARIMA (Seasonal ARIMA)
Niech d , D ∈ N
0
. Proces {x
t
} nazywamy sezonowym procesem
ARIMA (p, d , q) × (P, D, Q)
S
je´sli proces
y
t
= (
1 − L)
d
(
1 − L
S
)
D
x
t
jest standardowym procesem ARMA z:
P(L)H(L
S
)
y
t
=
R(L)V (L
S
)ε
t
gdzie: ε
t
∼ WN(0, σ
2
)
jest białym szumem.
P. Wójcik, P. Sakowski
ASC #4
49/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
SARIMA – zapis wielomianowy
y
t
= (
1 − L)
d
(
1 − L
S
)
D
x
t
P(L) = 1 −
p
X
i=1
φ
i
L
i
H(L
S
) =
1 −
P
X
i=1
α
i
L
Si
P(L) = 1 −
q
X
i=1
θ
i
L
i
V (L
S
) =
1 −
Q
X
i=1
β
i
L
Si
P. Wójcik, P. Sakowski
ASC #4
50/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
SARIMA(0, 1, 0) × (0, 1, 1)
12
– (dane miesi ˛eczne)
ró˙znicowanie regularne i sezonowe:
y
t
=
(
1 − L)(1 − L
12
)
x
t
=
x
t
− x
t−12
− x
t−1
+
x
t−13
stacjonarna posta´c ARMA:
y
t
=
(
1 − β
1
L
12
)ε
t
=
ε
t
− β
1
ε
t−12
P. Wójcik, P. Sakowski
ASC #4
51/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Przykłady modeli SARIMA 2/3
SARIMA(1, 1, 1) × (0, 1, 0)
4
– (dane kwartalne)
ró˙znicowanie regularne i sezonowe:
y
t
=
(
1 − L)(1 − L
4
)
x
t
=
x
t
− x
t−4
− x
t−1
+
x
t−5
stacjonarna posta´c ARMA:
(
1 − φ
1
L)y
t
=
(
1 − θ
1
L)ε
t
y
t
− φ
1
y
t−1
=
ε
t
− θ
1
ε
t−1
y
t
=
φ
1
y
t−1
+ ε
t
− θ
1
ε
t−1
P. Wójcik, P. Sakowski
ASC #4
52/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Przykłady modeli SARIMA 3/3
SARIMA(0, 1, 0) × (1, 1, 1)
4
– (dane kwartalne)
ró˙znicowanie regularne i sezonowe:
y
t
=
(
1 − L)(1 − L
4
)
x
t
=
x
t
− x
t−4
− x
t−1
+
x
t−5
stacjonarna posta´c ARMA:
(
1 − α
1
L
4
)
y
t
=
(
1 − β
1
L
4
)ε
t
y
t
− α
1
y
t−4
=
ε
t
− β
1
ε
t−4
y
t
=
α
1
y
t−4
+ ε
t
− β
1
ε
t−4
P. Wójcik, P. Sakowski
ASC #4
53/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Procedura Boxa-Jenkinsa
Prognozy
Sezonowe modele SARIMA
Jak znale´z´c wła´sciwy model?
1
Sprowadzi´c szereg do postaci stacjonarnej poprzez
ró˙znicowanie regularne (najcz ˛e´sciej jednokrotne, rzadziej
dwukrotne) oraz ró˙znicowanie sezonowe (zdecydowanie
najcz ˛e´sciej jednokrotne).
2
Na podstawie ACF i PACF ustali´c rz ˛edy P oraz Q
(sezonowe)
3
Na podstawie ACF ustali´c rz ˛edy rz ˛edy p oraz q (regularne)
W punktach 2. i 3. pomocna mo˙ze si ˛e okaza´c analiza
istotno´sci dodatkowych parametrów oraz warto´sci
kryteriów AIC i SBC.
P. Wójcik, P. Sakowski
ASC #4
54/55
img/wne.pdf
Biały szum
Funkcje ACF i PACF
Procesy AR, MA i ARMA
Dzi ˛ekujemy
za uwag ˛e!
P. Wójcik, P. Sakowski
ASC #4
55/55