Wykład 7

Większość procesów obserwowanych w realnym świecie ma w swojej strukturze czynnik losowy.

W opisie matematycznym (ekonomicznym, ekonometrycznym) zapisujemy proces jako kolekcję zmiennych losowych np. X_t ; t ∈ T.

Zbiór parametrów T interpretujemy jako czas.

Może być T = [0 , ∞ ) lub T = [a , b ) , 0 ≤ a < b i wtedy interpretujemy T jako czas ciągły.

Może być T = N lub T ⊂ N , gdzie N zbiór liczb naturalnych i wtedy T interpretujemy jak czas dyskretny, ciąg izolowanych chwil czasowych lub ciąg kolejnych okresów.

X_t traktujemy jak zmienną losową o pewnym (jakimś) rozkładzie prawdopodobieństwa. Zazwyczaj obserwując proces X obserwujemy jego pojedyncze („wylosowane”) wartości i zmienność tych wartości w czasie („trajektorie”). Jako wynik dostajemy szereg czasowy obserwacji x_t , t ∈T („wylosowanych wartości”) zrealizowanych zgodnie z rozkładami zmiennych X_t . Trajektorię obserwowanego zjawiska traktujemy jako jedną z możliwych realizacji badanego zjawiska.

Jednym z możliwych opisów obserwowanego procesu jest określenie wspólnych skończenie wymiarowych rozkładów zmiennych (X_t1, X_t2, … X_tn) dla dowolnych t₁, t₂, … t_n ∈ T. Często jednak jest to zadanie trudne i w związku z tym ograniczamy się do badania momentów procesu a dokładniej pierwszego i drugiego momentu.

Pierwszy moment to wartość oczekiwana (wartość średnia). Funkcję wartości średniej określamy następująco:

(t) = E(X_t)

Drugi moment to E(X²_t), ale nas interesują wariancja, kowariancja i korelacja. Ponieważ dotyczą one różnych chwil czasowych tego samego procesu będziemy nazywać autokowariancja i autokorelacją.

Funkcję autokowariancji określamy następująco:

γ(t₁,t₂) = Cov(X_t1, X_t2) = E[(X_t1 - (t₁))·(X_t2 - (t₂))]

Funkcję wariancji określamy następująco:

σ²(t) = Var(X_t) = E[ (X_t - (t))² ] = γ(t, t)

Funkcję autokorelacji określamy następująco:

ρ(t₁,t₂) = γ(t₁,t₂) / [γ(t₁,t₁)· γ( t₂,t₂)]^0,5 = Cor(X_t1, X_t2)

Procesy stacjonarne

Wśród częstych założeń dotyczących szeregów czasowych jest założenie o jego stacjonarności. Stacjonarność szeregu czasowego może być rozumiana jako: brak trendu, brak systematycznych zmian w wariancji, bark wahań periodycznych.

Stacjonarność w mocnym sensie.

Proces X nazwiemy mocno stacjonarnym jeśli dla każdego t, t₁, t₁, … , t₁, wspólne rozkłady wielowymiarowe (X_t1, X_t2, … X_tn) oraz (X_{t1 + t}, X_{t2 + t}, … X_{tn + t}) są takie same.

W szczególności wszystkie rozkłady jedno wymiarowe są takie same. A więc i wartość oczekiwana, wariancja i odchylenie standardowe nie zależą od t. Czyli:

(t) =  oraz σ²(t) = σ² .

Dla rozkładów n = 2 rozkład dwuwymiarowy (X_t1, X_{t1 + t2}) i rozkład dwuwymiarowy (X₀, X_t2) są takie same. Tak więc funkcję autokowariancji i autokorelacji możemy określić jako funkcje jednej zmiennej. Dla każdego t₁, t ∈T zachodzi:

Autokowariancja

γ(t) = γ(t₁,t₁+t) = Cov(X_t1, X_t1+t) = E[(X_t1 - )·(X_t1+t - )]

Autokorelacja

ρ(t) = ρ(t₁,t₁+t) = γ(t) / [γ(0)· γ(0)]^0,5 = γ(t) / γ(0)

Stacjonarność w słabym sensie.

Proces X nazwiemy słabo stacjonarnym jeśli wartości oczekiwane E(X_t) są stałe i jeśli funkcja autokorelacji zależy tylko od opóźnienia t, czyli:

E(X_t) =  oraz Cov(X_t1, X_t1+t) = γ(t) .

W dalszej części wykładu przez stacjonarność będziemy rozumieli słabą stacjonarność.

Dla procesów słabo stacjonarnych funkcja autokorelacji zależy tylko od opóźnienia: honorowo

ρ(t) = γ(t) / γ(0) = γ(t) / σ^ 

Uwaga:

ρ(0) = 1

ρ(t) = ρ(-t)

-1 ≤ ρ(0) ≤ 1

Estymacja współczynnika korelacji z próby

Przy pomocy współczynnika korelacji chcemy określić zależność liniową między dwoma zmiennymi X, Y. Przeprowadziliśmy n obserwacji pary zmiennych i uzyskaliśmy wartości: (x₁,y₁), (x₂,y₂), … , (x_n,y_n). Wartość współczynnika korelacji szacujemy następująco:

Estymacja współczynnika autokorelacji z próby

Współczynnik autokorelacji szacujemy z próby analogicznie do tego jak szacujemy współczynnik korelacji. Jako jedną zmienna przyjmujemy X jako drugą zmienna X opóźnione.

Dla opóźnienia t = 1.

Przyjmujemy n-1 obserwacji pary zmiennych: (x₁,x₂), (x₂,x₃), … , (x_n-1,x_n). Wartość współczynnika korelacji r₁ szacujemy następująco:

Gdzie

Dla opóźnienia t = k.

Przyjmujemy n-k obserwacji pary zmiennych: (x₁,x_1+k), (x₂,x_2+k), … , (x_n-k,x_n). Wartość współczynnika r_k korelacji szacujemy następująco:

Gdzie

Jeśli ilość obserwacji n jest duża w stosunku do późnienia k (k<n/4) to jako oszacowanie współczynnika korelacji r_k możemy przyjąć:

Korelogram

Wykres szacowania funkcji autokorelacji czyli wykres wartości r_k jako funkcji opóźnienia k często pomocny jest w interpretacji zależności autokorelacji.

Korelogram możemy utworzyć przy pomocy pakietu Gretl.

Interpretacja korelogramu

1. Szereg czasowy losowy dla dużych k r_k przybiera wartości bliskie zero.

2. Duża korelacja dla małych opóźnień.

3. Szeregi niestacjonarne

4. Fluktuacje sezonowe

Przykłady procesów stochastycznych

1. Proces całkowicie losowy Z_t (biały szum) ; t = 1, 2, 3, …

Z_t ciąg niezależnych zmiennych losowych o takim samym rozkładzie, skończonej wartości oczekiwanej i skończonej wariancji.

(t) = 

ρ(k) = 0 dla k ≠ 0

ρ(k) = 1 dla k = 0

Proces całkowicie losowy jest procesem stacjonarnym.

2. Proces błądzenia losowego X_t ; t = 1, 2, 3, …

X₁ = Z₁

X_t = X_t-1 + Z_t dla t > 0

Gdzie Z_t ; t = 1, 2, 3, … proces całkowicie losowy.

Zachodzi

E(X_t) = t·

Var(X_t) = t·σ²(Z)

To jest przykład procesu który nie jest stacjonarny, jeśli  ≠ 0.

Proces błądzenia losowego często jest używany do modelowania wartości akcji na giełdzie.

Proces błądzenia losowego jest procesem stacjonarnym.

3. Proces średniej ruchomej - MA(m)

Niech Z_t ; t = 1, 2, 3, … proces całkowicie losowy o wartości średniej 0 i wariancji σ² .

X_t =  + ₀Z_t + ₁Z_t-1 + … + _mZ_t-m

Gdzie ₀, ₁, … _m stałe. Często _ = 1.

Zachodzi

E(X_t) =  ; Var(X_t) = σ² (₀ + ₁ + … + _m)

Funkcja kowariancji

γ(k) = Cov(X_t, X_t+k)

γ(k) = Cov(₀Z_t + ₁Z_t-1 + … + _mZ_t-m , ₀Z_t+k + ₁Z_t-1+k + … + _mZ_t-m+k)

Skąd:

γ(k) = 0 dla k > m

γ(k) = σ² (₀·_k + ₁·_1+k + … + _m-k·_m) dla k = 0, 1, … m

γ(k) = γ(-k) dla k < 0 .

Zaś funkcja korelacji

ρ(k) = γ(k) / γ(0)

ρ(k) = 0 dla k > m

ρ(k) = (₀·_k + ₁·_1+k + … + _m-k·_m) / (₀² + ₁² + … + _m²) dla k = 1, … m

ρ(k) = 1 dla k = 0

ρ(k) = γ(-k) dla k < 0 .

Proces średniej ruchomej - MA(m) jest procesem stacjonarnym.

4. MA(1) - proces średniej ruchomej dla m = 1; proces średniej ruchomej pierwszego rzędu.

X_t = Z_t + ·Z_t-1

Funkcja autokorelacji ma postać:

ρ(k) =  / ( + ²) dla k = -1, 1

ρ(k) = 1 dla k = 0

ρ(k) =  dla k pozostałych .

Do opisu opóźnień często używa się operator przesunięcia wstecz B zdefiniowany następująco:

BY_t = Y_t-1 .

Oraz

B^kY_t = Y_t-k .

Równanie definiujące MR(m) możemy przepisać następująco:

X_t =  + (₀B + ₁B² + … + _mB^m)Z_t = (B)Z_t .

Gdzie  jest wielomianem rzędu m nad operatorem B.

Komputerowa analiza szeregów czasowych… KompAnSzerCzasW7.doc

P. Zaremba 1/5 Notatki do wykładu

---