dr M. Chrzanowska
Wykład 3
OPISOWE MODELE EKONOMETRYCZNE
METODY PROGNOZOWANIA Wykład 3
1
dr M. Chrzanowska
Wykład 3
OPISOWE MODELE EKONOMETRYCZNE
METODY PROGNOZOWANIA Wykład 3
1
Wprowadzenie
Z kursu statystyki wiadomo, że jeśli
zmienne losowe X i Y są statystycznie
zależne (są skorelowane), to można
ustalić jakich oczekiwać wartości y
zmiennej Y, gdy zmienna X przyjmie
wartość x i stąd rozważa się
warunkową wartość oczekiwaną
zmiennej Y przy warunku
X = x, czyli lub krótko
.
METODY PROGNOZOWANIA Wykład3
2
)
(
x
X
Y
E
)
( X
Y
E
Wprowadzenie
W szczególności, gdy zmienne X i Y
są statystycznie niezależne,
wówczas warunkowa wartość
oczekiwana jest równa
wartości oczekiwanej E(Y).
Warunkową wartość oczekiwaną
nazywa się regresją zmiennej Y
względem zmiennej X.
METODY PROGNOZOWANIA Wykład3
3
)
(
x
X
Y
E
Wprowadzenie
Regresja to pewna funkcja, która
wartościom przyjmowanym przez
zmienną objaśniającą X w populacji
generalnej, przypisuje oczekiwane
wartości zmiennej objaśnianej Y i
stąd nazywana jest regresją w
populacji generalnej lub regresją
I rodzaju.
METODY PROGNOZOWANIA Wykład3
4
Wprowadzenie
Pełna informacja o populacji generalnej
zwykle nie jest dostępna i w konsekwencji
nie jest znana postać funkcyjna, ani też
wartości parametrów funkcji regresji I
rodzaju. Należy zatem wyciągnąć wnioski o
związkach zachodzących w populacji
generalnej na podstawie zaobserwowanych
zależności między wartościami zmiennych
X i Y w próbie statystycznej pobranej z
populacji generalnej.
METODY PROGNOZOWANIA Wykład3
5
Wprowadzenie
Regresja II rodzaju jest aproksymacją
regresji I rodzaju uzyskaną w oparciu o
dane statystyczne w próbie i stąd
nazywana jest także regresją
empiryczną lub regresją w próbie.
Jeżeli równanie regresji zależy od więcej
niż jednej zmiennej objaśniającej, to
mówi się wówczas o regresji
wielorakiej.
METODY PROGNOZOWANIA Wykład3
6
UWAGA
Empiryczna krzywa regresji, jako przybliżenie
nieznanej krzywej regresji I rodzaju, nie jest
wystarczającym narzędziem dla potrzeb
praktycznych zastosowań, gdyż konieczna jest
wiedza o analitycznej postaci i wartościach
parametrów regresji. Należy zatem
skonstruować tak zwany model regresji, który
wyjaśni w sposób analityczny kształtowanie
się wartości zmiennej losowej Y w zależności
od zmian wartości zmiennej X.
METODY PROGNOZOWANIA Wykład3
7
Wprowadzenie
Klasyczny model regresji liniowej jest
podstawowym modelem regresji, gdzie
zmienna losowa Y ma warunkowy rozkład
z wartością oczekiwaną oraz wariancją
Parametry tego modelu, czyli
współczynniki α, β oraz wariancja σ
2
są
nieznanymi wielkościami odnoszącymi się
do populacji generalnej i podlegają
estymacji na podstawie próby losowej.
METODY PROGNOZOWANIA Wykład3
8
x
x
X
Y
E
)
(
2
2
)
(
X
Y
D
Wprowadzenie
Rozważmy n – elementową próbę losową
,
z populacji dwuwymiarowej, stanowiącą
podstawę estymacji parametrów badanej
zależności, gdzie wartości ( )
zmiennej X są nielosowe. Kształtowanie się
wartości ( ) zmiennej losowej Y
można objaśnić za pomocą zależności:
gdzie są zmiennymi losowymi, dla których
spełnione są założenia:
METODY PROGNOZOWANIA Wykład3
9
)
,
(
1
1
y
x
)
,
(
2
2
y
x
)
,
(
n
n
y
x
n
i
,
,
2
,
1
i
x
i
y
n
i
,
,
2
,
1
i
i
i
x
X
Y
E
y
)
(
Wprowadzenie
METODY PROGNOZOWANIA Wykład3
10
0
)
(
E
i
2
2
2
)
(
E
)
(
D
i
i
j
i
j
i
j
i
dla
0
)
(
E
)
,
(
cov
Tak opisany model klasycznej regresji
liniowej nazywamy
jednorównaniowym liniowym
modelem ekonometrycznym i
opisujemy układem równań:
,
,
,
2
,
1
2
2
1
1
0
n
i
x
x
x
y
i
ik
k
i
i
i
Inny zapis postaci modelu to:
Gdzie:
METODY PROGNOZOWANIA Wykład3
11
,
1
1
1
3
2
2
23
22
1
13
12
nk
n
n
k
k
x
x
x
x
x
x
x
x
x
X
,
2
1
n
y
y
y
y
,
2
1
k
α
.
n
2
1
ε
ε
Xα
y
)
2
(
ZAŁOŻENIA KLASYCZNEJ METODY
NAJMNIEJSZYCH KWADRATÓW
•
postać modelu jest liniowa względem
parametrów (lub sprowadzalna do
liniowej;
•
zmienne objaśniające są wielkościami
nielosowymi;
•
zmienne są niezależne i wolne od
współliniowości (pomiędzy nimi nie
występuje dokładna zależność liniowa);
•
rz(X)=m<n (X – Macierz obserwacji
na zmiennych objaśniających)
METODY PROGNOZOWANIA Wykład3
12
ZAŁOŻENIA KLASYCZNEJ METODY NAJMNIEJSZYCH
KWADRATÓW
•
Składniki losowe dla wszystkich
obserwacji (składowe wektora składników
losowych) mają wartości oczekiwane
równe zero.
•
Składnik losowy dla każdej obserwacji
ma skończoną wariancję równą
natomiast kowariancje między różnymi
składnikami losowymi są równe zero.
•
Składnik losowy nie jest skorelowany
ze zmiennymi objaśniającymi.
METODY PROGNOZOWANIA Wykład3
13
KLASYCZNA METODA NAJMNIEJSZYCH
KWADRATÓW – Estymacja parametrów
modelu
Parametry liniowego modelu
ekonometrycznego szacuje się
wyznaczając minimum S:
W zapisie macierzowym modelu
Ocenę a wektora znajduje się poprzez
minimalizację funkcji:
po zróżniczkowaniu względem wektora a i
po rozwiązaniu równania, funkcja f osiąga
minimum w punkcie , przy
założeniu, że
METODY PROGNOZOWANIA Wykład3
14
n
i
ik
k
i
i
i
n
i
i
x
x
a
x
a
a
y
e
S
1
2
2
2
1
1
0
1
2
min
)
(
)
(
)
(
)
(
T
T
Xa
y
Xa
y
e
e
a
f
y
X
X
X
a
T
1
T
MNK
)
(
0
)
det(
X
X
T
Przykład 1
Ustalono, że zależność popytu na
cukier y
i
[średnia miesięczna w
roku w kg] od dochodu konsumenta
x
1i
[tys. zł. rocznie] oraz ceny 1 kg
cukru x
i2
[w zł.] jest liniowa.
Załóżmy, że dysponujemy próbą
złożoną z n (n=8) obserwacji (dane
umowne) zapisanych w postaci
macierzy X i wektora y
METODY PROGNOZOWANIA Wykład3
15
Przykład 1
Gdy w modelu liniowym ilość
parametrów strukturalnych k =3, to
macierze X
T
X i X
T
y są odpowiednio
postaci:
METODY PROGNOZOWANIA Wykład3
16
,
2
,
1
13
1
4
,
1
12
1
2
,
1
11
1
4
,
1
10
1
4
,
1
9
1
0
,
1
8
1
0
,
1
7
1
2
,
1
6
1
X
.
3
,
4
8
,
3
0
,
4
1
,
3
1
,
3
7
2
6
2
3
2
,
,
,
y
Przykład 1
Uwzględniając dane liczbowe
otrzymujemy:
METODY PROGNOZOWANIA Wykład3
17
n
i
i
n
i
i
i
n
i
i
n
i
i
i
n
i
i
n
i
i
n
i
i
n
i
i
x
x
x
x
x
x
x
x
x
x
n
1
2
3
1
3
2
1
3
1
3
2
1
2
2
1
2
1
3
1
2
T
X
X
n
i
i
i
n
i
i
i
n
i
i
x
y
x
y
y
1
3
1
2
1
T
y
X
2
,
12
4
,
94
8
,
9
4
,
94
0
,
764
0
,
76
8
,
9
0
,
76
0
,
8
T
X
X
02
,
32
00
,
258
90
,
25
T
y
X
Przykład 1
Obliczamy wyznacznik det(X
T
X)=52
i wyznaczamy macierz odwrotną
(X
T
X)
-1
,
Korzystając ze wzoru
mamy:
METODY PROGNOZOWANIA Wykład3
18
00
,
336
40
,
10
80
,
312
40
,
10
56
,
1
08
.
2
80
,
312
08
,
2
44
,
409
52
1
1
T
X
X
y
X
X
X
a
T
1
T
MNK
50
,
0
30
,
0
00
,
1
a
Przykład 1
Oszacowany model jest postaci:
METODY PROGNOZOWANIA Wykład3
19
2
1
50
,
0
30
,
0
00
,
1
ˆ
i
i
i
x
x
y
Weryfikacja wyników
estymacji modelu
ekonometrycznego
METODY PROGNOZOWANIA Wykład3
20
Weryfikacja merytoryczna
modelu
Weryfikacja merytoryczna
oszacowanego modelu obejmuje:
•
badanie zgodności znaków ocen
parametrów z wiedzą ekonomiczną o
badanym zjawisku,
•
interpretację ocen parametrów
modelu i ich analizę.
METODY PROGNOZOWANIA Wykład3
21
Weryfikacja merytoryczna
modelu
Jeśli analiza ekonometryczna dotyczy zjawiska, na
temat którego teoria nie dostarcza wiedzy, wówczas
weryfikację merytoryczną należy oprzeć na
obliczaniu i interpretacji współczynników korelacji
zmiennych w modelu.
Niech r
j
będzie współczynnikiem korelacji pomiędzy
zmienną objaśnianą y i zmienną objaśniającą X
j
(j=2,...,k).
Mówimy, że model jest koincydentny, jeżeli dla
każdej zmiennej objaśniającej X
j
modelu spełniony
jest warunek
sgn r
j
= sgn , j=2,...,k.
Model jest pozytywnie zweryfikowany pod względem
merytorycznym, gdy jest modelem koincydentnym
METODY PROGNOZOWANIA Wykład3
22
Weryfikacja merytoryczna
modelu
Po oszacowaniu parametrów model przyjmuje
postać:
Gdzie: wartości teoretyczne zmiennej objaśnianej
Y
•
Wartość oceny a
i
informuje o ile jednostek zmieni
się zmienne Y ,jeśli zmienna X
i
wzrośnie o jednostkę,
przy założeniu ,że wartości pozostałych zmiennych
się nie zmienią (założenie ceteris paribus).
•
Ocenę a
0
można interpretować jako wartość
zmiennej y gdy wszystkie zmienne X
j
(j=2,...,k)
jednocześnie przyjmą wartość równą zero, o ile taka
interpretacja ma sens ekonomiczny
METODY PROGNOZOWANIA Wykład3
23
ik
k
i
i
i
x
a
x
a
x
a
a
y
2
2
1
1
0
i
y
Przykład 1 cd
Interpretacja ocen parametrów.
Jeżeli dochód konsumenta wzrośnie o 1
jednostkę (o 1 tys. zł.), a cena cukru
będzie stała, to przewiduje się, że średni
miesięczny popyt w roku na cukier
wzrośnie o 0,30 kg.
Jeśli cena cukru wzrośnie o 1 zł., przy
stałych dochodach konsumenta, to średni
miesięczny popyt w roku na cukier
zmaleje o 0,50 kg.
METODY PROGNOZOWANIA Wykład3
24
2
1
50
,
0
30
,
0
00
,
1
ˆ
i
i
i
x
x
y
Weryfikacja merytoryczna
uwagi
•
Merytoryczna interpretacja ocen
parametrów strukturalnych modelu, które
są efektem estymacji, jest ściśle związana z
wykorzystaniem modelu do analiz
ekonomicznych i budowania prognoz. Stąd
ekonomiczną interpretację efektów
modelowania można podjąć tylko w
przypadku, gdy model pozytywnie przejdzie
wszechstronną weryfikację.
•
Oceny parametrów strukturalnych w
modelach linearyzowanych interpretuje się
zależnie od postaci modelu
METODY PROGNOZOWANIA Wykład3
25
Weryfikacja statystyczna parametrów
strukturalnych modelu
W ramach tej weryfikacji
przeprowadza się
•
analizę reszt modelu i
•
analizę błędów ocen
parametrów.
METODY PROGNOZOWANIA Wykład3
26
Analiza reszt modelu
•
Wariancja resztowa
Gdzie: n-liczba obserwacji, k-liczba
szacowanych parametrów w modelu
UWAGA
wariancja jest miara pomocniczą i
nie ma intepretacji
METODY PROGNOZOWANIA Wykład3
27
k
n
y
y
k
n
n
i
i
i
1
2
T
2
e
ˆ
S
e
e
Analiza reszt modelu
•
odchylenie standardowe reszt (średni
(standardowym) błąd szacunku modelu)
•
INTERPRETACJA:
przeciętnie biorąc wartości empiryczne
zmiennej objaśnianej y różnią się od
wartości teoretycznych tej zmiennej o
S
e
jednostek.
METODY PROGNOZOWANIA Wykład3
28
2
e
e
s
s
Uwaga
Średni błąd szacunku modelu S
e
,
jako wielkość mianowana, nie może
być stosowany do porównań dobroci
dopasowania do danych
empirycznych różnych równań.
METODY PROGNOZOWANIA Wykład3
29
Analiza reszt modelu
Współczynnik determinacji R
2
Współczynnik determinacji R
2
jest
wielkością niemianowaną i przyjmuje
wartości z przedziału <0,1>.
Dopasowanie modelu do danych
empirycznych jest tym lepsze, im
wartość R
2
jest bliższa jedności.
METODY PROGNOZOWANIA Wykład3
30
n
i
i
n
i
i
y
y
y
y
1
2
1
2
2
ˆ
R
Uwaga
Interpretacja współczynnika determinacji w
kontekście pojęć zmienności objaśnionej
i nieobjaśnionej ma sens tylko wtedy, gdy:
•
rzeczywista relacja miedzy zmienną
objaśnianą i zmiennymi objaśniającymi jest
liniowa,
•
do estymacji parametrów zastosowano
metodę najmniejszych kwadratów,
•
model ma wyraz wolny.
METODY PROGNOZOWANIA Wykład3
31
Analiza reszt
•
skorygowany współczynnik determinacji
Współczynnik ten służy do oceny, czy
wprowadzenie do modelu nowej zmiennej
poprawia stopień objaśnienia zmiennej y.
Porównując dwa modele, jako lepszy wybiera
się ten, dla którego skorygowany współczynnik
determinacji jest bliższy jedności.
METODY PROGNOZOWANIA Wykład3
32
k
n
n
n
y
y
k
n
e
n
i
i
n
i
i
1
R
1
1
1
1
R
2
1
2
1
2
2
k
s
Analiza błędów ocen
parametrów
Macierz wariancji i kowariancji ocen
parametrów modelu szacuje się na podstawie
wzoru:
W macierzy tej na głównej przekątnej znajdują
się wariancje ocen parametrów
Wielkości
Są standardowymi błędami szacunku
parametrów.
s(a
j
) informuje , o ile jednostek wartość oceny a
j
różni się od rzeczywistej wartości parametru
j
METODY PROGNOZOWANIA Wykład3
33
1
T
2
e
MNK
2
)
(
S
)
(
S
X
X
a
)
(
j
a
V
)
(
j
j
a
V
a
s
Przykład 2
Przykład 2
Przeprowadzić analizę reszt i analizę
błędów ocen parametrów modelu
oszacowanego w Przykładzie 1.
Analiza reszt modelu
Wyznaczamy wariancję resztową . W
tym celu, wykorzystując dane
statystyczne obliczamy
METODY PROGNOZOWANIA Wykład3
34
2
1
50
,
0
30
,
0
00
,
1
ˆ
i
i
i
x
x
y
2
S
e
8
1
2
T
49
,
87
i
i
y
y
y
Przykład 2
Oraz
wariancja resztowa jest równa:
METODY PROGNOZOWANIA Wykład3
35
29
,
87
02
,
32
00
.
258
90
.
25
50
,
0
30
,
0
00
,
1
T
T
y
X
a
20
,
0
29
,
87
49
,
87
T
T
T
T
y
X
a
y
y
e
e
04
,
0
3
8
20
,
0
k
-
n
S
T
2
e
e
e
Przykład 2
Średni błąd szacunku modelu przyjmuje
wartość:
INTERPRETACJA
Wartości empiryczne zmiennej y
[średniego miesięcznego popytu na cukier
w roku] różnią się od wartości
teoretycznych tej zmiennej o 0,2 kg .
METODY PROGNOZOWANIA Wykład3
36
2
,
0
04
,
0
S
S
2
e
e
Przykład 2
współczynnik determinacji R
2:
ponieważ zatem
stąd
Model objaśnia 94,5% danych
empirycznych
METODY PROGNOZOWANIA Wykład3
37
n
i
i
n
i
i
y
n
y
e
1
2
2
1
2
2
)
(
1
R
n
y
y
n
i
i
1
2375
,
3
8
90
,
25
y
945
,
0
6387
,
3
20
,
0
1
)
2375
,
3
(
8
49
,
87
20
,
0
1
R
2
2
Przykład 2
Macierz wariancji i kowariancji jest
postaci:
Stąd średnie błędy szacunku
parametrów modelu są
odpowiednio równe:
METODY PROGNOZOWANIA Wykład3
38
00
,
336
40
,
10
80
,
312
40
,
10
56
,
1
08
,
2
80
,
312
08
,
2
44
,
409
52
1
04
,
0
)
(
S
MNK
2
a
56
,
0
52
44
,
409
04
,
0
)
S(
0
a
03
,
0
52
56
,
1
04
,
0
)
S(
1
a
51
,
0
52
00
,
336
04
,
0
)
S(
2
a
Przedziały ufności dla szacowanych
parametrów – estymacja
przedziałowa
dla ustalonego współczynnika 1 – α i
liczby t
α,,n-k
odczytanej z tablic
rozkładu t-Studenta. Przedział
nazywa się przedziałem ufności,
zaś prawdopodobieństwo 1-α
poziomem ufności
(współczynnikiem ufności).
METODY PROGNOZOWANIA Wykład3
39
)
S(
),
S(
,
,
j
k
n
j
j
k
n
j
a
t
a
a
t
a
Przykład 3
Dla modelu postaci:
Wyznaczyć przedział ufności dla
parametrów modelu.
Odczytujemy z tablic rozkładu t
-Studenta liczbę t
α,, n-k
dla α = 0,05 i
n - k = 8-3=5 stopni swobody t
0,05,
5
=2,571 .
METODY PROGNOZOWANIA Wykład3
40
)
51
,
0
(
)
03
,
0
(
)
56
,
0
(
)
S(
50
,
0
30
,
0
00
,
1
ˆ
3
2
j
i
i
i
a
x
x
y
Przykład 3
Dla parametrów α
1
,α
2
, α
3
modelu otrzymujemy
Z 95% ufnością możemy na podstawie próby twierdzić,
że:
przedział (-0,43976; 2,43976) zawiera wartość
parametru α
1,
przedział (0,22287; 0,37713) zawiera wartość
parametru α
2
,
natomiast przedział (-1,81121; 0,81121) zawiera
wartość parametru α
3
.
METODY PROGNOZOWANIA Wykład3
41
56
,
0
571
,
2
00
,
1
56
,
0
571
.
2
00
,
1
1
03
,
0
571
,
2
30
,
0
03
,
0
571
,
2
30
,
0
2
51
,
0
571
,
2
50
,
0
51
,
0
571
,
2
50
,
0
3
Istotność zmiennych
objaśniających
W estymowanym liniowym modelu
ekonometrycznym występują zmienne
objaśniające X
j
(j=2,3,...,k), których
wpływ na zmienną objaśnianą y może
być statystycznie istotny, bądź nieistotny.
Klasyczny model regresji liniowej pozwala
na weryfikowanie hipotez o istotności
związków zachodzących pomiędzy
zmiennymi za pomocą testu istotności.
METODY PROGNOZOWANIA Wykład3
42
Istotność zmiennych
objaśniających
Zmienna X
j
jest istotną zmienną
objaśniającą wtedy, gdy zmiany
wartości x
ij
tej zmiennej istotnie
wpływają na zmiany wartości
zmiennej objaśnianej y. tj wtedy,
gdy .
METODY PROGNOZOWANIA Wykład3
43
0
j
Test t-studenta
Weryfikujemy hipotezy:
Ustalamy poziom istotności
Sprawdzianem hipotezy H
0
jest statystyka
która ma rozkład t –Studenta o n - k stopniach
swobody,
Z tablic rozkładu t –Studenta odczytujemy
(dla przyjętego poziomu istotności α i n – k
stopni swobody) wartość krytyczną t
kryt
= t
α, n-k
,
która wyznacza granice obszaru Z
kryt
, zwanego
zbiorem krytycznym lub obszarem odrzucenia
METODY PROGNOZOWANIA Wykład3
44
0
:
H
0
:
H
1
0
j
j
)
S(
a
)
t(
j
j
j
a
a
Test t-studenta
Obszar krytyczny ma postać
Jeżeli , to odrzucamy hipotezę H
0
,
na poziomie istotności α , na rzecz hipotezy
H
1
; parametr α
j
różni się od zera w sposób
statystycznie istotny; zmienna X
j
jest
istotna.
Jeżeli , to nie ma podstaw do
odrzucenia hipotezy H
0
; nie można
stwierdzić, że parametr α
j
jest statystycznie
istotnie różny od zera; zmienna X
j
jest
nieistotna.
METODY PROGNOZOWANIA Wykład3
45
,
,
Z
kryt
kryt
kryt
t
t
kryt
Z
t
j
a
kryt
Z
t
j
a
Test F
Często weryfikuje się także hipotezę
dotyczącą istotności wszystkich
zmiennych objaśniających w modelu (1).
Wówczas hipoteza H
0
jest bardziej
złożona. Zakłada się, że żadna ze
zmiennych objaśniających nie wywiera
istotnego wpływu na zmienną objaśniającą
y, natomiast hipoteza alternatywna H
1
głosi, że co najmniej jedna zmienna X
j
(j=2,3,...,k) jest istotna.
METODY PROGNOZOWANIA Wykład3
46
Test F
Zatem:
Sprawdzianem hipotezy H
0
jest
statystyka
METODY PROGNOZOWANIA Wykład3
47
0
...
0
0
:
H
3
2
O
k
0
...
0
0
:
H
3
2
1
k
)
R
1
)(
1
(
R
)
(
F
2
2
k
k
n
Test F
Statystykę testową odczytujemy z rozkładu
Fishera – Snedecora ( rozkład F) o stopniach
swobody r
1
=k-1 i r
=n-k.
n-liczba obserwacji, k-liczba szacowanych
parametrów
Zbiór krytyczny Z
kryt
jest prawostronny, czyli
jest zbiorem postaci , gdzie jest wartością
krytyczną odczytaną z tablic rozkładu F dla
ustalonego α i ilości stopni swobody r
1
, r
.
METODY PROGNOZOWANIA Wykład3
48
Test F
•
Jeżeli wartość statystyki F danej wzorem
należy do zbioru Z
kryt
, to odrzucamy hipotezę
H
0
na poziomie istotności α na korzyść
hipotezy alternatywnej H
1
i stwierdzamy, co
najmniej jeden z parametrów modelu istotnie
różni się od zera.
•
Gdy wartość statystyki F nie należy do
zbioru Z
kryt
, to nie ma podstaw do odrzucenia
hipotezy H
0
mówiącej, że wszystkie
parametry α
j
(j=2,3,...,k) modelu są równe
zeru.
METODY PROGNOZOWANIA Wykład3
49