I. Zapis modelu:
y = β + β x + β x + ... + β x + ε dla i = 1, 2,..., n i
1
2
2 i
3 3 i
k
ki
i
y
1
x
x
x
β
ε
1
21
31
k 1
1
1
y
1
x
x
x
β
ε
2
22
32
k 2
2
2
y = , X =
, β = ,ε =
y
1
x
x
x
β
ε
n
2 n
3 n
kn
k
n
Zapis macierzowy modelu:
y = X β + ε
n
n
n
n
∑ x
∑ x
∑ y
2 i
ki
1
i
i=
i 1
=
i 1
=
n
n
n
n
∑ x y
2
2
1
i
i
i =
∑ x
∑ x
∑ x x
2 i
2 i
2 i
ki
Macierz X’X jest symetryczna, a gdy w modelu jest stała, to : X ' X
=
, X '
n
y =
k × k
i 1
=
i 1
=
i 1
=
∑ x y
3 i
i
i 1
=
n
n
n
2
∑ x ∑ x x ∑ x
n
∑
ki
2 i
ki
ki
x y
1
ki
i
i=
i 1
=
i 1
=
i 1
=
Macierz (X’X)-1 również jest symetryczna.
II. Estymator MNK, wartości teoretyczne i empiryczne, reszty
y
b
1
1
y
b
2
2
−1
b =
= ( X X
′ ) X y′
y =
- wartości empiryczne (zaobserwowane) zmiennej zależnej
b
k
y
n
ˆ y
e
1
1
ˆ y
e
2
2
y = - wartości teoretyczne (wynikające z modelu) e = - reszty
ˆ y
e
n
n
Zachodzą następujące zależności:
ˆ y = b + b x + b x + ... + b x i
1
2
2 i
3 3 i
k
ki
y = ˆ y + e
i
i
i
reszty: e = y − ˆ
y
i
i
i
dla i = 1, 2,..., n
1
1
1 e
0
1
n
x
x
x
e
0
21
22
2 n
2
∑ e = 0, X e
′ =
=
i
i 1
=
x
x
x e
0
k 1
k 2
kn
n
III. Własności MNK
n
1. X′e = 0 , 2. l′e = ∑ e = 0 , 3. y = ˆ y , 4. y = b + b x + b x , 5. y′e = b′X′e = 0
i
1
2
2
K
K
i =1
1
IV. Współczynnik determinacji R2, skorygowany R
n
2
TSS = ∑ ( y − y) - całkowita zmienność zmiennej objaśnianej i
i 1
=
n
2
ESS = ∑ ( ˆ y − y ) - wyjaśniona suma kwadratów (zmienność y wyjaśniona modelem) i
i 1
=
n
2
RSS = ∑ e - resztowa suma kwadratów (zmienność y nie wyjaśniona modelem) i
i 1
=
2
TSS = ESS + RSS,
ESS
R =
= 1 RSS
−
2
RSS /( n− k )
2
n 1
R = 1−
= 1− (1− R ) −
TSS
TSS
TSS /( n 1
− )
n− k
V. Estymator wariancji zaburzenia losowego
n
2
∑ ie
2
i 1
ˆ
σ
=
= n− K
Zadania do zajęć nr 2.
1.
Na podstawie danych:
y
x
2
4
1
4
4
2
7
4
1
1
Gdzie:
y – wydatki konsumpcyjne (PLN)
x – dochód (PLN)
∧
a. Oszacuj model wydatków: y = b + b x za pomocą MNK
i
1
2 i
b. Zapisz oszacowany model oraz go zinterpretuj. Czy wynik ma sens ekonomiczny?
c. Oblicz wartości teoretyczne, reszty oraz 2
R modelu. Zinterpretuj 2
R .
d. Sprawdź własności MNK.
∧
2.
Metodą najmniejszych kwadratów oszacowano następujący model: y = −2,5 +13, 5 x i
i
Oblicz x oraz y jeśli wiadomo, że:
12
'
X X =
−36 120
3.
Na podstawie danych:
y
x2
x3
0
1
3
1
0
3
1
0
2
0
-1
1
2
-2
1
3
-3
0
Gdzie:
y – ilość wypijanych dziennie filiżanek herbaty (szt.) x2 – temperatura powietrza (w oC )
2
x3 – ilość godzin spędzanych przed telewizorem (godz.) a. Oszacować model:
y = b + b x + b x za pomocą MNK..
i
1
2
2 i
3 3 i
b. Zapisać oszacowany model i go zinterpretować.
c. Obliczyć oraz zinterpretować 2
R .
d. Sprawdzić własności MNK.
4.
Ten sam model ekonometryczny szacowano różnymi metodami, między innymi metodą najmniejszych kwadratów. Dla każdej metody obliczono wektor reszt. Który z nich jest wektorem reszt dla MNK?
'
e =
2
−
3
4
2
−
0
2
−
, '
e =
1
−
2
3
2
−
0
2
−
, '
e = 3 3 0
0
4
−
2
−
3
[
]
2
[
]
1
[
]
5.
Dla 10 obserwacji oszacowano 2 modele. Oto wyniki oszacowań:
∧
a. y = 3 − 2,5 x + 3 x oraz 2
R = 0,92
i
2 i
3 i
∧
b. y = 1−1,5 x oraz 2
R = 0,9
i
i
Który z tych modeli jest lepiej dopasowany do danych empirycznych?
6.
Po oszacowaniu MNK modelu, w którym regresant przyjmował następujące wartości: 2; 1; 4; 7; 1 obliczono wektor reszt modelu:
e '
1,5
2,5
3,5
1
= −
−
−
Oblicz 2
R tego modelu, zakładając, że występowała w nim stała.
7.
Metodą najmniejszych kwadratów szacowano model:
y = b + b x + b x + b x i otrzymano: i
1
2
2 i
3 3 i
4
4 i
1
−
-1
5
1
'
1
( X X )
=
2
-1
3
0
-2
3
20
20
20
Dodatkowo wiadomo, że: n=20, y = 2 , ∑ x y = 11, ∑ x y = 65 , ∑ x y = −7
2 i
i
3 i
i
4 i
i
i 1
=
i 1
=
i 1
=
Oszacuj parametry modelu, zapisz model oraz go zinterpretuj.
∧
8.
Szacowano następujący model: y = b + b x i
1
2 i
Po obliczeniu ocen parametrów za pomocą MNK oraz po wyznaczeniu wartości teoretycznych okazało się, że wektor reszt wygląda w następujący sposób:
'
e = [−1 2 3
2
−
1 − ]
3
Wiedząc, że macierz obserwacji zmiennych objaśniających wyglądała tak:
2
3
−1
X =
0
0, 5
Oblicz x .
3
Mamy następujące dane: e′ = [1 0 e
−1 e , x′ = [1 0 1
1
−
0]. Ponadto wiadomo, iż wektor reszt
3
5 ]
został otrzymany z estymacji modelu metodą najmniejszych kwadratów. Proszę wyznaczyć nieznane elementy wektora reszt.
10.
Równanie regresji oszacowane Metodą Najmniejszych Kwadratów na próbie liczącej 21 obserwacji ma 21
21
następującą postać: ˆ y = 2 +1.5 x + 3 x − 4 x . Ponadto wiadomo, że: 2
2
∑ e =17,∑( y − y) =100.
i
1 i
2 i
3 i
i
i
i 1
=
i 1
=
a) Proszę policzyć współczynnik determinacji (R2) i dokonać interpretacji jego wartości.
b) Proszę policzyć skorygowany współczynnik determinacji ( 2
R ).
4