Metoda Najmniejszych Kwadratów MNK to metoda estymacji, która bazuje na operacjach macierzowych.

Przypomnijmy:

Załóżmy, że chcemy estymować liniowy model postaci: y = β x + β x + β x + ... + β x + ε dla i = 1, 2,..., N

i

1 1 i

2

2 i

3 3 i

K

Ki

i

y – zmienna objaśniana (zależna, endogeniczna, regresant) x ,..., x – zmienne objaśniające (niezależne, egzogeniczne, regresory) 1

K

β ,..., β – parametry modelu 1

K

ε – błąd losowy (składnik losowy, zaburzenie losowe) Definicja odpowiednich macierzy dla modelu ze stałą (zakładamy, że x stałą, równą 1 dla 1

każdej obserwacji):

 y 

1



x

x

x



 β 

 ε 

1

21

31

K 1

1

1

















y

1

x

x

x

β

ε

2

22

32

K 2









 2

2







Y =  

, X = 



, β =  

,ε =  

















 





 

 

 y 

1

 x

x

x







β 





ε









N

2 N

3

N 1

N

KN

K

×

N × K

K 1

N

×

N 1

×

Zapis macierzowy modelu:

Y = X β + ε

Oszacowany model będzie postaci: y = b + b x + b x + ... + b x + e dla i = 1, 2,..., N

i

1

2

2 i

3 3 i

K

Ki

i

Zaś jego wartości dopasowane to: ˆ y = b + b x + b x + ... + b x dla i = 1, 2,..., N

i

1

2

2 i

3 3 i

K

Ki

a reszty:

e = y − ˆ y i

i

i

b jest estymatorem nieznanego parametru β , zaś ogólna postać estymatora MNK to: i

i

 b 

1





b

 2 

−1

b =

= ( X X

′ ) X Y

′









 b 

K

Estymatorem wariancji błędu losowego (estymatorem 2

σ ) jest:

N

2

∑ e

2

e ' e

1 i

i

σ

=

=

=

N − K

N − K

Zaś estymatorem macierzy wariancji-kowariancji estymatora MNK jest:

2

1

s ( X ' X )−

Σ =

Aby przetestować istotność poszczególnych zmiennych w modelu, przeprowadzaliśmy następujące wnioskowanie:

Rozszerzając standardowe założenia KMRL o 2

ε ∼ N ( ,

0 σ I) , obliczaliśmy tzw. statystyki t: 0

b − β

i

i

t =

~ t

, gdzie se( b ) =

Σ

.

i

[ ]

α 2;

se( b )

N − K

ii

i

Dla hipotez postaci: H : β = 0 oraz H : β ≠ 0 , oznaczających odpowiednio, że zmienna, 0

i

1

i

przy której β stoi jest w modelu nieistotna i istotna, statystyka t przyjmuje postać: i

b − 0

b

i

i

t =

=

~ t

α 2; N − K

se( b )

se( b )

i

i

Korzystając z tzw. „reguły kciuka” – jak t ≤ 2 to nie mieliśmy podstaw do odrzucenia hipotezy zerowej (zmienna, przy której stoi β jest w modelu nieistotna), zaś gdy t > 2 , to i

odrzucaliśmy tę hipotezę i przyjmowaliśmy alternatywną (zmienna, przy której stoi β jest w i

modelu istotna).

ZADANIE1

Korzystając z bazy ‘9_3’ (Maddala): 1. Oszacuj (za pomocą ręcznych operacji macierzowych) model: Q = β + β R + β RS + β y + ε

t

0

1

t

2

t

3

t

t

2. Wyznacz wartości teoretyczne (dopasowane) modelu oraz jego reszty.

3. Oblicz statystyki t, testujące istotność poszczególnych zmiennych w modelu. Które zmienne są w modelu istotne?