4 estymacja parametrów jednorównaniowego liniowego modelu ekonometrycznego

Wykład 4
Estymacja parametrów jednorównaniowego liniowego modelu ekonometrycznego
Istota metod estymacji parametrów strukturalnych modeli ekonometrycznych polega na tym,
aby znalezć oceny parametrów, przy których model jest mo\liwie dobrze dopasowany do danych
empirycznych. Wybór metody estymacji zale\y od klasy modelu, przede wszystkim od powiązań
pomiędzy zmiennymi endogenicznymi nieopóznionymi w czasie oraz od właściwości składników
losowych modelu. W estymacji parametrów modeli jednorównaniowych oraz wielorównaniowych
prostych i rekurencyjnych najczęściej stosowana jest metoda najmniejszych kwadratów. Idea tej
metody wykorzystywana jest w podwójnej metodzie najmniejszych kwadratów, a tak\e w iteracyjnych
procedurach szacowania parametrów modeli nieliniowych1. Nale\ałoby jeszcze wspomnieć,
\e metoda najmniejszych kwadratów jest najstarszą z metod estymacji parametrów modeli, została
zaproponowana ponad 200 lat temu przez Lagrange a i Gaussa do określenia orbit planet
na podstawie danych astronomicznych2.
4.1. Klasyczny model liniowy, właściwości estymatora uzyskanego metodą
najmniejszych kwadratów
Przedmiotem naszych rozwa\ań jest klasyczny model liniowy, którego definicja opiera się
na tzw. warunkach stosowania metody najmniejszych kwadratów. Dana jest próba n obserwacji
na zmiennej objaśnianej i zmiennych objaśniających:
y1 x11 x12 ... x1k
�ł łł
�ły x21 x22 ... x2k śł
2
�ł śł
[Y X]= (4.1)
�ł śł
... ... ... ... ...
�ły xn1 xn2 ... xnk śł
�ł n �ł
Xk a"1
Warunek 1
W klasycznym modelu liniowym t - ta realizacja zmiennej objaśnianej yt jest liniową funkcją
zmiennych objaśniających xt1,xt 2 ,...xtk oraz realizacji składnika losowego �t . Próba n obserwacji
generowana według tego modelu spełnia układ równań:
yt = ą1xt1 +ą2xt 2 +ą3xt3 + ...ąk xtk + �t t =1,2,..n
(4.2)
1
Z. Pawłowski, Ekonometria, Warszawa 1972, s.74
2
D. Strahl D., E. Sobczak i inni, Modelowanie ekonometryczne z EXCELEM, Wyd. AE Wrocław 2002
dr Duaan Bogdanov 1
Ekonometria 1
co mo\na rozpisać:
y1 = ą1x11 +ą2x12 +ą3x13 + ...ąk x1k + �1
y2 = ą1x21 +ą2x22 +ą3x23 + ...ąk x2k + �2
(4.3)
& & & & & & & & & & & & & & & & & & &
yn = ą1xn1 +ą2xn2 +ą3xn3 + ...ąk xnk + �n
i zapisać w postaci macierzowej:
y1 x11 x12 ... x1k
�ł łł �ł łł �łą1 �1
łł �ł łł
�ły śł �łx x22 ... x2k śł �łą śł �ł� śł
2 21 2 2
�ł śł �ł śł �ł śł �ł śł
= �" + (4.4)
�ł śł �ł śł �ł śł �ł śł
... ... ... ... ... ... ...
�ły śł �łx xn2 ... xnk śł �łą śł �ł� śł
�ł n �ł �ł n1 �ł �ł k �ł �ł n �ł
albo bardziej zwartej
Y = Xą + � (4.5)
Warunek 2
Zmienne objaśniające X ( j = 1,2,..k) są nielosowe.
j
Warunek 3
Zmienne objaśniające X ( j = 1,2,..k) są liniowo niezale\ne, to znaczy, \e macierz X ma pełen
j
rząd kolumnowy.
Warunek 4
Składniki losowe �t (t = 1,2,...n) są niezale\nymi zmiennymi losowymi o wartości oczekiwanej 0
2
i stałej wariancji (dla wszystkich realizacji zmiennej objaśnianej) � .
Wynika stąd, \e macierz wariancji i kowariancji wektora losowego ma postać:
2 2
�ł łł �ł łł
E�1 E�1�2 ... E�1�n � 0 ... 0
�łE� �1 E�2 ... E�2�n śł �ł śł
2 2
0 � ... 0
T 2 2
�ł śł �ł śł
cov� = E(�� )= = = � In (4.6)
�ł śł �ł śł
... ... ... ... ... ... ...
�ł śł �ł śł
2 2
�1 E�n�2 ... E�n �ł �ł 0 0 ... �
�ł śł �ł śł
�łE�n �ł
dr Duaan Bogdanov 2
Ekonometria 1
Estymacja parametrów strukturalnych modelu metodą najmniejszych kwadratów polega
na znalezieniu takich ich ocen, dla których suma kwadratów odchyleń zaobserwowanych wartości
zmiennej objaśnianej yt od wartości oszacowanej funkcji wt = a1xt1 + a2xt 2 + ...+ ak xtk jest
minimalna. Ró\nice et = yt - wt nazywamy resztami, a więc nale\y wyznaczyć minimum kwadratów
reszt:
n
2
S(a1,a2 ,...ak )= - a1xt1 - a2xt 2 - ...- ak xtk ) min
"(yt
t=1
n
"S
= �"(yt - a1xt1 - a2xt 2 - ...- ak xtk )�"(- xt1)
"2
"a1 t=1
n
(4.7)
"S
= - a1xt1 - a2xt 2 - ...- ak xtk )�"(- xt 2)
"2�"(yt
"a2 t=1
& & & & & & & & & & & & & & & & & & & & & & &
n
"S
= �"(yt - a1xt1 - a2xt 2 - ...- ak xtk )�"(- xtk )
"2
"ak t=1
Po wykonaniu działań otrzymujemy układ równań normalnych
n n n n
a1 2 +a2 xt 2 + ...+ ak xt1xtk = yt xt1
"xt1 "xt1 " "
t=1 t=1 t=1 t=1
n n n n
a1 xt 2 +a2 22 + ...+ ak 2xtk = yt xt 2
"xt1 "xt "xt "
(4.8)
t=1 t=1 t=1 t=1
& & & & & & & & & & & & & & & & & & & & & &
n n n n
2
a1 xt1xtk +a2 xt 2xtk + ...+ ak xtk = yt xtk
" " " "
t=1 t=1 t=1 t=1
Rozwiązując powy\szy układ równań otrzymujemy oceny parametrów.
Rozwa\my rozwiązanie układu dla funkcji jednej zmiennej, to znaczy dla modelu y = ą1x +ą2 .
Otrzymujemy układ dwóch równań z dwiema niewiadomymi:
n n n
a1 2 +a2 xt = yt xt
"xt " "
t=1 t=1 t=1
(4.9)
n n
a1 xt +a2 �" n = yt
" "
t=1 t=1
dr Duaan Bogdanov 3
Ekonometria 1
Rozwiązując ten układ wzorami Cramera otrzymujemy:
n n n
n yt - xt yt
"xt " "
t=1 t=1 t=1
a1 =
2
n n
�ł �ł
2 (4.10)
n - �ł �ł
"xt "xt
t=1 �ł t=1 łł
a2 = y - a1x
Z drugiego równania widać, \e linia wyznaczona metodą najmniejszych kwadratów przechodzi
przez wartości średnie zmiennych.
Rozwiązanie układu równań normalnych w przypadku funkcji wielu zmiennych jest bardziej
ucią\liwe. Wygodnie jest zapisać rozwiązanie w postaci macierzowej. Zacznijmy od zapisania układu
w postaci macierzowej:
n n n n
�ł łł �ł łł
2
x2 ... xk śł yt x1
"x1 "x1 "x1 "
�ł
a1 �ł t=1 śł
�ł łł
t=1 t=1 t=1
�ł śł �ł śł
n n n n
�ła śł
2
�ł
2
x1 ... xk śł �" �ł śł = �ł yt x2 śł
"x2 "x2 "x2 "
(4.11)
�ł śł �ł śł
t=1 t=1 t=1 t=1
�ł śł
...
�ł śł �ł śł
... ... ... ... ....
�ła śł
n n n n
�ł śł �ł śł
�ł k �ł
2
�ł x1 x2 ... śł �ł yt xk śł
"xk "xk "xk "
�ł śł �ł śł
�ł t=1 t=1 t=1 �ł �ł t=1 �ł
T
Wyliczmy X X
n n n
�ł łł
2
x2 ... xk śł
"x1 "x1 "x1
x11 x21 ... xn1 x11 x12 ... x1k �ł t=1 t=1
�ł łł �ł łł
t=1
�ł śł
n n n
�łx x22 ... xn2 śł �łx x22 ... x2k śł
2
�ł
12 21 x1 ... xk śł (4.12)
�ł śł �ł śł "x2 "x2 "x2
�" =
�ł śł
t=1 t=1 t=1
�ł śł �ł śł
... ... ... ... ... ... ... ...
�ł śł
... ... ... ...
�łx x1k ... xnk śł �łx xn2 ... xnk śł
n n n
�ł śł
�ł 1k �ł �ł n1 �ł
2
�ł x1 x2 ... śł
"xk "xk "xk
�ł śł
�ł t=1 t=1 t=1 �ł
T
A następnie obliczmy X Y
n
�ł łł
yt x1
"
x11 x21 ... xn1 y1 �ł t=1 śł
�ł łł �ł łł
�ł śł
n
�łx x22 ... xn2 śł �ły śł
�ł śł
12 2 yt x2
�ł śł �ł śł "
�" = (4.13)
�ł śł
t=1
�ł śł �ł śł
... ... ... ... ...
�ł śł
....
�łx x1k ... xnk śł �ły śł
n
�ł śł
�ł 1k �ł �ł n �ł
�ł yt xk śł
"
�ł śł
�ł t=1 �ł
dr Duaan Bogdanov 4
Ekonometria 1
a1
�ł łł
�ła śł
2
�ł śł
I oznaczmy a = wektor ocen parametrów, wówczas układ równań normalnych mo\na
�ł śł
...
�ła śł
�ł k �ł
zapisać w postaci macierzowej:
T T
(4.14)
X X �" a = X Y
Z układu tego wyznaczamy a :
-1 -1
T T T T
(X X ) X X �" a = (X X ) X Y
(4.15)
-1
T T
a = (X X ) X Y
Przykład:
Rozwa\my model z jedną zmienną objaśniającą:
yt = ą1xt1 +ą2 + �t
Wektor obserwacji zmiennej objaśnianej Y oraz macierz X obserwacji zmiennej objaśniającej X
mają postać:
73 2,32 1
�ł łł �ł łł
�ł71śł �ł2,63 1śł
�ł śł �ł śł
�ł śł �ł śł
Y = 73 X = 2,56 1
�ł69śł �ł2,51 1śł
�ł śł �ł śł
�ł65śł �ł2,62 1śł
�ł �ł �ł �ł
oceny a parametrów ą wyznaczamy z formuły:
a1 T -1
�ł łł
T
a = = (X X ) X Y
�ła śł
�ł 2 �ł
w kolejnych krokach obliczamy:
32 12,64
�ł łł
XTX =
�ł12,64 5 śł
�ł �ł
15,75 - 39,82
�ł łł
(XTX)-1 =
�ł- 39,82 100,87 śł
�ł �ł
886,46
�ł łł
XT Y =
�ł351 śł
�ł �ł
dr Duaan Bogdanov 5
Ekonometria 1
I ostatecznie oceny parametrów równania wynoszą:
�ł- łł
a1 13,67
�ł łł
a = (XT X)-1 XT Y = =
�ł104,76 śł
�ła0 śł
�ł �ł
�ł �ł
Oszacowany model przedstawia się następująco:
w = 104,76 - 13,67xt1
t
Warunek 1 mo\na rozszerzyć na modele nieliniowe, ale liniowe ze względu na parametry
oraz logarytmiczno-liniowe. Pozwala to na szacowanie metodą najmniejszych kwadratów równie\
znacznej grupy modeli nieliniowych.
dr Duaan Bogdanov 6
Ekonometria 1
Pytania kontrolne:
1. Podaj definicję klasycznego modelu liniowego.
2. Wyjaśnij jak teoretycznie mo\na wyobrazić sobie realizację zmiennych losowych
�t ,(t =1,2,..n)
3. Wyjaśnij istotę metody najmniejszych kwadratów.
4. Przedstaw graficzną ilustrację metody najmniejszych kwadratów dla modelu z jedną
zmienną objaśniającą.
dr Duaan Bogdanov 7
Ekonometria 1

Wyszukiwarka

Podobne podstrony:
3 dobór zmiennych do liniowego modelu ekonometrycznego
2 ćwiczenia dobór zmiennych do liniowego modelu ekonometrycznego
6 własności estymatora parametrów klasycznego modelu liniowego uzyskanego metodą najmniejszych kwadr
8 wnioskowanie na podstawie modelu ekonometrycznego prognozowanie ekonometryczne
Statystyki pozycyjne w procedurach estymacji i ich zastosowania w?daniach ekonomicznych e72
3 ćwiczenia szacowanie parametrów modeli liniowych klasyczną metodą najmniejszych kwadratów
4 ćwiczenia weryfikacja liniowych modeli ekonometrycznych
7 weryfikacja jednorównaniowego modelu liniowego
3 Istotność parametrów modelu regresji liniowej
ekonomietria programowanie liniowe (10 stron)
4 Interpretacja modelu i jego parametrów
PiS15 W05 Estymacja i weryfikacja parametrów populacji
4 Estymacja liniowa wsadowa
4 Estymacja liniowa wsadowa
6 ćwiczenia predykacja na podstawie ekonometrycznych modeli liniowych
Temat 5 I Weryfikacja modelu regresji liniowej
doprowadzanie modelu do postaci liniowej (0)

więcej podobnych podstron