Estymacja parametrów liniowego modelu

z jedną zmienną objaśniającą

Ogólna postać modelu liniowego jest następująca:

gdzie:

y - zmienna objaśniana (zależna, zjawisko),

x - zmienna objaśniająca (niezależna, czynnik),

α₀, α₁ - parametry strukturalne modelu,

ε - składnik losowy

Estymacja (szacowanie) parametrów sprowadza się do przypisania nieokreślonym liczbowo parametrom konkretnych wartości liczbowych.

Na podstawie wyników próby losowej oszacowana jest następująca postać empiryczna modelu:

w którym:

ŷ_i - wartości teoretyczne zmiennej y oszacowane na podstawie modelu,

a₀, a₁ - oceny (estymatory) nieznanych parametrów strukturalnych

modelu oszacowane na podstawie próby losowej

e_i - reszty modelu określające odchylenie wartości rzeczywistych zmiennej

y od wartości teoretycznych ŷ; e_i= y_i- ŷ_i

Do estymacji (szacowania) parametrów modelu liniowego z jedną zmienną objaśniającą stosujemy klasyczną metodę najmniejszych kwadratów (MNK), którą to funkcję-kryterium zapisujemy następująco:

Dzięki MNK model liniowy można zapisać w postaci układu równań:

Do obliczeń posługujemy się zapisem macierzowym a model ma następującą postać:

gdzie:

y - wektor obserwacji na zmiennej zależnej, o wymiarach (nx1)

X - macierz obserwacji na zmiennej niezależnej, o wymiarach (nx2)

α - wektor współczynników modelu, o wymiarach (2x1)

ε - wektor składników losowych, o wymiarach (nx1)

Wektor ocen parametrów strukturalnych modelu wyznaczony MNK:

Aby można było oszacować parametry modelu konieczne jest wyznaczenie macierzy odwrotnej do X^TX czyli (X^TX)^-1.

Etapy wyznaczania macierzy odwrotnej:

1. Obliczenie wyznacznika macierzy:

2. Wyznaczenie macierzy minorów.

Kolejny element macierzy minorów (M_ik) uzyskujemy przez usunięcie
z macierzy X^TX wiersza i kolumny w którym znajduje się element i obliczenie wyznacznika macierzy utworzonej z pozostałych elementów macierzy X^TX.

3. Wyznaczenie macierzy dopełnień algebraicznych.

Elementy macierzy minorów mnożymy przez liczbę -1 podniesioną do potęgi, która jest sumą numeru wiersza i numeru kolumny w którym znajduje się dany element.

4. Ostatnim etapem jest pomnożenie elementów macierzy dopełnień algebraicznych przez odwrotność wyznacznika macierzy X^TX.

Wektor ocen parametrów strukturalnych modelu (a) otrzymujemy poprzez mnożenie macierzy (X^TX)^-1 i wektora kolumnowego X^Ty.

Interpretacja ocen parametrów modelu liniowego

z jedną zmienną objaśniającą

W wyniku szacowania parametrów strukturalnych modelu liniowego z jedną zmienną objaśniającą otrzymujemy wektor a o postaci:

Estymator a₀ interpretujemy jako poziom zmiennej objaśnianej Y przy zerowym poziomie zmiennej objaśniającej x. Natomiast wzrost wartości zmiennej objaśniającej x o jednostkę powoduje zmianę (wzrost lub spadek) wartości zmiennej objaśnianej Y o a₁ jednostek

Przykład: /Obliczenia przeprowadzone na ćwiczeniach/

W wyniku badania zależności między liczbą reklam pewnego wyrobu emitowanych dziennie w TVP (zmienna objaśniająca x), a wielkością obrotów (zmienne objaśniana y w tys. zł) uzyskano informacje:

yi	xi
115	3
133	5
142	4
150	5
148	6
152	7

Oszacować i zinterpretować parametry strukturalne modelu liniowego.

Zadanie 1.: /Obliczenia przeprowadzone na ćwiczeniach/

Badając zależność sprzedaży pewnego produktu(Y w sztukach) od jego ceny jednostkowej (X w tys zł) zebrano dane statystyczne kształtowania się tych wielkości. Należy oszacować i zinterpretować parametry strukturalne modelu regresji prostej.

yi	75	65	60	50	50	41	35	40	30	25
xi	1	1,1	1,5	1,6	2,5	3,1	4,0	4,5	5,1	5,9

Zadanie 2.:

Na podstawie danych statystycznych przedstawiających wydatki na żywność Y ( w tys zł) i wydatki ogółem X (w tys zł) oszacuj i zinterpretuj parametry strukturalne modelu liniowego, zależności wydatków na żywność od wydatków ogółem.

yi	xi
3	3
3	4
5	6
7	8
8	11
9	14
10	16
9	20
12	23
14	25

Zadanie 3.:

Dane są:

,

Oszacować i zinterpretować parametry strukturalne modelu liniowego

5

---