Estymacja parametrów modelu regresji liniowej (szczególne przypadki).

Rozważymy obecnie estymację parametrów w modelach regresji o jednej i dwóch zmiennych objaśniających.

Regresja liniowa o jednej zmiennej objaśniającej (Prosta regresji).

Rozważmy następujący model

,

,

.................................

,

Wprowadźmy następujące oznaczenia

.

Przypomnijmy, że
nazywamy średnimi z próby. Znajomość wartości pięciu statystyk
stanowi podstawę estymacji i wnioskowań statystycznych związanych z modelem regresji liniowej o jednej zmiennej objaśniającej.

Niżej podane są estymatory
i
parametrów
i
uzyskane metodą najmniejszych kwadratów oraz prosta regresji z próby.

• Estymator parametru uzyskany metodą najmniejszych kwadratów

• Estymator parametru uzyskany metodą najmniejszych kwadratów

• Prosta regresji z próby

Rozważmy dane z przykładu 2.1.

Przykład (Inflacja). Dane dotyczące inflacji w Polsce w pierwszych dziewięciu miesiącach przedstawiały się następująco:

Miesiąc	1	2	3	4	5	6	7	8	9
Inflacja (w %) y	1,8	2,7	3,6	4,0	4,7	5,5	6,2	5,9	6,9

Analizę rozpoczniemy od wykonania wykresu rozrzutu. Wykresem rozrzutu nazywamy wykres danych statystycznych
w prostokątnym układzie współrzędnych.

Narysowanie wykresu rozrzutu jest ważnym wstępnym krokiem przed rozpoczęciem formalnej statystycznej analizy związku pomiędzy dwiema zmiennymi. Można wstępnie ocenić czy model regresji liniowej jest odpowiedni.

Na rysunku 4.1. przedstawiony jest wykres rozrzutu dla danych z przykładu.

Wykres rozrzutu

Obliczenia wykonamy korzystając z następującej tabeli:

1	1,8	1	3,24	1,8
2	2,7	4	7,29	5,4
3	3,6	9	12,96	10,8
4	4	16	16	16
5	4,7	25	22,09	23,5
6	5,5	36	30,25	33
7	6,2	49	38,44	43,4
8	5,9	64	34,81	47,2
9	6,9	81	47,61	62,1
45	41,3	285	212,69	243,2

Mamy

,

,

,

.

Następnie wyznaczamy:

• Estymator parametru

.

• Estymator parametru

• Prosta regresji z próby

czyli

Na rysunku 4.2 jest przedstawiony wykres wyznaczonej prostej regresji.

Rysunek Wykres prostej regresji

Regresja liniowa o dwóch zmiennych objaśniających.

Rozważmy następujący model

,

,

............................................

,

Estymatory NK
wyznacza się rozwiązując układ równań normalnych

Oszacowane równanie regresji jest postać

.

Rozważmy dane z przykładu 2.2.

Przykład (Reklama). Przypominamy, że w ciągu 10 tygodni śledzono wydatki na reklamę telewizyjna i radiową (
), wydatki na pokazy w sklepach (
) oraz wielkość sprzedaży tygodniowej (
). Poniżej w tabeli przedstawione są te obserwacje (dane w tys. $).

72	12	5
76	11	8
78	15	6
70	10	5
68	11	3
80	16	9
82	14	12
65	8	4
62	8	3
90	18	10

Obliczenia wykonamy korzystając z następującej tabeli:

72	12	5	60	144	25	864	360
76	11	8	88	121	64	836	608
78	15	6	90	225	36	1170	468
70	10	5	50	100	25	700	350
68	11	3	33	121	9	748	204
80	16	9	144	256	81	1280	720
82	14	12	168	196	144	1148	984
65	8	4	32	64	16	520	260
62	8	3	24	64	9	496	186
90	18	10	180	324	100	1620	900
743	123	65	869	1615	509	9382	5040

Wypisujemy układ równań normalnych

Rozwiązaniem tego układu są estymatory

,

zatem oszacowane równanie regresji
przyjmuje postać

.

6

5

---