R12, Statystyka, Kasperowicz-Ruka

Rozdział 12

12. WADY I ZALETY ESTYMATORÓW S² I PARAMETRU σ².

Zakładamy, że zmienna losowa X ma w populacji generalnej rozkład normalny określony parametrami m oraz σ. Ciąg niezależnych zmiennych losowych X₁, X₂,..., X_n_-1, X_n, stanowiący próbę prostą, jest ciągiem zmiennych o jednakowym rozkładzie, takim jak rozkład zmiennej losowej X w populacji generalnej. Każda ze zmiennych losowych X_i, i = 1,..., n, ma jednakowy rozkład i jednakowe parametry rozkładu. Estymowanym parametrem jest σ². Parametr m rozkładu nie jest znany.

W pierwszej [A] części rozważań na temat własności najczęściej używanych estymatorów parametru σ² pomijamy związek między metodą wyboru estymatorów a ich własnościami. Rozważania ograniczamy do porównania trzech podstawowych własności obu estymatorów: nieobciążoności, zgodności i efektywności.

W drugiej [B] części nawiązujemy do metody największej wiarogodności. Wiadomo, że estymator S² jest estymatorem metody największej wiarogodności parametru σ² (por. podręcznik: J. Jóźwiak, J. Podgórski..., op. cit., s. 215). W tej części rozważań postaramy się odpowiedzieć na pytanie, czy estymator jest również estymatorem metody największej wiarogodności parametru σ²?

[A]

Dwie następujące statystyki z próby są powszechnie używane jako estymatory parametru σ²:

(12.1) S² = (X_i - )²,

(12.2) = (X_i - )²,

gdzie: = X_i,

Związki obu wariancji z próby są następujące:

= S²,

S² = ,

oznaczmy: g₁ = , g₂ = .

Stąd

(12.3) = g₁ S²,

(12.4) S² = g₂ .

Wartości oczekiwane i wariancje obu statystyk wyznaczamy za pomocą zmiennej o rozkładzie chi-kwadrat (χ²). Powtórzenie tych rozwiązań, które można znaleźć w cytowanym podręczniku, jest tu niezbędne z punktu widzenia dalszych rozważań.

Statystyki z próby mające rozkład chi-kwadrat określony przez (n - 1) stopni swobody dane są wzorami:

χ² = ,

Wartość oczekiwana i wariancja zmiennej o rozkładzie chi-kwadrat wynoszą:

E(χ²) = v = n - 1,

D²(χ²) = 2v = 2(n - 1).

A zatem:

E[S²] = n - 1,

stąd E[S²] = σ², czyli E[S²] ≠ σ² co znaczy, że estymator S² jest estymatorem obciążonym parametru σ².

Obciążenie b_n estymatora S² parametru σ² wynosi

i zmierza w granicy do zera, estymator S² jest asymptotycznie nieobciążonym estymatorem parametru σ².

Wariancja estymatora S² jest następująca:

stąd D² [S²] = .

Jak widzimy, wariancja estymatora S² jest zbieżna w granicy do zera (przy n zmierzającym do nieskończoności). Asymptotycznie nieobciążony estymator S² parametru σ², którego wariancja zmierza w granicy do zera, jest estymatorem zgodnym tego parametru.

Powyższe rozważania powtarzamy wobec estymatora :

Estymator jest nieobciążonym estymatorem parametru σ².

Wyznaczamy wariancję estymatora :

Jak widzimy, wariancja estymatora jest zbieżna w granicy do zera (przy n zmierzającym do nieskończoności). Nieobciążony estymator parametru σ², którego wariancja zmierza w granicy do zera, jest estymatorem zgodnym tego parametru.

Porównanie efektywności obu estymatorów sprowadza się do odpowiedzi na pytanie, który z nich ma mniejszą wariancję. Łatwo wykazać, że

D²[S²] < D² [], bowiem < , gdyż (n - 1)² < n².

W podsumowaniu należy podkreślić, iż oba estymatory są zgodne, ale estymator S², mimo iż jest tylko asymptotycznie nieobciążony, jest estymatorem efektywniejszym od nieobciążonego estymatora . Preferowanie we wszystkich zastosowaniach estymatora nie wydaje się słuszne, bowiem nie jest tak, iż ma on wszystkie pożądane własności najlepszego estymatora.

[B]

Jak wspominaliśmy we wstępie, statystyka z próby S² jest estymatorem metody największej wiarogodności (MNW) parametru σ². Do trzech omówionych wyżej własności tego estymatora dodajemy własności wynikające z tej właśnie metody wyboru: estymator ten ma asymptotyczny rozkład normalny o minimalnej wariancji, jest więc estymatorem najefektywniejszym. Ma też własność dającą się następująco opisać: jeżeli S² jest estymatorem MNW parametru σ², to funkcja estymatora g[S²] jest estymatorem MNW funkcji parametru g(σ²).

Statystyka jako określona wzorem (12.3) funkcja statystyki S² jest estymatorem metody największej wiarogodności parametru jako funkcji parametru σ².

Między parametrami i σ² musi zachodzić taka sama relacja jak między estymatorem a estymatorem S² metody największej wiarogodności parametru σ², czyli

(12.5) .

Estymator jest estymatorem metody największej wiarogodności parametru σ², a estymator jest estymatorem metody największej wiarogodności parametru , czyli inaczej parametru , co możemy zapisać następująco:

(12.6) .

ZAKOŃCZENIE

Z przeprowadzonych rozważań wynika, że estymatory S² oraz parametru σ² mają swoje wady i zalety, trudno zatem wskazać, który z nich jest estymatorem najlepszym. Dlatego nie wydaje się słuszne prowadzenie wszystkich rozważań i obliczeń w podręczniku i w programach komputerowych tylko i wyłącznie na podstawie estymatora . Konsekwencje takiego podejścia są już widoczne w programie komputerowym Statgraphics, gdzie w procedurze badania zgodności rozkładu z normalnym do punktowej estymacji parametru σ² stosuje się estymator , gdy metoda wymaga, aby punktowo szacować parametr σ², używając estymatora MNW, czyli S².

Najprostszym przykładem kłopotów rachunkowych wynikających z posługiwania się tylko i wyłącznie estymatorem i jego realizacją w n-elementowej próbie, jest kłopot powstający przy obliczaniu, na podstawie wyników losowej próby, wariancji ważonej.

Wzory wariancji ważonej, gdzie wagami są liczebności lub wskaźniki struktury, są następujące:

(12.7) , gdzie n_i = n

(12.8) , gdzie w_i = oraz w_i = 1

oraz

(12.9) , gdzie n_i … n - 1

(12.10) , gdzie oraz … 1.

Wzór (12.10) nie jest poprawnie zbudowany i nie jest równoważny wzorowi (12.8). Nie może być stosowany w obliczeniach, ponieważ wskaźniki struktury nie sumują się do jedności.

Innym przykładem kłopotów wynikających ze stosowania tylko i wyłącznie estymatora i jego realizacji (oraz analogicznie estymatora i jego realizacji dla zmiennej Y) jest zapis wzoru współczynnika korelacji liniowej r.

Zamiast wzoru (12.11):

(12.11) , gdzie: ,

, ,

należy wówczas stosować wzór (12.12):

(12.12) , gdzie: ,

, ,

, .

Wzory (12.11) i (12.12) współczynnika korelacji liniowej r oraz muszą prowadzić do tych samych wyników liczbowych. Aby r = należało kowariancję c_xy ze wzoru (12.11) zastąpić we wzorze (12.12) kowariancją , co wydaje się zabiegiem sztucznym, nie ma bowiem w literaturze przedmiotu dowodu na to, że kowariacja ma lepsze własności niż kowariancja c_xy.

Na zakończenie można stwierdzić, że liczne przykłady podawania dwóch wersji rozważań czy wzorów, uwzględniające oba estymatory wariancji, wydają się słusznym kierunkiem działania i ten kierunek należałoby popierać.