113051

Twierdzenie Rao-Blackwella. Niech T będzie statystyką dostateczną dla rodziny (P^ifle©) rozkładów prawdopodobieństwa na przestrzeni próby X i niech g„ będzie dowolnym nieobciążonym estymatorem pewnego parametru g₀. Wówczas g₉ = E₉[g_$ |T] jest również estymatorem nieobciążonym, a jego wariancja jest jednostajnie nie większa od wariancji estymatora g„, tzn. V0e 0    ) < V₀[g_o).

Dowód. Nieobciążońość estymatora g₀ = E₀\g_e\T jest oczywista i wynika z własności warunkowej wartości oczekiwanej oraz nieobciążoności estymatora gMianowicie

Vfi€0 E,|3,| = E₄|E,(g,|r|)=E,|3,| = ₃,.

Druga część tezy wynika z tzw. nierówności Jensena, która mówi, że dla dowolnej funkcji wypukłej h oraz dowolnej wielkości losowej X mamy Ve© /i(E_tf[X | r)j < E,[/i(X) | T\. Kładąc h(x)=x^J oraz X = g_t, otrzymujemy

V0₆ 0 E_#k] = E,{E_#^|r|l>E,{|E,[g,|rr}= E,|$[

Odejmując od obu stron ostatniej nierówności g₉ dostajemy dowodzoną nierówność dla wariancji.    ■

Załóżmy dodatkowo, iż statystyka dostateczna T jest zupełna. Wówczas z zupełności wynika, że estymator nieobciążony będący funkcją statystyki T, o którym mowa w twierdzeniu Rao-Blackwella jest jedynym estymatorem nieobciążonym g_e w klasie estymatorów będących funkcjami od T. Zatem jest on estymatorem nieobciążonym o minimalnej wariancji ( ENMW[g_e] ).

Twierdzenie Lehmanna-Scheffego. Jeżeli statystyka T jest statystyką dostateczną zupełną dla rodziny {P^iPe©} rozkładów prawdopodobieństwa na przestrzeni próby X oraz g₀ jest dowolnym nieobciążonym estymatorem parametru g₉. to g{T) = E_#[g_fl |T] jest ENMW[g„].

Twierdzenie to można także sformułować w ten sposób, że jeżeli statystyka T jest dostateczną zupełną to dla dowolnej funkcji rzeczywistej g. statystyka g{T) jest ENMW swojej wartości oczekiwanej.

Oba cytowane powyżej twierdzenia są podstawowym narzędziem przy konstrukcji estymatorów nieobciążonych o minimalnej wariancji. Wystarczy znać dowolny estymator nieobciążony oraz statystykę dostateczną zupełną. Jedyna trudność techniczna to umiejętność wyznaczenia warunkowej wartości oczekiwanej estymatora nieobciążonego pod warunkiem statystyki dostatecznej.

Przykład, a) Dla próby losowej z rozkładu Bernoulliego z rodziny (b(l,0), 6Je(0,l)), jak to wcześniej pokazaliśmy, średnia z próby

jest minimalną, zupełną statystyką dostateczną. Jednocześnie średnia z próby zawsze jest jest estymatorem nieobciążonym wartości oczekiwanej (o ile istnieje) populacjji generalnej, ponieważ

e,U) = -E^e<-(^;c.) = ^e*<^;ci) ^V(?e0-n T\

Zatem na podstawie twierdzenia Lehmanna-Scheffego \ jest ENMW[0].

b) Podobnie dla próby losowej z rozkładu normalnego z rodziny {n(//,<t) : /Y€ R‘,<7>o) (p

i o nieznane) minimalną, zupełną statystyką dostateczną jest T = (x,s²). Zauwżmy, że