Estymator liniowy to estymator który jest liniową funkcją obserwacji, w zapisie macierzowym:
(kxl) <kxT)Crxl) <kxl) gdzie G i d to znane macierze (?)
Estymator nieobciążony to taki, którego wartość oczekiwana jest równa wartości nieznanego parametru: E(P) = E[f(y)] = p
W ujęciu preeksperymentalnym, y to wektor możliwych obserwacji,jia tym poziomie jest to wektor losowy : wektor możliwych wyników badania (patrz powyżej). Wobec tego p (oraz p) jako funkcja wektora losowego jest również wektorem losowym, co oznacza, że możemy opisywać p jako wielowymiarową zmienną losową. Możemy więc badać charakterystyki probabilistyczne estymatora p, w tym jego wartość oczekiwaną. Używanie do szacowania parametru p estymatora którego wartość oczekiwana jest różna od p wydaje się intuicyjnie problematyczne, co prowadzi do badania nieobciążoności. Problem efektywności estymatora intuicyjnie odpowiada zagadnieniu: jak daleko przeciętnie jest p od p?. (czyli nasz estymator od prawdziwej nieznanej wartości, czyli badamy np. „czy przeciętnie biorąc nasz estymator dobrze <trafia>”
Przykład: mamy dwa estymatory i przeprowadzamy dwa doświadczenia:
Pierwszy estymator dał w 1 doświadczeniu wartość: 0,9; w 2 doświadczeniu wartość: 1,1
Drugi estymator dał w 1 doświadczeniu wartość: 0,5; w 2 doświadczeniu wartość: 1,5
Oba majątę samą wartość oczekiwaną (są nieobciążone czyli patrz definicja).
Wolimy pierwszy, bo ma mniejsze rozproszenie i stosując go zyskujemy lepsze (dokładniejsze)
oszacowanie nieznanego parametru.
Estymator najlepszy w danej klasie to estymator efektywny, czyli o najmniejszym rozproszeniu (co zostanie dokładnie zdefiniowane poniżej).
Chcemy dowieść twierdzenia GM tj. pokazać, że w klasie estymatorów liniowych i nieobciążonych najlepszy (efektywny) jest estymator MNK p. Sam dowód nie jest trudny, tylko dużo jest kroków przygotowawczych:
Musimy skonstruować klasę, czyli znaleźć ogólną postać estymatora liniowego i nieobciążonego.
Musimy dowieść, że Pjest liniowy i nieobciążony - czyli że należy w ogóle do klasy w której ma być najlepszy.
Potem zapiszemy estymator p jako członka tej klasy i wykorzystamy dobrze dobrany zapis do wykazania, że jest on najlepszy.
Zapis klasy estymatorów:
B - rozważana klasa estymatorów parametru wektorowegop; p e B to element tej klasy.
Zapis efektywności w klasie:
Definicja: p najlepszy w klasie B wtedy i tylko wtedy, gdy:
\/ A = V(P)-V(P) jest macierzą określoną nieujemnie
Nb