Macierz A to różnica pomiędzy macierzami kowariancji odpowiednio (i (każdego estymatora rozważanej klasy, w wypadku twierdzenia GM - klasy estymatorów liniowych i nieobciążonych) a P (estymatora-kandydata do najlepszości, w naszym wypadku estymatora MNK)
Co to jest macierz określona nieujemnie? Jeśli macierz A jest symetryczna (więc i kwadratowa; dla takich macierzy definiuje się określoność) stopnia k, to:
A jest określona nieujemnie •» \/ z' Az > 0
I69t‘\{0}
W szczególności nieujemnie określona macierz A ma wszystkie przekątniowe elementy większe lub równe zero. Na przekątnej macierzy kowariancji są wariancje, czyli definicja efektywności mówi że:
var (PJ > var(Pj) dla i = 1,... ,k (Pi oznacza i-ty element wektora P)
Oznacza to, że estymator jest najlepszy w danej klasie jeśli po odjęciu jego wariancji od wariancji każdego innego członka klasy zostaje zero lub więcej. Dla najlepszego estymatora p wariancja każdego elementu wektora (var(Pj)) jest mniejsza (lub równa) od odpowiednich wariancji wszystkich innych estymatorów danej klasy (var(pi)) . Istnienie najlepszego estymatora jest nietrywialne i w szerokich klasach może go nie być wcale.
Przystąpmy do realizacji następującego planu: dowiedziemy liniowości i nieobciążoności P, a następnie pokażemy, że P jest najlepszy w klasie B estymatorów liniowych i nieobciążonych, czyli będziemy musieli dowieść, że macierz będąca różnicą macierzy kowariancji p i p jest nieujemnie określona, wszystko to przy prawdziwości założeń KMRL (1° - 5°):
1° y = X p + e
(Txl) (T*k) (Txl)
2° X jest znaną macierzą nielosową
3° rz(X) = k
4° E(s) = 0
(Txl)
Chcemy dowieść że:
P=(X’Xr'X'y
jest efektywny w klasie estymatorów liniowych i nieobciążonych, i ma to wynikać z l°-5°
W tezie (czyli w powyższym wzorze) wykorzystano już założenie 3, bo ono gwarantuje że (X’X)‘ istnieje i można tak zapisać. (3°)
Przypomnijmy definicję estymatora liniowego:
(kxl> (kxT)(Txl) O*)
Możemy zapisać, że:
P = (X'X)"1 X'y = Cy ;gdzie :