Metoda wskaźników pojemności informacyjnej (metoda Hellwiga)
Za pomocą modelu wyboru zmiennych Hellwiga wybiera się do modelu takie zmienne, które są silnie skorelowane ze zmienną objaśnianą a słabo między sobą. Rozpatruje się wszystkie kombinacje potencjalnych zmiennych objaśniających, których ogólna liczba wynosi:
m - liczba zmiennych kandydujących
Dla każdej kombinacji potencjalnych zmiennych objaśniających oblicza się wskaźnik pojemności informacyjnej:
Indywidualne,
Integralne.
Indywidualne wskaźniki pojemności informacyjnej zmiennych w ramach rozpatrywanej kombinacji definiowane są następująco:
l - nr kombinacji
j - nr zmiennej w kombinacji
ml - liczba zmiennych rozpatrywanej kombinacji
Integralne wskaźniki pojemności informacyjnej kombinacji potencjalnych zmiennych objaśniających oblicza się wg wzoru:
Wskaźnik pojemności informacyjnej ulokowane są w przedziale <0,1>. Przyjmują tym większe wartości im zmienne objaśniające są silniej skorelowane ze zmienną objaśnianą oraz im słabiej są skorelowane między sobą. Jako zmienne objaśniające wybiera się te z nich, które znajdują się w kombinacji o najwyższej wartości wskaźnika integralnej pojemności informacyjnej.
Przykład:
Do opisu kształtowania się zmiennej Y zaproponowano wstępnie 3 zmienne:
t - szeregi czasowe
Wektor współczynników korelacji między zmienną Y i zmiennymi
oraz macierz współczynników korelacji między zmiennymi
przedstawiają się następująco:
L = 23 - 1 = 7
Hl
= H1
= H2
= H3
= H5 = 0,37
= H6 = 0,52
= H7 = 0,55
H4 stanowi rozwiązanie.