3803952806

Rozdział 4

Modele liniowe

4.1. Niezależne modele liniowe

Najprostszym podejściem do problemu przewidywania preferencji użytkowników jest budowa niezależnego modelu liniowego dla każdego z ocenianych obiektów (filmów). Jest to metoda bardzo podstawowa i powszechnie stosowana, więc w literaturze spotkać można wiele opisów jej rozmaitych wariantów (zob. [2] i [4]). Przykładowy model może wyglądać następująco:

hj = ^ajk^rik.    (4.1)

fceAfo

gdzie Mo C M jest dowolnie wybranym podzbiorem dostępnych filmów, a otjk € M to parametry modelu. Dla uproszczenia notacji zakładam, że wszystkie nieokreślone wartości rij (czyli brakujące oceny) są równe zero.

Przyjmując takie założenia odnośnie modelu, od razu pojawia się problem znalezienia optymalnych wartości ajk- Jednym z naturalnych pomysłów jest próba takiego ich doboru, aby zmaksymalizować jakość prognozy (czyli zminimalizować wartość RMSE) na zbiorze treningowym. Okazuje się, że jest to typowe zastosowanie dobrze znanej metody najmniejszych kwadratów (zob. [8]) opartej na następującym twierdzeniu:

Twierdzenie 4.1.1. Dla ustalonej macierzy A € R^nxm i wektora b € Rⁿ minimum wartości ||Ac — b\| jest przyjmowane dla xq = A(A^TA)^-1 A^Tb (pod warunkiem, że macierz A^TA jest odwracalna).

Dowód. Wystarczy udowodnić, że przestrzeń liniowa rozpięta przez kolumny macierzy A jest prostopadła do wektora xq — b, czyli, że dla dowolnego wektora y iloczyn skalarny Ay i xq — b jest zerowy:

(Ayf(x₀ -b) = 0    (4.2)

y^TA^T(A(A^rA)-¹A^Tb - b) = 0 y^TA^T(A(A^TA)-¹A^T - I)b = 0 y^TA^rA(A^TA)-'A^rb - y^TA^rIb = 0 y^TA^Tb - y^TA^Tb = 0 0 = 0

□

17