118
także wektory własne macierzy kowariancji Cxx. Istotnie, spróbujmy szukać punktu stałego W" w postaci W4 = pC*, gdzie C,- jest wektorem własnym macierzy Cxx odpowiadającym wartości własnej A<:
CxxCi = Aj Cj
wówczas równanie 49L — 0 prowadzi do zależności
P o A, Ci - p2 0 (XT C. ) C, = 0
której rozwiązanie ma formę
i ostatecznie
p ~ P(X? C,)
Podane wyżej rozwiązania (dla i = 1,2,... ,n) mogą być stabilne lub niestabilne. Można się o tym przekonać rozważając zmienność kąta 0 pomiędzy wektorem W“ i C,.
= E
{
Po uwzględnieniu zależności Cj Cxx = A*Cf i po przekształceniach otrzymujemy za
leżność:
E
cos 0
i dowolnego wektora V
Twierdzenie Rayleigha głosi, że dla dowolnej macierzy AXx spełniona jest nierówność
VrAxxV
||V||* “ A""“
gdzie Amnx jest największą wartością własną macierzy A. Stosując to twierdzenie do macierzy Cxx łatwo można stwierdzić, że rozwiązania opisujące przebieg procesu uczenia W(t) dążyć będzie do wartości W“ = pCmax. gdzie Cmnx jest. wektorem własnym odpowiadającym wartości własnej Ainax. Warunkiem jest jednak to, by w każdym momencie t zachodziła zależność W(t) > 0. Biorąc pod uwagę fakt, że wektor Cmax jest oczywiście a’priori nieznany — trudno zagwarantować spełnienie tego warunku, przy czyni podstawowa trudność pojawia się przy ustalaniu punktu starowego dla procesu uczenia W(0), ponieważ oczywiście trzeba zapewnić spełnienie warunku W(0) > 0. Brak spełnienia wyżej sformułowanych warunków prowadzi zwykle od procesu uczenia, który jest. niestabilny (rozbieżny do nieskończoności) albo zbieżny do W* = 0.
Przypadek 5. Zagadnienie uczenia jest z założenia nieliniowe, gdyż tylko jedna funkcja jest liniowo zależna od y .<}> = ery, natomiast druga ma od początku formę nieliniową: -jr = fiy*. Wówczas
dW
— = nyX-fly aW