img118

118

także wektory własne macierzy kowariancji C_xx. Istotnie, spróbujmy szukać punktu stałego W“ w postaci W* = pCi_t gdzie C,- jest wektorem własnym macierzy C_xx odpowiadającym wartości własnej A,-:

C_Xx Cj = A- Ci

wówczas równanie — 0 prowadzi do zależności

p o A. C, - p² 0 (X^r C. ) C, = 0

której rozwiązanie ma formę

i ostatecznie

a A i

^p ~ 0(XTC_t)

^w' - w&hj ^Ci

Podane wyżej rozwiązania (dla. i = 1,2,... ,n) mogą być stabilne lub niestabilne. Można się o tym przekonać rozważając zmienność kąta 0 pomiędzy wektorem W* i C,.

E

(l(_ęrw \ i ₌

U \wnm)¹ ;

= E

{

JKMI IIW'|

<1 (Cj W)/<lt (C7HQrf(||^||)/d<

iiciii \m\

iK.n \m\*

Po uwzględnieniu zależności CJ C_xx = A/CJ i po przekształceniach otrzymujemy za

leżność:

E

t± (

l* VIKV||||W||

cos 0

W^TC_XXW\

\mv )

i dowolnego wektora V

Twierdzenie Rayleiglm głosi, że dla dowolnej macierzy A_xx spełniona jest nierówność

V^T A_XXV

jjvjF -^Am"

gdzie A_max jest największą wartością własną macierzy A. Stosując to twierdzenie do macierzy C_xx łatwo można stwierdzić, że rozwiązania opisujące przebieg procesu uczenia W(/) dążyć będzie do wartości W“ = pC_max> gdzie C_mnx jest wektorem własnym odpowiadającym wartości własnej A_max. Warunkiem jest jednak to, by w każdym momencie t zachodziła zależność C£_nx W(f) > 0. Biorąc pod uwagę fakt, że wektor C_max jest oczywiście a’priori nieznany — trudno zagwarantować spełnienie tego warunku, przy czym podstawowa trudność pojawia się przy ustalaniu punktu starowego dla procesu uczenia W(0), ponieważ oczywiście trzeba zapewnić spełnienie warunku W(0) > 0. Brak spełnienia wyżej sformułowanych warunków prowadzi zwykle od procesu uczenia, który jest. niestabilny (rozbieżny do nieskończoności) albo zbieżny do W“ = 0.

Przypadek 5. Zagadnienie uczenia jest z założenia nieliniowe, gdyż tylko jedna funkcja jest liniowo zależna od y : tf> = ety, natomiast druga ma od początku formę nieliniową: •7 = /?y³. Wówczas

— = ayX-fly^JW