Sieci CP str069

69

Rozdział 5. Sieci CP

a zatem wraz z każdym wektorem wejściowym X podawany jest wektor wyjściowy* jaki użytkownik chce uzyskać z sieci. Jednak mimo tego założenia przy uczeniu nie wykorzystuje się pojęcia błędu (a więc nie jest to rodzaj algorytmu Delta), a ponadto mimo występowania dwóch warstw nie wykorzystuje się w żadnej formie informacji pochodzących od nauczyciela przy uczeniu pierwszej („ukrytej”) warstwy sieci. Pomysł jest bardzo prosty i skuteczny: przy uczeniu pierwszej warstwy stosuje się technikę Kohonena, która jest formą uczenia bez nauczyciela. Natomiast przy uczeniu drugiej warstwy wykorzystuje się algorytm Grossberga do bezpośredniego wymuszania pożądanych odpowiedzi sieci. Rozważmy to teraz dokładniej.

Zaczniemy od opisu sposobu uczenia pierwszej warstwy sieci. Zgodnie z regułą Kohonena uczenie przebiega następująco. Na Jb-tym kroku pokazuje się wektor wejściowy X^, a dysponując (z wcześniejszych kroków procesu uczenia) wartościami wszystkich wektorów W<*> można obliczyć wszystkie wartości

ej^ł> = \\K^t>T X^(fc) , j= 1,2.....m

oraz wyznaczyć numer „zwycięskiego” neuronu (tzn. tego, dla którego zachodzi)

ei*^J >

Korekcie podlegają wyłącznie wagi „zwycięskiego” neuronu według reguły W<^k+>) = -f »>, (X^iki - w$^k))

Współczynnik uczenia tji przyjmowany jest zwykle jako równy 0,7 na początku procesu uczenia i stopniowo zmniejszany dla większych fc.

Podobnie jak w wielu innych algorytmach samouczeiiia, przy realizacji metody Kohonena najważniejsze są pierwsze kroki, bo od nich w znacznym stopniu zależy powodzenie całej pracy. Najpierw trzeba nadać współczynnikom wagowym Wij wartości początkowe. Nie jest to tak proste, jak przy niektórych innych metodach, ponieważ powinno się zapewnić unormowanie wszystkich początkowych wektorów wag

l|W?”ll = l

a ponadto wysoce pożądane jest takie dobranie ich kierunków, by w sposób równomierny rozkładały się na powierzchni sfery jednostkowej w przestrzeni u-wymiarowej. Takie zainicjowanie jest jednak trudne i nie gwarantuje dobrych warunków do realizacji procesu samo-uczcnia, gdyż jest możliwe pojawianie się w trakcie uczenia kilku „zwycięskich” neuronów podczas prezentacji uczących sygnałów X***, co utrudnia realizację opisanego wyżej procesu uczenia. Jedna z technik zapobiegania tym niekorzystnym zjawiskom, nazywana w literaturze convex combmatwn mcłliori, polega na tym, że początkowo wszystkim składowym wszystkich wektorów wag nadaje się tę samą wartość początkową

»!■’= sAF>

Powoduje to, że wszystkie wektory Wj^l) są prawidłowo unormowane, ale wszystkie pokrywają się. Po takim zainicjowaniu wektorów wag zaczyna się opisany wyżej proces uczenia, ale jako wektory wejściowe podaje się wektory o współrzędnych obliczanych według wzoru

*!**'= %(*>*'*'+ [i--«(*)] VU»