img090

90

7.5. Pamięć a u l o asocjacyjna

która upraszcza się w przypadku funkcji <p zbliżonej kształtem do skoku jednostkowego, przyjmując postać

i, = - i Y^tWY-X^tY

i

Łatwo zauważyć bliski i bezpośredni związek pomiędzy podaną funkcją, a podaną wyżej funkcją „energii” minimalizowanej przez sieć. Jest to kolejny argument przemawiający za tym, że procesy dynamiczne w sieci będą zawsze przebiegały w kierunku minimalizacji „energii” , chociaż przebieg ten może być nie monotoniczny, a nawet mogą się pojawiać trudności z zagwarantowaniem zbieżności.

7.5 Pamięć aut o asocjacyjna

Sieć Hopfielda może być wykorzystana jako tzw. pamięć autoasocjae.yjna (skojarzeniowa). Czasem ten rodzaj sieci nazywany też bywa CAM od Conlcnt Adrensnble Memory. Rozważmy teraz w skrócie jej działanie. Załóżmy, że sieć powinna zapamiętać szereg wektorów Dj (j = 1,2,...,M) i po pojawieniu się wektora wejściowego X podobnego do któregoś z zapamiętanych wzorców sieć powinna, na zasadzie swobodnych skojarzeń, odnaleźć i odtworzyć ten zapamiętany wektor D_;-, który kojarzy się z wektorem X. Zakładamy, że wymiar wektora X oraz wymiary wszystkich wektorów D_;- wynoszą fc, czyli odpowiadają liczbie elementów (neuronów) wchodzących w skład sieci.

W praktyce odbywa się to w taki sposób, że uczy się sieć metodą Hcbba, wytwarzając współczynniki wagowe przy połączeniach między i-tym i m-tym neuronem zgodnie z zasadą

= E uPitf

j = >

gdzie y\^ jest i-tą składową wektora D,-. W wyniku takiego postępowania słowy macierz W połączeń pomiędzy elementami sieci ma postać

w = E oj Di

I

Działanie sieci polega na impulsowym (jednorazowym) podaniu sygnałów wejściowych X i swobodnej relaksacji sieci do najbliższego stanu stabilnego, odpowiadającego minimum funkcji „energii”. Stan ten interpretować można jako „skojarzony” z bodźcem X zapamiętany sygnał D.

Pojemność takiej pamięci szacowana jest przez różnych autorów rozmaicie. Jak wiadomo, sieć binarnych elementów złożona z N neuronów może znajdować się ogólnie w jednym z 2^jV rozróżuialnych stanów, jednak rzeczywista pojemność pamięci jest znacznie mniejsza. Hopfiold szacował liczbę stanów możliwych do zapamiętania w sieci na około 0, 15 N. Podobne oszacowanie dali Abu-Mostafa i St. Jacprns.

Przy opisanych wyżej zastosowaniach sieci neuronowych jako pamięci asocjacyjnych sygnały wyjściowe z elementów sieci przyjmuje się jako ciągle w przedziale domkniętym od — 1 do 1 (jjSP g [-1, 1]), a nieliniowa funkcja

Ji) — f_rO))

Om ~ V V i