img257 (7)

oprowadzenie do techniki sieci neuronowych 251

dla rozważanego tu prostego systemu ze sprzężeniem zwrotnym? Spróbuj sam odkryć, jakie czynniki decydują o tym czy, sieć zachowuje się stabilnie, czy niestabilnie. Ponieważ w następnym zdaniu będę to komentował

-    proponuję, żebyś tu na chwilę przerwał czytanie i poeksperymentował z programem 12A.BAS, a potem porównasz to, co sam odkryłeś, z tym, co na ten temat ma do powiedzenia osiwiała od mądrości TEORIA.

Prowadząc badania z użyciem programu zauważyłeś na pewno, że zmiany sygnału na wyjściu sieci zależą głównie od wartości występujących w niej współczynników; natomiast sygnał wejściowy ma na to znacznie słabszy wpływ - nawet jeśli spowodujesz, że sygnał wejściowy będzie podawany przez cały czas, a nie tylko w pierwszej chwili po wystartowaniu symulacji. Badając zachowanie sieci (lub zastanawiając się nad zastosowanym algorytmem) łatwo ustalisz, że naprawdę ważne jest to, czy współczynnik wagi dla sygnału sprzężenia zwrotnego jest - na bezwzględną wartość

-    mniejszy, czy większy od 1. Dla współczynników mniejszych od 1 masz stale do czynienia z procesem stabilnym - aperiodycznym przy wartościach dodatnich i oscylacyjnym przy wartościach ujemnych. Dla wartości współczynników większych od 1 przebieg jest zawsze niestabilny. Natomiast przy wartości współczynnika wynoszące dokładnie 1 masz do czynienia przy dodatnim sprzężeniu zwrotnym z dziwną sytuacją, polegającą na tym, że każdy sygnał wejściowy okazuje się być atraktorem sieci, a przy ujemnym sprzężeniu zwrotnym masz do czynienia ze stałymi, nie rosnącymi, ale i nie gasnącymi oscylacjami. Stan taki nazywany jest granicą stabilności.

W bardziej złożonych sieciach warunki stabilności są bardziej skomplikowane i dla wyznaczenia granicy stabilności używać trzeba bardzo zaawansowanych metod matematycznych (wyznaczniki Hurwitza, diagramy Nyąuista, twierdzenie Lapunowa itp.), teoria sieci neuronowych ze sprzężeniem zwrotnym jest więc od łat bardzo wdzięcznym “pastwiskiem” dła wszelkiego autoramentu teoretyków zajmujących się dynamiką złożonych systemów.

11.3. Po co komu takie sieci neuronowe z pętelkami?

Sytuacja w sieci złożonej z jednego neuronu liniowego jest wygodnie prosta i łatwa do przewidzenia, więc daje stosunkowo mało okazji do ciekawszych praktycznych zastosowań. Dlatego z ćwiczonego wyżej programu 12 A.B AS nie da się wycisnąć żadnych wyników, które by się kojarzyły z jakimiś użytecznymi wynikami. Dopiero większe sieci ze sprzężeniem zwrotnym, obejmujące kilkanaście czy kilkadziesiąt neuronów (zwłaszcza nieliniowych!)