img206 (5)

200 Sieci neuronowe samouczące sit

Dzięki obecności na ekranie śladu kolejnych położeń uczących się neuronów zauważysz też jeszcze jedną, dość interesującą i ogólną cechę sieci neuronowych - mianowicie to, że postęp uczenia na początku tego procesu jest szybszy i większy, niż w jego końcowej fazie.

9.7. Jakie formy samouczenia daje wprowadzenie konkurencji do sieci?

Program 10C.BAS zaraz po uruchomieniu pyta, czy ma zastosować “złagodzoną” konkurencję. Na początku sugeruję, byś z tej opcji nie korzystał (wystarczy, że naciśniesz Enter - będzie to oznaczało odpowiedź “nie”). Do eksperymentów ze złagodzoną konkurencją przystąpimy nieco później, gdy już poznasz zalety, ale także i mankamenty konkurencji “twardej”.

Dzięki “twardej” konkurencji w programie 10C.BAS nie będą się tworzyły znane Ci z eksperymentów z programami 10A.BAS i 10B.BAS “kliki” neuronów mających dokładnie te same preferencje. Przy odrobinie szczęścia (zwłaszcza w sieciach mających zawierających spory nadmiar neuronów w stosunku do liczby klas) nie powinny się także tworzyć luki i “martwe pola” w reprezentacji wejściowych obiektów przez poszczególne neurony, czyli obiekty, do których nikt się nie chce przyznać w procesie rozpoznawania. Po zastosowaniu konkurencji można więc z dużym prawdopodobieństwem przyjąć, że nie będzie w sieci grup neuronów rozpoznających tę samą klasę i nie będzie klas, które nie będą rozpoznawane przez żaden neuron. Zupełnie jak w życiu: “każda potwora znajdzie swego amatora³".

Dzięki temu, że podczas uczenia z konkurencją inne neurony (poza zwycięzcą) nie zmieniają swojego położenia, są one gotowe do przyjęcia i zaakceptowania innego wzorca. Dzięki czemu w sytuacji, gdy podczas uczenia pojawią się nagłe obiekty z zupełnie innych klas - w sieci będą wolne neurony gotowe do tego, by niezwłocznie podjąć trud rozpoznawania tych nowych klas i systematycznego doskonalenia się w ich identyfikowaniu. Możesz to doskonale prześledzić na swoim ekranie, ponieważ w programie 10C.BAS wbudowałem możliwość zażądania, by w polu widzenia już nauczonej sieci pojawiły się nowe, do tej pory całkiem nieznane obiekty. Efekt ten uzyskasz, naciskając w dowolnym momencie podczas symulacji klawisz “n” (nie pomyl się - tylko “n” tak działa, każdy inny klawisz zainicjuje proces samouczenia jeszcze raz od samego początku z innym

“Wszak wiesz, że gdyby nie konkurencja typu WTA (wynikająca z obowiązującej padły by w udziale wyłącznie intelektualnej elicie społeczeństwa (to znaczy infor-