img189 (5)

Elementa oprowadzenie do techniki sieci 183

prezentacji obiektów ciągu uczącego na proces samouczenia sieci. Tu już nie ma gotowych mechanizmów wbudowanych w program, które by Ci podawały odpowiednie fakty “na talerzu”, ale obserwując wielokrotnie symulowany proces samouczenia dostrzeżesz z pewnością, że klasy, których obiekty pokazywane są częściej - przyciągają do siebie znacznie więcej neuronów, niż te klasy, których obiekty pojawiają się rzadziej (por. na rysunku 9.20 wyniki dla 1. i 2. ćwiartki).

Rys. 9.20. Nierównoliczność reprezentacji klas powstała w następstwie procesu samouczenia

Może to czasem prowadzić do wręcz tego, że dla pewnych pokazywanych klas może całkiem zabraknąć “chętnych” do ich rozpoznawania - zwłaszcza w sieciach o niewielkiej liczbie neuronów (por. 3. ćwiartkę na rysunku 9.20). Jest to spory problem, który sygnalizowałem Ci już w jednym ze wstępnych rozdziałów. Na skutek takiego właśnie zachowania się - sieci samouczące muszą zawierać o wiele więcej neuronów, niż realizujące to samo zadanie rozpoznawania i klasyfikacji sieci uczone z nauczycielem.

Badając proces samouczenia na wielu przykładach zauważysz także, że szczególnie istotne znaczenie mają pierwsze “doświadczenia” sieci. Daje się to zauważyć na rysunku 9.21, na którym przytoczono obraz początku (po lewej u góry) i końca (po prawej u dołu) procesu samouczenia, w którym doszło do przypadkowego wylosowania w 9 pierwszych krokach algorytmu wyłącznie obiektów należących do 3. ćwiartki. Zauważ, jak silnie wpłynęło to na końcowy rozkład liczby neuronów w poszczególnych ćwiartkach!

Zauważ, że ten przemożny wpływ “pierwszych doświadczeń” na kształtowanie się późniejszych kategorii pojęciowych i przyzwyczajeń można także zaobserwować u ludzi. Dlatego obserwując procesy “przyciągania” jednych