img046 (42)

40

Neuronów w sieci mogą być tysiące, każdy ma setki wejść - niepodobna więc dla wszystkich tych wejść zdefiniować potrzebnych wag w sposób jednorazowy i arbitralny własnoręcznie. Można jednak zaprojektować i zrealizować proces uczenia polegający na rozpoczęciu działania sieci z pewnym przypadkowym zestawem wag i na stopniowym polepszaniu tych wag. W każdym kroku procesu uczenia wartości wag jednego lub kilku neuronów ulegają zmianie, przy czym reguły tych zmian są tak pomyślane, by każdy neuron sam potrafił określić, które ze swoich wag ma zmienić, w którą stronę (zwiększenie lub zmniejszenie) a także o ile. Oczywiście przy określaniu potrzebnych zmian wag neuron może korzystać z informacji pochodzących od nauczyciela (o ile stosujemy uczenie z nauczycielem), nie zmienia to jednak faktu, że sam proces zmiany wag (będących w sieci jedynym śladem pamięciowym) przebiega w każdym neuronie sieci w sposób spontaniczny i niezależny dzięki czemu może być realizowany bez konieczności bezpośredniego stałego dozoru ze strony osoby sterującej tym procesem. Co więcej, proces uczenia może być prowadzony równocześnie we wszystkich neuronach sieci (oczywiście pod warunkiem zbudowania odpowiedniej sieci jako układu elektronicznego, a nie w formie programu symulacyjnego), co pozwala uzyskiwać bardzo duże szybkości uczenia i zaskakująco dynamiczny wzrost “kwalifikacji” sieci. Podkreślę jeszcze raz, bo ma to kluczowe znaczenie: nauczyciel nie musi wnikać w szczegóły tego procesu - wystarczy, że poda sieci ogólne informacje na temat tego, czy aktualne jej zachowanie jest poprawne, czy nie. Czasami mówi się wręcz o sygnałach “nagrody” i “kary”, na podstawie których wszystkie neurony sieci same znajdują i wprowadzają właściwe poprawki do swego działania. Ta analogia do tresury zwierząt nie jest wcale przypadkowa!

3.4. Jak zorganizować naukę sieci?

Potrzebne zmiany wielkości współczynników wagowych w poszczególnych neuronach obliczane są w oparciu o specjalne reguły (nazywane czasem paradygmatami sieci), przy czym liczba różnych używanych dziś reguł i ich odmian jest prawdziwie astronomiczna, gdyż prawie każdy badacz usiłował wnieść do dziedziny sieci neuronowych swój wkład w formie nowej reguły uczenia. Pewien pogląd na ten temat daje zbiór algorytmów uczenia opisanych w mojej książce “Sieci neuronowe”, do której stale odsyłam bardziej dociekliwych Czytelników po bardziej szczegółowe informacje. Tutaj omówię krótko (bez stosowania matematyki, taka była umowa zawarta zaraz na początku książki!) dwie podstawowe reguły uczenia: regułę delta leżącą u podstaw większości algorytmów uczenia z nauczycielem oraz regułę