oprowadzenie do techniki sieci neuronowych 161
nego odkrywania. Pokażę Ci jednak, jakie wyniki możesz uzyskać, gdy zdecydujesz się wykonać z pomocą opisanego programu trochę bardziej wnikliwe badania właściwości sieci i jej podatności na niektóre parametry, determinujące przebieg procesu uczenia. Jak zapewne już doskonale wiesz, przed wykonaniem podanej przez Ciebie liczby kroków uczenia program pyta o wartości współczynników warunkujących szybkość uczenia (współczynnik uczenia i momentum). Możesz je w związku z tym zmieniać w trakcie uczenia, gromadząc bardzo ciekawe obserwacje. Najpierw możesz podjąć jednorazową (tzn. przed rozpoczęciem uczenia) próbę modyfikacji tych parametrów. Zauważysz wtedy zwiększanie się szybkości uczenia wraz ze wzrostem współczynnika uczenia. Na przykład na rysunku 8.30 widzisz przebieg procesu uczenia pewnego zadania przy standardowych wartościach współczynnika uczenia, a na rysunku 8.31 widzisz, jak ta sama sieć uczy się rozwiązywać to samo zadanie przy zwiększonej wartości tego współczynnika.
*1 |
m |
wr mwk | |
mdrm i* |
V | ||
w |
Rys. 8.30. Standardowa wartość współczynnika uczenia prowadzi do spokojnego i równomiernego uczenia, jest to jednak dość powolne
######
Rys. 8.31. Zwiększona wartość współczynnika uczenia powoduje niekiedy, że proces uczenia przebiega szybciej