img125 (13)

oprowadzenie do techniki sieci 119

ta książka była najbardziej odpowiednim miejscem, by taki dowód przytaczać. Niemniej sam fakt warto zapamiętać - funkcja przejścia neuronu w wielowarstwowej sieci uczącej się musi być dostatecznie “gładka” jeśli uczenie ma przebiegać bez zakłóceń.

Można znaleźć wiele funkcji, nadających się do tego, by mogły pełnić rolę funkcji przejścia dla modelowanych neuronów, największym powodzeniem cieszy się jednak krzywa logistyczna, zwana także (od kształtu jej wykresu) “sigmoidą”. Sigmoida ma następujące zalety:

=> zapewnia łagodne przejście między wartościami 0 a 1;

=> ma gładką i łatwą do praktycznego obliczenia pochodną;

=t- ma jeden parametr (nazywany najczęściej “BETA”), którego wartość pozwala dowolnie wybierać kształt krzywej - od bardzo płaskiego, zbliżonego do funkcji liniowej, do bardzo stromego “przekaźnikowego” przejścia od 0 do 1;

Program (07B.BAS), pozwoli Ci zapoznać się z tą funkcją nieco dokładniej. Nie trudno zauważyć, że przy budowie nieliniowej funkcji przejścia neuronu uwzględnia się także możliwość przesuwania punktu “przełączenia” między wartościami 0 i 1 za pomocą parametru BIAS, ale dodatkowo możesz dobrać stromość krzywej i ogólny stopień nieliniowego zachowania neuronu (rys. 7.3).

Rys. 7.3. Różne formy krzywej logistycznej (widok z programu 07B.BAS)

Krzywa logistyczna, której właściwości poznałeś eksperymentując z przytoczonym wyżej programem, ma liczne zastosowania w naukach przyrodniczych. Kiedyś może napiszę o tym obszerniej, ale powiem tylko jedno: każdy rozwój (na przykład rozwój nowej firmy czy technologii) przebiega według właśnie według krzywej logistycznej. Zastanów się przez chwilę,