56
4.4. Formy nieliniowości neuronu
który można rozpisać jako
y =
exp (0e) - exp (- 0e)
exp (0e) + exp (- 0e)'
Przy zastosowaniu tej funkcji y £ (—1,1). Zaletą funkcji tangens hiperboliczny jest także prosta formula, określająca pochodną tej funkcji w zależności od jej wartości
d<p de
Ta formula, podobnie jak wcześniej przytoczony wzór dla funkcji logistycznej, bardzo ułatwia stosowanie odpowiednich funkcji w trakcie procesu uczenia.
Aby uzyskać wartości z przedziału domkniętego y G [—1.1] stosuje się niekiedy funkcję sinus
y = sin (0e).
a dokładniej fragment sinusoidy połączony z płaskimi asymptotami rozciągającymi dziedzinę funkcji:
’
-I
sin(/fa)
1
Taka postać funkcji jest szczególnie przydatna przy budowie sieci dokonującej transformaty Fouriera wejściowego sygnału. Sieć taką badał między innymi Lapcdes [Lape87).
Niekiedy nieliniowość ma postać nie różniczkowalną, przydatną w praktycznych zastosowaniach, ale kłopotliwą do teoretycznej analizy. Z bardziej znanych nieliniowości tego typu wymienić trzeba:
— funkcję signum:
1 gdy e > 0
0 gdy c = 0
(i + y) (i -y)
gdy |
A 1 N|1 |
gdy | |
gdy |
*>ł |
— zmodyfikowaną funkcję signum:
gdy
gdy
e > 0 e <0
— funkcję skoku jednostkowego:
— funkcję perceptronową:
gdy
gdy
gdy
gdy
c > 0 e < 0
e > 0 e < 0
— funkcję BAM (Bidircctional Associaiive Memory)
gdy e > 0 gdy c = 0 1 gdy e < 0