Sieci CP str056

56

4.4. Formy nieliniowości neuronu

który można rozpisać jako

y =

exp (ffe) - exp (- ffe)

exp (ffe) + exp (- ffe)'

Przy zastosowaniu tej funkcji y 6 (-1,1). Zaletą funkcji tangens hiperboliczny jest także prosta formula, określająca pochodną tej funkcji w zależności od jej wartości

C + »)(i-v)

Ta formula, podobnie jak wcześniej przytoczony wzór dla funkcji logistycznej, bardzo ułatwia stosowanie odpowiednich funkcji w trakcie procesu uczenia.

Aby uzyskać wartości z przedziału domkniętego y € [—1,1] stosuje się niekiedy funkcję sinus

y = sin (ffe).

a dokładniej fragment sinusoidy połączony z płaskimi asymptotami rozciągającymi dziedzinę funkcji:

gdy	HlM 1 V fu
gdy
gdy	e> |

-I

y =

i

Taka postać funkcji jest szczególnie przydatna przy budowie sieci dokonującej transformaty Fouriera wejściowego sygnału. Sieć taką badał między innymi Lapcdes [Lape87].

Niekiedy nieliniowość ma postać nie różniczkowalną, przydatną w praktycznych zastosowaniach, ale kłopotliwą do teoretycznej analizy. Z bardziej znanych nieliniowości tego typu wymienić trzeba:

funkcję signum:

V —

1

0

-l

gdy

gdy

gdy

e> 0 e = 0 c < 0

— zmodyfikowaną funkcję signum:

gdy

gdy

e > 0 e < 0

— funkcję skoku jednostkowego:

— funkcję perceptronową:

■-{

>■{

gdy	c >	0
gdy	e <	0
gdy	e >	0
gdy	e <	0
Meiih	nry):
1	gdy	e >
i/'*	gdy	c =
-I	gdy	r <

+ 1)