Sieci CP str057

57

Rozdzia.1 4. Nieliniowe sieci neuronowe

— funkję BSB (Rrain State in a Uoz):

1 gdy e > 1 e gdy I >0—1 -1 gdy c < — 1

(    1 gdy e. > 1

V = <    e gdy I >0-1

l -1 gdy e < —1

— funkcję SPR (Spa i io- Tempo rai Patiem Recognition)

gdzie „funkcja ataku” /![.] definiowana jest w sposób następujący:

a 2apis e⁺ oznacza nieujenmą wartość e:

Podane wyżej funkcje wywodzą się głównie z publikacji inżynierów stosujących sieci neuronowe jako wygodne nowoczesne narzędzia przetwarzania informacji i poszukujących takich form opisu elementarnego procesora (jakim jest dla nich neuron), które pozwalają na wygodną analizę matematyczną zachodzących zjawisk (sigtnoida), łatwą realizację techniczną (perceptron) lub wygodne modelowanie w formie programu symulacyjnego (signum). Tymczasem odmienne formy nieliniowości rozważają neurofizjologowie zajmujący się opisem neuronu jako obiektu biologicznego będącego przedmiotem ich badań. Tutaj chętnie stosuje się w różnych kontekstach funkcję logarytmiczną (nawiązującą do znanego prawa Webera — Fechnera). Oczywiście t.ę listę można by dowolnie wydłużać.

4.5 Uczenie nieliniowego neuronu

Rozważmy problem uczenia nieliniowych sieci neuronowych. Dla uproszczenia przyjmijmy, że analizować będziemy wyłącznie regułę DELTA w jej podstawowej postaci. Wzór opisujący zmianę wartości składowych wektora wag podczas prezentacji próbek z ciągu uczącego

wygodnie będzie wyprowadzić początkowo dla jednego neuronu. Formuły uczenia szukać będziemy opierając się na wprowadzonej wyżej (przy rozważaniu sieci Adaline i Madaline) regule minimalizacji funkcjonału błędu średniokwadratowego:

gdzie oczywiście