Sztuczne sieci

neuronowe c.d.

Sztuczne sieci neuronowe c.d.

Metody uczenia bez nadzoru

●

Metoda Hebba

●

Metoda “przyrostowa”

●

Metoda “instar learning”

●

Metoda “outstar learning”

●

Uczenie z rywalizacją , sieci

Kohonena

Sztuczne sieci neuronowe c.d.

Metoda Hebba

w

w

x y

i

m j

i

m j

i

j

m

j

( )(

)

( )( )

( ) ( )

+

=

+

1

h

Gdzie

y

w

x

m

j

i

m j

i

j

i

n

( )

( )( ) ( )

=

=

å

1

w

i

m

- waga i tego wejścia m -tego neronu

j

- numer kroku uczenia dla wektora
wejściowego

X

j

( )

h

- współczynnik szybkości uczenia

Sztuczne sieci neuronowe c.d.

Metoda Hebba - interpretacja

Wzmocnieniu ulegają te wagi , które
są aktywne (duże ), w sytuacji
gdy ich neuron jest pobudzony (duże
)

x

i

i

( )

y

m

j

( )

Sztuczne sieci neuronowe c.d.

Metoda “przyrostowa”

(

)(

)

[

]

w

w

x

x

y

y

i

m j

i

m j

i

j

i

j

m

j

m

j

( )(

)

( )( )

( )

(

)

( )

(

)

+

-

-

=

+

-

-

1

1

1

h

w

i

m

- waga i tego wejścia m -tego neronu

j

- numer kroku uczenia dla wektora
wejściowego

X

j

( )

Gdzie

h

- współczynnik szybkości uczenia

Metoda “przyrostowa” polega na uzależnieniu
procesu zmiany wag od przyrostu sygnałów
wejściowych

Sztuczne sieci neuronowe c.d.

Metoda “instar training”

w

i

m

- waga i tego wejścia m -tego neronu

j

- numer kroku uczenia dla wektora
wejściowego

X

j

( )

Gdzie

h

- współczynnik szybkości uczenia

Metoda “instar training” polega na wyborze
neuronu, któremu narzuca się taka strategię
uczenia aby potrafił rozpoznawać aktualnie
wprowadzany sygnał X

(

)

w

w

x

w

i

m j

i

m j

j

i

j

i

m j

( )(

)

( )( )

( )

( )

( )( )

+

=

+

-

1

h

Sztuczne sieci neuronowe c.d.

Metoda “outstar training”

w

i

m

- waga i tego wejścia m -tego neronu

j

- numer kroku uczenia dla wektora
wejściowego

X

j

( )

Gdzie

h

- współczynnik szybkości uczenia

Metoda “outstar training” polega na wyborze
wag neuronów całej warstwy której narzuca się
taką strategię uczenia aby potrafiła
rozpoznawać aktualnie wprowadzany sygnał

(

)

w

w

y

w

i

m j

i

m j

m

j

i

m j

( )(

)

( )( )

( )

( )( )

+

=

+

-

1

h

Sztuczne sieci neuronowe c.d.

Uczenie z rywalizacją

Uczenie z rywalizacją zostało po raz pierwszy
wykorzystane przez Kohonena i było
modyfikacją uczenia typu “instar training”.

w

w

x

w

i

m

j

i

m

j

j

i

j

i

m

j

( )(

)

( )( )

( )

( )

( )( )

*

*

*

(~

)

+

=

+

-

1

h

Wprowadzono następujące
modyfikacje

1) wektor wejściowy jest przed procesem uczenia
normalizowany

~

(

)

( )

( )

( )

x

x

x

i

j

i

j

v

j

v

n

=

=

å

2

1

Sztuczne sieci neuronowe c.d.

Uczenie z rywalizacją c.d.

2) Numer poddawanego treningowi neuronu m* nie
jest już przypadkowy, jest to bowiem ten (i tylko ten)
neuron, którego sygnał wyjściowy jest największy.
Oznacza to, że przy każdorazowym podaniu sygnału
wejściowego neurony rywalizują i wygrywa ten który
uzyskał największy sygnał wyjściowy