Sztuczne sieci
neuronowe c.d.
Sztuczne sieci
neuronowe c.d.
Sztuczne sieci neuronowe c.d.
Metody uczenia bez nadzoru
●
Metoda Hebba
●
Metoda “przyrostowa”
●
Metoda “instar learning”
●
Metoda “outstar learning”
●
Uczenie z rywalizacją , sieci
Kohonena
Sztuczne sieci neuronowe c.d.
Metoda Hebba
w
w
x y
i
m j
i
m j
i
j
m
j
( )(
)
( )( )
( ) ( )
+
=
+
1
h
Gdzie
y
w
x
m
j
i
m j
i
j
i
n
( )
( )( ) ( )
=
=
å
1
w
i
m
- waga i tego wejścia m -tego neronu
j
- numer kroku uczenia dla wektora
wejściowego
X
j
( )
h
- współczynnik szybkości uczenia
Sztuczne sieci neuronowe c.d.
Metoda Hebba - interpretacja
Wzmocnieniu ulegają te wagi , które
są aktywne (duże ), w sytuacji
gdy ich neuron jest pobudzony (duże
)
x
i
i
( )
y
m
j
( )
Sztuczne sieci neuronowe c.d.
Metoda “przyrostowa”
(
)(
)
[
]
w
w
x
x
y
y
i
m j
i
m j
i
j
i
j
m
j
m
j
( )(
)
( )( )
( )
(
)
( )
(
)
+
-
-
=
+
-
-
1
1
1
h
w
i
m
- waga i tego wejścia m -tego neronu
j
- numer kroku uczenia dla wektora
wejściowego
X
j
( )
Gdzie
h
- współczynnik szybkości uczenia
Metoda “przyrostowa” polega na uzależnieniu
procesu zmiany wag od przyrostu sygnałów
wejściowych
Sztuczne sieci neuronowe c.d.
Metoda “instar training”
w
i
m
- waga i tego wejścia m -tego neronu
j
- numer kroku uczenia dla wektora
wejściowego
X
j
( )
Gdzie
h
- współczynnik szybkości uczenia
Metoda “instar training” polega na wyborze
neuronu, któremu narzuca się taka strategię
uczenia aby potrafił rozpoznawać aktualnie
wprowadzany sygnał X
(
)
w
w
x
w
i
m j
i
m j
j
i
j
i
m j
( )(
)
( )( )
( )
( )
( )( )
+
=
+
-
1
h
Sztuczne sieci neuronowe c.d.
Metoda “outstar training”
w
i
m
- waga i tego wejścia m -tego neronu
j
- numer kroku uczenia dla wektora
wejściowego
X
j
( )
Gdzie
h
- współczynnik szybkości uczenia
Metoda “outstar training” polega na wyborze
wag neuronów całej warstwy której narzuca się
taką strategię uczenia aby potrafiła
rozpoznawać aktualnie wprowadzany sygnał
(
)
w
w
y
w
i
m j
i
m j
m
j
i
m j
( )(
)
( )( )
( )
( )( )
+
=
+
-
1
h
Sztuczne sieci neuronowe c.d.
Uczenie z rywalizacją
Uczenie z rywalizacją zostało po raz pierwszy
wykorzystane przez Kohonena i było
modyfikacją uczenia typu “instar training”.
w
w
x
w
i
m
j
i
m
j
j
i
j
i
m
j
( )(
)
( )( )
( )
( )
( )( )
*
*
*
(~
)
+
=
+
-
1
h
Wprowadzono następujące
modyfikacje
1) wektor wejściowy jest przed procesem uczenia
normalizowany
~
(
)
( )
( )
( )
x
x
x
i
j
i
j
v
j
v
n
=
=
å
2
1
Sztuczne sieci neuronowe c.d.
Uczenie z rywalizacją c.d.
2) Numer poddawanego treningowi neuronu m* nie
jest już przypadkowy, jest to bowiem ten (i tylko ten)
neuron, którego sygnał wyjściowy jest największy.
Oznacza to, że przy każdorazowym podaniu sygnału
wejściowego neurony rywalizują i wygrywa ten który
uzyskał największy sygnał wyjściowy