img187

187

Dodatek 2. Dowód twierdzenia o zbieżności procesu uczenia ...

Twierdzenie. Przy wyżej sformułowanych oznaczeniach oraz przy dodatkowym założeniu, że istnieje wektor wag V_u; v = 0,..., n, gwarantujący poprawne rozpoznawania wszystkich elementów ciągu uczącego, proces uczenia dany wzorem (D2.11) jest zbieżny do wektora V_¥; v = 0,... ,n, oraz osiąga go w skończonej liczbie kroków.

Dowód. Wprowadźmy idealny (docelowy) zbiór wag V_v\ u = 0,..., n, przy czym oczywiście przyjmujemy, że zbiór ten gwarantuje prawidłowe rozpoznawanie wszystkich elementów ciągu uczącego

e U'

£Kżt>0

i/=0

(D2.12)

Określmy wartość pomocniczą

n

m = Y    (D2.13)

” v-Q

Na podstawie (D2.12) rji > 0.

Obliczymy teraz wartość iloczynu skalarnego V_V_ ¹²(fc - 1), traktując zbiory wag jako wektory

n

£v:¹²(*+l) = ^v^,,v;²(ifc + l).    (D2.14)

i/=0

Wykorzystując (D2.ll), można zapisać:

££,v;¹²(*+i) = £

M=1

i/=0

(D2.15)

Ale z (D2.13) wynika, że

n

££,V„¹²(ifc + l) >ktn,    (D2.16)

i/=0

zaś z nierówności Cauchy’ego-Schwarza można oszacować:

n    E [K-V„^ł2(*+ l)]²

(D2.I7)

I V^l2(k + 1) |² = X>„¹²(* + !)]² >    -

"=°    E(^)²

i/=0