187


Dodatek 2. Dowód twierdzenia o zbieżności procesu uczenia ...

Twierdzenie. Przy wyżej sformułowanych oznaczeniach oraz przy dodatkowym założeniu, że istnieje wektor wag Vu; v = 0,..., n, gwarantujący poprawne rozpoznawania wszystkich elementów ciągu uczącego, proces uczenia dany wzorem (D2.11) jest zbieżny do wektora V¥; v = 0,... ,n, oraz osiąga go w skończonej liczbie kroków.

Dowód. Wprowadźmy idealny (docelowy) zbiór wag Vv\ u = 0,..., n, przy czym oczywiście przyjmujemy, że zbiór ten gwarantuje prawidłowe rozpoznawanie wszystkich elementów ciągu uczącego

e U'


£Kżt>0


i/=0


(D2.12)


Określmy wartość pomocniczą

n

m = Y    (D2.13)

” v-Q

Na podstawie (D2.12) rji > 0.

Obliczymy teraz wartość iloczynu skalarnego V_V_ 12(fc - 1), traktując zbiory wag jako wektory

n

£v:12(*+l) = ^v,,v;2(ifc + l).    (D2.14)

i/=0

Wykorzystując (D2.ll), można zapisać:

££,v;12(*+i) = £


M=1


i/=0


(D2.15)


Ale z (D2.13) wynika, że

n

££,V„12(ifc + l) >ktn,    (D2.16)

i/=0

zaś z nierówności Cauchy’ego-Schwarza można oszacować:

n    E [K-V„ł2(*+ l)]2

(D2.I7)


I Vl2(k + 1) |2 = X>„12(* + !)]2 >    -

"=°    E(^)2

i/=0