13321 skrypt

Liniowa rtiognoza SnnPMiOKWADRATOWA sygnałówstacjonarnych

gdzie oznacza sprzężenie, zaś E - operator uśredniania probabilistycznego. Zauważmy, że jeśli f,g 6 7,2. to mamy \fg\ < j(|/|²-ł- |g|²) i w konsekwencji fg jest całkowalna, a więc iloczyn skalamy (2.30) jest określony poprawnie. Indukuje on normę

(2.31)

---phognozy

Zatem sygnał losowy Hi,berta można interpretować jako Tuny . na T, o wartościach w przestrzeni Hilherta L₂    funkcję określoną

‘^y(t) = f{t,u)£L₂

(2.36)

oraz metrykę

Mf.n) = \\f-g\|u = (/-«./-£)l= (/,!/(“)    =

= (EI/-SI²)¹

(2.32)

Nierówność

e^pp{u : |f(u)-g(u)| >e}< JjfM ~ *(^u)\²P(^du)

(2.33)

implikuje zbieżność w 7,₂{77,9I.//} według miary, a zupełność tej przestrzeni wynika z twierdzenia Ricsza (241 Niech {77/3?,//} będzie przestrzeni.'! probabilistyczny. której elementami są zmienne losowe.

Definicja 2

Przestrzenią Hilherta Li = 7,2{77,9?,/i} zmiennych losowych przestrzeni probabilistycznej {77,9?,/i) nazywamy zbiór zmiennych losowych y = fiu), u 6 77. dla których E|y|² < co (innymi słowy - jest to zbiór zmiennych losowych o skon czonej wariancji).

Definicja 3

Dwie zmienne losowe x i y nazwiemy ortogonalnymi, jeśli

I

^{iako og}“^{ie daiszych}

Definicja 5

Zbiór zmiennych losowych

...    , .    <2-37)

będziemy nazywać liniowo niezależnym ieilidla ka>H*o_n li ,

snwych    ¹ każdego układu zmiennych lo-

6(0.    .y(l-n)} , n ₌ 0,l,...

oraz dla niezemwych skalarów

l"n-----«„} , ct^o, i = o,..

mamy

"<"    “W*'-") + «i-!,«) + ... + a„y{, -    = 0} = 0

(2.38)

(2 39)

(x,y)v = E.tv = o

(2.34)

(innymi słowy - ortogonalnośćscentrowanych zmiennych losowych oznacza ich nieskorelowanie).

Definicja 4

Sygnał losowy y(t), t 6 T nazwiemy sygnałem losowym Hilherta. jeśli

v_f€7- {r£|._v(/)|² < oo}

(2.35)

(240)

^c(k) = (>'(')'>'(' ^k))v=J_iy('-^u)yi<-CuMdu) = E>(/)y(_f -*■)    ₍2.4

Uwaga 2: Nieskorelowanie zmiennych losowych, tj.

W* -    “*))« = Ey(f - i)y(t -k) = 0

nie oznacza liniowej niezależności tych zmiennych losowych.

^Będziemy ^ “klndać. iż przestrzeń L,\1I,<%»} jest oiwdkowa. tj istnieje W mej przeliczalny zbiór liniowo niezależny (2.37) taki. że zbiór zmiennych losowych    ^J

1)

(2.42)

ZM'-')

i= I

(2.43)

24

Liniowa prognoza óredniokwadratowa sygnałów stacjonarnych

jest wszędzie gęsty w L₂ (tj. zbiór {y(/ - /)}J1₀ rozpina przestrzeń /.₂). Innymi słowy, zbiór (2.37) stanowi bazę przestrzeni 7,₂{7i_t9?,/j}

Definic ja 6

Przez

Sf = span{y(t — _fy(f *)} , i < k

(2.44)

(gdzie span(♦} oznacza przestrzeń rozpiętą na elementach {♦}) będziemy rozumieć (k - i + 1)-wymiarową podprzestrzeń ośrodkowej przestrzeni Hilherta

/-2 = M«. 91,W-

Zauważmy, żc dowolny element podprzestrzeni Sq (2 44) (przy / - 0 i k n) wyraża się jako kombinacja liniowa elementów bazy tej podprzestrzeni

&

25

111S111H

___________________Postawieńie problemu prognozy

rozwiązania zagadnienia najlepszej aproksymacji tej zmiennej losowej w podprzestrzeni 5” (2.48). rozpiętej na n obserwacjach przeszłych tego sygnału. Innymi słowy, chodzi o wyznaczenie elementu y_n(r) 6 S", leżącego w najmniejszej odległości (w sensie metryki (2.32)) od nieznanego elementu y(r); tj spełniającego warunek

dv{y{t),%{r))•= (E|>(/) -&(0I²)’ = miń Jeśli przypomnieć definicję błędu prognozy

*n(0 = v(0 ~M0

(2.49)

(2.50)

<P{‘)=’ŻM>-i) = FY'

i-0

gdzie

E = [/o.../n] , Z = (y(/) •■•}•(/ -n)|

(2.45)

(2.46)

a * oznacza transpozycję Hermitowską. Iloczyn skalarny elementów rp(/) i «//(/) wyraża się. zgodnie z (2.30) oraz (2.41), jako

(9(0.V'(0)« = 'JEv(/)v*(ł) = i;i;./iE{y(/ • i)y(i k)}g_k~

1=0 A =0

%

to warunek (2.49) jest równoważny wymaganiu minimalizacji normy wektora błędu

IM«)l|u = (*to»M'))^ł = (E|s„(/)|²)i=mm    (2.51)

czyli warunkowi minimalizacji błędu średniokwadratowego H^rn (2.16), identycznie jak w metodzie algebraicznej.

Istnienie i to jedynego elementu y„(f), spełniającego warunek (2.49) lub równoważnie (2.51) zapewnia twierdzenie o najlepszej aproksymacji (45). Mówi ono.

że

%.(r)€5; {^VP-(/)ę5;.9„(/)^y„(/) =* IM*)    ^> M-M    ⁽²'^

= Z Z/'^c(*-')«* =

/=0t=0

= F E{ f*Z) G* = FCG*

£

(2.47)

gdzie C — E{) ’)'} jest macierzą kowariancyjną sygnału y, występującą w zależności (2.28). Rozważmy obecnie //-wymiarową podprzestrzeń

Sⁿ\=span{y(t- I),...,y(t -/*)}    (2.48)

rozpiętą na /i-krokowej przeszłości (względem chwili /) obserwowanego sygnału losowego y. Załóżmy, że nieobserwowana zmienna losowa y(t) jest liniowo niezależna od obserwacji przeszłych y(t - I),..., y(t — n): tojest z jednej strony > (r) £ .Vf, z drugiej y(f) € 55.

Problem prognozy zmiennej losowej y(t) - postawiony w poprzednim podrozdziale metodą algebraiczną - w kontekście geometrycznym sprowadza się do

przy czym

MO=j(0-*.(')-L-Si

Ponadto z twierdzenia tego wynika, że y_n(t)^P(S!)y(t) 6 5?

(2.53)

(2.54)

gdzie P(S) oznacza operator projekcji ortogonalnej na przestrzel * sek. żc optymalny estymator y_n(t) zmiennej losowej y(f) dokonując projekcji ortogonalnej elementu y(t) na podprze! irz ,. matycznie pokazano na rys. 2.7.

Zauważmy, że

MO =y(0-i’.(0=>(0-^.^,W^f) = (^/-^,,CTW0 =

= /^>(5o©'57M^,) = ^/>f(⁵ii)^J'W^r) ¹ ^

26