Aleksander
Brzeziński
a.b
rzezinski@gik.p
w.edu.pl,
tel.
0607/211-589
STOCHASTYCZNE
MODELO
W
ANIE
SZEREGÓ
W
CZASO
WYCH
p
ro
cesy
auto
regresji
Kierunek:
Geo
dezja
i
Ka
rtografia
semestr:
II
2014/2015
notatki
do
wykładu
w
dniu
18.11.2014
r.
Zalecana
lektura:
Bendat
J.
S.,
A.
G.
Piersol,
1976,
Meto
dy
analizy
i
p
omia
ru
sygnał
ó
w
loso
wych,
PWN,
W
arsza
w
a
Bo
x
G.E.P
.,
G.M.
Jenkins,
1983,
Analiza
szeregó
w
czaso
wych,
p
rognozo
w
anie
i
stero
w
anie,
PWN
W
arsza
w
a
(o
ryg.
wyd.
z
1976
roku)
Ma
rple
Jr.
S.L.,
1987,
Digital
sp
ectral
analysis
with
applications,
Prentice-Hall,
Englew
o
o
d
Cliffs,
New
Jersey
,
USA
Gelb
A.
(ed.),
1986,
Applied
optimal
estimation,
MIT
Press,
Camb
ridge
MA
(ninth
p
rinting,
first
edition
1974)
Elemen
ty
teorii
pro
cesó
w
sto
c
hast
yczn
yc
h
Pro
cesy
loso
w
e
Pro
ces
loso
wy
zależny
o
d
czasu,
mamy
dostępny
zbió
r
realizacji
{
x
(t
)}
.
Pr
o
ces
stacjonarny
:
cha
rakteryst
yki
stat
yst
yczne
(gęstość
rozkł
adu,
moment
y,
itd.)
nie
zależą
o
d
czasu.
W
dalszym
ciągu
b
ędziemy
na
ogół
zakł
adać
stacjona
rność
p
ro
cesó
w.
F
unkcja
kor
elacji
(interkor
elacji)
dw
ó
ch
p
ro
cesó
w
{
x
(t
)}
,
{
y
(t
)}
jest
zdefinio
w
ana
ró
wna-
niem
φ
xy
(τ
)
=
E
[x
(t
)y
(t
+
τ
))]
,
(1)
w
któ
rym
E
ozancza
w
artość
o
czekiw
aną,
t
–
czas
a
τ
–
op
óźnienie
czaso
w
e.
P
o
dsta
wienie
y
=
x
daje
funkcję
autokor
elacji
φ
xx
(τ
)
=
E
[x
(t
)x
(t
+
τ
))]
.
(2)
Wł
asności
funk
cji
ko
relacji
(dla
zmiennych
rzeczywist
ych)
φ
xx
(0)
=
E
[x
2
]
(3)
φ
xx
(−
τ
)
=
φ
xx
(τ
)
(4)
φ
xy
(−
τ
)
=
φ
y
x
(τ
)
(5)
φ
xx
(0)
φ
xx
(τ
)
(6)
Er
go
dyczność
pr
o
cesu
:
zakł
adamy
,
że
pa
rametry
stat
yst
yczne
p
ro
cesu
loso
w
ego
można
wyde-
duk
ow
ać
p
op
rzez
uśrednianie
względem
czasu
p
ojedynczej
realizacji.
E
[x
]
=
lim
T
→∞
1
2
T
T
∫
−
T
x
(t
)dt.
(7)
E
[x
2
]
=
lim
T
→∞
1
2
T
T
∫
−
T
x
2
(t
)dt.
(8)
φ
xx
(τ
)
=
lim
T
→∞
1
2
T
T
∫
−
T
x
(t
)x
(t
+
τ
)dt.
(9)
φ
xy
(τ
)
=
lim
T
→∞
1
2
T
T
∫
−
T
x
(t
)y
(t
+
τ
)dt.
(10)
Zadanie
:
Wyk
azać
z
definicji,
że
p
ro
ces
x
(t
)
=
A
sin(
ω
t
+
θ
),
w
któ
rym
θ
jest
zmienną
loso
w
ą
o
rozkł
adzie
jednostajnym
na
p
rzedziale
[0
,2
π
],
jest
p
ro
cesem
stacjona
rnym
i
ergo
dycznym.
(Przykł
ad
2.2-2
z
książki
(Gelb,
1974)).
F
unkcja
gęstości
widmowej
Zdefiniujmy
ukł
ad
linio
wy
następującym
ró
wnaniem
y
(t
)
=
t
∫
−∞
x
(τ
)w
(t,
τ
)dτ
,
(11)
w
któ
rym
x
(t
),
y
(t
)
są
funk
cjami
na
w
ejściu
i
na
wyjściu,
natomiast
w
(t,
τ
)
jest
funkcją
wagową
ukł
adu.
Dla
ukł
adó
w
nie
zmieniających
się
w
czasie
w
(t,
τ
)
=
w
(t
−
τ
)
i
p
o
p
o
dsta
wieniu
o
raz
p
rost
ych
p
rzekształ
ceniach
otrzymujemy
wyrażenie
y
(t
)
=
∞
∫
0
w
(τ
)x
(t
−
τ
)dτ
,
(12)
któ
re
wyraża
op
erację
splotu
.
Przyjmując,
że
x
(t
)
i
y
(t
)
są
realizacjami
p
ro
cesó
w
loso
wych,
możemy
otrzymać
z
ostatniego
ró
wnania
szereg
w
ażnych
zależności
między
momentami
tych
p
ro
cesó
w
E
[y
]
=
E
[x
]
∞
∫
0
w
(t
)dt
(13)
E
[y
2
]
=
∞
∫
0
dτ
1
w
(τ
1
)
∞
∫
0
dτ
2
w
(τ
2
)
φ
xx
(τ
1
−
τ
2
)
(14)
φ
y
y
(τ
)
=
∞
∫
0
dτ
1
w
(τ
1
)
∞
∫
0
dτ
2
w
(τ
2
)
φ
xx
(τ
+
τ
1
−
τ
2
)
(15)
φ
xy
(τ
)
=
∞
∫
0
w
(τ
1
)
φ
xx
(τ
−
τ
1
)
dτ
1
(16)
T
ransfo
rmata
F
ouriera
funk
cji
autok
orelacji
p
ro
cesu
loso
w
ego
{
x
(t
)}
Φ
xx
(ω
)
=
∞
∫
−∞
φ
xx
(τ
)
exp(
−
iω
τ
)dτ
,
(17)
jest
nazyw
ana
funkcją
gęstości
widmowej
mo
cy
tego
p
ro
cesu.
Oznacza
się
ją
z
reguły
skrótem
PSD
o
d
p
ower
sp
ectr
al
density
.
W
ostatnim
wzo
rze
i
oznacza
jednostk
ę
urojoną,
a
ω
jest
częstotliw
ością
kąto
w
ą
(w
radianach
na
jednostk
ę
czasu).
Zastoso
w
anie
o
dwrotnej
transfo
rmat
y
F
ouriera
p
ro
w
adzi
do
wzo
ru
φ
xx
(τ
)
=
1
2
π
∞
∫
−∞
Φ
xx
(ω
)
exp(
iω
τ
)
dω
.
(18)
P
o
dsta
wiając
τ
=
0
otrzymujemy
wzó
r
na
w
artość
średniokw
adrato
w
ą
p
ro
cesu
E
[x
2
]
=
φ
xx
(0)
=
1
2
π
∞
∫
−∞
Φ
xx
(ω
)
dω
.
(19)
Z
p
o
wyższego
wzo
ru
widzimy
,
że
określenie
“mo
c”
o
dnosi
się
do
drugiego
momentu
p
ro
cesu.
Całk
ow
anie
PSD
daje
całk
owitą
mo
c,
czyli
średnią
w
artość
kw
adratu
amplitudy
p
ro
cesu.
Ogra-
niczenie
całk
ow
ania
do
p
rzedziału
[ω
1
,ω
2
]
p
ro
w
adzi
do
oszaco
w
ania,
jak
a
część
mo
cy
p
ro
cesu
p
o
cho
dzi
z
tego
pasma
częstotliw
ości.
T
ransfo
rmata
F
ouriera
funk
cji
wzajemnej
ko
relacji
definiuje
funkcję
wzajemnej
gęstości
wid-
mowej
CPSD
(cr
oss
p
ower
sp
ectr
al
density
)
p
ro
cesó
w
loso
wych
{
x
(t
)}
i{
y
(t
)}
Φ
xy
(ω
)
=
∞
∫
−∞
φ
xy
(τ
)
exp(
−
iω
τ
)dτ
.
(20)
Biały
szum
Jest
on
zdefinio
w
any
jak
o
p
ro
ces,
któ
rego
funk
cja
gęstości
widmo
w
ej
jest
stał
a
Φ
nn
(ω
)
=
Φ
0
.
Odp
o
wiadająca
funk
cja
autok
orelacji
wyraża
się
wzo
rem
φ
nn
(τ
)
=
1
2
π
∞
∫
−∞
Φ
0
exp(
iω
τ
)
dω
=
Φ
0
δ
(τ
),
(21)
w
któ
rym
δ
(τ
)
oznacza
deltę
Diraca.
Ze
wzo
ru
na
w
artość
średniokw
adrato
w
ą
p
ro
cesu
loso
w
ego
otrzymujemy
E
[
n
2
]
=
φ
nn
(0)
=
Φ
0
δ
(0)
,
a
zatem
wielk
ość
niesk
ończoną.
Wynik
a
stąd,
że
biały
szum
nie
daje
się
fizycznie
zrealizo
w
ać.
Jest
to
abstrak
cyjny
tw
ór,
któ
ry
stano
wi
użyteczną
ap
roksymację
dla
wielu
rzeczywist
ych
sytuacji.
Szerok
ą
klasę
p
ro
cesó
w
sto
chast
ycznych
można
opisać
w
p
ostaci
ukł
adu
linio
w
ego,
któ
rego
w
ejściem
jest
biały
szum.
Uwaga
:
W
naturalny
sp
osób
wp
ro
w
adza
się
p
ro
cesy
loso
w
e
o
w
artościach
zesp
olonych.
Niektó
re
z
w
cześniejszych
definicji
wymagają
mo
dyfik
acji,
np.
funk
cja
ko
relacji
p
rzyjmie
p
ostać
φ
xy
(τ
)
=
E
[x
(t
)y
∗
(t
+
τ
))]
,
(22)
gdzie
y
∗
oznacza
sp
rzężenie
liczb
y
zesp
olonej
y
,
tzn.
(a
+
bi
)
∗
=
a
−
bi
.