1

Podstawy teorii miary probabilistycznej

1.1

Zbiory mierzalne –

σ–ciało zbiorów

Załóżmy, że mamy jakiś zbiór Ω. Niech

F będzie taką rodziną podzbiorów Ω, że:

• Ω ∈ F

• A ∈ F ⇒ A



∈ F

• ∀

i

∈I

A

i

∈ F ⇒



i

∈I

A

i

∈ F

Wtedy rodzinę

F nazywamy σ–ciałem zbiorów.

Gdy dana jest pewna rodzina

A podzbiorów zbioru Ω, σ–ciałem generowanym przez tą rodzinę, nazywamy naj-

mniejsze (w sensie zawierania) σ–ciało zawierające

A i oznaczamy σ(A). Można udowodnić, że σ(A) jest przekrojem

wszystkich σ–ciał zawierających

A. Gdy A ma n elementów i są one parami rozłączne, oraz spełniają warunek



n
i

=1

A

i

= Ω to σ(

A) ma 2

n

elementów.

1.2

Zbiory borelowskie

Niech Ω =

R. Wówczas σ–ciało generowane przez wszystkie zbiory otwarte zawarte w R oznaczmy przez B(R) i

nazywamy rodziną zbiorów borelowskich. Rodzina ta zawiera w szczególności wszystkie przedziały (a, b).

Funkcję f :

R → R nazywamy funkcją borelowską, gdy przeciwobrazy zbiorów postaci (−∞, a) są borelowskie.

W szczególności wszystkie funkcje ciągłe, są borelowskie (ale nie wszystkie funkcje borelowskie są ciągłe).

1.3

Miara probabilistyczna

Niech dany będzie pewien zbiór Ω i σ–ciało

F. Funkcję P : F → R

+

, spełniającą:

• P (∅) = 0,

• P (



i

∈I

A

i

) =



i

∈I

P (A

i

) dla parami rozłącznych

zbiorów A

i

.

nazywamy miarą. Jeśli dodatkowo spełniony jest warunek: P (X) = 1 to P nazywamy miarą probabilistyczną

lub prawdopodobieństwem.

Trójkę (Ω,

F, P ) nazywamy przestrzenią probabilistyczną.

2

Rozkład prawdopodobieństwa

2.1

Rozkład dyskretny

Niech (

X, F, P ) będzie przestrzenią probabilistyczną. Mówimy, że rozkład prawdopodobieństwa P jest dyskretny, jeśli

istnieje co najwyżej przeliczalny zbiór A

∈ F taki, że P (A) = 1.

2.2

Dystrybuanta rozkładu prawdopodobieństwa

Rozpatrzmy przestrzeń probabilistyczną (

R, B(R), P ). Funkcję F : R → R, daną wzorem: F (t) = P ((−∞, t)) nazywa-

my dystrybuantą rozkładu P . Dystrybuanta posiada następujące własności:

• ∀

t

∈R

0

 F (t)  1,

• F jest lewostronnie ciągła,
• F jest niemalejąca,

• F (−∞) = lim

t

→−∞

F (t) = 0,

• F (+∞) = lim

t

→+∞

F (t) = 1.

Punkty nieciągłości (punkty skokowe) F są tzw. nośnikami prawdopodobieństwa – tzn. prawdopodobieństwo

każdego takiego punktu jest niezerowe. Jeśli rozkład prawdopodobieństwa jest dyskretny, to dystrybuanta jest ponadto
stała między punktami skokowymi.

2.3

Rozkład ciągły

Mówimy, że miara probabilistyczna P określona na (

R, B(R)) jest typu ciągłego, gdy istnieje funkcja f : R → R, taka,

że P (A) =



A

f (x)dx dla dowolnego A

∈ B(R). Funkcję f nazywamy gęstością miary P .

1

Własności gęstości miary probabilistycznej

•



R

f (x)dx = 1,

• f(x) 0 prawie wszędzie (czyli zbiór punktów w

których to nie jest prawda, ma miarę równą 0).

Każda funkcja f :

R → R która spełnia te własności jest gęstością pewnego rozkładu prawdopodobieństwa.

Niech f będzie gęstością, a F dystrybuantą. Wtedy zachodzi:

F (x) = P ((

−∞, x)) =



x

−∞

f (t)dt

Dystrybuanta rozkładu typu ciągłego jest funkcją ciągłą. W punktach ciągłości f istnieje pochodna dystrybuanty i
zachodzi: f (x) = F



(x).

Uwaga. Nie każda ciągła dystrybuanta jest dystrybuantą rozkładu typu ciągłego. Istnieją rozkłady które nie są

ani ciągłe ani dyskretne.

3

Zmienna losowa

Zmienną losową

nazywamy dowolną funkcję X : Ω

→ R taką, że ∀

x

∈R

{ω : X(ω) < x} ∈ F. W przypadku gdy

F = 2

Ω

, dowolna funkcja X : Ω

→ R jest zmienną losową.

3.1

Definicje podstawowe

Niech dana będzie przestrzeń probabilistyczna (Ω,

F, P ), oraz pewna zmienna losowa X. Wówczas funkcja P

X

(A) =

P (X

−1

(A)) jest miarą probabilistyczną, oraz (

R, B(R), P

X

) jest przestrzenią probabilistyczną. Miarę P

X

nazywamy

prawdopodobieństwem generowanym przez zmienną losową X.

Mając miarę P

X

odpowiadającą pewnej zmiennej losowej X możemy więc zdefiniować pojęcie dystrybuanty

zmiennej losowej. Dystrybuantą zmiennej losowej X nazywamy funkcję F

X

:

R → R daną wzorem

1

:

F

X

(t) = P

X

((

−∞, t)) = P (X

−1

(

−∞, t)) = P (X < t).

3.2

Dyskretna zmienna losowa

Zmienną losową X nazywamy zmienną typu dyskretnego, gdy istnieje co najwyżej przeliczalny zbiór B

∈ B(R),

taki, że P

X

(B) = 1.

3.3

Ciągła zmienna losowa

Zmienną losową X zmienną typu ciągłego, gdy istnieje gęstość rozkładu prawdopodobieństwa P

X

.

3.4

Funkcja zmiennej losowej

Jeśli X jest zmienną losową, a g funkcją borelowską, to złożenie Y = g

◦ X jest również zmienną losową. Ponadto

zachodzi:

P

Y

(B) = P

g

◦X

(B) = P (

{ω : g(X(ω)) ∈ B}) = P ({ω : X(ω) ∈ g

−1

(B)

}) = P

X

(g

−1

(B))

Ponadto jeśli X jest typu ciągłego to mamy:

F

Y

(y) =



{x:g(x)<y}

f

X

(x)dx.

Jeśli dodatkowo, wiemy że g jest różniczkowalna i ściśle rosnąca (g



(x)

= 0), to:

F

Y

(y) =



y

g

−1

(−∞)

(g

−1

(t))



f

X

(g

−1

(t))dt

oraz

f

Y

(y) = f

X

(g

−1

(y))(g

−1

(y))



= f

X

(g

−1

(y))

1

g



(g

−1

(y))

.

3.5

Niezależne zmienne losowe

Zmienne losowe X

1

, X

2

, . . . , X

n

są niezależne jeżeli dla dowolnych zbiorów borelowskich B

1

, B

2

, . . . , B

n

zachodzi:

P (X

1

= B

1

∧ X

2

= B

2

∧ . . . ∧ X

n

= B

n

) = P (X

1

= B

1

)P (X

2

= B

2

)

· · · P (X

n

= B

n

)

1

Wzór podany jest na kilka sposobów – stosuje się zamiennie kilka równoważnych form zapisu.

2

3.6

Charakterystyki zmiennych losowych

3.6.1

Wartość oczekiwana

Wartością oczekiwaną zmiennej losowej X nazywamy liczbę EX.
W przypadku, gdy X jest zmienną typu ciągłego wartość oczekiwana ma wartość:

EX =



i

∈I

x

i

p

i

.

o ile szereg jest bezwzględnie zbieżny (jeśli nie jest to EX nie istnieje).
W przypadku, gdy X jest zmienną typu ciągłego o gęstości f , wartość oczekiwana wyraża się wzorem:

EX =



R

xf (x)dx

i istnieje, gdy całka jest zbieżna.

Własności wartości oczekiwanej

• X 0 ⇒ EX 0

• |EX|  E|X|

• dla a, b ∈ R zachodzi E(aX + bY ) = aEX + bEY

• dla a ∈ R zachodzi Ea = a

• E(X − EX) = 0

• E(XY ) = EX ∗ EY , gdy X i Y są niezależne

Wartość oczekiwana z funkcji zmiennej losowej

Jeśli ϕ jest funkcją borelowską, a zmienna losowa X jest typu

dyskretnego, to:

Eϕ(X) =



i

∈I

ϕ(x

i

)P (X = x

i

)

a gdy X jest typu ciągłego, o gęstości f , to:

Eϕ(X) =



R

ϕ(x)f (x)dx

3.6.2

Wariancja

Wariancją zmiennej losowej X nazywamy liczbę V ar(X) daną wzorem: V ar(X) = EX

2

− (EX)

2

.

W przypadku zmiennej losowej X typu dyskretnego zachodzi wzór: V ar(X) =



i

∈I

(x

i

− EX)

2

p

i

.

Własności wariancji

• V ar(X) 0
• V ar(cX) = c

2

V ar(X) dla c

∈ R

• V ar(X + c) = V ar(X)

• V ar(X) = 0 ⇐⇒ ∃

c

P (X = c) = 1

• V ar(X ± Y ) = V ar(X) + V ar(Y ) gdy X i Y są

niezależne

Liczbę

√

V arX nazywa się czasem odchyleniem standardowym i oznacza przez σ(X).

3.6.3

Kowariancja i współczynnik korelacji

Niech X, Y będą zmiennymi losowymi. Liczbę cov(X, Y ) = E[(X

− EX)(Y − EY )] nazywamy kowariancją zmiennych

X i Y . Kowariancję możemy wyliczyć również ze wzoru: cov(X, Y ) = EXY

− EXEY . Zauważmy, że gdy X = Y to

cov(X, Y ) = cov(X, X) = V ar(X).
TW.

|cov(X, Y )| 



V ar(X)V ar(Y )

Ponadto zachodzi: cov(aX +b, cY +d) = ac

·cov(X, Y ), cov(a

1

X

1

+a

2

X

2

, a

3

X

3

+a

4

X

4

) =



2
i

=1



4
j

=3

a

i

a

j

cov(X

i

, X

j

).

Liczbę ρ(X, Y ) =

cov

(X,Y )

√

V ar

(X)V ar(Y )

nazywamy współczynnikiem korelacji zmiennych X i Y .

Gdy ρ(X, Y ) = 0, to mówimy, że zmienne są nieskorelowane. Gdy ρ(X, Y ) =

±1 to P (X = aY +b) = 1 dla pewnych

a, b

∈ R.

3

3.6.4

Inne charakterystyki liczbowe

Zmienna typu dyskretnego

Moment zwykły rzędu r α

r

= EX

r

=



i

∈I

x

r

i

p

i

Moment centralny rzędu r μ

r

= E(X

− α

1

)

r

=



i

∈I

(x

i

− α

1

)

r

p

i

Mediana każda liczba x

0,5

spełniająca warunki F (x

0,5

)

 0, 5  lim

x

→x

0,5

F (x);



x

i

<x

0,5

p

i

 0, 5 



x

i

x

0,5

p

i

Kwantyl rzędu p każda liczba x

p

, 0 < p < 1 spełniająca warunki F (x

p

)

 p  lim

x

→x

p

F (x);



x

i

<x

p

p

i

 p 



x

i

x

p

p

i

Dominanta m

0

– punkt skokowy x

k

, różny od min(x

i

) i max(x

i

), dla którego p(x

k

) osiąga maksimum absolutne.

Zmienna typu ciągłego

Moment zwykły rzędu r α

r

= EX

r

=



R

x

r

f (x)dx

Moment centralny rzędu r μ

r

= E(X

− α

1

)

r

=



R

(x

− α

1

)

r

f (x)dx

Mediana F (x

0,5

) = 0, 5

Kwantyl rzędu p F (x

p

) = p

Dominanta m

0

– odcięta maksimum absolutnego gęstości.

3.7

Funkcja charakterystyczna

Funkcją charakterystyczną zmiennej losowej X nazywamy funkcję zespoloną ϕ :

R → C daną wzorem ϕ(t) =

Ee

itX

. W przypadku gdy X jest zmienną losową typu dyskretnego, funkcja charakterystyczna wyraża się wzorem:

ϕ(t) =



k

p

k

e

itx

k

W przypadku ciągłej zmiennej losowej X o gęstości f mamy natomiast:



R

e

itx

f (x)dx

Własności funkcji charakterystycznej

1. ϕ(0) = 1.

2.

∀

t

∈R

ϕ(t) = ϕ(

−t), gdzie ϕ(−t) oznacza liczbę zespoloną sprzężoną z ϕ(−t).

3.

∀

t

∈R

|ϕ(t)|  1.

4. ϕ jest funkcją jednostajnie ciągłą (co w szczególności oznacza, że jest ona ciągła).

5. ϕ jest funkcją rzeczywistą

⇔ rozkład zmiennej losowej X jest symetryczny względem x = 0.

6. Jeśli ϕ

X

(t) jest funkcją charakterystyczną zmiennej losowej X to, funkcją charakterystyczną zmiennej Y = aX +b

jest funkcja ϕ

Y

(t) = e

itb

ϕ

X

(at).

7. Jeżeli istnieje k-ty moment zmiennej losowej X o funkcji charakterystycznej ϕ, to ϕ jest k-krotnie różniczkowalna

i zachodzi związek α

k

= EX

k

=

1

i

k

ϕ

(k)

(0)

8. Funkcja charakterystyczna skończonej sumy niezależnych zmiennych losowych równa się iloczynowi funkcji cha-

rakterystycznych tych zmiennych.

TW. Niech F będzie dystrybuantą, zaś ϕ funkcją charakterystyczną zmiennej losowej X. Wtedy:

1. Dla a < b takich że, F jest ciągła (w tych punktach) zachodzi

lim

R

→∞

1

2π



R

−R

e

−ita

− e

−itb

it

ϕ(t)dt = F (b)

− F (a)

2. Jeśli ponadto



R

|ϕ(t)|dt  +∞, to X ma rozkład typu ciągłego, o gęstości f(x) =

1

2π



R

e

−itx

ϕ(t)dt.

Wniosek. Funkcja charakterystyczna jednoznacznie wyznacza rozkład zmiennej losowej.
TW. Jeśli ϕ jest funkcją charakterystyczną zmiennej losowej X, okresową o okresie T = 2π, to X jest zmienną typu
dyskretnego o wartościach całkowitych oraz P (X = k) =

1

2π



π

−π

e

−itk

ϕ(t)dt, k

∈ Z.

4

4

Katalog zmiennych losowych

4.1

Dyskretne

Równomierny

• p

i

=

1

n

• EX =

x

1

+...+x

n

n

Jednopunktowy

• P (x

0

) = 1

• EX = x

0

• V ar(X) = 0

• ϕ(t) = e

ita

Zero-jedynkowy

• P (1) = p, P (0) = 1 − p = q

• EX = p

• V ar(X) = pq

• ϕ(t) = pe

it

+ q

Dwumianowy (Bernouliego)

• Oznaczenie:

B(n, p),

n-liczba

prób,

p-

prawdopodobieństwo sukcesu,

• P (k) =



n

k

p

k

q

n

−k

• EX = np

• V ar(X) = npq

• ϕ(t) = (pe

it

+ q)

n

Poissona

• Oznaczenie: P(λ)

• Parametr: λ > 0

• P (k) = e

−λ λ

k

k

!

dla k

∈ N

• EX = λ

• V ar(X) = λ

• ϕ(t) = e

λ

(e

it

−1)

Geometryczny

• Oznaczenie: Geom(p).

• P (1) = p, P (0) = 1 − p

• EX = p

• V ar(X) =

1−p

p

2

• ϕ(t) =

pe

it

1−(1−p)e

it

4.2

Ciągłe

Jednostajny(równomierny)

• J((a, b)), gdzie (a, b) – przedział

• F (x) =

⎧

⎪

⎨
⎪

⎩

x

+a

b

−a

dla a

 x  b

0

dla x < a

1

dla x > b

• f(x) =



1

b

−a

dla a

 x  b

0

dla pozostałych x

• EX =

b

−a

2

• V ar(X) =

(b−a)

2

12

• Dla J((0, a)): ϕ(t) =

e

iat

−1

iat

• Dla J((−a, a)): ϕ(t) =

sin at

at

Wykładniczy

• Parametr λ > 0

• F (x) =



1

− e

−λx

dla x

0

0

dla x < 0

• f(x) =



λe

−λx

dla x

0

0

dla pozostałych x

• ϕ(t) =

λ

1+t

2

Gamma

• Oznaczenie: Γ(p, α)

• f(x) =



α

p

Γ(p)

x

p

−1

e

−αx

dla x > 0

0

dla pozostałych x

gdzie Γ(p) =



∞

0

x

p

−1

e

−x

dx, n = 1, 2, 3, . . ., Γ(n) =

(n

− 1)!

• ϕ(t) = (1 −

it

α

)

−p

• Uwaga: Γ(1, α) to rozkład wykładniczy.

• Uwaga: Γ(

n

2

,

1

2

) to tak zwany rozkład χ

2

(chi kwa-

drat) z n stopniami swobody.

Beta

• Parametry: p, q > 0

• f(x)

=



1

β

(p,q)

x

p

−1

(1

− x)

q

−1

x

∈ (0, 1)

0

w p.p.

β(p, q) :=

Γ(p)Γ(q)

Γ(p+q)

Laplace’a

• Parametr λ > 0

• f(x) =

λ

2

e

−λ|x|

dla x

∈ R

5

Normalny (Gaussowski)

• Oznaczenie N(p, σ

2

), N (0, 1) nazywamy standardo-

wym.

• F (x) =

1

√

2π



t

−∞

e

−

(t)2

2

dt

= Φ(x)

• f(x) =

1

σ

√

2π

e

−

(x−m)2

2σ2

dla x

∈ R

• EX = m

• V ar(X) = σ

2

• Dla standardowego: ϕ(t) = e

−t2

2

Cauchy’ego

• Parametry θ, λ

• F (x) =

1

2

+

1

π

arctan



x

−θ

λ

• f(x) =

1

πλ

[

1+(

x−θ

λ

)

2

)

]

• ϕ(t) = e

−|t|

• Wartość oczekiwana i wariancja są niezdefiniowane

– nie istnieją gdyż całki rozbiegają do nieskończono-
ści.

• Uwaga. Jeśli X i Y mają standardowy rozkład nor-

malny to zmienna X/Y ma rozkład Cauchy’ego z
parametrami θ = 0 i λ = 1

5

Zmienne losowe wielowymiarowe

Wektorem losowym lub zmienną losową wielowymiarową nazywamy dowolną funkcję X : Ω

→ R

n

, która spełnia

warunek:

∀

B

∈B(R

n

)

X

−1

(B)

∈ F, czyli przeciwobraz dowolnego zbioru borelowskiego z przestrzeni

2

R

n

musi należeć

do σ–ciała.

Każdą funkcję wielowymiarową X : Ω

→ R

n

możemy przestawić w postaci: X = (X

1

, X

2

, . . . , X

n

), gdzie dla

każdego 1

 i  n X

i

: Ω

→ R. Funkcja X jest zmienną losową wielowymiarową ⇐⇒ każde X

i

jest („zwykłą”)

zmienną losową.

Odwzorowanie ϕ :

R

n

→ R

m

nazywamy funkcją borelowską gdy przeciwobrazy zbiorów borelowskich z R

m

są

zbiorami borelowskim w

R

n

.

Złożenie ϕ

◦ X, gdzie X wektor losowy a ϕ funkcja borelowska, jest też wektorem losowym.

Wektor losowy jest wektorem typu dyskretnego, gdy istnieje taki co najwyżej przeliczalny zbiór B borelowski,

że P

X

(B) = 1.

Wektor losowy jest wektorem typu ciągłego, gdy istnieje funkcja f taka, że P

X

(B) =



. . .



B

f (x)dx, dla dowol-

nego B borelowskiego. Funkcję tą nazywamy gęstością (musi ona spełniać dodatkowe warunki, o czym niżej).

5.1

Dystrybuanta

Gdy X : Ω

→ R

n

jest wektorem losowym, dystrybuanta ma postać: F :

R

n

→ R, F (t

1

, t

2

, . . . , t

n

) = P

X

((

−∞, t

1

)

×

(

−∞, t

2

)

× . . . (−∞, t

n

)). W przypadku gdy n = 2 mamy: F (x, y) = P (X < x, Y < y)

dla(x, y)

∈ R

2

.

Własności

• Jest lewostronnie ciągła i niemalejąca ze względu na każdą zmienną z osoba.

• ∀

x

∈R

lim

y

→−∞

F (x, y) = 0,

∀

y

∈R

lim

x

→−∞

F (x, y) = 0

• lim

x

→∞,y→∞

F (x, y) = 1

• Dla dowolnych punktów (x

1

, y

1

), (x

2

, y

2

) takich, że x

1

 x

2

i y

1

 y

2

zachodzi nierówność F (x

2

, y

2

)

−F (x

2

, y

1

)

−

F (x

1

, y

2

) + F (x

1

, y

1

)

0

5.2

Gęstość

Własności

• P

X

(B) =



. . .



B

f (x)dx

• F (t

1

, t

2

, . . . , t

n

) =



t

1

−∞

. . .



t

n

−∞

f (t

1

, t

2

, . . . , t

n

)dt

1

dt

2

. . . dt

n

•



R

2

f (x, y)dxdy = 1

• w punktach ciągłości: f(x

1

, . . . , x

n

) =

∂

n

F

x

(x

1

,...,x

n

)

∂x

1

...∂x

n

.

Niezależność zmiennych:

∀

(x,y)∈R

2

F (x, y) = F

X

(x)F

Y

(y) lub f (x, y) = f

X

(x)f

Y

(y)

2

Zbiory borelowskie w R

n

, to σ–ciało zbiorów zawierające wszystkie zbiory otwarte z tej przestrzeni. Generowane jest np. przez wszystkie

otwarte kostki (iloczyny kartezjańskie przedziałów otwartych).

6

5.3

Rozkład brzegowy

Niech X : Ω

→ R

2

wektor losowy o dystrybuancie F . Wówczas funkcje F

X

(x) = lim

y

→∞

F (x, y) oraz F

Y

(y) =

lim

x

→∞

F (x, y) są dystrybuantami rozkładów na

R. Rozkłady te nazywamy brzegowymi.

Jeśli dodatkowo wektor losowy posiada gęstość f , to funkcje f

X

(x) =



R

f (x, y)dy oraz f

Y

(y) =



R

f (x, y)dx są

gęstościami rozkładów brzegowych na

R.

5.4

Parametry liczbowe

Wartość oczekiwana

Jeśli X = (X

1

, X

2

, . . . , X

n

) jest wektorem losowym, to wektor liczb (EX

1

, EX

2

, . . . , EX

n

)

nazywamy wartością średnią (oczekiwaną) wektora X. Jest ona określona jeśli wszystkie wartości oczekiwane EX

i

istnieją.

Jeśli ϕ :

R

n

→ R funkcja borelowska, oraz X wektor losowy typu ciągłego, to Eϕ(X) =



R

n

ϕ(x)f (x)dx.

5.5

Przykłady

Gęstości sumy, iloczynu, ilorazu zmiennych losowych:

1. U = X + Y : k

1

(u) =



R

f (x, u

− x)dx; gdy X, Y -niezależne: k

1

(u) =



R

f

1

(x)f

2

(u

− x)dx

2. U = XY : k

1

(u) =



R

f (x,

u
x

)

1

|x|

dx; gdy X, Y -niezależne: k

1

(u) =



R

f

1

(x)f

2

(

u
x

)

1

|x|

dx

3. U =

X

Y

: k

1

(u) =



R

f (uy, y)

|y|dy; gdy X, Y -niezależne: k

1

(u) =



R

f

1

(uy)f

2

(y)

|y|dy

Dwuwymiarowy rozkład normalny

ma gęstość daną wzorem:

f (x, y) =

1

2πσ

1

σ

2



1

− ρ

2

exp



−

1

2(1

− ρ

2

)

(x − μ

1

)

2

σ

2

1

− 2ρ

(x

− μ

1

)(y

− μ

2

)

σ

1

σ

2

+

(y

− μ

2

)

2

σ

2

2



dla (x, y)

∈ R

2

gdzie: μ

1

= EX, μ

2

= EY , σ

1

=

√

D

2

X > 0, σ

2

=

√

D

2

Y > 0, ρ–współczynnik korelacji zm.los. X i Y , przy czym

|ρ| < 1.

6

Zbieżność ciągów zmiennych losowych

1. Zbieżność z prawdopodobieństwem 1 (prawie na pewno, prawie wszędzie): P (

{ω : lim

n

→inf

X

n

(ω) X(ω)

}) = 1.

Oznaczenie: X

n

z pr.

1

−−−−→

(p.n.)

X.

2. Zbieżność według prawdopodobieństwa:

∀

>

0

lim

n

→∞

P (

{ω : |X

n

(ω)

− X(ω)| }) = 0. Oznaczenie: X

n

wg pr.

−−−−→

(P )

X.

3. Zbieżność według dystrybuant (zbieżność względem rozkładu, słabo zbieżny) – ciąg dystrybuant F

n

jest zbieżny

do dystrybuanty F w każdym punkcie ciągłości F . Oznaczenie: X

n

D

−−→

(s)

X.

Rodzaje zbieżności wymienione są od najsilniejszej do najsłabszej. Ze zbieżności z prawdopodobieństwem 1 wynika

zbieżność według prawdopodobieństwa, a z niej wynika zbieżność według dystrybuant.

Następujące warunki są równoważne ze zbieżnością z prawdopodobieństwem 1:

• ∀

>

0

lim

k

→∞



∞
n

=k

{|X

n

− X| < } = 1

• ∀

>

0

lim

k

→∞



∞
n

=k

{|X

n

− X| } = 0

6.1

Twierdzenie o ciągłości

Ciąg (X

n

)

n

jest zbieżny według rozkładu do X wtedy i tylko wtedy, gdy ciąg funkcji charakterystycznych ϕ

n

jest

zbieżny w każdym punkcie do funkcji ciągłej ϕ. Takie ϕ jest funkcją charakterystyczną zmiennej X.

7

7

Prawa wielkich liczb i twierdzenia graniczne

Słabe prawo wielkich liczb.

Niech X

n

będzie ciągiem zmiennych losowych, m

k

= EX

k

, S

n

=



n
k

=1

X

n

. Jeżeli

ciąg



n
k=1

(X

k

−m

k

)

n

zbiega według prawdopodobieństwa do 0 to mówimy, że X

n

spełnia słabe prawo wielkich liczb

(SPWL). Warunek z definicji można równoważnie zapisać:

∀

>

0

lim

n

→∞

P (

|

S

n

−ES

n

n

| ) = 0.

Tw. Czebyszewa Ciąg niezależnych zmiennych losowych X

n

spełnia SPWL, gdy istnieją wartości oczekiwane E(X

i

)

i wariancje σ

2

i

zmiennych X

i

istnieją i są wspólnie ograniczone (tzn.

∃

σ

2

∀

n

V ar(S

n

)

 σ

2

).

Tw. Markowa Ciąg zmiennych losowych X

n

spełnia SPWL, gdy istnieją wartości oczekiwane E(X

i

) i wariancje σ

2

i

zmiennych X

i

oraz lim

n

→∞

V ar

(S

n

)

n

2

= 0.

Wniosek Jeśli X

n

ciąg niezależnych zmiennych losowych o jednakowym rozkładzie, dla którego istnieje wariancja,

to ciąg ten spełnia SPWL.

Tw. Chinczyna Ciąg niezależnych zmiennych losowych o jednakowych rozkładach i wspólnej wartości oczekiwanej

spełnia SPWL.

Mocne prawo wielkich liczb.

X

n

jest ciągiem zmiennych losowych, m

k

= EX

k

. Ciąg X

n

spełnia mocne prawo

wielkich liczb (MPWL), gdy ciąg



n
k=1

(X

k

−m

k

)

n

zbiega do 0 z prawdopodobieństwem jeden.

Uwaga. Jeśli ciąg spełnia MPWL to spełnia też SPWL.

Tw. Kołomogorowa Jeśli X

n

są niezależne, V ar(X

n

) istnieją oraz szereg



∞
n=1

V ar

(X

n

)

n

2

jest zbieżny, to (X

n

)

n

spełnia MPWL.

Wniosek Jeśli (X

n

)

n

jest ciągiem niezależnych zmiennych losowych o jednakowym rozkładzie i

∀

n

V ar(X

n

) = σ

2

<

+

∞, to X

n

spełnia MPWL.

Wniosek Jeśli X

n

spełnia założenia tw. Czybyszewa to spełnia MPWL.

Centralne twierdzenie graniczne Lindeberga-Levy’ego.

Jeżeli

{X

n

} jest losowym ciągiem niezależnych zmien-

nych o jednakowym rozkładzie, o wartości przeciętnej α

1

i skończonej wariancji σ

2

> 0, to ciąg (F

n

) dystrybuant

standaryzowanych średnich arytmetycznych X

n

(standaryzowanych sum



n
i

=1

X

i

) Y

n

=

X

n

−α

1

σ

√

n

=



n
i=1

X

i

−nα

1

σ

√

n

jest

zbieżny do dystrybuanty Φ rozkładu N (0, 1): lim

n

→∞

F

n

(y) =

1

√

2π



y

−∞

e

−

1

2

t

2

dt

≡ Φ(y)

8