dr Tomasz Walczyński –

Statystyka (I rok Chemii, specjalności ChK, ChPiS, ACh) - Wykład 6. cz. II (26.03.2014 r.)

1

6. Prawa wielkich liczb i twierdzenia graniczne

6.1. Rodzaje zbieżności ciągów zmiennych losowych

•

Niech

X

1,

X

2,



oraz X będą zmiennymi określonymi na przestrzeni

probabilistycznej (Ω , Α , P) . Zdefiniujemy teraz różne rodzaje zbieżności ciągu
zmiennych losowej

{

X

n

, n1}

do granicy X. Podamy też związki zachodzące

między tymi typami zbieżności.

Zbieżność punktowa

Mówimy, że ciąg zmiennych losowych

{

X

n

, n1}

jest zbieżny do zmiennej

losowej X punktowo (lub po prostu zbieżny), jeżeli

lim

n  ∞

X

n

=

X 

dla każdego

∈

.

W rachunku prawdopodobieństwa zbieżność punktowa nie odgrywa szczególnej roli

(jest bardzo ważna w analizie matematycznej)

dr Tomasz Walczyński –

Statystyka (I rok Chemii, specjalności ChK, ChPiS, ACh) - Wykład 6. cz. II (26.03.2014 r.)

2

Zbieżność prawie pewna

Mówimy, że ciąg zmiennych losowych

{

X

n

, n1}

jest zbieżny prawie pewnie

(prawie wszędzie, prawie zawsze, z prawdopodobieństwem 1) do zmiennej losowej X,

jeżeli P {∈ : lim

n ∞

X

n

=

X }=1 .

Zbieżność tę oznaczamy symbolem X

n



p.p.

X lub X

n



p.w.

X lub X

n



a.s.

X lub

X

n



1

X lub X

n



X z prawdopodobieństwem 1.

Oczywiście, jeżeli ciąg zmiennych losowych

{

X

n

, n1}

jest zbieżny punktowo do

zmiennej losowej X, to jest on również prawie pewnie zbieżny do zmiennej losowej X.
Stwierdzenie odwrotne nie jest prawdziwe.

dr Tomasz Walczyński –

Statystyka (I rok Chemii, specjalności ChK, ChPiS, ACh) - Wykład 6. cz. II (26.03.2014 r.)

3

Zbieżność według prawdopodobieństwa

Mówimy, że ciąg zmiennych losowych

{

X

n

, n1}

jest zbieżny według

prawdopodobieństwa do zmiennej losowej X, jeżeli

dla każdego



0

P {∈ :

∣

X

n

−

X 

∣

 } 

0 , gdy

n ∞

.

Zbieżność tę oznaczamy symbolem X

n



P

X .

Zbieżność słaba (według rozkładu)

Mówimy, że ciąg zmiennych losowych

{

X

n

, n1}

jest zbieżny słabo (według

rozkładu) do zmiennej losowej X, jeżeli lim

n  ∞

F

n



x=F  x w każdym punkcie x ciągłości

funkcji F, gdzie

F

n

jest dystrybuantą zmiennej losowej X

n

,

n=1, 2 ,

, a F jest

dystrybuantą zmiennej losowej X.

Zbieżność tę oznaczamy symbolem X

n

⇒

X lub X

n



D

X .

dr Tomasz Walczyński –

Statystyka (I rok Chemii, specjalności ChK, ChPiS, ACh) - Wykład 6. cz. II (26.03.2014 r.)

4

Zbieżność w L

p

(według p-tej średniej)

Mówimy, że ciąg zmiennych losowych

{

X

n

, n1}

jest zbieżny w L

p

do zmiennej

losowej X, jeżeli

E

∣

X

n

−

X

∣

p



0

, gdy

n ∞

, gdzie

0 p∞

.

Zbieżność tę oznaczamy symbolem X

n



L

p

X .

Spełnione są następujące implikacje:

( X

n



p.p.

X ) ⇒ ( X

n



P

X )

( X

n



L

p

X ) ⇒ ( X

n



P

X )

( X

n



P

X ) ⇒ ( X

n



D

X )

dr Tomasz Walczyński –

Statystyka (I rok Chemii, specjalności ChK, ChPiS, ACh) - Wykład 6. cz. II (26.03.2014 r.)

5

6.2. Prawa wielkich liczb

Niech

{

X

n

, n1}

będzie dowolnym ciągiem zmiennych losowych. Niech

S

n

=

∑

i=1

n

X

i

oznacza sumę (n-tą sumę częściową) zmiennych losowych

X

1

, X

2

, , X

n

.

Będziemy mówić, że ciąg zmiennych losowych

{

X

n

, n1}

spełnia słabe prawo

wielkich liczb (SPWL), jeżeli istnieją ciągi liczb rzeczywistych {A

n

, n1}

i {B

n

, n1} i B

n



0 , n1 , takie, że

S

n

−

A

n

B

n



P

0 ,gdy

n ∞

.

Będziemy mówić, że ciąg zmiennych losowych

{

X

n

, n1}

spełnia mocne prawo

wielkich liczb (MPWL), jeżeli istnieją ciągi liczb rzeczywistych {A

n

, n1}

i {B

n

, n1} i B

n



0 , n1 , takie, że

S

n

−

A

n

B

n



p.p.

0 , gdy

n ∞

.

dr Tomasz Walczyński –

Statystyka (I rok Chemii, specjalności ChK, ChPiS, ACh) - Wykład 6. cz. II (26.03.2014 r.)

6

Oczywiście jeśli ciąg zmiennych losowych

{

X

n

, n1}

spełnia MPWL to spełnia

również SPWL. W szczególności przyjmuje się, że A

n

=

ES

n

=

∑

i=1

n

EX

i

i B

n

=

n .

Twierdzenie 6.1. (SPWL Bernoulliego)

Jeżeli p jest prawdopodobieństwem sukcesu w ciągu n niezależnych doświadczeń

Bernoulliego, natomiast S

n

jest liczbą sukcesów, czyli P S

n

=

k =



n

k



p

k



1− p

n−k

,

k =0,1, 2 , , n , to

S

n

n



P

p , gdy

n ∞

.

dr Tomasz Walczyński –

Statystyka (I rok Chemii, specjalności ChK, ChPiS, ACh) - Wykład 6. cz. II (26.03.2014 r.)

7

Twierdzenie 6.2. ( SPWL Czebyszewa)

Niech

{

X

n

, n1}

będzie dowolnym ciągiem niezależnych zmiennych losowych

takim, że EX

n

=

a

n

, E  X

n

−

a

n



2

=

n

2

∞

,

n1

. Jeżeli

1

n

2

∑

i=1

n



i

2



0

, gdy

n ∞

,

to

S

n

−

ES

n

n



P

0 , gdy

n ∞

.

Zauważmy, że jeżeli wariancje 

i

2

są wspólnie ograniczone, tzn. istnieje takie 

2

,

że σ

i

2

≤σ

2

, dla

i1

, to warunek

1

n

2

∑

i=1

n



i

2



1

n

2

∑

i=1

n



2



n

2

n

2

=



2

n



0 , gdy

n ∞

jest spełniony, czyli zachodzi SPWL.

dr Tomasz Walczyński –

Statystyka (I rok Chemii, specjalności ChK, ChPiS, ACh) - Wykład 6. cz. II (26.03.2014 r.)

8

Twierdzenie 6.3. (SPWL Poissona)

Niech

{

X

n

, n1}

będzie dowolnym ciągiem niezależnych zmiennych losowych

takim, że P  X

n

=

1= p

n

, P  X

n

=

0=1− p

n

,

0 p

n



1

,

n1

. Wtedy

S

n

−

ES

n

n



P

0 , gdy

n ∞

.

Twierdzenie 6.4. (

SPWL Chinczyna

)

Niech

{

X

n

, n1}

będzie dowolnym ciągiem niezależnych zmiennych losowych

o jednakowym rozkładzie takim, że E

∣

X

1

∣

∞

i

EX

1

=

m

. Wtedy

S

n

−

ES

n

n

=

S

n

n

−

m 

P

0 , czyli

S

n

n



P

m , gdy

n ∞

.

dr Tomasz Walczyński –

Statystyka (I rok Chemii, specjalności ChK, ChPiS, ACh) - Wykład 6. cz. II (26.03.2014 r.)

9

Twierdzenie 6.5. (MPWL Borela)

Jeżeli P S

n

=

k =



n

k



p

k



1− p

n−k

,

k =0, 1, 2 , , n

, to

S

n

n



p.p.

p , gdy

n ∞

.

Twierdzenie 6.6. (MPWL Kołmogorowa)

Niech

{

X

n

, n1}

będzie dowolnym ciągiem niezależnych zmiennych losowych.

Niech {b

n

, n1} będzie dowolnym ciągiem niemalejących liczb rzeczywistych takim,

że

b

n

∞

, gdy

n ∞

. Jeżeli

∑

n=1

∞

VarX

n

b

n

2

∞

, to

S

n

−

ES

n

b

n

2



p.p.

0 , gdy

n ∞

.

W szczególności, jeżeli

∑

n=1

∞

VarX

n

n

2

∞

, to

S

n

−

ES

n

n



p.p.

0 , gdy

n ∞

.

dr Tomasz Walczyński –

Statystyka (I rok Chemii, specjalności ChK, ChPiS, ACh) - Wykład 6. cz. II (26.03.2014 r.)

10

Twierdzenie 6.7. (

MPWL Kołmogorowa

)

Niech

{

X

n

, n1}

będzie dowolnym ciągiem niezależnych zmiennych losowych

o jednakowym rozkładzie, takim, że E

∣

X

1

∣

∞

i

EX

1

=

m

. Wtedy

S

n

−

ES

n

n

=

S

n

n

−

m 

p.p.

0 , czyli

S

n

n



p.p.

m , gdy

n ∞

.

6.3. Twierdzenia graniczne

Twierdzenia graniczne dotyczą granicznego zachowania się rozkładów sum

zmiennych losowych. Dzielimy je na dwie grupy:

–

lokalne twierdzenia graniczne;

–

integralne twierdzenia graniczne.

Lokalne twierdzenia graniczne dotyczą granicznego zachowania się ciągu funkcji

gęstości lub ciągu prawdopodobieństw.

Integralne twierdzenia graniczne dotyczą rozkładów sum zmiennych losowych.

dr Tomasz Walczyński –

Statystyka (I rok Chemii, specjalności ChK, ChPiS, ACh) - Wykład 6. cz. II (26.03.2014 r.)

11

Dokładniej, twierdzenia te podają warunki na to, aby

S

n

−

A

n

B

n

⇒

X ,

gdzie X jest pewną zmienną losową,

S

n

=

X

1



X

n

, n1 , {A

n

, n1} ,

{

B

n

, n1} , B

n



0 są pewnymi ciągami liczb rzeczywistych.

Szczególnie ważną rolę odgrywają twierdzenia podające warunki na zbieżność

(według rozkładu) do zmiennej losowej o standardowym rozkładzie normalnym N 0,1 .
Twierdzenia te nazywamy centralnymi twierdzeniami granicznymi.

Twierdzenie 6.7. (Poissona)

Jeżeli P S

n

=

k =



n

k



p

n

k



1− p

n



n−k

,

k =0,1, 2,... , n

, 0 p

n



1

oraz

np

n



0

, gdy

n∞

, to

lim

n ∞

P S

n

=

k =



k

k!

e

−

, k =0, 1,2, ... .

dr Tomasz Walczyński –

Statystyka (I rok Chemii, specjalności ChK, ChPiS, ACh) - Wykład 6. cz. II (26.03.2014 r.)

12

Twierdzenie 6.8.

(Centralne twierdzenie graniczne Lindeberga-Levy'ego)

Niech

{

X

n

, n1}

będzie dowolnym ciągiem niezależnych zmiennych losowych

o jednakowym rozkładzie, takim, że EX

1

=

m , E  X

1

−

EX

1



2

=

2

∞

.

Wtedy dla dowolnego

x ∈R

P

(

S

n

−

ES

n

√

VarS

n

⩽

x

)

=

P

(

S

n

−

nm

σ

√

n

⩽

x

)

→Φ(

x) , gdy

n∞

,

gdzie x jest dystrybuantą standardowego rozkładu normalnego.

Twierdzenie 6.9.

(Twierdzenie de Moivre'a-Laplace'a)

Jeżeli P S

n

=

k =



n

k



p

k



1− p

n−k

,

k =0,1, 2,... , n

, to dla dowolnych

a , b∈R

,

a<b , lim

n ∞

P



a

S

n

−

np



npq



b



= 

b− a

dr Tomasz Walczyński –

Statystyka (I rok Chemii, specjalności ChK, ChPiS, ACh) - Wykład 6. cz. II (26.03.2014 r.)

13

6.4. Podstawowe nierówności

Podamy teraz podstawowe nierówności stosowane w rachunku prawdopodobieństwa.

Nierówność Markowa: dla każdego ε>0 P(∣X∣⩾ε)<

E

∣

X

k

∣

ε

k

, k >0 .

Nierówność Czebyszewa: dla każdego ε>0 P(∣X −EX∣⩾ε)≤

E ( X −EX )

2

ε

2

=

VarX

ε

2

.

Nierówność Jensena:

E  X  EX 

, gdzie



jest funkcją wypukłą

Nierówność Höldera:

E

∣



XY 

∣



E

∣

X

∣

p



1

p



E

∣

Y

∣

q



1
q

jeżeli

1

p

+

1
q

=

1, p>1, q>1.

Nierówność Schwartza:

(

E

∣

(

XY )

∣

)

2

⩽

E

∣

X

∣

2

E

∣

Y

∣

2

Nierówność Lapunowa: E∣X∣

a



1
a



E∣Y∣

b



1
b

,

0ab∞