17. Prawa Wielkich Liczb

Twierdzenie 17.1
Niech zmienna losowa ξ będzie nieujemna z prawdopodobieństwem 1 (to znaczy
P (ξ ­ 0) = 1). Wówczas zachodzi nierówność

P ({ω ∈ Ω: ξ(ω) ­ ε}) ¬

Eξ

ε

dla każdego ε > 0.

Wniosek 17.1 (nierówność Czebyszewa)
Dla dowolnej zmiennej losowej ξ zachodzi nierówność

P ({ω ∈ Ω: |ξ(ω) − Eξ| ­ ε}) ¬

D

2

ξ

ε

2

dla każdego ε > 0.

Dowód:
Przyjmijmy η = (ξ − Eξ)

2

. Dla η można zastosować powyższe twierdzenie

P (η ­ ε) ¬

Eη

ε

Ustalmy zatem ε > 0. Wówczas

P (|ξ − Eξ| ­ ε) = P ((ξ − Eξ)

2

­ ε

2

) = P (η ­ ε

2

) ¬

Eη

ε

2

=

E(ξ − Eξ)

2

ε

2

=

D

2

ξ

ε

2

Niech {ξ

n

} będzie ciągiem zmiennych losowych oraz istnieją skończone wartości ocze-

kiwane Eξ

n

, dla n = 1, 2, . . .

Utwórzmy dla ustalonego ω ∈ Ω średnią arytmetyczną zmiennych losowych ξ

n

1

n

n

X

k=1

ξ

k

Ponadto

E

1

n

n

X

k=1

ξ

k

!

=

1

n

n

X

k=1

Eξ

k

Definicja 17.1
Mówimy, że ciąg {ξ

n

} spełnia prawo wielkich liczb, jeśli ciąg

1

n

n

X

k=1

ξ

k

−

1

n

n

X

k=1

Eξ

k

(∗)

jest zbieżny do zera według prawdopodobieństwa.
Jeżeli natomiast ciąg (∗) zmieża do zera z prawdopodobieństwem 1, to mówimy, że
ciąg {ξ

n

} spełnia mocne prawo wielkich liczb.

Twierdzenie 17.2
Niech zmienne losowe ξ

n

(dla n = 1, 2, . . .) będą niezależne i mają ten sam rozkład

z wartością oczekiwaną Eξ

n

= a i wariancją D

2

ξ

n

= σ

2

. Wówczas dla każdego ε > 0

zachodzi

P








ξ

1

+ . . . + ξ

n

n

− a







­ ε

!

¬

σ

2

nε

2

(zatem ciąg {ξ

n

} spełnia prawo wielkich liczb).

Uwaga 17.1
Powyższe twierdzenie stosuje się do zmiennych losowych związanych z próbami Ber-
noulli’ego.

Przykład 17.1
Niech ξ

n

będzie zmienną losową związaną z wynikiem n−tej próby Bernoulli’ego.

Niech p oznacza sukces, a 1 − p porażkę w pojedynczym doświadczeniu. Zatem

P (ξ

n

= 1) = p

P (ξ

n

= 0) = 1 − p

Oczywiście zmienne losowe ξ

n

są niezależne (jako wyniki niezależnych prób). Niech

S

n

=

n

X

k=1

ξ

k

S

n

oznacza ilość sukcesów w n próbach. Ponadto S

n

/n możemy interpretować jako

relatywną częstość sukcesów. Dla zmiennych losowych ξ

n

mamy

Eξ

n

= p

D

2

ξ

n

= p(1 − p)

Zatem na mocy powyższego twierdzenia dla każdego ε > 0 mamy

lim

n→∞

P

 





S

n

n

− p






­ ε



= 0

Uwaga 17.2
Bernoulli powyższe twierdzenie wypowiedział następująco:
Relatywna częstość sukcesów w serii niezależnych eksperymentów zmieża według
prawdopodobieństwa (stochastycznie) do prawdopodobieństwa sukcesu w jednej pro-
bie, gdy liczba prób rośnie do nieskończoności.

Twierdzenie 17.3 (prawo wielkich liczb Chinczyna)
Niech {ξ

n

} będzie ciągiem niezależnych zmiennych losowych o tym samym rozkładzie

i niech Eξ = a. Wówczas ciąg {ξ

n

} spełnia prawo wielkich liczb, tzn.



S

n

= ξ

1

+ . . . + ξ

n

∧ Eξ

n

= na



⇒

S

n

n

→

P

a

Twierdzenie 17.4 (prawo wielkich liczb Markowa)
Niech {ξ

n

} będzie dowolnym ciągiem zmiennych losowych takim, że

lim

n→∞

1

n

2

D

2

n

X

i=1

ξ

i

!

= 0

Wówczas ciąg {ξ

n

} spełnia prawo wielkich liczb.

Twierdzenie 17.5 (I mocne prawo wielkich liczb Kołmogorowa)
Niech {ξ

n

} będzie ciągiem niezależnych zmiennych losowych, dla których istnieją

wartości oczekiwane Eξ

n

oraz wariancje D

2

ξ

n

oraz zachodzi warunek

∞

X

k=1

1

k

2

D

2

ξ

k

< ∞

Wówczas ciąg {ξ

n

} spełnia mocne prawo wielkich liczb.

Przykład 17.2
Niech {ξ

n

} będzie ciągiem zmiennych losowych niezależnych oraz niech ξ

n

ma rozkład

z gęstością (dla n = 1, 2, . . .)

f

n

(x) =

1

√

π

4

√

n

exp

−

(x − c

n

)

2

√

n

!

c ∈ (0, 1)

Wówczas ξ

n

∼ N (m, σ

2

), gdzie

m = c

n

σ

2

=

√

n

2

Zauważmy, że

D

2

ξ

n

n

2

=

1

2n

r

r =

3

2

!

⇒

∞

X

k=1

D

2

ξ

k

k

2

< ∞

skąd wnioskujemy, że ciąg {ξ

n

} spełnia mocne prawo wielkich liczb.

Twierdzenie 17.6 (II mocne prawo wielkich liczb Kołmogorowa)
Niech {ξ

n

} będzie ciągiem niezależnych zmiennych losowych o tym samym rozkładzie.

Warunkiem koniecznym i wystarczającym, aby ciąg

1

n

n

X

i=1

ξ

i

był zbieżny do a prawie wszędzie (tzn. aby ciąg {ξ

n

} spełniał mocna prawo wielkich

liczb) jest aby istniała wartość oczekiwana Eξ

n

= a (dla n = 1, 2, . . .).

Niech (Ω, F, P ) będzie przestrzenią probabilistyczną. Utwórzmy ciąg zdarzeń {A

n

},

gdzie A

n

∈ F . Wprowadźmy następujące oznaczenia

A

∗

=

∞

\

n=1

∞

[

k=n

A

k

A

∗

=

∞

[

n=1

∞

\

k=n

A

k

Zbiór A

∗

jest granicą górną ciągu {A

k

}, tzn. ω ∈ A

∗

wtedy i tylko wtedy, gdy ω

należy do nieskończenie wielu zdarzeń z ciągu A

k

.

Zbiór A

∗

jest granicą dolną ciągu {A

k

}, tzn. ω ∈ A

∗

wtedy i tylko wtedy, gdy ω należy

do wszystkich zdarzeń A

k

począwszy od pewnego zdarzenia A

p

(ω ∈ A

∗

, k ­ p).

Zauważmy, że wyżej określonych zbiorów zachodzi

(A

∗

)

0

=

∞

[

n=1

∞

\

k=n

A

0
k

A

∗

⊂ A

∗

Lemat 17.1 (I lemat Borela–Cartelli’ego)
Jeżeli

∞

X

n=1

P (A

n

) < ∞

to P (A

∗

) = 0.

Lemat 17.2 (II lemat Borela–Cartelli’ego)
Jeżeli ciąg {A

n

} jest ciągiem zdarzeń niezależnych oraz

∞

X

n=1

P (A

n

) = ∞

to P (A

∗

) = 1.

Twierdzenie 17.7 (Moivre’a–Laplace’a)
Niech {ξ

n

} będzie ciągiem niezależnych zmiennych losowych o rozkładzie dwupunk-

towym, tzn.:

P (ξ

n

= 1) = p

P (ξ

n

= 0) = q

p + q = 1

Niech S

n

= ξ

1

+ . . . + ξ

n

oraz

ζ

n

=

S

n

− np

√

npq

Wówczas ciąg dystrybuant F

n

(x) odpowiadających zmiennym losowym ζ

n

słabo

zmierza do dystrybuanty rozkładu normalnego N (0, 1)

ζ

n

→

d

ξ

F

n

(x) → Φ(x)

Φ(x) =

1

√

2π

Z

x

−∞

exp

−

t

2

2

!

dt

Twierdzenie 17.8 (centralne twierdzenie graniczne)
Niech {ξ

n

} będzie ciągiem niezależnych zmiennych losowych o tym samym rozkładzie

z wartością oczekiwaną Eξ

n

= a oraz wariancją D

2

ξ

n

= σ

2

, gdzie 0 < σ

2

< ∞

(n = 1, 2 . . .). Niech S

n

= ξ

1

+ . . . + ξ

n

oraz

ζ

n

=

S

n

− np

√

npq

Wówczas ciąg dystrybuant F

n

(x) odpowiadających zmiennym losowym ζ

n

słabo

zmierza do dystrybuanty rozkładu normalnego N (0, 1).
(ES

n

= na, D

2

S

n

= nσ

2

).

GRZEGORZ GIERLASIŃSKI