Rachunek prawdopodobieństwa MAP1064
Wydział Elektroniki, rok akad. 2008/09, sem. letni
Wykładowca: dr hab. A. Jurlewicz
Wykład 13: Zbieżność według rozkładu. Central-
ne twierdzenie graniczne.
Zbieżności ciągu zmiennych losowych według rozkładu.
Definicja.
Niech Xn ma rozkład o dystrybuancie Fn(x), a X - rozkład o dystrybuancie F (x).
Ciąg zmiennych losowych X1, X2, . . . jest zbieżny według rozkładu
(in. słabo zbieżny) do zmiennej losowej X, jeżeli
-
Fn(x) F (x)
n"
dla każdego takiego x, w którym F (x) jest ciągła.
d d
Oznaczenie: Xn - X, Fn - F .
n" n"
Fakt.
d

(a) Jeżeli Xn -P X, to Xn - X.
n" n"
d

(b) Gdy Xn - X, gdzie P (X = a) = 1 dla pewnej stałej a, to Xn -P X.
n" n"
z pr.1
d
(c) Jeżeli Xn - X, to Xn - X.
n" n"
Twierdzenie Lévy ego.
1. Niech zmienne losowe Xn, X mają rozkłady o funkcjach charakterystycznych
odpowiednio Õn(t), Õ(t).
d
-
Jeżeli Xn - X, to Õn(t) Õ(t) dla każdego t.
n" n"
2. Niech Xn ma rozkÅ‚ad o funkcji charakterystycznej Õn(t).
-
Jeżeli Õn(t) Õ(t) dla każdego t i graniczna funkcja Õ(t) jest ciÄ…gÅ‚a w t = 0,
n"
d
to Õ(t) jest funkcjÄ… charakterystycznÄ… pewnej zmiennej losowej X oraz Xn - X.
n"
Uwaga:
W zbieżnościach z prawdopodobieństwem 1, stochastycznej, w przestrzeni Lr graniczna
zmienna losowa X jest określona z prawdopodobieństwem 1, tzn. jeżeli X i X są grani-
cami ciÄ…gu Xn, to P (X = X ) = 1.
W zbieżności słabej określony jest tylko rozkład graniczny danego ciagu i każda zmienna
losowa X o takim rozkładzie może reprezentować słabą granicę tego ciągu.
1
Przykład 1.
Niech P (X1 = 1) = P (X1 = -1) = 0.5 oraz niech Xn+1 = -Xn.
Å„Å‚
ôÅ‚ 0, gdy x -1,
òÅ‚
-
Mamy Fn(x) = F (x) = 0.5, gdy -1 < x 1, F (x) dla każdego x.
n"
ôÅ‚
ół
1, gdy x > 1.
d
Zatem Xn -X, gdzie X ma taki rozkład jak X1.
n"
JednoczeÅ›nie ciÄ…g (Xn) nie jest zbieżny z prawdopodobieÅ„stwem 1, bo przy ustalonym É
ciÄ…g Xn(É) albo ma postać (-1)n albo (-1)n+1, a sÄ… to ciÄ…gi rozbieżne.

Ciąg (Xn) nie jest też zbieżny stochastycznie. Jeżeli bowiem założymy, że Xn -P X, to
n"
granica X musi mieć rozkład taki jak X1. Wtedy dla < 2 mamy
an = P (|Xn - X| ) = P (Xn = -1, X = 1) + P (Xn = 1, X = -1)
oraz
an+1 = P (|Xn+1 - X| ) = P (Xn+1 = -1, X = 1) + P (Xn+1 = 1, X = -1) =
= P (Xn = 1, X = 1) + P (Xn = -1, X = -1) = 1 - an,
tak że ciąg an spełniając równanie rekurencyjne an+1 = 1-an, o ile ma granicę, to granicę
równą 1/2. W konsekwencji, P (|Xn - X| ) nie może zbiegać do 0, co sprzeczne jest z
założeniem.
Przykład 2.
Niech zmienna losowa Yn ma rozkład Poissona P(an) dla pewnego an > 0, an ".
Yn - an
Zdefiniujmy Xn = . Jaka jest granica według rozkładu ciągu (Xn)?
"
an
Zastosujemy tw.Lévy ego.
n
Mamy ÕY (t) = ea (eit-1), a stÄ…d
n
"
" "
an
n-an)/
n
ÕX (t) = Eeit(Y an = ea (eit/ -1)-it an.
n
Ponieważ
ëÅ‚ öÅ‚
2
"
" it 1 it 1 it
Å‚Å‚
an(eit/ an - 1) - it an = an íÅ‚1 + + " + o - 1 - " =
"
an 2 an an an

1
o
1 1
an
-
= - t2 + - t2.
n"
1
2 2
an
1
t2
-Õ(t) = e- 2
StÄ…d ÕX (t) .
n n"
Granica Õ(t) jest ciÄ…gÅ‚a w 0 i jest to funkcja charakterystyczna zmiennej losowej X o
rozkładzie normalnym N (0, 1).
d
Z tw. Lévy ego otrzymujemy zatem, że Xn - X, gdzie X ma rozkÅ‚ad normalny N (0, 1).
n"
2
Twierdzenie de Moivre a-Laplace a. Centralne twierdze-
nie graniczne.


Sn

-0 dla dowolnego > 0,
Z PWL Bernoulliego wiemy, że P - p >
n"
n
gdzie Sn to ilość sukcesów w n próbach Bernoulliego z prawdopodobieństwem sukcesu p.
Pytanie:


Sn

Jaka jest szybkość zbieżnoÅ›ci, tzn. dla jakiego n mamy P - p > < ´, gdzie ´ > 0

n
jest ustalone? Innymi słowy, dla jakiego n prawdopodobieństwo, że popełnimy błąd rzędu
przyjmując częstość otrzymaną z n prób jako prawdopodobieństwo sukcesu p, było małe
rzÄ™du ´?
Twierdzenie de Moivre a-Laplace a. (XVIII w.)
Niech Sn będzie liczbą sukcesów w n próbach Bernoulliego z prawdopodobieństwem suk-
cesu p. Wtedy
Sn - np Sn - ESn
d
-
"
= Y
n"
D2Sn
np(1 - p)
gdzie Y ma standardowy rozkład normalny N (0, 1).
Inaczej mówiąc, dla dowolnego x " R
ëÅ‚ öÅ‚
Sn - np
íÅ‚

P < xłł - Ś(x)
n"
np(1 - p)
x
1 t2
2
"
gdzie Ś(x) = e- dt to dystrybuanta standardowego rozkładu normalnego N (0, 1).
2Ä„
-"
Uwaga:
Twierdzenie de Moivre a-Laplace a mówi o tym, że liczba sukcesów w n próbach Bernoul-
liego z prawdopodobieństwem sukcesu p po standardyzacji (tzn. unormowaniu do zmiennej
losowej o średniej 0 i wariancji 1) dąży według rozkładu do standardowego rozkładu nor-
malnego, gdy n ".
Zatem dla dużych n liczba sukcesów w n próbach Bernoulliego z prawdopodobieństwem

sukcesu p ma asymptotycznie rozkład normalny N (np, np(1 - p)). Równoważnie, czę-


Sn
p(1-p)
stość występowania sukcesów ma asymptotycznie rozkład normalny N p, .
n
n
Oszacowanie dokładności przybliżenia w twierdzeniu de Moivre a-Laplace a:
ëÅ‚ öÅ‚


Sn - np p2 + (1 - p)2
íÅ‚

sup P < xÅ‚Å‚ - Åš(x) C ·

x"R
np(1 - p) np(1 - p)
"1
dla pewnej stałej C < 0, 8.
2Ä„
3
Zastosowanie twierdzenia de Moivre a-Laplace a
1. Oszacowanie prawdopodobieństwa błędu w PWL Bernoulliego:

ëÅ‚ öÅ‚ ëÅ‚ ëÅ‚ öÅ‚öÅ‚
"


- np

Sn Sn n n
íÅ‚ Å‚Å‚ íÅ‚ íÅ‚ Å‚Å‚Å‚Å‚


P - p > = P > H" 2 1 - Åš

n

np(1 - p) np(1 - p) p(1 - p)
dla n dostatecznie dużych.
p2 + (1 - p)2

BÅ‚Ä…d oszacowania nie przekracza 1, 6 .
np(1 - p)
2. Przybliżony sposób obliczania P (Sn < k)
Z twierdzenia de Moivre a-Laplace a można w przybliżony sposób szybko obliczyć praw-
dopodobieństwa wystąpienia k sukcesów w n próbach Bernoulliego dla dużych n i p z
wnętrza przedziału (0, 1), odległych od 0 i od 1.
ëÅ‚ öÅ‚
k - 0, 5 - np
íÅ‚ Å‚Å‚

P (Sn < k) = P (Sn < k - 0, 5) H" Åš
np(1 - p)
ëÅ‚ öÅ‚
k + 0, 5 - np
íÅ‚ Å‚Å‚

P (Sn k) = P (Sn < k + 0, 5) H" Åš
np(1 - p)
ëÅ‚ öÅ‚
k - 0, 5 - np
íÅ‚ Å‚Å‚

P (Sn k) = P (Sn > k - 0, 5) H" 1 - Åš
np(1 - p)
ëÅ‚ öÅ‚
k + 0, 5 - np
íÅ‚ Å‚Å‚

P (Sn > k) = P (Sn > k + 0, 5) H" 1 - Åš
np(1 - p)
0, 8(p2 + (1 - p)2)

z błędem, który nie przekracza .
np(1 - p)
ëÅ‚ öÅ‚ ëÅ‚ öÅ‚
k + 0, 5 - np k - 0, 5 - np
íÅ‚ Å‚Å‚ íÅ‚ Å‚Å‚

P (Sn = k) = P (k - 0, 5 < Sn < k + 0, 5) H" Åš - Åš
np(1 - p) np(1 - p)
1, 6(p2 + (1 - p)2)

z błędem, który nie przekracza .
np(1 - p)
Przykłady do zad. 12.1
4
Centralne Twierdzenie Graniczne
PWL Bernoulliego (tw. Borela) to szczególny przypadek PWL dla ciągu niezależnych
zmiennych losowych o jednakowym rozkładzie o skończonej średniej (gdy rozkład ten jest
zerojedynkowy B(1, p)). Podobnie, twierdzenie de Moivre a-Laplace a jest szczególnym
przypadkiem ogólniejszego Centralnego Twierdzenia Granicznego (CTG)
Lindeberga-Lévy ego:
Centralne Twierdzenie Graniczne Lindeberga-Lévy ego.
Niech (Xn) będzie ciągiem niezależnych zmiennych losowych o jednakowym rozkładzie,
przy czym 0 < D2Xn = Ã2 < ". Oznaczmy m = EXn (ta wartość oczekiwana istnieje na
mocy założenia, że istnieje wariancja). Wówczas
Sn - nm
d
" -
Y,
n"
à n
gdzie Y ma standardowy rozkład normalny N (0, 1).
Inaczej mówiąc, dla dowolnego x " R

Sn - nm
-
P " < x Åš(x)
n"
à n
x
1 t2
2
"
gdzie Ś(x) = e- dt to dystrybuanta standardowego rozkładu normalnego N (0, 1).
2Ä„
-"
Oszacowanie dokładności przybliżenia
w CTG Lindeberga-Lévy ego:
Nierówność Berry-Essena
Niech (Xn) będzie ciągiem niezależnych zmiennych losowych o jednakowym rozkładzie,
przy czym E|Xn|3 < ". Ponadto niech m = EXn, Ã2 = D2Xn > 0 (ta wartość oczekiwana
i wariancja istnieją na mocy założenia o rozkładzie). Wówczas


Sn - nm E|X1 - m|3

sup P " < x - Åš(x) C " ,


à n Ã3 n
x"R
"1
dla pewnej stałej C, która spełnia nierówność C < 0, 8.
2Ä„
5
Uwagi:
1. Jeżeli zmienne losowe Xn maja niezerową skończoną wariancję, to do szacowa-
nia szybkości zbieżności w PWL Kołmogorowa można stosować metody analogicz-
ne do tych dotyczacych PWL Bernoulliego, opartych na twierdzeniu de Moivre a-
Laplace a.
2. Twierdzenie de Moivre a-Laplace a, CTG Lindeberga-Lévy ego to przykÅ‚ady central-
nych twierdzeń granicznych. CTG dla zmiennych o różnych rozkładach to np. twier-
dzenie Lindeberga-Fellera, twierdzenie Lapunowa.
3. CTG Lindeberga-Lévy ego to wynikanie:
istnieje niezerowa wariancja =Ò! zbieżność unormowanych sum do standardowego
rozkładu normalnego.
Interpretacja CTG Lindeberga-Lévy ego:
Jeżeli wielkość fizyczna jest opisana zmienną losową i jest wynikiem sumowania wielu
niezależnych jednakowych statystycznie efektów, przy czym rozkład efektu ma skończoną
wariancję, to wielkość ta ma asymptotycznie rozkład normalny.
Przykłady do zad. 12.2
6