Prawa wielkich liczb i twierdzenia graniczne
Definicja 1
Xn n = 1,2,...
Zmienna losowa X jest granicÄ… ciÄ…gu zmiennych losowych w sensie zbie\
ności
średniokwadratowej, je\
eli:
E(X - X )2 =0
lim
n
n"
Definicja 2
Xn n = 1,2,...
Zmienna losowa X jest granicÄ… ciÄ…gu zmiennych losowych w sensie zbie\
ności
według prawdopodobieństwa, je\
eli dla dowolnego µ > 0 :
P{|X - X |>µ}=0
lim
n
n"
Nierówności Czebyszewa
Pierwsza nierówność Czebyszewa:
Definicja 3:
P(X e" 1) d" EX
Druga nierówność Czebyszewa:
Twierdzenie:
2
Je\
eli zmienna losowa X ma wartość oczekiwanÄ… m i wariancjÄ™ Ã , to dla ka\
dego t > 0 :
X
1
X
'"P(| X - m |e" t Å"Ã ) d" t2
t >0
Nierówność ta mówi, \
e:
Prawdopodobieństwo zdarzenia polegającego na tym, \
e zmienna losowa odchyli się od swojej wartości
oczekiwanej o więcej ni\
t jednostek, jest nie większe ni\
1/ t2 .
Jeśli podstawimy w tej nierówności t = 3 , to otrzymamy tzw. regułę  trzy sigma :
1
P(| X - m |e" 3Ã ) d"
9
Prawo wielkich liczb Markowa
Twierdzenie:
X1, X2,..., Xn
Dane sÄ… niezale\
ne zmienne losowe . Ka\
da z tych zmiennych losowych
2
X k = 1, 2,... ma wartość oczekiwanÄ… EX = µk oraz wariancjÄ™ V (X ) = Ã , przy czym zachodzi:
k k k k
2 2 2
Ã1 +Ã + ... +Ã
2 n
= 0
lim
n2
n"
Przy powy\
szych zało\
eniach, dla dowolnego µ > 0 zachodzi:
Å„Å‚ üÅ‚
Å„Å‚ X1 + X + ... + X µ1 + µ2 +... + µn
2 n
- e" µ = 0
òÅ‚òÅ‚ żł
limPółół
n n
n"
þÅ‚
W szczególnym przypadku, gdy wszystkie zmienne losowe majÄ… jednakowe wartoÅ›ci oczekiwane µ :
Å„Å‚ üÅ‚
Å„Å‚ X1 + X + ... + X
2 n
- µ e" µ = 0
òÅ‚òÅ‚ żł
limPółół
n
n"
þÅ‚
Wzór ten pokazuje jaki jest związek między średnią arytmetyczną, a wartością oczekiwaną.
Je\
eli poszczególne zmienne losowe reprezentują np. wyniki pomiarów jakiejś wielkości, to z tego wzoru
wynika, \
e zwiększając liczbę pomiarów, ich średnia arytmetyczna dą\
y do wartości oczekiwanej.
Uzasadnia to poprawność przyjmowania w wielu przypadkach średniej arytmetycznej jako wielkości
przybli\
ającej wartość oczekiwaną.
Twierdzenie graniczne Lindeberga  Levy ego
X1, X2,..., Xn
Dane sÄ… niezale\
ne zmienne losowe o jednakowych rozkładach. Zmienne te mają
2
parametry: EX = µ , V (X ) = Ã dla n = 1, 2, ...
n n
Suma tych niezale\
nych zmiennych losowych, to nowa zmienna losowa:
Sn= X1 + X2 + ... + Xn
Jej wartość oczekiwana wynosi:
ESn= E(X1 + X2 + ... + Xn ) = n Å" µ
2
V (Sn) = V (X1 + X2 + ... + Xn ) = n Å"Ã
zaÅ› wariancja:
Utwórzmy nową zmienną losową Yn przez unormowanie zmiennej losowej Sn :
Sn - nµ
Yn =
,
nÃ
Sn - nµ
ìÅ‚ ÷Å‚
wówczas zachodzi:
limPëÅ‚a < à n d" böÅ‚ = Åš(b) - Åš(a)
n" íÅ‚ Å‚Å‚
gdzie: Ś(a), Ś(b) - dystrybuanty rozkładu normalnego N(0 ; 1) .
Oznacza to, \
e suma Sn ma rozkład asymptotycznie normalny:
Sn ~ N (nµ ; Ã n )
Twierdzenie Moivre a- Laplace a
X1, X2,..., Xn
Dane sÄ… niezale\
ne zmienne losowe o jednakowych rozkładach dwupunktowych
Bernoulli ego B(n, p) .
Suma tych niezale\
nych zmiennych losowych, to nowa zmienna losowa:
Sn= X1 + X2 + ... + Xn
Utwórzmy nową zmienną losową Yn przez unormowanie zmiennej losowej Sn :
Sn - np
Yn =
,
npq
ëÅ‚ öÅ‚
Sn - np
÷Å‚
wówczas zachodzi:
limPìÅ‚a < npq d" b÷Å‚ = Åš(b) - Åš(a)
ìÅ‚
n"
íÅ‚ Å‚Å‚
gdzie: Ś(a), Ś(b) - dystrybuanty rozkładu normalnego N(0 ; 1) .
Wniosek:
X1, X2,..., Xn
Zmienna losowa Sn będąca sumą zmiennych losowych ma rozkład asymptotycznie
Sn ~ N (np ; npq )
normalny:
Oznacza to, \
e je\
eli liczba doświadczeń n jest du\
a, to rozkład zmiennej losowej X o rozkładzie
n
N (np ; npq )
Bernoulli ego B(n, p) mo\
na przybli\
yć rozkładem normalnym .
Przybli\
enie jest tym lepsze im n jest większe.
Przykład 1:
Rzucamy 10000 razy monetą. Obliczyć prawdopodobieństwo, \
e liczba wyrzuconych orłów zawiera
siÄ™ od 5050 do 5100.
Sposób 1  dokładny:
1
Rozkład dwumianowy Bernoulli ego: p = . Zatem:
2
P(5050 d" X d" 5100) = P10000( X = 5050) + P10000 (X = 5051) + ... + P10000( X = 5100)
51 składników
n
ëÅ‚ öÅ‚
gdzie: Pn ( X = m) = ìÅ‚ pmqn-m , przykÅ‚adowo, dla pierwszego skÅ‚adnika, otrzymamy:
ìÅ‚m÷Å‚
÷Å‚
íÅ‚ Å‚Å‚
10000
ëÅ‚ öÅ‚
P10000( X = 5050) = ìÅ‚ ÷Å‚(1/ 2)5050(1/ 2)4950
ìÅ‚5050 ÷Å‚
íÅ‚ Å‚Å‚
Sposób 2  u\
ycie rozkładu Poissona:
5100
k 5050 5100
P(5050 d" X d" 5100) = e- = e- + ... + e-
"
k! 5050! 5100!
k =5050
1
gdzie:  = k Å" p , k = 5050, ... 5100, p = .
2
Sposób 3  korzystamy z twierdzenia Moivre a  Laplace a:
S10000= X1 + X2 + ... + X10000 Xi
, gdzie: ma rozkład dwumianowy Bernoulli ego.
Sn ~ N (np ; npq )
Dla n " , zachodzi: ,
1 1
npq = 10000 Å" Å" = 50
np = 10000 Å"1/ 2 = 5000
,
2 2
5100 - 5000 5050 - 5000
öÅ‚ öÅ‚
ÅšëÅ‚ - ÅšëÅ‚
P(5050 d" Sn d" 5100) ìÅ‚ ÷Å‚ ìÅ‚ ÷Å‚
Czyli: = =
50 50
íÅ‚ Å‚Å‚ íÅ‚ Å‚Å‚
Åš(2)- Åš(1)= 0,97725 - 0,84135 = 0,136
Funkcja charakterystyczna zmiennej losowej jednowymiarowej
Definicja
Funkcją charakterystyczną zmiennej losowej X nazywamy funkcję zespoloną określoną wzorem:
jÅX
Õ (Å) = E{e } E{cosÅX + j sinÅX}
=
X
gdzie: Å - dowolna zmienna rzeczywista.
Dla zmiennej losowej typu skokowego definicja ma postać:
K
jÅxk
ÕX (Å) =
"e P( X = xk )
k =1
Dla zmiennej losowej typu ciągłego definicja ma postać:
jÅx
ÕX (Å) = e f (x)dx
+"
Å =
Warto zauwa\
yć, \
e je\
eli w tym wzorze podstawić -É
, to funkcja charakterystyczna staje siÄ™
transformatą Fouriera gęstości prawdopodobieństwa f (x) .
Funkcja charakterystyczna jednoznacznie wyznacza rozkład prawdopodobieństwa zmiennej losowej X .
ZnajÄ…c funkcjÄ™ charakterystycznÄ… zmiennej losowej X mo\
na znacznie uprościć wyznaczanie jej
momentów rzędu n.
Wiadomo, \
e nie dla ka\
dej zmiennej losowej X i nie dla ka\
dej funkcji g(x) istnieje wartość oczekiwana
E{g(x)}. Natomiast funkcja charakterystyczna zmiennej losowej X , będąca wartością oczekiwaną funkcji
jÅX
e
, istnieje dla ka\
dej zmiennej losowej. Wynika to z faktu, \
e zarówno szereg jak i całka, w definicji
funkcji charakterystycznej, są bezwzględnie zbie\
ne.
Podstawowe własności funkcji charakterystycznej
Twierdzenie 1:
Moduł funkcji charakterystycznej jest nie większy od 1:
|Õ (Å) |d" 1
X
Twierdzenie 2:
Õ (Å )
Dla funkcji charakterystycznej zachodzi relacja:
X
Õ (-Å ) = Õ (Å) - funkcja zespolona sprzÄ™\
ona.
X
Twierdzenie 3:
Funkcja charakterystyczna jest funkcją jednostajnie ciągłą.
Twierdzenie 4:
Funkcja charakterystyczna sumy dowolnej, skończonej liczby niezale\
nych zmiennych losowych
jest równa iloczynowi funkcji charakterystycznych poszczególnych zmiennych losowych:
Õ (Å) = Õ (Å) Å"Õ (Å) Å"... Å"Õ (Å)
X1 + X +...+ X X1 X X
2 n 2 n
Uwaga:
Twierdzenie odwrotne nie jest prawdziwe, tzn. z faktu, \
e funkcja charakterystyczna sumy
zmiennych losowych jest równa iloczynowi funkcji charakterystycznych zmiennych losowych nie wynika,
\
e te zmienne losowe sÄ… niezale\
ne.
Definicja:
Wartość funkcji charakterystycznej w zerze jest równa 1:
j0 X
Õ (0) = E{e } = E{1} = 1
X
Twierdzenie 5:
Õ (t)
Niech - jest funkcjÄ… charakterystycznÄ… zmiennej losowej X. Dla dowolnych liczb a, b i dla
X
Y = aX + b ÕY (t)
zmiennej losowej , funkcja charakterystyczna zmiennej losowej Y wyra\
a siÄ™
wzorem:
jtb
ÕY (t) = e Õ (at)
X
Õ ()
gdzie: - jest funkcjÄ… charakterystycznÄ… zmiennej losowej X.
X
Twierdzenie 6:
Jeśli funkcja charakterystyczna zmiennej losowej X jest bezwzględnie całkowalna, to X jest
f (x)
zmienną losową typu ciągłego i gęstość prawdopodobieństwa zmiennej losowej X dana jest
wzorem:
"
1
f (x) = e- jtxÕ (t)dt
+"
2Ä„
-"
Gęstość prawdopodobieństwa jest więc transformatą Fouriera funkcji charakterystycznej.
Twierdzenie 7:
2Ä„
Je\
eli funkcja charakterystyczna zmiennej losowej jest okresowa o okresie , to X jest zmiennÄ…
losową typu skokowego, mogącą przyjmować jedynie wartości całkowite i zachodzi relacja:
Ä„
1
p(k) = P( X = k) = e- jtkÕ (t)dt
+"
2Ä„
-Ä„
gdzie: k  liczba całkowita.
Twierdzenie 8:
mn
Je\
eli istniejÄ… momenty zmiennej losowej X , to wyra\
ajÄ… siÄ™ one przez pochodne funkcji
charakterystycznej:
n
ëÅ‚ öÅ‚
d Õ (Å)
n
X
mn = EX = j-n ìÅ‚ ÷Å‚
n
ìÅ‚ ÷Å‚
dÅ
íÅ‚ Å‚Å‚Å =0
Przykład 2:
Wyznaczyć funkcję charakterystyczną dla zmiennej losowej X przyjmującej 2 wartości  1 i 1 z
prawdopodobieÅ„stwem ½.
KorzystajÄ…c z definicji funkcji charakterystycznej dla zmiennej losowej typu skokowego, otrzymujemy:
1
j(1)Å j(-1)Å jÅ
Õ (Å) = e P( X = 1) + e P( X = -1) = (e + e- jÅ )= cosÅ
X
2
Przykład 3:
2
Õ (Å) = e-Å / 2 .
Zmienna losowa ma funkcjÄ™ charakterystycznÄ…
X
f (x)
Znalez
ć gęstość prawdopodobieństwa zmiennej losowej typu ciągłego X .
Korzystając z twierdzenia 6, dla zmiennej losowej typu ciągłego, otrzymujemy:
" " "
2 2
1 1 1
f (x) = e- jtxÕ (t)dt = e- jtxe-t / 2dt = e-( jtx +t / 2)dt
+" +" +"
2Ä„ 2Ä„ 2Ä„
-" -" -"
1 ( jx)2 1 ( jx)2
- ( jtx + t2 / 2) = - (( jx)2 + 2 jtx + t2) + = - (t + jx)2 +
ale:
2 2 2 2
więc ostatecznie:
" "
2
1 1
2Ä„
-(t + jx)2 / 2 jx)2 / 2
f (x) = e( dt = e- x / 2 e-(t + jx)2 / 2dt =
e- x2 / 2 =
+"e +"
2Ä„ 2Ä„
2Ä„
-" -"
2
1
e- x / 2
=
2Ä„
Zadania
1. Rzucamy dwoma kostkami do gry. Je\
eli suma oczek jest równa 2 to otrzymujemy 12 zł, je\
eli suma
oczek jest równa 3 to otrzymujemy 6 zł, a w ka\
dym pozostałym przypadku płacimy 1 zł.
Niech zmienna losowa X oznacza wygranÄ… ( patrz zad. 7  zmienne_losowe2 ).
a) Podać rozkład zmiennej losowej X i wyznaczyć jej dystrybuantę F.
b) Wyznaczyć wartość oczekiwaną i wariancję zmiennej losowej X.
c) Załó\
my, \
e grę powtarzamy 100 razy. Oszacować prawdopodobieństwo, \
e przegramy co
najmniej 1 zł.
2. Średnia waga człowieka wynosi 75 kg z odchyleniem standardowym 3 kg. Zakładamy, \
e waga
ludzi ma rozkład normalny. Samolot zabiera 81 pasa\
erów. Jakie jest prawdopodobieństwo, \
e
Å‚Ä…czna waga pasa\
erów przekroczy 6 ton?
3. OBOP ocenia, \
e 50 % rodzin w Polsce \
yje w ubóstwie. Wybrano losowo 100 rodzin. Jakie jest
prawdopodobieństwo, \
e liczba rodzin \
yjących w ubóstwie przekracza 40%?
4. Zmienna losowa X ma rozkład równomierny w przedziale ( a, b ), tzn. :
Å„Å‚ 1
ôÅ‚b - a dla a d" x d" b
f (x) =
òÅ‚
ôÅ‚0 dla x "[a,b]
ół
Określić funkcję charakterystyczną tej zmiennej losowej.
(0,")
5. Zmienna losowa X jest typu ciągłego i przyjmuje wartości z zakresu , zaś jej funkcja
1
f (x) = e- x / a dla a > 0. Wyznaczyć funkcję charakterystyczną
gęstości prawdopodobieństwa
a
tej zmiennej losowej.
6. Wyznaczyć funkcję charakterystyczną rozkładu zero  jedynkowego. Za pomocą tej funkcji
charakterystycznej, wyznaczyć pierwsze dwa momenty tego rozkładu.
N (m;Ã )
7. Wyznaczyć funkcję charakterystyczną zmiennej losowej o rozkładzie normalnym .