Wykład 5
Prawo Wielkich Liczb
Własności wartości oczekiwanej i wariancji
Niech X i Y będą zmiennymi losowymi i niech a, b " R. Wtedy
" E(aX) = aE(X),
" E(X + b) = E(X) + b,
" Ogólnie: E(aX + bY ) = aE(X) + bE(Y ),
" V ar(aX) = a2V ar(X),
" V ar(X + b) = V ar(X),
" V ar(aX + bY ) =? UWAGA: potrzebne są dodatkowe założenia!
Standaryzacja
Załóżmy, że E(X) = m, a V ar(X) = Ã2. Wtedy
" E(X - m) =?
" E(X - m) = E(X) - m = 0,
"

X - m
V ar =?
Ã
"

X - m 1 1
V ar = V ar(X - m) = · Ã2 = 1.
à Ã2 Ã2
Zadanie
Przypuśćmy, że zmienna losowa X ma rozkÅ‚ad N(m, Ã2). KorzystajÄ…c z tablic standardowego rozkÅ‚adu
normalnego, obliczyć:
" P (X m),
" P (|X - m| Ã),
" P (|X - m| 2Ã),
" P (|X - m| 3Ã).
RozwiÄ…zanie
Musimy tak przekształcić zmienną X, aby miała rozkład standardowy N(0, 1).
" W tym celu odejmujemy Å›redniÄ… m i dzielimy przez dyspersjÄ™ à (czyli pierwiastek z wariancji Ã2).
" JeÅ›li X ma rozkÅ‚ad N(m, Ã2), to zmienna losowa
"
X - m
Z =
Ã
" ma rozkład N(0, 1)
" i wartości jej dystrybuanty znajdziemy w tablicach.
1
"

X - m m - m
P (X m) = P = P (Z 0) =?
à Ã
" czy w tym przypadku potrzebne sÄ… tablice?
" Korzystmy z symetrii rozkładu (popatrzmy na rysunek funkcji gęstości!)
1
" P (Z 0) = .
2
" A ile wynosi P (Z < 0)?
"

|X - m| Ã
P (|X - m| Ã) = P =
à Ã
P (|Z| 1) = P (-1 Z 1) = Åš(1) - Åš(-1).
" Większość tablic podaje tylko wartości dystrybuanty dla t " [0, 3].
" Znów korzystamy z symetrii rozkładu:
" Åš(-1) = 1 - Åš(1), wiÄ™c Åš(1) - Åš(-1) = 2Åš(1) - 1 = 2 · 0, 841 - 1 H" 0, 68.
LiczÄ…c analogicznie, otrzymujemy
" P (|X - m| 2Ã) = P (-2 Z 2) = 2Åš(2) - 1 = 2 · 0, 977 - 1 H" 0, 95,
" P (|X - m| 3Ã) = P (-3 Z 3) = 2Åš(3) - 1 = 2 · 0, 998650 - 1 H" 0, 997,
" Ten ostatni wynik nazywamy regułą trzech sigm:
" Zmienna o rozkÅ‚adzie normalnym odchyla siÄ™ od swojej Å›redniej praktycznie co najwyżej o Ä…3Ã.
" Czy istnieje  reguła trzech sigm dla innych rozkładów?
Rozkład normalny  bardzo przydatne wzory Niech Z będzie zmienną o rozkładzie N(0, 1), czyli o
dystrybuancie Åš. Wtedy
" Åš(-t) =?
" P (Z > t) =?
" P (a < Z < b) =?
" P (|Z| > 1, 96) =?
Niezależność zmiennych losowych
Zmienne losowe X i Y są niezależne, jeśli dla dowolnych dwóch zbiorów A, B
"
P (X " A, Y " B) = P (X " A)P (Y " B).
" Wystarczy brać przedziały, np. A = (a, b) i B = (c, d) i wtedy
" P (a < X < b, c < Y < d) = P (a < X < b)P (c < Y < d).
2
Trywialny przykład niezależnych zmiennych losowych
Rzucamy dwa razy kostkÄ….
" X=wynik pierwszego rzutu
" Y =wynik drugiego rzutu
" Zmienne X i Y są niezależne.
" Sprawdzenie: zdarzenia {X = k} oraz {Y = l} są niezależne.
Ciekawszy przykład niezależnych zmiennych losowych
Spośród liczb 12, 13, 14, ..., 100, 101 losujemy jedną liczbę.
" X=liczba jedności w wylosowanej liczbie
" Y =liczba dziesiÄ…tek w wylosowanej liczbie
" Zmienne X i Y są niezależne.
Sprawdzenie
" Niech X = k, Y = l, k, l = 2, 3, 4, 5, 6, 7, 8, 9.
1
" P (Y = l, X = k) = P (wylosujemy liczbÄ™ lk) = .
90
9 1 10 1
" P (Y = k) = = , P (X = l) = = .
90 10 90 9
1 1 1
" = · .
90 10 9
" Analogicznie sprawdzamy niezależność, gdy jedna z cyfr jest zerem lub jedynką.
" Te zmienne są niezależne!
" A gdybyśmy losowali liczbę ze zbioru 11, 12, 13, ..., 99, 100?
Bardzo ważne własności niezależnych zmiennych losowych
Jeżeli zmienne losowe X oraz Y są niezależne, to
"
E(XY ) = E(X)E(Y )
"
V ar(X + Y ) = V ar(X) + V ar(Y )
"
V ar(aX + bY ) = a2V ar(X) + b2V ar(Y )
" UWAGA: Gdy zmienne nie są niezależne, powyższe wzory mogą być fałszywe!
Åšrednia arytmetyczna
Gdy X1, Xn, ..., Xn są zmiennymi losowymi, to często badamy ich średnią arytmetyczną
X1 + X2 + ... + Xn
X = .
n
" To też jest zmienna losowa.
3
" Dla dowolnych zmiennych (także zależnych!)
" E(X1 + X2 + ... + Xn) = E(X1) + E(X2) + ... + E(Xn)
" więc
"
E(X1) + E(X2) + ... + E(Xn)
E(X) = .
n
Wariancja średniej arytmetycznej
Niech X1, Xn, ..., Xn będą niezależnymi zmiennymi losowymi. Wtedy
"
V ar(X1 + X2 + ... + Xn) = V ar(X1) + V ar(X2) + ... + V ar(Xn),
" więc
"
V ar(X1) + V ar(X2) + ... + V ar(Xn)
V ar(X) = .
n2
Parametry średniej Załóżmy, że wszystkie zmienne X1, X2, ..., Xn mają taki sam rozkład i są niezależne.
Wóczas
"
E(X) = E(X1)
"
V ar(X1)
V ar(X) = .
n

X1+X2+...+Xn nE(X1)
" Dowód: E(X) = E = = E(X1),
n n
"
1 nV ar(X1) V ar(X1)
V ar(X) = (V ar(X1) + ... + V ar(Xn)) = = .
n2 n2 n
Nierówność Czebyszewa Niech X będzie zmienną losową o skończonej wariancji V ar(X). Wtedy wartość
oczekiwana E(X) też jest skończona i dla każdego t > 0 zachodzi nierówność:
V ar(X)
P (|X - E(X)| > t) .
t2
Równoważnie:
V ar(X)
P (|X - E(X)| t) 1 - .
t2
Odchylenie standardowe
Niech X będzie zmienną o skończonej wariancji V ar(X).
" WariancjÄ™ oznaczamy też symbolem Ã2 (jak w przypadku rozkÅ‚adu normalnego).
" Pierwiastek z wariancji oznaczamy symbolem Ã
" i nazywamy odchyleniem standardowym albo dyspersjÄ….

" Formalnie: Ã = V ar(X).
" Dlaczego zwykle à jest wygodniejsza od Ã2?
4
Reguła trzech sigm
" Jeśli zmienna X ma skończoną wariancję, to
"
8
P (|X - E(X)| 3Ã) H" 0, 889.
9
" Uwaga: dla rozkładu normalnego to było 0,997.
" Dowód: w nierównoÅ›ci Czebyszewa wstawiamy t = 3Ã.
Jeszcze o średniej
Przypuśćmy, że rzucamy symetryczną monetą. Niech

1, gdy w i-tym rzucie orzeł
Xi =
0, gdy w i-tym rzucie reszka
" Co mierzy suma X1 + X2 + ... + Xn?
" A średnia X?
" Co siÄ™ dzieje z X, gdy n - "?
" To samo pytanie w przypadku prób Bernoulliego.
Prawo Wielkich Liczb
Załóżmy, że zmienne X1, X2, ..., Xn są niezależne i mają taki sam rozkład. Załóżmy też, że mają skończoną
wariancjÄ™ (wtedy wartość oczekiwana też jest skoÅ„czona). Wówczas dla dowolnego µ > 0



X1 + X2 + ... + Xn

lim P - E(X1) > µ = 0.

n"
n
Dowód Prawa Wielkich Liczb
Ponieważ zmienne X1, X2, ..., Xn są niezależne i mają taki sam rozkład, więc z własności wariancji wynika,
iż

X1 + X2 + ... + Xn V ar(X1)
V ar = ,
n n
a wtedy nierówność Czebyszewa daje dla n ":



X1 + X2 + ... + Xn V ar(X1)

P - E(X1) > µ 0.

n n 2
Wniosek z Prawa Wielkich Liczb
Przy powyższych założeniach

X1 + X2 + ... + Xn
lim P -µ - E(X1) µ = 1.
n"
n
czyli

X1 + X2 + ... + Xn
lim P E(X1) - µ E(X1) + µ = 1.
n"
n
5
Co naprawdę mówi Prawo Wielkich Liczb?
" W schemacie Bernoulliego E(X1) = p, zatem
" częstości pojawiania się zdarzeń dążą do prawdopodobieństw tych zdarzeń.
" Każde zdarzenie o dodatnim prawdopodobieństwie musi kiedyś się pojawić.
" Czy po 100 orłach z rzędu reszka staje sie bardziej prawdopodobna?
" Granica ciągu nie zależy od skończonej liczby jego początkowych wyrazów!
Zastosowanie nierówności Czebyszewa Chcemy wykonać 10 000 rzutów symetryczną moneta. Jakie jest
prawdopodobieństwo tego, że liczba uzyskanych orłów będzie zawarta w przedziale:
" [4000, 6000]?
" [4500, 5500]?
" [4900, 5100]?
" [4950, 5150]?
1
Rozwiązanie Liczba orłów w 10 000 rzutów ma rozkład Bernoulliego z parametrami p = oraz n = 10 000.
2
StÄ…d
"

10 000
10 000 1
P (S10 000 = k) = = pk.
k 2
" Zatem
6000

P (4000 S10 000 6000) = pk =
k=4000
" 1,00000000000000 (14 zer)  wynik programu  Mathematica
" W przypadku przedziału [4500, 5500]  wynik taki sam.
" W przypadku przedziału [4900, 5100] 0,95557420095392.
" W przypadku przedziału [4950, 5050] 0,68750479048932.
" W przypadku przedziału [4850, 5150] 0,99738926209332.
6