Rachunek prawdopodobieństwa
1. Wprowadzenie
Przyjmijmy następujące oznaczenia:
ω - pojedyńcze zdarzenie
Ω - zbiór zdarzeń elementarnych
Ø - zdarzenie niemożliwe
Definicja 1.1
Rodzinę F podzbiorów Σ nazywamy σ−ciałem jeżeli:
1) F 6= Ø
2) A ∈ F ⇒ A
0
∈ F
3) jeśli dla n = 1, 2, . . . A
n
∈ F to
∞
[
n=1
A
n
∈ F
Uwaga 1.1
Rodzina F będzie ciałem, gdy warunek 3 zastąpimy warunkiem:
A, B ∈ F ⇒ A ∪ B ∈ F
Definicja 1.2
Prawdopodobieństwem nazywamy funkcję P określoną na σ−ciele F taką, że
1) P (A) 0, A ∈ F
2) P (Ω) = 1
3) jeśli A
n
∈ F oraz A
i
∩ A
j
= Ø dla i 6= j to P
∞
[
n=1
A
n
!
=
∞
X
n=1
P (A
n
)
Własność 3 nosi nazwę przeliczalnej addytywności.
Uwaga 1.2
Prawdopodobieństwo jest miarą unormowaną (miara całej przestrzeni Ω wynosi 1).
Trójkę (Ω, F, P ) nazywamy przestrzenia probabilistyczną.
Twierdzenie 1.1
P (Ø) = 0
Dowód:
Ø =
∞
[
n=1
A
n
, A
n
= Ø, dla n = 1, 2, . . .
wobec tego:
P (Ø) = P
∞
[
n=1
A
n
!
=
∞
X
n=1
A
n
=
∞
X
n=1
P (Ø)
skąd wynika, że P (Ø) = 0.
Twierdzenie 1.2
Jeśli A
1
, . . . , A
n
∈ F oraz A
i
∩ A
j
= Ø dla i 6= j, to
P
n
[
i=1
A
i
!
=
n
X
i=1
P (A
i
)
Dowód:
Przyjmijmy dla k > nA
k
= Ø. Wówczas:
P
n
[
i=1
A
i
!
= P
∞
[
i=1
A
i
!
=
∞
X
i=1
P (A
i
) =
n
X
i=1
P (A
i
)
Twierdzenie 1.3
P (A
0
) = 1 − P (A)
Dowód: Zauważmy, że Ω = A ∪ A
0
. Więc 1 = P (Ω) = P (A) + P (A
0
).
Twierdzenie 1.4
A ⊂ B ⇒ P (A) ¬ P (B)
Dowód:
Zauważmy, że: B = A ∪ (B \ A). Wobec tego: P (B) = P (A) + P (B \ A) P (A)
gdyż P (B \ A) 0.
Twierdzenie 1.5
A ∈ F ⇒ P (A) ¬ 1
Implikacja wynika z faktu, że: A ⊂ Ω, P (Ω) = 1 i z twierdzenia (1.4)
Twierdzenie 1.6
A ⊂ B ⇒ P (B \ A) = P (B) − P (A)
Implikacja wynika wprost z dowodu twierdzenia (1.4)
Twierdzenie 1.7
P (A ∪ B) = P (A) + P (B) − P (A ∩ B)
Dowód: Zauważmy, że A ∪ B = A ∪ (B \ (A ∩ B)). Wobec tego:
P (A ∪ B) = P (A) + P (B \ (A ∩ B)) = P (A) + P (B) − P (A ∩ B)
Twierdzenie 1.8
P (A ∪ B) ¬ P (A) + P (B)
Nierówność wynika z twierdzenia (1.7)
Twierdzenie 1.9
Jeśli A
1
, . . . , A
n
∈ F , to dla P (A
1
∪ . . . ∪ A
n
) zachodzi zasada włączania-wyłączania.
Twierdzenie 1.10
A ⊂
n
[
i=1
A
i
⇒ P (A) ¬
n
X
i=1
P (A
i
)
Dowód: Przedstawmy zbiór A w postaci sumy
A =
n
[
i=1
B
i
gdzie B
i
= A ∩ A
i
Ponieważ zbiory B
i
nie są jeszcze parami rozłączne, utwórzmy ciąg zbiorów
C
1
= B
1
,
C
k
= B
k
\
k−1
[
i=1
B
i
Wówczas mamy:
n
[
i=1
C
i
=
n
[
i=1
B
i
oraz C
i
⊂ B
i
⊂ A
i
A więc na mocy (1.4)
P (A) = P
n
[
i=1
B
i
!
= P
n
[
i=1
C
i
!
=
n
X
i=1
P (C
i
) ¬
n
X
i=1
P (B
i
) ¬
n
X
i=1
P (A
i
)
Twierdzenie 1.11
P
n
[
i=1
A
i
!
¬
n
X
i=1
P (A
i
)
Twierdzenie 1.12 Niech A
1
⊂ A
2
⊂ A
3
⊂ . . . będzie wstępującym ciągiem zdarzeń.
Wtedy
P
∞
[
n=1
A
n
!
= lim
n→∞
P (A
n
)
Dowód:
Utwórzmy zbiory: C
1
= A
1
, . . . , C
k
= A
k
\ A
k−1
. Zbiory C
i
są parami rozłączne
(ponieważ mamy ciąg wstępujący, to każdy zbiór A
i
zawiera wszystkie poprzednie).
Zauważmy jeszcze, że
∞
[
i=1
C
i
=
∞
[
i=1
A
i
oraz
n
[
i=1
C
i
= A
n
Więc:
P
∞
[
n=1
A
i
!
= P
∞
[
n=1
C
i
!
=
∞
X
n=1
P (C
i
) = lim
n→∞
n
X
n=1
P (C
i
) =
= lim
n→∞
P
n
[
n=1
C
i
!
= lim
n→∞
P (A
n
)
Twierdzenie 1.13
Niech A
1
⊂ A
2
⊂ A
3
⊂ . . . będzie wstępującym ciągiem zdarzeń. Wtedy
∞
[
n=1
A
n
= Ω
!
⇒
lim
n→∞
P (A
n
) = 1
Twierdzenie 1.14
Niech A
1
⊃ A
2
⊃ A
3
⊃ . . . będzie zstępującym ciągiem zdarzeń. Wtedy
P
∞
\
n=1
A
n
!
= lim
n→∞
P (A
n
)
Dowód:
Utwórzmy ciąg zbiorów B
n
, tak, że: B
i
= A
0
i
. Wtedy: B
1
⊂ B
2
⊂ . . . więc
P
∞
[
n=1
B
n
!
= lim
n→∞
P (B
n
)
Korzystając z praw De Morgana dostajemy
P
∞
[
n=1
B
n
!
= P
∞
[
n=1
A
0
n
!
= P
∞
\
n=1
A
n
!
0
!
= 1 − P
∞
\
n=1
A
n
!
Ostatecznie dostajemy
P
∞
\
n=1
A
n
!
= 1 − P
∞
[
n=1
A
n
!
= 1 − lim
n→∞
P (B
n
) = lim
n→∞
(1 − P (B
n
)) = lim
n→∞
P (A
n
)
Twierdzenie 1.15
Niech A
1
⊃ A
2
⊃ A
3
⊃ . . . będzie zstępującym ciągiem zdarzeń. Wtedy
∞
\
n=1
A
n
= Ø
!
⇒
lim
n→∞
P (A
n
) = 0
Twierdzenie 1.16
Przeliczalna addytywność prawdopodobieństwa P jest równoważna skończonej ad-
dytywności P i jednej z własności udowodnionych w (1.12) bądź (1.14).
Dowód:
( ⇒ ). Wynika z poprzednich twierdzeń.
( ⇐ ). Załóżmy skończoną addytywność P i niech zachodzi własność z (1.12). Weźmy
ciąg zdarzeć rozłącznych: A
n
∈ F, n = 1, 2, . . . (A
i
∩ A
j
= Ø gdy i 6= j).
Ze skończonej addytywności mamy
P
n
[
i=1
A
i
!
=
n
X
i=1
P (A
i
)
Utwórzmy nowy ciąg zdarzeń B
n
w następujący sposób: B
i
= A
1
∪ . . . ∪ A
i
Zauważmy, że dla zdarzeń B
i
mamy
B
n
⊂ B
n+1
∞
[
n=1
B
n
=
∞
[
n=1
A
n
n
[
i=1
B
i
=
n
[
i=1
A
i
wobec czego dostajemy ostatecznie
P
∞
[
n=1
A
n
!
= P
∞
[
n=1
B
n
!
= lim
n→∞
B
n
=
= lim
n→∞
P
n
X
i=1
A
i
!
= lim
n→∞
n
X
i=1
P (A
i
) =
∞
X
n=1
P (A
n
)
W drugiej równości korzystamy z (1.12), w piątej ze skończonej addytywności A
n
.
Przyjrzymy się teraz przestrzenią probabilistycznym w zależności od wyboru Ω.
Niech Ω = (ω
1
, . . . , ω
n
). A więc zbiór zdarzeń jest zbiorem skończonym, wobec tego
F = 2
Ω
. Prawdopodobieństwo P określamy następująco
P ({ω
i
}) = p
i
i = 1, . . . , n
p
i
0
p
1
+ · · · + p
n
= 1
Ponadto
A ∈ F
⇒
P (A) =
X
ω(i)∈A
p
i
Przyjmując P ({ω
i
}) =
1
n
, otrzymujemy klasyczną definicję prawdopodobieństwa.
Niech Ω będzie zbiorem nieskończonym, ale przeliczalnym. Wtedy podobnie jak w
poprzednim przypadku F = 2
Ω
. Prawdopodobieństwo P określamy następująco
P ({ω
i
}) = p
i
p
i
0
∞
X
i=1
p
i
= 1
Zauważmy, że przy takiej postaci zbioru Ω liczby p
i
nie mogą być równe. Ponadto
prawdopodobieństwo zdarzenia A ∈ F określamy jak w poprzednim przypadku.
Niech Ω będzie zbiorem nieprzeliczalnym, podzbiorem R. Dla ustalenia uwagi przyj-
mijmy odcinek h0, 1i. Wówczas F = B
h0,1i
, gdzie B
h0,1i
jest σ−ciałem podzbiorów
borelowskich odcinka h0, 1i. Natomiast prawdopodobieństwo P określamy jako mia-
rę Lebesque’a na odcinku h0, 1i: P = l|
h0,1i
Niech Ω ⊂ R
n
i niech 0 < l
n
(Ω) < ∞, gdzie l
n
jest miarą Lebesque’a w R
n
. Wtedy
F = B
Ω
jest rodziną podzbiorów borelowskich zbioru Ω. Prawdopodobieństwo P
określamy następująco
A ∈ F
⇒
P (A) =
l
n
(A)
l
n
(Ω)
W myśl tej definicji jest oczywiście P (Ω) = 1. Tak określone prawdopodobieństwo
nazywamy geometrycznym.
2. Rozszerzanie miary prawdopodobieństwa
Niech Ω będzie zbiorem zdarzeń. Rozpatrzmy zbiór U ⊂ 2
Ω
będący ciałem, to jest
spełniający warunki
U 6= Ø
A ∈ U ⇒ A
0
∈ U
A, B ∈ U ⇒ A ∪ B ∈ U
Niech teraz Q: U → R będzie funkcją addytywną, to znaczy
(A, B ∈ U ∧ A ∩ B = Ø)
⇒
Q(A ∪ B) = Q(A) + Q(B)
Określmy teraz pewien warunek (warunek przeliczalnej addytywności)
A
n
∈ U, (n = 1, 2, . . .), A
i
∩ A
j
= Ø,
∞
[
i=1
A
n
∈ U
!
⇒ Q
∞
[
i=1
A
n
!
=
∞
X
i=1
Q(A
n
)
Okazuje się, że funkcję addytywną Q można rozszerzyć do miary prawdopodobień-
stwa, jeśli spełnia ona warunek przeliczlanej addytywności. Jest to treścią poniższego
twierdzenia.
Twierdzenie 2.1
Niech Q będzie nieujemną funkcją addytywną określoną na ciele U ⊂ 2
Ω
, taką że
Q(Ω) = 1 oraz spełniającą warunek przeliczalnej addytywności.
Wówczas istnieje jednoznacznie określona miara prawdopodobieństwa P określona
na σ−ciele generowanym przez ciało U , która jest rozszerzeniem funkcji Q.
Definicja 2.1
Niech (Ω, F, P ) będzie przestrzenią probabilistyczną. Mówimy, że miara prawdopo-
dobieństwa P jest miarą zupełną, jeśli każdy podzbiór zdarzeń miary zero należy do
F , tzn.
(A ⊂ B ∧ P (B) = 0)
⇒
(P (A) = 0 ∧ A ∈ F )
Przykład 2.1
Rozpatrzmy jako Ω zbiór wszystkich liczb wymiernych odcinka h0, 1i, a więc Ω =
h0, 1i ∩ Q. Niech M będzie rodziną podzbiorów postaci
ha, bi ∩ Q
∨
(a, bi ∩ Q
∨
ha, b) ∩ Q
∨
(a, b) ∩ Q
0 ¬ a ¬ b ¬ 1
I niech U będzie rodziną zawierającą wszystkie sumy skończone zbiorów rozłącznych
z M
U =
(
n
[
i=1
A
i
: A
i
∈ M, A
i
∩ A
j
= Ø, i 6= j
)
Określone w ten sposób U jest ciałem. Następnie zdefiniujmy funkcje P
∗
tak
P
∗
(ha, bi) = b − a
B ∈ U ⇒ B =
n
[
i=1
A
i
⇒ P
∗
(B) =
n
X
i=1
P
∗
(A
i
)
Tak określona funkcja jest nieujemna i addytywna. Ponadto P
∗
(Ω) = 1. Jednak nie
jest spełniona dla tej funkcji własność przeliczalnej addytywności.
Istotnie. Ze wszystkich liczb wymiernych z Ω utwórzmy zbiory jednoelementowe po-
staci {r}, gdzie r ∈ h0, 1i ∩ Q. Wtedy
[
r∈Ω
{r} = Ω
P
∗
({r}) = 0
1 = P
∗
(Ω) = P
∗
[
r∈Ω
{r}
=
X
r∈Ω
P
∗
({r}) = 0
I ostrzymujemy sprzeczność. Zatem tak określonej funkcji P
∗
nie można rozszerzyć
do miary prawdopodobieństwa.
Przykład 2.2
Niech Ω = h0, 1i. Rozważmy rodzinę U zawierającą wszystkie przedziały postaci
ha, b) oraz wszystkie sumy skończone
n
[
i=0
ha
i
, b
i
)
gdzie ha
i
, b
i
) ∩ ha
j
, b
j
) = Ø, i 6= j
Określmy funkcję P
∗
następująco
P
∗
(ha, b)) = b − a
P
∗
n
[
i=0
ha
i
, b
i
)
!
=
n
X
i=0
(b
i
− a
i
)
Tak określona funkcja P
∗
spełnia warunek przeliczalnej addytywności, więc na mocy
ostatniego twierdzenia można ją rozszerzyć do miary prawdopodobieństwa.
GRZEGORZ GIERLASIŃSKI