Prawdopodobieństwo warunkowe
Prawdopodobieństwo warunkowe
Prawdopodobieństwo warunkowe
Prawdopodobieństwo warunkowe
Niech Ω będzie przestrzenią zdarzeń elementarnych, S - zbiorem wszystkich
zdarzeń losowych , a P:S <0;1> - prawdopodobieństwem w tej przestrzeni.
Załóżmy, że
B € S jest zdarzeniem losowym o dodatnim prawdopodobieństwie, tzn. P(B)>0.
Prawdopodobieństwem warunkowym nazywamy funkcję P(•|B):S <0;1>
określoną
wzorem:
Definicja
Definicja
)
(
)
(
)
|
(
B
P
B
A
P
B
A
P
S
A
Wartość P(A|B) nazywamy wówczas prawdopodobieństwem zajścia
zdarzenia A pod warunkiem, że zaszło zdarzenie B
Z talii 52 kart wyciągnięto losowo kartę. Jakie jest prawdopodobieństwo, że jest
to
siódemka, jeżeli wiadomo, że wyciągnięta karta nie jest figurą ani asem.
Przykład
Przykład
)
(
)
(
)
|
(
B
P
B
A
P
B
A
P
S
A
Rozwiązanie: Przestrzeń zdarzeń elementarnych jest skończona i Ω={ω
1,…,
ω
52
},
gdzie ω
i
oznacza wyciągnięcie i-tej karty. Stosujemy prawdopodobieństwo
klasyczne. Niech A będzie zdarzeniem polegającym na wyciągnięciu siódemki.
Wówczas A’=4. Natomiast przez B oznaczymy zdarzenie polegające na wyborze
blotki (kart od dwójek do dziewiątek włącznie).
Wówczas B’=36 i A∩B=4
Teraz:
9
1
36
4
)
(
)
(
)
|
(
B
P
B
A
P
B
A
P
Prawdopodobieństwa a priori i a
Prawdopodobieństwa a priori i a
posteriori
posteriori
Prawdopodobieństwo a priori to prawdopodobieństwo obliczane przed
realizacją doświadczenia losowego, czyli klasyczne prawdopodobieństwo, w
odróżnieniu od prawdopodobieństwa a posteriori, obliczanego na podstawie
wyników doświadczenia, czyli częstości.
Aby obliczyć prawdopodobieństwo a priori należy posłużyć się poniższym wzorem
określającym prawdopodobieństwo całkowite.
P(B) = P(A
1
)*P(B|A
1
) + P(A
2
)*P(B|A
2
) + ... + P(A
n
)*P(B|A
n
)
Przy spełnionych założeniach:
1) Zdarzenie losowe B jest dowolnym zdarzeniem należącym do zbioru Z
2) Zdarzenia losowe A
1
, A
2
, ... , A
n
należą do zbioru Z oraz spełniają poniższe
warunki
• A
i
∩ A
j
Ø ,
• A
1
∪ A
2
∪ ... ∪ A
n
= Ω , i = 1, ... , n
• P(A
i
) > 0 , i = 1, ... , n
gdzie
Ω - zbiór zdarzeń elementarnych
Z - rodzina podzbiorów przestrzeni zdarzeń elementarnych Ω
P(A
i
) - prawdopodobieństwo zdarzenia A
i
P(B|A
i
) - prawdopodobieństwo zdarzenia B pod warunkiem zajścia zdarzenia
A
i
Prawdopodobieństwo a priori
Prawdopodobieństwo a priori
Częstość (inaczej prawdopodobieństwo a posteriori) to stosunek liczby
rezultatów sprzyjających danemu zdarzeniu do liczby przeprowadzonych prób w
doświadczeniu losowym.
Przykład: Rzucamy 100 razy monetą, otrzymujemy następujące wyniki: orzeł
wypadł 48 razy, reszka 52 razy. Częstość wypadnięcia orła wynosi 48/100 = 0,48,
natomiast częstość wypadnięcia reszki 52/100 = 0,52.
Częstość jest liczbą otrzymaną z doświadczenia (czyli a posteriori) w odróżnieniu
od prawdopodobieństwa, które obliczamy niezależnie od wyników doświadczenia
(czyli a priori).
Prawdopodobieńśtwo a
Prawdopodobieńśtwo a
posteriori
posteriori
Wnioskowanie Bayesowskie
Wnioskowanie Bayesowskie
Wnioskowanie bayesowskie
Wnioskowanie bayesowskie
Wnioskowanie probabilistyczne nazywamy też wnioskowanie
bayesowskim, ze względu na kluczową rolę, jaką w nim pełni wzór
Bayesa – jeden z klasycznych wyników rachunku prawdopodobieństwa.
Dla dowolnych zdarzeń A i B wzór opisuje następującą zależność
prawdopodobieństw warunkowych
)
(
)
|
(
...
)
(
)
|
(
)
(
)
|
(
)
|
(
1
1
}
,...,
1
{
k
k
j
j
j
k
j
B
P
B
A
P
B
P
B
A
P
B
P
B
A
P
A
B
P
Występujące we wzorze Bayesa prawdopodobieństwa: P(B
j
) dla j €K
nazywamy „prawdopodobieństwem a priori”
(prawdopodobieństwa wyznaczone na podstawie przyjętych z góry
założeń przed informacją o zajściu zdarzenia A), natomiast
prawdopodobieństwa warunkowe: P(B
j
|A) dla j €K nazywamy
„prawdopodobieństwami a posteriori” (prawdopodobieństwa
wyznaczone po doświadczeniu), w oparciu o informację, że zaszło
zdarzenie A)
Uprawdopodobnianie hipotez przez
Uprawdopodobnianie hipotez przez
fakty
fakty
Przyjmijmy, że wśród stwierdzeń, jakie są przetwarzane przy wnioskowaniu,
wyróżnimy dwie kategorie:
Fakty: stwierdzenia dotyczące dziedziny, których prawidłowość jest znana
Hipotezy: stwierdzenia o nieznanym prawdopodobieństwie prawdziwości
Interesuje nas wnioskowanie o prawdziwości możliwych hipotez przy założeniu
prawdziwości pewnego zestawu faktów. Zwróćcie szczególną uwagę na dwa
występujące w nim prawdopodobieństwa dotyczące hipotezy:
Pr(h): prawdopodobieństwo a priori hipotezy h (bez znajomości lub
uwzględniania znanych
faktów
Pr(h|F): prawdopodobieństwo a posteriori hipotezy h po uwzględnieniu faktów F
)
Pr(
)
|
Pr(
)
Pr(
)
|
Pr(
F
h
F
h
F
h
Można powiedzieć, że wzór Bayesa, podając przepis na wyznaczanie
prawdopodobieństwa a posteriori, określa wpływ faktów na prawdopodobieństwa (albo
uprawdopodobnienie) hipotezy.
Zauważcie, że prawdopodobieństwo występujące w mianowniku ułamka nie zależy od
rozważanej hipotezy. Wynika z tego, że gdyby interesowało nas wyłącznie wybranie
hipotezy najbardziej prawdopodobnej z pewnego zestawu, wystarczy ograniczać się do
obliczenia licznika ułamka. Aby poznać dokładnie, bezwzględne wartości
prawdopodobieństw a posteriori poszczególnych hipotez, należy wziąć pod uwagę
sytuację, w której mamy skończoną liczbę możliwych hipotez h
1
, h
2
, …, h
n
wykluczających się parami i wyczerpujących wszystkie możliwości (czyli takich, że
dokładnie jedna z nich jest prawdziwa). Wówczas:
Pr(F)= Pr(h
1
)Pr(F|h
1
)+…+(Pr(h
n
)Pr(F|h
n
)
Przykład 1
Przykład 1
Przykład 1
Przykład 1
Weźmiemy pod uwagę sytuację, w której diagnozując dolegliwości pacjenta ograniczono
zbiór możliwych diagnoz do następujących dwóch wykluczających się hipotez:
h: pacjent jest chory na grypę,
¬h: pacjent nie jest chory na grypę.
Podstawą do wnioskowania mogą być następujące pojedyncze fakty:
f
1
: pacjent ma katar,
f
2
: pacjent ma kaszel,
f
3
: pacjent ma gorączkę.
Przyjmijmy, że dostarczający wiedzę do systemu diagnostycznego ekspert ustalił
następujące wartości prawdopodobieństw:
Pr(h)=0,1
Pr(¬h)=0,9
Pr(f1|h)=0,5
Pr(f1|¬h)=0,3
Pr(f2|h)=0,3
Pr(f2|¬h)=0,3
Pr(f3|h)=0,8
Pr(f3|¬h)=0,4
Na tej podstawie możemy obliczyć prawdopodobieństwa faktów:
Pr(f1)=Pr(h)Pr(f1|h)+Pr(¬h)Pr(f1| ¬h)=0,1*0,5+0,9*0,3=0,32
Pr(f2)=Pr(h)Pr(f2|h)+Pr(¬h)Pr(f2| ¬h)=0,1*0,3+0,9*0,3=0,3
Pr(f3)=Pr(h)Pr(f3|h)+Pr(¬h)Pr(f3| ¬h)=0,1*0,8+0,9*0,4=0,44
Aby wyznaczyć prawdopodobieństwa a posteriori rozważanych hipotez na podstawie
każdego z pojedynczych objawów stosujemy bezpośrednio wzór Bayesa:
16
,
0
32
,
0
5
,
0
*
1
,
0
)
Pr(
)
|
Pr(
)
Pr(
)
|
Pr(
1
1
1
f
h
f
h
f
h
1
,
0
3
,
0
3
,
0
*
1
,
0
)
Pr(
)
|
Pr(
)
Pr(
)
|
Pr(
2
2
1
f
h
f
h
f
h
18
,
0
44
,
0
8
,
0
*
1
,
0
)
Pr(
)
|
Pr(
)
Pr(
)
|
Pr(
1
1
1
f
h
f
h
f
h
Przykład 2
Przykład 2
Twierdzenia Bayesa można użyć do interpretacji rezultatów badania przy użyciu testów
wykrywających narkotyki. Załóżmy, że przy badaniu narkomana test wypada pozytywnie w
99% przypadków, zaś przy
badaniu osoby nie zażywającej narkotyków wypada negatywnie w 99% przypadków.
Pewna firma postanowiła przebadać swoich pracowników takim testem wiedząc, że 0,5% z
nich to narkomani. Chcemy obliczyć prawdopodobieństwo, że osoba u której test wypadł
pozytywnie rzeczywiście zażywa narkotyki. Oznaczmy następujące zdarzenia:
• D - dana osoba jest narkomanem
• N - dana osoba nie jest narkomanem
• + - u danej osoby test dał wynik pozytywny
• − - u danej osoby test dał wynik negatywny
P(D) = 0,005, gdyż 0,5% pracowników to narkomani
P(N) = 1 − P(D) = 0,995
P( + | D) = 0,99, skuteczność testu przy badaniu narkomana
P( − | N) = 0,99, gdyż taką skuteczność ma test przy badaniu osoby nie będacej
narkomanem
P( + | N) = 1 − P( − | N) = 0,01
3322
,
0
995
,
0
*
01
,
0
005
,
0
*
99
,
0
005
,
0
*
99
,
0
)
(
)
|
(
)
(
)
|
(
)
(
)
|
(
)
Pr(
)
(
)
|
(
)
|
(
N
P
N
P
D
P
D
P
D
P
D
P
D
P
D
P
D
P
Przykład 3
Przykład 3
Prowadzący ćwiczenia ze statystyki wie z doświadczenia, że przeciętnie nie kapuje nic ale to
nic 20% studentów. Wie również, że 80% studentów którzy nie kapują nic ale to nic stara się
zająć ostatnie miejsca w sali, bądź jak najdalej od prowadzącego, czyli po jego prawej
stronie. Natomiast wśród studentów którzy kapują co nieco, bądź starają się zakminić, czyni
tak tylko 30% z nich. Onufry po wejściu do sali ewidentnie kieruje się do ostatniego rzędu
ławek. Jakie jest zatem prawdopodobieństwo, że nic nie kapuje?
A – student nic nie kapuje
B – student chce zająć miejsce w ostatnim rzędzie
P(A) =0,2
P(B|A)= 0,8
P(B|A’)=0,3
Zatem korzystając ze twierdzenia Bayesa:
4
,
0
40
,
0
16
,
0
8
,
0
*
3
,
0
2
,
0
*
8
,
0
2
,
0
*
8
,
0
)
'
(
)
'
|
(
)
(
)
|
(
)
(
)
|
(
)
|
(
A
P
A
B
P
A
P
A
B
P
A
P
A
B
P
B
A
P
Zadania
Zadania
Zadanie 1
Zadanie 1
Żarówki są produkowane w 3 fabrykach z fabryki pierwszej pochodzi 25%
produkcji, z fabryki drugiej 35% produkcji a z trzeciej 40%. Produkcja wadliwa
wynosi odpowiednio:
dla fabryki I -5%
dla fabryki II -4%
dla fabryki III -2%
Wybrana żarówka okazała się wadliwa - jakie jest prawdopodobieństwo, że
pochodzi ona z fabryki pierwszej.
)
|
(
)
(
)
|
(
)
(
)
|
(
1
1
1
1
i
i
i
A
B
P
A
P
A
B
P
A
P
B
A
P
Zadanie 2
Zadanie 2
Wśród 10 monet jedna ma orły po obu stronach. Wybieramy losowo jedną
monetę, rzucamy 5 razy wypada 5 orłów. Jakie jest prawdopodobieństwo, że jest
to moneta z orłami po obu stronach?
Zadanie 3
Zadanie 3
Pewne urządzenia są sprowadzane od 3 dostawców A,B,C, w następujących
ilościach: 50%, 20% i 30%. Wadliwość urządzeń: od dostawcy A - 1%, B - 2%, C -
3%. Wybrane urządzenie okazało się wadliwe. Jakie jest prawdopodobieństwo, że
pochodzi ono od dostawcy A?
Zadanie 4
Zadanie 4
Wśród studentów jest 60% mężczyzn i 40% kobiet. Połowa studentek chodzi w
spodniach, a połowa w spódniczkach. Wszyscy studenci noszą spodnie.
Obserwator widzi osobę w spodniach. Jakie jest prawdopodobieństwo, że jest to
studentka?