5/26/2014
Możemy to formalnie zapisać wprowadzając do rozważań dwa zdarzenia Z, oraz Z2: jedno o większym, a drugie o mniejszy prawdopodobieństwie:
p(Z,)>p(Z2)
Zgodnie ze sformułowanym postulatem nierówność dotycząca niepewności będzie się układała w przeciwnym kierunku:
H(Z1)<H(Z2)
Omawiany postulat można uzupełnić przechodząc do granicy. Graniczną wartością, do jakiej może wzrosnąć prawdopodobieństwo jest wartość 1, nadawana zdarzeniom pewnym.
Skoro tak, to niepewność zdarzenia o prawdopodobieństwie wynoszącym 1 powinna być zerowa.
To jest właśnie kolejny postulat, jaki można wysunąć pod adresem definicji tego pojęcia.
p(Z) = 1 o H(Z) = 0
Trzeci postulat związany jest z sytuacjami, w których musimy określić miarę niepewności dla zdarzenie złożonego.
Załóżmy, że interesuje nas zdarzenie Z ooleeaiace na równoczesnym zajściu dwóch niezależnych zdarzeń. Na przykład sytuacja, w której pojawi się masowe zatrucie na wiejskim weselu i zepsuje się karetka pogotowia.
Otóż dla takiej sytuacji Shannon postulował, żeby niepewności zdarzeń składowych po prostu sie sumowały.
_Tak jest najprościej i najwygodniej!_
Zobaczmy, co z tego wynika?
Przy zdarzeniach niezależnych prawdopodobieństwo zajścia takiego zdarzenia złożonego Z jest (jak wiadomo) równe iloczynowi prawdopodobieństw zdarzeń składowych Z2 oraz Z2:
Z postulatu Shannona wynika inna | ||
zależność: |
Jest tylko jedna funkcja, która | |
zamienia iloczyn na sumę: | ||
H(Z) = H (pfZj p(Z2)) = H(Zj) + H(Z2) |
logarytm |
13