2013-01-23
Dokładnie tak samo, tylko bierzemy wtedy pod uwagę inne prawdopodobieństwa.
Zamiast prawdopodobieństwa apriorycznego p(Z) wstawiamy do odpowiedniego wzoru prawdopodobieństwo warunkowe
p(Z/W)
czyli prawdopodobieństwo zdarzenia Z po otrzymaniu komunikatu W.
Nadszedł moment, by wprowadzić do naszych rozważań pewną ważną nazwę.
Otóż miarę niepewności H(Z) i wszystkie miary pokrewne z nią nazywa się entropią.
Pojęcie to wcześniej wprowadzili fizycy dla wyjaśnienia nieodwracalnego charakteru pewnych procesów termodynamicznych.
Fizycy stwierdzili, że wszystkie procesy w Przyrodzie przebiegają w taki sposób, że entropia ustawicznie rośnie.
i you tosesd a tłuck, wtifch Kna of piteof bnck»
wwM sfou mx9 BRely produce?
17