2982019940

5/26/2014

Przyglądając się samej wiadomości nie będziemy w stanie odpowiedzieć na to pytanie, bo ta sama wiadomość dla jednego odbiorcy może być bardzo cenna, a dla drugiego jest ona bezwartościowa.

Dlatego musimy odwołać do tego, czego dotyczy ta wiadomość i jakie ma ona dla nas znaczenie.

Wyobraźmy więc sobie, że interesuje nas pewne zdarzenie Z oraz że wiadomość W ma nas poinformować o tym zdarzeniu.

W takim przypadku potrzebujemy formuły matematycznej opisującej zależność l(W/Z) pozwalającą oszacować ilość informacji / jaką wnosi wiadomość W o zdarzeniu Z.

Zauważmy, że formuła l(W/Z) musi uzależniać ilość informacji zarówno od wiadomości 1/1/jak i od zdarzenia Z.

Zależność informacji od wiadomości W jest oczywista.

Natomiast fakt, że koncentrujemy się na zależności ilości informacji od zdarzenia Z, którego wiadomość dotyczy, wynika z faktu, że wiadomość W może zawierać dodatkowe informacje na zupełnie inne tematy.

Na przykład jeśli otrzymamy wiadomość o stanie zdrowia pacjenta telefonicznie to obok informacji o zdarzeniu Z (stan pacjenta) wiadomość W będzie zawierała dodatkowo informację o płci dzwoniącej osoby, o tym, czy jest zdenerwowana, a jeśli znamy głos rozmówcy - to również o jego tożsamości.

Jednak nas interesuje tylko informacja o zdarzeniu Z, jakim był stan zdrowia pacjenta, a wszelkie inne informacje się nie liczą, więc wyraźnie to wskazujemy w poszukiwanej formule /(W/Z).

Założenie Shannona:

Ilość informacji, jaką możemy uzyskać o jakimś zdarzeniu Z jest zależna od stopnia naszej niepewności co do tego zdarzenia.

10