11919

za każdym powtórzeniem, mimo że słyszał, nic więcej się nie dowiedział. Czy wobec tego ten ktoś otrzymał informacje tylko za pierwszym razem? Jak wobec tego nazwać to, co słyszał za każdym kolejnym powtórzeniem daty bitwy? Informacja nie musi być nowiną, choć niewątpliwie nowina usuwa albo zmniejsza niewiedzę. Wyjaśnienie tej kwestii można uzyskać wprowadzając pojęcie informacji dodatniej, zerowej i ujemnej. Informacja zerowa nie zmienia stanu wiedzy tego, kto tę informację otrzymał. Zerową wartość ilościową mogą mieć całe informacje, jak w przytoczonym przykładzie powtarzania daty bitwy pod Grunwaldem, bądź też tylko niektóre fragmenty informacji. Na przykład, gdy ktoś mówi, że „cofa się do tyłu"- to jego słowa „do tyłu” mają zerową wartość ilościową informacji, bowiem cofać się można tylko do tyłu.

W wyniku dotychczasowych rozważań może nasunąć się pytanie o możliwość pomiaru informacji. Nie wnikając w szczegóły, można odpowiedzieć twierdząco i dodać, że jako kryterium pomiaru informacji przyjmuje się wspomnianą już wartość ilościową oraz wartość użytkową Wartość ilościowa informacji (I) to ilość niewiedzy (entropia - H), jaką dana informacja usuwa. Nie należy, więc utożsamiać jej z objętością, ponieważ niejednokrotnie jedno zdanie może zawierać więcej informacji niż kilkanaście innych zdań. Wartość ilościowa informacji zależy od:

1)    wielkości niewiedzy (H) jaką usuwa;

2)    stopnia złożoności zagadnienia (liczności zbioru możliwości);

3)    prawdopodobieństwa zdarzenia (p), o którym uzyskuje się informację.

Jednostką miary wartości ilościowej informacji jest bit. Bit jest to ilość informacji związana z wyborem jednej z dwóch jednakowo prawdopodobnych możliwości. Do obliczeń można wykorzystywać poniższe wzory:

I = Hi - H2 przy czym H = - £ pai log2 pa,

I = log₂ P2 - log₂ Pi

Gdzie:

■    P2 prawdopodobieństwo zdarzenia po otrzymaniu informacji

■    pi prawdopodobieństwo zdarzenia przed otrzymaniem informacji

Do obliczenia, np. wartości ilościowej informacji o tym, że brygada wykonała zadanie (a była jeszcze tylko jedna możliwość, tzn. niewykonanie zadania), wykorzystuje się logarytm o podstawie dwa z liczby wyrażającej różnorodność możliwości. Przed otrzymaniem informacji niewiedza (Hi) obejmowała dwie możliwości i wynosiła 1 bit, bo log22 = 1. Po otrzymaniu informacji pozostała już tylko jedna możliwość, czyli niewiedza (H₂) wynosiła 0, (bo log2l = 0). Wobec tego informacja o wykonaniu zadania niosła jeden bit informacji (H,-H₂=1 -0=1).

Rozważając zagadnienie ilości informacji należy zaznaczyć, że w tym samym określeniu może być zawarta różna ilość informacji. Jeżeli stwierdza się, że na przykład „obrona przeciwnika naszej drużyny piłkarskiej jest słaba", to ilość informacji zawarta w tym określeniu może być różna, gdyż zależy od przyjętej skali ocen. Gdy stosuje się skalę dwustopniową: 1) obrona silna, 2) obrona słaba - to w określeniu „obrona słaba” zawarty jest tylko jeden bit informacji (log22 = 1). W wypadku skali pięciostopniowej: 1) obrona bardzo słaba; 2) słaba; 3) dość silna; 4) silna; 5) bardzo silna - w określeniu „obrona słaba" zawarte jest 2,32 bita informacji (log23 = 2,32). Tak, więc określenie „obrona słaba" oparte na pięciostopniowej skali ocen lepiej charakteryzuje siłę obrony, niż identyczne określenie oparte na skali dwustopniowej. Ilość informacji zależy również od prawdopodobieństwa zdarzeń, które w danej sytuacji mogą zaistnieć (im mniej prawdopodobne zdarzenie, o którym informacja donosi, tym większa jest wartość ilościowa tej informacji).