2740389385

1.2. Podstawy teorii informacji

Definicja informacji

W poprzednim podrozdziale podkreśliliśmy znaczenie informacji we współczesnym świecie i rolę komputerów jako narzędzi do przetwarzania informacji. Stwierdziliśmy też, że proces projektowania może być traktowany jako proces przetwarzania informacji a systemy CAD wspomagające projektantów w zasadniczy sposób zmieniają ich pracę.

W tym rozdziale bliżej przyjrzymy się problemom związanych z ilością, kodowaniem i przetwarzaniem informacji.

Warto zauważyć, że ze względu na dynamiczny rozwój technik komputerowych a szczególnie internetu i szybko postępujący proces globalizacji informacja i wiedza są uważane za coraz ważniejszy towar na globalnym rynku, podobnie jak dobra materialne, kapitał czy energia. Informacja (łac. informatio - przedstawienie, pojęcie) - jest interdyscyplinarnym terminem definiowanym różnie w różnych dziedzinach nauki a w popularnym rozumieniu tego słowa, informacja to sposób przenoszenia wiedzy o jakimś wydarzeniu. Zakres podręcznika ograniczymy do wybranych problemów teorii informacji. Twórcą tej teorii jest Claude E. Shannon.

Informacja jest mierzalną wielkością abstrakcyjną, która może być przechowywana, przesyłana i przetwarzana w pewnych obiektach, a także stosowana do sterowania obiektami, przy czym przez obiekty rozumie się organizmy żywe, urządzenia techniczne oraz systemy takich obiektów.

Miary ilości informacji są w teorii informacji oparte o prawdopodobieństwo zajścia zdarzenia. Jako miarę ilości informacji przyjmuje się wielkość niepewności, która została usunięta w wyniku zajścia zdarzenia (otrzymania komunikatu). Zdarzenia (komunikaty) mniej prawdopodobne dają więcej informacji. To podejście pomija znaczenie (semantykę), jakie niesie komunikat, a skupia się jedynie na jego składni (a więc na syntaktyce).

Do przesyłania informacji służą komunikaty. Należy podkreślić, że aczkolwiek sama informacja należy do „świata abstrakcji” to jej zapis (ko-