Dotąd kilkakrotnie wspominaliśmy o kodowaniu, ale nie zdefiniowaliśmy dotąd precyzyjnie tego procesu. Rozważmy strukturę łącza informacyjnego, które uwzględnia proces kodowania i dekodowania.
koder
S(t)
kanał łączności
dekoder
• X(t) sygnał generowany przez źródło informacji (dyskretny)
• S(t) sygnał dyskretny po kodowaniu (ciąg wyrazów kodowych)
S (t> = F [X (t)] przekształcenie zwane kodowaniem F — reguła przyporządkowania (3.1)
• Z(t) sygnał kodowany po przejściu przez kanał łączności (mogą być zakłócenia)
• Y(t) sygnał odebrany po dekodowaniu Z(t)
YW = F-1lZ(tH (3.2)
Przypatrzmy się temu bliżej:
Niech źródło wysyła ciągi wiadomości elementarnych. Będziemy się zajmować tylko takimi metodami kodowania, które pojedynczym wiadomością elementarnym przyporządkowują określone wyrazy kodowe będące ciągiem symboli z pewnego zbioru.
Niech
Qx={xi ... xn}—zbiór wszystkich wiadomości elementarnych Qu = {ui ... uq} — zbiór symboli kodu — tzw. alfabet kodu
Kodowanie — to przyporządkowanie każdej wiadomości elementarnej x, ciągu Sj zbudowanego z symboli alfabetu kodu; si to wyrazy kodu, które tworzą zbiór Qs={si ... sn} Wyraz kodowy ma postać:
1 - LI
gdzie — element alfabetu kodu na j-tej pozycji wyrazu kodowego, przy czym Vj€{1.2...q} — zbiór liczb dla j = 1,2...Lj (Lj — długość i-tego wyrazu kodowego (liczba elementów alfabetu kodu, z których jest zbudowany)).
Poszczególne wyrazy kodowe mogą mieć różne długości. Liczbę elementów alfabetu kodu q nazywa się podstawa kodu.
Regułę kodowania F można zapisać jako przyporządkowanie (3.3)
F: f2.. DA',- —» s.; € a
Potocznie kodem nazywa się regułę kodowania i zbiór wszystkich wyrazów kodowych Os. Formalnie to uporządkowany ciąg czterech elementów (Qx, Qu, Os, F).
Można konstruować wiele kodów. Zwykle próbuje się skonstruować kod, żeby osiągnąć pewien cel np. zwiększyć szybkość transmisji (przekazu), zminimalizować wpływy zakłóceń itp. Poprzednio, przy okazji twierdzenia Shannona, do którego jeszcze wrócimy wspomnieliśmy, iż własności kanału łączności mogą wpływać na możliwość użycia określonych metod kodowania.