kodowanie 5

KODOWANIE A TRANSMISJA W KANAŁACH ŁĄCZNOŚCI BEZ ZAKŁÓCEŃ

Metoda kodowania Shannona

Przekształcając nierówność (3.15) można pokazać, że prowadzi ona do nierówności (3.17)

l°g,£?

Li>

która określa długość wyrazów kodowych, aby spełniona była nierówność (3.14). Metoda konstrukcji kodu opracowana przez Shannona polega na:

1.

2.

przenumerowaniu wiadomości elementarnych tak, aby prawdopodobieństwa ich nadania uszeregować od największego do najmniejszego: p(xi) > p(x₂) ^ ...p(x_n_i) £ p(x_n)(3.18)

wyznaczaniu długości poszczególnych wyrazów kodu Lj w oparciu o nierówność (3.17) czyli wymagając, by były one najmniejszymi liczbami całkowitymi spełniającymi tę nierówność czyli

Z Li

< lo

+

1

(log_qq = 1) (3.19)

3. określeniu zbioru liczb pomocniczych ESj według zależności: B-i = 0 B₂ = p(Xi)

B₃ = B₂ + p(x₂) (3.20)

Bj= Bj_i + p(x_i_₁)

Bn+1 ⁼ 1

Wartości liczb Bi...B_n zapisujemy w reprezentacji o podstawie q (np. dziesiętnej lub dwójkowej) w postaci:

B_i = 0,A₁,A₂,A₃... A_p... (3.21)

gdzie A._p jest współczynnikiem wyrażenia zawierającego q'^p i przybiera wartości 0,1,2...q-1 (porównaj reprezentację dwójkową q = 2 i mamy współczynniki o wartości 0,1 dla wyrazów 2° i 2'¹ 2'² itd.)

Dla określenia i-tego wyrazu kodowego należy w liczbie Bj zapisanej w postaci (3.21) wybrać Lj kolejnych współczynników A._p (p = 1,2... Lj) licząc od przecinka w prawo. Utworzą one wyraz kodowy:

Sj = (A.-1, A₂...Au), gdzie i = 1... n (3.22)

Widać, że przyjęto tu milcząco założenie, że q-elementowy alfabet kodu ma postać:

Q_u = {0;1;...;q-1}(3.23)