kodowanieZ

Przykład:

Skonstruujemy metodą Shannona kod binarny Fi dla źródła emitującego wiadomości elementarne Xj (i = 1...5) z prawdopodobieństwem p(x-i) 0.6; p(x2) = 0,15; p(xs) = 0,12; p(x4) = 0,03; p(xs) = 0,05 postępując zgodnie z powyższymi przepisami porządkując prawdopodobieństwo obliczenia log2[p(Xj)]'¹, Lj oraz Bj i konstruując Sj.

Xi	P(Xi)	log. - pW	Li	(Bi) 10	(Bfe	Si
X1	0.6	0.737	1	0	0.0000000...	0
*2	0.15	2.737	3	0.6	0.1001100...	100
*3	0.12	3.059	4	0.75	0.1100000...	1100
X4	0.08	3.644	4	0.37	0.1101111...	1101
*5	0.05	4.322	5	0.95	0.1111001...	11110

Widać, że żaden z pełnych wyrazów kodu nie jest przedrostkiem innego wyrazu. Jest to więc kod dekodowalny bez opóźnień. Średnia długość wyrazu kodu wynosi:

5

Lk_±= E POiK,=2.1

//I

Entropię źródła można wyliczyć jako:

H(A')    =1.72Bbit/wiadomość

i/1    ~^p^^Xi)

Zatem sprawność kodowania wynosi:

,, ₌ "ŁlZ|8₌₀.₈₂₃

L_ir_i*Iog₂2 2.1

zaś redundancja:

V