23975

5.Proszę obliczyć maksymalną wartość entropii zmiennej losowej X o rozkładzie skokowym, przyjmującej:

1.    2 wartości

2.    3 wartości

3.    4 wartości

4.    5 wartości

	a_	V^2	yi
X|	3,55	3,2	3,25
X2	3,15	3,8	3,05
*3	3,08	3,2	3,72
X4	3,45	3,3	3,25

Proszę policzyć entropię zmiennej losowej Y, reprezentowanej przez sygnały odebrane y„, jeżeli kanały opisany jest macierzą a prawdopodobieństwa nadania sygnałów wynoszą: a) b) 20%, 30%,

	12_	Y2
Xi	3,75	3.1	3,15
X2	3,25	3,65	3,1
x3	3,05	3,25	3,7
x4	3,3	3,4	3,3

a)

P(xl)=P(x2)=P(x3)=P(x4)=0,25

P(yl) = 0,75*P(xl)+0,25*P(x2)+0,05*P(x3)+0,3*P(x4) = 0,34 P(y2) = 0,l*P(xl)+0,65*P(x2)+0,25*P(x3)+0,4*P(x4) = 0,35 P(y3) = 0,15*P(xl)+0,l*P(x2)+0,7*P(x3)+0,3*P(x4) = 0,31

H(Y)=P(yl)*LOG2(P(yl))+P(y2)*LOG2(P(y2))

+P(y3)*LOG2(P(y3))=l,58 b)

P(Xl)=0,2 P(x2)=0,3 P(X3)=0,35 P(x4)=0,15 P(yl) = 0,55*P(xl)+0,15*P(x2)+0,08*P(x3)+0,45*P(x4) =0,25 P(y2) = 0,2*P(xl)+0,8*P(x2)+0,2*P(x3)+0,3*P(x4) =0,4 P(y3) = 0,25*P(xl)+0,05*P(x2)+0,72*P(x3)+0,25*P(x4) =0,35

H(Y)=P(yl)*LOG2(P(yl))+P(y2)*LOG2(P(y2))

+P(y3)*LOG2(P(y3))=l,56

6. Dany jest kanał telekomunikacyjny opisany wykresem. Oblicz entropię zmiennej losowej Z, jeżeli wiadomości xi, i X3 nadawane są z równym prawdopodobieństwem, a prawdopodobieństwa przejścia sygnału przez kanał określone są na rysunku.

X    Y