Определить все возможные характеристики канала связи, в котором взаимосвязь источника с приёмником может быть описана матрицей:
 


Решение

Энтропия источника информации:



Энтропия приёмника информации:



Взаимная энтропия:



Потери информации в канале связи с помехами со стороны источника информации:
H(B/A)=H(A,B)- H(A)
Н(В/А)=3,32 – 1,81 =1,51 (бит/симв)
Потери информации в канале связи с помехами со стороны приёмника информации:
H(A/B)=H(A,B)- H(B)
Н(А/В)= 3,32 – 1,89 =1,43 (бит/симв)
Матрица потерь со стороны источника информации.
Элементы матрицы:



p(b1/a1)=0.01/0.24=0.04
p(b1/a2)=0.12
p(b1/a3)=0.53
p(b1/a4)=0.17

p(b2/a1)=0.42
p(b2/a2)=0.13
p(b2/a3)=0.21
p(b2/a4)=0.25

p(b3/a1)=0.46
p(b3/a2)=0.31
p(b3/a3)=0.18
p(b3/a4)=0.5

p(b4/a1)=0.08
p(b4/a2)=0.44
p(b4/a3)=0.08
p(b4/a4)=0.08



Матрица потерь со стороны приемника информации.
Элементы матрицы: