Каково распределение вероятностей входного алфавита Px и выходного алфавита y в системе связи с двоичной кодировкой

Весна

36

Для решения данной задачи, нам необходимо определить распределение вероятностей входного алфавита Px и выходного алфавита Py в системе связи с двоичной кодировкой.

Пусть вероятность исходного символа входного алфавита равна p, а вероятность изменения значения символа (воздействия шума) - (1-q).

Таким образом, вероятность появления каждого из символов входного алфавита будет следующей:
P(x=0) = p
P(x=1) = 1 - p

Теперь мы можем перейти к определению распределения вероятностей выходного алфавита Py.

Поскольку каждое из четырех независимых сообщений может быть передано с одинаковой вероятностью в виде кодовых векторов {0,0}, {0,1}, {1,0} и {1,1}, то вероятность каждого из этих кодовых векторов равна 1/4.

Теперь рассмотрим каждый символ кодового вектора отдельно и определим его вероятность.

При передаче кодового вектора {0,0}, никаких ошибок не возникает, поэтому его вероятность равна произведению вероятностей входного алфавита для каждого из символов:
P(y={0,0}|x=0) = p * p = p^2

Аналогично, вероятности для остальных кодовых векторов будут следующими:
P(y={0,1}|x=0) = p * (1-p)
P(y={1,0}|x=1) = (1-p) * p
P(y={1,1}|x=1) = (1-p) * (1-p) = (1-p)^2

Теперь мы можем заполнить таблицу, иллюстрирующую распределение вероятностей выходного алфавита Py:

\[
\begin{array}{|c|c|c|}
\hline
y & P(y) & \\
\hline
\{0,0\} & p^2 & \\
\hline
\{0,1\} & p \cdot (1-p) & \\
\hline
\{1,0\} & (1-p) \cdot p & \\
\hline
\{1,1\} & (1-p)^2 & \\
\hline
\end{array}
\]

Таким образом, мы определили распределение вероятностей для входного алфавита Px и выходного алфавита Py в заданной системе связи с двоичной кодировкой.