15.1. Количество информации переданной по дискретному каналу
Количество информации, переданной по каналу, это разность между энтропией на выходе и энтропией шума:
, (15.2)
I(Y,X) – количество информации, переданной по каналу;
H(Y/X) – энтропия шума (ложная информация, создаваемая помехами);
H(Y) – энтропия на выходе канала;
X={xi} – алфавит источника сообщений;
Y={yj} – алфавит получателя сообщений;
pош – вероятность ошибки при передаче любого символа;
m – количество символов.
Количество информации, переданной по каналу связи, обладает следующими основными свойствами:
I(Y,X) ≥ 0, причём I(Y,X) = 0 тогда и только тогда, когда входные и выходные сообщения в канале взаимно независимы;
I(Y,X) ≤ H(Х), причем I(Y,X) = H(Х), тогда и только тогда, когда входная последовательность определяется однозначно по выходной последовательности, например, когда в канале нет помех;
I(Y,X) = I(Х,Y) = H(Y) - H(Y/X) следует из того, что количество информации не изменится, если входную и выходную последовательность поменять местами.
Еще по теме 15.1. Количество информации переданной по дискретному каналу:
- 15.5. Количество информации, переданной по непрерывному каналу
- 22.4. Количество информации при приёме дискретных сигналов радиотехнической системы связи
- 14.3. Модели дискретных каналов
- Моменты количества: дискретное и непрерывное
- НЕКОТОРЫЕ АСПЕКТЫ ТАКТИКИ ПОЛУЧЕНИЯ КРИМИНАЛИСТИЧЕСКИ ЗНАЧИМОЙ ИНФОРМАЦИИ ИЗ СООБЩЕНИЙ, ПЕРЕДАННЫХ ОСУЖДЕННЫМИ
- 22.5. Количество информации при оптимальном приёме непрерывных сигналов
- Вариации в пределах «канал мысли - канал непосредственного чувства»
- 15.2. Пропускная способность дискретного канала
- 7.2. Автокорреляция дискретного сигнала
- 15.3. Пропускная способность симметричного дискретного канала без памяти
- 12.1. Алгоритмы дискретного и быстрого преобразований Фурье
- 12.2. Стационарные линейные дискретные цепи
- 15.4. Методы сжатия дискретных сообщений
- 22.7. Пропускная способность каналов радиотехнической системы связи
- Самодержавная власть передается по наследству