Ранее мы рассмотрели кодирование и передачу информации по каналу связи в идеальном случае, когда процесс передачи информации осуществляется без ошибок. В действительности этот процесс неизбежно сопровождается ошибками (искажениями). Канал передачи, в котором возможны искажения, называется каналом с помехами (или шумами). В частном случае ошибки возникают в процессе самого кодирования, и тогда кодирующее устройство может рассматриваться как канал с помехами.
Наличие помех приводит к потере информации. Чтобы в условиях наличия помех получить на приемнике требуемый объем информации, необходимо принимать специальные меры. Одной из таких мер является введение так называемой «избыточности» в передаваемые сообщения; при этом источник информации выдает заведомо больше символов, чем это было бы нужно при отсутствии помех. Одна из форм введения избыточности – простое повторение сообщения. Таким приемом пользуются, например, при плохой слышимости по телефону, повторяя каждое сообщение дважды. Другой общеизвестный способ повышения надежности передачи состоит в передаче слова «по буквам» – когда вместо каждой буквы передается хорошо знакомое слово (имя), начинающееся с этой буквы.
Пропускная способность канала, когда число элементарных символов более двух и когда искажения отдельных символов зависимы может быть определена с помощью второй теоремы Шеннона. Зная пропускную способность канала, можно определить верхний предел скорости передачи информации по каналу с помехами.
Рассмотрим на примере: Пусть имеется источник информации Х, энтропия которого в единицу времени равна 
, и канал с пропускной способностью Х. Тогда если
|
|
,
то при любом кодировании передача сообщений без задержек и искажений невозможна.
Если же
,
то всегда можно достаточно длинное сообщение закодировать так, чтобы оно было передано без задержек и искажений с вероятностью, сколь угодно близкой к единице.
Задача 2: Выяснить, достаточна ли пропускная способность каналов для передачи информации, поставляемой источником, если имеются источник информации с энтропией в единицу времени 
=110 (дв. ед.) и количество каналов связи n = 2, каждый из них может передавать в единицу времени К = 78 двоичных знаков (0 или 1); каждый двоичный знак заменяется противоположным с вероятностью μ=0.17.
Решение.
η(μ) = 0,434587
η(1 – μ) = 0,223118
η(μ) + η(1 – μ) = 0,434587 + 0,223118 = 0,657688
На один символ теряется информация 0,584239 (дв. ед.).
Пропускная способность канала равна:
С = 78∙(1 – 0,657688) =26,7≈27 двоичных единиц в единицу времени.
Максимальное количество информации, которое может быть передано по двум каналам в единицу времени:
27∙2 = 54 (дв. ед.), чего не достаточно для обеспечения передачи информации от источника, так как источник передает 110 дв. ед. в единицу времени. Для обеспечения передачи информации в достаточном объеме и без искажения необходимо увеличить количество пропускных каналов связи до трех. Тогда максимальное количество информации, которое может быть передано по трем каналам в единицу времени:
3*54=162 двоичных единиц в единицу времени. 162>110, следовательно информация будет передаваться без искажений.
Для передачи информации без задержек можно:
1. Использовать способ кодирования-декодирования;
|
|
2. Применять компандирование сигнала;
3. Увеличить мощность передатчика;
4. Применять дорогие линии связи с эффективным экранированием и малошумящей аппаратурой для снижения уровня помех;
5. Применять передатчики и промежуточную аппаратуру с низким уровнем шума;
6. Использовать для кодирования более двух состояний;
7. Применять дискретные системы связи с применением всех посылок для передачи информации.