Если сравнить код Морзе и МТК, то Морзе мене экономичен, т.к. при передаче одинаковых сообщений он требует в 2 раза больше времени. Но и МТК - 2 также не экономичен. Для того чтобы сравнивать информационную способность кода используется понятие энтропии - среднее количество информации в длинном источнике сообщения.
Если передавать к сообщений и они равновероятны, то 
, и тогда максимальная интерполяция:
Если все символы русского алфавита были равномерны, то энтропия была бы 5 бит/символ и тогда каждый элемент кода МТК-2 передавал бы максимальное количество информации - эффективное безизбыточное кодирование. Реально вероятность букв не одинакова:
бит/символ;
В связи с этим вводится понятие коэффициент избыточности - какая часть информации можно было бы предсказать заранее с учётом статистических свойств источника и не передавать её:
Для кода МТК-2 
.
Для этого сообщение стараются кодировать так, чтобы в достаточно длинной последовательности кодовой комбинации символы 1 и 0 встречались с равной вероятностью. От избыточности стараются избавиться:
1) Метод: код Шенноно-Фано - алфавит источника строят в порядке уменьшения вероятности. Затем алфавит разбивается на группы и подгруппы, таким образом, чтобы обеспечить при каждом разбиении обеспечить одинаковую суммарную вероятность групп и подгрупп.
  РазбиениеКод
| ||||||
 0,250000
| ||||||
 0,25101
| ||||||
 0,25100100
| ||||||
 0,251101
| ||||||
 0,06251001100
| ||||||
 0,062511101
| ||||||
 0,0625101110
| ||||||
 0,062511111
|
Код неравномерный, но не требует дополнительного разделения знаков, т.к. не одна короткая не является началом более длинной. Можно автоматизировать, но он абсолютно не помехоустойчив: искажение хотя бы одного элемента кода приводит к неправильному приёму групп символов.
2) Скремблирование - встречая длинную последовательность одинаковых символов оно их перемешивает. Обратную операцию выполняют дескремблеры.
Заключение
Начало практического использования было положено в 1872 году с изобретения телеграфа - это вид документаций электронных сведений, который обеспечивает передачу с помощью электрической энергии буквенно-цифрового текста.
В следующие 100 лет появились телефон, факсимильная связь, телевидение и передача данных.
Передача данных (ПД) - это передача информации в формализованном виде, предназначенного для её обработки техническими средствами или уже обработанные этими техническими средствами.
В настоящее время системы передачи дискретной информации (СПДИ) становятся все более привлекательными вследствие постоянно растущего спроса из-за того, что дискретная передача предлагает несравненно большие возможности обработки информации, не доступные при использовании аналоговой передачи. Отличительным преимуществом всех СПДИ является простота восстановления дискретных сигналов по сравнению с аналоговыми системами.
Список литературы
1. Лидовский В.И. Теория информации. - М.: Высшая школа, 2002. - 120 с.
2. Метрология и радиоизмерения в телекоммуникационных системах. Учебник для ВУЗов. / В.И. Нефедов, В.И. Халкин, Е.В. Федоров и др. - М.: Высшая школа, 2001. - 383 с.
3. Цапенко М.П. Измерительные информационные системы. - М.: Энергоатом издат, 2005. - 440 с.
4. Зюко А.Г., Кловский Д.Д., Назаров М.В., Финк Л.М. Теория передачи сигналов. − М: Радио и связь, 2001. - 368 с.
5. Скляр Б. Цифровая связь. Теоретические основы и практическое применение. Изд. 2-е, испр.: Пер. с англ. - М.: Издательский дом "Вильямс", 2003. - 1104 с.