График  отношения   изображен на рис. 4.6. Заметим, что при малом отношении 

а пропускная способность канала связи прямо  пропорциональна этому отношению.

При большом  отношении   в (4.18) можно пренебречь единицей и считать, что

т.е. зависимость  пропускной способности непрерывного канала от отношения сигнал/шум логарифмическая.

Пропускная  способность канала, как предельное значение скорости безошибочной передачи информации, является одной из основных характеристик любого канала.

Определим пропускную способность стандартного канала тональной частоты, имеющего границы эффективно передаваемых частот   кГц, среднюю мощность сигнала на выходе 56 мкВт при средней мощности помехи 69000 пВт.

Согласно (4.18), при заданных параметрах

Для непрерывных  каналов справедлива теорема  Шеннона, согласно которой сообщения  дискретного источника могут  быть закодированы и переданы по непрерывному каналу так, что вероятность ошибочного декодирования принятого сигнала   будет меньше наперед заданной положительной величины  , если производительность источника   меньше пропускной способности   непрерывного канала.

Для типовых  непрерывных каналов многоканальной связи основные технические характеристики и пропускная способность, вычисленная  по формуле Шеннона (4.18), при отношении  сигнал/шум 20 дБ, приведены в табл. 4.4.

Зная  пропускную способность канала и  информационные характеристики сообщений (табл. 4.5), можно определить, какие  сообщения (первичные сигналы) можно  передавать по заданному каналу.

Таблица 4.4. Характеристики типовых каналов  многоканальной связи

Таблица 4.5. Производительность источников сообщений

Например, первичный сигнал телевизионного вещания  имеет   (табл. 4.5) и поэтому не может быть передан ни по одному из типовых непрерывных или цифровых каналов без потери качества. Следовательно, для передачи сигнала телевизионного вещания требуется создание специальных каналов с более высокой пропускной способностью или снижение скорости цифрового потока.

Пропускная  способность дискретного  канала

4.2.1. Количество информации  переданной по  дискретному каналу

Основной  задачей систем связи является передача информации от источника к получателю. Решение этой задачи сопряжено с  определенными трудностями, связанными не только с представлением информации в виде сообщения, пригодного для  восприятия и обработки, но и с  преобразованием данного сообщения  в сигнал, пригодный для передачи по линии связи. Представим графически процесс передачи информации по каналу связи (рис.4.2) и учтем при этом возможное влияние помех.

Пусть дискретный канал определяется:

       – алфавитом источника сообщений;

        – алфавитом получателя сообщений;

        – «потерями» информации;

        – ложной информацией, создаваемой  помехами;

 – количеством информации, переданной по каналу.

Условная  энтропия характеризует среднюю  степень неопределенности принимаемых  сигналов, обусловленную действием  помех.

При сопряжении входа канала с любым источником двоичной информации на вход могут  поступать двоичные символы   и   с вероятностями   и   соответственно (рис.4.3). На выходе канала появляются двоичные символы   и  . Обозначим вероятность ошибки при передаче любого символа через  . Тогда,  , а  . В общем случае, для  -ичного дискретного канала [5]:

Тогда «шумовая» энтропия будет определяться выражением [5]:

Из полученного  выражения следует, что энтропия определяемая только помехой не зависит от вероятности   появления символов на входе канала.

Если  символы на входе канала выбираются независимо от предыдущих символов с  одинаковыми вероятностями, то энтропия выходных символов достигает своего максимального значения, равного:  .

Таким образом, количество информации, переданной по каналу, это разность между энтропией на выходе и энтропией шума:

Количество  информации, переданной по каналу связи, обладает следующими основными свойствами:

, причем   тогда и только тогда, когда входные и выходные сообщения в канале взаимно независимы;

, причем   тогда и только тогда, когда входная последовательность определяется однозначно по выходной последовательности, например, когда в канале нет помех;

 следует из того, что количество информации не изменится, если входную и выходную последовательность поменять местами. 
 

Модели процесса передачи: Измерение информации. 
 

Модель  процесса передачи

Взаимодействие  между территориально удаленными объектами  осуществляется за счет обмена данными. Доставка данных производится по заданному  адресу с использованием сетей передачи. Важнейшим звеном цепи является канал  передачи данных.

Рассмотрим  канал передачи данных как совокупность средств и понятий.

Физической  средой передачи данных является реальный канал связи КС. В нем элементы данных передаются в виде физических сигналов. Этот канал называется непрерывным. Сигналы в нем - непрерывные функции  времени. Согласование сигнала и  канала связи осуществляется по пропускной способности непрерывного канала и  по скорости передачи сигнала.

Для согласования сигнала с каналом в структуре  канала передачи данных имеются устройства преобразования. Например, для телефонных каналов - модемы. Модем - это совокупность модулятора и демодулятора. С помощью  модулятора сигнал воздействует на параметр переносчика сигналов. При этом воздействии  спектр сигнала смещается в область  частот с наименьшим затуханием в  выбранном непрерывном канале связи. Обратно от модулированного сигнала  к модулирующему переходят с помощью демодулятора. Модулятор, непрерывный канал и демодулятор образуют дискретный канал. На входе и выходе этого канала существуют дискретные элементы кода. Должны быть согласованы скорость передачи этих элементов кода с пропускной способностью КС.

Для обеспечения  помехоустойчивости в структуру  канала передачи данных вводится устройство защиты от ошибок УЗО. Оно производит устойчивое кодирование - декодирование  сигнала.

Источники ИС и потребители ПС сообщений  согласуются с каналом передачи данных устройствами сопряжений УС. На приемной и передающей стороне имеется  оконечное оборудование данных ООД. Стык между ООД и аппаратурой  передачи, реализующей дискретный канал, унифицируется международными стандартами.  
 
 
 
 

Измерение информации, различные подходы к  измерению информации

Важным  вопросом является измерение количества информации. Как понять, сколько  информации мы получили в том или ином сообщении?

Разные  люди, получившие одно и то же сообщение, по-разному оценивают его информационную ёмкость, то есть количество информации, содержащееся в нем. Это происходит оттого, что  знания людей о событиях, явлениях, о которых идет речь в сообщении, до получения сообщения были различными. Поэтому те, кто зна  л об этом мало, сочтут, что получили много информации, те же, кто знал больше, могут сказать, что информации не получили вовсе. Количество информации в сообщении, таким образом, зависит от того, насколько ново это сообщение для получателя.

В таком  случае, количество информации в одном  и том же сообщении должно определяться отдельно для каждого получателя, то есть иметь субъективный характер. При этом нельзя объективно оценить  количество информации, содержащейся даже в простом сообщении. Поэтому, когда информация рассматривается  как новизна сообщения для  получателя (бытовой подход), не ставится вопрос об измерении количества информации.

Чаще  всего применяются два подхода  к измерению информации:

алфавитный (т.е. количество информации зависит от последовательности знаков);

содержательный или вероятностный (т.е. количество информации зависит от ее содержания).

Алфавитный (объемный) подход

Алфавитный (объемный) подход применяется в  технике, где информацией считается  любая хранящаяся, обрабатываемая или  передаваемая последовательность знаков, сигналов.

Этот  подход основан на подсчете числа символов в сообщении, то есть связан только с длиной сообщения и не учитывает его содержания. Но длина сообщения зависит не только от содержащейся в нем информации. На нее влияет мощность алфавита используемого языка.