Конспект установочных лекций по комплексному курсу Информатика, Теория информации




Надежность передачи сообщений - часть 5


Простейший метод декодирования тогда заключается в том, что адресат для непереданных битов бросает монету и таким способом угадывает значения непереданных битов. Вероятность ошибки ре на бит в подлежащем передаче слове поддается тогда из следующей формулы:

pe=p/R+(R-l)/(2R).

Лучшая мера корректно переданных битов поддается путем их упаковки в передаваемые блоки. Проиллюстрируем это на примере. Для R == 3 источник делит сообщение на блоки трехразрядных двоичных слов и пересылает значение большинства. Адресат утраивает каждый переданный бит. Тогда мы получаем в совокупности вероятность ошибки

ре=(2р+1)/4.

При вероятности ошибки р == 0 примерно ¾ знаков передаются корректно.

Описанная выше идея улучшения значения ре может быть применена и в других случаях, если для темпа источника справедливо R > 0. Всегда можно пытаться многие биты передаваемого слова уплотнить в I 6ит (или в меньшее число бит), передать это и добавить целиком к подлежащему передаче сообщению. Это приводит к вопросу: насколько при заданных темпе источника R и вероятности р ошибки в бите можно улучшить с помощью кодирования вероятность ошибки ре при передаче н подлежащий передаче бит? Принципиально можно сказать:

в случае R == 1 определенно ре = р является достижимым оптимумом, в случае R < 1 определенно ре < р, а в случае R > 1 определенно ре > р.

Точное высказывание относительно достижимой вероятности ошибки при заданных темпе источника и вероятности помехи может быть сделано следующим образом. Введем еще двоичную функцию энтропии Н2(p), определяемую формулой

Н2(Р) == р lg(l/p) + (1 - р) lg (l/(1-p) В частности, справедливо Н2(0) = Н2(1) = 0.

Меру для достижимой надежности передачи дает мощность канала.

Мощность канала указывает, какая вероятность ошибки при заданных темпе источника и вероятности ошибки на бит может быть достигнута в лучшем  случае. Мощность С определяется как

С(p)=1-H2(p).

 

 




Содержание  Назад  Вперед