Теоремы Шеннона для канала с шумами (теоремы Шеннона для передачи по каналу с шумами) связывают пропускную способность канала передачи информации и существование кода, который возможно использовать для передачи информации по каналу с ошибкой, стремящейся к нулю (при увеличении длины блока).
Формулировка теорем
правитьПусть
- — длина блока, генерируемого источником
- — длина блока, который будет передан по каналу (после кодирования)
- — скорость передачи сообщений (производительность источника)
- — пропускная способность канала, определяемая как максимум взаимной информации на входе и выходе канала ( и — представление входа и выхода канала как случайных величин)
- — средняя вероятность ошибки декодирования блока
- — максимальная вероятность ошибки декодирования блока
- Прямая теорема
Если скорость передачи сообщений меньше пропускной способности канала связи ( ), то существуют коды и методы декодирования такие, что средняя и максимальная вероятности ошибки декодирования стремятся к нулю, когда длина блока стремится к бесконечности, то есть , при .
Иными словами: Для канала с помехами всегда можно найти такую систему кодирования, при которой сообщения будут переданы со сколь угодно большой степенью верности, если только производительность источника не превышает пропускной способности канала.
- Обратная теорема
Если скорость передачи больше пропускной способности, то есть , то не существует таких способов передачи, при которых вероятность ошибки стремится к нулю ( ) при увеличении длины передаваемого блока, ( ).
Предел Шеннона
правитьПод пределом Шеннона (англ. Shannon limit) понимается максимальная скорость передачи, для которой имеется возможность (выбрать сигнально-кодовую конструкцию) исправить ошибки в канале с заданным отношением сигнал/шум. Для канала с аддитивным белым гауссовским шумом пропускная способность согласно формуле Шеннона:
- ,
где
- — полоса частот канала, Гц,
- — мощность сигнала, Вт,
- — мощность шума, Вт,
- — спектральная плотность мощности шума, Вт/Гц.
Максимальная пропускная способность канала с АБГШ и неограниченным спектром:
- бит/с.
В настоящее время (2007 год) максимальное приближение к этому пределу даёт LDPC-код с примерной длиной блока в 10 миллионов бит.
Также, с другой стороны, под пределом Шеннона можно понимать минимальное отношение сигнал/шум, для которого теоретически возможно безошибочная передача и декодирование блока с заданной скоростью. Например, для вида модуляции QPSK и скорости передачи 1 (бит/с)/символ минимальное отношение сигнал/шум составляет 0,25 дБ.
Литература
править- Габидулин Э. М., Пилипчук Н. И. Лекции по теории информации — МФТИ, 2007. — 214 с. — ISBN 978-5-7417-0197-3
- Варгаузин, В.А., Цикин, И.А. Методы повышения энергетической и спектральной эффективности цифровой радиосвязи - СПб.: БХВ-Петербург, 2013 - 352 с. - ISBN 978-5-9775-0878-0