Обзор современных методов помехоустойчивого кодирования д. т. н. В. В. Золотарёв Большой объем передачи цифровых данных требует обеспечить их высокую достоверность Одним из важнейших способов снижения вероятности ошибки при передаче по каналам с шумами, искажающими цифровые потоки, является использование методов помехоустойчивого кодирования В.В.Золотарёв Обзор по кодированию 2 Принципы помехоустойчивого кодирования Информация разбивается на блоки, например, двоичных символов, к которым добавляются контрольные разряды, являющие функцией от информационной части передаваемого сообщения. Относительная доля исходных информационных символов в таком расширенном блоке называется кодовой скоростью R. В.В.Золотарёв Обзор по кодированию 3 Основные понятия теории информации Пропускная способность канала С - характеризует максимальное среднее количество информации, которое может быть передано получателю за период одного использования канала. С - функция от уровня шума канала, т.е. от вероятности ошибки передачи двоичного символа. В.В.Золотарёв Обзор по кодированию 4 Основное ограничение теории информации для кодирования Всегда должно выполняться условие R<C ! В этом случае существуют системы кодирования, которые могут обеспечить передачу цифровой информации со сколь угодно малой вероятностью ошибки, если длина блока данных будет достаточно велика. В.В.Золотарёв Обзор по кодированию 5 Как в технике связи выполнить указанное условие? Это сложно или нет? 1. Введение 2. Для заданной избыточности, вероятности соответствующей ошибки искажения заданному значению двоичного символа при кодовой скорости R - передаче по каналу с это очень просто. гауссовским шумом его пропускная способность С также 3. Значит, легко вычисляется R<C - понятное для специалистов условие В.В.Золотарёв Обзор по кодированию 6 Простейший кодер для блокового кода, исправляющего 2 ошибки! Так задаем избыточность (скорость); R=1/2 В.В.Золотарёв Обзор по кодированию 7 По возможности - ещё проще!!! Пример кодера для свёрточного кода с той же кодовой скоростью R=1/2. В.В.Золотарёв Обзор по кодированию 8 Предельные возможности кодов Пропускная способность канала и скорость R1 Зависимость пропускной способности ДСК и скорости R1 от вероятности ошибки в канале Po 1,00 0,90 0,80 0,70 0,60 C 0,50 R1 0,40 0,30 0,20 0,10 0,00 0,000 0,050 0,100 0,150 0,200 0,250 0,300 0,350 0,400 0,450 0,500 Po - вероятность ошибки в канале В.В.Золотарёв Обзор по кодированию 9 Какое качество кодов главное? - кодовое расстояние d , определяющее минимальное количество символов, в которых могут отличаться кодовые слова, т. е. допустимые сообщения. Например, в кодах проверки на чётность все допустимые слова - только с чётным числом единичек и, значит, для них кодовое расстояние d=2 ! В.В.Золотарёв Обзор по кодированию 10 Зачем надо брать коды с большими значениями d ? Чем больше d , тем большее число ошибок, попавшее в сообщение при передаче, может быть исправлено. В этом случае растёт доля сообщений, которые после обработки (декодирования) могут оказаться безошибочными. А тогда какие максимальные значения d возможны? В.В.Золотарёв Обзор по кодированию 11 Пределы корректирующих свойств двух классов кодов Связь между кодовым расстоянием d и скоростью R блоковых и сверточных кодов 1,00 Кодовая скорость R 0,90 0,80 Кодов нет ! 0,70 0,60 0,50 0,40 0,30 0,20 d free R блок d min R свёрт Коды есть ! 0,10 R блок 0,00 0,000 0,050 0,100 0,150 0,200 0,250 0,300 0,350 0,400 0,450 0,500 Отношение кодового расстояния d к длине кода n: В.В.Золотарёв d/n Обзор по кодированию 12 Один из главных вопросов: Какой же длины должен быть код? Поскольку при R<C теория гарантирует хорошие результаты при передаче закодированных данных, давайте посмотрим, насколько длинным должен быть кодовый блок в различных случаях. В.В.Золотарёв Обзор по кодированию 13 Нижние оценки вероятностей ошибки оптимального декодирования блоковых кодов с R=1/2 в ДСК. Даже коды длины n=1000 неэффективны при вероятности ошибки в канале Ро>0.08. А теория-то утверждает, что можно успешно работать при Ро<0.11, поскольку при этом будет выполняться условие C>1/2. И ведь это переборные методы! В.В.Золотарёв Обзор по кодированию 14 Главные «шутки» природы 1. Почти все коды «хорошие». Случайно выбранный код, т.е. структура связей в кодере, в большинстве случаев в хорошем приёмнике обеспечит вероятность итоговой ошибки, мало отличающуюся от наилучшей из возможных. 2. Почти все коды могут декодироваться только переборными методами. Для кода длины 1000 перебор при R=1/2 2500(!!!) вариантов решений превышает число атомов во Вселенной! И ЧТО ЖЕ ДЕЛАТЬ?!!!15 В.В.Золотарёв Обзор по кодированию Главная проблема теории помехоустойчивого кодирования 1. Найти и исследовать методы более простого непереборного декодирования принятых из канала с шумом сообщений.. 2. Обеспечить такое качество декодирования этими методами, чтобы оно было по возможности ближе к эффективности с переборных процедур. 3. Максимально учитывать потребности и условия применения кодирования в В.В.Золотарёв Обзор по кодированию 16 реальных системах связи. Что умеют конкретные методы декодирования? Коды БЧХ: до R=C, т.е. до Ро=0.11 - о-о-о-чень далеко! В.В.Золотарёв Обзор по кодированию 17 Пороговые декодеры: очень просто Обратим внимание: Это действительно простейшая схема исправления многих ошибок! В.В.Золотарёв Обзор по кодированию 18 Но эффективность ПД - мизерна! До Ро=0.11 тоже чрезвычайно далеко. В.В.Золотарёв Обзор по кодированию 19 Многопороговые декодеры (МПД) для гауссовских каналов Разработаны и глубоко исследованы за 25 лет многопороговые декодеры, очень мало отличающиеся от обычных чрезвычайно простых классических пороговых процедур, предложенных Дж. Месси Главное свойство МПД - при каждом изменении декодируемых символов его новое решение приближается к оптимальному. В.В.Золотарёв Обзор по кодированию 20 Основные следствия из свойств МПД Если МПД достаточно долго изменяет символы принятого сообщения, он может достичь решения оптимального декодера (ОД) при линейной сложности декодирования. Обычно решения ОД - результат экспоненциально растущего с длиной кода перебора . . . . . , а тут линейная сложность? В.В.Золотарёв Обзор по кодированию 21 Решенные проблемы МПД 1. Полностью решена сложнейшая задача оценки размножения ошибок (РО) в ПД 2. Построены коды с минимальным РО 3. Созданы 4 поколения аппаратуры кодирования, реализующей алгоритм МПД. 4. Самое главное : Сохранена минимально возможная сложность декодирования, характерная для обычного ПД. 5. Следствие. МПД и при высоких уровнях шума работает почти как ОД. 6. ИТОГ. Создание эффективного декодера решенная в принципе проблема. В.В.Золотарёв Обзор по кодированию 22 Нижние оценки вероятностей ошибки оптимального приема свёрточных кодов с R=1/2 по алгоритму Витерби и МПД в ДСК. Вероятность ошибки на бит Вероятности ошибки алгоритмов декодирования в ДСК МПД1 МПД2 МПД3 av7h av11h av15h n1000 n=10000 n=3000 э4 э6 э8 1,0E-02 1,0E-03 1,0E-04 4 15 11 7 1,0E-05 К К 1,0E-06 1,0E-07 1,0E-08 Сдск 1,0E-09-1.5 -1.0 0,1170 G=4 0,1038 1 n1000 G=8 n10000-n3000 0.5 0.0 0.5 1.0 1.5 0,0909 0,0787 0,0671 0,0563 0,0464 3 2 G=6 2.0 2.5 0,0375 0,0297 Отношение сигнал/шум в Гауссовском канале, дБ и Ро в ДСК В.В.Золотарёв Обзор по кодированию 3.0 Es/No 0,0229 Po 23 А что надо для техники связи? «Снижение энергетики канала связи на 1 дБ дает экономическую эффективность в миллион долларов» Э. Р. Берлекэмп. Техника кодирования с исправлением ошибок. ТИИЭР, 1980, т.68, №5. В настоящее время при многократном росте стоимости сетей связи цена снижения энергетики многократно (!!!) возросла. • Но как увязать вероятностные характеристики канала с его энергетикой ? В.В.Золотарёв Обзор по кодированию 24 Кодирование значительно снижает энергетику канала передачи ! Величина снижения называется энергетическим выигрышем кодирования (ЭВК) • ЭВК = 10*Lg(R*d) дБ Связисты давно знают, как изменить приёмник для увеличения ЭВК А где границы снижения энергетики? В.В.Золотарёв Обзор по кодированию 25 Как связисты улучшают ёмкость (пропускную способность) канала? Используют «мягкий» модем, оценивающий надежность приёма (амплитуду) сигнала, а не «жёсткий», который только выносит решение о значении принятого бита. Это позволяет снизить энергетику сигнала примерно на 2 дБ. Распределение выходного напряжения «мягкого» модема с квантованием на 16 уровней оценок амплитуды сигнала показано на рисунке. Распределение выходного напряжения двоичного сигнала в модеме 0,18 0,16 1 0 0,14 « - » 0,1 Ноль 0,08 Один « + » Значения 0,12 0,06 0,04 0,02 № п/п 0 1 2 3 4 5 6 7 0 8 9 10 11 12 13 14 В.В.Золотарёв Номера областей Обзор по кодированию 15 16 17 26 Минимально возможное отношение энергии на бит передаваемой информации к мощности шума канала Eb/No для различных кодовых скоростей R может быть представлено для “жёсткого” и “мягкого” модемов так 7 6 Eb/N0,дБ 5 4 3 "жёсткий", М=2 2 "мягкий", М=16 1 0 0 0,1 0,2 0,3 0,4 0,5 0,6 0,7 0,8 0,9 1 -1 В.В.Золотарёв R - Обзор по кодированию кодовая скорость 27 Вероятности ошибки основных базовых алгоритмов декодирования в гауссовском канале при "мягком" приёме av7 av11 av15 м11 m7 m9 э4 э6 э8 Вероятность ошибки на бит 1,0E-02 1,0E-03 1,0E-04 1,0E-05 1,0E-06 1,0E-07 11 К 15 К м7 G=8 m11 7 G=4 m9 G=6 -1.5 -1.0 -0.5 0.0 0.5 1.0 1.5 2.0 2.5 3.0 1,0E-08 0,117 0,104 0,091 0,079 0,067 0,056 0,046 0,038 0,030 0,023 Отношение сигнал/шум в Гауссовском канале, дБ и Ро В.В.Золотарёв Обзор по кодированию Es/No Po 28 Лучшие решения - каскадные! При этом кодирование осуществляется двумя и более кодами, которые в приемнике декодируются в обратном порядке и при определенном взаимодействии декодеров. На практике получили широкое распространение каскадные схемы из свёрточного кода, декодируемого по алгоритму Витерби, и кода Рида-Соломона. На графике - лучшие известные результаты по эффективности в гауссовском канале 1E-1 1E-2 МПД-К2 АВ+РС Pb(e) 1E-3 турбо 1E-4 Плет-2 1E-5 CМ=1/2 Плет-1 МПД-К1 1E-6 0 0,5 1 Eb /No В.В.Золотарёв 1,5 Обзор по кодированию 2 2,5 29 Но!! МПД на 2 порядка проще! Сравнение числа операций декодеров Число операций 100000 10000 МПД-S 1000 МПД-а МПД-б 100 турбо 10 1 0,00 0,25 0,50 0,75 1,00 1,25 1,50 1,75 2,00 2,25 2,50 Энергетика канала, Eb/No, дБ В.В.Золотарёв Обзор по кодированию 30 Что будем использовать? - Наиболее простые и эффективные методы !!! Рост эффективности кодирования - ЭВК - история достижений 10 9 8 ЭВК, дБ 7 6 4 3 Турбо МПД 5 ПД ЭВК КК: АВ+РС АВ КК: турбо, МПД, ????? 2 1 0 1965 1970 1975 1980 1985 1990 1995 2000 2005 2010 Годы В.В.Золотарёв Обзор по кодированию 31 ИКИ РАН: т. 333-23-56 НИИРадио: т.261-54-44 E-mail: [email protected] т. +7 -095-573-51-32 моб.: +7-916-518-86-28 15.09.2003 г. В.В.Золотарёв Обзор по кодированию 32