Изменение формы шума округления для основанных на целочисленном преобразовании кодирования и декодирования аудио и видеосигнала

Изменение формы шума округления для основанных на целочисленном преобразовании кодирования и декодирования аудио и видеосигнала

Иллюстрации

Показать все

Реферат

Изобретение относится к способу и устройству для улучшения эффективности кодирования для аудио- или видеосигнала.

Уровень техники

Целочисленное обратимое преобразование, в частности целочисленное MDCT (IntMDCT), используют при кодировании аудио/видео без потерь или HD (высокого разрешения). Например, недавно стандартизированный кодек SLS MPEG-4 использует IntMDCT.

Подход может быть применимым также в других областях, где используют преобразования без потерь. Например, целочисленное обратимое Вейвлет-преобразование используют для кодирования изображения и видео без потерь.

Проблемой любого целочисленного обратимого преобразования является то, что преобразование разделяют на последовательные этапы, каждый из которых вносит значительные ошибки округления в сигнал. Эта проблема становится более существенной, чем ниже уровень кодируемого полезного сигнала. Следовательно, шум ошибки округления является ограничивающим фактором в схемах остаточного кодирования, в которых остаток является сигналом ошибки между исходным сигналом (или без потерь или HD) и закодированной его версией с потерями или стандартного разрешения.

Без изменения формы шума шум ошибки округления будет одинаково влиять на все частотные компоненты преобразованного сигнала. Это является особой проблемой для частотных компонент, в которых фактический уровень сигнала является низким. В компонентах, в которых ошибка округления становится доминантой, большой "штраф" с точки зрения сильно увеличенной энтропии (и, следовательно, скорости передачи данных) должен быть заплачен за преобразование без потерь. Штраф является значительно более низким для частотных компонент, когда ошибки округления не являются доминантой.

Решение для этой проблемы предложено Фраунхофером в: Yoshikazu Yokotani, Ralf Geiger, Gerald D. T. Schuller, Soontorn Oraintara, K. R. Rao, "Lossless audio coding using IntMDCT and rounding error shaping", IEEE Transactions on Audio, Speech, and Language Processing, том 14, № 6, стр. 2201-2211, Ноябрь 2006. Там предложено добавлять фиксированные фильтры изменения формы шума к нескольким этапам лифтинга (представляющим небольшие подэтапы целочисленного обратимого преобразования) для того, чтобы менять вклады ошибки округления, особенно с высоких частот на низкие частоты. Авторы применяют эвристические критерии оптимизации, чтобы находить коэффициенты фильтров изменения формы шума. Простой вариант этого подхода является частью кодека SLS MPEG-4 (фиксированного фильтра нижних частот первого порядка).

Целочисленное преобразование, основанное на схеме лифтинга, отображает целые в целые и является обратимым. Основной идеей такого лифтинга является: например, если пара фильтров (h,g) является комплементарной, т.е. она позволяет полное восстановление, тогда для каждого фильтра s пара (h′,g) с h′(z) = h(z)+s(z 2 )*g(z) также позволяет полное восстановление. Это также является справедливым для фильтра t и каждой пары (h,g′) вида g′(z) = g(z)+t(z 2 )*h(z). Обратное также является справедливым: если банк фильтров (h,g) и (h,g′) предусматривает полное восстановление, тогда имеется уникальный фильтр s с

h′(z) = h(z)+s(z 2 )*g(z).

Каждую такую операцию преобразования банка фильтров называют этапом лифтинга. Последовательность этапов лифтинга может состоять из чередующихся лифтингов, то есть на одном этапе фиксируют нижние частоты и изменяют верхние частоты, а на следующем этапе фиксируют верхние частоты и изменяют нижние частоты, при этом последовательные этапы одного и того же направления могут быть объединены.

Другой подход, который решает проблему, опубликован в области кодирования видео в: Min Shi, Shngli Xie, "A Lossless Image Compression Algorithm by Combining DPCM with Integer Wavelet Transform", 6-й CAS симпозиум IEEE. К развивающимся технологиям: Мобильная и беспроводная связь, Шанхай, Китай, 31 Мая - 2 Июня 2004. Авторы применяют предварительный фильтр DPCM перед преобразованием без потерь, при этом сигнал "отбеливают" и, следовательно, фактически изменяют форму шума (также "белого") ошибки округления аналогично, как спектр сигнала. Однако этот подход также имеет некоторые недостатки: во-первых, чтобы быть целочисленным обратимым, предварительный фильтр должен добавлять ошибки округления в самом себе, что ухудшает эффективность кодирования (смотри ниже). Во-вторых, авторы применяют "обычный" прямой фильтр DPCM, который, однако, не является оптимальным выбором для решаемой проблемы.

Сущность изобретения

Несмотря на то что является выгодным в среднем, фиксированное изменение формы шума, описанное выше, может быть очень неоптимальным для отдельных блоков сигнала.

Проблемой, решаемой с помощью изобретения, является оптимизирование распределения шума ошибки округления при целочисленном обратимом преобразовании с использованием подъема и/или уменьшение скорости передачи данных, необходимой, чтобы кодировать точно по битам конкретный аудио- или видеосигнал, т.е. улучшить эффективность кодирования/декодирования. Эту проблему решают с помощью способов, раскрытых в пунктах 1 и 3 формулы изобретения. Соответствующие устройства, которые используют эти способы, раскрыты в пунктах 2 и 4 формулы изобретения.

Изобретение ограничивает влияние шума ошибки округления, поступающего с каждым этапом лифтинга или являющегося следствием каждого этапа лифтинга при целочисленном обратимом преобразовании, на скорость передачи данных кодека без потерь с помощью использования поблочной адаптации изменения формы шума. Могут быть использованы два основных подхода. Во-первых, коэффициенты фильтров, фильтров изменения формы шума для коэффициентов преобразования или частотной области адаптируют на отдельных этапах подъема в соответствии с текущими характеристиками сигнала временной области. Разработано новое правило аналитической адаптации, которое выдает почти оптимальные коэффициенты фильтров. Кроме того, дополнительная (необязательная) итеративная процедура дает набор локально оптимальных коэффициентов.

Во-вторых, авторегрессивный (т.е. рекурсивный) предварительный фильтр может быть добавлен перед преобразованием без потерь. Этот фильтр явно нацелен на "подъем" уровня частотных областей с низкой мощностью, чтобы уменьшить преобладание ошибок округления в этих областях. Этот предварительный фильтр совместно использует те же изобретенные правила адаптации, что и обработка адаптивного изменения формы шума, для коэффициентов преобразования или частотной области. Преимущественно эти две основные обработки могут быть объединены, чтобы дополнительно улучшить коэффициент сжатия кодека без потерь.

Кадры выборок аудио- или видеосигнала, из которых вычисляют коэффициенты фильтров, могут иметь другую длину, чем блоки выборок аудио- или видеосигнала, к соответствующим блокам коэффициентов преобразования которых применяют коэффициенты фильтров.

В качестве альтернативы или дополнительно, кадры выборок могут быть временно сдвинуты относительно блоков выборок, причем этот вариант осуществления имеет преимущество в том, что коэффициенты фильтров не требуется передавать в сторону декодера, но они могут быть, соответственно, вычислены на стороне декодера.

Вместо вычисления коэффициентов фильтров непосредственно из кадров выборок сигнала они также могут быть вычислены из сигнала ошибки или остаточного сигнала, который может быть доступным при обработке кодирования, например, в секции банка фильтров кодера аудио- или видеосигнала.

В принципе, изобретенный способ кодирования подходит для улучшения эффективности кодирования для аудио- или видеосигнала, причем упомянутый сигнал обрабатывают с использованием целочисленного обратимого преобразования для каждого блока выборок упомянутого сигнала, причем целочисленное преобразование выполняют с использованием этапов лифтинга, которые представляют подэтапы упомянутого целочисленного преобразования, и причем этапы лифтинга включают в себя операции округления, и при этом выполняют изменение формы шума для ошибок округления, являющихся следствием упомянутых этапов лифтинга, причем упомянутый способ включает в себя этап

целочисленного преобразования упомянутых блоков выборок с использованием этапов лифтинга и адаптивного изменения формы шума, по меньшей мере, для некоторых из упомянутых этапов лифтинга, причем упомянутое преобразование предоставляет соответствующие блоки коэффициентов преобразования, а упомянутое изменение формы шума выполняют таким образом, что шум округления от коэффициентов преобразования величины низкого уровня в текущем одном из упомянутых преобразованных блоков уменьшают, в то время как шум округления от коэффициентов преобразования величины высокого уровня в упомянутом текущем преобразованном блоке увеличивают, и при этом коэффициенты фильтра соответствующего фильтра изменения формы шума получают из упомянутых выборок аудио- или видеосигнала на покадровой основе.

В принципе, изобретенное устройство кодирования подходит для улучшения эффективности кодирования для аудио- или видеосигнала, причем упомянутый сигнал обрабатывают с использованием целочисленного обратимого преобразования для каждого блока выборок упомянутого сигнала, причем целочисленное преобразование выполняют с использованием этапов лифтинга, которые представляют подэтапы упомянутого целочисленного преобразования, и причем этапы лифтинга включают в себя операции округления, и при этом выполняют изменение формы шума для ошибок округления, являющихся следствием упомянутых этапов лифтинга, причем упомянутое устройство включает в себя:

средство, приспособленное для целочисленного преобразования упомянутых блоков выборок с использованием этапов лифтинга и адаптивного изменения формы шума, по меньшей мере, для некоторых из упомянутых этапов лифтинга, причем упомянутое преобразование предоставляет соответствующие блоки коэффициентов преобразования, а упомянутое изменение формы шума выполняют таким образом, что шум округления от коэффициентов преобразования низкой величины в текущем одном из упомянутых преобразованных блоков уменьшают, в то время как шум округления от коэффициентов преобразования высокой величины в упомянутом текущем преобразованном блоке увеличивают,

соответствующий фильтр изменения формы шума, коэффициенты фильтра которого получают из упомянутых выборок аудио- или видеосигнала на покадровой основе.

В принципе, изобретенный способ декодирования подходит для улучшения эффективности кодирования/декодирования для аудио- или видеосигнала, причем на стороне кодера упомянутый сигнал был обработан с использованием целочисленного обратимого преобразования для каждого блока выборок упомянутого сигнала, причем целочисленное преобразование было выполнено с использованием этапов лифтинга, которые представляют подэтапы упомянутого целочисленного преобразования, и причем этапы лифтинга включают в себя операции округления, и при этом было выполнено изменение формы шума для ошибок округления, являющихся следствием упомянутых этапов лифтинга,

и причем упомянутые блоки выборок были преобразованы целочисленным способом с использованием этапов лифтинга и адаптивного изменения формы шума, по меньшей мере, для некоторых из упомянутых этапов лифтинга, причем упомянутое преобразование предоставляет соответствующие блоки коэффициентов преобразования, а упомянутое изменение формы шума выполняют таким образом, что шум округления от коэффициентов преобразования величины низкого уровня в текущем одном из упомянутых преобразованных блоков уменьшают, в то время как шум округления от коэффициентов преобразования величины высокого уровня в упомянутом текущем преобразованном блоке увеличивают, и причем коэффициенты фильтра соответствующего фильтра изменения формы шума получают из обратно преобразованных выборок аудио- или видеосигнала на покадровой основе,

причем декодирование упомянутого закодированного аудио- или видеосигнала включает в себя этап

целочисленного обратного преобразования упомянутых блоков выборок с использованием этапов лифтинга и адаптивного изменения формы шума, по меньшей мере, для некоторых из упомянутых этапов лифтинга, причем упомянутое обратное преобразование работает на блоках коэффициентов преобразования и предоставляет соответствующие блоки выходных значений выборок, и причем упомянутое изменение формы шума выполняют таким образом, что шум округления от коэффициентов преобразования низкой величины в текущем одном из упомянутых преобразованных блоков уменьшают, в то время как шум округления от коэффициентов преобразования высокой величины в упомянутом текущем преобразованном блоке увеличивают, и при этом коэффициенты фильтра соответствующего фильтра изменения формы шума получают из упомянутых выборок аудио- или видеосигнала на покадровой основе.

В принципе, изобретенное устройство декодирования подходит для улучшения эффективности кодирования/декодирования для аудио- или видеосигнала, причем на стороне кодера упомянутый сигнал был обработан с использованием целочисленного обратимого преобразования для каждого блока выборок упомянутого сигнала, причем целочисленное преобразование было выполнено с использованием этапов лифтинга, которые представляют подэтапы упомянутого целочисленного преобразования, и причем этапы лифтинга включают в себя операции округления, и при этом было выполнено изменение формы шума для ошибок округления, являющихся следствием упомянутых этапов лифтинга,

и причем упомянутые блоки выборок были преобразованы целочисленным способом с использованием этапов лифтинга и адаптивного изменения формы шума, по меньшей мере, для некоторых из упомянутых этапов лифтинга, причем упомянутое преобразование предоставляет соответствующие блоки коэффициентов преобразования, а упомянутое изменение формы шума выполняют таким образом, что шум округления от коэффициентов преобразования низкой величины в текущем одном из упомянутых преобразованных блоков уменьшают, в то время как шум округления от коэффициентов преобразования высокой величины в упомянутом текущем преобразованном блоке увеличивают, и причем коэффициенты фильтра соответствующего фильтра изменения формы шума получают из обратно преобразованных выборок аудио- или видеосигнала на покадровой основе,

причем устройство подходит для декодирования упомянутого закодированного аудио- или видеосигнала и включает в себя:

средство, приспособленное для целочисленного обратного преобразования упомянутых блоков выборок с использованием этапов лифтинга и адаптивного изменения формы шума, по меньшей мере, для некоторых из упомянутых этапов лифтинга, причем упомянутое обратное преобразование работает относительно блоков коэффициентов преобразования и предоставляет соответствующие блоки выходных значений выборок, и причем упомянутое изменение формы шума выполняют таким образом, что шум округления от коэффициентов преобразования низкой величины в текущем одном из упомянутых преобразованных блоков уменьшают, в то время как шум округления от коэффициентов преобразования высокой величины в упомянутом текущем преобразованном блоке увеличивают,

соответствующий фильтр изменения формы шума, коэффициенты фильтра которого получают из обратно преобразованных выборок аудио- или видеосигнала на покадровой основе.

Преимущественные дополнительные варианты осуществления изобретения раскрыты в соответственных зависимых пунктах формулы изобретения.

Например, коэффициенты фильтра, фильтра изменения формы шума могут быть получены на покадровой основе из сигнала ошибки или остаточного сигнала, доступного при обработке декодирования упомянутого аудио- или видеосигнала, например, в секции банка фильтров декодирования аудио- или видеосигнала.

Фильтр изменения формы шума может быть предварительным фильтром (постфильтром), который не расположен в целочисленном преобразовании (обратном целочисленном преобразовании), а расположен предшествующим (последующим) целочисленному преобразованию (обратному целочисленному преобразованию).

Предварительный фильтр (постфильтр) изменения формы шума (выше по потоку) (ниже по потоку) также может быть фильтром дополнительно к фильтру изменения формы шума, расположенному в целочисленном преобразовании (обратном целочисленном преобразовании).

Краткое описание чертежей

Иллюстративные варианты осуществления изобретения описаны со ссылкой на сопровождающие чертежи, которые изображены на:

фиг.1 - для TDAC декомпозиция поворота Гивенса на три последовательных этапа лифтинга, причем каждый этап лифтинга следует с операцией округления;

фиг.2 - многомерная схема лифтинга, примененная для двух параллельных входных сигналов (случай стерео), причем два входных сигнала x и y уже подвергнуты шуму ошибки округления в блоках TDAC;

фиг.3 - округление с использованием изменения формы шума;

фиг.4 - основная блок-схема для известного кодера и декодера без потерь на основании с потерями;

фиг.5 - декомпозиция целочисленного MDCT;

фиг.6 - известный один многомерный этап лифтинга без изменения формы шума;

фиг.7 - известное изменение формы шума на одном многомерном этапе лифтинга;

фиг.8 - изобретенное IntMDCT адаптивного изменения формы шума, автономный вариант;

фиг.9 - изобретенное обратное IntMDCT адаптивного изменения формы шума, автономный вариант;

фиг.10 - изобретенное IntMDCT адаптивного изменения формы шума, кодер преобразования масштабируемого в без потерь;

фиг.11 - изобретенное обратное IntMDCT адаптивного изменения формы шума, кодер преобразования масштабируемого в без потерь;

фиг.12 - изобретенное IntMDCT адаптивного предварительного фильтра, автономный вариант;

фиг.13 - изобретенное обратное IntMDCT адаптивного предварительного фильтра, автономный вариант.

Иллюстративные варианты осуществления

Целочисленное MDCT (IntMDCT) является аппроксимацией обычного алгоритма MDCT, который позволяет точное восстановление по битам исходных выборок РСМ. Этот признак выполняют с помощью декомпозиции всех алгоритмических этапов на этапы лифтинга, которые являются пошаговыми точно обратимыми по битам. Больше информации можно найти, например, в Ralf Geiger, Yoshikazu Yokotani, Gerald Schuller, Jurgen Herre, "Improved integer transforms using multi-dimensional lifting", Процесс ICASSP, том 2, страницы 17-21, Монреаль, Канада, Май 2004.

Способность восстановления без потерь (точного по битам) происходит за счет аддитивной ошибки: операция округления на каждом этапе лифтинга добавляет шум ошибки округления. Целью этого изобретения является количественно оценить дисперсии этих ошибок округления и оценить их влияние на коэффициент сжатия кодека без потерь. Затем используют фильтры и/или предварительные фильтры изменения формы шума, чтобы оптимизировать для минимальной энтропии. Раскрыты решения для фиксированных и адаптивных фильтров.

А) Ошибки округления

Ошибки округления вносят на большинстве этапов лифтинга в IntMDCT, смотри Y. Yokotani, R. Geiger, G.D.T. Schuller, S. Oraintara, K.R. Rao, "Lossless audio coding using IntMDCT and rounding error shaping", IEEE Transactions on Audio, Speech, and Language Processing, 14(6):2201-2211, Ноябрь 2006, для подробностей и выводов. В следующих подразделах кратко суммированы источники ошибок округления и даны некоторые определения.

А.1) Устранение помехи дискретизации во временной области (TDAC)

Декомпозиция TDAC и операции обработки методом окна (поворота Гивенса) на три этапа лифтинга изображены на фиг.1. Такую операцию обработки методом окна для каждого блока или секции входного аудио- или видеосигнала обычно соединяют с взвешиванием амплитуд или величин в блоках или секциях, например, с помощью использования взвешивания функции синуса или косинуса и обработки методом окна с 50% перекрытием. Интерпретация трех операций округления как соответствующих значениям n 1 , n 2 , n 3 аддитивного шума дает

где

и набор углов α , определяющих функцию обработки методом окна. Для окна sin углы определяют с помощью

α = π 4 ⋅ n − 0.5 N / 2 , n = 1,2... N / 2 , N = 576. Обычно 0 ≤ α ≤ π / 4 .

Мощности ошибок округления зависят от угла поворота α , поворота Гивенса (с и d обозначают не квантованные желаемые выходные сигналы поворота Гивенса):

Как упомянуто выше, фиг.1 изображает декомпозицию поворота Гивенса на три последовательных этапа лифтинга, причем каждый этап лифтинга следует с операцией округления. Входными величинами являются a и b, а выходными величинами являются c′ и d′ (сравни уравнения (1) и (2)). Q₁, Q₂ и Q₃ обозначают этапы квантования.

Первый этап лифтинга вычисляет a+Q₁ (cs α *b),

второй этап лифтинга вычисляет

b+Q₂ (sin α [a+Q₁ (cs α *b)]),

и третий этап лифтинга вычисляет

a+Q₁ (cs α *b)+Q₃ [cs α (b+Q₂ (sin α [a+ Q₁ (cs α *b)]))].

Для окон синуса средняя мощность шума ошибки округления от части TDAC целочисленного MDCT приблизительно равна 1,6/12. Это значение может быть получено теоретически с помощью усреднения выражения 1/2E{(c′-c) 2 +1/2E(d′-d) 2 } для всех использованных значений для α . Это среднее значение мощности дополнительно проверено с помощью моделирования.

А.2) Многомерная схема лифтинга: версия стерео

Два параллельных входных сигнала многомерной схемы лифтинга изображены на фиг.2. Два входных сигнала x и y уже подвержены шуму ошибки округления в блоках TDAC TDAC1 и TDAC2, сравнивая с фиг.1. Выходные векторы блока TDAC стороны кодера обозначены с помощью x и y для нижней и верхней части, соответственно. Тогда соответственные выходные векторы кодера в области IntMDCT (до декодера) составляются как

причем "DCT I V " означает DCT типа IV (т.е. целочисленное MDCT), n₄, n₅ и n₆ являются сигналами ошибки квантования, а Q₄, Q₅ и Q₆ представляют операции квантования. В соответствии с блок-схемой каждый результирующий "спектр" является смесью фактического спектра MDCT, например DCT I V {x} и некоторого аддитивного шума, который составлен из ошибок частотной области и временной области. На стороне декодера три этапа лифтинга преобразования инвертируют, за которыми следуют соответствующие блоки TDAC TDAC3 и TDAC4. Неоднозначные частотно-временные характеристики промежуточных и конечных результирующих векторов при кодировании делает трудным понимание и оптимизацию фильтра.

А.3) Предварительный фильтр

Предпочтительно предварительную обработку входных сигналов с помощью цифрового фильтра выполняют перед обработкой TDAC. Это может быть реализовано с помощью авторегрессивного (AR) фильтра или фильтра скользящего среднего (МА). Предварительный фильтр должен быть осуществлен в целочисленном обратимом виде. Это означает, что характеристики фильтра должны быть строго минимальной фазы. Кроме того, структуры фильтра, примененного в кодере и декодере, должны быть идеально обратными. Таким образом, операция фильтра включает в себя, по меньшей мере, одну операцию округления промежуточных значений (выходного сигнала устройства предсказания) в целочисленные значения. Это означает, что предварительный фильтр всегда будет следовать с дополнительным шумом ошибки округления.

Имеются сильные сходства между оптимизацией изменения формы шума в IntMDCT и оптимизацией предварительного фильтра. Различиями являются те, что предварительный фильтр также позитивно воздействует на влияние конечных этапов квантования (Q₅/n₅ и Q₆/n₆ на фиг.2; Q x является математическим описанием для операции нелинейного квантования, n x является результирующей аддитивной ошибкой квантования), что вычислительная сложность для подобного порядка фильтра является меньшей и что предварительный фильтр будет создавать дополнительные ошибки округления.

В) Округление с изменением формы шума

Частотные характеристики ошибок округления могут быть изменены по форме с использованием фильтра изменения формы шума, как проиллюстрировано на фиг.3. Первоначальный шум квантования n ⌣ (k), возникающий в результате выходного сигнала y(k) устройства квантования Q, определяют и фильтруют с помощью фильтра с конечной импульсной характеристикой (fir) с импульсной характеристикой a(k) и задержкой Т. Соответствующим образом отфильтрованный шум n ⌣ (k) подают обратно во входной сигнал x(k). Впоследствии допускают, что фильтр изменения формы шума a(k) имеет порядок р и является причинным. Тогда, включая предшествующую операцию задержки, фильтр имеет следующую переходную характеристику:

где A(z) представляет z-преобразование a(k), а α λ - коэффициенты фильтров. Коэффициенты фильтров α λ , λ = 1…p, могут быть свободно модифицированы, чтобы получить разные частотные характеристики.

Особенно интересной является частотная характеристика в связи с центральными частотами дискретного MDCT. Если i обозначает индекс дискретной частоты с i = 0,1,…,N-1, центральную частоту i-го частотного компонента MDCT задают с помощью Ω i = (2 π (i+0,5))/2N в угловом представлении, причем N - длина MDCT.

Частотная характеристика фильтра изменения формы шума становится:

G ( i ) = 1 + ∑ λ = 1 p a λ e − j λ Ω i | G ( i ) | 2 = | 1 + ∑ λ = 1 p a λ e − j λ Ω i | 2 = ( 1 + ∑ λ = 1 p a λ cos ( λ Ω i ) ) 2 + ( ∑ λ = 1 p a λ sin ( λ Ω i ) ) 2   ( 10,   11,   12 )

В дальнейших следующих вычислениях требуется частное дифференцирование частотной характеристики для γ-го коэффициента фильтра α_γ (уравнения 13, 14, 15):

  ∂ | G ( i ) | 2 ∂ a γ = 2 cos ( γ Ω i ) ( 1 + ∑ λ = 1 p a λ cos ( λ Ω i ) ) + 2 sin ( γ Ω i ) ( ∑ λ = 1 p a λ sin ( λ Ω i ) ) = 2 cos ( γ Ω i ) + 2 ∑ λ = 1 p a λ ( cos ( λ Ω i ) cos ( γ Ω i ) + sin ( λ Ω i ) sin ( γ Ω i ) ) = 2 cos ( γ Ω i ) + 2 ∑ λ = 1 p a λ cos ( ( λ − γ ) Ω i ) .               ( 13,   14,   15 )

Вследствие фильтрации изменения формы шума также модифицируют характеристики временной области шума ошибки округления. Дополнительно к введению корреляции, фильтр изменения формы шума увеличивает дисперсию результирующего сигнала шума n(k):

В этом выводе допускают, что автокорреляция первоначального шума квантования равна нулю вне источника, т.е. E{n(k)n(k- γ )}=0, если γ ≠ 0. Следует заметить, что любой ненулевой коэффициент α ≠ 0 будет увеличивать мощность фактического шума квантования во временной области.

С) Шум ошибки округления и дифференциальная энтропия

Чтобы упростить следующее исследование, допускают, что входной сигнал является случайным шумом с гауссовой функцией плотности вероятности (PDF) и что он является, по меньшей мере, кратковременно стационарным. Однако частотные характеристики входного сигнала не являются ограниченными.

Пусть x(k) обозначает представление во временной области входного сигнала. Если вышеупомянутый случайный входной сигнал преобразуют с помощью обычного MDCT (с плавающей запятой), получают представление в частотной области X(i), кратко X i , где i обозначает индекс частоты. Индекс кадра пропущен для удобопонятности. Поскольку допускают, что входной сигнал является стационарным случайным шумом, компоненты MDCT также являются случайными с отдельными дисперсиями σ X i 2 . Дифференциальная энтропия i-го частотного компонента равна h(X i ) = ½log 2 (2 π e σ X i 2 ). (20)

Суммирование шума ошибки округления в операции этапа лифтинга добавляет отдельные составляющие шума к каждому частотному компоненту. Дисперсия шума i-го компонента обозначена с помощью σ N i 2 , и допускают, что составляющие сигнала X i и составляющие шума N i в каждом компоненте являются взаимно независимыми. Тогда дифференциальная энтропия частотного компонента шума равна:

То есть, дифференциальная энтропия страдает от штрафа h i + , которая зависит от отдельного отношения сигнал-шум. Через весь частотный диапазон эти отдельные штрафы складываются, чтобы увеличить совокупную скорость передачи в битах, требуемую, по меньшей мере, чтобы кодировать каждый блок (замечание: при допущении упрощенного прямого соответствия между дифференциальной энтропией и скоростью передачи в битах битового потока после квантования и кодирования. На практике могут быть дополнительные потери из-за субоптимального кодирования энтропии):

H +