Первый шаг кодирования звуковых сэмплов заключается в преобразовании их в частотную область. Это делается с помощью банка многофазных фильтров, который отображает сэмплы в 32 частотные полосы равной ширины. Используемые фильтры обеспечивают быстрое преобразование с хорошим временным и частотным разрешением. При этом разработчикам пришлось пойти на три компромисса. это равенство ширины всех 32 частотных-Первый компромисс подполос. Это упрощает фильтры, но сильно контрастирует с особенностями слухового восприятия, которое зависит от частоты звука. В идеале было бы лучше разделить частоты на критические полосы, обсуждавшиеся в главе 2. Эти полосы построены так, что воспринимаемая громкость данного звука и его слышимость в присутствии другого, маскирующего звука, является 43 совместимой в пределах данной критической полосы, но различается между полосами. К сожалению, каждая из низкочастотных полос перекрывает несколько критических полос, в результате алгоритм назначения битов не может оптимизировать число присваиваемых битов квантованному сигналу в пределах этих подполос. Когда несколько критических полос накрываются подполосой X, алгоритм назначения битов выбирает критическую полосу с наименьшей шумовой маской и использует эту подполосу для нахождения числа присваиваемых битов квантованным сигналам из подполосы X. Второй компромисс связан с обращением банка фильтров, который используется декодером. Исходное преобразование из временной области в частотную теряет часть информации (даже до квантования). Следовательно декодер получает данные, которые немного хуже; он делает обратное преобразование из частотной области во временную, и тем самым вносит еще большее искажение. Поэтому разработчики этих двух банков фильтров (для прямого и обратного преобразований) постарались минимизировать эту потерю. Третий компромисс относится к конкретным фильтрам. Смежные фильтры должны идеально пропускать разные диапазоны частот. На практике они имеют существенное частотное перекрытие. Звук, состоящий из одного чистого тона, может попасть в два фильтра и породить сигналы (которые потом будут квантоваться) в две из 32 подполосы вместо одной. Многофазный банк фильтров использует (помимо других промежуточных структур данных) буфер X для хранения 512 входных -сэмплов. Буфером служит очередь FIFO (first-in-first-out, первым вошел первым вышел), которая всегда содержит не более 512 последних входных сэмплов. На рисунке ниже показаны пять основных шагов алгоритма многофазного фильтрования. Алгоритм читает очередные 32 сэмпла из входного файла и заносит их в буфер, одновременно сдвигая его. Буфер всегда содержит 512 самых последних сэмплов. Сигналы S [i] t для 32 подполос вычисляются по формуле:
Здесь S [i] t обозначает сигнал подполосы i в момент времени t. Вектор С состоит из 512 коэффициентов окна анализа, которые жестко заданы стандартом. М обозначает матрицу анализа с компонентами
Отметим, что выражение в круглых скобках уравнения (3.3) не зависит от i, а числа Mi,k в (3.4) не зависят от j. (Эта матрица является модификацией матрицы хорошо известного преобразования DCT, поэтому она называется матрицей MDCT). Это особенность отражается в компромиссе, который позволяет уменьшить число арифметических операций. В самом деле, 32 сигнала S [i] 2560 умножений и=64 ´ 32+t вычисляются с помощью всего 512 2464 сложений, что дает примерно 80 умножений и 80=63 ´ 32+7 ´64 сложений на один сигнал. Другой важный момент состоит в децимации 45 (прореживании) сэмплов. Весь банк фильтров производит 32 выходных сигнала для 32 сэмплов. Поскольку каждый из 32 фильтров порождает по 32 сигнала, их следует проредить, оставив только один сигнал на фильтр. Компоненты матрицы синтеза IMDCT задаются формулой:
Сигналы подполос, вычисленные на стадии фильтрования, затем собираются в кадры, содержащие по 1152 сигнала. После этого сигналы масштабируются и квантуются на основе психоакустической модели, используемой кодером, с применением алгоритма назначения битов. Квантованные величины, вместе с коэффициентами масштабирования и информацией о квантовании (число уровней квантования в каждой подполосе) записываются в сжатый файл (здесь также используется кодирование Хаффмана).