Форматы хранения значений отсчётов

Значения отсчётов могут храниться в различных форматах и с разной разрядностью. Наиболее распространённым вариантом является хранение в целочисленных форматах (с фиксированной запятой), при котором значения сохраняются с помощью фиксированного квантования. В зависимости от того, где определена нулевая линия, отличают целочисленные форматы без знака (только положительные значения, «нулевая линия» находится в середине числового диапазона) и со знаком (положительные и отрицательные значения).

Формат со знаком

Формат со знаком

Формат без знака

Формат без знака

Так как во время квантования теряется некоторая точность, в результате появляется шум, известный как шум квантования. Этот тип шума оказывает большое влияние на сигналы с низкими амплитудами, поэтому этот метод хранения отсчётов не является оптимальным, но он довольно простой и быстро обрабатывается (компьютеры быстро справляются с вычислениями чисел с фиксированной запятой).

Второй способ кодирования набора дискретных цифровых замеров — это использование чисел с плавающей запятой. С числами с плавающей запятой шум распространяется почти равномерно по всем диапазонам амплитуд и имеет преимущества, особенно в кодировании сигналов с низкими амплитудами. Однако этот формат обрабатывается гораздо медленнее (компьютеры намного медленнее обрабатывают числа с плавающей запятой в отличие от обработки целых чисел).

Примечание

Kwave использует целочисленный формат со знаком с 24-битной точностью, хранящийся в 32-битных целых числах. Такой формат имеет один недостаток, выражающийся в более высоком потреблении памяти при обработке файлов с более низкой точностью (например, 8-битной), однако обработка 32-битных чисел проходит очень быстро и даже позволяет оставлять некоторые ресурсы для внутренних вычислений, поскольку обычно используются только 24 бита.