Formatos de muestreo

Las muestras pueden ser almacenadas en diferentes formatos y precisiones. Los más comunes son en formatos enteros (coma fija), los cuales almacenan valores con cuantificación fija. Dependiendo de dónde se defina la línea cero se tiene que distinguir entre formatos enteros sin signo (solo valores positivos, la "línea cero" se encuentra en la mitad del intervalo numérico) y con signo (valores positivos y negativos).

Formato con signo

Formato con signo

Formato sin signo

Formato sin signo

Ya que la cuantificación pierde algo de precisión acaba produciendo ruido, también conocido como ruido de cuantificación. Este tipo de ruido tiene más efecto en bajas frecuencias por lo que este método de almacenamiento de muestras no es optimo aunque si sencillo y muy rápido de procesar ( los ordenadores son rápidos en calculos con números de coma fija).

La segunda manera de codificar muestras es con números de coma flotante. Con números de coma flotante el ruido es casi propagado de igual manera en todas los intervalos de amplitud y esto tiene ventajas especialmente en bajas amplitudes. Sin embargo, este formato es mucho más lento de procesar (los ordenadores son mucho más lentos con cálculos con valores de coma flotante que con valores de coma fija).

Nota

Kwave internamente usa un formato de enteros con signo con 24 bits de precisión, almacenados en enteros de 32 bits. Esto tiene la desventaja de mayor consumo de memoria al procesar archivos con menos precisión (por ejemplo 8 bits), pero procesando números de 32 bits es muy rápido, y además reserva para cálculos internos, ya que normalmente suelen usarse sólo 24 bits.