Voorbeelden van formaten

Samples kunnen opgeslagen worden in verschillende formaten en precisie. De meest algemene zijn integer (vaste-komma) formaten, die waarden opslaan met vaste kwantisering. Afhankelijk van waar de nullijn is gedefinieerd, moet het onderscheid maken tussen zonder teken (alleen positieve waarden, "nullijn" is op de helft van de numerieke reeks) en met teken (positieve en negatieve waarden) formaten met gehele getallen.

Formaat met teken

Formaat met teken

Formaat zonder teken

Formaat zonder teken

Het kwantiseren betekent enig verlies van nauwkeurigheid, het produceert ruis, de zogenaamde kwantiseringsruis. Dat soort ruis heeft meer effect op lage amplitudes, dus is deze methode van het opslaan van samples niet optimaal, maar tamelijk gemakkelijk en erg snel te behandelen (computers zijn snel in berekeningen met gehele getallen).

De tweede manier om samples te coderen is met drijvende-komma getallen. Met drijvende-komma getallen wordt ruis bijna gelijk gespreid over alle reeksen amplitudes en heeft voordelen speciaal bij lage amplitudes. Dit formaat is veel langzamer bij gebruik voor bewerking (computers zijn veel langzamer met rekenen met drijvende-komma waarden in vergelijking met gehele getallen).

Opmerking

Kwave gebruikt intern het formaat gehele getallen met teken met 24 bits precisie, opgeslagen in 32 bits gehele getallen. Dit heeft het nadeel van hoger geheugengebruik bij bewerking van bestanden met lagere precisie (bijv. 8 bits), maar bewerking met 32 bits getallen is erg snel en biedt ook enige reserve voor interne berekeningen, omdat normaal slechts 24 bits worden gebruikt.