Samplingsformat

Samplingar kan lagras med olika format och noggrannhet. De vanligaste är heltalsformat (fixtal), som lagrar värden med fixtalskvantisering. Beroende på vara nollnivån definieras, måste man skilja mellan heltalsformat utan tecken (bara positiva värden, "nollnivån" är halva det numeriska intervallet) och med tecken (positiva och negativa värden).

Format med tecken

Format med tecken

Format utan tecken

Format utan tecken

Eftersom kvantiseringen förlorar viss noggrannhet skapar den brus, det så kallade kvantiseringsbruset. Den typen av brus har större effekt vid låga amplituder, så metoden att lagra samplingar är inte optimal, men mycket enkel och mycket snabb att hantera (datorer är snabba på att beräkna fixtal).

Det andra sättet att koda samplingar är med flyttal. Med flyttal sprids bruset nästa lika över alla amplitudintervall och det ger fördelar särskilt vid låga amplituder. Dock är formatet mycket långsammare när det används vid behandling (datorer är mycket långsammare på att räkna med flyttal i förhållande till fixtal).

Notera

Internt använder Kwave heltalsformat med tecken och 24-bitars noggrannhet, lagrade i 32-bitars heltal. Det har nackdelen av större minnesåtgång när filer med lägre noggrannhet behandlas (t.ex. 8 bitar), men behandling av 32-bitars tal går mycket snabbt och lämnar också en viss reserv för interna beräkningar, eftersom normalt bara 24 bitar används.