Det finnes enda en viktig faktor som er med på å bestemme lydkvaliteten, nemlig effekten av endelig ordbredde, og dermed avrundingsfeil, i A/D- og D/A-omformerne. Dette gir opphav til kvantiseringsstøy.
Ordbredde betyr antall bits (1 eller 0) som brukes for å kode hver sample-verdi. Vi kan til å begynne med tenke oss en 3-bits A/D-omformer. En slik omformer kan skjelne mellom spenningsnivåer, som kodes med følgende binære verdier (her er fullt utslag 8 volt, og vi regner med bare positive tall):
Spenning inn på omformerenKodet verdiDesimalverdi [0.8ex] Under 1 V 000 01-2 V 001 1
2-3 V 010 2
3-4 V 011 3
4-5 V 100 4
5-6 V 101 5
6-7 V 110 6
Over 7 V 111 7
Vi ser her at den amplitydekontinuerte, analoge spenningen, som kan anta enhver verdi mellom 0 og 8 V, blir kvantisert til en av 8 mulige binære verdier. Dette fordi A/D-omformeren har et endelig antall bits (her 3). Kvantisering betyr det samme som at signalet blir gjort amplitydediskret.
Hvilken betydning har så kvantisering for lydkvaliteten? Vi kan finne ut av dette ved å si at kvantisering gir addisjon av støy til det ideelle analoge signalet, som følge av avrundingsfeilene. I eksemplet over ser vi at en virkelig signalverdi på 1.00 V blir kodet som 1. Dermed er signalet målt korrekt. Men en signalverdi på 2.99 V blir kodet som 2, hvilket tilsvarer addisjon av spenningen -0.99 V til det ideelle signalet.
Vi ser at sampling av signalet med vår 3-bits omformer gjør at spenninger fra 0 til -0.99 V blir addert (mikset) til signalet. Hvilken kurveform disse spenningene danner avhenger av det analoge signalets kurveform, men i de fleste tilfeller vil kvantiserings- støyen arte seg som hvit støy. Denne støyen får amplityden 1 V. Sammenlikner vi dette med analogsignalets maksimale utslag, får vi et signal/støy-forhold på
Et signal-støy-forhold på 18 dB holder jo ikke. For å få et bedre resultat, må vi måle spenningen med større nøyaktighet. Dette krever flere bits i omformeren, slik at vi får flere enn 8 nivåer å skjelne mellom. En 8-bits omformer gir f.eks. forskjellige binærkoder. Kvantiseringsstøyens amplityde blir da . Dette gir signal/støy-forhold
Mer generelt kan vi sette opp følgende uttrykk for signal/støy- forholdet som følge av kvantiseringen:
der A er maksimalt utslag og n er antall bits. Av dette får vi følgende tommelfinger-regel: Signal/støyforholdet som følge av kvantisering, målt i effekt-decibel, er tilnærmet lik 6 ganger antall bits i A/D- og D/A-omformerne.
12-bits omforming gir dermed ca. 72 dB S/N-forhold, mens 16 bits gir ca. 96 dB. Dette er imidlertid rent teoretiske verdier, og unøyaktigheter i omformerne og støy i tilliggende analoge kretser gjør at det reelle S/N-forholdet aldri når opp til denne teoretiske grensen.
Vi kan nå oppsummere hvilken innvirkning sampling har på lydkvaliteten: