Gleitkommazahlen in digitaler Audioanwendung

Während der Rauschabstand einer Festkommaarithmetik direkt proportional zum Pegel des Audiosignals absinkt und das Quantisierungsrauschen mit Abnahme des Pegels prozentual immer mehr zunimmt, bestimmt sich der Rauschabstand ${\displaystyle {\text{SNR}}}$ der Gleitkommaarithmetik – unabhängig vom Exponenten über alle mit normalisierter Mantisse dargestellten Pegel hinweg – durch die Leistung des Quantisierungsrauschens ${\displaystyle q}$ der Mantisse. Bei der Auflösung eines Integerwertes einer WAV-Datei oder eines Audiosignals des AD-Wandlers durch die 23 bit Mantisse kann der Quantisierungs- oder Rundungsfehler ${\displaystyle q}$ dabei maximal ein Quantisierungsintervall betragen, also ${\displaystyle q_{max}=1:2^{23}}$ = ${\displaystyle 2^{-23}}$. Die Rauschleistung errechnet sich aus dem Quadrat des Effektivwertes ${\displaystyle \sigma }$ (Sigma) der Amplitude (bzw. einer Halbwelle):[13][14]

${\displaystyle \sigma ^{2}={\frac {q^{2}}{12}}}$ sowie ${\displaystyle {\text{SNR}}=10\;\lg \left({\frac {1}{\sigma ^{2}}}\right)\mathrm {dB} }$; ⇒ ${\displaystyle {\text{SNR}}=10\;\lg \left({\dfrac {1}{\dfrac {q^{2}}{12}}}\right)\mathrm {dB} }$; ⇒ ${\displaystyle {\text{SNR}}=10\;\lg \left({\frac {12}{q^{2}}}\right)\mathrm {dB} }$; ⇒ ${\displaystyle {\text{SNR}}=10\;\lg \left({\frac {12}{(2^{-23})^{2}}}\right)\mathrm {dB} }$ ≈ 149 ${\displaystyle \mathrm {dB} }$;

Legt man bei sehr kleinen Werten der Mantisse die Auswirkungen des ungünstigeren Scheitelwertes des Quantisierungsrauschens zugrunde, so errechnet sich der Rauschabstand der Amplitude (bzw. einer Halbwelle) mit

${\displaystyle {\text{SNR}}=10\;\lg \left({\frac {1}{q^{2}}}\right)\mathrm {dB} }$; ⇒ ${\displaystyle {\text{SNR}}=10\;\lg \left({\frac {1}{(2^{-23})^{2}}}\right)\mathrm {dB} }$ ≈ 138 ${\displaystyle \mathrm {dB} }$;

Der Graph des Quantisierungsrauschpegels lässt sich somit als ein Sägezahndiagramm darstellen, da der Quantisierungsrauschabstand innerhalb des Darstellungsbereiches eines Exponenten direkt proportional mit dem Eingangssignal (bzw. dem darzustellenden Integerwert) von seinem Idealwert 149 dB im ungünstigsten Fall auf 138 dB abfällt.[15] Da ein Abtastwert entweder eine positive oder eine negative Halbwelle beschreibt und der Quantisierungsfehler in einer Gleitzahl also nur ein einziges Mal auftreten kann, verdoppelt sich der Quantisierungsrauschabstand ${\displaystyle q_{ges}}$ der Gesamtdynamik (über den negativen und positiven Aussteuerungsbereich des Audiosignals) wieder um den Faktor 2 (entsprechend + 6 dB), so dass der insgesamt nutzbare Dynamikbereich ${\displaystyle \leq }$ 0 dBFS zwischen 155 dB und (im ungünstigsten Fall) 144 dB schwankt:

138 ${\displaystyle \mathrm {dB} }$ + 6 ${\displaystyle \mathrm {dB} \leq q_{ges}\leq }$ 149 ${\displaystyle \mathrm {dB} }$ + 6 ${\displaystyle \mathrm {dB} }$; ⇒ 144 ${\displaystyle \mathrm {dB} \leq q_{ges}\leq }$ 155 ${\displaystyle \mathrm {dB} }$

Wird eine Datei mit Festkommadarstellung in ein System mit Gleitkommaarithmetik eingebunden, so werden die positiven und negativen Audiosignale auf den Wertebereich von −1 bis +1 algebraisch normalisiert. Die binäre Festkommazahl mit der Wortlänge w und den einzelnen Bits b (mit dem Wert 0 oder 1) wird dabei gewertet mit der Summe aus ${\displaystyle -b_{0}}$ (Vorzeichenbit) + ${\displaystyle b_{1}}$ · 0,5 + ${\displaystyle b_{2}}$ · 0,25 + ${\displaystyle b_{3}}$ · 0,125 + ... + ${\displaystyle b_{w-1}}$ · ${\displaystyle 2^{-(w-1)}}$.[16] Dieses algebraische Normalisieren bedeutet, dass der Wert der Festkommazahl linear im Gleitkomma-Wertebereich 0 bis ${\displaystyle \leq }$1 eingepasst wird (was nicht mit der lautstärkemäßigen Normalisierung zu verwechseln ist, welche in Gleitkommaarithmetik ebenfalls auf den Maximalwert −1 bis +1 erfolgen würde, entsprechend 0 dBFS). Die einzelnen Stufen der Integerwerte der Festkommazahl entsprechen dann den Stufen der Gleitkommazahl der Größe 1 : ${\displaystyle 2^{23}}$ ≈ 1 · ${\displaystyle 10^{-7}}$, welche sich gleichmäßig über die durch die Exponenten logarithmisch abgestuften Teilwertebereiche erstrecken:

Streuung ${\displaystyle \Delta }$ der Amplitudenauflösung bei 32 bit Gleitkommaarithmetik
1,175 · ${\displaystyle 10^{-38}}$ ≈ ${\displaystyle 2^{-126}}$ · 1 (kleinste normalisierte Zahl)	...	0,25 - 0,00000001 = ${\displaystyle 2^{-3}}$ · 1,9999999	0,5 - 0,00000003 ≈ ${\displaystyle 2^{-2}}$ · 1,9999999	1 - 0,00000006 = ${\displaystyle 2^{-1}}$ · 1,9999999	2 - 0,0000001 = ${\displaystyle 2^{0}}$ · 1,9999999
1,1754945 · ${\displaystyle 10^{-38}}$ = ${\displaystyle 2^{-126}}$ · 1,0000001	...	0,25 = ${\displaystyle 2^{-2}}$ · 1	0,5 = ${\displaystyle 2^{-1}}$ · 1	1 = ${\displaystyle 2^{0}}$ · 1 (0 dBFS)	2 = ${\displaystyle 2^{1}}$ · 1
1,1754946 · ${\displaystyle 10^{-38}}$ = ${\displaystyle 2^{-126}}$ · 1,0000002	...	0,25 + 0,00000003 = ${\displaystyle 2^{-2}}$ · 1,0000001	0,5 + 0,00000006 ≈ ${\displaystyle 2^{-1}}$ · 1,0000001	1 + 0,0000001 ≈ ${\displaystyle 2^{0}}$ · 1,0000001	2 + 0,0000002 ≈ ${\displaystyle 2^{1}}$ · 1,0000001
${\displaystyle \geq }$ - 144 dBFS	...	${\displaystyle \geq }$ - 12 dBFS	${\displaystyle \geq }$ - 6 dBFS	${\displaystyle \leq }$ 0 dBFS	${\displaystyle \leq }$ + 6 dBFS
${\displaystyle \Delta }$ min. = 1,5 · ${\displaystyle 10^{-45}}$	...	${\displaystyle \Delta \geq 2^{-2}}$ = 3 · ${\displaystyle 10^{-8}}$	${\displaystyle \Delta \geq 2^{-1}}$ = 6 · ${\displaystyle 10^{-8}}$	${\displaystyle \Delta \leq 2^{0}}$ = 1 · ${\displaystyle 10^{-7}}$	${\displaystyle \Delta \leq 2^{1}}$ = 1 · ${\displaystyle 10^{-7}}$
4 - 0,0000002 ≈ ${\displaystyle 2^{1}}$ · 1,4999999	...	${\displaystyle 2^{24}}$ - 1 ≈ ${\displaystyle 2^{23}}$ · 1,9999999	${\displaystyle 2^{25}}$ - 2 ≈ ${\displaystyle 2^{24}}$ · 1,9999999	${\displaystyle 2^{127}}$ - ${\displaystyle 10^{31}}$ ≈ ${\displaystyle 2^{126}}$ · 1,9999999	3,4028235 · ${\displaystyle 10^{38}}$ - 2 · ${\displaystyle 10^{31}}$ ≈ ${\displaystyle 2^{127}}$ · 1,9999998
4 = ${\displaystyle 2^{2}}$ · 1	...	${\displaystyle 2^{24}}$ = ${\displaystyle 2^{24}}$ · 1	${\displaystyle 2^{25}}$ = ${\displaystyle 2^{25}}$ · 1	${\displaystyle 2^{127}}$ = ${\displaystyle 2^{127}}$ · 1	3,4028235 · ${\displaystyle 10^{38}}$ ≈ ${\displaystyle 2^{127}}$ · 1,9999999
4 + 0,0000004 ≈ ${\displaystyle 2^{1}}$ · 1,5000001	...	${\displaystyle 2^{24}}$ + 2 ≈ ${\displaystyle 2^{24}}$ · 1,0000001	${\displaystyle 2^{25}}$ + 4 ≈ ${\displaystyle 2^{25}}$ · 1,0000001	${\displaystyle 2^{127}}$ + ${\displaystyle 2\cdot 10^{31}}$ ≈ ${\displaystyle 2^{127}}$ · 1,0000001
${\displaystyle \Delta \leq 2^{2}}$ = 2 · ${\displaystyle 10^{-7}}$	...	${\displaystyle \Delta \leq 2^{24}}$ = 1	${\displaystyle \Delta \leq 2^{25}}$ = 2	${\displaystyle \Delta \leq 2^{127}}$ = ${\displaystyle 10^{31}}$	${\displaystyle \Delta }$ ${\displaystyle <2^{128}}$ = ${\displaystyle 2\cdot 10^{31}}$

Der einzelne, mit dem jeweiligen Exponenten grob dargestellte Teilwertebereich wird zwar für sich allein immer mit der 23 bit Mantisse feinaufgelöst (also mit 23 bit Auflösung), jedoch streut sich diese Auflösung mit jeder Erhöhung des Exponenten um den Wert 1 auf einen immer größer werdenden Teilwertebereich, womit sich relativ bezogen auf die Auflösung des kleinsten darstellbaren Wertebereiches die Auflösung immer weiter verringert. Ab einem gewissen Bereich sind die Sprünge in der Darstellbarkeit des Teilwertebereichs gleich dem gesamten Standard-Dynamikbereich bis 0 dBFS. Hat beispielsweise der für den Headroom genutzte Wertebereich ${\displaystyle 1}$ bis ${\displaystyle 2^{1}}$ (dargestellt durch die Gleitzahlen ${\displaystyle 2^{0}}$· 1,0 bis ${\displaystyle 2^{1}}$· 1,0) noch durchgehend eine Amplitudenauflösung von ${\displaystyle 1}$ : ${\displaystyle 2^{23}}$ (also die volle Auflösung der 23 bit Mantisse), liegt bei einem theoretischen Amplitudenwert ${\displaystyle >2^{23}}$ die Streuung ${\displaystyle \Delta }$ bereits bei 1, also entsprechend dem gesamten Dynamikbereich ${\displaystyle \leq }$ 0 dBFS, entsprechend einer Auflösung von 1:1. Bei der Berechnung der Gesamtdynamik bzw. der Gesamtauflösung ist zu bedenken, dass sich die Amplitudenauflösung lediglich auf den vorzeichenfreien Wert der Amplitude (eine Halbwelle) bezieht.[17][18][19]

Die maximal, ohne Auflösungsverluste oder nennenswerte Rundungsfehler nutzbare Dynamik des Headrooms für sich allein genommen (also nicht in Relation gesetzt mit dem Standard-Dynamikbereich) über den gesamten negativen und positiven Aussteuerungsbereich errechnet sich aus der Bitzahl der Amplitudenauflösung zuzüglich des Vorzeichenbits sowie dem Amplitudenverhältnis v des darzustellenden Wertes zur kleinstmöglichen Quantisierungseinheit mit 20 · lg ${\displaystyle 1:2^{24}}$ dB = 20 · lg ${\displaystyle 2^{-24}}$ dB = 144,49439791871097370259466946776 dB ≈ 144 dB. Da der Standard-Dynamikbereich auf Grund seines kleinsten Rauschspannungsabstandes ebenfalls 144 dB umfasst, ergibt sich eine Verdopplung des Dynamikbereiches, für den logarithmischen Maßstab in dB also (wieder berechnet aus dem Amplitudenverhältnis v) eine Erhöhung der Dynamik um 6 dB auf insgesamt 150 dB.

Es bleibt dabei anzumerken, dass sich die 1 aus diesem Quotienten eben auf den (ganzen) darzustellenden Wert, nicht aber auf die 0 dBFS entsprechende Gleitkommazahl bezieht, die hier nur zufällig den gleichen Wert 1 hat. Bei der Berechnung des ohne Auflösungsverluste nutzbaren Gesamtdynamikbereichs kann also für den Dividenden nicht einfach die + 6 dBFS entsprechende Gleitkommazahl 2 eingesetzt werden, anderenfalls der lineare Maßstab der Quantisierungseinheiten in unzulässiger Weise mit dem sich nach oben hin immer weiter spreizenden Maßstab der Gleitkommazahlen vermischt würde. Vielmehr ist der Divisor durch die Verdopplung des Dynamikumfangs ein weiteres Mal mit sich selbst zu multiplizieren, so dass sich der ohne Auflösungsverluste nutzbare Gesamtdynamikbereich auch berechnen lässt mit 20 · lg ${\displaystyle 1:2^{25}}$ dB = 20 · lg ${\displaystyle 2^{-25}}$ dB = 150,51499783199059760686944736225 dB ≈ 150 dB.

Der ohne Auflösungsverluste nutzbare Headroom einer 32 bit Gleitkommaarithmetik beträgt also 6 dB und ermöglicht die Summierung von ${\displaystyle 10^{6:10}}$, also lediglich vier inkohärenten Monokanälen (unterschiedliche Audiosignale in Mono) mit jeweils 0 dBFS Vollaussteuerung.[20]

Amplitudenauflösung bei 32 bit Gleitkommaarithmetik (x = Amplitudenauflösung; y = Wertebereich)
x in bit	23	23	23	23	23	23	22	21	20
y als Zehnerpotenz	${\displaystyle >}$ 1,17549435 · ${\displaystyle 10^{-38}}$	...	${\displaystyle >}$ 0,125	${\displaystyle >}$ 0,25	${\displaystyle >}$ 0,5	${\displaystyle >}$ 1	${\displaystyle >}$ 2	${\displaystyle >}$ 4	${\displaystyle >}$ 8
y als Potenz	${\displaystyle >2^{-126}}$	...	${\displaystyle >2^{-3}}$	${\displaystyle >2^{-2}}$	${\displaystyle >2^{-1}}$	${\displaystyle >2^{0}}$	${\displaystyle >2^{1}}$	${\displaystyle >2^{2}}$	${\displaystyle >2^{3}}$
Gesamtdynamik	${\displaystyle >}$ - 144 dBFS	...	${\displaystyle >}$ - 18 dBFS	${\displaystyle >}$ - 12 dBFS	${\displaystyle >}$ - 6 dBFS	${\displaystyle >}$ 0 dBFS	${\displaystyle >}$ + 6 dBFS
Amplitudenauflösung	${\displaystyle 1:2^{23}}$	${\displaystyle 1:2^{23}}$	${\displaystyle 1:2^{23}}$	${\displaystyle 1:2^{23}}$	${\displaystyle 1:2^{23}}$	${\displaystyle 1:2^{23}}$	${\displaystyle 1:2^{22}}$	${\displaystyle 1:2^{21}}$	${\displaystyle 1:2^{20}}$
Streuung ${\displaystyle \Delta }$	1,5 · ${\displaystyle 10^{-45}}$	...	0,1 · ${\displaystyle 10^{-7}}$	0,3 · ${\displaystyle 10^{-7}}$	0,6 · ${\displaystyle 10^{-7}}$	1 · ${\displaystyle 10^{-7}}$	2 · ${\displaystyle 10^{-7}}$	5 · ${\displaystyle 10^{-7}}$	10 · ${\displaystyle 10^{-7}}$
x in bit	19	18	17	16	...	2	1	0	−1
y als Zehnerpotenz	${\displaystyle >}$ 16	${\displaystyle >}$ 32	${\displaystyle >}$ 64	${\displaystyle >}$ 128	...	${\displaystyle >}$ 2,1 · ${\displaystyle 10^{7}}$	${\displaystyle >}$ 4,19 · ${\displaystyle 10^{7}}$	${\displaystyle >}$ 8,39 · ${\displaystyle 10^{7}}$	${\displaystyle >}$ 1,67 · ${\displaystyle 10^{8}}$
y als Potenz	${\displaystyle >2^{4}}$	${\displaystyle >2^{5}}$	${\displaystyle >2^{6}}$	${\displaystyle >2^{7}}$	...	${\displaystyle >2^{21}}$	${\displaystyle >2^{22}}$	${\displaystyle >2^{23}}$	${\displaystyle >2^{24}}$
Amplitudenauflösung	${\displaystyle 1:2^{19}}$	${\displaystyle 1:2^{18}}$	${\displaystyle 1:2^{17}}$	${\displaystyle 1:2^{16}}$	...	${\displaystyle 1:2^{2}}$	${\displaystyle 1:2^{1}}$	${\displaystyle 1:2^{0}}$ (= 1 : 1)	${\displaystyle 1:2^{-1}}$ (= 1 : 0,5)
Streuung ${\displaystyle \Delta }$	19 · ${\displaystyle 10^{-7}}$	38 · ${\displaystyle 10^{-7}}$	76 · ${\displaystyle 10^{-7}}$	153 · ${\displaystyle 10^{-7}}$	...	0,25 (= 2'500'000 · ${\displaystyle 10^{-7}}$)	0,5 (= 5'000'000 · ${\displaystyle 10^{-7}}$)	1 (= 10'000'000 · ${\displaystyle 10^{-7}}$)	2

Streuung Δ:

${\displaystyle \Delta =\vert {\text{Teilwertebereich}}\vert :2^{23}}$

Amplitudenauflösung x:

${\displaystyle {\begin{aligned}2^{x}&=\left({\frac {2^{23}}{\Delta \cdot {10^{7}}}}\right)\rightarrow x=\log _{2}\left({\frac {2^{23}}{\Delta \cdot 10^{7}}}\right)\\&\rightarrow x=\log _{2}\left({\dfrac {2^{23}}{\dfrac {\vert {\text{Teilwertebereich}}\vert \cdot 10^{7}}{2^{23}}}}\right)\rightarrow x=\log _{2}\left({\frac {2^{46}}{\vert {\text{Teilwertebereich}}\vert \cdot 10^{7}}}\right)\end{aligned}}}$