Bit depth, sample rate et dither (noise shaping, SNR théorique)

Définition

Un signal PCM est décrit par deux grandeurs.

Fréquence d'échantillonnage (sample rate) fs : nombre d'échantillons par unité de temps, exprimé en Hz. Le théorème d'échantillonnage établit qu'un signal limité en bande sous fs/2 (fréquence de Nyquist) peut être reconstruit exactement ; les composantes au-delà de fs/2 se replient dans la bande (aliasing) et doivent être supprimées par un filtre anti-repliement avant l'échantillonnage ou avant une conversion vers le bas.

Résolution (bit depth) N : nombre de bits par échantillon ; les niveaux disponibles sont 2^N et le pas de quantification est q = 2·FS / 2^N. Avec des signaux complexes, l'erreur de quantification est uniforme dans ±q/2 avec une puissance de q²/12. Le rapport signal/bruit théorique pour une sinusoïde pleine échelle est SNR = 6,02·N + 1,76 dB : 98,1 dB à 16 bits, 146,2 dB à 24 bits. La virgule flottante 32 bits a une mantisse de 24 bits (23 mémorisés plus 1 implicite) et un exposant de 8 bits : une précision de 24 bits par rapport au niveau du signal et une plage représentable supérieure à 1500 dB.

Le dither est un bruit ajouté avant une réduction de résolution pour rendre l'erreur de quantification indépendante du signal. Le dither TPDF (densité de probabilité triangulaire) d'amplitude ±1 LSB élimine la distorsion et la modulation du bruit ; la puissance du bruit total passe de q²/12 à q²/4 (+4,77 dB). Le noise shaping filtre l'erreur de quantification en déplaçant son énergie vers 15–20 kHz, là où l'oreille est moins sensible : le bruit perçu diminue de 10–20 dB, tandis que la puissance totale du bruit augmente.

Paramètres et unités

• Fréquences d'échantillonnage : 44,1 kHz (musique, CD), 48 kHz (vidéo), 88,2/96 kHz (production), 176,4/192 kHz.
• Types de dither : RPDF (rectangulaire, ±0,5 LSB), TPDF (triangulaire, ±1 LSB), avec noise shaping (courbes plus ou moins agressives).
• Bruit à 16 bits avec dither TPDF : −96,3 dBFS RMS (convention mathématique).
• Bruit à 24 bits avec dither TPDF : −144,5 dBFS RMS, sous le bruit de n'importe quel convertisseur.

Fonction musicale

La résolution et la fréquence d'échantillonnage sont le contenant du son : à l'enregistrement, 24 bits offrent une marge suffisante pour travailler avec 12–18 dB de headroom sans bruit audible ; des fréquences plus élevées réduisent l'aliasing des processeurs non linéaires et la latence, au prix de plus de CPU et d'espace. Le dither conserve le détail des passages les plus faibles (fade-out, queues de réverbération, pianissimo) lors du passage à 16 bits, en transformant la distorsion de quantification en un souffle constant et très bas.

Exemple pratique

• Fade-out de piano exporté en 16 bits : sans dither, sous −80 dBFS la queue devient granuleuse et distordue, car l'erreur suit le signal ; avec un dither TPDF, la queue reste propre sur un souffle constant à −96,3 dBFS RMS ; avec le noise shaping, le souffle devient moins audible et se concentre au-dessus de 15 kHz.
• Pas de quantification à 16 bits avec FS = 1 : q = 2/65 536 = 3,05·10⁻⁵ ; bruit sans dither q/√12 = 8,8·10⁻⁶ = −101,1 dBFS RMS ; SNR par rapport à la sinusoïde pleine échelle (−3,01 dBFS RMS) = 98,1 dB.
• Taille des fichiers : 3:30 de stéréo à 44,1 kHz occupent 37,0 Mo à 16 bits et 55,6 Mo à 24 bits.

Erreurs courantes

• Appliquer le dither plusieurs fois ou avant le limiter, la normalisation et les fades.
• Utiliser un noise shaping agressif sur des fichiers qui seront encore traités : le bruit déplacé au-dessus de 15 kHz est amplifié par les EQ suivants.
• Convertir en 16 bits par troncature, sans dither.
• Appliquer le dither à un export en virgule flottante 32 bits : inutile.
• Croire que le 96 kHz sonne toujours mieux que le 44,1 kHz : l'avantage concerne les processeurs non linéaires, pas la lecture.
• Convertir la fréquence d'échantillonnage avec des algorithmes de basse qualité ou plusieurs fois dans la chaîne.

Comment le vérifier

• Réglages d'export : contrôle dans la DAW la résolution, la fréquence d'échantillonnage et le dither ; dans FL Studio, le dither s'active dans la fenêtre de rendu pour les exports en 16 bits.
• Analyse de l'app : après un export en 16 bits avec noise shaping, l'énergie par bande des Ultra-aigus (16–20 kHz) dans les passages silencieux indique la présence de la courbe de bruit ; le Pic d'échantillon et le True peak (×4, BS.1770) confirment que la réduction de résolution n'a pas généré d'over.
• Écoute du fade : amplifie de 30–40 dB la queue du morceau exporté (uniquement pour le contrôle) et vérifie qu'il s'agit d'un souffle constant, pas de distorsion.
• Test d'annulation : en soustrayant le fichier 24 bits du fichier 16 bits aligné, on obtient uniquement le bruit de dither.