Profundidad de bits, frecuencia de muestreo y dither (noise shaping, SNR teórico)

Definición

Una señal PCM se describe con dos magnitudes.

Frecuencia de muestreo (sample rate) fs: número de muestras por unidad de tiempo, expresado en Hz. El teorema del muestreo establece que una señal limitada en banda por debajo de fs/2 (frecuencia de Nyquist) se puede reconstruir exactamente; los componentes por encima de fs/2 se pliegan dentro de la banda (aliasing) y deben eliminarse con un filtro antialiasing antes del muestreo o de una conversión a una frecuencia menor.

Resolución (bit depth) N: número de bits por muestra; los niveles disponibles son 2^N y el paso de cuantización es q = 2·FS / 2^N. Con señales complejas el error de cuantización es uniforme en ±q/2 con potencia q²/12. La relación señal/ruido teórica para una sinusoide a fondo de escala es SNR = 6,02·N + 1,76 dB: 98,1 dB a 16 bits, 146,2 dB a 24 bits. La coma flotante de 32 bits tiene una mantisa de 24 bits (23 almacenados más 1 implícito) y un exponente de 8 bits: precisión de 24 bits respecto al nivel de la señal y un rango representable superior a 1500 dB.

El dither es un ruido añadido antes de una reducción de la resolución para hacer que el error de cuantización sea independiente de la señal. El dither TPDF (densidad de probabilidad triangular) con amplitud ±1 LSB elimina la distorsión y la modulación del ruido; la potencia del ruido total pasa de q²/12 a q²/4 (+4,77 dB). El noise shaping filtra el error de cuantización desplazando su energía hacia 15–20 kHz, donde el oído es menos sensible: el ruido percibido disminuye entre 10 y 20 dB, mientras que la potencia total del ruido aumenta.

Parámetros y unidades

• Frecuencias de muestreo: 44,1 kHz (música, CD), 48 kHz (vídeo), 88,2/96 kHz (producción), 176,4/192 kHz.
• Tipos de dither: RPDF (rectangular, ±0,5 LSB), TPDF (triangular, ±1 LSB), con noise shaping (curvas de distinta agresividad).
• Ruido a 16 bits con dither TPDF: −96,3 dBFS RMS (convención matemática).
• Ruido a 24 bits con dither TPDF: −144,5 dBFS RMS, por debajo del ruido de cualquier convertidor.

Función musical

La resolución y la frecuencia de muestreo son el contenedor del sonido: 24 bits ofrecen en la grabación un margen suficiente para trabajar con 12–18 dB de headroom sin ruido audible; las frecuencias más altas reducen el aliasing de los procesadores no lineales y la latencia, a costa de más CPU y espacio. El dither conserva el detalle de los pasajes más débiles (fade-outs, colas de reverberación, pianissimo) al pasar a 16 bits, transformando la distorsión de cuantización en un siseo constante y muy bajo.

Ejemplo práctico

• Fade-out de piano exportado a 16 bits: sin dither, por debajo de −80 dBFS la cola se vuelve granulosa y distorsionada, porque el error sigue a la señal; con dither TPDF la cola se mantiene limpia sobre un siseo constante a −96,3 dBFS RMS; con noise shaping el siseo se hace menos audible y se concentra por encima de 15 kHz.
• Paso de cuantización a 16 bits con FS = 1: q = 2/65 536 = 3,05·10⁻⁵; ruido sin dither q/√12 = 8,8·10⁻⁶ = −101,1 dBFS RMS; SNR respecto a la sinusoide a fondo de escala (−3,01 dBFS RMS) = 98,1 dB.
• Tamaño de los archivos: 3:30 de estéreo a 44,1 kHz ocupan 37,0 MB a 16 bits y 55,6 MB a 24 bits.

Errores comunes

• Aplicar el dither varias veces o antes de limitador, normalización y fades.
• Usar un noise shaping agresivo en archivos que aún se van a procesar: el ruido desplazado por encima de 15 kHz es amplificado por los EQ posteriores.
• Convertir a 16 bits por truncamiento, sin dither.
• Aplicar el dither a una exportación en coma flotante de 32 bits: no hace falta.
• Creer que 96 kHz suenan siempre mejor que 44,1 kHz: la ventaja afecta a los procesadores no lineales, no a la reproducción.
• Convertir la frecuencia de muestreo con algoritmos de baja calidad o varias veces en la cadena.

Cómo verificarlo

• Ajustes de exportación: comprueba en la DAW la resolución, la frecuencia de muestreo y el dither; en FL Studio el dither se activa en la ventana de renderizado para las exportaciones a 16 bits.
• Análisis de la app: tras una exportación a 16 bits con noise shaping, la energía por banda de los Ultraagudos (16–20 kHz) en los pasajes silenciosos indica la presencia de la curva de ruido; el Pico de muestra y el True peak (×4, BS.1770) confirman que la reducción de resolución no ha generado overs.
• Escucha del fade: amplifica entre 30 y 40 dB la cola del tema exportado (solo para el control) y comprueba que sea un siseo constante, no distorsión.
• Prueba de cancelación: al restar el archivo de 24 bits del de 16 bits alineado se obtiene solo el ruido de dither.