Por ejemplo, en el videolan, métete en la configuración y activa la casilla de SPDIF en el caso de que uses el coaxial (que es mi caso).
Con el resto de decodificadores que usen codecs instalados a parte -yo uso el ac3filter- pues me voy a la configuración de dicho codec y pongo que uso la salida spdif (en varias casillas lo activo, ahora no estoy en mi casa y no recuerdo dónde lo activo exactamante dentro del ac3filter), y listo, en el deco de los altavoces ya sale dts o Dolby Digital.