Si estas sacando el audio por el HDMI de la tarjeta nVIdia parece ser un problema de los controladores de audio de nvidia
o Bienn debes elegir cual de los 3 chipsets de audio [o el de intel o el de nvidia o el realtek, aunque creo el de realtek seria el mismo del nvidia] es el que se usara para la salida digital.
¿Ahora, dentro del juego configuras la salida de audio a 5.1/7.1 o la estas dejando en estereo?, si la estas configurando en 5.1/7.1, entonces es que no esta funcionando el Dolby Digital Live [DDL] o el Neo:6 [N6] que se encargan de codificar el audio PCM a Dolby digital [DDL] o a DTS [N6].
Toda fuente de audio decodificada en windows es convertida a PCM que es stream [datos] de audio sin compresion, solo los datos de audio puro. El stream de audio PCM puede tener un canal [monoaural], dos canales [estereo] o multicanal [mas de 2 canales de audio, por ejemplo 6 canales de audio que seria el 5.1]
El ancho de banda de la interfaz SPDIF [coaxial u optica] no admite 6 canales de audio cuando el stream de audio esta sin comprimir [PCM], lo maximo que puede llevar por PCM es 2 canales, por ello se requiere codificar 'al vuelo' el stream de audio PCM 5.1 a formatos como el Dolby Digital 5.1 o a DTS, y para ello se requiere del DDL o el Neo:6.
Asi que la conclusion seria que el software DDL o el Neo:6 no esta funcionando o no esta instalado.
Aqui una captura desde W7 Pro x64, configuro la salida SPDIF a Dolby Digital para que el DDL recodifique la salida de audio a Dolby digital 5.1 cuando el audio que sale por el SPDIF esta en PCM
...