1. ¿Tienes algun paquete de CODECs instalado? (Elisoft, K-Lite, etc...). Si es si, desinstalalo e instala FFDShow o usa el Media Player Classic.
Y si no...
2. Desactiva la "Prevención de Ejecución de Datos" (D.E.P.). Está en las propiedades del sistema > opciones avanzadas > rendimiento (configuración).