Motivos pueden ser varios.
1-Que esa placa base te haga CPU Thottling (se caliente los VRMs de la placa base y te pegue bajadas de velocidad el CPU)
2-subes la calidad grafica del juego hasta sobrepasar los 1.5gb de VRAM. (por temas de bus los últimos 500mb de VRAM de la GTX660 es bastante mas lentos)
Yo diría que es lo primero, y de ser eso tienes un problema de muy complicada solución.
De todas formas ni idea de que placa base de Asrock hablamos si no eres tu quien detalla el modelo, pero en placas base semi-economicas hay muchos problemas para que un FX de tdp 125w rule bien.
Puedes usar CPU-Z mientras juegas en ventana y ver si baila la velocidad del CPU (coincidiendo con los problemas de rendimiento)