Tiene pinta que tu tarjeta ya no refrigera bien cuando se le pide un alto rendimiento, comprueba que el ventilador este funcioando bien que no tenga polvo/pelusas por el ventilador limpiala bien y utiliza algún programa de testeo donde puedas ver el funcionamiento y la temperatura de la GPU.
Entre esas dos me gusta mas la 9600gt pero te recomendaría la ASUS Ati HD4850 que cuesta unos 160€ y el rendimiento es excelente.