Si apagas el pc con el tft conectado al arrancar te sigue apareciendo lo de fuera de rango? o te aparecen las letras del arranque? Si es asi se te queda fuera de rango cuando entra en windows? prueba a poner una resolucion 800*600 haber si sale algo.
Saludos
edito: cuando dices en caliente, tienes el tft encendido cuando lo enchufas al pc?