fijate cuanto amperaje da el cable molex (es el que usan los HDD y CD-rom)
yo tengo la misma tarjeta, pero es laversion 512 y con salida DVI (igual, con un adaptador tiene salida HDMI)
yo tenia problemas parecidos, pero no debie reiniciar, debia esperar unos segundos, solo fue instalar unos drivers y algunos programas para el procesador.
de cuantos watts es tu fuente?
te has fijado la temperatura? si no te has fijado, prueba con el everest