tiene toda la pinta de que es la temperatura pero antes de pensar en ponerle un disipador a la grafica, ¿tienes la caja bien refrigerada?
quizas soluciones el problema haciendo un buen circuito de aire en la caja, por ejemplo 2 ventiladores de 12 cm, uno delante metiendo aire y otro detras sacando.
Yo tambien voto por que le pongas tu el disipador en el caso de que lo compres, tienes que ser muuuuy torpe para pasarte con la pasta termica es una chorrada tan solo le aplicas una fina capa y listo, puedes usar una hoja de cuter por ejemplo, pones un poquito en el cuter y es imposible que te pases ya que lo maximo que aplicas es lo que has puesto en el cuter no se si me explico.
con lo que te ahorras en el montaje te compras uno mejor!