No desesperes, cuando cambie mi ati x1600 por mi primera gtx la 8800, el final fantasy XI (un juego de hace 10 años) me pego un bajón de frames increible, no podia haber mas de 3 muñecos en pantalla o mis fps serian de 8 o 9 xD, solo me ocurria en windows vista, instale el windows xp y probe con el y funcionaba perfectamente, asi quem e decidi a buscar drivers beta o drivers modificados, hasa que di con los que modifican los de guru3d, los instalé y problema solucionado.
Resumiendo no va a ser problema de la grafica, potencia le sobra, el problema como dice el compañero de antes está en los drivers, desisntala los que tengas (primero haz esto) y luego ves probando con drivers beta, o busca en la pagina de guru3d que cuelgan drivers modificados que suelen ir mejor que los oficiales. Cuando des con el tuyo se acabo el problema, tambien puede servir que reportes el error a nvidia para que lo estudien para un futuro driver.
Un saludo y espero que te sirva de ayuda.