hombre, calidad... pues más o menos la misma (aquí importa más el ensamblador que el fabricante del chip... si puedes evitar cosas como Club3D o XFX mejor que mejor)...
sobre rendimiento, la GTX460 de 768MB es mejor que la HD5770 (y si hablamos de la de 1GB es bastante mejor, pero obviamente más cara)... claro que si hay que limitarse al presupuesto, creo que la GTX460 hay que buscarla bien para acercarse a los 150 (creo haberla visto sobre 152€, pero no recuerdo el sitio), así que la HD5770 entra mejor en tus posibilidades...