Es una pregunta taaaaan abierta que daría para un doctorado.
En general, criterios a mirar, de más importante a menos en la medida de lo posible (aunque cualquier cosa que flojee, es mala):
1) Cantidad de shaders (y frecuencia). GFLOPS
2) Cantidad de memoria suficiente
3) Ancho de banda a memoria (bus*frecuencia efectiva)
Y bueno, tampoco se pueden comparar tal cual, los "cuda cores" de nvidia son algo más rápidos, en juegos, que los equivalentes de AMD, siempre hablando de similar cantidad, frecuencia, y por ende GFLOPS.
Sobre que se vean las cosas de color rosa en cualquier juego o cosas raras similares cuando en otros va bien... actualiza drivers. Pero ya.
Saludos