Por lo que vengo leyendo últimamente, la GTX 1060 de 3GB no es demasiado recomendable: está un poco recortada con respecto a la versión de 6 GB y el hecho de tener sólo 3 GB de memoria puede ser un factor limitante.
Depende del presupuesto que tengas, pero las Radeon ahora mismo están muy subidas de precio por no haber stock suficiente... Si comentas cuanto tienes pensado gastarte se te puede ayudar mejor. Yo si tuviera que elegir una de esas me quedaba la RX580 sin dudarlo, debería darte mejor rendimiento (siempre que el consumo no fuera un factor), pero creo que no están al mismo precio.