Ten en cuenta que ese procesador con oc puede hasta con una gtx1080ti.
Partiendo de ahi y si quieres notar una mejora significativa no te recomiendo la gtx1050ti, y menos aun la rx560, la cual no representa una mejora sustancial respecto a la que tienes actualmente.
La idea de ir a por una gtx970 esta bien, rinde bastante mas que la 1050ti aunque personalmente nunca pagaria por ella mas de 140€, contando que le quede un poco de garantia.
Ahora las graficas estan muy caras, te recomiendo como dice el compañero una gtx1060 de 6gb, en concreto la kfa2 que se encuentra por 280€.