AMD solo da soporte DX12 a las Radeon 7750 (GPU GCN) y superiores, las anteriores a pan y agua ni DX12 parcial ni nada.
Si tienes una buena fuente de alimentación podrías agarrar de segunda mano gráficas muy interesantes, sin garantía como pega seguramente, pero el rendimiento sería mas que notable por un coste bajo. Las opciones que te ha dicho apalizadorx son bastante buenas (dejaría fuera la 660Ti por poner alguna pega) con 2GB por lo general.
Por otra parte deberías poner un buen disipador y estrujar un poquito ese CPU, es una pena dejar un Q9550 a 2.83ghz, sin apenas esfuerzo lo metes en los 3.4ghz, y ya peleando puedes ir tirando mas arriba (3.8~3.9ghz)