Si lo sacas de la placa por vga y lo llevas al monitor por dvi, al sacarlo por analogico recibira señal analogica por mucho que entre al monitor por dvi. Yo en tu caso usaria un cable hdmi a un lado, el de la placa, y dvi al otro, el del monitor. Asi tendras señal digital y no perderas calidad, venden esos cables asi o tambien tienes adaptadores hdmi-dvi para poder usarlo con un cable hdmi normal.
Saludos.