VGA es analógico, HDMI y DVI son digitales (aunque DVI también pueda llevar señal analógica). En teoría debería verse mejor DVI, pero en la práctica, depende más del cable que de la propia señal, ya que tanto la señal analógica del VGA como la digital del HDMI pueden verse comprometidas debido a interferencias externas.
Vamos, que vas a notar más por la calidad del cable que por que sea VGA o HDMI.