Se ve asi por varias razones:
NO te soporta esa frecuencia , asi que bajala.
Que monitor es? busca por internet en la pagina oficial de la marca y te vas a las caracteristicas tecnicas.
Alli buscas que resolucion es la maxima para tu minitor y despues la frecuencia de escaneo maxima a esa resolucion.
Todo lo que pase de esa frecuencia de escaneo a esa resolucion estaras forzando algo para lo cual no esta preparado y vete desidiendote de monitor en poco tiempo.
Si te lo admite lo unico que ocurra es que se vea mas pequeño o mas grande y se ajusta desde el OSD.. pero nunca abombado.
Una resolucion a 1024x768 a 75 hz es posible pero segun el monitor que sea .. debes de consultarlo.
de todas formas los adaptadores de pantalla no suelen dejar poner resoluciones por encima de lo que permite el monitor si es que tienes los drivers de esta puestos y activas esa funcion.
Si no tienes los drivers del monitor,.. el pc no sab las frecuencias y resoluciones maximas y lo detecta como standard plag and play y puede que no se adecue al tuyo
salu2