El problema es que el sistema que tiene windows para dibujar la pantalla es MUY cutre, y se basa únicamente par alas resoluciones en lo que marcan los drivers, te recomendaría que te pusieses algún sistema operativo UNIX y verás como le puedes colocar cualquier resolución.
PD: tengo por ahí yo una vodoo de 4 megas que se hace 2048x1536.... y en windows....