Ah pero olvidas el hecho de que el xbox 360 tiene de salida resolucion de 1280x768, y al poner una resolucion distinta en tu tv con esa señal es normal que va a haber pequeños "defectos" en al imagen por esto.
Yo en tu lugar usaria el tv en resolucion 1280x768, para q quieres usar la otra si se mira peor?? ademas la unica diferencia entre las dos son nada mas 100 pixeles horizontales, es imposible que notes la diferencia, y usando tu tv en este modo no es que vas a ver mas pixeles y tener mayor resolucion, si no que el tv va a "alargar" la imagen para cubrir esa resolucion, es por eso que notas distorsion en tu imagen.