1 - Cámbiala a 60 Hz en la Xbox 360, no en la tele. Pestaña Sistema del Dash, configuración, pantalla y ahí eliges la resolución (720p etc) cuando te diga que se está mostrando a 50Hz, que si se ve correctamente, dile que NO y se configurará a 60Hz.
2 - Los dientes de sierra o Jaggies aparecen con el uso del cable por componentes, debido a que las resoluciones que puedes escoger no son las nativas de la TV. Usa el cable VGA para poner la resolución nativa de tu panel y evitarás notablemente los jaggies.
Salu2 !