Yo que tu los pasaria a wmvhd, que es formato nativo del video en hd en la 360, ademas de que te dara mejor compresion y calidad, no obstante puedes pasar los mkv's tanto a avi como a wmvhd con el TMPGEnc4XP.
Puedes pasar los videos al tamaño que quieras en hd, pero claro a costa de bitrate osea de calidad, para una pelicula en wmvhd a 720p con ese tamaño se puede ver bastante bien con sonido 5.1 en 5 o 6 Gb, para 1080p en wmvhd con un bitrate bueno y sonido 5.1 pueden rondar los 11 Gb o más, pero ya te digo que puedes ajustarlo como quieras y luego ver el resultado.
Un Saludo.