Buscad en el foro que ya se ha comentado varias veces este tema. Hay varias opciones de conversión y, efectivamente, muchos programas limitan el bitrate a unos penosos 3000 Kbps más o menos y esto es penoso para HD.
Para Transcode y demás opciones on-the-fly tienes que tener un ordenador muy potente que te permita decodificar la peli decentemente y además que sea capaz de enviarla por red a la consola con el bitrate suficiente para mantener la calidad (además, si la conexión es wifi la limitación aún es mayor).
Lo mejor hasta ahora es pegarse conversiones de unas 20 horas para pasar una peli HD a wmv (desde un mkv o avi). La conversión es larga pero el proceso es sencillo de hacer. Los resultados son excelentes, del mismo nivel que los mkv o avi originales. Incluso se pueden montar en DUAL.
Para pelis "normales" como los típicos dvdrip yo uso WinAvi y va de maravilla. Para los HD tenéis Canopus, Nic´s WMEnc (junto con Avisynth), Windows media Encoder 9, etc. Cada uno que use el que más le guste.