Bueno buscando por foros guiris parece que he encontrado la solucion. El truco esta en partir los mvks con mkvmerge antes de pasarle el gotsent.
El disco duro ya lo tengo formateado en HFS+ pero gotsent convierte a mp4 y la xbox 360 solo admite ficheros de video de tamaño mayor de 4 Gb si estos estan en formato wmv