de donde es el video original?, si el original es un video entrelazado es normal (tienes que pasarle al comprimir un filtro de desentrelazado, suele ser normal en grabaciones de TV), en MPEG lo que pasa es que se contempla que el video este entrelazado y el reproductor lo desentrelaza. Si el video original no es entrelazado entonces el problema probablemente sea del reproductor.
Calidad vas a perder, no hay arreglo, perder menos calidad es aumentar el tamaño del MPEG, tambien se comprime algo mejor si comprimes a doble pasada (se aprovecha algo mejor el mismo espacio), pero el tiempo de compresión de duplica.