Instalate el k-lite codec pack, usa el xvid como codec, en frame pon 24, en frame compresion quality 100% y de la configuracion del codec subelo a 1 (maximum quality) aunque esto ultimo lo puedes variar segun el tamaño d archivo que busques consegiur.
Saludos!