bueno, de momento he conseguido hacer funcionar un programa de los dos, el AVItoPMP
Lo que hice fue bajarme unos codecs donde estaban los mplayer, winmenc y mencoder y unos cuantos mas dll y substituirlos dentro de la carpeta donde se encuentra el programa, concretamente en: AVItoPMP\apps\Mencoder
una vez hecho eso me ha funcionado.
Ahora bien, me sigue dando error el Xvid4PSP
Voy a ver si consigo hacerlo rular, probando a substituir el archivo shlwapi.dll de system32 del windows que he leido que suele fallar, que se corrompe y me ha dado ese error con ese programa alguna vez.
Seguiré investigando.
Edito: buuenoooo, después de esperar 2 horas a que convierta la película AVI a formato PMP la pongo en la PSP para visionarla y me sale este error usando el programa PMP MOD AVC:
"avc-get: sceMpegAvcDecode failed"
en fin, probaré alguna vez más o sino que le den por culo a las pelis PMP