Hola!
Si quieres te cuento cómo lo he hecho yo cuando he capturado cosas con emuladores (me ha parecido entender que ibas a usar emuladores, verdad?)
Primero he capturado en modo ventana con algún programa de captura que permite solo la zona de juego a la resolución real (256x224, 320x224, depende del sistema claro). No sé si ese que dices valdría. Yo usaba uno viejo que me permitía poner el tamaño de la zona a capturar y luego seleccionar donde estaba la ventana del emu.
Luego, ese video que solía capturarlo en formato RAW lo reescalaba con VirtualDub, q es gratuito y tiene mil filtros, de manera que usando un filtro de reescalado llamando Lanczos3 el efecto quedaba bastante bien aunque luego el video final tuviera una resolución de 1024x768 o la que tu quisieras.
Si buscas en youtube "monkey island proyecto doblaje" hay un video que subí haciendo este proceso, y tanto el ratio como resolución como todo en general creo que quedan bastante bien y lo hice capturando a la resolución original de 320x200.
Es q no puedo poner enlaces desde el movil.