Lo del sonido es porque te pilla el que tienes por defecto en windows como dispositivo de grabación, en este caso, el micrófono.
Si quieres que grabe lo que salga por los altavoces debes cambiarlo ahí, en el panel de control -> dipostivos de sonido y audio
Es algo que no me gusta en el fraps y todavía sigue igual, en otros programas como Game Cam no ocurre. Pero bueno, puedes cambiarlo mientras grabas y luego volver a ponerlo bien cuando acabes.