Hola, gracias motauro
Tengo una Geforce GTX 1050, no sé si el problema es que va justo es un i3 a 3,3GHz con 8GB de RAM en windows 7.
Ayer estuve mirando programas y me instale uno de Software Libre que me ha funcionado es el OBS Studio. Pero me lagea un mogollón... este permite grabar en modo ventana como comentas. En snagit y camtasia no vi donde. Miraré estos que comentas a ver si arreglo el lag. Cambiar el equipo como que no puedo.