no tengo mucha experiencia con eso, aparte de que no se como se tenga que configurar la tarjeta de pinnacle.... pero prueba esto:
fijate que la salida de video este correctamente configurada, si tieens una ati, en las opciones de tu tarjeta vete a la pestaña de pantallas activa la tele (aunque tu lo conectes a la entrada de video), y pon ambas como si fueran monitor principal (esto sirve para que todo lo que veas en tu monitor se pase... si pones el monitor primario y la tele secundaria, en la tele no se ven videos, y probablemente existan problemas con los juegos... asi que para que arriesgarse?)
despues de eso, en la pc donde capturas, abre el virtualdub en opcion de captura, ahi se debe de ver lo que ves en la tele, sino se ve probablemnte tengas mal configurado algo sobre tu tarjeta pinnacle)
antes de eso prueba conectar la salida de video en una tele normal... si se ve, entonces ya sabes que es problema de alguna mala configuracion en la pc que tiene que grabar...
una cosa mas... cerciorate de que tengas un procesador potente en la pc que usaras para grabar, sino quieres muchos dropped frames...
salu2