Ve a Firewall de Windows en el Panel de control, ve a la pestaña Excepciones y mira que el programa no este ahi.
De todas maneras el Firewall lo que evita es el trafico entrante al programa, no el saliente, es decir, recibir conexiones entrantes, pero si es un programa tipo navegador, que establece una conexion de dentro hacia fuera, ni lo mirara.
Creo que para anular completamente la conectividad de un programa necesitaras un firewall mas serio (aunque igual hay mas opciones en este que no conozco, eh?)