A ver... a mi me pasó que los recibía por duplicado porque tenía configurada la cuenta de windows live para recibir los correos de gmail. Una vez instalado Windows Live Mail, configuraba también la cuenta de correo electrónico de gmail, entonces cuando iniciaba sesión en windows live id me salían los correos por duplicado: los recibía tanto vía la configuración de gmail como vía windows live cuando iniciaba sesión.
¿No tendrás configurada una cosa parecida en tu cuenta de windows live?