Usas NOD32? A mí me pasa lo mismo. Y a otros tantos. En el administrador de tareas ves que el proceso ocupa relativemente poca ram, pero poco a poco se te va llenando toda.
Por lo que tengo oído pasa con Win7 x64 y d emomento no hay solución si quieres mantener el NOD. Yo he probado a poner el java como excepción, pero se sigue llenando.
Saludos