Que yo sepa las graficas 8800 son de gama alta y usaran su propia memoria en la grafica.
Si el nuevo modulo te sale de balde pues entonces ponselo, en todo caso los que ya tienes en dual channel imagino que segiran funcionando en ese modo. Pero pasar de 2 GB a 3 GB se nota poco en general
El consumo de RAM me parece un poco exagerado.
Pulsa Ctrl+Alt+Del para ver la ventana del administrador de tareas y en la esquina inferior derecha veras la "carga de transiciones", que es la memoria que esta usando. A mi en este momento, con tan solo el navegador y el descargador Flash Get me indica unos 420 MB.
Usa el everest para ver que programas tienes en memoria y si hay alguno que esta consumiendo mas de la cuenta ( en el menu de la columna de la izquierda del Everest: Sistema operativo - Procesos abiertos y haz clic en Memoria para que te los ordene por consumo de RAM)