Buenas, creo que no merece la pena en absoluto comprar una placa nueva compatible con ese procesador, que sea a su vez compatible tambien con DDR3 que tu placa base actual no ofrece, sólo obtendrías soporte DDR3 1333Mhz, el zócalo/formáto (LGA 775) está en desuso y si quisieras actualizar el procesador dentro de un año o similar, tendrías que cambiar la placa base por tercera vez. (puede que tambien la memoria DDR3 a 1333Mhz, con un I7 de gama media/alta lo ideal es utilizar 1866Mhz)
El mayor problema como has dicho es la memoria DDR2 800, no por el rendimiento en velocidad, sino porque si ahora sólo tienes 2Gb (puedo haberte entendido mal) tendrías que ampliar al menos a 4Gb, y los precios de DDR2 son muy elevados, a menos que se recurra a la segunda mano.
Ampliando la tarjeta gráfica, tu ordenador es capaz de aguantar un tiempo considerable para juegos siempre que no seas muy exigente con los gráficos, tambien podrías subir la velocidad del procesador hasta 3,2Ghz gracias a un ventilador mejor que el de serie (Cooler Master Hyper Evo, por ejemplo), es un micro aún muy válido y con algo de OC es posible ganar un considerable rendimiento,
Luego como tambien has descrito, equiparlo con una nueva tarjeta es la prioridad, yo escogería una GTX 660 OC de Gigabyte (165€) o un poquito inferior, HD 7870 OC (145€), el escollo seguiría siendo la cantidad memoria, sólo 2Gb darían al traste con buena parte de la capacidad del procesador y la nueva tarjeta. Es diferente si cada módulo de ram tiene 2Gb, (2x2), un total de 4Gb no limitarían tanto el sistema, si bien lo deseable por completo para afrontar los juegos es tener 6Gb.
En este caso, veo más conveniente comprar 2Gb de ram, (el módulo Corsair Value Select 2GB DDR2 800 se puede encontrar por 30€ nuevo, y de segunda mano quizá por 10/12€ con algo de suerte), mucho más que una nueva placa con ese formáto de procesador anticuado, para mi no tendría sentido una nueva placa 775 para Q9550, (tampoco lo tiene pagar cerca de 40€ por 2Gb DDR2, pero hay alternativas para conseguirla más barata)
Tu placa, dentro de la limitación que ahora significa DDR2, puede llegar a admitir una frecuencia máxima de 1066Mhz pero con limitaciones respecto a usar módulos de 800/667Mhz, copio de Noticias3D
ASUS no es muy explícita a la hora de dar información sobre el soporte de memorias en este caso concreo, si buscas en otras marcas con chipsets igual, veras que el soporte está limitado a ciertas condiciones, solamente se puede ocupar dos bancos en el caso de utilizar DDR2 1066 Mhz, si ocupas los 4 bancos con DDR2 800/667 deben ser de una cara, y en tu caso concreto al poner dos módulos de 2Gb debes ponerlos en canales diferentes, es decir, en DC. (la configuración en doble canal se señala con el color de las ranuras -negras y amarillas-)
Con sólo 2Gb es obligatorio aumentar a 4Gb, pero merece la pena insistir en que el equipo con las dos mejoras en tarjeta gráfica y aumento de velocidad del procesador, es una máquina con muchos meses de vida por denlante en juegos y por descontado tambien en multimedia.
Si al final intentas subir la velocidad del procesador, puedes consultarlo en
este subforo.
Edito: con la nueva tarjeta, es posible que sea necesario cambiar tambien la fuente de alimentación si la actual queda justa, necesitarías una de 500/550W de un buen fabricante como Corsair, Aerocool, o Cooler Master.
Saludos