Pásale algún test de ram, pero casi que te diría que es de Windows, quizá una reinstalación EN LIMPIO te haga desaparecer los problemas. (hasta que se empuerque otra vez)
Problema de grafica lo dudo, por que los sintomas suelen ser otros. (colores raros en escritorio o rayas, problemas con el 3D en forma de rayas o poligonos deformes, etc...)
Placa base para ese CPU (socket 775) prácticamente vas a encontrar nuevas poquita cosa, y todas para RAM DDR3 (que tu tendrás DDR2 y no son compatibles), y cambiar placa base, ram y grafica como que no te sale rentable practicamente, de todas formas tu problema en el PC como he dicho debe ser otra cosa y cambiar por cambiar es chorrada, al menos sin saber si es problema de Hardware que no lo creo.