lo que me parecía... tiene mucha pinta de que las memorias necesitan más voltaje para ser estables, el pantallazo es por eso y al reinciar se reconfiguran a 800... vete probando a subir el mínimo posible el voltaje de la RAM desde el mínimo que indique hasta que sean estables (es decir, si están certificadas DDR2-1066 entre 2.2 y 2.4v, empieza con 2.2v y vas subiendo de 0.02v en 0.02v que es el mínimo que permite ASUS hasta que consigas que vayan a 1066)
por cierto, esos 8GB son 4x2GB o 2x4GB??? si son 4 módulos es posible que den problemas por eso, porque tienes llenos todos los bancos de memoria y necesiten en máximo voltaje para trabajar adecuadamente... si el voltaje no es el problema (o sea, que aunque le des 2.4v no van), prueba a relajar las latencias a 6-6-6-18... no había caído en que puede ser por saturación del controlador de memoria de intel...