ejem... AAx8??? eso es una salvajada para una GTX260 a esa resolución... con AAx4 te basta, e incluso sin AA te iría bien si el tamaño del punto del monitor es pequeño...
yo he estado jugando hasta hace poco con un equipo similar (E8500, P5Q Dlx, 2x2GB DDR2-1100, GTX260) y podía con todo hasta AAx4, con AAx8 se atragantaban la mayoría de juegos...
símplemente prueba los reglajes más altos que te permitan jugar fluido con cada juego particular y listo... alguno tragará con AAx8, pero la verdad si no tienes un SLI/CFX o una GTX295/HD4870X2, el filtro AAx8 para 1920x1080 yo me lo ahorraba... ¿tan mal se ve con AAx4?...