Yo te recomiendo usar envy, con los ultimos drivers (instalacion manual), para los efectos 8.42. Al ser Ati, tras instalarlos, tendras que editar el xorg.conf para habilitar el composite, y editar tambien el whitelist de compiz, y añadirle fglrx.
Los driver de ati en linux no estan muy matizados, y dan muchos problemas, pero con esto no deberia darte niguno.
Visto la demanda de efectos en linux con ATI, are un tuto a ver si ha alguien le sirve de ayuda.
Saludos