Con el codec CoreAVC debe ese CPU defenderse perfectamente con H264 720p (siempre que no sea H264 "Hi10p", Hi10p tampoco podrás por gráfica con DXVA, es muy reciente y no hay hardware con soporte por hardware y actualmente solo se puede reproducir por CPU)
El problema de tener AGP es que las graficas que te han dicho con DXVA de ATI por lo visto dan muchos problemas para hacer andar la aceleracion y al precio que están no creo que te haga gracia alguna que no te funcione para lo que quieres (ademas las ATI HD2xxx/3xxx tienen un soporte de H264 bastante limitado y no acelerará segun que peliculas incluso aunque tengas el DXVA funcionando bien)
Mi consejo es que si te es posible pillar una placa de segunda mano para tu CPU/ram con PCIe la pilles y compres la grafica Nvidia (>=8600, 9xxx, 210 o superior) o ATI mas barata con soporte DXVA en dicho conector, irías sobre seguro y el gasto lo mismo no es mucho mas. O una placa con un CPU dualcore y ram, que lo mismo hay algo económico de segunda mano (cualquier Core2duo o Athlon II tira de 1080p muy sobradamente) y sea mejor que tirar el dinero en una grafica AGP.
A ver si nos puedes decir que CPU exacto dice que tienes el CPU-Z.