Caulquier tarjeta que decodifique por harware te vale. En nvidia se llama purevideo, en ati no se.
Para que funcione las nvidia por eso tienes que adquirir el purevideo apra que funcione sino la repoduccio sera via soft, es decir utilizando la cpu y no la grfica.
Yo en tu caso me compraria la hd3850.
Si quieres una nvidia entra en la web de nvidia y busca purevideo y las tarjetas que lo soportan junto con las versiones del purevideo que hay, por ejemplo las 8800ultra es "peor" que las 8600gts ya que creo que las 8600gts tenian implementado en el hardware mas cosas para decodificar video en alta resolucion que las 8800.
Con la cpu que tienes por eso ya te funcionaria, yo con un a64 3500+ reproduzco sin problemas videos de 720p y la grafica que tengo es una geforce6150 que soporta purevideo. La diferencai de tener el purevideo activado era de un 10-20% menos de consumo de la cpu, pero en ambos casos se reproduce bien. 1080p no he probado porque el monitor es de 17' y no llega a tales resoluciones.