La memoria de video de la tarjeta de video es muy independiente de la memoria en la tarjeta madre, tu logica es como del siguiente ejemplo: Tenia un automovil de modelo 1995, y estoy por comprar un modelo del 2014 ¿tendre algun problema si uso sandalias si el pedal en el auto tiene forma de un pie descalzo?
Lo unico que debe preocuparte es que tu fuente de poder sea de marca conocida y no de marca generica, y que sea de 400W minimo-minimo. La otra cosa que debe preocuparte es que el bus PCIE de la tarjeta madre sea minimo version 1.1 para que se reconozca a la tarjeta de video [tu tarjeta madre es de bus PCI version 2.0]
Tambien puedes ver la radeon R7 260 y la Radeon R7 260X que serian el equivalente a las radeon HD77xx que puse antes.