a ver, si te estoy entendiendo bien, para alimentar la gráfica has usado los adaptadores de molex a PCIe en lugar de los cables PCIe de la fuente... evidentemente los que tienes que usar son los cables específicos de la fuente y usar los adaptadores sólo en fuentes que no dispongan de dos cables PCIe (vamos, que uses los que vienen marcados en la fuente y no tires de adaptador)...
lo de que el monitor no de señal, pues se me ocurre que a la BIOS/UEFI se le haya ido la pinza o que la RAM esté jodiendo... hazle un ClearCMOS a la placa (en el manual dirá cómo) y si ésta tiene algún display que te dé algún código, revisa el manual a ver qué es lo que puede pasar...
en cuanto al adaptador DVI-VGA, no creo que sea problema, pues los DVI de las gráficas son DVI-I (mixto DVI-D y VGA) que saca ambas señales y el adaptador lo que hace es filtrar la VGA... aunque tampoco estaría de más que si tienes acceso a un monitor DVI o HDMI, probaras en digital...
PD: si la tarjeta tiene doble BIOS, mira que la planquita esté en su sitio o bien prueba a intentar arrancar con ambas BIOS no sea que una esté corrupta...