Te veo muy perdido y casi apunto de liarla.
Con un multímetro (polímetro, tester, cada cual lo llama como le parece) en comprobación de continuidad tienes que ver que pin es cada cable, apuntarlo y ponerlo con su correspondiente. Como bailes algún cable problemático donde no es podrías dañar los aparatos conectados.
Y de VGA a RCA, NO ES POSIBLE, para eso necesitas un conversor de video VGA a RCA, vamos que hace falta circuitería.
Anda con cuidado con los experimentos sin tener las cosas claras, que te puede costar como digo dañar los aparatos que conectes y salirte muy caro el destrozo. Imagina que te cargas la gráfica, o el monitor, o ambos...
Además prolongar un cable VGA, y de esa forma (la maya exterior, faltará en la unión), es muy probable que tengas muchas interferencias y se vera regularcillo o tirando a mal, ya de por sí no es aconsejable usar cables VGA muy largos ni hechos de fabrica, además que quizá ni pensaste en soldar los cables y poner termoretractil para tapar las uniones. (son como unos espárragos como de plástico, que al darle calor se estrujan)