El usuario anterior ya lo ha explicado, pero creo que se puede simplificar más.
Tienes que usar un cable IDE, un cable que tiene un cabezal que va a la placa (puerto IDE, no confundir con Floppy, que es el cable de la disquetera) y en el otro extremo dos cabezales unidos entre sí que van respectivamente a dos unidades cada uno. Tienes que conectar el disco duro en uno de estos últimos cabezales, y luego enchufar el cable de alimentación de la fuente de alimentación al conector de alimentación del disco duro, que está en el otro extremo de la parte de las conexiones (normalmente la parte de atrás de un disco duro es Salida IDE | Jumpers | Entrada alimentación), y luego por último los Jumpers. Si tienes algo más conectado en el mismo cable IDE, debes posicionar el jumper en la posición contraria para no complicarte las cosas.