Seguramente sea que te usas lilo o grub (que tendrás en el segundo disco) y el MBR intenta dirigirse allí y no lo encuentra). Hay muchas formas de restaurarlo, una de ellas, si usabas lilo, por ejemplo, sería volver a poner el disco de 4GB, arrancar linux y desde un terminal, escribir 'lilo -u'. Otra forma sería directamente desde la consola de recuperación del windows XP, como dice NeoRave, y otra más puede ser desde un disquette de arranque de Windows con el fdisk, escribir fdisk /mbr.
A parte de eso, si instalas linux de nuevo, es probable que te detecte la partición windows del otro disco, y automáticamente te genere un nuevo lilo (u otro gestor de arranque, según la distribución y tus gustos) y te solucione el problema.
