Mira si estás modificando sin darte cuenta la velocidad del PCIexpress (si es que tiene, debe estar fijo en 100mhz, algunas placas no arrancan si sube a 101mhz). Otra posibilidad es que la RAM aumente su velocidad al aumentar el FSB, deberías bajarlas para compensar la subida.
Tambien puede ser que simplemente la placa ya está en el limite absoluto de lo que da de sí (decías que no soportaba el E8400 salvo en esa bios Beta, además ¿ese CPU no tenía un Bus de 1333mhz y la placa es de 1066mhz?), ¿habían hecho OC a ese CPU en esa placa base?