Nunca se pueden mezclar memoria RAM, igual que en su dia no se podía usar DDR2 y DDR3 en placas base que admitiesen ambas, con las de DDR3 y DDR4 igual, vendrá debidamente indicado en el manual de la placa base, incluso en la propia ficha tecnica.
De todas formas yo no te recomendaría una placa base que soportase ambas, en algún momento echarás en falta los slots faltantes por tener slots para diferente ram, básicamente el máximo de ram posible a poner en la placa base será de la mitad que en otras al tener la mitad de slots disponibles.