Hola, puedes pasar Aida 64 para ver el voltaje de los módulos actuales, es la principal incompatibilidad al mezclar módulos diferentes. El voltaje debería ser de 1,5 V en ambos tipos de memoria.
http://www.aida64.com/downloads Los módulos KHX1600 son PC3-12800, creo que la memoria PC3-1700 es compatible con módulos PC3-12800, tambien depende en gran medida de la placa base, en este caso la Asus M4A78LT-M soporta PC3-12800, pero hay una diferencia de velocidad y latencia entre módulos, creo que no es conveniente mezclarlos porque parte de las prestaciones de los módulos PC3-12800 se perderían (como has dicho, al mezclarlas el ordenador funciona a la frecuencia de memoria más baja y a la latencia más alta.
Supongo que lo ideal de cara a no reducir el rendimiento de la memoria sería descartar los actuales módulos PC3-1700 pero si tienes 4 o 6 Gb es una pérdida significativa, los componentes de segunda mano pueden ser una solución aunque no es muy fiable, a ver que más te pueden decir.
Un saludo