Esa RAM que tienes en principio es compatible con la placa, que no esté a lo mejor en la QVL no quiere decir que no pueda funcionar bien con esa placa, lo más seguro es que tengas mal la placa o la RAM, si pudieras probar esa RAM en otra placa mejor.
Los i5-8400 pueden funcionar con RAM prácticamente de cualquier frecuencia (sin irnos a extremos claro, depende lo que el fabricante de la placa indique respecto a la RAM) con una placa con chipset Z370 como la que tienes, y más con una de una frecuencia que no es nada del otro mundo, otro asunto son otro tipo de procesadores, que son más "quisquillosos" con según qué módulos de RAM, o si fuera una placa cuyas especificaciones no soportaran RAM de más de 2400MHz, que de momento todavía no se comercializan, lo que hay ahora mismo en las tiendas son todas placas con chipset Z370 para los Coffee Lake.
Saludos.