Significa que admite RAM hasta 1333mhz de forma oficial, es decir, de serie, sin tocar ningún ajuste de la BIOS, y con cualquier procesador, pero que para las velocidades más altas (1600, 1800) se considera overclock y probablemente tengas que enredar algo con la frecuencia del bus, subir algún voltaje del HT o del controlador de memoria, de la propia RAM, o una combinación de los anteriores.
Personalmente diría que con lo viejo de la plataforma, tu problema es más la falta de potencia en el proce que la falta de RAM. Probablemente me plantearía justamente eso, esperar y cambiar todo.
Si quieres comprar memoria ahora tampoco hay problema. Puedes comprar un kit de 2133mhz sin miedo, suelen tener valores de SPD para un rango de velocidades más bajas, los pones a 1333mhz en BIOS y funcionan directamente, o si quieres puedes intentar subir un poco a esos 1600/1800.
Saludos