Para tema de derivadas y tal el Mathematica es el mejor con diferencia.
Otra cosa es que el derive sea algo más fácil de utilizar (y menos potente...).
Matlab está orientado al cálculo matricial, y realmente no lo veo muy práctico para resolución de derivadas, integrales, etc.
De todas formas creo que por lo que preguntas no es un programa para resolver, si no uno para poner las fórmulas con formato "bonito" para ponerlo en tus apuntes de Word. Para esto tendrías que utilizar el "Microsoft Editor de Ecuaciones" del propio Word (Insertar->Objeto->Microsoft Editor de Ecuaciones").
Un saludo.