hola, el problema que tienes es que las cajas de texto son cadenas de caracteres, tienes que parsealas:
a=parseFloat(document.calculadora.op1.value);
b=parseFloat(document.calculadora.op2.value);
Con esto ya funciona si metes números, también puedes utilizar antes la función isNaN para comprobar que puedes hacer la conversión