Hola!!
ahora mismo no recuerdo la sintaxis correcta, ya que de un año a otro se olvida xD, pero vamos, siempre puedes consultar la ayuda del matlab para comprobar como hay que escribir la orden de forma adecuada.
ahora al grano, existe una función llamada ones, que te devuelve un vector o matriz con todo unos, asi que lo que tienes que hacer luego es multiplicar esa matriz por tres y luego le aplicas diag y te cambiará la diagonal tambíen.
y sobre lo de las fracciones, no se porque te pasa eso, porque debería dejarte, comprueba en las opciones el formato en que se te están mostrando los datos...
Un saludo !