Transmission crea un usuario en DSM 5 que aunque no lo veas listado entre tus usuarios, debe tener permiso de escritura y lectura en la carpeta donde estés bajando.
Lo más sencillo es en las propiedades de la carpeta dar permiso de lectura/escritura al grupo de "users" y con eso lo tendrás resuelto. Sí quieres toquetear por terminal puedes asignar los permisos al usuario transmission únicamente pero como te digo lo más simple es darle a todo el grupo "user" que es donde esta creado el usuario y a correr. Reinicia y a volar. Funciona perfecto.